1931年“九·一八”事變后,任中共哈爾濱市道外區(qū)委書記、市委書記、兼滿洲省委軍委代理書記。1932年秋被派往南滿,組建中國工農(nóng)紅軍第32軍南滿游擊隊(duì),任政治委員,創(chuàng)建了以磐石紅石砬子為中心的游擊根據(jù)地。1933年9月任東北人民革命軍第1軍第1獨(dú)立師師長兼政治委員。1934年4月聯(lián)合17支抗日武裝成立抗日聯(lián)合軍總指揮部,任總指揮。同年11月任東北人民革命軍第1軍軍長兼政治委員。1936年6月任東北抗日聯(lián)軍第1軍軍長兼政治委員。7月任東北抗日聯(lián)軍第1路軍總司令兼政治委員。率部長期轉(zhuǎn)戰(zhàn)東南滿大地,打得敵人心驚膽戰(zhàn),威震東北,配合了全國的抗日戰(zhàn)爭。日偽軍連遭打擊后,加緊對東北抗日聯(lián)軍的軍事討伐、經(jīng)濟(jì)封鎖和政治誘降,同時(shí)對楊靖宇懸賞緝捕。在極端艱難的條件下,他以“頭顱不惜拋掉,鮮血可以噴灑,而忠貞不二的意志是不會動搖”的崇高氣節(jié),繼續(xù)堅(jiān)持戰(zhàn)斗。中共六屆六中全會曾致電以楊靖宇為代表的東北抗日武裝表示慰問,贊之為“冰天雪地里與敵周旋7年多的不怕困苦艱難奮斗之模范”。
1939年在東南滿地區(qū)秋冬季反“討伐”作戰(zhàn)中,他與魏拯民等指揮部隊(duì)化整為零、分散游擊。自己率警衛(wèi)旅轉(zhuǎn)戰(zhàn)于濛江一帶,最后只身與敵周旋5晝夜。楊靖宇不愧是真正的鋼鐵戰(zhàn)士,是用特殊材料鑄成的共產(chǎn)黨員?柿耍ヒ话蜒┏,餓了,吞一口樹皮或棉絮。他以難以想象的毅力,堅(jiān)持和敵人進(jìn)行頑強(qiáng)斗爭,直至彈盡,于1940年2月23日在吉林濛江三道崴子壯烈犧牲。當(dāng)殘忍的日軍將其割頭剖腹,發(fā)現(xiàn)他的胃里盡是枯草、樹皮和棉絮,竟無一粒糧食。為紀(jì)念他,1946年東北民主聯(lián)軍通化支隊(duì)改名為楊靖宇支隊(duì),濛江縣改名為靖宇縣。
駐馬店現(xiàn)建有楊靖宇將軍紀(jì)念館。