１９４０年５月１日，日军纠集１０万兵力，在１００多辆坦克和７０多架飞机的配合下，分三路进犯襄樊。他亲笔致书晓喻全军将士：“为国家民族死之决心，海不枯，石不烂，决无半点改变。”张自忠正在组织部队，准备迎敌的时候，五战区指挥部命令张部向钟祥敌后攻击。当他杀出重围，率部转移到宜城洪山时，日军也跟踪而至，并占领了西侧山头，集中炮火在飞机的配合下向张部袭击。张自忠只好率部退守南瓜店一个山头。他身负重伤，仍指挥部队向敌人反击，虽经浴血苦战，但终因力量对比悬殊张部伤亡殆尽。张自忠身中６弹，于５月１６日下午４时壮烈殉国。他是第二次世界大战中五十多个同盟国中殉职的最高将领，也是抗日战争期间为国捐躯的唯一的国民党上将级军官。
对于他的壮烈殉国，举国同悲。５月２８日，重庆国民政府将他的遗体国葬于重庆北碚梅花山。通电褒扬。生平事迹存备宣付国史馆。蒋介石手书：“荩忱忠勇义烈，牺牲成仁，光荣一死，炳辉千秋”，冯玉祥挽以“荩忱不死”。８月１５日，中共中央所在地延安各界人士，齐集中央大礼堂举行隆重追悼大会。毛泽东、周恩来、朱德分别题写“尽忠报国”，“为国捐躯”，“取义成仁”的挽词。《新华日报》也特发悼词。１９４３年５月１６日，周恩来撰文赞扬“张自忠之志，壮烈之气，直可以为我国抗战军人之魂”，“张上将之殉国，不仅为抗战树立了楷模，同时也是为发扬我们民族至大至刚的气节和精神”。为了纪念张自忠壮烈殉国，在北京、上海、天津、武汉，有“张自忠路”，“张自忠学校”等。１９８２年中华人民共和国民政部追认他为革命烈士。１９８９年临清市人民政府在大众公园内修建张自忠故里碑亭。原国防部长张爱萍题写了“张自忠将军故里”的碑铭，以表达人民对张自忠烈士的敬仰和怀念。