1940年4月,日寇抽调10多万兵力,向襄阳、南阳一带猛攻,张将军部遇敌主力于方家集。5月16日日寇陷张将军部于重围,张将军率部浴血奋战,中午张将军左臂中弹,仍继续指挥战斗,下午4时,张将军腰、腹部又中机枪弹数发。临终前,张将军告诉左右说:“吾力战死,自审对国家、对民族、对个人都可告无愧”。张将军在寝樊宜城南瓜店壮烈殉国,时年49岁。
张自忠殉国当日,由38师师长黄维刚带领敢死队,端着轻机枪于16日夜间突袭南瓜店,奋勇抢回了张自忠的遗骸。黄师长光着膀子,穿着裤衩,带着弟兄们光着脚丫顶着鬼子的炮弹朝前冲,几进几出终于抢回了张军长的遗体。