太阳落山了，马宝玉说：按照上级命令，我们已经完成完成了狙击任务，可以撤出战斗了。可是三面悬崖，一面是敌人重兵，如何撤出去呢？在这生死关头，他们想到的不是个人安危，而是如何更多地消灭敌人。由于五壮士对于地形相对比较熟悉，牵着敌人的鼻子在山间转着打，又消灭了很多敌人，直到子弹打光了，此时马宝玉的头部也受了伤，只有胡福才一个人还剩下一颗手榴弹，于是他们就用大石头和敌人战斗，日军一批又一批往前拥，并高喊大叫：“捉活的！”马宝玉等5位战士抱在一起，本来要用这一颗手榴弹英勇自尽的，但听到敌人的喊话似乎受到莫大的侮辱，于是他们怒不可遏的把仅剩的一颗手榴弹甩向了敌群，又炸死了数名日军，然后他们把枪砸毁。
崖下传来敌人的嚎叫，5位忠诚的战士手挽着手，肩并着肩，面对凶狠的日军和深不见底的峡谷，从容自若毫无畏惧。
日军爬上来了，马宝玉正了正军帽，整了整臂上的八路军臂章，然后像每次发起冲锋那样大喊一声：“同志们，跟着我！”第一个纵身跳下万丈悬崖，胡德林、胡福才、葛振林、宋学义也相继跳了下去，并高呼；“打倒日本帝国主义！”中国共产党万岁！”山谷间回荡着他们气吞山河的响亮回声。
葛振林、宋学义受到崖畔的树叉卦托，负了重伤。马宝玉、胡德林、胡福才3位同志壮烈牺牲。马宝玉牺牲时年仅21岁。
五壮士的英勇气概，惊天地泣鬼神，他们的英名如巍巍狼牙山千秋永存。为表彰他们，八路军晋察冀军区授予他们“模范荣誉战士”光荣称号，并决定五壮士所在连队每逢重大节日点名时首先呼点5位勇士的名字。
1958年，狼牙山地区的人民在棋盘陀上修建了“狼牙山五勇士纪念塔。”聂荣臻元帅亲笔题词：“视死如归本革命军人应有精神，宁死不屈乃燕赵英雄光荣传统。”