1951年3月，张广生随部队入朝参战。5月，第45师在参加完第五次战役后，组织连以上干部在开城附近进行集训，总结与美军作战的经验教训。一天，师长崔建功给干部上课时，向大家提问：“人家天天讲作战现代化，可是怎么样现代化呢？现在的情况是，敌人的技术装备大大优于志愿军，这个仗怎么打？”时任5连连长的张广生胸有成竹地回答：“富有富的打法，穷有穷的打法。我们要敢于以劣胜优，以我之长，击敌之短，出奇制胜。”崔师长点头赞许，认为张广生回答得很好。不久，组织上将他调到师作战科当参谋。
1952年4月，15军奉命在朝鲜中部平康、金城、淮阳地区执行防御任务。10月，在上甘岭战役即将打响的关键时刻，张广生调任135团2营当参谋长。在上甘岭战役坚守坑道作战期间，张广生连续多天在夜间派战斗小组去摸敌情、炸地堡，自己无一伤亡。他向师作战科长反映情况说：“通过几天的观察，在表面阵地上，敌人的空隙比较多，敌人一天一换班，地形不熟，敌人整夜打炮、放照明弹，实际是盲目射击、心虚胆怯。”他建议，普遍开展小分队夜摸活动，炸敌人地堡，把斗争焦点从志愿军坑道口推到敌人头上，在被动中争取主动。师首长采纳了他的建议，在597.9高地和537.7高地北山诸坑道部队中，全师普遍展开了小兵群夜间出击活动，收到很好效果。
10月19日，2营奉命反击597.9高地之敌。张广生向上级立下军令状：“腿可断、头可破，誓死夺回阵地！”张广生带领4连和6连进入597.9高地主峰不远的4号和0号阵地坑道内。张广生来到6连指挥战斗，他交代任务说：“6连从597.9高地的西北山脚打上去，由北向南，依次夺取6号、5号、4号阵地，最后拿下通往主峰的0号阵地，与攻击1号、3号阵地的134团‘钢8连’在主峰会合，4连作为第二梯队跟进。”23时许，志愿军的重炮向敌人开火不久，6连随即发起攻击，一鼓作气，连续攻克6号、5号、4号阵地。当他们攻击0号阵地时，受到敌人地堡四五挺机枪的火力封锁。6连攻击受阻，几次派人爆破都未能奏效。张广生急忙跑到6号阵地，对6连连长说：“0号阵地是通向主峰的最后一个台阶，如果天亮前拿不下来，就会影响全局，要继续组织爆破！”
6连对0号阵地攻击4次，都挫败了。眼看着天就快亮了，张广生和连队干部决定，组织3名战士再一次去爆破，这3名战士也伤亡了。在这关键时刻，2营营部通信员黄继光挺身而出，要求执行爆破任务。张广生鼓励黄继光：“你每次完成任务都很好，现在把这个艰巨任务交给你，你代理6班班长，带领6连通信员肖登良、吴三羊去炸掉它。”黄继光用自己的身躯堵住了敌人的枪眼，突击部队趁势而上，很快夺取0号阵地，占领了主峰597.9高地。
10月24日至31日，战斗异常激烈，敌我双方反复争夺597.9高地。24日，敌人一个营向志愿军阵地反扑，张广生抓住战机，用步话机指引志愿军炮火打击敌人，最后敌人以伤亡400余人的代价，占领了597.9高地表面阵地。30日，志愿军组织反击，张广生亲临突击队动员，详细交代战术动作，号召大家说：“谁是第一名，谁就是英雄！”战斗开始，突击队前面猛冲猛打，他随后续部队紧紧跟上，先后3次调整部署，组织部队顽强战斗，战至31日凌晨，全部夺取597.9高地阵地。
31日4时许，敌军乘志愿军立足未稳，进行猛烈反扑。张广生带领7连担负坚守主峰任务，他和7连长张计法利用山峰石坎观察敌情，灵活指挥部队战斗，连续打退敌人13次冲击，但敌人仍在不断的投入兵力。7连经过十几个小时的战斗，人员伤亡很大。张广生和7连长在掩体里商定“多用火器少用兵”办法，还用步话机与82迫击炮阵地保持密切联系，敌人从哪里来，就指引火炮朝哪里打。15时，张广生指挥部队又击退敌人第14次反扑，而后从1号坑道出来准备回3号阵地指引炮兵射击，然而不幸的是，他刚走出坑道就被敌人炮弹击中，永远倒在了离黄继光献身的地堡不远的阵地上。
为表彰张广生同志的英雄事迹，1953年4月20日，中国人民志愿军给张广生烈士追记特等功。
