1948年12月，吴儒林参加东北野战军，在第42军126师377团3营4班当机枪手，先后参加过平津战役、豫西地区剿匪战斗等。1950年10月，吴儒林随部队奉命首批入朝参战，他先后参加了第一至第三次战役。
以美军为首的“联合国军”和南朝鲜军，在中国人民志愿军和朝鲜人民军的三次打击下，丢掉了汉城，败退至“三七线”南北地区。1951年初，志愿军全线转入防御作战，部队逐步转移到“ 三八线”以北地区进行防守。敌人企图利用志愿军休整之机，集中主要兵力反扑，志愿军决定在汉江南岸坚守防御。
1951年2月，上级命令126师377团在汉江南岸龙头里阻击敌人，团首长命令吴儒林所在的8连进入龙头里前沿226.6高地，负责阻击由右翼向龙头里侧攻之敌。20日拂晓，美骑兵1师向龙头里发起进攻，其中，敌人以1个连的兵力在8辆坦克的掩护下，向8连阵地发起猛烈进攻，连续3次都被8连官兵打退，吴儒林和弹药手老方用轻机枪猛烈射击，全连毙敌40余名。
2月21日，敌人增加到1个营的兵力向226.6高地发起进攻，8连官兵愈战愈勇，多次将敌人击退。吴儒林所在的轻机枪班发挥着巨大的威力，他抱着轻机枪，始终保持最佳射击角度，把敌人放到有效射程内增加杀伤力。15时，敌人1发炮弹在他们身边爆炸，弹药手老方当场牺牲，吴儒林两眼迸发出仇恨的怒火，对准向阵地上蠕动的敌人猛烈扫射，打死打伤一片敌人，敌人被迫退至山下。
24日，敌人的兵力增加到2个营，进攻更加疯狂。8连坚守的阵地被打塌，战友们全部牺牲，吴儒林左腿被打断，右腿和胸部受重伤。他依托残存的掩体始终紧握机枪，直到弹药全部打光。忽然，一颗炮弹飞来，机枪被炸坏。吴儒林看到不远处敌人正在向阵地上运动，便咬紧牙关忍着剧烈疼痛，滚爬到战友的遗体旁，把手榴弹收集起来，等敌人距离他20米时，他竭尽全力把手榴弹一颗一颗全部扔向敌人。这时，敌人见阵地上没什么动静，便大胆地冲了上来。怎么办？面对围上来的敌人，吴儒林脑海里闪出一个念头，“绝不能当俘虏！”他从地上捡起机枪枪膛跳出来的一颗子弹，拿起石头将子弹使劲砸入自己的头顶，顿时鲜血沿着他鼻梁流淌下来，他昏了过去。
这时，兄弟连增援过来，将阵地的敌人击退。吴儒林稍有清醒，爬起来就向旁边的战友要枪，卫生员赶忙给他包扎，战友们将他抬到龙头里救护站。在半昏迷状态中，吴儒林仍然喊着：“给我机枪，我的任务没有完成，我要上去把敌人全部消灭。”卫生员见他的棉裤已被鲜血浸透，急忙剪开裤腿，原来他的双腿膝盖已经粉碎，当卫生员用手分开他带血的头发时，发现一颗子弹钉在颅内，在场的教导员和战友们看后，都忍不住掉下眼泪。吴儒林在向后方转运途中，终因失血过多英勇牺牲。
为表彰吴儒林同志的英雄事迹，1952年11月，中国人民志愿军给吴儒林烈士追记特等功。
