1947年2月26日，在南京军事将领会议上，蒋介石语重心长地对他的高级将领们说：
“我们将改变战略方针，由对共军的全面进攻改为重点进攻。国军占地众多，则兵力愈分，反而处处被匪军牵制，成为被动，而匪军却时时可以集中兵力，采取主动，在我正面积极活动，将我们各个击破。因此，我决定采取‘空心战术’，在大后方只留下3个正规军，而将大部分的主力部队调到前线，重兵进攻陕北和山东。”
说到这，蒋介石走向一张地图旁，用手狠狠地指向山东地区，“目前山东是匪我两军的主战场，匪军的主力集中在山东，同时山东地当冲要，交通便利，有海口运输。我们如能消灭山东战区的主力，则其他战场就容易肃清了。但我们如果能够不顾一切集中兵力，首先来对付这股共军，现在还来得及。如我们再像过去一样，不听统帅命令，各自为政，任其东奔西突，各个突破，则两三个月以后，你们大家都死无葬身之地。因为陈毅组织民众的技术、训练军队的能力和其作战的灵活，我们前方的高级将领可以说很少能够和他相比……”
蒋介石说这番话是发自内心的。经过1946年11月至1947年2月间的各战场的激战，国民党军被歼达41.49万余人。中共则放弃87座城市，同时又解放87座城市。加上1946年7月至11月间的作战，国民党军被歼达71万人。
如此惨重的代价使蒋介石被迫改变战略，由全面进攻改为重点进攻。重点进攻地区为山东和陕北两个解放区。
蒋介石的战略总方针为：占领各重要交通点，步步逼近，使之被迫决战，然后一并歼灭。其具体部署为：
第一步，先占领津浦线的大汶口和泰安，向鲁中临沂连成一根横线，使陈毅部队无法窜到津浦路以西的地区，如果他要窜过来，就和他作阵地战。
第二步，于胶济线以南，津浦线以东之地区，置三个方向力量围攻陈毅的华东解放军。
蒋介石命令国民党军积极准备对山东解放区实施重点进攻，撤销徐州、郑州绥靖公署，成立由陆军总司令顾祝同亲自主持的徐州司令部，统一指挥原徐州、郑州绥靖公署的部队，并将在冀鲁豫战场的王敬久部和在武汉的整编第9师调往山东。
这时国民党军在山东的机动兵团的兵力，加上担任守备任务的以王耀武为司令官的第2绥区、冯治安为司令官的第3绥区的兵力，总计达24个整编师（军）60个旅（师）45万人，占其进攻全国各解放区总兵力的27％，占其重点进攻兵力的67％。
国民党军在接受以前分路进攻常被分割歼灭的教训后，决定采取“密集靠拢、加强联系、稳扎稳打、逐步推进”的新作战方针，以加大兵力密度，集团前进，使解放军无法分割或各个击破。
其进攻部署是：顾祝同指挥下的24个整编师，除以7个整编师约20万人担任重要点线的守备和对突击兵团的策应以外，集中17个整编师约25.5万人，以“五大主力”中的整编第74师、整编第11师、第5军为骨干，组成3个机动兵团，由汤恩伯、王敬久、欧震分别担任1、2、3兵团司令官，执行机动突击任务，在打通津浦路徐济段和克州至临沂的公路、占领鲁西南以后，同时向沂蒙山区进犯。汤恩伯兵团由临沂向北，欧震兵团由泗水向东北，王敬久兵团由泰安向东，对华野主力形成弧形包围态势。
面对大军压境、强敌云集的严重形势，陈毅、粟裕沉着应战。
已经到南线的陈毅和张鼎丞、邓子恢一起致电粟、谭，并报告中共中央和毛泽东：提议华野在胶济路之休整，如已可以告一段落，则请考虑新行动。如敌5军等部4月初已到济南南线，集中力量修复津浦路，而济南之敌又拟重占胶济线，则我军可考虑向临沂、东海、新安之间突击。
次日，粟、谭与参谋长陈士榘回报：拟以第二、七、八纵队8.2万人攻入郯城、马头、新安镇，到新安镇后向西扩张占领运河线，继而渡运河西进，威胁津浦南段之势，诱敌74、83两师南援，尔后再看情况而定。以主力第一、三、四、六、九纵队集结于蒙阴东南、临沂西北地区待机歼灭南线之74、83两师，或歼灭由泗水向东南增援之11师，或歼灭大汶口向东进犯之第5军，以上部署于4月1日开始运动，14日左右才能打响。
陈毅完全同意粟裕的计划。他们原来计划打由陇海线北进的汤恩伯兵团的整编第74师，派3个纵队南下陇海路东段。
汤恩伯察觉华野意图，不仅不派兵回援，反而把两个军调到临沂，密集靠拢，使华野部队不能分割歼敌。陈、粟随即改变计划，绕到刚刚调到山东的王敬久兵团侧后，抓住他左翼薄弱环节，攻击占据泰安的整编第72师。
整编第72师，是具有几十年历史的川军主力，日美混合装备，有山地作战经验，但非蒋介石嫡系。其占据地形对它有利也有弊：泰安地形和工事利于固守，但北有泰山、南有徂徕山相隔，不利于它与济南王耀武部、曲阜邱清泉部的相互支援，而有利于华野实行分割围歼。
陈、粟抓住这个战机，迅速下定围泰（安）打援的决心，于4月20日发起泰蒙战役，以3个纵队围歼泰安之整编第72师，以4个纵队待机歼灭可能来援之敌。4月24日完成了对泰安城的四面包围。
粟裕特派陈锐霆率领特种兵纵队榴弹炮团开赴泰安前线参战，进行实战锻炼。刚刚组建不久的榴弹炮团大显神威，在围攻嵩里山制高点的战斗中，与第三纵队密切配合，很快就把嵩里山守敌一个营击溃全歼。整编第72师师长杨文泉被俘后说：
“你们有这么多大炮，完全出乎我们意料。你们炮兵火力组织得这么好，步炮协同得这样好，更是我们没有想到的。”
在战斗过程中，杨文泉几次乞求增援，邻近泰安的各路蒋军都见死不救，距泰安仅1日行程的整编第75师和整编第85师一直按兵不动。
经过3天激战，华野部队攻克泰安城，歼灭整编第72师师部和两个旅，生擒中将师长杨文泉，连同南线共歼敌2.4万余人，取得了沂蒙山区作战的第二个胜利。
陈、粟又以第一、三、六纵队沿津浦路两侧南下，出击宁阳，威胁敌补给基地兖州，以调动敌第5军等部西援，野战军主力则主动放弃新泰、蒙阴，转到临沂、蒙阴公路以东，待机歼敌。
28日，敌军先头进占蒙阴。陈、粟乘其第1兵团主力分散配置于临蒙公路、立足未稳之机，于29日以4个纵队突击桃墟、青驼寺段。但敌十分警觉，一经接触即退踞公路以南山区，仅歼敌第83师1个半团。以后又两次出现战机，或因主力转运不及，或因敌援迫近，均未成功。
整个泰蒙战役，以歼敌2.8万余人胜利告终。
从4月初到5月初的1个多月时间里，陈、粟指挥华野10个纵队，利用在解放区腹地作战的有利条件，同敌人在鲁南和沂蒙山区周旋，时南时北，忽东忽西，欲擒故纵，避实击虚，有利则打，不利则撤，而将主力始终集结于便于机动作战的位置，处于主动地位。陈毅把这种战法比喻为“耍龙灯”：我军挥舞彩球逗引，敌军像长龙一般回旋翻滚。用这种办法调动和迷惑敌人，创造有利战机。
为了进一步调动与分散敌人，陈、粟决定以第一、六纵队南下鲁南，第七纵队开赴苏北。5月3日，他们把这个设想报告给中央军委。
5月6日，中央军委电示：“目前形势，敌方要急，我方并不要急。鉴于青驼寺教训，尤不宜分兵，不但一六两纵不宜过早分出，即七纵亦似宜暂留滨海地区一个月左右，作为钳制之用，一个月后看情形再行南下。因此，五六两月你们除以七纵位于滨海外，其余全部似宜集中莱芜、沂水地区休整待机，待敌前进或发生别的变化，然后相机歼击。第一不要性急，第二不要分兵，只要主力在手，总有歼敌机会。”
根据中央军委的指示，陈、粟立即决定放弃以第七纵队南下苏北和第一纵队去鲁南的计划；命令已位于新泰以西的第六纵队就近南下至平邑以南地区，不再以牵制敌人为主要任务，不采取积极行动，而隐伏于鲁南敌后待命，必要时即可作为一支奇兵使用。主力则后退一步，集结于莱芜、新泰、蒙阴以东地区待机。
蒋介石、顾祝同得知华野主力东移，他们未经严重战斗就占领了临沂、新泰、莱芜一线，错误地判断华野“攻势疲惫”，已向淄川、博山、南麻、坦埠、沂水、莒县一线撤退。于是决定“跟踪进剿”，并且把“稳扎稳打”的战法改变为“稳扎猛打”，3个兵团同时向莒县、沂水、悦庄、淄博一线推进，企图围歼华野主力于沂蒙山区，或者把华野主力赶过黄河。
国民党的《中央日报》为此狂呼：“雄师北指，气吞沂蒙！”
这样一来，国民党军队密集靠拢的态势很快发生了变化。有利于华野的战机终于出现了。
5月10日夜，华野指挥部侦察得知，汤恩伯兵团的第7军和整编第48师先头部队已经进至河阳以北的苗家庄、界湖，有继续进犯沂水的迹象。这两支部队位于敌军右翼，比较暴露。陈、粟当即决定，首先歼灭该敌于沂水、苏村地区。他们一面下令参战部队向预定战场开进，一面报告中央军委。
11日，各部紧张地行动起来。傍晚，野司前梯队开始出发，向沂水方向行动。就在天黑的时候，技术侦察部门收到了汤恩伯给他所属各部发的一道命令，要他所辖各部于5月11日开始先行攻击坦埠。
其中以整74师、整25师为攻击部队，除以一部控制孟良崮、北桃圩要点外，主力11日攻占三角山、水塘崮、杨家寨、黄鹿寨、黄斗顶山、芦家山坡、凤凰山各高地，12日攻占坦埠而确保之；整65师仍巩固蒙阴防务。
粟裕在接获这份电报之后，结合各方情报判断，虽然敌军行动尚未完全明朗，但敌人新的全线进攻却是肯定的了。敌军此次进攻的目的，一是欲实行中间突破，一举击中华野在坦埠地区的指挥中心，然后聚而歼之；二是估计华野不敢迎战，那就可以将华野压至胶东一隅或赶过黄河。
粟裕认为，这是一个难得的有利战机，立即提出了新的作战方案：不打第7军和整编第48师，改打中路强敌整编第74师，迅速就近调集几个强有力的部队，以“猛虎掏心”的战法，以中央突破对付敌人的中央突破，从敌人战斗队形的中央楔入，切断对我威胁最大的中路先锋整编第74师与其友邻的联系，将整编第74师全部干净地消灭掉。
他拿定主意以后，便向陈毅讲述了自己的看法和根据。陈毅听得非常认真，并在个别关键之处，作了强调和补充。当他听完粟裕的意见后，便十分肯定地说：“好，我们就是要有从百万军中取上将首级的气概！”然后把帽子摘下往桌上一摔：“不走了！”立即下定了战役决心。
陈毅、粟裕作了战役部署，准备以5个纵队担任围攻任务，以4个纵队担任阻援任务。
具体部署为：以第一、第八纵队分别自整编第74师与其左右友邻的结合部楔入，攻占黄斗顶山、天马山、界牌和依汶庄、磊石山、万泉山，割裂整编第74师与其左右邻的联系，并会同由鲁南兼程北上的第六纵队抢占垛庄、芦山，断整编第74师退路，合围整编第74师；以第四、第九纵队从正面出击，5个纵队协同围歼整编第74师。
具体任务区分是：第一纵队（附独立师）以1个师攻占曹庄南北有利阵地，阻击国民党军整编第65师，主力从整编第74师及整编第25师的结合部楔入，割裂该两师联系，阻击整编第25师，并协同友邻第六纵队攻占垛庄，断整编第74师的退路，从其左侧后实施攻击；第八纵队主力迅速攻占磊石山、万泉山，与第一纵队沟通联系，协同友邻从右侧后攻击整编第74师；第四纵队以一部控制北楼以北山地，主力从北向南出击，攻占孟良崮，配合第九纵队和第二纵队攻占芦山和垛庄，攻击整编第74师；第九纵队以1个师控制坦埠及其西南地区，坚决抗击整编第74师之进攻，主力控制坦埠东南地区，协同第八纵队由东北向西南出击，攻占雕窝，配合第四纵队攻占芦山，歼灭整编第74师；隐伏在鲁南国民党军后方的第六纵队，取捷径北上，赶到青驼寺至垛庄之线，断整编第74师退路，配合正面部队攻歼整编第74师；以第七、第三、第十纵队分别阻击河阳、新泰、莱芜之国民党军第7军和整编第48师、整编第11师、第5军，以第二纵队保障第八纵队左翼安全，并策应第七纵队作战；特种兵纵队集结在坦埠以东方位待命；鲁南军区地方武装截断临沂至青驼寺公路，并以一部进扰临沂近郊，牵制临沂的国民党军。
在作战会议上，陈毅强调说：“集中优势兵力，先打分散孤立之敌，是毛主席一贯的军事思想。在敌人强大兵团展开进攻时，通常是打击敌人侧翼有利，但是当敌人连续遭到这种打击而防范严密、特别谨慎，同时中央之敌却比较疏忽大意、转进冒尖、而我军又在其附近隐蔽集结了相当兵力的情况下，采取一面抗住援敌，一面集中优势兵力猛攻中央之敌的战术，同样可以达到战役目的。这次围歼74师，就是这种打法，叫做百万军中取上将首级。”
5月12日，毛泽东为中央军委起草致陈毅、粟裕的电报，指示：“敌5军、11师、74师均已前进。你们须聚精会神选择比较好打之一路，不失时机发起歼击。究打何路最好，由你们当机决策，立付施行，我们不遥制。”
当天早晨，进犯坦埠的国民党军第1兵团向华东野战军部队猛烈攻击，张灵甫自恃整编第74师是王牌军，装备精良，为抢头功，率部当日占黄鹿寨、三角山、杨家寨等要地。整编第25师进至旧寨附近，整编第83师攻占野猪旺。
13日，国民党军分三路继续向坦埠以南华东野战军部队阵地猛攻，遭到华东野战军第四、第九纵队顽强抗击，黄昏时缩至黄斗顶山、杨家寨、马牧池之线。
孟良崮战役，按照预定计划，于5月13日黄昏发起。粟裕到前线指挥作战，把他的指挥所设在坦埠以西艾山脚下的石洞里。当地群众称这个石洞为“老君洞”，战后改名为“将军洞”。从这里向南，直到孟良崮，是一片开阔的山间平地，也是华野正面阻击蒋军的战场。站在艾山南麓，可以用望远镜直接观察战场情况。
华野各个纵队都出色地完成了自己的任务。从13日黄昏到14日上午，就大体形成对整编第74师的包围态势。
一纵于13日黄昏，利用敌军各求自保的心理，以小部队对敌25师发起攻击，使该敌误以为自己受攻击而无暇他顾。二纵独立师，则乘势利用山区地形实行迂回，从敌25师与74师结合部向纵深猛插，占据制高点。次日上午，该纵2师逼近蒙阴城，加紧构筑阵地，阻敌援军；1、2师攻占蛤蟆崮、天马山、界牌等要点，迫敌25师、74师分别向东、向西收缩。
八纵于13日黄昏发起攻击后，将侵占依汶庄及其以南地区敌83师一部驱退，歼其一个搜索营。14日上午，该纵22师沿万泉山东侧直插青驼寺、双侯镇，进占桃花山、磊石山、鼻子山等要地，分割敌74师与83师的联系。
敌74师师长张灵甫，对华野部队发起的攻势满不在乎，告诉部属不要大惊小怪，甚至说：“共军想一口吃掉74师，他们不但不敢做，恐怕连想也未必敢想！”命令部队照旧执行14日进攻坦埠计划。
14日22时，张灵甫得悉华野部队已攻占天马山、磊石山等要地，并正向垛庄、万泉山前进，才觉得事情不妙，判明华野部队真实意图，随即命令所属部队放弃北进，迅速向孟良崮（今山东蒙阴东南）、垛庄方向撤退，并拼命向华野一纵阵地反扑，企图打开返回垛庄的通道，沟通与25师的联系。
一路上，不断受到华东野战军的追击和袭扰，伤亡很大，当撤至孟良崮地区时，张灵甫看到此地地形复杂，易守难攻，便想让部队固守此地，以逸待劳。师参谋长魏振铖见此地恶劣地形，顿生疑心，提醒道：
“此地乃孤山，为兵之大忌，不易困守。”
师副参谋长李运良则建议道：“军座，此虽孤山，但地形险要，我们要置于死地而后生。”
一向刚愎自用的张灵甫固执己见，立即命令部队在四周层峦叠障的孟良崮安营固守。
孟良崮位于蒙阴东南的芦山山区顶峰，海拔500余米。沂蒙山区的山峰生得古怪，四周陡峭，形同圆柱，顶端平坦，可以种田，当地人称之为崮。崮崮相连，据说有72崮。张灵甫的整编第74师据守在芦山、孟良崮、大固顶几个山头和几条山谷里。
在这种形势下，华野部队夺取垛庄，断敌退路，封闭合围口就变得非常紧迫且更加重要了。
正在这个节骨眼儿，善于远程奔袭的华野六纵像一支神兵，突然从敌74师的背后杀出来。
六纵司令员王必成于5月12日16时收到陈、粟签署的电报，命令六纵昼夜兼程，北上参战，以48小时120公里的急行军，抢占沂蒙公路上的重镇垛庄，切断74师的唯一退路，参加围歼74师的战斗。
王必成接到命令，立即率领六纵指战员2万多人以每昼夜130公里的急行军，飞兵疾进，先头部队提前8小时到达垛庄以南，15日凌晨就在第一纵队协助下攻下垛庄，全歼守敌一个战斗辎重连。汤恩伯指令张灵甫派重兵死守垛庄，保护通路。可是，等到张灵甫派出的部队赶到，垛庄已经被华野部队提前攻占。张灵甫不得不收兵退缩孟良崮、芦山地区，企图负隅顽抗，等待援军到来。
在六纵攻占垛庄的同时，一纵夺回330、285高地；八纵攻占了孟良崮东南门户万泉山，歼敌一个团，与六纵打通联系，封闭内层合围口，构成阻击敌25、83师的强有力的对外正面防线。四、九纵已推进到唐家峪子、当阳地域。
此时，整编第74师已被华东野战军5个纵队团团包围于孟良崮及其以北的狭小地域内。
整编第74师被围困后，完全置于华东野战军的火力控制之下，退路和后勤补给被切断。
这时，正值初夏，天气较为炎热，国民党军官兵们饥渴难忍，士气低落。张灵甫急电蒋介石求援。
蒋介石等认为整编第74师战斗力强，又占据着易守难攻的有利制高点，附近还有很强的增援兵力，是同华东野战军决战的好机会，于是一面命令整编第74师师长张灵甫坚决固守阵地，以吸引华东野战军主力，一面急令新泰之整编第11师、蒙阴之整编第65师、桃虚之整编第25师、青驼寺之整编第83师、河阳之第7军和整编第48师火速向整编第74师靠拢，并急令莱芜之第5军南下，鲁南之整编第64师和整编第20师向垛庄、青驼寺前进，楼德之整编第9师向蒙阴增援，企图以11个整编师（军）内外夹击，歼灭华东野战军主力，解整编第74师之围。
接着，南京方面向孟良崮空投物资，但飞机从徐州、南京运来的馒头、米饭、弹药和水，大多数都落到了华东野战军的阵地。外围的增援部队在蒋介石的逼迫下，一再想给整编第74师解围，但受到了华东野战军强有力的阻击，寸步难行。
面对这种情况，张灵甫用电话机频频呼救，对李天霞大喊：“你们快快向我靠拢！”
一向清高孤傲的张灵甫一扫昔日的威风，频频向友邻乞援，但李天霞虽与张部近在咫尺，因素来有隙，只派一个突击连作了一下象征性的救援。
华东野战军鉴于国民党军已调动了庞大兵力向孟良崮增援，近者不足10公里，远者亦仅1～2日行程，战场形势十分严峻，即令各阻援部队准备打击强大的国民党援军，同时令各主攻部队对被围之整编第74师加速猛攻，不惜一切代价，一定要在各路国民党援军赶到前，彻底歼灭整编第74师。
在决战动员会上，面对疯狂的敌人，陈毅司令员气愤地说：“蒋介石以为有美帝国主义撑腰，有飞机、大炮，就打不败了，就能一辈子骑在人民头上，那是做梦！蒋介石不是以为我们对付74师没有办法吗？我们一定要消灭74师！我们一定要把他的几百万军队统统消灭掉，解放全中国！只要蒋介石愿意打下去，我们一定奉陪到底。”
陈毅通宵达旦地坐镇指挥部。他拿起电话要一纵：“叶飞吗？党中央、毛主席又来了指示，说不要贪多，首先歼灭74师。现在敌人的10个整编师围在我们四周。当前你们的主要任务是协同兄弟纵队把74师这个轴心敲掉。这样，敌人就没有指望了。我们也就免得两面作战了。如果拖延下去，情况的逆转是可以预料的。”
接着，他又给九纵打电话：“许司令吗？现在各路援敌节节逼近，打援阻援的部队打得很艰苦，很顽强。聚歼74师，成败在此一举，我们能争得的时间已经不多了，你们要尽快把孟良崮拿下来！”
各位纵队司令都有斩钉截铁的回答，然后立即把这种意志用电话向师长们下达。
5月15日，华野发起对整编第74师的总攻。华东野战军从四面八方多路向整编第74师突击，整编74师则竭力顽抗。双方对大碾、雕窝、孟良崮东北高地等重要阵地进行了反复争夺。
敌人的火力有组织地反击，急雨般的榴弹飞落在我突击队中，重迫击炮、山炮打向半山腰，机枪子弹打在山石上，火花迸射。
天不亮，两架敌机在山顶盘旋着，敌人企图出击反扑，将解放军打下山去。
冲锋仍在继续进行，七次冲锋，都给压了下来。但最终，部队还是冲上各高地，将守敌彻底歼灭。
战至16日，华东野战军攻占大碾、碉窝、520高地和540高地，将整编第74师压缩至孟良崮、芦山、600高地一线狭小地区内。
整编第74师阵地均为岩石山地，无法构筑工事，人员、武器都暴露在华东野战军的密集火网之下，空投的粮弹也多落于阵地以外，伤兵无法后送，呻吟不绝，军心动摇。
16日上午，蒋介石曾向各路增援部队亲下手令，称：“山东共匪主力今向我军倾巢出犯，此为我军歼灭共匪完成革命唯一之良机。凡我全体将士应竭尽全力，把握此一战机，万众一心，共同一致，密切联系，协力迈进，齐向当面之匪猛攻，务期歼灭共匪，以告慰总理及阵亡将士在天之灵。如有萎靡犹豫，逡巡不前或赴援不力，中途停顿，以致友军危亡，致匪军漏网逃脱者，定必以畏匪避战，纵匪害国贻误战局，严究论罪不贷。希望奋勉勿误。”
同日下午，汤恩伯也电令第1兵团各部，救援整编第74师，说：“我张灵甫连日固守孟良崮，孤军苦战，处境艰危。我奉命应援各部队，务须以果敢之行动，不顾一切，星夜进击，破匪军之包围，救袍泽于危困，以发扬我革命军亲爱精诚之武德与光荣。其有徘徊不前，见危不救者，绝非我同胞所忍，亦为恩伯所不忍言也。”
在蒋、汤的严厉督促下，国民党军各路增援部队加速向孟良崮地区前进。与整编第74师毗邻的国民党军10个师（军）尽管近得相距不过几公里，但都被华东野战军的阻援部队牢牢地钳制住。
当日下午2时，整编第74师师、旅、团、营全部失去通信联络，已全线崩溃，坐以待毙。
华野六纵副司令皮定钧向特务团团长何凤山下达命令：
“你的第一步任务是打下孟良崮底下那个山头，有个立足点；第二步任务是从那里往上打，这会很困难；最后的任务是打到孟良崮山顶，直捣74师指挥所，活捉张灵甫。”
何凤山的六纵特务团多是技术兵种，只有1个警卫营、3个连。何凤山带领部队向孟良崮山山脚下的小山头出发，不一会就占领了小山头。
凭借着火力支援，警卫营从小山头向孟良崮进攻。由于孟良崮山光秃且陡峻，敌人的火力很强，部队运动缓慢，为了减少伤亡，何凤山采取前轻后重的战术，迫使敌人火力点暴露，然后再想办法消灭这些火力点。
特务团就这样一面消灭敌人的火力点，一面向山顶艰难地前进，部队好不容易接近了山顶。
突然，从山上冲下一支队伍，与特务团混在一起了。原来是74师参谋长魏振铖带领师部人员企图突围，这股敌人很快被特务团俘获了。魏振铖告诉何凤山，张灵甫在顶上山洞里。
孟良崮顶呈蘑菇状，很难攻进去，何凤山组织战士搭人梯，迈向山洞。
在山洞里，张灵甫正嘶哑着嗓子向南京呼叫：
“南京，蒋先生！”
“你是谁？”蒋介石回答。
“我是张灵甫。黄百韬不援救我，李天霞不援救我，现在已到了困难的顶点，不必派飞机来救援，弹药都落到共军手中，我已到了‘尽忠报国’的时候，并已写好了遗嘱……”
就在这时候，74师副师长蔡仁杰、538旅旅长卢醒各自拿出老婆孩子的照片，相对而哭，不肯将枪口对准自己的脑袋抠动扳机。74师副参谋长严运良向洞口跑去，在洞口向腮帮子擦着皮打了一枪，弄得满脸血污，横在洞口装死。经过这样一闹，大家都不想死。而且集体成仁的机会已经失去了，洞外的手榴弹、子弹已经打进山洞。
“你们不要打了，我们的师长都被你们打死了！”洞里人大声喊道。
枪声停了，但继之而来的是更大的声音，此时狂风大作，雷声怒吼，飞沙走石，向孟良崮东南方向吹去，接着大雨从天而降。真是天意，假如暴风雨提前几天降临，74师不致断水。
3连连长第一个冲进了山洞。
“这是我们师长。”发报机电讯员指着一具尸体说。
那具尸体趴在地上，一名战士翻转过尸体，取下胸符，上写中将张灵甫。
蒋介石做梦也没有想到他的“御林军”会这样快被彻底全部地消灭掉，正如战斗结束后，战士们唱的一首打油诗：
如今战场孟良崮，
七十四师埋枯骨，
两万兵马被包围，
飞机送饭运水吃，
翻云覆雨成乌有，
跛脚师长张灵甫，
唯有老蒋闷声哭。
孟良崮战役，华东野战军彻底粉碎了国民党军统帅部“鲁中会战”计划，沉重地打击了国民党军对山东解放区的重点进攻，极大地震动了其内部。
蒋介石哀叹：“若然不惜牺牲一己，以策全局之安危，牺牲本军，以赴友军之急难，而确能死而不屈，舍身取义，为我陆军整编第74师全体官兵，在最近鲁南一役之壮烈殉职者，为国军剿匪以来，最悲壮光辉之史诗。”同时，蒋介石认为：整编第74师被歼灭，“这是我军剿匪以来最可痛心、最可惋惜的一件事”。
第1兵团司令汤恩伯被撤职，整编第25师师长黄百韬、整编第83师师长李天霞等也受到处分。
当时国民党政府国防部第3厅厅长郭汝瑰认为，整编第74师失败的原因是各部队不协同及战斗力差。1947年5月17日，他在日记中写道：“得知74师在孟良崮情况不明，余以纯军事立场觉得此次失败十分怪异。盖74师左右翼友军均相距五六公里之遥，何以竟三日之久不能增援？”“各部队如此不协调，战斗力如此之差，除失败而外，当无二路。有主义的部队必战胜无主义的部队。”
不久，国民党在南京玄武湖树起了一块纪念74师的石碑。
蒋介石特为张灵甫颁发第3号旌忠状，并明令以山东蒙阴县更名为灵甫县，以驱逐舰一艘命名“灵甫”号。1949年蒋介石逃到台湾后，于“军人魂”祠堂列张灵甫为“烈士”第一人。
孟良崮战役的胜利，对国民党反动派是最沉重的一击，对解放区军民是极大的鼓舞，迅速改变了山东战局，并且推动全国战局向有利于人民的方向发展。
5月22日，延安新华社发表时评说：“华东人民解放军和华东解放区的人民，在全中国人民的爱国自卫战争中，担负的任务最严重，得到的成就也是最荣耀的。”“这次蒙阴胜利在华东人民解放军的历史上更有特殊意义，因为：第一，这是打击了蒋介石今天最强大的和几乎唯一的进攻方向；第二，这是打击了蒋介石的最精锐部队；第三，这个打击出现于全解放区全面反击的前夜。”“蒋介石以近100个旅使用于华东战场，欲以此决定两军胜负。这个主观幻想业已接近于最后破灭。”
战后，陈毅司令员深情地吟诗一首，记载了这一战役的伟大胜利和全军指战员的欢乐。诗曰：
孟良崮上鬼神号，七十四师无地逃。
信号飞飞星乱眼，照明处处火如潮。
刀丛扑去争山顶，血雨飘来湿战袍。
喜见贼师精锐尽，我军个个是英豪。
我军个个是英豪，反动王牌哪得逃。
暴戾蒋朝嗟命蹇，凄凉美帝怨心劳。
华东战局看神变，陕北军机运妙韬。
更喜雨来催麦熟，成功日近乐陶陶。
5月30日，陈、粟、谭报告中央军委并刘、邓：
“（一）据最后调查证实，74师师长张灵甫、副师长蔡仁杰、58旅旅长卢醒，确于16日下午2时解决战斗时，被我六纵特务团副团长何凤山当场所击毙。当特务团何副团长走近张灵甫等藏身之石洞，据师部副官出面介绍为张灵甫等人。现尚在俘官处可证。
“（二）另查出51旅旅长陈传钧、副旅长皮宣猷、57旅旅长陈嘘云、参谋长魏振铖、副参谋长李运良、58旅副旅长贺翊章、师新闻处副处长赵建功均被俘，现在野战俘官处生活。”
6月9日，孟良崮战役中放下武器的敌第74师将校举行时事座谈会，陈毅和到会者会见，一一握手并致慰问。当将校们谈到74师失败的原因时，陈毅说：
“历来国民党军失败均归咎国防部，归咎陈诚，我在此替陈诚分辩几句。其实陈诚本人也很难作主，一切都有蒋介石老头子紧紧控制着。”
谈到蒋军失败的原因，陈毅说：“蒋介石自北伐中期叛变人民，走上法西斯独裁专政的道路。蒋介石的这一条反人民的错误的政治路线，必然产生错误的战略路线。在蒋介石独裁媚外的政策与战略的双重错误下，国民党军队之遭受失败是必然的。例如贵军在抗战中的战功表现很好，战斗力亦堪为国民党军队之冠。可是一到内战战场，仍然逃不脱被歼的命运。各位应深深研究其中的原因。”
陈毅又说：“对于各位此来，我应负责照料大家、爱护大家。贵师长张灵甫、副师长蔡仁杰之牺牲，毫无意义，应该惋惜。各位留在解放区内好好研究问题，重新认识问题，各位应视为平生最大幸事。我们能帮助你们的地方，一定尽量帮助你们，绝不为难。”