莱芜战役之后，国民党军积极准备对山东解放区实施重点进攻。
1947年3月初，国民党军撤销徐州、郑州绥靖公署，组成由陆军总司令顾祝同亲自主持的徐州司令部，统一指挥原徐州、郑州绥署的部队，并将在冀鲁豫战场的整编第26军王敬久部和在武汉的整编第9师调往山东。以“五大主力”中的“三大主力”，即整编第74师、第5军、整编第11师为骨干，分别编成3个机动兵团：以汤恩伯为司令官的第1兵团、王敬久为司令官的第2兵团、欧震为司令官的第3兵团，执行机动作战任务。
这时，国民党军在山东的机动兵团的兵力，加上担任守备任务的以王耀武为司令官的第2绥区、冯治安为司令官的第3绥区的兵力，总计已达24个整编师（军）60个旅（师）45万人，占其进攻全国各解放区总兵力的27%，占其重点进攻兵力的64%。国民党军在接受以前分路进攻常被分割歼灭的教训后，决定采取“密集靠拢、加强联系、稳扎稳打、逐步推进”的新作战方针，以加大兵力密度，集团滚进，企图使解放军无法分割和各个击破。
国民党军进攻山东解放区的战略步骤是：
第一步，以一部兵力打通津浦路徐州至济南段和兖州至临沂公路，完全占领鲁南解放区。
第二步，将主力推进到泰安、莱芜、新泰、蒙阴、沂水之线，迫使华东野战军在鲁中山区与其决战，或压迫华东野战军北渡黄河，以占领整个山东解放区。
其具体部署：以第2兵团司令官王敬久指挥第5军及整编第72、第75、第85师集结在汶上、宁阳地区，在第2绥区部队策应下，首先打通津浦路济南、兖州段，而后向莱芜、新泰方向进攻；以第3兵团司令官欧震指挥第7军及整编第11、第20、第48、第64、第84师集结在兖州、滕县地区，在第1兵团、第3绥区协同下，首先打通临沂至兖州公路，占领鲁南解放区，然后向新泰、蒙阴进攻；以第1兵团司令官汤恩伯指挥整编第25、第28、第57、第65、第74、第83师集结在东海、新安镇、郯城、李家庄、临沂、阿湖地区，先以一部配合第3兵团打通临沂至兖州公路，而后以主力向蒙阴进攻；以第2绥区司令官王耀武指挥第8、第12、第54、第96军及被歼后重建之第73军，除配合以上行动外，分别集结在徐州外围及青岛、潍县、济南各要点担任防御。