就在刘邓野战军为执行毛泽东的渡黄河的指示，进行准备工作的时候，刘邓首长还在指挥室考虑从哪里突破黄河的问题。
从哪里突破黄河，是刘邓集中考虑的问题。李达参谋长回忆：“这时，我们司令部已经有了‘空中优势’，即情报处已经有了美军观察组从太行撤走时留下的通信设备，并培养了一批技术娴熟的报务员。敌军师以上部队来往的电讯，情报处几乎都能截获。他们甚至连敌军电台报务员的指法都很熟悉，只要一收听讯号，即能判断出是哪支部队的几号报务员拍发的。”（李达：《揭开战略进攻的序幕》）
通过截获敌军电报，我方把黄河南岸敌军部署摸得清清楚楚。晋冀鲁豫野战军司令部6月18日发布的《情字第1号通报》说：“黄河归故后，蒋军第4绥靖区刘汝明即抽调55师之74旅、181旅及68师之81旅、119旅共4旅之众，担任河防守备。自开封至东阿长达约500华里之防线，守备薄弱，有些地区只得进行游击防御。”刘汝明部是旧西北军，不是蒋介石嫡系。这些部队编制不完整，战斗力不强，让他们守黄河也是无精打采，在黄河南岸隔一里地修一个小地堡，还要让老百姓替他们站岗放哨。刘汝明本人住在郑州，根本不到前线去。就是蒋介石也没想到我军会出击，他仍把主力摆在鲁南，要与华野决战。当刘邓主力由安阳向鲁西南运动时，他却命令王仲廉由新乡向安阳反击，与我军走了个南辕北辙。
掌握了敌情，刘邓于6月20、26日连续发布强渡黄河，实施鲁西南战役的命令。决心以第1、2、3、6纵队从张秋镇（今河南台前县）至临濮集（今属山东鄄城）150公里地段上强渡黄河。首先消灭刘汝明集团的两个师，再求歼敌于运动中。
具体部署是：以冀鲁豫军区独立1旅先行秘密渡河，在戴庙至孙口段黄河南岸接应1纵渡河。1纵由魏山、张堂、林楼渡口渡河，会同独1旅歼灭郓城之敌。原在河南的独立2旅在旧城集至临濮集段接应6纵渡河，6纵由濮县东南的李家桥、于庄、大张村渡口渡河，会同独2旅歼灭鄄城之敌。2纵由孙口、林楼渡河，协助1纵作战。3纵为总预备队，视情况渡河扩大战果。
6月23日，刘邓率4个主力纵队由安阳地区向鲁西南秘密出动。为了保证渡河的秘密性和突然性，刘邓命令太行、冀南部队在豫北发起佯攻，以豫皖苏军区部队向开封以南出击，转移国民党军的视线。部队昼伏夜行，国民党军的飞机天天在黄河上方巡弋，却没有发现我军行动的踪迹。30日，刘邓指挥部到达寿张镇（今属山东阳谷），各部队也到达预定渡河地点。