5月24日，我第3、第8纵队按计划向淮阳方向前进。邱清泉看到我军深入其腹地，顿时喜出望外，主力立即南下堵击，妄想会同许昌南面驻马店地区的胡琏兵团等南北夹击我第3、第8纵队。就在此时，我黄河以北各纵队乘邱清泉兵团主力南下之际，迅速于5月30日、31日渡过了黄河。敌人上当了。
我华野第1兵团渡过黄河后，蒋介石大为震惊，急令邱清泉兵团主力和整编第75师北返，迎击我渡河部队。同时，双向向鲁西南增调整编第83师、第25师、第72师和第63师的一个旅，企图与我渡河部队决战。
然而，在我华野指挥部里，粟裕代司令员却泰然自若，毫不慌张，他笑道：“敌人又上当了！”
原来，早在渡河以前，粟裕同志就已经考虑到，寻歼敌邱清泉兵团虽具有一定的条件，但不利因素较多，主要是我军主力尚未集中。要歼灭第5军，突击集团至少需要4个至5个纵队，而当时我军手中掌握的全部兵力也不过6个纵队。在平原地区无险可守的情况下，用1、2纵队是难以阻止敌人大量增援的。若要硬打，我军有可能陷于被动。
因此，粟裕心中又生一计：即充分做好打第5军的精神准备和物质准备，同时周密地制订了“先打开封、后歼援敌”的作战腹案。即首先以主力一部从敌侧后开刀，夺取敌守备兵团比较薄弱而又处于敌人防御要害部位的开封，这样敌人必要援救。待我围歼开封守敌后，再集中兵力于运动中寻歼来援之敌中的一路。这样，一来可以用打第5军来激励我军士气，能打则打，不能打，则转而打较弱之敌，把握更大；二来，也是更主要的，可以制造声势，造成敌人以为我军要在鲁西南地区同他决战的错觉，把敌人的注意力吸引到鲁西南，我军就能给开封守敌以出其不意的攻击。敌人果然又上当了！
6月15日，我第3、第8纵队已到达陇海线以南之通许、睢县、杞县之间，距开封只有一、二日行程，而敌人大部兵力正急急奔往鲁西南。根据战场的实际情况，华野首长果断地舍弃了在鲁西南作战的计划，改为转向豫东作战的决心：以第3、第8纵队组成攻城集团，采取奔袭手段夺占开封；以中原野战军第9纵队插入郑州、开封之间，阻击郑州可能来援的孙元良兵团；以中野第11纵队并指挥冀鲁豫军区独立第1旅于巨野地区，由此向南从侧后牵制邱清泉兵团；以华野第1兵团之第1、第4纵队和第6纵队迅速入向我围攻的敌阵之间的定陶、曹县、民权、考城（今固阳）地区，用运动防御坚决阻击邱清泉兵团西援开封；其余各部队以破坏铁路等方式积极配合主力作战。
为配合开封之战，中野决定以华野第10纵队自舞阳进至上蔡地区，协同中野一部，钳制敌胡琏兵团北援；山东兵团、苏北兵团亦以攻势行动吸引敌人增援，策应主力作战。
粟裕在向部队下达命令的同时，把这一决心上报了中央军委和中原军区。6月17日晨，中央军委复电完全同意粟裕的部署，并指出：“这是目前情况下的正确方针”，“情况紧急时独立处置，不必请示”。