6月26日晨，第3、第8纵队按预定计划，放弃开封向通许方向转移，第1、第4、第6纵队向杞县以南、傅集东西地区转移。当日午后，整编第5师第45旅及整编第68师重占开封。
国民党军统帅部判断华东野战军“主力南窜，似无积极企图”，于是以整编第25师及第3快速纵队车运滕县，解兖州之围，并将已到达砀山的整编第74师车运新安镇增防，以区兵团、邱兵团，分向太康、扶沟及陈留、通许、尉氏方面“索匪追剿”。这样，就“使豫东主力战场，兵力形成薄弱”（南国防部第三厅：《中原会战战斗经过及检讨》），为解放军各个歼灭提供了条件。
骄狂的邱清泉以主力向通许方向前进，尾击第3、第8纵队；区寿年兵团进达睢县西北的铁佛寺、龙王店、榆厢铺地区后徘徊不前。邱、区两兵团形成了40公里间隙。粟裕等人抓住战机，不待查明区兵团的具体部署情况，即于27日下达了围歼该兵团的命令。当晚，突击集团各部以尹店集、龙塘岗、榆厢铺地区为目标，进行合围，同时以一部入纵深，割裂区兵团部署。
至6月29日晨，华野部队已将区兵团部和整编第75师、新21旅包围于龙王店及附近地区，并完成了对敌75师各旅团的分割。同时，将敌整编72师包围于铁佛寺周围地区。我阻援兵团控制了被包围之敌以西20公里之杞县至王店集一线，隔绝了邱、区两兵团。29日晚，华野突击集团以一部兵力继续包围敌整编72师，以主力对区兵团指挥部和整编第75师、第21旅发起攻击，经两昼夜的激战，至7月1日中午，将敌整编75师的第6旅及新21旅全部歼灭。
7月1日下午，西边的邱兵团在我节节阻击下，进至距区兵团约10公里的官庄、张阁一线。东线黄佰韬兵团，由东向西增援区兵团，已抵达被包围的敌整编72师以东约10公里的帝丘店地区。
东、西敌两个兵团一齐压来，形势异常紧张，是坚持还是改变原定战役的计划，必须当机立断，刻不容缓。粟裕表现出巨大的决心和气魄，他一边加速攻歼区寿年兵团，一边又以4个纵队东移，准备围歼黄伯韬兵团。
区寿年兵团被围，蒋介石极为惊慌。6月30日，蒋介石偕空军总司令周至柔乘飞机到杞县上空督战，以杀头相威胁逼迫邱清泉迅速攻击前进，与区兵团会合。邱清泉即倾其全力，在飞机、坦克和大炮的支援下，对我阻击部队疯狂进攻。但我东西两线的阻援部队顶住了敌人的进攻，始终未使敌人的阴谋得逞。
7月1日下午4时，粟裕下达了总攻区寿年兵团部的命令。当日黄昏，残敌肃清，区寿年被俘，其参谋长林曦祥及75师师长沈澄年也被活捉。
区寿年兵团被歼，已经达到预期的作战目的，按理说应该及时撤出战斗。并且因为我军经连续作战，伤亡较大。加之战区久旱无雨，井河干涸，炎热夏季里，烈日暴晒，部队饮水奇缺，吃不下饭，体力渐弱。但是，当华野刚解决区寿年兵团之时，东面的黄伯韬兵团进展很快，已抵达帝丘店附近，对我军从东部撤出战场威胁很大。粟裕认为，若不对该敌以有力的打击，我军携带大批伤员，将难以顺利撤出战斗；即便撤出，各路敌人也会很快对我实行尾追，使我陷入被动。粟裕决心给黄伯韬一点颜色看看，打瘫他，打怕他，然后迅速撤离。
7月2日晚，粟裕下达围攻黄伯韬的命令。到4日拂晓，歼敌两个团。5日，黄伯韬坦克反扑，被我军击退；黄昏后，我再度攻击，至6日晨，又歼敌1个多团。黄伯韬兵团一共有两个旅，1个快速纵队，1个高警总队，忽然被歼灭1个多旅，十分恐慌，害怕像区寿年的下场，于是急令部队收缩于以帝丘为中心的狭小地带，连夜清理焚烧文件、地图，以备不测。但7日一早醒来，发现我军全部参战部队早已撤得无影无踪。气得敌众将官瞠目结舌，半天说不出一句话来。豫东战役胜利结束。