正如明眼人崔浩所见，宋军的兵力过于分散，面对阵容强大的北魏铁蹄，极难胜任防御黄河的任务。这就好比下围棋，每个局部都想占住，然而处处都是薄形，结果自然是处处受攻，没有一处能真正转化为实地。
形势判断过分乐观的到彦之却不觉得危机将至。他企图派偏将姚耸夫北渡黄河，进攻冶坂（今河南孟县西）。姚耸夫被安颉打得大败而回，到彦之仍没有认识到战情的紧迫。他只是简单布置了沿河的防线，就和王仲德一起回保东面的东平，以为河南四镇可以高枕无忧了。
神麚三年（公元430年）的寒冬来得特别早，黄河北岸待命了几个月的魏军终于行动了。十月下旬，冠军将军安颉率领大部军队从委粟津（今河南范县东）渡过黄河，进逼宋军最西面的据点金墉。自上一次魏宋河南大战以来，金墉城的城防已有多年失修，宋军得城不久，也没有粮食储备。守将杜骥根本没有死守的打算，只是害怕这样逃跑要被治罪，就骗洛水边上带有小股部队的姚耸夫说：“金墉城防已经没问题啦，粮食也够吃，就缺人呢，将军若来助我，必立大功。”
姚耸夫刚打过败仗，立功赎罪心切，就傻傻地来金墉报到。来到城头一看，嘿，这都什么破墙啊，怎么守哪？眼看魏军就要杀到城下，咱们跑吧，一扭马头就往南撤退。
狡猾的杜骥也跟着逃跑，回到建康跟宋文帝说：“微臣本想固守金墉，怎奈姚耸夫来到城下就逃跑，军心沮丧，难以控制，以致失守。”宋文帝很怒，就下令把姚耸夫斩首。（宋军战斗力本身就弱，姚耸夫在当时还是相当勇猛的一员偏将，却被自己人陷害而死；宋文帝文治不错，军事水平却十分低下，对自己将士的性格、能力了解太少，比太武帝拓跋焘差得太远了）
安颉攻下洛阳，将宋军留下的五千多将士全部杀害，继而与龙骧将军陆俟攻打虎牢，迅速将其攻破（这一战果比上一次大战大有进步。从中也可看出，由于魏军并不重视城池本身的防御工事，而更看重机动兵的战斗力，他们在占据这些城池时并没有花大工夫建设和改造城防，导致虎牢这样重要的关口已经不再那么易守难攻了），宋军守将尹冲被俘后被杀，荥阳太守崔模投降。
这时河北的魏军集结在东平西北面的七女津，到彦之怕魏军渡河，忙派偏将王蟠龙到河中夺取北魏的渡船，却被魏将杜超等人所杀。洛阳、虎牢相继失守，青州西面只剩下滑台一处还由宋将朱修之苦守。到彦之不听部将垣护之的劝阻，也不再协防滑台，下令退兵。
到彦之打算焚烧战船，步行南撤。王仲德劝道：“洛阳、虎牢被攻陷，势所难免。现在敌军离我军尚有千里，滑台还有强兵把守，如若放弃战船南逃，军心散乱，必成溃散之势。于今之计，应乘船入济水，至马耳谷（今山东东平陵城东南）口，再作商议。”
宋军便顺济水南行。行军艰苦，到彦之多年的旧疾眼病忽然复发，疼痛难忍，军中将士也有不少人染上瘟疫。到达历城（今山东济南）时，到彦之终于不愿这么缓慢地走水路了，下令烧船弃甲，步行逃往彭城。所谓兵熊熊一个，将熊熊一窝，主帅这一撤，各地守将也无心恋守。兖州刺史竺灵秀放弃须昌，南下逃往湖陆，青州、兖州一带的宋军陷入一片惊恐。
东线的魏军南渡，兵临济南，济南城中只有几百名将士，由太守萧承之率领。这位萧承之就是将来建立南齐政权的萧道成的父亲。此人颇有些见识，魏军声势浩大，他命手下放弃守备，大开城门，以待魏军。众人不解，他说：“现在我们守卫孤城，形势危机，若再示弱，城将不保。不如给敌人留下我军强劲，并不惧怕他们的印象。”魏军来到城下，果然害怕城中有伏兵，反而带兵撤退。（这又是一例空城计，历史上这样真实的战例还是不少的）
宋国的其他各城大多望风而遁。魏将叔孙建追击竺灵秀，在湖陆把他打得落花流水，宋军又损失了数千人。到彦之、王仲德回到建康，此仗败得丢盔卸甲，府藏武库都已空虚。宋文帝对到彦之的一片信任，全化作泡影，失望气愤之余，免了到彦之、王仲德的官职，听候处置；竺灵秀擅自弃军逃跑，被正法。
（此战中，宋文帝过于倚仗自己旧部下到彦之，而对于父亲留下来的旧将檀道济、王仲德不能重用，导致宋军的损失惨重。檀道济等人跟随刘裕南征北战，利用他们的经验对付北魏正是用其所长。在战争过程中也可以看到，王仲德提出的几个问题是最关键的，并没有得到统帅到彦之的重视。宋文帝若能用檀道济甚至王仲德做统帅，防线不可能设得这么薄弱，魏军仍然可能攻占河南诸镇，但代价肯定会大得多。）
滑台城这座河南最后的堡垒还在宋军手中。过了年，也就是元嘉八年（公元431年）了，宋文帝只得请出檀道济，命他率军出清水，与王仲德、段宏等共同支援滑台，以图最后一搏。魏军则由叔孙建、长孙道生率领，阻击宋军路线。檀道济军中有不少都是刘裕的旧部，战斗力很强，在寿张（今山东东平西南）与叔孙建的军队相遇，大胜对手，进而转战至高梁亭（今山东东平境内）一带，阵斩北魏济州刺史悉烦库结。
宋国援军沿济水而上，半个多月里与魏军连战三十多场，大多取胜。宋军到达历城后，离滑台就不远了，这时北魏大将叔孙建想到了制止檀道济援军前进的妙招，他派轻骑兵偷偷绕到宋军身后，放火焚烧宋军的粮草。等檀道济反映过来时，粮食已经烧得差不多了，没有了粮食，再勇猛的军队也无法前进，檀道济就被困在了历城。
滑台的战事并不等人，安颉率部连日猛攻，拓跋焘又派将军王慧龙助攻。城内粮食耗尽，朱修之带着将士们挖寻老鼠，熏烤熟了充当食物。魏军终于攻克滑台，俘虏了朱修之和东郡太守申谟，以及城中的一万多宋军将士。
滑台陷落了，自身又粮尽，檀道济只得从历城撤退。有兵士逃到魏军大营，把宋军缺粮的窘况向叔孙建等人报告。魏军迅速从后面追了上来，四面围堵，宋军将士十分害怕，不少人都跑了。檀道济并不慌张，这天晚上就到营帐中与兵士一起查点粮食，兵士们一边拿着竹筹计着数，一边用斗量米。
宋营里混入了魏军的细作，这时也在观察情况。细作见营中军粮成山，满满的米袋之中都是白白的大米呢，立刻跑回去向叔孙建禀报：檀道济粮草充足。叔孙建一听，认定投降的兵士是奸细，就把他杀了。
檀道济军粮已尽，哪来那么多粮食呢？原来当夜量的并不是大米，而是临时堆积的沙子，为掩人耳目，在沙子上放了少量剩余的米粒而已。这就是檀道济“喝筹量沙”的诡计，巧妙地骗过了魏军。
天将发白，檀道济命兵士身披盔甲，自己则换上白衣，坐上马车，带领军队慢慢地向南走。魏军见识过檀道济的厉害，见了这般架势，以为这次又有伏兵，不进反退，不敢追击。檀道济等人终于得以全军退回。
魏宋之间围绕河南四镇的第二次大规模的接触战，又以北魏的全面胜利而告终。这次战役中，宋国在战略战术上全面输给了魏国，几乎每一步行动都被崔浩计算在先，而北魏皇帝拓跋焘，则完全采纳了崔浩的战略思想，以主力军队进攻夏国的残余势力，将其消灭，对宋军的初期进攻避其锋芒，然后再利用天气地形的优势大举反攻，将司州、豫州、兖州等地重新收复。
此战之后，南北两朝的冲突暂告一个段落，拓跋焘回到北方投入统一的收官战，从神麚四年（公元431年）到太延五年（公元439年）的九年中，先后将夏、北燕、北凉这三个小国消灭（此外西秦也在神麚四年被临死前的夏国灭掉），并于太平真君四年（公元443年）进攻汉中，攻灭杨氏建立的后仇池国，结束了十六国纷争的时代，将柔然、吐谷浑以外的北方诸胡统一于北魏大旗之下。
南方的刘义隆也一时没有力量再昭示野心，只能老老实实地巩固半壁江山“元嘉之治”的成果了。宋国在两次河南大战中元气大伤，唯有的一丝亮点是檀道济等旧将的表现，然而就是这一点点希望，也仅仅能保证宋国处于守势而不崩溃，更何况疑心重重的刘义隆真的能放过这些能力一流的部下吗？刘宋江山，究竟何去何从……从刘义隆在战争失利、滑台沦陷后所作的一首五言诗中，我们或许能窥探这位君主此刻的心境：
逆虏乱疆场，边将婴寇仇。
坚城效贞节，攻战无暂休。
覆沈不可食，离机难复收。
势谢归塗单，于焉见幽囚。
烈烈制邑守，舍命蹈前修。
忠臣表年暮，贞柯见严秋。
楚庄投袂起，终然报强仇。
去病辞高馆，卒获舒国忧。
戎事谅未殄，民患焉得瘳。
抚剑怀感激，志气若云浮。
愿想凌扶摇，弭旆拂中州。
爪牙申威灵，帷幄骋良筹。
华裔混殊风，率土浃王猷。
惆怅惧迁逝，北顾涕交流。
随着北方的统一和南方的安定，中国历史正式进入了宋魏相争，或者说是南北对话的新时期。