钟离的形势也没有半点好转。齐明帝担心防御吃紧，先期派了左卫将军崔慧景、宁朔将军裴叔业带兵救钟离，与魏军对峙。魏军在行军中遭遇疾疫，孝文帝的妹夫、冯太后之侄、司徒冯诞也身患重病，死于军中（冯诞的死还是外戚冯氏迅速失势的开端，待下文再讲）。北魏尚未开战，先损大将一名，士气异常低落。即便在孝文帝的全力指挥下，钟离依然久攻不下，魏兵死伤惨重，孝文帝无奈将主力调至淮水中的小岛邵阳洲上，修筑城堡，又在与之相对的淮水两岸分别筑城，以期全方位截断南齐增援路线。都督徐州一带战事的是萧坦之，他派裴叔业猛攻岸上两城，迅速将其拿下，魏兵纷纷逃命，乱军中淹死、踩死的不计其数。
孝文帝亲眼目睹魏军败相，意识到在淮南仍难立足，他采纳高闾、陆睿的建议，放弃进攻计划。为了避免重蹈苻坚覆辙，他命前将军杨播率领三千步兵和五百骑兵在淮水南岸布阵殿后，抵御齐军的进攻，然后才敢以大军从容北渡淮水。
杨播是此役中的唯一亮点。时值春天，河水满涨，南齐军水陆并进，从四面八方聚拢来。杨播命令部下排成圆形阵势，阻止齐军追击，并率领将士冲锋陷阵，将重重齐兵杀得尸横遍地，心惊胆寒。眼见得大军已渡，河水稍退，杨播带上剩下的三百骑兵，挥舞手中兵器对着南齐的舰船大喊：“我现在要渡河了，能战之人只管上来！”南齐军队竟然没有一个敢动一动，目送着杨播渡过淮水，扬长北去。
其余几路进攻同样毫无进展。义阳、南郑两路的魏军陷入艰苦的攻城战，终于因为后继不足，难以维持，只好撤退。赭阳方面则更糟糕，拓跋鸾手下的几员战将相互间协调不力，卢渊、韦珍想要通过暂时休战寻找机会，李佐则与他们相反，日夜进攻，死伤不少。南齐援军来到，对魏军发动总攻，李佐单军迎战，大败，其余魏军各自溃逃，被齐将垣历生一一击破。此战令孝文帝大为恼火，他降了拓跋鸾的爵位，又将卢渊、李佐、韦珍削爵为民，这是北魏与南朝作战以来最重的一次军事处罚。
第二场魏齐大战（又称淮汉之战）以北魏进攻失败而告终。痛定思痛，孝文帝决定回归正轨，将一度中断的改革计划推行下去。改革的精髓是，要由外而内地改造鲜卑人。
大举进攻南齐之前，孝文帝就发布了一道诏书，禁止官吏、百姓着胡服。这道禁令显然是针对鲜卑为主的胡人的，大家穿惯了民族服装，可不习惯一下子换成汉服，何况很多武将出身的鲜卑统治者骨子里看不起汉人。于是大家私底下都骂孝文帝背弃祖宗，怨声载道。
不满的声音传到孝文帝耳中，他明白，是时候向群臣摊牌，以讲明改革习俗的重要性了。在这位“鲜卑种汉人骨”的皇帝的眼里，汉化的好处实在是明摆着的：一是承接正统，不再是老百姓眼中的夷戎，从而使统治稳固；二是促进经济，以农耕文化取代游牧文化，在当时就等同于先进取代落后；三是消除矛盾，从制度上来消除汉人与胡人之间的界限与隔阂。
太和十九年（公元495年），孝文帝大会群臣，忽然问道：“众卿是希望我大魏与商、周一样呢，还是连汉、晋都比不上呢？”
皇弟咸阳王拓跋禧马上说：“臣等愿陛下超越从前的君主！”
孝文帝又问：“那你们觉得应该移风易俗呢，还是因循守旧啊？”
拓跋禧回答道：“臣等愿陛下朝政日新！”
孝文帝笑道：“那是希望止于朕一身而已，还是希望传于子孙后代啊？”
拓跋禧说：“当然愿我朝千秋万代了！”
孝文帝就对群臣说：“既如此，朕自当发布诏令改革汉俗，你等不得违背。”
穆泰、拓跋丕、陆叡几个鲜卑老臣在旁边开始嘟哝起来，说：“我们鲜卑人一向骁勇善战，起于代北，而建都平城。现在迁都洛阳，一些百姓无法适应这里的气候，已经有不少人患病；如再改革汉俗，恐怕要亡族亡国了！”
孝文帝眉头一皱，就问仆射李冲等人：“诸卿有何见教？”
李冲本是汉人，自然大力拥护全盘汉化，盛赞改革汉俗的英明之处。以拓跋禧为首的年轻皇族也一力支持，说：“上令下从，谁敢违反！”
孝文帝这才点点头，说：“子曰：‘名不正则言不顺，言不顺则事不成，事不成则礼乐不兴’。（这哪里还是胡人皇帝，活脱脱一位满嘴“子曰诗云”、摇头晃脑的老先生哪！）现在朕就下令，废除北语（即鲜卑语），改说汉语正音。三十岁以上的人，口音很难一下子改变，允许慢慢来；三十岁以下的人，和在朝廷上的人，不可再像从前那样说北语。如有违背，当即降黜。众卿以为如何？”拓跋禧等人立即拥护，穆泰等老臣虽然心里老大不乐意，可众寡不敌，只好依了大流。
于是，孝文帝从这年开始连续发布改革令：禁止在朝中使用北语，违者免官；改革度量衡，使用汉朝的尺、斗，并铸造货币“太和五铢”，结束了过去没有货币的历史；学习春秋鲁人制定圜丘祭天之礼；在洛阳兴办学校；规定丧葬礼节，迁到洛阳的鲜卑人死后就地在河南埋葬，不得回葬故里。
次年，孝文帝下诏：“北人称土为拓，后为跋。魏的祖先出于黄帝，以土德王，所以为拓跋氏。土乃万物之元，现改姓为元（从此以后我们把拓跋氏一律改称元氏）。诸功臣旧族，不少姓氏十分繁复，分别改为汉姓。”鲜卑的复姓多取其中的一个音节，改为汉族的单姓，比如：丘穆陵氏改为穆氏，步六孤氏改为陆氏，贺赖氏改为贺氏，独孤氏改为刘氏，贺楼氏改为楼氏，勿忸于氏改为于氏，纥奚氏改为嵇氏，尉迟氏改为尉氏。这八个姓自建国以来一直功勋显著，位极王公，被定为鲜卑大姓。
为了与南朝汉人门族制度接轨，孝文帝又将范阳卢氏、清河崔氏、荥阳郑氏和太原王氏四姓定为北方汉人的四大姓，将这几家的女儿纳入后宫。他自己“以身作则”，将李冲的女儿召入后宫为夫人，并指定自己的六个弟弟分别娶四大姓以及陇西李氏（即李冲一族）的女孩为妻。这一招虽有包办婚姻之嫌，但却大大有利于鲜卑政权品定姓族，并与汉人士族全面融合。（可见所谓的民族融合，在起初的时候也非全是出于自愿。漫漫历史长河中，很多人的命运都是不能以个人意志为转移的，对个体而言，或许尤为痛苦，但对民族文化而言，却可能功及后世）
齐整清流经过魏孝文帝几番“手术”，获得初步成功。耐人寻味的是，汉人与鲜卑人之间的矛盾日益减小的同时，北魏内部却由于人为划分士族寒族，出现了另一种社会阶层的分化，以至不出三十年，北魏就陷入了完全的分裂。我们可以这么说：“北朝盛于孝文帝，也亡于孝文帝。”历史的悖论。
孝文帝推行汉化措施，他的太子元恂却打心里头不赞成。原来元恂与孝文帝截然相反，不喜欢读书，人又长得肥胖，在平城的草原上骑骑马还比较适合，跑到黄河以南的洛阳，可就犯了愁咯。到了夏天，他就热得受不了，一心想着要回旧都。孝文帝赐给他汉服，他却只在公开场合穿上摆摆样子，回到东宫府就换回以前的胡服。东宫府中庶子高道悦屡屡语重心长地劝说，他不但不听，反而怀恨在心。孝文帝到嵩山祭祀，元恂负责留守洛阳。他与左右商量好，备了一匹快马，杀掉眼中钉高道悦，准备连夜跑回平城。
洛阳城中的领军元俨觉察到元恂的行动，立即关闭了城门。元恂没法出城，又回到东宫。尚书陆琇密告孝文帝，孝文帝大惊。得知城中局势暂时已经安定，他也不作声张，照常完成祭祀回到宫中，命人逮了太子带到身前，劈头就是一顿狠骂，然后与元禧等人轮流棒打太子，打得太子皮开肉绽，几乎昏死过去，才让左右将奄奄一息的太子扶走。
过了几个月，孝文帝的怒气稍稍消了一点，便召集群臣商议废太子之事。太子太傅穆亮等人都不同意，脱了帽子磕头求情。孝文帝想了想，说：“众卿求情，所为私事，我讨论的，是为国事。古人云：‘大义灭亲’。如今元恂竟敢违背我的命令，想要叛据北方。这是目无君父，岂可饶恕？！若是饶了他，乃是国家之祸，只恐我身后，魏国也会有永嘉之乱！”下令废元恂为庶人，立次子元恪为太子，并派兵将元恂软禁。元恂的遭遇与以前宋国的刘义康一模一样，不久后风传有人要谋反拥立他，孝文帝不放心，一杯毒酒，赐他自裁。
元恂被废后，以穆泰为代表的反对改革派并没有善罢甘休。冯太后当年曾一度想废掉孝文帝，穆泰死命劝谏，才使冯太后回心转意，所以孝文帝一朝他本来是十分受宠的。现在大批鲜卑贵族对改革不满，都找到穆泰，想要变天出头。
穆泰、陆叡等人暗中策划拥立皇叔阳平王元颐为帝。元颐倒是个明白人，表面上答应了穆泰，私下里派人向孝文帝报告。孝文帝请出有病在身的任城王元澄，一举拿获穆泰、陆叡及其同党，并全部处死。这一回合的打击之后，反对改革派的势力几乎灭亡，孝文帝的怀柔、铁腕两手措施显示了威力。