宋国丢失了大片土地，这让当年跟着刘裕打江山的这帮将臣很是窝心，但皇帝刘义符倒没觉得有什么，照玩不误。这引起了下面这帮老将老臣的不满。徐羡之、傅亮和谢晦三人虽然掌握朝纲，但他们更想要的是一个能带领宋国一统天下的明君，而不是一个大权旁落，只知玩乐的昏君。于是，三个人和太后商量要废掉刘义符。但废掉刘义符后会出现一个问题，那就是更让他们难受的刘义真会名正言顺地成为皇帝。刘义真就是当年丢掉长安的那一位，后来又因为夸夸其谈，被刘裕认为不能担当未来天子的重任。而且这个人建立私党，拉拢有自己的一批人，根本不把这帮老臣们放在眼里。也就是说如果刘义真当上皇帝，这帮老臣都将被打击下台。于是在废掉刘义符之前，他们先一齐攻击刘义真，以“潜怀异图”、“讪主谤朝”的罪名将刘义真废为庶人，送到新安郡监视居住。后又派人把他勒死。
除掉刘义真后，三个人通过太后发动兵变，废掉刘义符，拥立刘裕的三子刘义隆为帝，刘义隆时年十七岁。刘义符被废为营阳王，徙往吴郡，在路上又被徐羡之派人杀死，时年一十九岁。
徐羡之、傅亮和谢晦把这一切都干完之后，突然后怕起来。废帝、杀帝，这是历代权臣才会做的事。刘义隆和他们并不怎么亲近，拥立刘义隆的事也并非是刘义隆的意愿。如果刘义隆要计较起来，他们三个就是每个人长九个脑袋也不够砍的。
傅亮决定面对现实，刘义隆要算后账，他也认了；徐羡之则心存侥幸，他问傅亮刘义隆可以和历史上哪个皇帝相比。傅亮说可以和晋文帝司马昭、晋景帝司马师（司马炎的伯父）相比。徐羡之说，既然皇帝是个明君，那一定能理解我们的一番苦心。傅亮回答他说：“那也未必。”谢晦则请调为荆州刺史，并且暗中把所有自己用过的旧兵和部将都调到荆州，以防不测。
刘义隆上台后处理朝政，批阅奏章，管理国家，每天都过得很忙，从来不提三位辅政大臣废帝杀君的事，这让徐羡之和谢晦渐渐放下了心。直到登基后的第三年，刘义隆突然利用自己的亲信士兵在京中将傅亮和徐羡之除掉。在荆州的谢晦得到消息，知道自己也不可免，遂举兵造反。刘义隆早就把檀道济召到建康为帅，并调集了兵力准备平叛。知道谢晦造反后，檀道济从建康出兵，江州刺史王弘、彭城王义康、豫州刺史刘粹等人也先后出兵，一齐讨伐谢晦。谢晦虽然善战，但出师无名，军心不定，再加上他的对手从各方面都要比他要强大得多。谢晦很快兵败，被押至建康后杀死。谢晦一党大多被诛。刘义隆加封檀道济为征南大将军，开府仪同三司，兼江州刺史，并提拔了一大批新进将领，很快朝中之人都成为刘义隆的亲信。刘义隆从此算是真正掌握了宋国的大权。
北魏拓跋焘登基以后，柔然趁拓跋嗣去世，再次大举南攻魏国。前文说过，柔然在豆代可汗的带领下变得十分强大，与北魏经常发生大规模战争，争夺北方霸权。公元410年5月，北魏和柔然曾进行了一次大战，柔然战败，豆代可汗在败退途中病死。他的弟弟蔼豆盖可汗继位，但四年后被北燕所杀，社仑的堂弟大檀，即纥升盖可汗继位。大檀继位后，继续和北魏开战，并放弃前嫌，实行联合北燕和后秦的策略，使北魏十分被动。双方多年战争，互有胜负。大檀这次率六万骑兵先攻陷了北魏故都盛乐，再包围云中城，北魏的北方边境一时吃紧。
拓跋焘早在十二岁时就在河套参加过抗击柔然的战争，所以对柔然的战术也颇为熟悉。他力排众议，亲自率三万骑兵急赴云中救援。柔然依仗人多，重重包围赶来救援的北魏太武帝拓跋焘及所部。拓跋焘命令所有弓箭手集中射向柔然大将于陟斤。于陟斤被北魏军射杀后，拓跋焘趁势率军大纵深地向前穿插突破，北魏将士气势大振，奋力突击柔然军。柔然军顿时被搅得一片混乱，大败而逃，一直逃到漠北才敢停下。北魏军遂解平城之围，并趁势收复盛乐。
第二年，赫连勃勃病逝。因为长子赫连与父亲赫连勃勃曾发生矛盾，赫连勃勃要废掉太子，赫连先行兵变，但被其弟赫连昌所杀，所以次子赫连昌成为太子，继承了帝位。拓跋焘决定趁机讨伐胡夏，但一些将臣认为，如果柔然趁北魏西征，国内空虚时进攻北魏本土，那是很危险的。建议先进攻柔然，把柔然灭掉或赶到沙漠的北部才能保证安全。崔浩道：“胡夏的统治很残暴，早就不得民心，赫连昌又是个愚蠢的人，胡夏国土也不大，此次进攻胡夏一定会迅速胜利。等柔然南攻时，我们早就已经班师回来了。”
拓跋焘遂派奚斤率五万骑兵向南袭击蒲阪，将军周几向西南袭击陕城，河东太守薛谨为先锋，拓跋焘亲领大军，向西进攻统万城。恰好遇到天气突然降温，黄河结冰，拓跋焘临时又做出决定，亲率两万骑兵，迅速过河，以急行军速度进兵到统万城下。赫连昌没想到拓跋焘来得这么快，根本就没有时间调集部队，也没有准备长期守城的储备，只能把城中的军队集合起来仓促应战。
双方大战不久，夏军即败，退回城中。魏将豆代田带一支小部队紧跟着杀入。夏军借助复杂城防，拼命抵抗，豆代田所带的魏军竟又被挡出城外。因为统万城十分坚固，城墙高大坚固，拓跋焘没有强行攻城，在城外劫掠一番，退兵回国。这时，周几攻破了弘农关（即函谷关），但不久在弘农病死。奚斤暂时接管周几的军队，继续进攻蒲阪。蒲阪被魏军攻破后，夏将乙斗逃往长安。长安守将为赫连助兴，是胡夏皇帝赫连昌的弟弟，他听说奚斤带八万大军来攻长安，弃长安，退守安定。关中险地竟不战而弃，被奚斤轻易得到。
北魏得关中后，便与凉州接壤。北凉王沮渠蒙逊，氐王杨玄，为了避免魏军乘胜灭了他们，都主动向北魏纳贡称藩。拓跋焘接受了两国的称藩后，继续操演士兵，准备攻城器具，打算对胡夏进行最后的一击。
不久，赫连昌派弟弟平原公赫连定，率两万骑兵南下，要收复长安。奚斤带兵与之激战，数月不分胜负。拓跋焘遂乘统万城空虚再次出兵西征。这次仍是率轻骑三万，全速前进，迅速到达统万城下。
拓跋焘这次先派三千士兵进攻统万城，其余士兵埋伏在深谷两旁。赫连昌见魏军人少，便出城迎战。魏军且退且战，一直退到深谷，伏兵四起，大败夏军。赫连昌想逃回统万城，但归路被切断，只得逃往上邽。魏司徒长孙翰率八千轻骑一路追击，但赫连昌实在是逃跑得太快了，还是没能追上。
拓跋焘乘胜攻城。统万城的城池虽然坚固，但由于主力在城外全部溃散，主将和皇帝都跑光了，城内既没有高级将领指挥，也没有足够的兵力，剩下的夏兵也全部逃散，所以魏兵很快攻入城中。胡夏的文武官吏以及后妃公主，全部被俘，只有赫连昌的母亲，被一些亲信侍卫护着拼命杀出，得以逃脱。
拓跋焘攻下夏都之后，把所有财物分给将士，留常山王拓跋素镇守统万城，自己率军回到平城。这时柔然则聚集起兵力来准备南征北魏，见魏军主力回师，只好作罢。拓跋焘又命令奚斤带兵北还。奚斤则上书称，这正是消灭胡夏国的时机，决不可放过。拓跋焘便命令宗正娥清，太仆邱堆，各率一万军队去支援奚斤。又调给奚斤精兵一万，良马三千匹。
在陕南与奚斤对峙的赫连定听说统万城失守，又见魏军不断有援兵到来，只好放弃与奚斤的对峙，退守上邽。奚斤打算先进军安定，与娥清、邱堆合兵后，再攻取上邽。但营中突然流行起马瘟来，许多马都病死了，由于缺马，行军速度和后勤补给都受到严重影响。奚斤只好停兵不进，并且派出小股部队四处寻粮。赫连昌趁机掩杀这些小股部队。魏军不但人马受到损失，粮草也难以为继，大家都是吃了上顿没下顿，整天靠喝稀饭度日。
监军侍御史安颉劝说奚斤与夏军决战，奚斤因为军中少粮而不敢出击，安颉道：“像你这样拖下去，只能是粮食越来越少，最后断顿。大军无粮，早晚会被夏军攻破。不如出兵，决一死战。奚斤仍是不听，只是等待援军。安颉干脆和将军尉眷私下挑选了一些精兵，把几天的口粮一齐领来，饱饱地吃了两顿。第二天安颉、尉眷带兵与赫连昌决战，正巧遇到了沙尘暴，魏军处于上风向，夏军只好纷纷撤退，夏军由于撤退得比较及时，兵力方面的损失并不大，但最惨的是赫连昌在混乱的撤退中被安颉给活捉了。胡夏的皇帝被活捉，这给胡夏以相当大的震动。
赫连昌长得很英俊，说话也谦和，而且善于骑射，因此被押到平城后，拓跋焘对赫连昌很喜欢，对他非常优待，封他为会稽公，又把妹妹始平公主嫁给他为妻。平时打猎什么的都带着他。
安颉则因功被封为建威将军，兼西平公，尉眷被封为宁北将军，兼渔阳公。奚斤没想到自己的裨将立下大功，将自己比了下去，深以为己耻。这时赫连昌的弟弟赫连定从上邽又转移到平凉并称帝。奚斤便把所有的军粮拿出来，率兵急速行军，去进攻平凉。没想到赫连定早在路上设下伏兵，大败魏军，并擒获奚斤、娥清、刘拔三将。这时太仆邱堆正好押着粮草来到安定，听说奚斤大败，连粮草也不要了，赶紧带兵赶回长安守城。赫连定乘胜进逼长安，邱堆所带士兵不多，不敢守城，又弃长安退到蒲阪。
拓跋焘听说邱堆不但把粮草都送给了敌人，还轻易放弃长安，立刻派安颉带兵去蒲阪，先将邱堆斩首，再带领所有士兵阻击夏军。拓跋焘为了彻底摆脱北面柔然的不断袭扰，以便专心对付南边的宋国并统一北方，于是决心集中力量打击柔然。
公元429年4月，拓跋焘与崔浩制定了一套非常严密的消灭柔然的战略计划。柔然是游牧民族，春夏的时候部族们各自放牧，秋冬的时候则集中起来向南进攻。拓跋焘利用柔然的这个规律，在他们放牧的时候，兵分两路，一路由司徒长孙翰领兵由西道通过大娥山，另一路拓跋焘亲自率军由东道通过黑山（今内蒙古巴林右旗北罕山），越过大漠，在可汗庭（今蒙古国哈尔和林西北）合击柔然。两路军队全部为轻骑兼马（每一骑兼有副马，副马为一到两匹），不带辎重，在栗水（今翁金河）时遇到柔然主力后迅速出击。柔然一点儿防备都没有，被杀得落花流水。大檀向西逃窜，大檀的弟弟匹黎一部在反击中被长孙翰的骑兵全部杀死。
六月，拓跋焘领军沿栗水西进至菟园水（今图音河），分兵搜捕大檀及其部众，在东西宽约五千里，南北纵深约三千里的广大土地上，魏军不断消灭逃散的小股柔然部队。原来被柔然征服的高车等部众三十余万人也乘机倒戈，归附北魏，帮助魏军对付柔然。拓跋焘一直追到涿邪山（约今阿尔泰山脉东南部）才引兵东还。大檀因为遭遇到几乎灭国的惨败，悒悒而亡。他的儿子吴提继位后，向魏国称藩乞和，拓跋焘遂以柔然为北藩。
这时宋国的刘义隆已经几次三番去信要求北魏还给宋国黄河南岸的地方，见北魏毫不理睬，便命右将军到彦之，安北将军王仲德，兖州刺史竺灵秀，共率五万精兵北伐。又命骁骑将军段宏，率骑兵一万，主攻虎牢，豫州刺史刘德武，领兵一万人作为后援，从弟长沙王刘义率兵三万，坐镇彭城，为总指挥。又派殿前将军田奇再一次去北魏告诫拓跋焘，宋国只是收复黄河南岸的地方，并没有打算去争夺黄河北岸领土，希望北魏能够主动让出来。
拓跋焘让田奇告诉刘义隆：“我刚生下来的时候就听说河南之地是属于北魏的，你们这是侵略行为而不是收复失地行为。宋国要来尽管来，看你们有没有本事夺得这片地方。”
因为北军不惯水战，而且拓跋焘怕任用河南之地的司马楚之、鲁轧、韩延之等人会激起宋国同仇敌忾，于是把所有军队都撤到黄河北岸，并调集北方军队在河北集结。宋军一路北上，先到碻磝，再西进滑台，再到洛阳，再到虎牢，一路都是城门大开，魏兵尽退。到彦之见进兵这么顺利，以为魏军总算是想明白了，所以主动让出了地盘，遂命诸将分守各地城池。王仲德告诫到彦之说：“到冬天河水枯干，黄河结冰时，魏军一定会南侵。我们要做好准备。”但到彦之并没有放在心上。果然到了这年冬天，魏军突然南下，宋军仓促集结应战，结果大败。魏国冠军将军安颉乘胜进攻洛阳，而洛阳竟然还没有备足粮食。宋将杜冀守了几日，吃光了粮食就弃城逃走了。魏军又直攻虎牢关。虎牢关的守将尹冲向到彦之求援。到彦之派裨将王蟠龙率军增援。但王蟠龙在七女津被魏将杜超伏击，宋军战败，王蟠龙战死。尹冲本来就兵少，听说援军被击败，便不死守，和荥阳太守崔模一起投降了魏军。
到彦之一看这个阵势，便退守东平，并请朝廷速派援军。刘义隆赶紧命征南将军檀道济带兵北上。魏国也再次增兵，派寿光侯叔孙建，汝阴公长孙道生，带兵南下。魏国的援军来得快，宋国的援军来得慢。很快魏军三支军队一齐向到彦之的主力攻来，到彦之再次下命令全军撤退。将军垣护之劝到彦之与魏军一战，到彦之不听，王仲德则劝道：“现在我军与对方还有一千多里地，滑台也驻有重兵。这时候南逃，军心必失，滑台也难保。我的意思是不如先移军到山东，与滑台成掎角之势，然后再看情况定夺。”到彦之于是带兵向济南前进，刚到了历城，魏军已经迅速追击而来。这时到彦之下定决心逃跑，谁也劝不住他了。到彦之命令全军放弃舟船，登岸南逃，一路狂奔，逃到彭城。镇守须昌的竺灵秀看主力已经逃跑了，自己守孤城也很危险，于是也弃城南撤，退到湖陆（今山东鱼台县东南六十里）。
只有彭城的刘义欣慨然道：“天子命我镇守彭城，我当与城共存亡，决不南撤。”在刘义欣的榜样下，山东守将都守城不撤，没有出现像河南那样的大逃亡。
魏军进兵到济南，太守萧承之只有一千多士兵，实在是没办法守城。他干脆把四门打开，玩了个空城计。魏军果然认为城中有伏兵，竟然在城外待了一天后退兵了。同时，魏军又南攻到湖陆，竺灵秀这回跑得更彻底，连军队都不要了，带了几个亲信南逃。刘义隆被这些逃跑将军们激怒了。他下令将竺灵秀杀死，将到彦之和王仲德免职关押。任命垣护之为北高平太守，同时命令檀道济加快行军。
檀道济在进兵途中受到魏将叔孙建和长孙道生的阻击，走得很是艰难。不过，总算是一路败少胜多，还能够前进。叔孙建和长孙道生边打边退，退到历城的时候，叔孙建在一次偷袭中把檀道济的储粮给烧了。檀道济只好停军，加紧运粮。
魏军利用这一段时间猛攻滑台，滑台守将朱修之守了近四个月，因为实在是没什么吃的了，就是城里的老鼠都被吃光了，最后终于城破被俘。
檀道济由于后勤不济，将士们都吃不饱饭，没办法保持战斗力，又听说滑台已失，只好退军。檀道济在退兵时，把所有的大米都铺在粮仓的上边，而下面则堆满沙子。魏军见宋军并不缺粮，不敢过分进逼。檀道济得以全军而退。
魏国终于将当初放弃的失地河南全部收回，宋将朱修之因为固守四个月滑台得到魏国的尊重，被封为侍中，拓跋焘还在皇亲国戚中选择了一个女子嫁给他为妻。司马楚之一再请求南征宋国，魏主没有答应，只是任命他为散骑常待。
胡夏的新皇帝赫连定战败魏军，生擒魏帅奚斤，收复关中后，却没有趁势东进攻魏。结果，魏国从从容容地先在北边打服了柔然，然后在南边打跑了宋国后，刚腾出手来，便开始对付胡夏了。拓跋焘亲率大军从统万城出发，进攻平凉。赫连定则从安定出兵，增援平凉，途中夏军主力遇到魏将古弼所率一部。古弼虽然兵少，但利用伏兵获胜，赫连定退守鹑觚原（今甘肃灵台东北）。拓跋焘又派尉眷等数路军队与古弼汇合，以主力军围攻鹑觚原。由于夏军在鹑觚原的营中无井，水源又被魏军断掉，夏军无法坚守，只好突围。经过血战，赫连定带一部军队逃到上邽，但大部分夏军，以及赫连定的弟弟乌视拔秃骨等百余名将相公侯全部被俘。
魏兵乘胜攻安定，夏将东平公乙斗弃城逃往长安，逃到长安后还觉得不保险，又把长安也弃了，向西逃到上邽。
这时平凉城已经被魏军包围将近两个月，拓跋焘一直不能攻下。赫连昌亲自出面劝降也没有用，直到夏国皇帝赫连定败逃到上邽，平凉城的守将上谷公杜干和广阳公度洛弧才开城投降。魏将豆代田先带兵入城，接收改编夏军，并放出被关在监狱中的奚斤等魏将。
至此，魏国已经平定了相当于今天除汉中以外的陕西全境。西边的凉州还有西秦和北凉在争雄。不过西秦自从炽磐死后，他的儿子暮末在军事上十分平庸，在与北凉的战争中屡屡失败，丧失土地，一退再退；其政治能力也很糟糕，对内政刑酷滥，经济生产衰退，国家越来越穷。暮末知道贫弱的西秦很快会被北凉灭亡，不得已只得向刚刚取得大胜的北魏投降。但胡夏的赫连定退守上邽后，也打算在这一片发展地盘，于是先进攻最弱的西秦。暮末不敢与胡夏军交战，退守南安。赫连定派叔父韦伐带军围攻南安城，暮末本是乞降之国，根本无心交战，守城十几日后便出城请降。
暮末及其乞伏氏宗族五百余人全部被赫连定杀死，西秦遂亡，时为公元431年1月。
胡夏灭亡西秦后，本来打算向北凉进攻，这时吐谷浑国的国君慕亲率骑兵三万人进袭。吐谷浑曾经向西秦、前秦和后秦称臣或称藩。公元417年，阿豺继王位，国力日益强大。阿豺于公元423年向宋国称藩，不久宋国发生政变，刘义隆继位后封阿豺为骁骑将军、沙州刺史。公元426年，阿豺病死。其同母弟慕被立为沙州刺史，宋国又将其封为陇西公。慕后来见北魏势大，又向魏国称藩，魏国封他为大将军。胡夏攻灭已经向北魏投降的西秦，吐谷浑便以此为理由进攻胡夏。夏军并没有防备，渡黄河渡到一半时突然遭到吐谷浑的袭击，前军纷纷被逼到河中，大半人马被淹死。赫连定带残军撤退，吐军过河追击，再次击败夏军，活捉赫连定。胡夏传三世二十六年而亡，时为公元431年3月。慕派人把赫连定送到魏国，拓跋焘将赫连定斩首，慕立此功而被加封为西秦王。