慕容皝称王后的第一件大事就是要消灭段部，共同的目的使燕赵两国第一次（也是最后一次）结成同盟。
晋成帝咸康四年（公元338年），慕容皝的使臣来到赵都邺城，向后赵称藩，与后赵天王石虎共商讨段大计。
由于段辽连续几年屡屡犯边，石虎也早有打算好好教训一下段部鲜卑，他在国内新召集勇士三万人，扩充了本国军事力量。
此时正好赶上不识时务的段辽派大将段屈云攻打后赵幽州，石虎以水路舟兵十万，陆路步骑兵七万，分两路讨伐段辽。慕容皝当然也没有闲着，他亲自领兵攻掠段部的令支以北（今河北东北部）的城池。
慕容皝的作战路线十分诡谲，总是攻一阵，稍有战果，便迂回撤退，段辽的军队始终难以与之正面交锋。
面对慕容皝的撤退，段辽决定追击慕容皝，旁边慕容翰又出来劝说：“现在的形势是赵国的军队已经集结在南面，我们应该与慕容皝合力抵抗；这个时候还和燕军争斗，万一失利，我们还怎么抵挡南面的强敌。”
另一边段兰一听慕容翰这话就火冒三丈地说：“我当初还不是被你这家伙的一番鬼话所误，以至造成今日之患，我再也不会上你的当了！”说着他带上本部兵马追击慕容皝，慕容皝的伏兵在那里等候已久，段兰没说的，又吃了大败仗，往南面落荒而逃。
在南线方面，后赵的先锋大将支雄的大军长驱直入蓟城，段辽所属各郡守将，望风而降。
段部鲜卑当初一度强盛，但到了如今这步田地，连决一死战的实力也没有了。段辽困守令支城中，身边的大将竟只剩下慕容翰一个，段辽的眼泪一下就流了出来，他拉着慕容翰的手说：“我不用你的建议，自取灭亡；我自己只好认命，却让你流离失所，心中深感遗憾。”（人说“英雄末路”，段辽到这个时候才反省自己，迟得实在离谱，不过倒是挺感人的。）
令支城中已不可久驻，段辽与慕容翰分手，带着妻子宗族北逃密云山躲避石虎的追赶。
慕容翰仍然不敢去见自己的弟弟慕容皝，思来想去，往东北塞外投宇文部去了。
石虎的前部轻骑兵由将军郭太、麻秋率领，紧追段辽，终于在密云山一带赶上段辽的家小辎重，擒获段辽的母亲和妻子，段辽穷途末路，派自己的儿子乞特真向后赵献上降表和名马，石虎总算接受。
（后来段辽显得有些后悔，又向燕王慕容皝投降，并且联合燕兵，在密云山设下埋伏，大败后赵派去受降的麻秋。一年后段辽复叛，终被慕容皝所杀。辽东段部鲜卑的历史到此全部结束，不过十六国中还将出现一个姓段的君主，那就是我们后面会提到的北凉王段业，这个段氏与鲜卑段氏有些什么瓜葛，我已无法考证。至于一种说法说大理段氏也是鲜卑人，那至多不过捕风捉影罢了。）
石虎进入令支城，按照功劳大肆封赏，为防止段部的遗民有不轨之举，又把他们分别迁往司、雍、兖、豫四州。（十六国时期如此规模的移民活动屡有发生，这样的文化融合，无论如何要比战争好得多。）
后赵国和前燕国的“蜜月合作”，到这时出现了裂痕。石虎认为慕容皝不和后赵会师一处共讨段辽，而是独自为战，便以此为理由继续进兵讨伐前燕。
石虎贪得无厌的“一贯作风”天下无人不晓，但出兵攻燕的行动还是让燕人惊恐不安。慕容皝得到这一消息，起初也有些犹豫，准备暂时避开后赵军的锋芒。
本族大将慕舆根分析说：“赵强我弱，大王如若动身撤退，正好是赵人求之不得的。等他们攻略了我们土地，抢掠了我们的国民，兵强马壮，粮草丰足，我们再想反攻可就没机会了。我们如今只要全力固守，壮大气势，观其有变，再乘机出击。要是真的不行，再撤兵也来得及。岂能望风而逃，自取灭亡呢？”
慕容皝手下的汉人谋士们也都认为赵兵虽然强大，但不足忧。慕容皝最终下定决心坚守城池，严阵以待。
声势浩大的后赵军队向前燕的国都棘城杀来，士兵总数多达数十万，附近的前燕郡县不战而栗，向后赵投降的城堡达到三十六座。后赵大军从东西南北四个方向向棘城发起猛攻，城内的前燕士兵军心浮动。
慕容皝的部下玄菟太守刘佩主动请缨，他认为首要任务，是让大家看到后赵军队没有想象中的可怕，克服恐惧心理，要求自带一支敢死队出城迎击后赵军，用胜利来稳定军心。
这支由数百名士兵组成的敢死队忽然出现在后赵军阵中，果然令后赵的将领和士兵始料不及，面对后赵军所向披靡，勇不可当，冲杀一阵之后竟然能够“斩获而还”，（虽说“夫战，勇气也。”但这样的奇迹还是让人惊叹。）前燕守军深受鼓舞，士气重新振作。
两军在棘城内外相持半月以上，城头的前燕军由慕舆根指挥，每日从早到晚全力抵抗攻城的后赵士兵。慕容皝左右一些意志不甚坚定的人劝说慕容皝降赵，慕容皝十分干脆地斥责道：“孤方取天下，何乃降人乎！”
（慕容皝讲此话时的气魄，不得不让人佩服。从前燕到后燕，乃至西燕、南燕这些蕞尔小国，慕容氏的子孙们都少有被对手的武力屈服的，总是想尽方法保存自己的力量，维持自己的独立政权，能力强者如慕容垂、慕容德，能力弱者如慕容暐、慕容超，无不如此。）
战争的时间一拖长，坚持不下来的成了远师劳顿的后赵大军。石虎见无法攻克棘城，无奈之下下令全军撤退。
于是，慕容家族的又一位军事天才慕容恪闪亮登场了。
慕容恪是慕容皝的第四个儿子，太子慕容俊的异母弟弟。当时慕容恪只有十五岁，却已经是个满腹经纶、颇通兵法的将才了。
慕容恪当时只有十五岁，却已是满腹经纶、颇通兵法的将才了。慕容皝对他寄予了厚望，委以重任，派他率领两千骑兵追击后赵兵。
好一个慕容恪，面对数十倍于己的敌军，毫无惧色，连夜率领手下一路尾随赵兵。然后，乘着天蒙蒙亮，忽然发起进攻。
撤退中的后赵士兵已弄不清对手的底细，各军都弃甲逃窜。慕容恪这两千精兵一路追杀，竟然斩获了三万多首级，令人咋舌。这就是慕容恪崭露头角的一战。
后赵的军队乱作一团，唯有一支军队全军而退，指挥这支军队的将领，刚好也是十六国时的风云人物。他就是石虎的养孙、汉人石闵，真名叫作冉闵，有时也写作染闵。
石虎退到国都邺城，方才停下脚步。
慕容皝乘胜收复所有叛降后赵的城池，反倒把国土拓展到原先后赵的境内，以后几年燕赵之间战争不断，战争的号角从东北传向黄河流域，让人隐隐感到北方又一场大的战乱已经为期不远了。