苻坚统一北方后不久，东北的苻洛发动了叛乱。苻洛是苻坚大哥的小儿子，与苻坚是叔伯兄弟。苻洛本为幽州刺史，攻灭代国以后，认为自己有功，便要求享受三司级待遇。苻坚当然没有允许，苻洛很是不满。不久，苻坚又任命苻洛为都督益、宁、西南夷诸军事，征南大将军，益州牧，调任襄阳。苻洛一听这个调任令就火了，好啊，你一会儿把我调到东北，一会儿把我调到西南，尽是些偏远的鸟不拉屎的地方。我要带兵打回长安，问个究竟。
幽州治中平规撺掇道：“秦国刚打完仗，穷兵黩武，将士思归，战斗力不会很强。而我们所处的地方，有乌桓、鲜卑、高句丽、百济等属国，可以借兵不下五十万。这一仗可以打。”
苻洛听了很高兴，撸胳膊挽袖大喊道：“我决定造反了，阻止我的人皆斩！”
昌黎太守王缦、辽西太守王琳、北平太守皇甫杰、牧官都尉魏敷都反对造反，说：“我们是为天子守边疆的，不是替你造反的。”
苻洛大怒，将四人斩首，自称大将军、大都督、秦王，然后派使臣向鲜卑、乌桓、高句丽、百济、新罗、休忍等诸国借兵。结果让苻洛很失望，各个国家这个找理由，那个找借口，都不肯出兵。
苻洛这下傻眼了，玄菟太守吉贞、辽东太守赵赞于是劝他道：“既然造反的兵力不够，您又不愿意去益州，那就派人去长安向皇上请求留在幽州，未必皇上就不答应。”
苻洛正在犹豫，那个极力劝苻洛造反的平规又跳出来道：“您已经扯起造反的大旗了，半途而废岂不是更糟糕？不如假称奉皇上的命令南下，邺城的阳平公苻融一定不会防备。等擒了苻融，占了冀州，便可以凭借关东，与关内抗衡，到时天下三分，您已有其一啦。”
苻洛又一次被激起了雄心，于是任命平规为幽州刺史留守，亲率几乎所有的幽州八万士兵向南进军。苻洛的哥哥，镇北大将军、北海公苻重，正好镇守在蓟城，也起兵三万，响应苻洛。苻洛和苻重遂合兵杀向中山（今河北省西部的平山县）。
苻坚急忙派使臣去劝苻洛罢兵，并且承诺：如果苻洛罢兵，可以世封于幽州，子子孙孙相传。
苻坚已经是很给苻洛面子了，但苻洛认为自己一定能够成功，至少也可以割据关东。于是说：“幽州太小，放不下我这个天子。如果苻坚能够亲自到潼关迎驾，我可以封他为上公。”
苻坚看苻洛反心已定，劝是劝不回来了。遂以苻融为征讨大都督，步兵校尉吕光为先锋，窦冲、都贵、石越为大将，率兵八万迎击苻洛。
两军会于中山决战。苻坚的军队并不像平规说的那样毫无战斗力，倒是苻洛的军队军心不齐，战斗力并不强。吕光趁幽州空虚，先带兵绕到敌后，占领了幽州，将平规等一百多苻洛党羽砍下人头，带着一百多颗人头南下。到了中山战场，吕光把这些人头扔到阵前，大喊幽州已破。这些兵大多是幽州兵，顿时人心思归，军心更乱。两军刚一交战，便有许多北军将领投降。北军很快大败，不过逃走的士兵倒是不多，大多士兵纷纷在阵前请降。苻重在乱军中被杀死，苻洛被俘。苻洛被押到长安，苻坚顾念兄弟之情，没有杀他，只把他流放到凉州的西海郡（今青海省海晏县城）。时为晋太元五年（380）。
晋太元七年（382），车师前部王弥寞、鄯善王休密驮到前秦首都长安，朝见前秦王苻坚，希望前秦能够像汉朝一样设置都护统治西域，并愿意作为向导，帮助前秦讨伐西域那些没有归附的国家。
苻坚于是任命骁骑将军吕光为使持节、都督西域征讨诸军事，与凌江将军姜飞、轻车将军彭晃、将军杜进和康盛等人率七万大军讨伐西域。阳平公苻融认为大军万里远征西域，对国家并没有什么好处，反对出兵。但苻坚仍然不放弃对西域的统一。公元383年，吕光自长安出发，苻坚在建章宫送行，加封休密驮为使持节、散骑常侍、都督西域诸军事、宁西将军，弥真为使持节、平西将军、西域都护，率领本国军队为吕光向导。
吕光率大军在茫茫戈壁和沙漠中行进三百多里，进至焉耆国，国王泥流和邻近的几国都不战而降，并且表示很愿意接受前秦的统治。只有龟兹王帛纯据城抗御。
吕光命部众在龟兹城南集中，每五里设一营，挖战壕、筑高垒。吕光指挥军队攻城，至次年七月，龟兹王渐渐不支，于是出重金向狯胡（另一少数民族）请求援兵。狯胡王派其弟呐龙、侯将馗率骑兵二十余万，另集中温宿和尉头等国军队共七十多万人救援龟兹。西域各国部众弓马便利，善于使矛，铠甲坚硬，箭射难入，战斗力很强。而吕光只有七万人，在兵力上明显相差好几个级别。
吕光手下几个将领打算一个营一个营地层层设防。吕光认为敌人兵力是己方的十倍，如果层层设防，力量分散，不利抗敌。遂令各营聚于一处，又操练勾锁之法，另派精骑作为游军，随时补充各个缺口。
双方在龟兹都城屈茨（在今库车东）展开决战，吕光军队拼死杀敌，一天砍死的敌人竟然有一万多人。敌方从来没有见过这么打仗的，七十万大军全部崩溃。帛纯急忙收拾珍宝出城逃走，帛纯之弟帛震开城请降。此后，西域三十余国全部请降。前秦遂定西域。这一年为385年。
就在吕光出兵统一西域这两年，前秦发生了惊天动地的大变化。这个庞大的帝国因为一次战役而突然如大厦崩塌般迅速垮了下来，刚刚统一不久的北方又恢复到四分五裂的局面。这个战役就是历史上著名的淝水之战。
苻坚在历年征战当中，多为胜利绝少失败，特别到了后来几年，几乎是连年胜仗。这让苻坚很是志得意满，开始把谋取江南提上日程。但在大军进攻东晋之前，前秦内部先发生了一次关于可行性的争论。
当苻坚向群臣提出南征的想法时，秘书监朱肜第一个表示赞同，他说这次打仗是“有征无战”。就是说大军只要一开到，几乎不用打仗就能让东晋投降，东晋即使不降也会吓得逃往海外。当然，前提是派一百万军队。而前秦是有这个国力的。
当年姚襄的旧将权翼（曾经参加过苻坚的军事政变，帮助苻坚除去苻生）表示不同意。他认为东晋有谢安和桓冲这样的人才，同时这几年正是晋朝上下同心的时候，不是南征的时机。
太子左卫帅石越也认为，东晋未失民心，且有长江天险，南征有困难。
苻坚对反战派很不满，他说：“我大军的马鞭扔到长江，也足可以使之断流。长江之险算什么？”
朝堂上诸大臣争论了很久也没什么结果。苻坚只好散朝。
由于大多数朝臣都反对南征，苻坚希望能得到苻融的支持，但苻融也反对南征。苻坚很生气，他提出自己南征的两条理由：第一，秦国有一百万强兵，而且后勤储备也很丰富，从军事和经济实力上远远超过了晋国；第二，自己并不是赏罚不明的昏君，身经百战，颇得人心，无论是在德望还是在才能上都具备一个统帅的资格。
苻融也提出不可南征的两条理由：第一，秦国有鲜卑、羌、羯等对秦国不友好的民族，这些民族的领导人还都生活在京城附近。一旦南征，太子能力不济，留守京城的士兵也不多，很可能会发生叛乱。第二，第一条理由是王猛提出来的，你听不进去别人的话，难道连王猛的临终遗言也不听么？
苻坚此时已经发晕了，他说道：“彼一时，此一时，事易时移，不可同日而语。”苻坚认为，八年前王猛临终时所提到的秦国内患，现在已经不存在了。但后来的事实证明，并非如此。王猛的担忧在八年后终于不幸成为现实。
两个人最终没能谈拢，不欢而散。
接下来的几天里，苻坚继续争取更多的朝臣同意。他苦口婆心地说：天下是天下人的天下。所以秦失其鹿，天下共逐，有本事的人才能得到。现在我和司马曜相比，谁更有本事，一目了然。而秦国和晋国的国力，也是强弱分明。你们几乎所有人都说不能伐晋，我实在是不能理解啊。
苻坚说到这里的时候，表现得十分痛心。他的确是不能理解，无法理解。明明是很容易的事情，为什么大家都要说难呢？
这时当时任京兆尹（首都的市长）的慕容垂给予苻坚最有力的支持。他说：“强者吞并弱者，大鱼吃掉小鱼，这是很自然的事。现在秦国就是强者，就是大鱼。晋国就是弱者，就是小鱼。现在不去攻取东晋，而把这件事情交给子孙，那是给子孙留祸患。”慕容垂还把《诗经》中的一句话拿出来：“诗云：‘谋夫孔多，是用不集。’出主意的人太多了，反而就不知道该用谁的了。其实您自己想清楚这个问题就行，何必要众人同意呢？当年晋武帝司马炎平定东吴，不过是依靠张华和杜预两个谋士，如果听从群臣之言而没有伐吴，还不知道什么时候能一统天下呢。”
苻坚听完豁然开朗，高兴地说道：“与朕共定天下者，只有你一个！”当即赏慕容垂锦帛五百匹。苻坚完全忘记了，王猛临终时所说的不能南征的理由，就是因为担心慕容垂这样的人。
晋太元八年（383）秋八月戊午日，苻坚命令全国的老百姓，每十丁抽一，共征调一百多万大军。留太子苻宏监国，以苻融为征南大都督，率张蚝、慕容垂等步骑二十五万为前锋，从长安出发，直指建康；以姚苌为龙骧将军，率益、梁二州水军十万出成都，顺江东下。苻坚自带六十余万大军，二十七万骑兵，浩浩荡荡向南开去。
由于苻坚所带的军队太多了，他的中军抵达项城（今河南省项城市）时，凉州的部队才来到咸阳，而蜀汉的水军正在长江顺流而下，幽冀的士兵正在彭城（今徐州）地界行军。军队走在路上，前后绵延近千里地。
慕容垂带着自己的两个侄子慕容楷、慕容绍，还有儿子慕容宝等人也随军出征。慕容垂悄悄告诉他的子侄，此去秦国必败。慕容垂说了三个必败原因，第一个是他夜观天象，第二个是江淮之险，第三个是军心不稳，人心不齐，将士无心。前两个理由一个是迷信，一个不是必然原因。而第三个理由则非常重要。慕容垂说秦军中大部分人是汉人，一个异族驱使汉人去打他们本民族的人，必无战心；而其他的士兵则为鲜卑、西羌、匈羯等，这些人更是希望秦军打败仗，恢复本族领地，用这些人打仗，岂有不败之理？
慕容垂的随行军队来到洛阳的时候，秦军的前锋已经和晋军打起来了。晋将桓石虔率水陆三万士兵大败秦将荆州刺史都贵，秦军损失两万人；桓冲亲率大军十万进攻襄阳，襄阳告急。
慕容垂遂向苻融请命，愿带兵去援襄阳。苻融乐得让慕容垂先和晋军两败俱伤，当即同意。慕容垂率带着自己的三万鲜卑兵向襄阳而去。苻融则派张蚝由黄河入石门，顺颍水直到颍口，进攻东晋寿阳城。
秦军的大举进攻使晋国非常恐慌，文武百官尽皆失色，晋帝司马曜更是惊恐不安。只有谢安胸有成竹道：“苻坚虽有雄兵百万，但我有三胜之宝。”
谢安所说的“三胜之宝”几乎和慕容垂所说的一模一样，所谓英雄所见略同。第一个也是观星象，得出秦师必败，第二个也是江淮之险，第三个是秦兵虽多，但都是乌合之众，蚁聚之兵，而且任用对秦不满的五胡仇人为将，兵将虽多，但人心不和。
朝臣们又向谢安请教谁当为帅。谢安推荐自己的侄子谢玄。于是司马曜宣谢玄进京，任命他为元帅。谢玄又保举刘牢之为先锋，带着八万“北府兵”，由京口起军，沿淮河西上去阻秦兵。北府兵是谢玄担任兖州刺史、广陵、相监江北诸军事的时候，在广陵组建训练的一支精锐军队。东晋朝廷又派龙骧将军胡彬，率水师八千增援寿阳。
苻融围攻寿阳，攻城很专业，围三面而留一面。所以寿阳守将徐元喜并没有死守城池，感觉顶不住的时候就弃城南逃，结果被秦将张蚝的伏兵袭击。徐元喜被俘，晋军投降。苻融进入寿阳后，龙骧将军胡彬的八千水师已到了淝淮界口，苻融即命大将苻方率军水师二万去迎击胡彬。两军交战后，晋军不敌，便退至硖石。硖石是进入淮水必经的峡口，在这个峡口两岸各有一城，十分险要。苻方攻了四五日也没有攻下，便向苻融请求增援。苻融道：“关口险要，不是增兵就能攻破的。不过你也不用攻城，只需要把两城围得严严实实的，时间长了胡彬一定缺粮。到时候城池不攻自破。”
苻融又派卫将军梁成率五万人马抢占洛涧关口，阻止谢玄的军队逆流西上增援。谢玄被梁成阻在洛涧之东，没办法前进，只得暂时停止进军，在洛涧河附近安下营寨。
被困在硖石的胡彬，粮食将尽，派人去向谢玄求援，被苻融捉到。苻融料定硖石指日可下，不由笑道：“我以前以为江南很难打，没想到江南如此不堪。”立刻向苻坚报喜，苻坚也很高兴，登上城头向江南望去，感慨道：“真没想到秦始皇一统天下的大业，这次落到了朕的身上！”喜悦之情溢于言表。苻坚便打算渡过淝水，寻找江南主力决战。这时战将朱序出来说自己愿意先去劝降谢玄，劝降不成，苻坚再南攻不迟。苻坚于是派朱序去劝降。
因为朱序原是东晋的降将，前文在叙述前秦灭凉的时候，提到过兖州刺史朱序作为晋将进攻过秦国。朱序后来镇守襄阳的时候，城破被俘，投降了前秦。朱序见到谢玄，第一件事就是表白心迹，称自己人虽在秦，却一直心向晋朝。第二件事则向谢玄透露了秦国的机密情报。他说秦军虽然号称百万，但实际上大多秦兵都在路途上。寿阳的秦军只有二十多万，现在必须趁秦军兵力不是很多的时候速战速决。不然，等秦军全部在江淮部署完毕，那时候再想取胜就很难了。
谢玄听完朱序的情报后，倒身便拜，说道：“破秦之计，全靠你了。”并且要朱序留下来帮助他。朱序说：“如果我不回去，苻坚肯定要怀疑，而且我已经联络了凉州张天锡，刚刚投降秦军的徐元喜等人，回去之后我们可做内应。”
谢玄于是不惜代价拼命强攻洛涧，终于将洛涧攻下，杀死梁成。晋军迅速进军到淝水东岸八公山下，与秦军隔河相望。洛涧一失，秦军南下的绝对优势便消失了。苻坚十分恼怒，他质问朱序：“你不是说谢玄愿降么？为什么他会强攻洛涧？”
朱序也做出一副很委屈的样子：“我也是被谢玄欺骗了啊。”
苻坚想了好一会儿，还是相信了朱序，没有杀掉他。当日，苻坚与苻融登城瞭望，只见晋军阵容严整，士气高昂。此时正是十一月仲冬，淮河流域的草木正是繁盛的时候。草木随风摇曳，杀气弥漫，影影绰绰像是满山遍野的士兵。苻坚不觉心惊，对苻融道：“这明明是劲敌，谁说是弱旅呢？”苻坚由此创造了一个成语“草木皆兵”。
这时建康城中也充满了不安和紧张的情绪，绝大多数人都被百万秦兵压境的恐惧所围绕着，只有谢安游玩于山水之中，不出去玩的时候便找几个朋友下几盘围棋，晚上还听几场音乐会，过得很是安闲。京城朝野见丞相都这样淡定，于是也都心安下来。
谢玄见秦军紧逼在河岸，晋军无法渡河，只能隔岸对峙。但谢玄把对己不利的条件很巧妙地转化为有利条件。他激苻坚说：”你不是自恃兵强马壮，想要速战速决么？你紧逼在河岸之前，我们怎么对决？如果你真有胆气的话，你往后让一让，给我在淝水北岸让出一块空地来，咱们好好地干一仗。”
苻坚认为可以趁谢玄的军队渡河到一半的时候出击，将晋军歼灭。苻融也认为这个作战计划很周密，可以实施。但实际情况是秦军士气低落，其中汉、鲜卑、匈羯、西羌等族的将士都很厌战，指挥也不统一。向后撤时乱了步伐，阵形大乱。而且很多部队都不知道为什么撤退。更糟糕的是，朱序、张天锡等人组织了一批起义士兵在秦军中故意大喊：“秦军败了！秦军败了！”一部分秦军便信以为真，争相奔逃。晋军趁势发起进攻，秦军于是大溃，没怎么抵抗就纷纷奔逃。苻融急忙带着亲兵跑到阵前，想要稳住阵脚，但乱兵如洪水一般后撤，就是前面的想止住步，后边的也停不下来。苻融在混乱的人群中被冲倒，竟然被踩死了。这时朱序的起义士兵又在喊：“苻融死啦，苻融死啦。”秦军更是无心恋战，拼命北逃。晋军如驱赶羊群一样在后掩杀。其实根本不用晋军动手，秦兵自相践踏和挤入淮河中淹死的就不计其数。
在寿阳城头上观察战场的苻坚当时目瞪口呆，愣在那里半天没有回过神来，他根本没有想到会有这个结果！等他回过神来后，第一件事就是带着城中不多的还算有组织有纪律的士兵逃跑。
秦军以后的任务就是不断地逃跑，拼命向北奔逃，沿途不敢停留，听到风的声音鹤的叫声，都以为是晋军追来，这就是著名典故“风声鹤唳”的来历。
当淝水之战的捷报送到京城时，谢安正在府中与客人下围棋。他看过捷报之后，拼命压抑着激动的心情，不动声色地把捷报随手放在一边，继续下棋，就好像什么也没有看到一般。对面的客人着急地追问道：“前方战事是什么情况？”
谢安轻轻说道：“小儿辈遂已破贼。”说完此话，走向内室，但他已经难以抑制心中的喜悦，走过门槛的同时竟然把屐齿给弄折了。
淝水之战后，晋军趁势收复了东南的蜀汉以及黄河以南的大片地区。而对前秦打击更大的是，慕容垂、姚苌、吕光、拓跋等人纷纷独立，原本强盛的前秦顿时四分五裂，北方再一次陷入大混乱时期。