陈友谅在太平被朱元璋打败后，心中大怒，他决意先做调整，再次出兵，这一次陈友谅派兵一举攻下安庆，时间是元至正二十一年（1361年）的七月，朱元璋刚被小明王封为“吴国公”不久。
安庆对朱元璋来说具有重要的战略意义，陈友谅攻安庆是明显的挑战。朱元璋看着安庆失守，心中的愤怒不会比陈友谅败走太平少，愤怒的朱元璋立即召集文武将士，商讨对策。
朱元璋说：“陈友谅的野心并未因太平一战而消失，反而愈加猖狂了，如今安庆已经失守，陈友谅的下一个目标就是应天啊。”
猛将常遇春道：“陈友谅欺人太甚，不断惹起事端，末将以为上次趁他败走的时候，就应攻下他的老巢。”
而李善长以为，陈友谅不是容易对付的人，和他的战争才刚刚开始，要作长久的打算。
商讨很久，朱元璋决定不可再忍耐，也不可再小打小闹了。这次必须全力出击，溯江西伐，和陈友谅一决雌雄。而此时，陈友谅其实早就有决战朱元璋的野心，所以朱元璋和陈友谅的这一战可谓是阵容强大，对双方的发展来说都是决定生死存亡的关键时刻。
既然决定溯江西伐，朱元璋就得造些声势。他知道陈友谅杀了倪文俊，又杀了徐寿辉，引起很多人的不满，同时徐寿辉的部下对他更是反感。朱元璋就造了一艘巨大的船只，在船上竖了一面大旗，旗上写着“吊民伐罪，纳顺招降”八个大字，老远就能看到。陈友谅得知这一信息后，心中更为愤怒，认为朱元璋为人太猖狂，有何德何能可以“伐罪”自己，决心与朱元璋斗个你输我赢。
朱元璋此次出击的第一个目标是先将失守的安庆收复。因为朱元璋得到情报说，陈友谅对自己的举动异常不满，已经举兵东下，安庆守兵较弱，朱元璋不费力气收复了安庆。而收复安庆如此顺利，还有另外一个原因，就是朱元璋拉拢了对陈友谅不满的一员大将张志雄。这个人本是天完国核心人物赵普胜的心腹，而赵普胜已经被朱元璋用离间计陷害，不知情的人都以为是陈友谅杀害了赵普胜。其实，应该说陈友谅杀赵普胜是早晚之事，但朱元璋从中起了推动作用，却又不为人知。所以，张志雄就对陈友谅非常不满，这一点朱元璋当然心知肚明，所以在两兵相较的时候，就用了些攻心术，把张志雄拉拢过来了。
安庆收归以后，朱元璋派胡大海力克信州（今江西上饶），同时朱元璋亲自统兵，一举攻下江州。其间，陈友谅的守将丁普朗、傅友德全军归降朱元璋。陈友谅称帝的时候迁都江州，江州被攻下，陈友谅只能兵败逃走，到了武昌。而朱元璋又下令乘胜出击江西和湖北，南康、蕲州、黄州（今湖北黄冈）、黄梅、广济、兴国等地守军皆投降朱元璋，各城相继归顺。这样，朱元璋的领土在江西和湖北不断扩大，而陈友谅连连失利，曾经的强大在和朱元璋的斗争中日益缩小。
然而当朱元璋和陈友谅正在血拼的时候，江北的军事形势发生了巨大的变化，这一变化对朱元璋非常不利。北方的小明王和刘福通在和元兵作战的过程中接连失利，而元朝大将察罕帖木儿已经平定了山东各地，小明王退守安丰，很多红巾军的将领都已经被招降，眼看安丰危急。张士诚也向小明王和刘福通发动了进攻，为什么张士诚不趁朱元璋进攻陈友谅的时候进攻应天，反而向小明王出兵呢？原来张士诚和元朝也是关系暧昧，毕竟和朱元璋有协定，所以就应元朝之邀，出兵进攻小明王。
朱元璋正在和陈友谅决战，收到小明王求救的信息。
顿时，朱元璋和他的文武将士都陷入了沉思和忧虑之中。
救还是不救？
在这关键时刻，眼看陈友谅就要被打败，若此时分兵北上，势必给陈友谅一个绝好的反击机会。
但朱元璋有他的打算，他认为这些年能在江南发展，是因为小明王在北方和元兵作战，给自己一个天然保护，但若此时安丰失守，自己就成为元朝的直接攻击对象，且无论如何自己现在还打着小明王的旗号，所以朱元璋主张救小明王。
朱元璋的主张，向来反驳者较少。
而这时刘伯温却极力劝阻，他恳切陈词道：“如今大兵不能轻易向北出动啊，万一此时陈友谅乘虚反攻，且不说刚刚拉起的有利战线毁于一旦，就连退路都被切断了。再说，就是主公救下小明王，如何处置他呢？他对红巾军，对主公如今又有何作用呢？一直以来小明王也不过是刘福通的傀儡，这一点大家都清楚。”
刘伯温的反对意见不能不让朱元璋三思，但思虑之后，朱元璋认为陈友谅现在败退武昌，反击应不会太严重，且安丰失守，应天就没了天然屏障，一心要出兵安丰。
刘伯温再三劝阻，也无法改变朱元璋的意见，这就是朱元璋的霸气和顽固所在吧。
朱元璋亲自统兵援救安丰。但是朱元璋和他的大军还未到达安丰，刘福通已经被杀，朱元璋率兵力战，终于击败了张士诚和元军所派军队。刘福通的死对朱元璋来说是件好事，所以他很爽快地救下小明王，把小明王安置到滁州，还在滁州为他造了一座华美的宫殿，而宫殿中的侍宦都是朱元璋手下的兵士。明白人都知道，这是朱元璋把小明王关押在此了，表面上还赢得了尊奉君主的美誉。
安丰是保住了，小明王也救出来了，更严重的问题就是刘伯温所预料的情形：朱元璋出兵援救安丰的时候，陈友谅乘虚反攻，以重兵把洪都重重包围起来，还占领了吉安、临江、无为州。
这次围攻洪都，陈友谅算是倾其所有了。他制造了上百艘在当时看来硕大的战船，这些船只上下三层，高有数丈，每一层的容量大到都设有走马棚，下面还有板房，光橹就有几十支，都用红色的漆漆上。大的船只都能容纳三千人，就是小的也能容纳两千人。看着这一批气势恢弘的战船，陈友谅心中十分得意，自以为胜券在握，发动六十万大军前来围攻洪都。
而朱元璋在洪都的守将是年轻的朱文正，朱文正在众将的眼中不过是喜欢吃喝玩乐的公子哥，毫无大战经验。朱元璋得知信息后着实捏了一把汗，所有的人也都担心起洪都的安危来，洪都若失守，那下一个大战的地方就是应天。
李善长对朱元璋说：“陈友谅造了如此大的声势，六十万人，就是如今派援兵，援兵也难以破围啊，最大的希望就是朱文正。若朱文正能守住洪都，那是最好的解决方式。”
朱元璋心中却在暗自苦笑，虽然他从未看低过这个侄子，但就是自己也从未在如此危急的情况下，面对如此强大的重兵。
而朱元璋就是朱元璋，在这危急的时刻，他依然镇定自若，派人通过秘密渠道通知朱文正誓死也要守住洪都，并在密信中点拨朱文正此时不能力胜只能智胜，是将平时的兵法理论用到现实中的时候。朱文正这个年轻气盛的守将，不愧是朱元璋的亲侄子，大敌当前，镇定自若，显示出他的军事能力。尽管城中可以调遣的军士不足，朱文正还是调配得当，而城中寥寥数将都是非常有经验的老将，朱文正就因人施用，用尽方法防御出击。
洪都一战，一直打了八十五天，城墙都不知道被攻破了多少次，陈友谅的兵士也不知从缺口处涌进城中多少次，而年轻的朱文正硬是用他坚强和出色的军事才能，且战且守，在激烈的战斗中守住了洪都。其实在洪都战役打到第五十天的时候，朱元璋已经非常乐观，他看到朱文正能坚持这么久，悬着的心就放下了，也更加相信这一战必胜无疑。到了这年的七月，眼看两方军队都已疲惫不堪，朱元璋认为是派兵相援助的时候了，就亲自统领二十万大军前来洪都援救。
陈友谅见朱元璋来援助朱文正，经过这八十多天的激战，他的将士们已经心力交瘁，就掉过头来向鄱阳湖地区撤退。
朱元璋正打得兴酣，当然不会放过陈友谅。在朱元璋看来，决战陈友谅的最佳时机到了，而鄱阳湖就是这次决战的战场。
虽然陈友谅在洪都失利，但他的水军无论在形式上还是实力上都显然强过朱元璋。但朱元璋的优越的军事分析才能就是辩证地分析问题，他认为自己的弱势也是自己的优点，这个优点会在恰当的时候给陈友谅致命的打击。
决战开始前，朱元璋就开始紧密地部署。他派出几千伏兵，封锁了鄱阳湖到长江的出口，这样陈友谅就没了归路，也无出路，只能在水中作战。而自负的陈友谅不以为然，他看着朱元璋的小船弱兵，再望望自己高大威严的战舰由铁索连成水中陆地，不怕风浪，心中窃喜。
朱元璋聪明的地方是他注重人，他知道人是战争的关键，武器是辅助的工具，而陈友谅恰相反，太过于依赖武器。本来陈友谅的兵士在洪都苦战三月，已经疲惫不堪，而洪都久围不下，士气低落。而朱元璋带领的援兵士气正高，且朱元璋又时时不忘鼓舞将士：“朱文正以如此弱小的兵力，可以守城三月，拒六十万大兵于城外，咱们二十万兵士，难道还打不过陈友谅的残兵败将？咱不怕他的船高人多，咱要的是勇气和策略。”说到策略，朱元璋跟将士们分析道：“陈友谅的巨舰有巨舰的优势，但他的船只铁索相连，虽不怕风浪，但行动不便啊，不够灵活，进退难行。火烧赤壁大家都知道吧，说不定啊，咱就再上演一次。”说得将士们都开心地笑起来，对战争毫无恐惧，反而对决战陈友谅充满了信心。
朱元璋抓住陈友谅过于依赖战舰的弱点，制定了详细的作战计划，而他的主要战术则是火攻，准备待以时机，用火炮、火铳、火箭、火枪、铁炮等大量火器攻击陈友谅的大船。朱元璋的水军人数虽少，但训练有素，纪律严明，分为十队，每队都配备了充足的火器和火药。同时，朱元璋又规定了清晰的指挥信号，白天是旗帜，夜晚是灯笼，远方的鸣炮，近处的击鼓，整个军队行动划一。在数次互相攻击中，双方都死伤不少，朱元璋在几次苦战之后，独自思忖，自古以来的水战都得顺天时占地利，方能取胜。他不时想到诸葛亮借东风，火攻曹营的胜战。问题是，如今，陈友谅处于上游，想要智胜没那么容易，火攻的方式不能改变。既然地利没了，朱元璋更加注重人的因素，他深知天时不如地利，地利不如人和，同时也在等待最佳的时机，比如有利的风向。
这一天终于等到了，那是相持到第三十天的时候，朱元璋正在苦苦思索下一步作战策略，忽见东北风起，朱元璋立即命令各军备战，火船先行顺风而发。这几艘火船并非一般的火船，而是朱元璋的敢死队，敢死队先借着风势冲进敌阵，以誓死同归的勇气向陈友谅的大船撞去，同时点燃数只随行的船只，这些船只装满了火药和芦苇，一时间，熊熊烈火借着风势，越烧越烈，而陈友谅的船只被铁索连着，无法分开，顿时都惹火上身，无法熄灭逃走。朱元璋则借着这个机会发起了总攻。只见密密的火箭、枪炮、火铳、火枪向陈友谅的船只射来，而陈友谅的数条大船丝毫动弹不得，成为水中的火海。陈友谅也中箭身亡，这是元至正二十三年（1363年）的八月。
这一次规模巨大的水战，两兵相持苦战三十六天，朱元璋以火攻大败强大的陈友谅。朱元璋消灭了最有威胁的敌人，而决战陈友谅的成功，也成为朱元璋建立帝业最关键的一步。