公元1363年陈友谅战死，他的地盘和残军很快都被朱元璋收归肃清。而这个时候北方的元军正在进行内斗，打得不可开交，富有的张士诚不久自立为吴王。面对这种情形，朱元璋觉得“缓称王”的策略需要应对新的形势有所改变，“吴国公”已经不能和眼下的政治形势相对应了。
到底称什么呢？刘伯温和李善长都认为，应天在历史上是孙权的都城，孙权所拥有的正是吴国，虽然张士诚自称为吴王，但是吴王这个称号内涵丰富，要想统一天下建立国家，此时称吴王最合适不过。所以朱元璋在元至正二十四年（1364年）的正月也称了吴王，设置百官，建立中书省，一个农民的儿子终于转变为王侯。此时的尴尬就是两个吴王同时出现，为了区分，在人们的心目中，张士诚就成了东吴，朱元璋则为西吴。
一山难容二虎，两个吴王接壤相连，争斗是必然之势。而挑起争端的又必然是有野心的那个。成为王的朱元璋心里很清楚，要巩固自己的霸业，不可仿效他人的享乐，他已经拥有应天这个虎踞龙盘之地，就必须守住这个据点，壮大这个据点。此时的朱元璋，虽然除掉了一个厉害人物陈友谅，初步控制了长江中游的势力，但是他的野心是得天下，立大业，他怎能容得下附近的吴王。
当年为除陈友谅，朱元璋无暇东顾，对张士诚只能拉拢，甚至签下君子协议。然而现在北方的元兵无暇南顾，江南又只剩下朱元璋和张士诚两个可以抗衡的势力，朱元璋认为这是除掉张士诚的最佳时机。虽然当年陈友谅邀请张士诚一起对付朱元璋，张士诚不愿掺和事端，只愿自顾，如今朱元璋却顾不了那么多的礼数，他要主动出击，在江南开战势在必行。
战争总是你死我亡的残酷，为确保胜利，朱元璋得稳定大本营，拉拢周边地区，专心对付敌手。他派使者与四川的明玉珍通好，以稳定江汉局面，集中兵力和精力对付东南一隅的张士诚。
总要找点事由对付这个富庶的对手，朱元璋在寻找出兵的借口。
元至正二十五年（1365年），一个深秋之夜，摇曳的烛光照着朱元璋紧锁的眉头，而他的双眼是忧虑中的笃定，一个大的谋划在他心中。朱元璋对诸位将士说：“近日张士诚的士兵总是在两军边界闹事，诸位有何看法？”
常遇春是一个狂傲之士，好战善斗：“直接打到苏州去，灭掉张士诚。”
老将徐达也赞成常遇春的提议，他清楚朱元璋的心理，只不过找点借口让他们说出征战之事。
其余的人皆认为打张士诚迫在眉睫，不可不打。
朱元璋看到属下已明晓他的意图，眉头舒展开来，半晌无语，言道：“此一战看来难免，不可鲁莽行事，商讨之后再决定。”
隔日，朱元璋命刘伯温写一封招降书差人送去张士诚那里，先激怒对方。
这边，朱元璋与文臣刘伯温，三帅徐达、汤和、常遇春正围着茶案商讨战策。
常遇春想起那封招降书，不禁笑道：“这姓张的肯定气急败坏，让他花天酒地占据江南半壁的美梦早些破灭吧，看我们到时候怎样杀进他的安乐窝，这老家伙现在还没料到梦不久矣呢。”
徐达爽声应道：“以我之见，应尽快冲进苏州，拿下苏州，张士诚所属的其他军队亦不攻自破，肯定归顺我军。”
这时只见朱元璋端起茶杯，轻轻呷了一口，目光转向一直无言的刘伯温。
汤和抢先讲话了：“先打苏州为上策，然而若是张士诚的军队都赶来支援，我方必有损伤。”
朱元璋心里并不是没有盘算的，他知道张士诚占领的区域为南北狭长地形，中间隔着长江，南北的兵力支援不便。但若是直接打去苏州，并非易事。
几经商讨，朱元璋坚持己见，认为不可轻率地先攻打苏州，应先击其羽翼，从外围入手，把张士诚的势力截为两段，使其南北阻隔，难以呼应，为进攻湖、杭两州创造有利条件。
尽管徐达、常遇春对此决意有异议，但朱元璋此谋必胜的气势写在眉宇之间，两人亦无言再对。
不久，朱元璋命徐达、常遇春率一部分舟师水陆并进，渡过长江，进攻淮东。徐达和常遇春先行击溃张士诚军一部分，进抵海安，不久克海安后进围泰州新城，败张士诚援军，擒其元帅王成。此时，张士诚为分散朱元璋的兵力，以四百艘舟师泊在长江北岸一个叫范蔡港的地方，同时部署诸多水兵在江苏靖江北部水域，以诱惑徐达前来，再乘机反攻。朱元璋指挥若定，不为所惑，仍旧把主力放在海安、泰州地区，使张士诚计谋失败，无机可乘。
数月后，朱元璋派部将又攻下张士诚的发家之地高邮。
元至正二十六年（1366年），徐达与常遇春会师淮安，克兴化。五月，又攻下朱元璋的老家濠州。
为显示自己与往日之不同，朱元璋亲至濠州，省陵墓，宴父老，真是与当年不可同日而语。
更大的胜利就在眼前。朱元璋采取集中兵力，先除去张士诚羽翼的战略，把其势力分为两段，南北阻隔，无法呼应，为日后的进攻打下了坚实的基础。
形势一片大好，朱元璋也不讳言即将到手的更广大的土地。
但是文臣李善长却不乐观，他以为：“张士诚看似屡战屡败，实则兵力未衰，且其富庶一时，为人乐善好施，周遭百姓多有拥戴，恐一时难攻下其老巢。”
武将徐达毕竟为打仗之人，进言道：“天将亡他，其部将多为享乐暴奢之人，且近日连连败退，中用之人亦不多。臣以为当率精锐部队，乘胜再击，张士诚已无反击之力，亦无处可逃。”
朱元璋当机立断，即刻决定出兵，不容军内有对战事异议者。他深知，如若耽搁下来，士气将降，且迟迟不攻张士诚老巢，难免军内有不服者叛变。
八月，朱元璋命徐达为大将军，常遇春为副将军，率二十万精兵，以集中主力消灭张士诚。此时，朱元璋已料到张士诚必对苏州重兵把守，需要调其兵将离山。他毫不迟疑地命令正准备直击苏州的二将不要急于取苏州，先直击湖州，使张士诚的军队不得不从苏州分散至湖州，待其军士劳累奔波疲惫之时，移重兵直至苏州，必胜无疑。
徐达、常遇春二人也不得不佩服朱元璋的计谋和战略。
此时，李善长不由得对刘伯温言道：“其人有君主之威，将来之事可见端倪。”
刘伯温笑而无语，他知道朱元璋有更大的企图。
这一仗打了数月，苏州成为孤城，南、西、北三面被朱元璋的军队围困。
直到吴元年（1367年），围城三月依然未能攻下，军士已有焦躁不安之心。常遇春向来是杀戮成瘾，建议道：“当立刻攻城，杀进城内，不必死守。”徐达不置可否，他一向最听朱元璋的，如今将身在外，不敢轻举妄动。
朱元璋对此泰然处之。他在派兵围攻苏州的同时，还做了另外一件重要的事情——派他的大将廖永忠去“迎”小明王韩林儿，并在途中命廖永忠结果其性命。朱元璋心里是何等明了，战时“迎”小明王，他必无疑心，趁此机把他做个了结，免得日后再生枝节。再说这边，朱元璋见张士诚缩在城内动弹不得，心中早有胜数，只是不愿攻城伤及城中百姓，将来难以平抚，即给徐达、常遇春只围不攻的命令。
同时，朱元璋不断让文臣们写劝降书送进城内，劝张士诚早日投降，然张士诚来了个拒不回信，亦不投降，死守城中。对此，朱元璋有的是耐心：就等你耗到粮绝之日。
至七月，张士诚城中已无粮草，他只得亲自率军突围。张士诚的兵士打开城门准备出战，即迎来常遇春这位勇猛之将。常遇春挥兵向前，他早已等得不耐烦，把张士诚的精兵杀得落花流水。张士诚惊吓不已，从马上坠落，被士兵救起匆匆逃回城中。
忍无可忍的张士诚恨透了朱元璋，休息十日后，咬紧牙关，亲自率兵再次出击。这次可不得了，张士诚和他的军队已无路可走，做好了视死如归决一死战的准备，表现得勇猛惊人，甚至骁勇的常遇春都险些招架不住。眼看张士诚有胜利的希望，城头不知谁喊了一声：“军士如此辛苦，可以休息再战！”瞬即鸣金收兵。张士诚及其士兵正惊讶不知如何之时，常遇春已经掉头再击，大败张士诚。
原来，朱元璋早在城内安插了自己人。他知道张士诚的性格不易劝降，恐其来个誓死抵抗，这样必伤及自己的士兵，他先下手为强，差刘伯温找了机灵的士兵见机行事，以干扰张士诚的军心。
不久，徐达展开猛烈的攻势，苏州城陷。
辉煌一时的张士诚也只是英雄穷途末路了，这正是日暮时分，他和他的夫人刘氏，怀抱两个幼子，准备以死了结。他无法忘记连日来的悲惨，更无法原谅自己当初没有和陈友谅一起抵抗这个看着并不起眼的朱元璋。他只是想当自己的小帝王，和家人过着安稳的日子，守着身边的百姓安居乐业，他厌倦了战争。然而，他没意识到朱元璋的雄心，对朱元璋最初的“劝降”并未放在心上。落日的余晖映着他和他的家人，以及惨败不堪的城楼，他的心里涌起百般滋味。
就在这回味往昔的时刻，他被徐达的将士找到，那曾经是他部将的人，如今相见两相无语。
徐达押回张士诚，送给朱元璋处置。
朱元璋迎来披头散发的张士诚，心中感慨，这也是昔日的英雄啊。同时，张士诚的凄惨样，更激起了朱元璋平定天下为我所有的决心。他明白，人不可无志，只有足够的强韧，彻底消灭了敌人，他朱元璋才能真正的安稳下来。
是夜，张士诚趁人熟睡之时，以被单上吊自尽。
张士诚这样的性情之人，在乱世中难为大谋，用朱元璋的话说就是一个没有“气魄”的“小气”之辈。消灭了最富有的邻敌张士诚，朱元璋并没有放下心中的忧虑，他还有更强大的对手，那就是元朝。他朱元璋不是张士诚，他看得更远，也更有忧患意识，他的伟业已经揭开序幕，下一个谋划在朱元璋心中展开：扫除余下的起义军势力，再集中精力对付元朝。