朱元璋在和州发展得正好，孙德崖以借粮之名前来干扰。郭子兴闻讯也赶来，两人在和州争斗起来，最后孙德崖离开和州，郭子兴在和孙德崖的斗气中死去。
没了郭子兴，朱元璋知道郭天叙并不是自己的对手，他可以名正言顺地独立出来。然而，郭子兴虽然死了，孙德崖心中还因在和州的不快而嫉恨朱元璋，想要整死朱元璋。思来想去，孙德崖也没有什么太好的计谋，就用了一招鸿门宴，以宴请朱元璋为由，诱使他进入濠州城，想在城内用计杀了他。朱元璋自然没有不去的理由，然而孙德崖并不是朱元璋的对手，此计失败，自己反而丧了性命。孙德崖死后，赵均用几乎掌握了濠州城的军权，不愿再依附在濠州，带领军马另立山头，自封为永义王。
濠州这路红巾军，因各位元帅的分裂而军心渐散。孙德崖他们几部分的人马被赵均用占去，而郭子兴所属的人马也面临领导者更替的问题。按道理说，郭子兴死后，他的军权应由他的儿子郭天叙、郭天爵接管，问题在于有个能干的女婿朱元璋。经过一系列事件和攻打滁州、和州，朱元璋在军队里的声望越来越高，臣服者越来越多，还收拢了很多文才武将，像李善长、冯国用、冯国胜、胡大海、常遇春等人。
在郭天叙兄弟这边，当然不愿军权落入朱元璋手中。郭子兴一死，兄弟俩立即安抚将士，采取各种措施，企图拉拢人心，树立威望。尤其是郭天叙，仗着小明王封的都元帅称号，处处挤压被封为副元帅的朱元璋，以明确的方式告诉朱元璋，郭家军是姓郭的，姓朱的人离远点。
面对这种情形，朱元璋心中很苦恼。本来被小明王封为左副元帅，位阶在郭天叙和张天祐之下，他就有些不满，但想着他并不看重韩林儿的赏封，而且无论怎样得有个依靠，心中也还能够忍受。朱元璋早就不满郭子兴等几位元帅目光短浅，独自发展的打算早在心头。只是眼下郭子兴刚死，郭家兄弟如此排挤他，他又不能冒着不仁不义之名在这个时候离开郭家独自发展。除了忍耐，朱元璋也在寻找机会，寻找恰当的时机摆脱郭天叙，名正言顺地发展自己的势力。
等了些时日，朱元璋心中开始有些着急，身边的兄弟徐达、汤和他们早已看不惯郭天叙如此挤压朱元璋，整日气呼呼地说要杀了那姓郭的。朱元璋表面上安慰他们，说要先以团结为重，不可分裂。其实他心中，比谁都想除掉郭天叙。因为，这半年来，各路起义军都发展得很快，只有他这一方的红巾军先是内讧，再是元帅们自相残杀，折腾得毫无进展，只有朱元璋攻下些城池，收了些兵马。再不发展，即使不被元朝灭掉，早晚也会被其他起义军排挤出局。更重要的问题是，跟郭家兄弟无法合作，跟着郭家那帮人根本混不出什么模样来。那些人，包括此前濠州城内的老元帅，都是只图眼前、胸无远志之人。
机会是在和州保卫战之后。不久前，元军以重军围攻和州，朱元璋以出色的军事才能守住了和州，打退元军，使得郭天叙和张天祐都不得不对朱元璋敬畏三分。而朱元璋则抓住时机，对两位说出要乘胜打过长江去的意见。虽然张天祐有些不积极，但郭天叙在朱元璋的鼓动下颇为心动，张天祐也不好再坚持己见。
和州东南靠着长江，渡江不是太难的事情，问题是渡江之后如何发展。李善长建议渡江后先占领太平，因跨过长江，正对面就是太平，太平南邻芜湖，东北即可到集庆，东面就是丹阳湖。丹阳湖地区的丹阳镇、高淳、溧水、宣城都是产米的地区，只要占领太平，集庆就在眼前，且附近地区产米，粮食物资有保障，可养兵蓄锐，待机谋集庆。
朱元璋非常认可李善长的分析，决定渡江后先取太平。就在朱元璋高兴的时候，冯国用的话提醒了他：“渡江需要船只，至少得上千条，一时也难以打造。就算有了上千条船，没有水兵，难以行驶啊。”
众人突然意识到这是最关键的问题，朱元璋和文武将士昼夜商量，也没有好主意。
第二天一早，冯国用来见朱元璋，说想起一个人，此人或许可助一臂之力。朱元璋忙问何人，冯国用道：“巢湖水军头目李国胜。”李国胜是彭莹玉的门徒，在一次和元军作战中失利，退到巢湖地区，建立起水兵，有一千多条大小船只。此前，李国胜和庐州的地方头目有冤仇，曾向朱元璋三次求兵相救。朱元璋虽未放在心上，倒也拨了些人马过去帮忙。
朱元璋觉得此时也只能去找李国胜帮忙，为表恳切之心，他亲自到巢湖去联络李国胜。朱元璋力劝李国胜：“如今豪杰四起，咱势单力薄，若不联合起来恐难发展。不如两家合力，一起渡江，到江南谋出路。”朱元璋又把各方形式、江南情形一一陈述给李国胜听。李国胜也觉得久居巢湖，又和地方势力纠纷不断，再谋发展也不是办法，即决定合力渡江。此时，正是五月间的梅雨季节，阴雨连绵，大小河流都涨满了水，大小船只很轻易地就到了和州。
元至正十二年（1352年）的六月初一，朱元璋率领徐达、汤和、邵荣、冯国用、常遇春、邓愈、李善长等人，分从水陆两路乘风渡江。先到了采石，常遇春做前锋，直击元军，元兵突然遭袭击，很快就被击溃。采石很容易就被攻下，且收了不少元兵。朱元璋率众人先在采石驻扎下来，再乘胜攻太平。
仅仅休息了一天，朱元璋即决定直取太平。朱元璋担心兵士刚刚渡江，无心再战，又担心他们思念家乡，就下令把船的缆绳砍断，让大小船只顺着激流而走，很快江面上就没有半点船只的影子。兵士们见此情形，人心慌乱，不知为何。朱元璋遂召集各路军士，大声道：“诸位兄弟，前面就是太平府了，太平物资丰厚，只要攻下太平府，物资可随意取得。”将士们听了，立即有了精神，个个斗志昂扬。
朱元璋这一招，无异于望梅止渴，以前方的诱惑鼓舞人心，激起斗志。
将士们一鼓作气，直攻太平，很快即取下太平。
将士们正待抢掠城中财物，却见到处贴满了朱元璋让李善长事先写好的禁令：“城中物资、女子不可抢掠，违者处以军法。”而且有人四处巡逻探查。兵士们只好无奈地望着唾手可得的战利品，朱元璋还杀了几个违令的小兵示众。
太平城中很快安定下来，兵士们个个遵守军法，百姓们人身和物资皆未受到威胁，对朱元璋的军队赞不绝口。而朱元璋也担心自己此前毕竟有所承诺，如此出尔反尔，怕军心不稳，就让当地的大地主、大财阀捐献出些钱财金帛，赏给将士们，只要有赏，全军人人欢心。
而李国胜，其实在渡江前就有自己的野心。他想趁渡江的机会暗杀朱元璋，趁机得到朱元璋的军队。而这一点，朱元璋已有防备，在他从巢湖回到和州的时候，冯国用和李善长一听李国胜同意，就觉得事情恐怕没那么简单，让朱元璋多个心眼。朱元璋也知道李国胜为人狡猾，所以此前不愿和他往来，但这个时候，只有借助李国胜的船只渡江，就在心里多了些防备。
果然，李国胜在行至江中心的时候，邀朱元璋饮酒商讨军事，预谋杀害朱元璋。朱元璋到了李国胜那里，见李国胜身边一个叫桑世杰的人神态不定，在未饮酒前多次踌躇地望着朱元璋。朱元璋此前去巢湖的时候，和桑世杰有过短暂的交流，知道此人诚恳踏实，见他神色异常，朱元璋向他使了个眼色，借上厕所的机会离开客房。果然，朱元璋在厕所门口遇到桑世杰，桑世杰告诉朱元璋李国胜的阴谋诡计，劝他勿饮酒。
回到客房，朱元璋稍稍坐了一下，就要告辞。李国胜当然不依，说：“刚才论军法，谈军事，这闲酒还未喝呢。这是你我首次合作，当饮酒庆祝才是。”
朱元璋故作亲密地说：“李兄不知啊，元璋不习水性，正闹肚子呢，再不走可要坏了你的雅致啊。”说罢还幽默地笑了几声。
李国胜见朱元璋并无疑心，表现自然，不可挽留，也就作罢。
朱元璋回去后，心中愤恨，决定要除掉李国胜，不然到了江对岸，又是一个障碍。
隔了两天，朱元璋就传话给李国胜，说今日病体痊愈，要设宴回请李国胜。李国胜心中并未多加防备，也不知道他的手下出卖了他，就去赴宴。酒桌上，朱元璋让能喝酒的汤和、徐达他们都过来相陪，直把李国胜灌得酩酊大醉，不省人事。朱元璋向汤和使了个眼色说：“快扶李将军下去歇息。”汤和让几个小兄弟把李国胜捆绑起来，丢进了长江。
这一具有战略意义的举动，是朱元璋攻集庆谋大业的关键所在。朱元璋不仅成功地渡过长江，取下太平，还在渡江途中除掉了李国胜，收编了李国胜的军队。从此，朱元璋拥有了第一支水军，而太平也成为朱元璋谋取江南的第一步。