胡惟庸被杀之后，朱元璋痛定思痛，想想开国后几位丞相的结局，不禁苦恼起来。汪广洋懦弱不管事，到头来仍是惹祸上身；杨宪和胡惟庸一掌朝政便开始肆意妄为。要说丞相当得最好的，就得数李善长了，各种事情处理起来井井有条，又明白皇上的心思，可终究还是令人不放心。刘伯温最有才干，可人家压根儿不打算当这个丞相。朱元璋百思不得其解。
正当苦恼之际，忽然有人来报，说刘伯温的长子刘琏前来觐见。朱元璋立即召见。
“皇上，先父生前曾写了一份万言书，并嘱咐微臣在胡惟庸死后方可交给皇上。现在胡惟庸已死，微臣依先父遗愿特呈上这份万言书。”刘琏道。
朱元璋接过万言书，不禁伤感起来。真是对不起刘伯温呀，他那么忠心耿耿，死后还进万言书，却最终为小人所害。朱元璋很是愧疚。
看罢万言书，朱元璋又是一阵感慨：刘伯温处身局外，把一切看得通透，真是奇才。他死活都不肯出任丞相，因为他清楚谁当了丞相都注定没有好下场。朱元璋当然知道，自己这个马上得天下的皇帝确实容不了别人独掌大权。正如刘伯温所说，不是当丞相的人不济，而是丞相这个职位让在这个位置上的人不济。中书省的权力太大了，应该听从刘伯温的建议，对中书省进行改组了。
朱元璋不禁怀念起刘伯温来。刘伯温活着自己还可以找他说说话，商讨一下定国安邦之策。可如今斯人已逝，只留下自己这个孤家寡人来面对这一切。正如刘伯温所说，无论多么困难，为了大明江山，为了天下百姓，他朱元璋都应该坚持下来。
其实朱元璋多年的军事生活，使他早已经习惯了自己说了算。历任丞相他都不满意，不是擅权就是无所作为。他对丞相的存在早就不满，甚至反感。他不能容忍在他和群臣之间，还有一个丞相来连接他们。胡惟庸当了七年丞相，朱元璋备感大权旁落。他觉得自己还有能力来剪除胡惟庸这样的权臣，如果后世君王如果没有这个能力，那他大明王朝就危险了。
朱元璋下定决心要改组中书省，无论遇到多少阻力，他都要做下去。为了把权力集中到自己手里，更为了他朱家的千秋伟业。
一日早朝，大学士宋濂进言：“皇上，胡惟庸已被除多日，中书省一直无人打理。还请皇上尽早确定丞相人选，以便主持中书省大局。”
“宋濂啊，这段时间没有丞相有什么乱子吗？没有丞相不是还有咱这个皇上吗？”朱元璋大声道。
宋濂还想说什么，朱元璋又道：“这事先放放再说，没其他事就退朝了。”说完起身离去。
宋濂下朝时不停地摇头叹息。有人问道：“宋大人，您这是怎么了啊？”
“皇上这是想废相啊。自古以来，皇权和相权总是此消彼长，难以调和。开国以来，历任丞相擅权使皇上感到皇权被侵。现在恐怕皇上正在图谋变革啊，你我可都得小心些。”宋濂心事重重地说道。
刚好这话被好事之徒听到，立即禀报了皇上。
朱元璋听完大怒，狠狠说道：“他宋濂是什么人！仗着有几分才学，竟然敢对朝政指手画脚。他以为奉天殿是他宋府书房啊。来人，把宋濂给我召来！”
太子朱标听说此事，立即前来面见皇上。“父皇请息怒，相信宋师只是一时糊涂才会说出这种话，还请父皇见谅。”太子朱标求情道。宋濂是太子的老师，太子一直比较敬重他。
“标儿啊，你怎么这么糊涂。你这样，咱怎么放心把这大明江山交到你手上。宋濂仗着资历才学竟敢乱评朝政，咱岂能容他。”朱元璋道。
“父皇，宋师说的也没错啊。胡惟庸死了这么久，朝廷也该选出个丞相来了。”太子继续道。
朱元璋紧紧闭上了双眼，表情痛苦。其实朱元璋心里更苦，他苦心栽培了太子这么多年，可惜太子一点也看不透这时局，以后万一他登基了，又怎么能斗得过那些奸猾的权臣。朱元璋的废相之心更加坚定了。
正在此时，有人报宋濂来到。朱元璋屏退左右，召进宋濂。
此时，房间内只有朱元璋、太子和宋濂三人。
“宋濂，自古以来，君权相权难以调和。你通览圣贤之书，咱想问问你，如果你是皇上，你应该怎样处理二者？”朱元璋开门见山。
宋濂吓得立马跪倒在地：“皇上，微臣不敢。”
“但说无妨，咱恕你无罪。”朱元璋道。
“禀皇上，自秦以来，历朝历代无不是皇上坐朝，丞相治国。皇上来统一全局，丞相来具体施政。此制之下，盛世迭出，说明此制上合天理，下合国情啊！”宋濂答道。
“可胡惟庸自当丞相以来，欺君篡权，结党谋逆，差点就替咱做了皇上。咱废除宰相制，就是怕再出现一个胡惟庸。”朱元璋不是不知道丞相制的好处，他更担心丞相制不好的一面。历经千年，这不好的一面也难以制约。
“皇上，丞相制下固然会有胡惟庸这样的奸相，但也出了萧何、魏征、王安石这些名相啊。臣以为这不是丞相制的错，没有相权辅政，皇权断不可独行。只要用人合适，驾驭得当，丞相制定能保社稷太平。”
“好大的胆子，竟然敢说咱用人不当！”还没等宋濂说完，朱元璋就打断了他的话。
“臣万万不敢，皇上乃不世出的圣君。”宋濂赶快说道。
“一个皇上既坐朝也治国有何不可？皇上直接掌握大权，让大臣们避开丞相这一关，必定会效率大增。少了小人作祟的机会，大明江山定会国泰民安。”朱元璋废相之心已定，不肯听宋濂再说下去。
“皇上，请皇上为后世之君考虑啊。皇上您是圣君，自然什么事情都可以亲自处理。但一个人的精力毕竟有限，单靠一个明智的皇上，是没有办法治理好一个国家的。再说，如果后世之君不是个圣君，而是个弱君，他没有处理各种问题的能力，这时如果丞相制已废，那谁还来辅佐我们的弱君呢？”宋濂哭诉道。
“你宋濂找死，竟敢辱没咱的后世之君。”朱元璋愤怒道。
“请皇上恕罪。皇上，您心里明白，臣只是为了皇上，为了大明啊。”宋濂道。
朱元璋一想也是，宋濂虽说乱评朝政，但其对朝廷是一片忠心。想到胡惟庸这等奸佞小人，不由得对宋濂的行为暗加赞赏。但朱元璋废除丞相制、改组中书省的主意已定，他宋濂也改变不了。
第二天早朝，朱元璋正式宣布罢中书省，废丞相制，其事交由六部处理，六部直接对皇帝负责。
此时，宋濂因气卧病在床，闻听此事立即带病入朝。
“皇上，臣冒死进谏，丞相制万不可废啊。臣既然在朝为臣，就应该尽到臣子的义务。”宋濂跪求道。
“宋濂退下，此事已决，不可更改。”朱元璋知道有好多人出于各种目的，都不主张废除丞相制。
“皇上，历朝历代有史为鉴，丞相制绝不可废。”宋濂坚持道。
“把这老顽固拉下去，打入大牢。”朱元璋命令道，他现在必须态度坚决，也要震慑群臣。本不想拿宋濂开刀，但宋濂冒死进谏，现在看来不拿他开刀也不成了。
“有再敢进谏拥护丞相制者，宋濂就是你们的榜样。”朱元璋对众文武说道。
朱元璋想了想，像宋濂这样坚决维护丞相制的人估计不在少数，他们现在碍于自己的龙威可以暂时作罢，但难保他们不鼓动后世之君重置丞相。于是朱元璋又下旨宣布，以后嗣君不许议置丞相。大臣们如果谁敢进谏奏请置丞相，必严惩，并把它作为祖训传于后代。
一时朝廷上下议论纷纷。有人认为皇上真乃圣君，废除了存在了一千多年的丞相制，提高了六部地位；也有的为皇上担心，认为缺少了丞相，皇上很难驾驭群臣。
不管如何，朱元璋罢了中书省，废了丞相制。设立五府、六部、都察院、通政司、大理寺等衙门分理政务，并相互监督，直接向皇上负责。这样，朱元璋集军政大权于一身，成了有史以来中国最有权力的皇上。