李善长回乡后，中书省一时没有了主事之人，丞相一职一时还真没有合适的人选。按才能，刘伯温最为合适，可当下淮西勋贵当道，即使刘伯温出任丞相一职也很难有所作为。朱元璋知道处理起这些勋贵来，手段和方法一定要得当，绝不可一步到位，急于求成。汪广洋是高邮人，虽然说和这些淮西人走得不近，但也算半个淮西人。让其出任左丞相，这些淮西人应该不会反对。另外让杨宪出任右丞相，他上台可以牵制一下淮西人，让这些淮西人不至于太过分。
这时刘伯温虽遭遣，但仍住在京城内。朱元璋很敬服刘伯温对人事的判断，所以隔三差五仍密召刘伯温议事。
“伯温，你看咱这样安排如何啊？”一日，朱元璋对刘伯温道出了他心目中丞相的人选。
刘伯温闻听此言很是诧异，道：“皇上，记得微臣曾经说过此二人均不适合为相。”
“伯温难道不明白乱中取胜的道理吗？现在朝廷最大的威胁是来自勋贵们，只有乱咱才能趁机打压。”朱元璋道。
刘伯温听完，不禁打了个冷战。我们的这位皇上真是旷世奇才，办事手段也让人不寒而栗。只是可惜了汪广洋、杨宪二人，他们终将成为皇上和勋贵们斗争的牺牲品。他一时心中很是不忍，于是道：“皇上高见！只是汪广洋生性软弱，而杨宪则戾气太盛，只怕汪广洋难以驾驭杨宪。”
“哈哈，这个伯温就请放心吧。我们不是想打压勋贵吗？杨宪会成为一根很好的棍子。汪广洋和杨宪同坐中书省，杨宪肯定独揽大权，这也是我的目的。杨宪掌权，淮西勋贵肯定没有好日子过。当然，如果让杨宪直接出任左丞，那些勋贵也不会同意，所以只好安排汪广洋出任左丞。”
刘伯温听罢又是一惊，他不得不重新审视眼前的这个皇上：胆大心细，一切尽在掌握。看来，那些居功自傲的淮西勋贵好日子已没多久了。有这么一个雄才大略，但同时做事又无所不用其极的皇上，做臣子的真不知道是幸运还是不幸。
洪武三年（1370年），朱元璋以汪广洋为中书左丞，主导政事。以杨宪为中书右丞，协助汪广洋。
杨宪聪明，把这一切看得通透。刚上任就仗着皇上的宠信而显得咄咄逼人，处处都让别人觉得他才是中书省的主事。
一日，礼部尚书崔亮到中书省办完事，出门刚好遇到杨宪。
“崔大人，见了本堂怎么匆匆忙忙，连个招呼也不打啊？”杨宪一脸不高兴地问道。
“原来是杨大人，实在抱歉。因有要事忙着赶回去，还请杨大人见谅。”崔亮赶快赔礼道。他知道这杨宪如今是皇上身边的红人，又爱找别人麻烦，自己得小心些。
“原来是这样，来我中书省有什么事啊？”杨宪看到崔亮战战兢兢的样子很是开心。
“哦，礼部此次提拔的人选拟定了，前来呈报给汪大人。”崔亮道。
“崔大人，难道你不知道我们中书省的规矩吗？这种事情应该先报给我才对啊！我看了再交给汪大人审定，难道你不知道吗？”杨宪很是恼怒。杨宪心想，这事幸好被自己遇到了，礼部人选提拔怎么能不走我这关呢？于是，他问道：“那名单现在何处？”
“杨大人，那名单已呈给汪大人过目了。”崔亮不解为什么名单要拿给杨宪看，按道理应该交汪大人才对的。
“赶快到汪大人那儿取回来，告诉他本堂要看看。”杨宪命令道。
这汪广洋也是聪明之人，明白自己坐在这个位子上该干什么。淮西勋贵自己得罪不起，皇上当然更得罪不起。我汪广洋什么别做就对了，杨宪那么爱干事，干脆就把中书省放手给他，这倒也遂了皇上的意。于是崔亮来取，汪广洋就把名单还给了他。
杨宪看完名单后，大声叱喝起崔亮：“崔大人，你这名单拟得太草率了，幸好被我看到了。这要是交到皇上那儿，我们都得跟着倒霉。”说着顺手改了几个名字，递还给崔亮。
崔亮接过一看，杨宪竟把名单上淮西籍的人全部换成了他的亲信。崔亮敢怒不敢言，只得说道：“杨大人果然高见，以后还请多多指教！”趁着杨宪大笑的时机，赶紧告辞离开。
这件事过后，杨宪更加有恃无恐，也越发不把汪广洋放在眼里。汪广洋虽然不管什么事，但他毕竟还是左丞，杨宪有什么事也得报请汪广洋批准才能生效。杨宪觉得自己应该搬倒汪广洋取而代之。于是派人整天盯着汪广洋，等他犯错。
说也奇怪，什么事情都让杨宪做了，汪广洋即使想犯错也没这机会。一连数日，盯梢汪广洋的人都没有结果。
这一日，负责盯梢汪广洋的一个人忽然来报告杨宪，说汪广洋原来怕老婆。昨天母亲和夫人闹别扭，汪广洋竟然出言训斥了母亲。
杨宪如获至宝，立马进宫禀报皇上。他明白皇上如今罢免汪广洋，需要的只是一个借口。
“皇上，汪广洋竟然对母亲如此不孝。臣建议罢了他这个左丞，另选贤才。”禀告完汪广洋的罪过，杨宪又说道。
朱元璋听闻，感觉很是好笑，心想，咱知道你杨宪想当左丞相，但你也想得太疯了吧。我是想罢了汪广洋的左丞相，他也当得也太窝囊了。也罢，是时候试探一下淮西人的反应了，也趁此让你杨宪满意。
于是，汪广洋因不孝，刚当上左丞没几日就被皇上赶出中书省，流放他乡。洪武三年（1370年）七月，朱元璋任杨宪为左丞相，同时将淮西人胡惟庸调入中书省担任参知政事，以安抚淮西人。杨宪取得了相权之争的初步胜利。
但正如刘伯温所言，杨宪此人有丞相的才能，但没有丞相的气度。
李善长曾经罢黜过杨宪的哥哥杨希圣。李善长虽然告病还乡，可皇上并没有免去他的官职。现在杨宪独揽大权，决心搬倒李善长这个淮西勋贵的代表。
杨宪多次向朱元璋说道：“皇上，臣以为李相国近年来年老体衰，已显疲态。况且中书省在他的领导下各部门相互推诿，效率低下。微臣以为他曾经为皇上立过不少大功，现在该退下来享享清福了。”
朱元璋想起刘伯温的话，心道杨宪你果然锱铢必较。李善长可是淮西派代表，不可能凭你几句话就能罢了他的，恐怕动他得付出点代价才行，你这样咬着他不放只怕会丢了性命。
这时李善长不在朝中，淮西派的代表变成了中书省参知政事胡惟庸。他听到杨宪向皇上进言欲罢李善长的消息后，立即去见李善长。
“李相，杨宪进言明摆着是想自己做大。杨宪是刘伯温的好朋友，若杨宪为相，刘伯温自然大权在握，那么我们淮西人士就别想再出头了。”胡惟庸道。
“惟庸，你不明白。当今皇上是一代圣君，做事自有其深意。丞相职位不可贪恋，即使杨宪不参我，我也不准备继续做这个丞相了。”李善长说道。
“可我们怎么办呢？”胡惟庸焦急地问道。
“我所眷顾的还是你最了解，就是我们那些淮西的子弟。有杨宪这个小人在，恐怕没他们的好日子。”李善长愤怒地说道，“我们得把他搬倒。为官这么多年，难道他就没得罪什么人？”
“汪广洋！”二人几乎异口同声道。于是，一个计划在他们中间形成了。
回京后，胡惟庸立马觐见皇上。他向皇上禀报道：“皇上，微臣得报杨宪派杀手在流放的路上欲杀死汪广洋，刑部已经证实。”
皇上明白，什么证实啊，肯定是李善长的主意。于是急召李善长，问李善长道：“善长，你病还没好吧？以后中书省就不要去了，那边的事交给胡惟庸，你应该放心了。杨宪他太过分了，不杀难平民愤。”
李善长明白，皇上准备以杨宪的死和胡惟庸为丞相来换自己的归隐，心中很是不安，只怕自己影响太大，皇上终归不会放过自己。他赶忙道：“皇上，微臣何德何能！请皇上恩准臣回老家过几年太平日子。”
“你不是喜欢杭州吗？咱在杭州给你修座府第，你到那享享清福吧。”皇上想了想说道。
“臣领旨谢恩。”李善长明白，皇上让他去杭州并不是回老家，这是派人监视他呢。
洪武三年（1370年）七月，就在当上丞相的当月，杨宪被处死，成了派系以及君臣斗争的牺牲品。
杨宪死后不久，李善长告老隐退。朱元璋迈出了与淮西勋贵斗争关键的第一步。