一九二七年四月蒋介石对共产党的清洗而引发的政治迫害，一直持续到一九三七年日本人侵略中国，这迫使国民党再一次和共产党结成脆弱的联合。在此之前，共产党一直自信革命即将在中国舞台上滚滚向前，相反却发现到处都是紧迫的危机。威胁迫使一些中国共产党员流亡，逃往像汉口那样的内地城市，那儿国民党左派依然欢迎他们；或者逃往香港，那儿英国法律提供了防范国民党秘密警察的保护措施。但是许多共产党员在上海转入了地下，只有靠小心谨慎和伪造身份来保护自己。在这些领导人当中，包括在五卅运动中赢得卓越声望的年轻劳工鼓动家李立三，他装扮成一个古玩商人；还有康生在上海大学的老师邓中夏，邓化装成一个理发师。
康生也留在上海，在法租界过着共产党员的秘密生活，由于他的机智和对这个城市的了解，加上日趋谨慎和对都市生活方式或世态的熟知，他存活了下来。他熟悉上海的胡同小巷，他了解上海豪华旅馆和大百货商店的进口和出口，他后来自夸说，没有一个人能够抓住他。就这样过了六年，直到上海变得异常危险，康生才不得不撤退，前往莫斯科。
康生不仅仅熟悉这个城市的自然环境。按照一位后来移居香港的左翼作家的说法，康生的生活就像其他许多来上溥求学的富有年轻人一样。在一○年代中期，电影院和舞厅尚属风毛麟角，因此他们的时间大都泡在中等妓院里，那儿的风俗允许他们一边同鸨母们喝酒，一边怀着免费性交的希望同妓女们调情。上海大学的男学生，同其他意识形态不强的学生并无二致，一样寻求娱乐，尽管他们以“调查社会弊病”之名，为自己寻求快乐的行为辩护。也许如这位作家所说的，康生也不例外。
一旦卷入地下党工作，康生便对上海夜生活的知识运用自如。当他觉得自己正处于被国民党特务逮捕的危险中时，他时常会躲避到某个妓院，在那儿他可以消失一个小时或者一个晚上，因为他知道安全检查机关很少会突然搜查这些付给当地警察规费的场所，所以很安全。康生还利用上海为数众多的弹子房和澡堂，作为紧急庇护所和小心谨慎的会议场所。这些娱乐场所一直通宵开放，为党干部进行秘密集会提供了极好的去处。
在一九二七年四月的突发灾祸之后，康生开始过一种新的生活，这种生活能提供他日常的各种需要——食物、金钱和性——并能使他在国民党特务的眼里显得毫不起眼。他的第一个动作是找了一位新妻子，这样他可以做为普通的已婚男子而被人忽略。在中国，没有比一个独身男子更令人怀疑的了；在中国共产党的早期，资深男干部至少要以已婚形象出现的压力非常强大，因此时常有隼轻的女性党员被指定同他们一起生活来作为掩护。诚然，康生已经有妻子和孩子，但是这场由父母安排同陈宜的婚姻，已经远远不适合他了。
康生最后一次看望陈宜是在一九二五年六月，当时他同他的亲密伙伴李宇超和孟超一起回到诸城老家。从那以后，他简直就不再理她了。最初，陈宜依靠康生的父亲过活，在他父亲死后，她则同康生的儿子张子石一起生活。她死于何时不太清楚，但是无论如何，她早已从康生的生活中消失了。康生的女儿张玉瑛，最后嫁入诸城一户地主家庭，但后来同她丈夫离了婚，进了一家烟草工厂做工。
康生本人并不注重法律上的细节，也从未操心过要办理正式的离婚手续。根据那个时代的标准，他的行为并非异常。
在五四运动之后，个人主义和自由选择的现代西方思想日益普及，许多年轻的中国人，不论是共产党员还是非共产党员，都纷纷摒弃父母做主的婚姻。中国共产党后来实施清教主义的法规，但是在二○年代和三○年代期间，一些年青人接受非正式的婚姻并且信奉自由恋爱的理论，即所谓的“一杯水”主义——性交就像喝杯水一样。有些中国男人实行一夫多妻，另外有些人在适当的时候就变换配偶。
蒋介石，虽然他的生活更为拘谨保守，却有着类似的记录。一九二七年十二月，蒋介石疯狂地爱上了孙中山的遗孀宋庆龄的漂亮妹妹宋美龄，遗弃了他的第一任妻子毛福梅，他最喜爱的儿子蒋经国的母亲。蒋介石从未正式同毛福梅离婚，然而，他擅自考虑着同宋美龄结婚。这两人的结合引起许多争吵。宋夫人坚决反对这桩婚姻．美龄的父亲宋耀如则表示，除非蒋介石同意皈依基督教，他才肯同意这门婚事。不仅如此，青帮头子杜月笙也害怕这场同孙中山家庭的联姻，会使蒋介石忘记对上海黑手党的义务。在美丽的美龄“嫁给”蒋介石不久，她乘上一辆轿车，以为她将前往她姊姊的房子，但是相反，她被送往一座陌生的、条件舒适的别墅并且被扣留。蒋介石的内弟宋子文最后同杜月笙打交道，杜月笙解释说他很关心美龄的安全，因而把她保护在一个安全的地方。蒋介石毫不费力就猜透了杜月笙的心思：他永远不可忘记付给这位青帮头子适当的权益。
一九二七年，康生同一位在上海大学遇到的年轻女子结了婚，她学习中国文学。康生的新娘原名为曹淑英，后来她把名字改为“轶欧”（压抑欧化）——这种中国沙文主义的作法完全合康生的意。她也来自山东，是个典型的现代中国女性。曹轶欧是带着自然的、未曾缠绑过的双脚长大的，在省会济南享有声望的山东女子学校受教育。由于受到五四运动激进观点的洗礼，她在一九二六年加入共产党。像康生一样，曹轶欧以前也结过婚，她抛弃第一任丈夫同康生结婚，这也是她反抗的一个象征。
曹轶欧从未给康生生过一男半女，但是他们的关系却比那个时代许多便利的共产主义“婚姻”包含更多的东西。个子娇小、表情愉快，曹轶欧事实上充分准备好参与康生那些最曲折和最危险的密谋，这是政治代价。对一个过着秘密生活的男人来说，她是个极相称的伴侣。康生最终协助她闯出自己的政治生涯。
结婚一年以后，在一九二八年年底，康生又一次改了名，舍弃了“张耘”，代之以“赵容”这个名字，这是他第一次隐瞄同张家的关系，采用了另一个同他本家不同的姓。康生通过雇佣关系，安全地成为上海中华商会会长虞洽卿的私人秘书，开始了他的新身份。虞洽卿控制着银行业和船舶航运业，是上海最有影响和最富有的中国企业家之一。他是一个大有争议的人物，是一九二五年反英罢工运动的主要支持者；身为一个带有民族主义倾向的商人，能够雇用一个来自山东、具有进步和排外倾向的年轻人，这并不出人意外。虞袷卿在上海的中国公民圈享有很高的名望，几度被推选为市民公众代表，同上海市议会谈判协商。他坚定拥护中国利益——有些人怀疑他“同情共产党”——然而他还是旧秩序的一部分。虞洽卿是黑帮领袖杜月笙的密友，还是蒋介石的主要财政捐助人之一。
但是虞洽卿雇用康生是因为他的书法，而不是因为他的政治倾向。就其所拥有的财富和权力来看，虞洽卿依然是个买办，这是中国商人中的一个特殊种类，靠同西方人做生意赚取巨大的财产，但是上海之外的中国人普遍轻视与西方贸易，他们对现代商业世界及其可疑的道德标准抱着悲观的态度。
外省的居民们不信任像虞洽卿那样从事多种商业活动的上海人，同今天许多美国人对华尔街那些追求财富者的看法几乎一样。“对买办来说，甚至外国人的屁都是香的。”二十世纪早期作家吴趼人这样评论道。
为了表明自己是个文化人，虞洽卿保持着十九世纪士绅的习惯，继续穿戴传统的中国帽和长袍马褂。为了同他的中国式长袍马褂的形象相一致，虞洽卿给朋友和生意合伙人寄出不计其数用毛笔书写昀来往信函：请帖、领受书、拜帖、贺辞、吊唁信。虞洽卿需要雇用一个擅长书法的人，而康生，一个出生于历史悠久的书香门第的孩子，正擅长使用毛笔。
到二○年代末，康生一直过着一种双重生活。对于外界来说，他是个受雇于上海最有钱的商人之一的年轻人，与他的妻子一起生活在法租界。在上海，有数千名年轻人在为大商号工作，他的生活方式看上去并没有什么与众不同。但是康生和他的妻子却是献身于共产主义的人，而且他还是个地位正在上升的干部，统管上海大部分的地下党组织。
利用乔装成上海最大的资本家的秘书之便，康生狂热地工作，在党内扩张他的势力，并渐渐爬上共产党的上层。那时并不缺乏机会。蒋介石一九二七年对共产党的大屠杀，在中国共产党内部点燃了长期争斗和派性活动的导火线，时间长达十年之久。关于四月灾难，党内互相谴责，党的战略被热烈地争论，干部们为了党的领导权而彼此竞争，每一个人都把失败归咎于他的对手，并允许重新恢复失去的地盘。一些人，比如中国共产党总书记陈独秀，把这次灾难归咎于斯大林的错误情报及自私自利的政策，他并转向托洛茨基，组成了中国的托洛茨基派；其他一些人对党的领导感到极度的幻灭，他们因而试图建立类似的共产党组织；另有一些人转向了国民党；还有一些人完全厌倦于激进政治中固有的争吵和危险，转而回归从前的生活去了。
康生属于绝不抛弃党的忠诚者之列。当白色恐怖最严厉时期过后不久，中国共产党指挥部从汉口迁回上海。生活在上海，康生可以从派系斗争中充分得益。那时，康生已经完全熟悉了当地的共产党组织，一旦国民党追捕，绑架、囚禁或者杀害资深共产党员，他能够利用一切机会取得优势。
在这个严酷的勾心斗角和理想主义破灭的时代里，康生的地位迅速窜升。在一九二七年第三次工人起义时，也是一个市级组织者——共产党在上海划分的三个区的领导者之一。到六月上旬，仅两个月以后，他就被拨擢为江苏省委员，这是紧随蒋介石清洗之后创建的一个新机构，以领导中国共产党在上海和周围地区的活动。
康生在基层工作时和第一任中国共产党总书记陈独秀很少接触，陈独秀是个四十八岁的老战士，从一九○○年起，几乎参加了每一次激进运动，他在一九二七年八月被免去了领导人的职位，继任者是瞿秋白。在上海大学时，对康生具有强烈影响的瞿秋白，对革命的观点鲁莽且幼稚，以致他成为总书记统领全党的时间很短，而且他的领导风格过于遮遮掩掩，根本不能给像康生那样的低级干部任何帮助。一九二八年七月举行的中国共产党第六次全国代表大会上，共产国际的干部对瞿秋白盲目搞的几次武装起义所造成的灾难感到幻灭，特意撤了他的职。
参加在莫斯科郊外举行的第六次全国代表大会的代表们，任命了苏联人属意的候选人向忠发为党韵总书记。长江上做水手的向忠发，以矿山工人的鼓动家作为他政治生涯的起点。他的无产阶级出身使他被选中去莫斯科进行培训；在那个时期，他是党的领导集团里少数几个工人之一。在莫斯科的中国工人也很满意向忠发的圆通和他那有吸引力的演讲。
但是向忠发缺乏教养，说话粗鄙和蠢笨，并时而攻击他的中国同志们。面对沉闷单调的组织和计划工作，他更喜欢将时间消磨在土海的舞厅和妓院里。他的不称职为其他想要开拓发展的人留下了一个权力真空地盘——其中最主要的是李立三，一个冲动急躁的积极分子，曾是一九二五年五卅运动的一名主要领导人。
李立三于一八九九年生于湖南的一个地主家庭，他去法国学习了几年，在那儿他同周恩来和其他正在欧洲开创中国共产主义运动的年轻激进主义者交上了朋友。一九二一年底，李立三因他的激进政治观点被法国当局驱逐出境，回到中国后，他以劳工组织者的身份四处活动。到一九二八年在莫斯科召开全国代表大会的时候，他已经赢得了具有超凡魅力的领袖人物的名声，有资格指导中国共产主义运动回到胜利的轨道上来。在莫斯科，他使苏联主人着了迷，为他自己赢得了特别的待遇以及同斯大林的三次会见。俄国人确信李立三能使中国革命恢复元气，因此他们推选他进了政治局，并任命他为中央宣传部部长。
尽管他在共产国际营造了良好印象，李立三本质上还是一个煽动家。他比向忠发更具世界主义倾向，而且更精练，但是他在管理和战略决策上却很差劲。在策划运动的各种具体步骤时，他那热情激昂的浪漫精神反而模糊了对周围形势的认识。他生活在一个想人非非的世界中，幻想革命大潮总是不断高涨。其他共产党员都说他是“大炮”——嘈杂喧闹但却射不中靶子。张国焘回忆说，许多干部都认为李立三是个“自吹自擂者、浮夸的狂热者和鼓吹破坏者。”
在李立三的领导下，已经被一九二七年四月的大屠杀和霍秋白短暂却不胜任的领导严重损害的中国共产党组织，退化到完全无能为力的状态。党的基层组织开始逐渐萎缩：他们时常得不到上级的指示，即使得到指示也视若未睹，或者无能把指令传递给下级基层组织。有些党的基层组织完全失去了同剩下的地下党组织的联系，因为地点和接头安排都被丢弃或遗忘了，党员人数急剧减少。在十分重要的上海地区，四月灾难之后，共产党重新囊括了大约三千名党员，但是在李立三的领导下，党员人数骤然跌落至五百人。
李立三的策略甚至也不是新的。尽管被广泛地称为“李立三路线”，他的革命纲领却是仿效他那丧失信誉的前任总书记瞿秋白，片面强调城市的起义和暴动。李立三口头上声称农村具有革命的潜力，但是，他虽把农民部队纳入自己的计划；但那只不过是对以农村起家的共产党名义上的让步。过于喜欢冒险，李立三在他首次执掌权力的十二个月里，主持的是一条失败的路线。
康生没有参加一九二八年七月在莫斯科举行的全国代表大会，但是李立三的执政促使康生进入党的上层。这次全国代表大会结束几个月以后，康生被任命为江苏省委组织部部长，这是一个主管官职和其他人事事务的职位，仅次于共产党最高决策层，包括政治局和中央委员会，江苏省机关是中国共产党最重要的组成部分之一，它监督着共产党在上海和远至国民党新首都南京在内长江下游地区的活动。除此之外，由于党的最高指挥部也以上海为基地，江苏省委的干部们就有充分的机会引起资深党领导人的注目。
在新的职位上，康生积极地支持李立三，并要求不断萎缩的党的基层组级执行他的政策。将近一九二九年年底，他帮助李立三撵走了他在江苏省委里的对手和批评者。康生对李立三的支持并不是无撤偿的；一九一○年二月，康生被任命为党的主要控制工具之一，中央组织部的秘书长。
康生此时主管着范围广泛的行政工作，包括资金管理和党的档案资料管理。他还拥有可以惩戒那些不服从命令或者疏于安全防卫措施的党员的权力。一九三○年三月，康生曾指责一位在苏联受过训的年轻干部王明，因为他公然漠视党的安全防卫程序。上海市警察局两个月前在一个劳工鼓动者伪装的秘密集会上逮捕了王明，并把他囚禁在老闸捕房；王明买通上海市警察局的一名印度巡捕，传递一封信给共产党宣传机构的工作人员潘问友，同中国共产党的同志们接上了线；结果，上海市共产国际代表付出了几千中国元作贿赂，王明被释放了。王明的行为是否危及潘问友的办事处尚不清楚——潘问友在警察突然搜查他的旧住处之前，已转移到一个新的地方——但是高层干部们指责王明使党的基层组织处于危险之中。政治局决定惩戒王明，因为他“缺乏政治警惕性并严重违背了秘密工作的纪律。”可是王明并没有因此被吓阻；不久在四个月以后的一次会议上，他便公开猛烈抨击李立三的政策；政治局最后决定暂停他的党员资格，留党察看六个月。在这两次事件中，康生都是负责惩戒王明的执鞭者。
康生在上海派系斗争的世界里如鱼得水，他渐渐进入环绕在李立三周围经过挑选的高层干部圈。但是那种机会遍地的环境——就像王明所受到的教训那样——也带来了囚禁、拷抒和死亡的危险。警察最终在一九一○年逮住了康生，在一次共产党会议上逮捕了他和他的一些同事。
然而，康生的运气并没有完全离开他。同他一起被拘留的年轻共产党员中有一个叫丁基实的，他的叔叔丁维汾，是出身名门的国民党元老。由于巧合，丁维汾来自日照，一个位于山东海岸线上的村庄，离康生的家乡大台庄不超过五十英里。
在康生被捕之时，丁维汾担任南京中央党校校长，负责向国民党干部灌输反共的国家主义教义。丁维汾在学校的助手之一是陈立夫，当时的国民党秘密警察首脑；由于陈立夫的帮助，丁维汾使丁基实和他的朋友们得以释放。丁基实匆忙出国，前往德国学习，然而康生仍然回到了共产党的地下组织继续工作。
尽管有丁维汾的说情，康生依然不得不同他的看守们做一些交易。按照曾在一九三三年被国民党秘密警察逮捕并叛变的共产党员卢福坦的说法，康生在一九一○年“被逮捕并背叛了党，”当时康生“出卖了他的同志们。”
康生担心那些他背叛共产主义的报导——不论真假与否——会泄漏出去，他因而尽力对他的被捕保密。事实上，从那以后他一直不承认有这事，一九六八年来自台湾的一篇报导中声称“康生曾在上海被捕，旋即又被释放，”康生斥之为“胡说和谣言”而不予理睬。“我从来没有被捕过，”康生解释并补充说，“如果我被逮捕的话，我早就没命了。”关于他被捕的话本身，就会使他在中国共产党的圈子内处于被怀疑的立场。
国民党喜欢对共产党使用的策略之一是在逮捕他们以后，吸收他们做国民党特务——一种受害者认为远比死七要好的结局。大多数背叛者都直接加入国民党，但是一些人被释放，担任双重间谍，重新回到共产党的队伍。因此，被国民党拘留的共产党员们一旦从监禁中被释放，就经常受到过去同伴的怀疑。
任何报导康生被捕的原始资料都没有透露他背叛并同国民党合作。甚至他被捕的确切地点也依然是个谜。现藏于美国国家档案馆（United States National Archives）的上海市警察局特科的卷宗档案中，并没有康生在公共租界被捕的记录。他可能在法租界被拘留，那时候他大部分时间都住在那儿，或者是在国民党控制的大上海。上海市警察局特科的记录揭示了共产党的嫌疑犯经常因缺乏证据而被释放。有一次，上海市警察局在一个共产党集会上逮捕了十个人，但却没有进一步深究；这些嫌疑犯中有一个是告密者，另一个是位阶较小的共产党干部，他说了一大堆使人糊涂的谎言，其余的八个人表示什么也不知道。根据一份上海市警察局的报告，警察方面在法庭上非常不愿意使用提供情报的人，这就使人联想到如果康生定期地提供情报，他们绝不会采取任何正式的行动来使他为难。除此之外，从上海沦陷中幸存下来的上海市警察局的纪录并不完全；在一九四八年国民党统治的最后匆促时日里，在把这些档案卷宗匆忙装运上美国海军船只时，一部分卷宗掉进了海里。另有一部分被共产党的地下工作者转运走了。
上海市警察局的纪录揭示了为数众多的中国人被捕，是因为散发“共产主义的宣传品”，但是被捕的大多数人是“苦力、木匠、铁路荞路工、黄铜匠、漆工、缆绳装配工和失业者。”有时候，共产党的高层干部也有被捕的（通常是根据国民党秘密警察提供的情报抓获的），但是投有一份幸存的档案暗示康生是他们当中的一员。如同上海市警察局的卷宗所显示的，特科意识到有一个组织严密的共产党核心机构存在着，但是大部分活动依然处于秘密状态中。警察局偶尔能抓到一些普通的积极分子，但是很少能渗透到那个把街头工人同党的上层决策者连接起来各自独立的通道的迷津中。如果康生实际上是在公共租界被捕的话，很可能只被当作是一桩小事，而非值得在警察总部的登记册上永久记录的大事。
康生的被捕本身并不能证明他变节，或者被迫同逮捕他的人进行长时期的合作。国民党监狱以混乱和腐败而臭名昭著，许多党员用贿赂手段而出狱，或者因为警察不能发现共产党员的真实身份而被释放。警察当局最多可能查明康生为具有激进倾向的大富商虞洽卿工作，并且同国民党领导人丁维汾有联系，但是可以想象，当康生可能被列为几个共产党嫌疑犯时，警察却没有他同中国共产党牵连的纪录。
一九三○年的整个夏天，李立三一直得意洋洋，但却没能维持住他的权力。李立三在一个想象的世界里编造政策，导致了一连串灾难性的失败。康生和其他人支持李立三，但是他的领导权力也在逐渐壮大，主要是一批经验丰富、注重实效、以上海为基础的干部。反李集团的领导人是何孟雄，一个劳工组织家，像康生一样，也在江苏省委工作。何孟雄来自毛泽东的故乡、湖南省的湘潭，一九二二年参加共产党，当时他帮忙组织了一次罢工，那是最早由共产党领导的罢工行动之一。
李立三的胃险主义还激起了周恩来的反对。一九三○年夏天，当时在上海工作的周恩来同李立三决裂，前往莫斯科进行了一次特别的旅行，去呼吁共产国际核准更换党的领导。共产国际既由于李立三的多次失败，也由于他频繁声明苏联是中国利益的辅助者而警铃大作，开始注意周恩来带来韵信息。
李立三终于在几个月之后垮台，当时他命令在武汉和长沙举行起义。由于相信中国正濒于革命热情的高涨时期，李立三计划在湖北和湖南那样的中部省份进行起义。他命令共产党农村军队进攻长沙和武汉，当时城市无产阶级也起来乘机控制这两个城市。共产党军队在彭德怀的领导下于一九三年七月二十七日攻占了长沙，并占领达一星期左右。但是国民党军队很快就击溃了他们，李立三满怀希望地预测为中国革命主引擎的城市起义，结果是一场白日梦。
长沙溃败以后，不同派别之间的紧张变成了公开的斗争。
九月下旬，已经成为调解人和解决麻烦问题能手的周恩来，获得共产国际的同意，召开了一次中国共产党中央委员会会议，以解决领导问题。委员会是在公共租界的麦达赫司脱路上的一幢别墅里举行的，尽管为了安全原因曾放风说这次会议将在江西省的避暑胜地庐山举行。连续三天，大约二十名共产党领导入围绕着领导问题争论不体，有时争吵声越来越响，以至于周恩来不得不警告他们把声音压低些。
麦达赫司脱路会议结束了李立三的领导，但却没有挑选出继任者。党内上层的分裂扩大成两个主要派别。一个派别支持啊孟雄和江苏老战士；另外一边是一群年轻人，一群在莫斯科培训过、稍后以“二十八个布尔什维克”或者“回国学生”而闻名的干部，支持他们的领导人王明。那时已经同李立三疏远的康生，则保持中立。尽管与何孟雄和他的追随者们关系亲密，但是他静观谁能形成最有影响的势力，并相应地作出决定。
这一年的早些时候，王明曾与康生冲突过两次。原来叫陈绍禹的王明，是个野心勃勃的知识分子，二十四岁，是安徽省一个富商的儿子。他于一九二五年前往莫斯科，进中山大学学习，这是苏联为培训中国革命者而创建的学校。在那儿他引起了主管中国事务的苏联官员的注目。中山大学的许多中国学生团结起来，在托洛茨基同斯大林的斗争中支持托洛茨基，苏联当局指派王明暗中监视这些学生，指定他代理清洗那些中国共产党内部同情托洛茨基的人。王明希望从他的恩主那儿赢得更大的好感，于是，清洗迅速发展成一种残酷无情的惩罚，结果，他的深谋远虑是正确的：王明的能力和他对克里姆林官革命观点的忠诚给人留下极深的印象，共产国际的斯大林主义者们断定他是使中国共产主义化的理想人选。
王明是个熟练运用马克思主义术语的演讲能手。他既是一个政治活动家又是一个知识分子，按照列宁的传统，他写了许多关于共产主义革命理论和实践的文章。他在一九三○年十一月发表了《两条路线斗争》，一篇关于他祖国的共产主义运动的分析，这篇分析在莫斯科发表时冠名为《两条路线斗争：为中共更加布尔什维克化而斗争》，因而给自己做为领导人的形象增添了不少光彩。当他同孟庆树——个与他在莫斯科同窗的年轻中国共产党员——结婚时，他的革命凭证又增强了。强健结实、快活轻松的年轻人王明和苗条娴静、颧骨轮廓漂亮的女性盂庆树，结成了一对引人注目的夫妻。
当孟庆树于一九三○年在上海的一次工厂工人集会上被捕时，悲伤过度的王明把所有其他的事情都撇在一边，直到他安排好她重获自由。王明最终说服当地的中国共产党委员会筹款两千到三千中国元（大致相当于一千五百美元），作为保证她自由的贿赂，但她已在上海的龙华监狱度过了六个月。
许多共产党员发现他们从监狱被释放以后，配偶都跟了别人，但是孟庆树依然投入王明张开的双臂。他们的恋情是革命中真正的爱情故事之一。
当王明于一九二九年从苏联回国时，他受自己命运中自满思想所驱使，拒绝了给他的第一项任命，在沪东南洋烟草厂当党的书记这样一个相对较低的职位。王明被再度委派去宣传机构工作，但是他仍然与当地的共产党干部发生冲突：后者对所有年轻的、莫斯科培训的知识分子的野心勃勃和虚荣做作感到不满。王明的一位同时代人把他和他的小圈子描绘成是“没有头脑和骄傲自大的年轻官僚，从未为中国革命做过什么事情，只知道对他们的共产国际上级谄媚奉迎，从而获得对中山大学里党组织的控制。”
王明和其余二十八个布尔什维克在共产党的普通党员中很少有同盟者，但是他们胜过对手的，在于他们具有一种至关重要的优势：共产国际的支持。一九三○年十月，苏联庇护者的重要性显著增加了，当时共产国际远东局首脑帕维尔·米夫来到（Pavel Mif）中国。米夫于一八九九年出生于一个俄国犹太人家庭，在一九一七年革命之后参加了共产主义青年运动。他同中国事务发生第一次重要接触是在一九二五年，当时他被任命为著名革命家卡尔·拉狄克（Karl Padek）手下中山大学的副校长。一九二七年米夫接替拉狄克当了大学校长。就在那一年，他对中国进行了一次简短的访问，写了几篇关于中国革命见解深刻的论文，带着直接观察者的充分信心回到莫斯科。
米夫成为莫斯科指导中国政策最有影响的人物之一。身为斯大林顺从而残忍的追随者，他对莫斯科的中国学生团体实施政治惩罚，专门打击那帮持异议的前托洛茨基分子。在王明身上，米夫看到了斯大林主义所要求的外国革命者的所有品质，最主要是完全尊重苏联所起的卓越作用。当米夫在一九一○年末回到中国的时候，他决定任命王明担任中国共产党的领导人。
米夫的第一步是命令李立三回到莫斯科，在那儿李立三做了自我批评并且承认自己是“半个托洛茨基分子”。（白天，李立三在列宁学院学习，晚上，他不断以各种方式来补偿政治上的失败。）到一九三一年一月上旬，米夫压制了地方干部对王明的反对意见，觉得有足够的把握召集一次中央委员会会议。这次重大而激烈的会议于一月十三日在公共租界一个隐蔽处召开。中央委员会在楼上开会，楼下几个共产党秘密机构的妇女在玩牌和听留声机。共产党枪手装扮成厨师和仆人，站岗放哨，以保护他仃的领导人免受伤害。
以总书记的地位，无能而粗俗的长江水手向忠发主持了这次会议。可是，按照一位与会者徐炳根的说法，米夫安排了一些带着手枪的人，以确保他的想法得以实施。米夫和王明拟定了一份领导职位的候选人名单；尽管何盂雄和那批以上海为基础的老战士试图通过另一份不受支配的候选人名单，但是米夫的名单还是被与会者全体接受了。向忠发仍然是总书记，但是政治局在王明和他的朋友的掌控中。
就在那次会议开始之前，康生就把握了新的政治动向，并打算将他的命运拴系在王明身上。其意图的个中道理似乎引出了《易经》哲学，《易经》对世界的描绘是它无时无刻不处于流动变化之中，成功的关键在于形势尚在酝酿孕育时就采取行动。康生想要同王明和解的主要障碍，是前一年他们之间敌对冲突所引起的苦涩，当时康生两次代表李立三惩罚了王明。实际上，康生强加给王明的留党查看期还未满，王明就被任命为政治委员——这暗示出形势（包括康生的观念和忠诚）的变化是如此之快。
面对王明超越他的现实，康生打主意去巴结迎合他以前的受害者。他设法使王明相信，他们早先的问题只是他遵循李立三的命令所造成的。在同王明达成一致的过程中，康生也不是没有盟友，二十八个布尔什维克中的许多人，包括杨尚昆、博古和王稼祥，都曾经是康生在上海大学时的同学。王明充分意识到，他需要在上海懂党务和人事的强硬干部的帮助，而康生是显而易见的选择。王明从自己的经历中明白康生在处理党内敌人时能够极有效力，到一月十三日申央委员会集合的时候，他们之间的关系已经有了根本性的改变，而且王明把康生的名字写进了那份中央委员的名单里。更重要的是，他将康生从秘书长提升为中央组织部长。康生从及时改变立场中大大得益。
米夫利用其共产国际的高级领导的身份，安排王明和他那留苏派的小集团控制中国共产党，但是米夫的高压作风激起了普遍的不满。他勉强隐藏的那种中国共产党应该接受白皮肤革命家指令的傲慢，导致一些爱国代表们公然退场，严重的对抗来自以何孟雄为首的老战士们，他们觉得自己勇敢抵制李立三的冒险主义，理应分享一部分官职。
但是米夫的教条主义不允许任何妥协，结果造成以上海为基地的党分裂的两个敌对阵营。何孟雄和他的同盟者谴责王明，同中央委员会决裂，打算建立一个独立的、与之竞争的组织。该派决定减少米夫的影响，他们在普通党员中散发声明书，抨击共产国际的干预，攻击米夫和王明。
一九三一年一月十七日，何孟雄集团的几名成员，包括林育南和李求实，在位于公共租界最繁忙地区、汉口路六百六十六号一座中级的西式风格建筑的东方旅社里开会，讨论反对王明和二十八个布尔什维克的事宜。可是，由于公然向王明挑战，他们正在进入一个致人死地的世界，在那儿任何事情都被许可，不论它多么肮脏或虚伪。第二天，上海市警察局特科官员和国民党秘密警察的联合行动组，按照一份“秘密报告”
采取行动，把东方旅社置于监视之下。一个警官装扮成茶房，进入何盂雄和他的同事们隐藏的三十一号房间，判定房间的居住者看上去像足共产党人，那警官命令其他警察冲进房间，抓走了八个人。在将囚犯解往老闸捕房以后，国民党密探和上海市警察局的警官们留下来等候，又抓走了三个试图进入三十一号房间的共产党员。那天下午晚些时候，他们突然搜查了天津路上的中山旅社，逮捕了何盂雄和其他七名嫌疑分子。突击搜查持续了一整夜，到早晨，总共有三十六名共产党人遭到围捕。
在公共租界，例行的法律程序一过，这些囚犯就被移交给国民党安全机关，并被解送到地处上海南郊的龙华淞沪警备司令部监狱。后来在一九三一年二月十日晚上，监狱当局通知何孟雄和其他二十三名被监禁者，他们将被递解去南京。二十一名男子和三名妇女戴了手铐和脚镣，排队走出了监狱的院子。当他们一走到监狱能听闻的范围之外，护卫队便把一切伪装都拉下了，等候在附近一座桥边的法官宣布了死刑判决。就在行刑队准备将他们处死之时，囚犯们突然唱起了《国际歌》（The Intemationale）。他们被埋葬时，尸体依然戴着镣铐。
尽管国民党试图保守这次大屠杀的秘密，但是消息很快就泄漏了，当地和外国的新闻界作出愤怒的反应。在那些被处死者当中，有五名是颇有抱负的年轻左翼作家和诗人：李伟森，一位随笔作者和《上海红旗》的编辑；胡也频，一位小说家：柔石，一位短篇小说作家；殷夫，一位年纪较轻的作者；还有冯铿，一位女作家。五个人的所有作品都被美国新闻记者埃德加·斯诺介绍到了西方，死去的作家们很快成为不朽的“五烈士”。进步作家们谴责这次谋杀完全不顾这五位死者同共产党的关系，并声称这是对作家和艺术家的全面镇压。这种国际反响严生了对王明有利的结果：集中在五位烈士身上的反对蒋介石白色恐怖的有利宣传，掩盖了这次事件背后的政治现实。
当时国民党因为杀害五位烈士而受到新闻报导的谴责和攻击，但是实际上，策划这整场逮捕的人是……康生！身为王明新近获得的盟友，康生决意要证明他在派系政治的黑暗世界里的能力。这次政治事件几十年来一直被谣传所遮盖，但是最近揭露出来的证据，显示是康生把何孟雄集团在哪儿开会的消息通报给了国民党秘密警察。一九六七年，一名在一九四九年被共产党捕获的前国民党秘密机构的特务吴宾舒（Wu Bing shu，音译），向他的捕捉者揭露说，在何孟雄集团被捕前，国民党警察就已经掌握了他们每一个人的详细背景资料——包括每个人入党的日期，入党后经历概要，以及一些连他们自己都已遗忘但却被认真调查过的细节。结果，吴宾舒说，那次审讯只不过是讯问一下每个犯人，以核实事先获得的事实而已。吴宾舒相信这个情报来自共产党内部，但是他不知道是谁。作为组织部部长和党员档案卷宗的管理人，康生很容易能掌握这些置人于死地的资料。
还有比吴宾舒的证词更不利于康生的有力证据。另外一个国民党情报官员在一九四九年以后落人共产党之手，他叫王云程，对康生出卖何孟雄和五位烈士的事作出了明证。王云程原是一名在莫斯科培训过的共产党员（他是二十八个布尔什维克之一，后来是共产主义青年团书记）。一九三三年他被捕以后，参加了国民党情报机关。被捕后三个星期，王云程写丁一份“投降声明”，日期是一九三三年二月二十四日。“在派系斗争中，”王云程声称，“例如就何孟雄和他的二十几个同事来说，就是全部死于赵容（康生当时的名字）和其他领导人的红色恐怖之下。”
王云程身为王明最受信赖的助手之一，才有可能说出关于“红色恐怖”的话。在五烈士事件发生的当时，王云程是一位幕后工作人员，属于王明在中央委员会里的小集团。王明总是利用他来欺侮和威胁他的对手。王云程第一次遇见王明是在莫斯科，在中山大学时曾是他的保镖之一。作为这位年轻的前苏维埃领导人的密友，王云程对王明及其盟友们为反对党内对手所使用的背信弃义的阴谋诡计，有着直接了解。
他也认识康生，并向上海市警察局描绘过这个人。
在讨好王明的同时，康生大肆宣扬他搞秘密工作的能力，还巧妙地将他的背叛行为瞒过别人。何孟雄被处死几天以后，康生遇到刚从莫斯科回到上海的张国焘。张国焘发现康生为何孟雄之死很“悲伤”，并“担心”会危及其他党员。早年曾是何孟雄的朋友的张国焘，如果从康生的举止行动中察觉什么古怪的话，他肯定会表示怀疑的。
何孟雄和他的同盟者被消灭之后，对王明和新的中国共产党政权的抵制仍在继续。王明开始清除他的对手，同时，他设法重组党的机构以便增加其效率，从而巩固他对党的控制。
作为组织部部长和王明的主要打手之一，康生越来越同二十八个布尔什维克和他们的苏联庇护人站在一起，他帮助他们压制持异议的干部并重建党的组织，使党越来越接近于苏联模式。
由于共产国际的支持以及康生和其他人给予无法估量的帮助，王明得以逐步扩展其影响，在他从莫斯科回国后的两年里，他成为整个中国共产主义运动的领袖。他还在党的基层党员中开始培养个人崇拜的倾向。年轻的共产党员们在谈论他们的领导人时赞美他，形容他是“英明且高瞻远瞩的，”并且引用他的“经典”著作《两条路线斗争》里的原典。一些久经战斗锻练的老战士，像共产党军事委员会首脑周恩来，和当时只是中央委员会委员及一个农村根据地的政委毛泽东，都要听从王明的指示。
王明有一个引入注目的弱点，使得他不适于领导中国共产党：好暴露和逮捕的害怕使他一直处于惊恐之中。在苏联看来，他可能是个理想的干部，但是与康生相比，王明明显缺乏在上海这样充满危险的城市里做一个地下共产党员所不可少的沉着和应变能力。一九三○年一月他已经侥幸脱险过一次，当时他被短暂拘留，这可把他吓坏了。同国民党一起，上海市警察局和其他安全机构的人马都紧紧盯着共产党，王明觉得上海的环境越来越难以忍受。负责组织工作的康生尽他最大努力，保护王明和他的妻子孟庆树。在危机期间假托养病是历史悠久的中国传统，他们夫妻俩躲藏在上海郊区的一所疗养院里；这是康生所做的安排。同上海出身的劳工组织家、王明的随从参谋陈云一起，康生为他们夫妇俩租用了一整层楼面，使他们能够避开院里其他疗养者。即使如此，王明还是遭受着难以控制的恐惧感的折磨。一九三一年七月下旬，在他当上总书记仅一个月以后，他就离开了岗位，启程前往莫斯科，在那儿他担任驻共产国际中国代表团团长这样一个更安全甚至更有威信（在那个肘候）的职务。
王明撤退至苏联并不意味着在中国共产党内部他的影响已然结束，也没有使康生失去继续为他工作的信心，许多在苏联培训过的年轻共产党员，经由王明的拔升而占据党的高位，这些人使他的影响在很大范围内遍及共产党的各项事务。一九三一年九月上旬，王明最信任和最有才干的副手之一博古，被任命为总书记；王明的派系依然握有党的领导权。除此之外，王明在莫斯科的地位——在那儿他是共产国际执行委员会委员——使他的指示具备了那个职位所应有的最高权威，在理论上，他对这场共产主义运动行使着至高无上的领导。
康生依旧参与王明的事业，拥护其基本政策和方针。他帮助创建了组织续密、纪律严明的布尔什维克政治机构的模式，受到苏联培训过的共产党员的支持。他时刻保持警惕，运用他的权力，对任何向政治局指示和命令挑战的干部进行威胁恐吓。
王明在上海期间，康生对他的忠实效劳掩饰了康生对政治的真实态度，他很少注意政策方针的内在精神，却更注重能增加他自己权力的策略行动。到一○年代初期，康生的主要政治技巧是识出当时恰好在中国共产主义运动中成为明日之星的领导人，然后把他的未来拴系在那个人的身上。他的机会主义现在看来似乎极为明显，但是康生行动时很有手腕和技巧，以维护他献身革命的名声。他对任何特定的领导人或政策的支持不管多么虚假，他总是设法使同志们相信他至高无上的目的是共产主义事业。这些都是在中国广为人知的伎俩，与阿谀拍马和无耻廷臣所用的策略有异曲同工之妙，在官方历史和像《三国演义》那样的古典小说里都有所描绘，畏达两千多年。在上海话里还有个成语，叫“见猫变色”。康生如此变化多端的忠诚引出了一个公认的样板。实际上，上海成语提到一种有充分理由要避开猫的动物：那就是老鼠。