康生在庐山那场清算彭德怀元帅和其同盟者的行动中所充当的角色，进一步巩固了他同毛主席的关系。然而，一九五九年年底，康生面临一个新的问题：毛泽东开始失去了在前十年驱使着他的那种活力和使命感。即使毛孤立于中国日常生活的现实之外，他还是逐渐认识到“大跃进”的失败和它带给这个国家的灾难性后果。被国家的悲惨境况所震惊，他似乎在蒙受着失败的痛苦折磨。到一九六〇年，毛泽东被孤立于政府的决策之外，当时正在访问的美国新闻记者埃德加·斯诺，询问有关经济发展的计划时，毛泽东承认“我不知道”，使他的客人感到震惊不已。
在中国共产党统治的头十年里，中国艰苦地跋涉在前进的道路上，“大跃进”的灾难破坏了民族的士气。由于中国国内的各种困难，毛泽东感到极端沮丧，一九六二年年初，他在一个有七千名党干部出席的集会上做了自我批评，承认他应对中国恶梦般的现实负责。他不再发布意识形态方面的指示或者迅速全面过渡到共产主义的谈话。毛泽东至高无上的元老地位，仍然不容挑战，但是现在这个国家由行政官员和经济学家管理着。毛泽东似乎处于一种退休状态，他的同乡也不再对他抱怨发牢骚；他是个受人尊敬的国家领导人，在为战争和革命犀心尽力之后，他应该好好休息一番。
但是康生——现在他刚六十岁出头，并从隐退中振作起来——根本不准备加入毛泽东的退休行列。毛泽东依然感兴趣的少数问题之一是中国同苏联之间日益加剧的争论。康生年代期间在莫斯科所度过的四年时光，使他成为中国的苏联问题专家。除此之外，同莫斯科之间的大部分争论，都是用意识形态术语表达的——而康生在中国享有马克思主义理论家的声誉。
中国同莫斯科之间的争端，使康生能够同另一名资历极深的官员发展广泛的联系：中国共产党总书记邓小平。邓由毛泽东授权处理中国同苏联的关系，他是一位极有才能的人。他说话简明扼要，干脆利落，能够用一两句话概述复杂的问题；尽管身材矮小——只有五英尺高——但是他有充沛的活力和坚强的意志力。可是邓小平的这种特质并不总是能使他赢得朋友。张国焘承认邓小平是“一个很聪明和表达力极强的小伙子，他视自己为相当重要的政治人物，”但是又补充道，他有“一种难以相处的性格，是个傲慢的、好争辩的、事事喜卖弄的人。”
一九四九年共产党击溃国民党时，邓小平是一支庞大的共产党军队的政治委员。一俟人民共和国建立，许多革命的军事英雄便被派去搞礼仪性的工作，但是邓小平的才能为他在新政权的中心赢得了一个位置。毛泽系认为邓小平有异乎寻常的特质，当一九五八年苏联领导人访问中国的时候，毛泽东把他指给赫鲁晓夫看：“你看到那儿那位小个子的男人吗？他是个非常聪明的人，在他的前面有着广阔的前程。”
邓小平是个好斗、精力旺盛、有进取心的人——这些人格特质都有助于进行中国反对苏联的论辩。此外，他具有国外和国内经历的均势。二〇年代的前五年他在法国，曾经属于包括周恩来和李立三在内的中国共产主义小组。邓小平把时间献身于政治宣传，由于印刷激进的小册子，他赢得了“油印博士”的绰号。从巴黎他去了莫斯科，在那儿几乎有一年时间他在中山大学上课，然后在一九二七年年底回到中国，准备使国外经历同在农村中国的革命战场进行了数年的革命运动相结合。他在广西省南部领导过共产党的部队，参与过江西共产党中央根据地的工作，进行过长征，参加过从此使毛泽东成为最高领导人的遵义会议。由于亲身参与中国共产主义运动的全部过程，因此当同苏联的争论爆发时，邓小平是代表毛主义者事业的必然人选。
康生和邓小平两人都有国内和国际事务的背景，当他们开始一起为反对苏联的“修正主义”而工作的，发现了一种自然的共鸣：他们的俄国经历使两人产生对苏联的强烈厌恶。邓小平对赫鲁晓夫和其他苏联领导的怀疑，与康生几乎对任何俄国事物的敌意互为补充。
中国和苏联共产党之闻的紧张关系可以上溯到二〇年代。许多中国共产党人把他们在一九二七年国民党背叛时的脆弱，归咎于像米哈依尔·鲍罗廷那样的俄国顾问所想出的第略。鲍罗廷的继任者帕维尔·米夫又引起了另一场争论，当时他于一九三一年任命王明担任党的首脑，这更增加了反苏的情绪。长征也是苏联方式的支持者和毛泽东派系——后者喜爱一种更为中国式的策略——之间的争吵。到了四〇年代后期，许多中国共产党人都怀疑苏联在试图侵蚀中国的独立性。一些干部害怕苏联对社会事务部的影响力，特别是在中国的东北，会逐渐变得令人难以容忍。按照驻扎在大连的一位中国情报官员的说法：“当苏联国内事务部和社会事务部之间看法的差异显现出来时，前者彬彬有礼地提醒中国人，所有的共产党人都是兄弟，老大哥是最好的。”中国的干部们还怀疑，在中国的塔斯社代表正利用他们记者的外衣，来掩盖调查资深官员的真相并对他们施加影响。
在日本人投降以后，占领满州的苏联军队所犯下的暴行进一步激怒了中国人。俄国士兵既强奸中国妇女，又强奸日本妇女和欧洲妇女，他们抢劫商店，并对向他们挑战的中国下层民众开枪射击——有一次杀死了七百五十个中国人。在此期间，至少有一名俄国将军经营钻石生意在中国发了财。苏联军队在撤退到俄国边境之前，还把日本人在满洲建造的工厂里的每一台机器都拆卸下来。
但是在人民共和国早年，许多中国人对莫斯科非但没有对抗情绪，反而有一种温暖的同志情谊。俄国专家来到中国，帮助重建遭毁坏的经济，大批中国人去莫斯科学习工程和电子学，学习如何建造水坝、工厂、炼钢厂和飞机。两国之间的贸易发展迅速，签署了许多合同和协议。许多中国入甚至给他们的孩子起俄语发音的名字，像萨沙、娜娜、丽莎和多娅。
尽管两国间的经济和私人关系在兴旺发展，但是赫鲁晓夫在一九五六年二月召开的苏联共产党第二十次代表大会上对斯大林和他的罪行的否定，释放出一种新的危险成分，终于使两国关系从暖转冷。许多中国领导人把斯大林主义化看成是对在中国创建的集体体制和国际共产主义运动这两者合法性的一种含蓄挑战。毛泽东和他的同盟者有时不同意斯大林的政策，但是他们从未对他建设现代经济所使用的方法或者他作为列宁的合法继承人的地位提出疑问。尤其是，中国领导人认为苏联对斯大林的攻击危害了毛泽东在中国的地位。
毛泽东认为中国能够加速经济进程赶上苏联和西方的幼稚信念，使得这个问题更加复杂。苏联领导人开始在私下向他们的中国对手解释，毛泽东的冒险思想和政策会把中国带向毁灭。对于苏联人来说，“大跃进”、公社的建立、对农村炼钢的着迷，在反映出一种傲慢和绝望的非现实革命热情。除此之外，中国对外政策，对美国和它的亚洲前哨基地之一台湾，有一种敌意，似乎使人危险地感到中国全然不顾莫斯科的军事策划者。一九五八年，中国人开始炮轰金门和马祖，两个就在大陆海岸线上、由国民党占领的小岛，这使得俄国人为中国大为担忧。
当中国的经济政策开始失败的时候，同苏联的关系也更为恶化了。一开始，毛泽东心满意足地注视着“大跃进”那令人兴奋的舞台，大跃进使中国在意识形态方面比苏联更为进步——这种自夸使“大跃进”的失败加剧了丢面子的痛苦。当苏联发现中国人的敌意在增长的时侯，苏联领导人开始害怕这个俄国东面的大国，在过去的世纪里大规模入侵的发源地，会再一次挺身反对他们。
双方都用“不可避免的战争”、“国家革命”的作用以及“列宁的合法性”这样的意识形态争论的复杂语言，对这场争吵加以乔装打扮，但是事实上，这场冲突是超越国家安全之上的。
中国人害怕苏联人不尊重他们的利益，并倾向于把中国看作是社会主义大家庭里的二等公民。中国人把美国——它在日本、台湾和朝鲜拥有军事基地——看作是一个充满敌意的帝国主义国家。相比之下，赫鲁晓夫等人相信美国愿意接受调解，相信为了苏联的利益着想，必须在“和平共处”的名义下缓和同华盛顿的紧张状态。赫鲁晓夫对毛泽东反美的强硬路线姿态缺乏尊重，这使中国人觉得，在苏联人的世界观里，似乎只有美国和苏联才真正具有举足轻重的位置。
在处理各种局部问题上的冲突更增加了这两个共产党政权之间根本上的差异。一九五九年，中国卷入了同印度之间的边境冲突，因为在中国平息了西藏分裂主义者的叛乱之后，印度给达赖喇嘛提供了庇护所。苏联政府无视中国注重社会主义兄弟关系的要求，拒绝谴责印度并支持中国。苏联同情的是“资产阶级的”民族主义者，而不是“社会主义的”中国人；中国因为中国共产党在印尼的待遇问题同苏加诺政权吵翻时，苏联也站在印尼这一边。北京的领导人断定苏联为了开拓亚洲疆域，正在与中国进行对抗，他们认为亚洲应该是他们独占的势力范围。
康生在反对苏联的这场斗争中，他的大将之风绐人深刻的印象。他曾经在莫斯科度过四年时光；他曾经是共产国际执行委员会的一名候补委员；他掌握足够的俄语能听懂桌子另一边的人在说些什么；他明白，或者就像他夸口的那样：苏联的体制是如何运作的；他认识许多资深的苏联官员；他于一九三七年到中国以后，曾经在延安接待过苏联代表团，他极为轻描淡写地表示在莫斯科的经历不足以诱使他去支持俄国人。据毛泽东的老朋友董必武的说法，在毛泽东的眼里，康生是莫斯科培训出来的共产党人中唯一依然用汉语思考和推论的人。
在他于一九五六年一月重返公众生活后，康生实际上立即卷入了中国同苏联以及社会主义集团关系这个棘手的问题。他被选人中国共产党代表团，参加于一九五六年四月在柏林召开的社会主义统一党代表大会，这足可显示在北京他被视为在东欧和苏联事务方面有背景的人物。
一九五六年十一月中旬，康生得到另一个任命，这巩固了他作为正在威胁中国同苏联关系的意识形态问题专家的声誉。他受中国共产党政治局的委托，监督一篇关键性文章的起草工作，这篇以《再论无产阶级专政的历史经验》为题的文章，刊登在一九五六年十二月二十九日的《人民日报》上。康生这篇一万多字的文章，是八个月前出版的一篇篇幅短得多的报告的续作；这两份文件表达了中国入对赫鲁晓夫谴责斯大林的反应，以及对发生在一九五六年的戏剧性事件，比如苏联镇压匈牙利的反共产党起义的评价。这些问题对中国人来说非常重要，它们涉及中国同苏联的关系和毛泽东的地位，此时毛译东被公然指控为正在建立一种类似斯大林那样的个人崇拜。
在康生的监督下，这份文件避免直接批评赫鲁晓夫，但是它那主张斯大林功大干过的挑战性断言，毫无疑问表示了中国统治者们同苏联领导人的不一致。斯大林是“杰出的马列主义的战士……（他）总是站在历史发展的前头，指导着斗争；他是帝国主义的死敌。”但是斯大林也犯有错误：他有“大国沙文主义的倾向”（提到他试图将他的政策强加在中国共产党的身上），他在“惩办反革命分子”（使革命社会遭受的那场大规模的肃清）时滥用了权力。提出了这场清算可能使康生感到窘迫，他本人在莫斯科的四年时间里曾经是中国共产党内肃清“反革命分子”的主管。康生还被认为是那些为了根除任何可能与这个新社会不相适应的成分——地主、敌特、资产阶级知识分子和腐败的官员——而进行相同的中国式运动（由延安“整风运动”起头）的主要设计者之一。
康生灵巧地认可了新秩序镇压敌人的需要：“斯大林……惩处了许多必须受到惩处的反革命分子。”同时，康生承认斯大林曾经“冤枉过许多忠诚的共产党人和正直的公民。”康生的评论不只强调铲除革命敌人的需要；它更暗示斯大林将他的体制强加于国家时在某些情况下做得还不够。按照康生的说法，斯大林只是获得“大体上”的成功——一个暗示有些苏联反动分子已经逃脱的小心翼翼的修饰词。对从清算中逃脱的间谍和敌特的恐惧，建立起那种持续不断的警惕性的需要，那种氛围确实是康生想要在中国创造的。
康生在一九五八年六月又发起攻击，给南斯拉夫的“修正主义”迎头痛击，抨击铁托是美国的走狗。康生的文章——《南斯拉夫的修正主义恰恰适合美帝国主义者的需要卜强烈谴责铁托和他那寻求同华盛顿和解的政策。康生指责铁托破坏社会主义的阵营，支持匈牙利“反革命分子的叛乱”，指责南斯拉夫在美国正在退却和“东风压倒西风”的时候保护了美帝国主义。
康生的措辞预告了莫斯科和北京之间日益扩大的裂痕。
他嘲笑铁托所声称的南斯拉夫正在寻求“和平和国际合作”——一种苏联用来缓和同美国紧张关系的言语。康生为了证明美国支持南斯拉夫是为了暗中破坏共产主义，还大量引用美国的报纸和《国会议事录》（Congressional Record）。康生写道：“美国资产阶级的发言人（政治评论员沃尔特·利普曼说道……让所谓的‘铁托主义’在社会主义国家中扩散，才符合美国的真正利益。”铁托显然正在出卖给美国帝国主义，康生暗示，而且这样一来其他任何共产党政府都会同美国合作。
康生意识到几位领导人，包括刘少奇、周恩来和广东省党的首脑陶铸，都赞同对苏联采取一种更为谨慎稳健的作法，一九五九年他试图加剧中国上层的意见分歧；他火上加油，炫耀民族主义的凭证。最重要的是，他想要给毛泽东一个极深的印象，他，康生，只有他有足够的勇气和见识来成功地保卫中国和主席的利益，反对苏联那种日益使人憎厌的要求。
毛泽东于一九五九年在庐山同彭德怀的冲突，首次使康生有机会利用同事间的歧异进行挑拨。彭德怀同许多苏联官员和将军有着亲密的关系——在朝鲜战筝期间，作为中国军队的指挥官，他曾经同俄国人一起工作过，并且他曾任国防部长在苏联各地游览。事实上，彭德怀在庐山的主要盟友，外交部副部长洛甫，曾经是二十八个布尔什维克之一，并是五〇年代中期驻莫斯科的大使。庐山会议的灾难性后果浮现后，康生利用彭德怀同苏联的关系，使人慢慢产生他是俄国人走狗的疑虑；彭德怀对毛泽东的攻击，不只是对主席权威的一种内部挑战，康生暗示道：“它是一个自始至终通向莫斯科阴谋集团的杰作。
康生还指控李立三，当时中国东北党的领导人，说他“依然保持着同某个外国的不正当关系”——中国共产党指控某人为苏联特务的隐语。康生的指控在文化大革命以前并没有导致李立三受迫害，但是康生利用这些指控，在一九五九年扩散那种苏联间谍已经渗透进中国统治集团的疑虑。这是二十年前延安事件的重新启动：康生知道他的声明会使毛泽东警惕自己阵营内部的间谍和叛徒，并信赖康生这样已经考验过的忠心耿耿的同事。
庐山会议几个月以后，赫鲁晓夫访问中国，参加人民共和国成立十周年的庆祝活动。尽管彼此的怀疑已经侵蚀了毛泽东和客人之间的信任，但是中国人仍给予这位苏联领导人恰当的、完全红地毯式的待遇。然而，在十月五日，当赫鲁晓夫还在北京的时候，康生对一群刚从莫斯科回来的学生发表了一场充满反苏言辞的演讲。在他的演讲中，康生自夸共产党胜利以来十年里中国所取得的成就。由于清楚地意识到中国的生括状况甚至要比苏联更为简朴，康生宣称应该用意识形态方面的完善，而不是用经济标准或者统计资料来评判中国。
康生特别强调中国已经根除资本主义的所有制制度——暗示中国已经抵达与苏联相同的社会主义发展阶段。他还从这个题目扩展开来：尽管私有制已经在中国消失，但是在政治思想领域里阶级斗争还在继续，暗示苏联虽然实施社会主义的经济，但仍是潜在的阶级敌人。
用康生的观点来看，任何俄国的东西都应受到贬低。苏联的政策不是俄国不及中国的唯一标志，甚至它的艺术和文学也是二流的。在一个关于社会科学的讨论会上讨论课本的内容时，唐生提出根除“对外国人的迷信”并选出俄国人作他的主要例据。“由我们的工人和农民创作的诗歌，”他宣称，“胜过马雅可夫斯基（Vladimir Mayakovsky）和普希金（Aleksandy Pushkin）十几倍。”
当他在一九五九年十二月的一次军事科学院和最高军事学院的干部会议上，讨论毛泽东的作用和“个人崇拜”问题的时候，康生怀抱赤裸裸的企图，利用这次同莫斯科的争端，向毛泽东强调他的忠心。康生暗示任何争说要采用比较软弱的方法同苏联打交道的人，都是与反对毛泽东的人沆瀣一气。两种人，康生说道，抗拒毛泽东思想；一种（康生举陈独秀、王明和彭德怀作例子）公开反对毛泽东，而另一种则是暗地里抗拒毛泽东。康生没有对第二种人指名道姓，但是他专指他们的那些短语——“尊重马克思”和“不可能超过马克思”——是针对任何一个支持苏联的人。简言之，在后斯大林时代，谁坚持传统的苏联式马克思主义观点，谁就是毛泽东暗藏的敌人。康生的说词又一次特地对准主席的耳朵，就像康生知道的那样，主席将会收到他的话的副本。
临近一九五九年年底，中国的领导人开始秘密重新估价同苏联的关系。不久以后，在一九六〇年一月，康生身为华沙条约协商会议中国观察家代表团团长，飞抵莫斯科——这是他首次公开表明自己在中苏冲突中扮演关键性的角色。
中国如何会碰巧出席一九六〇年的华沙公约会议，这个问题从未被完全澄清过。是中国观察代表团受到正式邀请，还是中国主动派遣去的，当时的公开声明回避了这个问题。
至于其他两个派观察团的国家蒙古和北朝鲜，苏联通讯社最初报导他们是“受到邀请，”后来又变成“出于他们自己的请求，”仿佛对明显没有邀请中国的任何可能争论施展手腕。如果俄国人故意怠慢中国人，作为擅自入场者来说，康生就是一个出色的选择——他的心境和反苏倾向使他有资格强有力地阐明中国的观点。
在中苏争端中陪伴康生的两位干部，拥有广泛的背景。一位是伍修权将军，他同苏联官员的关系可以上溯到二〇年代。强壮结实和脾气粗暴的情报专家伍修权，曾经就读于莫斯科的中山大学，后来在长征期间为隶属红军的共产国际顾问奥托·布劳恩当翻译。五〇年代初期，伍修权是负责苏联和东欧事务的外交部副部长，更重要的，他是中国共产党的国际联络部副部长。康生代表团的另一名成员是刘晓，当时中国驻莫斯科的大使。刘晓从上海开始一直是康生的同事，他在上海参加过一九二六年和一九二七年的工人起义，曾两次被捕，第一次被法国警察，第二次被英国人，他在上海的监狱里度过了几年时光。在一九三一年被释放以盾，他转移到共产党在江西的根据地。刘晓最后回到了上海，抗日战争期间他在上海是党的最高领导人之一。
一九六〇年二月四日，康生在华沙公约会议上发表了讲话，对俄国的外交政策进行了微妙的、几乎是挖苦的批评，在逐渐恶化的中苏关系史上成为重要的里程碑。他的演讲首次当众阐述了两国之间存在的分歧；当时苏联的通讯社并未将它刊登出来，中国的对外宣传杂志<：IE京周报》，全文刊登了这篇讲话。它所表达的思想已于一月下旬在上海的一次中国共产党的领导人会议上获得通过，但是康生讲话中对苏联动机的彻底怀疑，与他二十多年前到达延安以后宣扬的观点是一致的。
康生的莫斯科演讲中的基调和所包含的东西完全是反苏的，但是为了建立起他革命的凭证，他开始用一种辱骂性语言攻击美国。“美国的行为完全证明了它的帝国主义本性是不会改变的。美国帝国主义依然是世界和平的主要敌人。”他宣称。美国不但是个道地的侵略者，“而且美国帝国主义对中国人民充满敌意，在国际事务中总是采取一种差别对待的态度来反对我们的国家。”
康生对美国外交政权的谴责并不包含新意。自从共产党在一九四九年赢得大陆以来，毛泽东和他的同事们就把美国看作对中国安全的最可怕威胁。在似乎就要蔓延到中国境内的韩战中，美国派了一支军队去朝鲜，同中国“志愿军”进行作战，美国还部署军舰和军用飞机，阻止毛泽东的军队攻打台湾，消灭蒋介石及国民党。除了同北京的共产党政府直接对抗之外，华盛顿在亚洲其他地区还积极扩展影响：帮助重建中国二十世纪最僧恨的敌人日本，并在泰国、越南和泰国建立起一块反共活动的广泛区域。
但是康生并非仅把美国看作中国的危险敌人就已足够。他提出了一个新的话题，赋予他的演讲一种完全意想不到的倾向。“美国的统治集团，”康生评论说，“并不试图隐藏这种事实……即他们的……以和平赢得胜利的策略”，也就是“破坏世界和平力量的联合，分裂社会主义阵营……他们甚至梦想在社会主义国家里进行所谓的和平演变。”每一个出席者都知道康生谈到的是赫鲁晓夫同艾森豪威尔总统的对话；与会者亦人人理解他的话是对苏联外交政策和莫斯科试图同华盛顿达成某种谅解的完全抵制。康生避免点明他辩论中所有暗指的东西，但是他所传的信息是很清楚的：俄国人为了同美国人和平共处，正在出卖中国。
康生还详尽阐述了社会主义国家的内部威胁——就像他所称呼的“修正主义”。他举南斯拉夫为例，声称“中国人民……一直以为南斯拉夫的现代修正主义者背叛了共产主义运动，修正主义是现代共产主义运动的主要危险，必须进行反对修正主义的坚决抗争。”康生的声明是直接针对赫鲁晓夫的，他曾经竭尽全力地培养铁托。
康生对苏联世界观的完全抵制激怒了俄国人。在他和赫鲁晓夫之间随之发起一场猛烈的交锋，赫鲁晓夫对康生进行个人的攻击。“你没有资格同我争论，”被激怒的赫鲁晓夫大声嚷道，“我是苏联共产党的总书记，而你只是中国共产党政治局的一名候补委员。”康生立即用他那文理不通的俄语回击，“你的资历要比我浅得多。一九三一年我就是政冶局常务委员会委员。一九三五年我是共产国际执行委员会的候补委员。那时候你连中央委员会委员都不是！”
康生同毛泽东的私人关系，使他能用他喜欢的任何方式歪曲报导这一次会议和其他会议的过程。他用摘要向毛泽东报告情况——大体上受到曲解——与其说减轻不如说加剧了同莫斯科的争论。例如，在华沙公约会议上，赫鲁晓夫转向同僚，指着年老的奥托·库西宁（Otto Kuusinen）（政治局负责国际事务的委员）评论说，“在这儿我们有一些老家伙，我们应该对他们说声再见，就像对一只旧鞋一样。”然而，当康生回到中国的时候，他告诉毛泽东赫鲁晓夫把毛称为“一只皮鞋”，而不是称呼库西宁——这种说法增强了主席的期待和恐惧。结果，毛泽东后来以把赫鲁晓夫称作“那个秃顶”为乐。到一九六一年年底，“老秃顶”已经成为中国统治集团内对赫鲁晓夫的专门称呼。
由于他的口是心非，康生在两大共产主义势力的最高领导人之间成功地点燃了长期不和的火焰。和康生一样、参加过两国之间举行的三次会议的俄国人米哈依尔·L·提塔连科（Mikhail L.Titarenko），在一九八九年声称康生“扮演了一个非常邪恶的角色，在苏联和中国之间不断毒化友好的气氛，并暗中破坏彼此的信任感。”按照提塔连科的说法，每当康生出席中苏会议时，大会均介绍他是毛泽东的个人代表。提塔连科认为康生有两个目标：
（1）在两国之间引起麻烦，并阻止它们达成一致，特别是当较有和解倾向、却被毛视为观察力不足的周恩来在场的时候。
（2）作为毛泽东的耳目行事，毛泽东从不出席这样的会议。
按照提塔连科的说法，其他中国代表无论什么时候都不敢反驳康生讲给毛泽东听的故事，毛泽东只相信康生一个人——鉴于他说俄语的能力、他在莫斯科度过的岁月，以及他洞悉人的本性——明白事情的细微差别和分清界线。除此之外，提搭连科推测康生总是能预见毛泽东想要听的东西，因此他很少注意同苏联领导人的会议上实际发生的事情，总按照自己的随想汇报事情。毛泽东私下里声明康生的中心角色是充当他的观点的仲介人。在一九六四年一月接受美国新闻记者安娜·路易斯·斯特朗的采访时，毛泽东把康生介绍给斯特朗和其他五位外国人，包括西德尼·李胜堡（Sidney Rittenberg），一位在“北京广播电台”工作的美国人。“赫鲁晓夫说我是个完全说空话的人，”毛泽东说道，“好吧，我要你们见见我的空话部长康生同志。”
在苏联人看来，康生已成为一个恶魔般的人物。提搭连科回忆说，康生用一种奇怪的方式讲话，使他的上下排牙齿并在一起，“这给人一种很不愉快的感觉。他的目光极为严厉和沉重；他能够用他的凝视使你冻结。每一个人都害怕他。我们苏联这一方将他比作贝利亚。第一眼你就能看出他是个极为邪恶和无情的人。”通常有烟灰散落在康生的小胡子或上唇上。按照提搭连科的说法，这会使康生看上去像一位慈祥的、心不在焉的教授。但是康生由他厚厚的镜片增强效果的所有行为举止，是与这种感觉极为不同的。
“我不是西格蒙德·佛洛伊德（Sigmund Freud）的狂热拥护者，”提搭连科称，“但是佛洛伊德所说的东西与康生百分之百地相配。尽管康生按照中国的标准来看并不短小，但是他却不知怎地看上去有点矮小，”主要是因为他很瘦并且有一张极为狭窄的脸。“他是一个有着巨大野心的小个子男人的真正实例。他极其妒忌健康、英俊和有吸引力的人。中国人有一种说法，当一个男人变老的时候，他所有的品质都显露出来。我想随着他的变老，康生所有的邪恶品质都已显露出来。”
参加两国会谈的另一位苏联观察家却有不同的叙述。费奥多尔·M·伯拉茨基（Fyodor M. BurLatsky）记得康生是一个很朴素、很明朗的人，他“通常只是坐在那儿，沉默不语，”但是却从不遗漏任何把戏。
一旦他在华沙公约会议上公开了中国同克里姆林官之间政治上的分歧，康生加剧了这场争论并增强了他利用它的能力。双方都不准备超越康生含糊其词的说法；不管是毛泽东还是赫鲁晓夫，都不想首先去破坏社会主义的联合。但是中国已经获得了公开的主动。为了对苏联保持压力，中国人发表了一系列文章，攻击苏联的意识形态立场，将赫鲁晓夫描绘成一个已经摒弃了马克思列宁主义传统的异端，试图证明中国的态度是正确的。许多作者帮助撰写了这些文章，但是康生是主编，并且负责给毛泽东及其他资深领导人传阅草稿。
华沙公约会议以后，康生编辑的第一篇评论是《列宁主义万岁！》茌列宁九十庭辰前六天，由中国的理论性杂志《红旗》于一九六〇年四月十六日发表。这篇文章不仅仅重复许多康生在莫斯科已经表达过的观点，它对已经过时的列宁主义是否要有技术上的变化这一问题进行了广泛的思考。赫鲁晓夫理论的中心是主张现代军事技术——特别是核武器——已经使列宁那同帝国主义的战争是不可避免的信念变得陈腐过时。然而，在《列宁主义万岁！》里，康生和他的作者群争论说武器不像“人民”那么重要，并以为不必害怕同帝国主义的战争。
尽管《列宁主义万岁！》宣称中国热爱和平，但是它听起来像是世界大战的一种启示录式的预言：“在死亡的帝国主义的废墟上，胜利的人民将非常迅速地创造出比资本主义制度高一千倍的文明，以及一个属于他们自己真正美好的未来。”在康生关于世界发展的分析中，数百万的人员伤亡是为了创造“美好未来”可以接受的代价。
就在他们嘲笑苏联对核战争的两败俱伤性的恐惧的同时，康生和他的小组提出毛泽东，而不是赫鲁晓夫，才是列宁的合法继承人。仿佛这还不够使毛泽东感到荣耀，他们还强调毛泽东最得意的计划的绝对正确性：“大跃进”和人民公社。《列宁主义万岁！》是在这样一个时期出现的：当时毛泽东五年代末的政策结合不寻常的惨酷气候，导致了一场饥荒，饿死了成千成万的人民；然而，康生和他手下的人却赞美毛泽东的政策正在“唤起全国各地群众的积极性和革命精神。”总之，这篇文章充满了康生的幻想式骗局，在否定中国的经济问题时，他应允，随着一场普遍性的大破坏之后，会有一个“美好的未宋”-也依然在无耻地迎合毛泽东。
同邓小平和彭真一起，康生在接下来的五年内谋划同苏联抗争的要点和方法，苏联对中国的敌意使裂痕变得分明。
一九六〇年七月，俄国人突然全部撤回了他们派往中国工作的一千三百名专家和顾问——一个完全出人意料的姿态，甚至到今天，中国人都把它称作是一个破坏性的行动。那年十一月，世界上八十七个共产党中除了六个之外全部聚集在莫斯科，参加俄国革命的周年庆祝活动，但是莫斯科和北京之间只产生了一种装饰性的短暂休战。在这次会议上，中国一方大多由邓小平发言，他一度卷入与赫鲁晓夫的彼此谴责之中。康生又一次成为毛泽东的个人代表，密切注视着事态的发展，并确定中国方面不作任何妥协。
一九六〇年十一月的莫斯科会议，表明任何方法都无从跨越使双方分离的怀疑和怨恨，标志着一个阶段的结束。几个月之内，中国人和俄国人各自公开招募来自国际共产主义运动的拥护者，康生积极地为中国的立场寻找其他共产党的支持，参加国际会议，接待访问者，并监督为中国的姿态辩护的意识形态方面争论的发展。
在这一时期，康生同邓小平的工作联系相对较多一些。一九六一年九月，两人前往北朝鲜的首都平壤（据说，是由一位儒学先辈创建的），它位于大同江的两岸。表面上，邓小平和康生是出席朝鲜工人党第四次代表大会，但是他们利用这次访问，借以保证这个地理位置具有战略意义、与中国东部边境接壤、大量依靠俄国援助的国家不支持苏联的剩益。他们获得了些许成功：北朝鲜的领导者金日成，在两个敌对的政党之间小心翼翼维持着平衡关系，时间达十年以上。
康生、周恩来和其他几名中国领导人，于一九六一年十月在莫斯科举行的苏联共产党第二十二次代表大会上，使这场同俄国人的争吵逐步加温。在苏联首都的那段时间里，中国代表为纪念斯大林，向红场（那儿葬着列宁和斯大林）的斯大林陵墓献了花圈，他们同俄国人之间的分歧因而变得引人注目。中国人对斯大林的称颂，并不能阻止赫鲁晓夫利用这次代表大会，公开暴露那位死去的独裁者骇人听闻的罪行。几天以后，或许想要使中国代表团感到窘迫，赫鲁晓夫把斯大林的尸体从陵墓中迁了出去。
赫鲁晓夫对斯大林罪行的列举和后来对斯大林陵墓的亵渎，还不是令中国代表唯一感到恼火的事情。维亚切斯拉夫·莫洛托夫，斯大林信任的同事和中国共产党的老朋友，当周恩来和康生还在莫斯科的时候，就遭到羞辱，被开除出苏联共产党。莫洛托夫最终失去恩宠是个进一步的暗示，在新一代的苏联领导人中间，中国不再有盟友。
赫鲁晓夫甚至进一步尖刻攻击阿尔巴尼亚，来激怒中国代表，到那时为止，这个巴尔干国家一直完全支持中国对苏联的挑衅。赫鲁晓夫在狂怒中把阿尔巴尼亚的领导人称作“凶手和罪犯”；被外国人视作中国共产党领导人中“最有头脑的”周恩来，讽刺地回答，俄国人的措词“不能被视作是严肃的马列主义者的看法。”周恩来和中国代表团的其余成员，包括康生，当场退出了代表大会的会场。他们提前几天回到了北京——中苏关系继续恶化。
由于他不断对苏联进秆口头上的攻击，康生在国内的声望大大提高，并在一九六二年九月由中国共产党中央委员会任命为书记处书记，这是个管理党的日常事务的关键性机构。领导书记处的中国共产党总书记邓小平，可以否决任何任命，因此康生的提升足以证明这两个人之间的关系有所发展。
中苏争端在一九六二年十一月给康生带来了进一步的奖赏，当时，他接下起草一系列反对“修正主义”文章的敏感任务。这些评论是由一个特殊的宣传工作者小组完成的，包括周扬、邓力群和吴冷西。他们的许多文章都是在钓鱼台国宾馆写成的，那是一个很大的、正方形的、苏联风格的别墅群和办事处，五〇年代建于北京西郊一个古代皇家狩猎场。康生占据了八号别墅，一座白色的、有着高高天花板和很多房间的二层建筑。在这个住处里，他有一个拥有巨大的书桌和文件柜的办公室；一间备有绣花沙发的会议室；一间餐室；以及一间小放映室。这幢别墅还备有卧室，康生有时候不回他在小石桥胡同的家，就在这里睡觉。康生的佣人、司机、厨师和警卫通常都住在这幢别墅里，而他的秘书们会整夜睡在此处，因为不管什么时候，他都需要他们在场。就在这个有着一流装备的建筑里，康生从事着反“苏联修正主义”的论辩工作。
名义上邓小平是这些宣传人员的监督者，但是康生是实际的控制者。康生在两年内完成了这项任务，他除了始终体现毛泽东的观点之外，还不断同邓小平密切磋商。康生和他的小组写出的论辩性评论，口气强硬、好争辩丽富有进攻性，进一步阻止了任何恢复中苏关系的企图。同《列宁圭义万岁！》一起，这些反苏联的连球炮般的新攻讦，以《九评》而广为人知——两个共产党巨人之间关系决裂的最终证明。随着它们的出版，过去的关系一去不复返了。
一九六三年七月，康生陪同邓小平去莫斯科参加两党之间进一步的辩论。当他们从莫斯科回来时，由新华社在北京机场拍摄的一张照片显示，康生穿着一套整齐的灰色毛式服装，手里拿着烟，对着鼓掌欢迎的人群幸福地微笑着。这场中苏对话无能弥合两国之间的分歧；难怪这是少数显示康生露齿而笑的照片之一。
一九六四年十一月，为了列席俄国革命四十七周年纪念活动，康生最后一次对莫斯科进行了访问。由于一个月以前赫鲁晓夫被赶下台，由周恩来率领的中国团，试图考察新的苏联政权是否会对中国有任何更富同情的表示。两国都各自朝前迈了几步，同意进行有限的双边合作。然而，康生叉忙于他的老骗局。苏联国防部长罗迪昂·马林诺夫斯基元帅注意到“两个老人”——毛泽东和赫鲁晓夫——彼此都不喜欢对方，但他仍呼吁双方在一种友好的气氛中谈判。但是康生利用马林诺夫斯基的话来阻止进一步的发展。回到中国后他立即告诉毛泽东：马林诺夫斯基谈到了已遭废黜的赫鲁晓夫，并暗示中国人应该跟随他们的作法推翻毛泽东。
中国同苏联关系的瓦解使六〇年代初成为康生的好年头。像往常一样，他能够以牺牲其他人为代价，为自己攫取最多的好处。这一时期，共产主义集团中最主要的两个国家之间的冲突，使他得以为了个人利益而操纵毛泽东和其他中国领导人。
他同苏联还有一种私人关系。一九四九年以后，刘少奇的几个孩子都在莫斯科学习；一个儿子刘允蛾，同一个俄国人结了婚；另一个儿子刘允若，有一个他想娶的俄国恋人。他们俩同俄国人的关系都没有持续到一九六〇年——允斌同他的妻子离了婚，允若从未同他的女朋友结过婚——但是这种浪漫的关系促使刘少奇在中俄关系上心胸开放，这是许多中国领导人所不具有的。除此之外，尽管刘少奇和他的儿子们依然留在中国，但他的一个内弟张凡，在一九六年逃到苏联去了。