当康生继续在隐蔽处活动的时候，毛泽东继续革命的梦想和中国严峻的经济现实之间的落差日益明显。刘少奇、邓小平和彭真试图使国家沿着航道稳健前进，但是一九六二年毛泽东宣称他在政治上要卷土重来之后，群众运动开始赞美集体社会中非常熟悉的无私共产主义英雄的理想。无数的城市干部、知识分子、作家、艺术家和学生被送往农村接受“社会主义教育”——也就是竭力仿效农民的简单生活。当时宣传的精神根源在延安。二十年前毛泽东写的一些文章表现了共产主义道德的样板。一些延安的照片显示了毛泽东和其他高级官员在他们的窑洞外挖掘小块的蔬菜地，这使群众回想起主席曾经与他们一起劳动。
以此为背景，一场公开的争论到一九六五年末达到了顶点，当时国防部长林彪唆使逮捕他的竞争对手，解放军总参谋长罗瑞卿将军。康生是第二年卷入罗瑞卿事件的，那时他协助配合，指控罗瑞卿是个“内奸”，与外国保持非法关系。在林彪把目标对准他之前，罗瑞卿将军似乎是天下无敌的。虽然他是位长征老战士、书记处书记、国务院副总理和前公安部长，但是罗瑞卿还是把了错误，偏离了毛泽东的军事理论，他号召建立一支以现代武器装备、以先进战术训练的职业军队——他忽视了主席对游击战的崇拜和对意识形态的热爱。罗瑞卿成为抵制毛泽东军事思想以及林彪控制的人民解放军的一个象征。林彪和他的妻子叶群——一个具有无限野心、喜爱搞阴谋的女人——哄骗一些部队和空军的军官，指责罗瑞卿阴谋夺取军队的权力。罗瑞卿于一九六五年十一月被捕，并且受到好几年的迫害。
当林彪和罗瑞卿之间的斗争达到高潮时，康生重又转向文学上的争论。这次争论的焦点是戏剧《海瑞罢官》，它重述了十六世纪明朝大臣海瑞的故事，他因为公开反对嘉靖皇帝的错误政策而被罢官。江青首度在一九六二年试图说服她丈夫批判这个戏剧，但是毛泽东没有理睬她的劝告——事实上他还邀请戏剧明星马连良到他在中南海的居所晚餐，整个夜晚对其表演艺术赞美不已。
两年过去了，康生开始卷入。康生没有像江青那样，谴责《海瑞罢官》是对毛泽东文学理论的挑战，而是从主席的猜疑人手，散布这个戏剧企图为彭德怀鸣冤的观点。康生基本上是重复了他在小说《刘志丹》事件中的手法，把这部作品描绘成一种针对毛泽东的阴谋工具。
康生在这个事件中的作用是如此微妙，以致使当时的许多观察者相信，《海瑞罢官》确实是康生所理解的那回事。实际上鼓励颂扬海瑞是由毛泽东本人发起的。一九五九年初在上海的一次会议上，当中国领导人第一次丁解大跃进的灾难性后果，并且开始号召各省呈送真实的报告时，毛泽东要求干部学习“海瑞精神”。他的秘书胡乔木把这些评论传达给吴晗，一位受人尊敬的非共产党员的历史学家，一九五一年他被任命为北京市副市长，由此可知共产党也在努力改进与国内知识分子的关系。胡乔木建议，吴晗以海瑞的生平故事为基础，写一篇文章或一个剧本。
吴晗写了一篇《论海瑞》的文章回应胡乔木，于一九五九年末发表——就在庐山的中央委员会会议的艰苦斗争和清洗彭德怀元帅之后。不过，他的文章受到普遍欢迎；没有人指责他别有用心或是为毛泽东下台的批评者辩护。于是吴晗开始把海瑞的故事改编成戏剧。他原把初稿简单地称为《海瑞》，但是一位朋友，云南植物研究所所长蔡希陶指出，几个世纪以来许多文学作品都以这个题目出现，建议把题目扩充为《海瑞罢官》。从第四稿起，这个戏剧就以这个最终导致灾难的新名称而知名。
《海瑞罢官》在庐山会议两年之后的一九六一年首次公演，受到北京观众的热烈欢迎，包括高级领导人。那时康生专注于促进有关鬼怪、卖国贼和色情的传统剧目，没有任何迹象表明，他从吴晗的戏剧中发现了什么问题。
然而三年之后，康生发动了一场称得上是伊阿古式的运动，抓住了毛泽东的恐惧和猜疑。他向毛泽东暗示，这个戏所暴露的阴谋是题目中“罢官”两个字。康生巧妙地说明，这两个宇在勇敢的海瑞和桀骜不驯的彭德怀之间建立了虚假的平行关系，因为他们两人都被罢了官。
正如适应毛泽东新的国内安排一样，康圭继续加强毛泽东猜疑吴晗写作《海瑞罢官》的动机。他还秘密地与江青和其他几个干部一起策划对这出戏剧的攻击。康生和江青认为，北京宣传部会制止在北京发表任何批评这出戏剧的文章，于是他们选择从上海发起攻击。尽管共产党政权具有铁板一块的形象，但是中国两个最大城市的政治和文化氛围极其不同。北京在许多方面仍然是中世纪的帝国首都，拥有精美文化的诱人空气。而上海的政治从一九四九年以来一直由工人领导者控制着，其中许多人是从暴徒起家的。这个城市是激进思想的温床，这是多年来从反对外国人、资本家和国民党的斗争中形成的。康生和其他共产党人早年都曾在上海的肮脏作坊和工厂中担任鼓动者，他们爱好强硬路线的意识形态的言辞，这使他们与更为实际的战士和管理北京的官僚有所区别。
柯庆施从二〇年代末开始就是康生的同志，他控制着上海的共产党机构，这为康生选择上海作为基地提供了另一个理由。柯庆施仅比康生小四岁，他们都出生于乡绅家庭，并且在白色恐怖时期的上海地下党内一起工作。柯庆施被朋友们称作“大鼻子”和“柯外行”，他虔诚地学习毛泽东著作。柯庆施把毛泽东的一些口号压在他的办公桌玻璃下面，在他的床边放着毛泽东选集，而且总是随身携带至少两本有关毛泽东思想的书。在任南京市长之后，一九五四年柯庆施被调回上海。到五〇年代末，他既是上海市长，又是上海党机构的第一书记。
柯庆施进驻于海格大厦，这座殖民地时期的豪华蓬筑在一九四九年之后供上海党的总部使用，楼里的干部和他一起分享着激进派的热情。柯庆施最信任的助手是位名叫张春桥的记者，他是个不苟言笑的人，而且与大多数中国人不同，回避社会交往。张春桥和康生一样，出生在山东一个富裕而知名的家庭，他生于一九一七年。在他十八岁的时候，张春桥去上海寻找出路。他开始是做校对员，为古典文本加标点和注释，使之合乎现代形式。张春桥认真而刻苦，不久成为涉猎广泛的记者，以“狄克”为笔名。他与国民党的圈子有来往，是编辑兼国民党特务崔万秋的门徒，当江青在上海当演员的时候，崔万秋还向她献过殷勤。身为国民党阵营的一员，张春桥写了许多讽刺文章攻击鲁迅，鲁迅是中国最有成就的讽刺作家，他被共产党所影响，转而成为对蒋介石的统治不抱幻想的知识分子的象征。张春桥后来为国民党机构服务，一九三七年日本人侵略中国的时候，他逃往延安，在那里他加入了共产党，并且进入陕北公学学习，这个学校是由康生的社会事务部管理的。张春桥从此展开以后十年中与柯庆施的密切合作，并且跟随他来到上海，成为这个城市的官僚机构中正在上升的明星之一。到一九六五年，他已经是上海宣传部部长和城市管理委员会的成员。
江青和康生一样，对上海有着强烈的情感。她对自己当年年轻演员的生涯有许多美好的记忆，一九六二年以后她在上海度过了许多时光。在锦江饭店这座战前的豪华的综合建筑中到处是磨光的木质镶板和黄铜配件，江青在她的一组套房中培育起与柯庆施和一些地方宣传工作者的亲密关系。一九六三年向孟超昀鬼怪和卖国戏《李慧娘》发起攻势的时候，柯庆施与康生和江青一起工作，而且上海的文化官僚总是倡导江青的革命戏剧。
在康生开始说服毛泽东，吴晗的历史剧中隐藏着恶毒用意之后大约一年，江青告诉柯庆施和张春桥要批判这个戏剧。他们同意了，一九六五年二月张春桥指定姚文元全力以赴准备一篇批评文章，他是上海两家主要报纸之一《解放日报》工作班子中的一名年轻记者。
接受这次使命时他只有三十四岁，这位圆脸的胖子姚文元同样是上海这个腐化世界的产物，这个世界在二〇年代末三〇年代初协助造就了康生和他的许多同伙。姚文元的父亲是姚蓬子，一位颇为成功的上海作家，一九二七年加入共产党，四年之后被康生的秘密机构的同仁之一潘汉年招募为特务。姚莲子在康生的组织中任“通讯官”，把消息秘密地传递给华北的共产党网络。但是在一九三三年十二月，国民党调查科在港口城市天津将他逮捕，姚蓬子放弃共产主义信仰，成为在国民党安全头目徐恩曾管辖下的文学圈内有影响的国民党特务。尽管其父亲有变化无常的历史，但是在五〇年代初共产党还是允许姚文元加入，而且他逐渐使自己成为一个次要的却又在思想上十分可靠的记者。
一旦着手写作批评《海瑞罢官》的文章，姚文元就遇到了严重的障碍。他在人民共和国的初期接受教育，对明朝的历史知之甚少，更不用说海瑞这个人了。姚文元需要寻找专业而又谨慎的助手，他求助于两个来源：上海复旦大学的历史学教授朱永嘉总是希望自己能够涉足政治；他向姚文元提供了一些海瑞故事的历史细节。妙文元求助的另一个人是他昀父亲，当年他是个退休作家和秘密机构的特务，他兴致盎然，全力帮助儿子准备这篇可能赢得江青和柯庆施等国家领导人好感的文章。
在他父亲和朱教授的指导下，姚文元掌握了错综复杂的明朝历史。但是在发表第一篇文章之前，他失去了他两个主要庇护人中的一个。一九六五年四月五日，柯庆施对四川省会成都进行访问。他吃了一顿丰盛的辛辣川菜和几把花生；几分钟后，柯庆施感到胃痛，并且开始内出血，显然胰腺出了毛病。卫生部长钱信忠和一个专家组紧急飞往成都，但是柯庆施在四天后去世。姚文元和他的支持者们担心，柯庆施的去世可能使上海的政治形势更加微妙，有别于北京的激进火焰会被他的继任者扑灭。
这些担心证明是正确的。柯庆施的继任者陈丕显是个与控制北京的官员有密切关系的保守派干部。然而，张春桥保留着市委宣传部长的职务。这给与姚文元继续其工作必要的掩护，他的文章《评新编历史剧（海瑞罢官）》最终发表在一九六五年十一月十日的《文汇报》上，这是上海的一份日报。
姚文元的批评文章没有任何东西暗示它会对中国的政治产生巨大的影响。他指责说，昊啥背离了马列主义理论；吴晗与毛泽东的论断“人民是历史的动力”相抵触，把历史描绘成由个人“救世主”决定的过程；吴晗试图以阶级调和取代阶级斗争的理论。姚文元指出，海瑞曾号召土地归还其合法的所有人，他反问，吴哈是否正在向共产党土地改革的进程提出挑战。
虽然充斥着政治的争论，但是姚文元的文章并没有谴责吴晗阴谋恢复彭德忭的名誉或涉及任何其他的阴谋。事实上，姚文元并没有超越那种意识形态的批评。大约一年前，他就以这种方式瞄准许多其他的作家。姚文元的批评引起如此争议，不是因为他有价值的观点，而是因为他对吴晗个人作品的责难，吴晗不仅是位受人尊敬的学者和剧作家，而且是位著名的官员。吴晗长期以来受到北京党的首脑彭真的保护，因此姚文元对吴晗的攻击是对彭真形象的潜在破坏。
伤害彭真正是康生所希望的。彭真在延安一直是康生的下属，但是他在五〇年代的迅速篡升凸显了康生衰退的命运。虽然在与苏联修正主义斗争时他同彭真一起工作，但是在他们一起参加国际会议时的礼仪顺序上，康生的级别较低，这引起了康生的愤怒。
从上海发起攻击的决定是康生和他的同谋者的巧妙安排，这样可以在彭真和其他北京领导人不提防的时候逮着他们。在没有任何警告的情况下，一位著名的学者兼官员，北京市政府的主要成员就被置于中国一家主要报纸的攻击之下。考虑到吴晗身为北京副市长的地位，这个事件显然是对统治首都的党的权力机构无法忍受的一击。姚文元可能只是上海的一位次要记者，但地位偏低并没有减弱他文章的挑衅性。由林彪控制的《解放军报》迅速转载了姚文元的文章，使它变得更为显著。不久以后，国家的报刊上开始出现大量的文学评论，赞成和批评这个戏剧的都有。
正统的领导人透过《人民日报》和《北京日报》来作出反应，试图阻止对吴晗和他的戏剧的攻击。对彭真和他的同事来说，姚文元对他们副市长的批评等于是一种人身攻击。吴啥在一九六五年十二胃二十七日和一九六六年一月十二日发表了温和的自我批评的文章，在后一篇文章中他承认犯了一些错误。吴晗的姿态是以积极的妥协做出象征性的撤退，把事情留给其他人来争论。于是，彭真把争端提交给他的政治局同仁，在他们的赞同下，他又把争议提交给中央文化革命五人小组，通常称为“五人小组”。由它来调查那些指控，并且向毛泽东汇报。
五人小组成立于一九六四年，以因应毛泽东一些门徒批评北京文化舞台上所谓的“修正主义”趋势，也是彭真和其他党的保守派所作出的努力。在彭真及其盟友的主持下进行的一系列活动——发表杂文家邓拓的许多杂文，抵制江青的戏剧改革，宣传几部戏剧、电影和小说——同为其资产阶级倾向而受到攻击。表面上，五人小组的使命是为了完成北京的“文化革命”。实际上，彭真及其盟友把五人小组作为一种工具，这能够使他们自夸“文化革命”正在进行之中，事实是任何事务都未发生变化。用一位汉学家的话来说，授权五人小组向毛泽东汇报侵越行为无异于“把起草起诉材料的任务交给首要被告。”
五人小组的倾向反映在它的人员构成上。彭真自己是小组组长，他是北京文化舞台上许多批评的目标。其他三个成员也代表党的权力机构：陆定一是文化部长、宣传部长和书记处书记；周扬是中共老资格的文化干部，宣传部副部长；吴冷西是《人民日报》主编，这使他成为保守派的主要发言人。康生是小组中唯一与中共激进派有来往的成员。然而从延安时代以来彭真就认识康生，他并没有把康生当作一种威胁。
康生在五人小组申的地位使他完全有机会利用吴啥引发的争议。当轻信的彭真匆匆对戏剧作出各种保护时，当彭真的下属对戏剧的各个方面包括对吴晗的政治背景进行调查时，康生却像老虎一样安静地等待着猛扑过去的时机。彭真是谨慎的；虽然姚文元并没有在吴晗戏剧的主人翁海瑞和前国防部长彭德怀之间作比较，但是各种谣传开始把他们俩联系起来，而彭真希望掩盖各种根据。彭真的调查断定，吴晗和彭德怀之间不存在任何“组织上”的联系，他们两人从来没有见过面，而且没有任何个人关系，就像《刘志丹》的作者李建彤和她小说所赞美的革命英雄家庭之间没有任何关系一样。一旦彻底的调查完成之后，彭真就觉得他可以反驳任何暗示《海瑞罢官》是试图为彭德怀翻案的阴谋家作品的说法。
一九六六年二月三日，彭真把他的结论提交给五人小组，建议把这个戏剧的讨论留给学者和历史学家——以一种确定的方式使争论转变为一种无害的学术讨论。会议期间康生一言不发，但是他的沉默并没有使彭真警觉；他没有任何理由怀疑，康生与姚文元的文章有联系。
彭真继续相信，他已经控制着形势。他命令两位宣传机构的作家许立群和姚溱去准备一份五人小组的讨论纲要；它在二月四日打印出来，散发给前一天会议的主要与会者。康生又一次没有提出任何反对意见，甚至在汇报纲要上连最简单的评论也没有。第二天，彭真把纲要提交给政治局。刘少奇代替毛泽东主持会议（那年冬天毛泽东在南方），他问彭真，在吴晗和彭德怀之间是否存在任何证据说明他们有“组织上”的联系；在刘少奇的问踵后面是一种关注：这个戏剧可能是为了抗议清洗彭德怀而写成的，因为那时在北京的政治菁英圈就是这么谣传的。彭真向刘少奇保证，没有任何这样的证据。康生仍然保持沉默。
康生、彭真和五人小组的其他三位成员三天后飞往武汉，向毛泽东提交他们的结论。政治局已经接受他们的报告，但是主席仍然要在事情结束之前批准对争论的处理。在毛泽东的询问下，彭真宣称调查没有发现吴晗和彭德怀之间有联系的任何证据。
毛泽东的回答使彭真愕然。“我说过吴晗文章的要害是罢官，这是康生向我讲的，是康生的发明权。”康生仍然摸不准毛泽东的态度，而且急于避免与彭真过早冲突，他急忙插话：“不，不是我的发明权，是毛主席的发明权。”后来毛泽东再次肯定说“这是康生的发明权，”康生才没有对主席的说法加以否认。
二月十一日，从武汉与毛泽东会面返回北京之后，彭真把汇报提纲和另外一页评论一起散发给五人小组的成员，在党内更大范围传阅之前寻求他们的赞同。当文件到达之时，康生正在他的钓鱼台居所看一部电影，因此他指示秘书去处理，并且代表他作了一个简洁的标记。康生只是在封面按语上画了个圈，表示他已经阅读，然后把文件退给彭真。
第二天康生前往上海，表面上是去参加由江青主持在解放军内促进激进艺术和文化的座谈会，但是他在上海逗留了将近两个月，大部分时间住在锦江饭店的套房里，与江青、张春桥和其他以上海为基地的激进派静观最近的态势。五人小组二月会议的汇报提纲——简称“二月提纲”——在他不在首都的时候散发给政治局委员和其估高级干部。吴晗事件似乎即将化为学术争论，不再威胁首都的权力平衡。
正当康生从吴晗的争论中获益的机会似乎正在消失时，毛泽东出面干预了。康生从上海回来一个月之后的三月二十八日，康生、江青、张春桥和其他几个人聚集在武汉与主席会面。康生和他的激进派同志们有两天时间和毛泽东在一起，毛泽东最后谈到了彭真对有关《海瑞罢官》争论的处理。
显然，毛泽东倾向于激进派的立场，因此康生抓住时机支持主席对彭真的猜疑；康生对汇报提纲的起草作了使人误解的说明，暗示彭真是在他背后偷偷准备的。毛泽东的反应是认为二月提纲“混淆阶级界限，不分是非，是错误的。”考虑到毛泽东以阶级斗争为纲的观点，毛的陈述可说表明了他对汇报的强烈不满。
最后，康生摘下他客气的面具。从四月九日开始、历时三天的书记处会议上，他当着邓小平、杨尚昆、陆定一和其他官员的面攻击彭真。康生避免涉及二月提纲，以便遮掩他在准备提纲时的作用，他指责彭真身为五人小组的组长犯下了“一系列罪行”。康生的突然袭击是警告彭真对麻烦做好准备。同时提醒其他书记处成员，这位北京市长可能被置于攻击之下。他们知道，像康生那样谨慎的人如果没有强有力的支持是不会采取行动的，他们也知道，康生是毛主席少数密友之一。彭真的同仁开始见风使舵。
四月末，康生花了一天半时间在杭州向毛泽东汇报他的工作。他们的对话使康生十分满意，毛泽东接受了他的观点：彭真故意利用吴晗的戏剧试图限制毛泽东的影响。主席的态度使他壮胆，在互月四日召开的政治局扩大会议上，康生重新开始攻击彭真。这一次他不再是暗中反对彭真，而是提供了一次长达两天半的马拉松式发言。康生把他可以搜集到的一切意识形态上的术语都编织在一起，来证明毛泽东思想远远超过由马克思所阐明的理论。除了奉承毛泽东之外，康生也讲述了对吴晗的调查，并且指责彭真的一系列政治罪行。康生最严重的指控是彭真秘密地准备汇报提纲，而提纲是“反党反社会主义的毒草”。
根据康生的说法，彭真指示许立群和姚溱，把他们自己锁在钓鱼台国宾馆起草提纲，并且向五人小组的其他成员保密，“甚至包括康生：他住在同一个楼里。”康生向政治局出示了一份伪造的纪录，纪录上说在五人小组会议上，康生进行了激烈的争论以反对彭真的建议。因此在这场提纲风波中，康生完全不会受到任何指责，而彭真操纵对吴晗的争论却是罪责难逃。
政治局会议持续了十二天，最后在五月十六日休会。由于康生的原因，彭真蒙受了耻辱：政治局解散了五人小组，而且宣布汇报提纲无效。在会议的最后一天，康生和陈伯达一起起草了一份党内文件，后来被称之为“五一六通知”，它批判了彭真，记录了政治局的决定。
在以后的几个星期里，康生继续虚伪地指责彭真暗中准备汇报提纲。北越领袖胡志明在六月三日拜访康生（他们俩最初是在二十年前胡志明在延安和中国共产党一起工作时认识的），得到了提纲的简况介绍。康生宣称：“我是五人小组的成员，但是他背着我起草提纲，我很不满。”胡志明打断康生的话说：“你也有错误。”康生从来币会词穷，他立刻回答说：“是的，我的错误是在他的秘书送交给我提纲的时候正在看电影。我很不高兴，告诉我的秘书为我画个固，然后继续看电影。现在我必须承认，我没有对党负责。”康生与胡志明以及其他外国代表团的对话由书记员记录下来，在高级干部中传阅，这就传布了康生坚定不移地抵制彭真的谎言。
彭真被撤消了所有职务，五人小组的其他三个成员也遭此下场，分别是宣传部长陆定一、宣传部副部长周扬和《人民日报》主编吴冷西。六月三日宣布他们被撤消职务，正巧这一天康生会见了胡志明。政治局成立了以文化革命小组而知名的机构取代五人小组，文革小组立刻获得了极高的地位和几乎所有的政治特权。它直接向政治局常委汇报，那时政治局常委由毛主席、国防部长林彪和总理周恩来控制。
康生拒绝进入文革小组，但是这并没有抑制他对文革小组的影响：文革小组成员江青、陈伯达、张春桥、王力和关锋，他们每个人与康生都有密切的联系。康生同意当文革小组的“顾问”，一个完全适合他风格的头衔。他的职务使他在新出现的政治秩序中占有明显的地位，又可以使他远离文革小组可能犯下的任何错误。康生恰好得到了他总是希望得到的东西：最少的风险和最大的权力。
透过引诱毛泽东介入《海瑞罢官》的争论，康生奠定了文化大革命的基础。各种意识形态运动的谬误开端之后三年，康生与他的激进派集团和机会主义盟友最终毁掉了一个党的高层领导人。彭真、刘少奇和邓小平构成实用主义上层官员的三执政；彭真的下台显示，康生及其同伙向夺取权力的崽图迈出了关键的一步。
五人小组中四个成员蒙受耻辱。只有一人连同他的声誉和权威完整无损地幸存下来。对中国来说这是不幸的，这个人是康生。