康生被剥夺安全和情报部门首脑的职位之后，依然是毛泽东核心圈里的成员，但是像刘少奇、任弼时和杨尚昆等人的观点至少也和康生一样具有份量。
紧接着日本人于一九四五年八月投降以后不久，主席和最高统帅开始商谈建立一个新的联合政权。在美国全权特使一系列的鼓励之下，双方进行了长时间的讨价还价，就像没完没了的皮影戏。但是毛泽东和蒋介石都不准备妥协；他们运用各种手段，只是为了政治上和策略上的好处，并且等待恢复敌对行动的最佳时机。一九四五年十二月，协商以失败告终，战争似乎追在眉睫。共产党和国民党之间早就预期的国内战争终于在一九四六年三月猛烈爆发了。
当毛泽东和蒋介石互相回避时，康生抓住每个机会大肆宣扬他对秘密战争的擅长，希望毛泽东认识到他在反对国民党的斗争中是必不可少的，但是毛泽东忽视了他。主席最终将他安排到他以前从未涉入的领域——土地改革。
从二〇年代后期开始，中国共产党人首先提出，在中国，城市无产阶级是否也能像在苏联那样成为革命动力的问题，土地改革的想法遂成为中国共产党的基础——没收富有的地主和富农的土地，将它们分给千千万万的贫农、雇农和无地游民。国民党和共产党在土地改革政策方面是不一敢的，事实上，它破坏了两党的早期联盟，并导致了一九二七年的国内战争。那一年，毛泽东写道：“几万万农民……其势如暴风骤雨，迅猛异常……一切帝国主义、军阀、贪官污吏、土豪劣绅，都将被他们葬人坟墓。”毛泽东知道，为了召集不满的贫苦农民，共产党需要提供给他们一些东西；而最能激励他们的奖品是土地。
革命党利用中国农村大片土地的时机已经成熟，人们向无法脱离贫困的农村人口大声呼吁。在很多地方，地主残酷地虐待雇农——在他们无法支付所要求的过高地租和榨取过多利息的时候，抢夺他们的妻子和女儿，雇用恶棍殴打任何一个引起麻烦的人。
一九四六年十二月十日，接到来自毛泽东、朱德总司令和共产党最高民政官员刘少奇的命令，康生与一行七人从延安出发到甘肃省东面荒芜的边界地区——陇东，大约在延安以西一百英里处。他的使命是视察共产党在几年前获得控制的地区创立的土地改革计划。康生在陇东仅度过五个星期，但是这些日子使他对土地改革及其在共产主义革命中的地位持乐观态度。
共产党的土地改革政策在不同的地区有很大的不同，在较为贫瘠的地区，那里经济艰难，土匪、军阀和干旱使农民陷于水深火热的悲惨境地。共产党经常运用极端的手段消灭富农，就像斯大林清除鸟克兰和俄国南方地区拥有土地的富农一样。在土地肥沃、气候温和的地区，中国共产党很难激发民众对富裕农民和地主的憎恨；通常土地拥有者失去他们的土地，但是他们的生命得以存活。
康生在指导土地改革时采用最严厉的方法是不会令人讶异的。在陇东，他把自己装扮成对正在进行的土改计划的批评者，然后，在他退回延安时则指责陇东的领导有“右倾”思想——意思是对地主的一种温和妥协的倾向。～九四七年二月二日，在他回到延安后不到一周，康生就在党校发表了一篇粗暴的演讲，这是他为了激进的土地改革需要所做的一系列讲话中的第一篇。他号召使用一种新的民粹主义方法，“唤起民众，然后把所有的问题交给他们去处理，这种方法能够解决问题。”
康生的规则转变成乡村内无数复仇行动。康生不仅没收地主的房子和财产，把他们的土地分给农民，而且煽动农民对地主和他们的随从的仇恨。以社会正义的名义，鼓励农民通过杀死地主和富农，来结清宿怨。康生丰富的经历从未抑制他对土地改革的严厉措施的热情：毫无疑问，他在其他方面也是这样残酷无情的。无论如何，这次地主不幸成为康生的目标。正如毛泽东在后一年中解释的：“我们的任务是……消灭地主，把他们当作一个阶级，而不是当作个人。”
一九四七年三月，康生从陇东回来五个星期之后，一支国民党军队进攻延安，迫使共产党撤离这座古老的城镇。当国民党飞机轰炸和扫射从延安撤离的军队时，康生和曹轶殴与共产党的主力一起西进到黄河岸边，在那里，他接到命令去负责东面几百英里以外的山西省土改计划。他从共产党主力部队中离开，到山西省西北角临县的郝家坡建立司令部，康生在那儿待了将近四个月，整个夏季都用于检查已经十分合适的土地改革计划，以他自己的方法来纠正当地干部的错误。康生采取标准方法，将地主和他们的家庭从土地上分离出来，他下令将他们处决。
在整个共产党控制下的中国，土地改革与对地主的惩罚齐行并进，但是康生甚至对中国共产党的同仁也施以恐怖。
在上海，康生曾利用红队出卖和暗杀那些支持党内他的对手的共产党员；在莫斯科，他曾运用秘密警察的力量来反对苏联学习的中国共产党员；在延安，他曾利用社会事务部，逮捕大批以“拯救”为名而歪曲为敌特分子的年轻中国共产党员。现在，在山西省的西北部，康生有意识地着手向那些被认为是同情共产党的地主开刀。
在康生统治下的地区临县，有两个在抗日战争中以支持共产党而闻名的富有大财主，牛友兰和刘少白。康生命令他的武装亲信去抓牛友兰，然后当着召集起来的农民的面指责和羞辱他。康生取笑说，因为地主姓牛，应该像牛一样对待他；为了使他的双关语取得实际的效果，康生命令他手下的人在牛友兰的鼻子上开个洞，在洞里穿上环，在环上绑根绳子，然后强迫牛友兰的儿子牵着他的父亲，鲜血顺着他的脸流下来，滴在郝家坡狭窄而多尘土的街道上。刘少白受到牛友兰命运的警告，赶紧向党的总部求救，因而逃过一劫。
康生还攻击那些早在他来到这个地区之前已经在这里工作的共产党下级干部。有些足年轻知识分子，向来无心执行康生的错误政策，其他一些是在这个特殊区域加入党组织的单纯青年，对共产党运动的伟大目标理解甚少。康生为他的受害者杜撰了“石头”这个名称：压榨农民的石头，阻碍调整计划的石头，需要清除石头。在清除“石头”的名单上，康生清洗了许多当地的共产党员，将他们交给群众的“批斗”会，在会上农民们辱骂和毒打不幸的干部。
康生还调查“土改工作组”的背景——调查人员大多数由目不识丁的共产党员组成，他们是负责土改进程的机制，并且举办“批斗”会，反对非无产阶级或非农民出身的人。他在根除私人所有制的伪装下，没收私人的小物品——迫使社会出身较好的干部与其他工作组成员分桌吃饭。
康生乞灵于中国古老的见解，来为他的行动辩护，派往一个地区的官员不可避免地会与富有而有影响的地方土绅结成联盟。康生争辩说，除非根除那些官员，否则土地改革将不会起作用。但是康生的记录显示，他只是利用这种争论作为更大的暴行的借口；他在上海、莫斯科、延安和郝家坡对共产党同仁的迫害总是说明，他不顾一切地巩固自己的营垒。
康生提出的石头理论有力地影响了整个中国的土改机构。五〇年代，当土改政策在全国各地实行时，党的地方官员往往被当作“土豪”，随着地主一并消失。（尽管康生抱有攻击“石头”的想法，但是他在文化大革命期间来了个大转弯，他指责中国的国家主席刘少奇在二十年前的土地改革运动中“搬石头”；这种矛盾丝毫没有使康生显得不安。）
中国共产党中央委员会下令没收土地的主要标堆，是看土地的拥有者是否有剥削雇农和贫农的记录。但是康生认为这个标准过于温和而不予考虑。他补充了其他三条衡量标准——“历史、生活和政治态度”——不论多么含糊不清，这使他很容易将地主和富农，与在蒋介石军队中服过役或者与国民党有其他联系的普通农民混淆起来。他的目的是剥夺他们的土地，公开地羞辱、殴打他们，有时把他们枪毙、杀头或活埋。
从以下统计例子，可以看到康生政策的效果，临县的蔡家崖村五百五十二户人家中有一百二十四户人家被划为富农——超过实际分类的两倍。虽然他在郝家坡实施暴行，但是康生仍然获得毛泽东对他工作的赞扬；一九四八年四月，毛泽东指出，“康生同志”克服了阻碍郝家坡土地改革的“右倾”思想。
用这种方式，毛泽东显示他仍支持他的前安全首脑。在毛泽东公开反对康生和其他人滥用权力的时候，他对康生的称赞是有特殊意义的。毛泽东知道，郝家坡周围地区的土地改革失去了控制（在称赞康生的文章中，毛泽东承认“左倾”已经产生），但是他清楚地表示，他没有让康生承担出现“偏差”的责任。
在康生和其他主张强硬路线的干部的影响下，中国大部分农村地区的土地改革都以血腥、残忍而闻名。党内执行土改政策的小分队被派到虽遥远的岛村，组织当地的农民，组成土改小组，他们发动贫农和雇农去反对富农。当仇恨达到极点时，农民被鼓励在“诉苦大会”的讲坛上诉说在“土豪”手里受到不公正待遇和侮辱；不论是真实的还是想像的。这些大会经常以土改小组带头群众高呼“枪毙他！枪毙他！”或“杀！杀！杀！”而告结束。负责这介过程的干部会裁决地主犯了严重罪行，判处他们死刑，并且下令立即拉出去就地处决。
处决过程与判决过程一样没有丝毫怜悯。许多地主被枪决、吊死、杀头、殴打致死、被钉在建筑物的墙上，或者被活埋。一些令人恐惧的行话说明了康生所发明的奇特处死方法：在冬天里让人穿上薄棉衣，将水浇在他身上，直到温度降到零度以下将他冻死，这叫“穿玻璃衣”；把人活埋在雪中，这叫“冷冻”；将他埋在坑里，埋到颈部露出脑子，再弄碎他的头盖骨，这叫“开花”。
在山西省西北地区饱受恐惧的四个月之后，康生在河北省的小镇西柏坡出席了一个有关土地改革的重要会议，西柏坡地处北京西南大约两百英里，州少奇和朱德撤离延安后，在那里建立了一个新的共产党司令部。许多高级干部出席了这次会议，会议由负责土地改革等非军事事务的领导人刘少奇主持。会议从一九四七年七月十七日持续到九月中旬，正式批准对地主采取强硬路线，确立了在未来岁月中仍然有效的模式。康生积极地陈述他的极端主义观点。九月九日，在会议即将结束的时候，他递交了一份“有关土改和整党问题的报告”，建议“一种完全平等的土地分配政策”会减少中农所占有的土地，并且满足没有土地的农民和雇农的需求。昕上去像是要求平等和每个人占有土地，事实上这是为了散布人类屠杀的计划。
两个月以后，一九四七年十一月，当共产党军队准备向国民党发动最后进攻时，政治局将康生凋离党的总部和内战的前线，安排他去视察他的家乡山东省的土地改革情况。国民党仍然控制着山东的几个地区，包括省会济南。但是共产党控制了山东北部和诃北东部地区，康生就驻扎在那里。
康生离开他的家乡山东有二十多年了，他发现当地的共产党机构建立得相当好，大规模的土地改革已经完成。面对当地党组织的干部，他怀疑他们憎恶任何派来监视他们的领导；康生利用他的权威来迫使他们不敢越轨。他以在山西省运用的苛刻标准来衡量山东的情况是不会令人吃惊的。他发现在许多情况下，当地的共产党员是马虎而放纵的。他查明他们有偏袒士绅的明显倾向。一俟康生聚集到足够的证据，他就宣布了一个预期的发现：山东的共产党组织是为“地主和富农的党派”，包括许多需要清除的“石头”。
他首先处理的“石头”是一个名叫景晓村的年轻人，他是康生驻扎地西南的渤海地区的共产党负责人。景晓村在当地颇有影响，但是他很容易成为康生那样的政治局成员的目标。具有讽刺意义的是，康生发现他对马克思列宁主义毫无经验而且一无所知：“你二十多岁就是党的书记！你知道什么叫马列主义？”康生继续嘲笑他的名字晓村：“你甚至连自己的本份都不知道，又怎么能晓得乡村呢？”
景晓村被革职，但是他的遭遇远比康生的下一个受害者要好。地方红军指挥员赵季忠忽视了康生的指示，康生以违反纪律为由逮捕他，并且以处决相协。当地的干部目瞪口呆，对康生的抵制瓦解了，每个人都意识到只存在两种选择：屈服于康生和遭受监禁，或者是死亡。
康生利用分化和征服的战术，小心地选择他的目标。同时他故意压制一些干部，召集其他的干部，建立一个联盟者的网络，包括当地宣传部成员王力和关锋；地区党的负责人壬效禹；刚从北京国民党监狱里释放出来的刘格平。康生在山东的小集团一直完好保持到文化大革命。
一旦把他的权威强加于省共产党组织之上，康生就采用了更为激进的土地改革计划。他宣布了“让贫农领导一切”的口号，并且着手针对共产党官员已经实施的土地再分配进行检查。在康生的领导下，不分青红皂白地杀死地主成为土地改革的必要组成部分，地主和富农的血再次到处流淌。
共产党总部公开支持实施土地改革的均衡和弹性，但是康生在山东的工作投有受到任何批评。他的政治命运开始好转；一九四八年初，他被任命为华东局党委副书记，华东局是六个高级的地区性机构之一，它们共同管理着共产党所控制的所有领土。那时，华东局在山东设置它的总部，这是一个日益安全的共产党根据地，但是华东局对中国整个东部沿海地区负有责任，从靠近北京的华北地区差不多延伸到南方的香港。康生的任命恢复了他在党内的～些地位，给予他对人民、政策和地区的直接控制权。他不再是一个没有职务的政治局成员，置身于共产党统治的链锁之外，执行党规定的使命，监督土地改革，出席无休无止的会议，对可能值得或不值得注意的事情提供建议。他似乎已经承受住一九四五年争论的风风雨雨，正在逐步返回高级职位。
然而，康生被任命为华东局副书记，对他个人来说是件丢脸的事。华东局的领导，他的顶头上司是饶漱石。饶漱石曾与康生一起在上海大学学习，并且同时加入共产党，而且许多年来都是康生的部下。三〇年代饶漱石在巴黎的《救国时报》工作时，康生已经是政洽局委员和共产党国际的部级官员。但是饶漱石充满活力，而且善于交际，他在高级领导人当中平稳地形成了一个范围广阔的友人圈。他也在莫斯科待过一段时间，后来到过纽约，在那里，他在一家中国餐馆工作并且帮助经营一家中国报纸。三〇年代末他回到中国之后，担任新四军政治委员，那是一支在长江流域出没的共产党部队。虽然他在一九四〇年被国民党军队逮捕，但是他设法逃了出来，并且成功地回到共产党队伍中。饶漱石交游广阔的人脉帮助他在一九四五年进入政治局，那时正是康生成为政治局委员的十二年之后。
康生私下对饶漱石的成功感到愤愤不平，但是他小心翼翼地掩藏住自己韵情绪。饶漱石对康生的妒忌没有在意；一九四九年共产党取得最后胜利的前夕，这两个人在山东图谋扩大他们的势力。他们首先一起计划攻击山东的党的高级干部。主要的目标是党的书记黎玉，他是有草根基础的中央委员会委员；对康生和饶漱石这样的新来者来说，黎玉的存在妨碍了他们。为了弄垮他，康生和饶漱石指控黎玉遵循“富农路线”。他们还指责他是“地方主义”、“山头主义”和“独立王国”——共产党对于利用地方权力来抵制党中央指示的政治罪行的行话。对手是难以对付的康生和饶漱石，黎玉无法保护自己，只得被迫忍受六个月的猛烈批评、轮流监管的禁闭以及不断遭到口头谴责的迫害方式。然后，他被调离山东。在中国，领导人的下台是经常发生的。而黎玉的垮台并非咎由自取；没有黎玉的庇护伞，许多地方干部也受到批评、调离或撤职。
康生和饶漱石一起工作，但是这段时间他们各自都试图推进自己的事业。一九四八年末．共产党夺取了国民党在山东的最后据点之后，中央委员会同意康生和饶漱石把山东省的四个地区性机构合并在一起的要求。康生被任命为这个新组织的书记，但是他仍然从属于继续领导华东局的饶漱石。
那时，康生忙于提升他的妻子曹轶欧，很少关注与饶漱石的关系。他任命曹轶欧为省组织部部长，组织部控制着个人档案和省内党员们的政治命运。而且，在他负责山东的党组织期间，康生滥用他的权力，从那些丈夫遇到政治麻烦的妻子身上得到乐趣，并且向这些女人或她们的丈夫许诺，他们将逃脱可怕的命运。
当康生安排与他前妻所生的儿子张子石重新团聚时，他对特权的坚持更为明显了。一九四八年末他遇到张子石的时候，张子石已经是个三十出头的青年了，他正在为青岛的国民党公共救济组织工作。父子在上一次见面是在一九二五年六月，那时康生在诸城探亲访友。由于通信不易，他们之间的联系是很有限的。康生待在莫斯科和延安那样遥远的地方，加上日本人的侵略和随后的内战所引起的混乱，使数百万个中国家庭骨肉分离，这些事件几乎也使通讯成为不可能。
张子石仍然是康生唯一的儿子；曹轶欧从没有为他生过一子半女。在他们父子重逢之后，康生帮助他成为一名共产党员，以便使他免受来自国民党的潜在危险，还为他在光荣的红色未来中求得一个位置。康生保持偏爱男性继承人的中国传统，他对他的女儿张玉瑛毫无兴趣，长期以来让她留在青岛卷烟厂工作。
康生在国内战争的最后阶段一直留在山东，那时国民党军队在战斗中逃亡溃败，蒋介石的绕治崩溃了。一九四九年一月，国民党卫戌司令傅作义为了避免毁灭性的围攻，只好投降，共产党军队因而占领了北京。三个月之后，共产党部队越过长江；五月，他们开进上海，这场史诗般斗争的结果已是不容置疑。
康生试图不顾一切地摆脱他在边远地区的角色。一九四九年三月在共产党总部西柏坡召开的中央委员会会议期间，共产党组成了行政机构，一旦战胜国民党，共产党将取而代之；康生在会议期间遇见了毛泽东、刘少奇和其他领导人。然而，他没有得到提升；当会议在三月十三日结束时，他除了返回山东之外别无选择。三个月后，华东局总部重新安置到刚解放的上海，饶漱石被派往那里。康生反复地向政治局委员暗示，他也应该调往上海，希望领导能接受他的暗示，任命他为华东局的负责人以取代饶漱石。但是毛泽东和其他主要领导人忽视了康生，他们正全神贯注于对国民党的戏剧性胜利。他被留在山东，担任自己家乡省份的统治者，但是他的所有目标和意图都受到了冷落。
康生在一九四九年八月召开山东人民代表大会止被推选为省政府主席，成为山东省党和政府的首脑。康生对他徒有其表的胜利，反应难以用喜悦来形容；他得知在投票中，差十票一致同意他当选，他下令暗中调查，确定谁在反对他。北京的共产党领导层还任命他为中苏友好协会理事——具有讽刺意义的是，整个四〇年代，康生对莫斯科充满了敌意——十二月又任命他为华东局军事委员会委员，山东军区政委。
康生在一九四九年末所得到的职位会使许多资深干部感到满意：山东省党和政府的首脑、山东军区政委、华东局高级官员、政治局委员。但是这些成就远远低于康生的预期目标。
到那时，局势已经很明显了：共产党将出现一个永久性的转变。它不再是一个被查禁的造反农民和不满知识分子的混合体，而是中国大陆唯一的合法政府。但是同样十分清楚的是，至少在短时间内，康生没有希望得到任何有意义的职位。作为共产党阵营中一颗正在上升的明星，差不多度过了二十五个疯狂的岁月之后，康生发现自己被遗弃在没有出路的地方工作。