大革命的洪流，猛烈地荡涤着帝国主义、封建主义的污泥浊水，也震动了陕北黄土高原，革命潮流锐不可挡。高岗投身在大革命的激流之中，他参加发动学潮，声讨蒋介石叛变革命的罪行，组织农讲所，动员农民抗税捐，渡贫荒。
在横山一高和榆中闹学潮中，高岗渐渐投身到伟大的爱国主义运动的洪流中，踏上了推翻旧中国的漫漫革命征途。
二十年代初，由旅北京、西安的陕北学生把共产主义思想散布于陕北青年及学校。1925年大革命开始时，横山一高爆发了一次震憾陕北高原的学潮，打击了国民党反动当局的嚣张气焰。一高学生在共产主义和新思想、新文化的影响下，特别是在榆林中学的新学风的感召下，一高也活跃起来，对尊孔读经，奴化教育早已不满；对官府欺凌剥削群众的行径，深恶痛绝。是年，开学不久，不少学生交不起学费，倾家荡产，有的卖口粮，有的破家产供孩子上学，高岗就是其中卖地上学的一个；有的交不出学费退学。有一个学生的家长为儿子上学凑够学费，赶毛驴从内蒙驮来二、三斗食盐，在横山街上出卖，被盐务局无理没收，急的学生家长呼天叫地，只好让儿子辍学回家。高岗、鲁贲等同学对此愤愤不平地赶至盐务局，要求该局将盐退给本人。盐务局不但不退，且大骂学生，还要处罚说情的学生。那时候正是“座座衙门朝南开，有理无钱莫进来，有钱无理吃得开”的世道。盐务局的无理谩骂，更激起了学生的公愤。高岗等学生跟盐务局讲理，盐务局的当权者哪能听得进，要赶学生出去。高岗、鲁贲、曹开诚、石作琦等带领学生一拥而上，抓住骂学生的盐务局长痛打一顿。打盐务局长的“事件”发生后，群众拍手称快，却引起了县政府官员极大恐慌，下令学校领导对学生严加管教。学校领导禀承县太爷的旨意对学生严加控制。为堵死学生串连、闲谈的机会，以防引起反抗政府的激情，不仅平素监督管理很严，同时，以学好课文为借口，连星期天也不允许学生自由活动，取消鼓乐队上街宣传，校方强行规定星期天自学半天。他们多次要求校方取消星期天的学习时间，校方置之不理。这下更激起学生的愤慨，高岗等带领一些年龄大的学生到县衙请愿、交涉，却遭到二少爷(即知事刘智堂弟)破口大骂，并指使衙役驱赶学生，激怒了学生，高岗带头砸了县衙大堂，殴打衙役。县衙召开紧急会议，县知事刘智堂大发雷霆，下令学校开除高岗、王东皋、曹开诚(动之)、王怀信等5名学生的学籍，并每人罚款100元大洋。学生会的王东皋、曹开诚、高岗、白培谋、鲁贲等组织全校学生，利用古历3月18日庙会上街游行示威，宣传新文化、新思想、讲民主、学科学，强烈要求学校废除星期天“集体自学规定”，高呼“星期天要自由！”“抗议校方变相体罚学生！”“反对贪官污吏！”“反对奴化教育！”“我们要民主！”“我们要自由！”“废除旧教育，改教新科学！”“反对读死书，提倡新思想、新文化、新教育！”这样，街上锣鼓声、小号声和口号声，此起彼落，闹腾了一天。这可激怒了县太爷刘智堂，他在县政府大堂里像只热锅上的蚂蚁，坐卧不安，走来走去，布置衙役了解动态的发展，汇报情况，也忙乎了一天。学生会组织学生全部离校罢课，搬住在高殿峁等街上的店房里，扩大讲演，抗议政府无理迫害学生的行径。县政府的官老爷恼羞成怒，密谋武力解决学潮。学生会得悉后，立即召开会议，研究对策，在鲁贲、高岗、曹开诚等提议下，认为靠横山解决无出路，大家决定上榆林道伊公署告刘县长。大家研究的意见向全体学生一宣布，学生异口同声“走！上榆林罢免刘智堂的县官！”全校一百几十名学生一拥起身了。3月20日，学生浩浩荡荡，向城东门外行进。县衙们着了忙，当即派出大批荷枪实弹武装人员阻挡学生前进，鸣枪示警。高岗虎性大发，要为被开除、处罚的学生鸣不平，出口气，他首先带头抓起两块半砖头，高喊：“同学们，准备斗争！”一呼百应，同学们都在地里觅捡石头、砖头，拿在手里随高岗走向武装人员跟前，大声呼喊：“你狗来，来了就揍你狗们！”石作琦(外号叫石灰锤)扬手向武装人员扔石头，并喊：“打哪狗日的！”这下可把衙门汉们震住了，有的呆若木鸡，有的直后退，怕吃现亏。他们没有开枪打人的命令，只把枪栓拉来拉去瞎咋唬一阵，狼狈地溜回城里，恶人先告状，刘智堂县长急派快马到榆林报告一高学潮情况。
请愿的学生向榆林行进，晚上住在波罗镇，第二天开到响水。横山一高的校长曹雨山是响水人，正在家里养病，得知后来劝说学生暂住下好商量。曹雨生即写信派人送给杜斌丞校长，并汇报了情况，请求杜校长设法解决。消息很快传到榆中校长杜斌丞和横山旅榆校友那里，得到榆林各学校同学声援支持。杜校长写信派人送到响水，叫派代表赴榆申述，以防学生上榆林惨遭军警迫害。学生在曹雨山的协助下安排住在响水各户家和店坊里。学生会负责组织安排住宿和管伙食的专人，将学生随身带的钱你十元，他八元收起来，安排了食宿。大家推选高岗、王东皋、韩绳祖、王殿英、郭长伸等五人为赴榆谈判代表，连夜赶到榆林，受到榆林各学校学生、学生会领导和榆中领导的热情接待和大力支持，榆中校长杜斌丞和中共党团特别支部负责人刘志丹等亲切接见了学生代表。
刘志丹和高岗一见如故，意气相投，频繁接触，对学潮问题处理有商有量，共同决策，并奠定了长期革命友谊的基础。杜斌丞和榆中特支负责人与代表单独谈话时，发现高岗开言吐语，很讲策略，很有见识，很有头脑，有捷才辩才，刚直不阿，特支负责人向韩绳祖、王东皋个别询问了解高岗在学校的表现，家庭出身等情况。随后，在杜斌丞和刘志丹等大力活动下，召开了榆林各学校学生会负责人联席会，高岗、王东皋报告了学潮起因过程，与会者一致表示支持横山一高学生斗争精神，并请求杜校长向道尹公署申诉，禀公处理横山学风。
此时，杜校长同井岳秀交往较密，井颇尊重杜斌丞的学识、气派、见解。经过杜校长的奔波周旋，道尹公署根据杜校长的建议确定撤销开除学生、罚款的处分，并答应免去曹雨山校长职务，调离县长刘智堂。接着，杜斌丞骑一匹黄骟马，亲自把请愿学生代表送到响水，并在响水召开学生大会，杜校长宣布了道伊公署的决定，讲了话，鼓励学生努力学习新文化新思想，钻研科学，提高自己爱国为民的本领，并向曹雨山交待(时未宣布撤职)，禀公处理善后工作，注意改革教学方法，要向学生灌输新思想，新文化，大力提倡学科学。杜校长的讲话，对一高学生鼓舞很大，人人受到一次深刻的革命思想教育。
震动陕北高原的一高学潮胜利了。学生在返校的路上，高兴地自编自唱：
小小学生真英雄，背起缮布走榆林。
智堂县长待我无礼貌，斌丞前来了事情。
学生提条件，雨山都答应。
今后学校再打骂，我们就要作斗争。
哎咳么，哎咳么，我们胜利了。
这次学潮向反动当局挑战，使高岗受到极大启发教育，他第一次尝试到：“要推翻反动派的统治，不冒点险是决不能成功的”，更重要的是第一次和刘志丹接触，在他心目中留下深刻印象，革命友谊从此开始，后来和志丹一起搞革命，他对志丹相当崇拜，言听计从，结为亲密战友。
此后，学校改组了领导班子，调谷玉山(共产党员)任校长，调共产党员曹丕杰、钱德明和思想进步的程振善等替换了原来思想守旧的老师，还从西安、北平聘请来陈建晨、黄亚忠两位进步青年女教师。新思想、新文化、新学制、新女生进入学校，实行男女同班学习，改变了死读书，读死书的方法。这次学潮对一高学生教育、锻炼极大，揭开了山沟里的学生向反当局斗争的序幕，时称为李自成故乡革命的“先声”。同时，也翻开了高岗革命生涯的心扉。
1925年秋，高岗考入陕北最高学府——榆林中学。他进入榆中后正值刘志丹从西安回来传达全省联学代表会和共进社代表会精神，并介绍高岗加入“共进社”，一起开展革命活动，在“两代”会精神推动下，学生要求参加校务会议，参加校政管理，校方不准。经多次交涉辩论无效，学生散发传单，揭露总务主任高崇山的罪状，要求地方当局对高崇山给予处分。但是地方当局不予理睬，学生奋起举行罢课斗争，一些教师也支持学生斗争而罢教。高岗自告奋勇，参加学生纠察队，维护学校自治秩序，同校方进行有理有利的斗争。井岳秀派人在学生中搞“策反”活动。不久，一部分学生在高崇山的活动下要求复课，学生从内部分裂为两派，高崇山乘内部分裂的空子，从井岳秀那里搬来一连队伍包围了学校，武装镇压学生运动，开除19名(一说29名)党员、团员的学籍，其中有王子宜、李登霄、焦维炽等，两兵绑一，推揣拉打，送出榆林城南门外三义庙滩，不准再进城。
1926年春，佛教节街上唱戏，井岳秀的儿子井文龙(榆中学生)在街上看戏时，嫌人拥挤，指使护兵打了学生苗存权(共产党员)，激起学生的愤慨，学生会开会声讨井岳秀纵子行凶，要求井岳秀到校向被打学生道歉并开除井文龙……。代理校务的无计可施，请求时任道尹的景崇征设法处理，景只请教师劝说，而不答应学生要求。学生会再次发动学生罢课，大部分学生离校，搬到街上旅馆住宿。景崇征见事态闹大，众怒难犯，即派人请杜斌丞(在家养病)回校解决学潮问题。校方基本答应学生要求，学生取得胜利回校复课。高岗参加斗争井文龙并以拉架为名猛击井文龙一掌倒地。有人在井岳秀跟前告高岗打了井文龙。井岳秀假惺惺地说，高崇德敢打我儿子，是好样的，有出息。榆中党组织告诉高岗要小心。高岗经过学潮斗争的锻练，在实践中受到教育，反动派的所作所为，事实上等于在培育着革命种苗，他的阶级觉悟不断提高，视野逐步开阔，对反动派的面目认识更清，坚定了造反动派反的坚强意志。高岗在斗争中，受到教育和锻炼，革命思想逐步成熟起来，经过党组织的考验，经胡立亭、史唯然介绍加入中国共产党，由一个马马虎虎的爱国青年成为职业的无产阶级革命者。他为防井岳秀毒手迫害，宁肯不要毕业证书，被迫辍学离开榆中(一说被开除)。从此“离经叛道”，走上了革命征途。
高岗在两校学潮中受到极大启发教育和锻炼，特别榆中第一次学潮被武装镇压下，对他触动更为深刻。他辍学回家后，思谋造反坦途。他曾受着大人讲述李自成传奇故事，并阅读有关李自成的一些书籍的影响，向往着李自成揭竿举旗的造反精神，他徒步翻沟越岭，专程到李自成当年揽工、放羊、坐朝龙墩(传说)、点将练兵场地、祖先皇陵、出生地遗址游转，和当地农民议论李自成起义前在这在那活动，“咱们这里能再出个李闯王就好了，把国民党推翻掉。”他在思古幽情中，对李自成童年、起义和起义后回乡祭祖的艰苦和如烟往事有所追想。依稀梦想着未来的宏图大业。1926年秋，高岗离开榆中到伊盟的乌审旗，开展革命活动。“他是进入伊盟地区的第一个共产党人，开展革命宣传活动，建立伊盟地区第一个党小组，发展党员，在少数民族地区点燃革命火种。”
随着大革命形势蓬勃发展，冯玉祥、于右任入陕并将北洋军阀在陕西的头子刘镇华、吴新田被逐出后，代之以国民党的进步势力为冯、于方面，使陕西由反动局面转为革命局面，西安成为西北革命的中心。在大革命的热潮中，中共北方局李大钊积极倡导培养军事、党务和工农干部，同时向黄埔军校、保定军校及广州、武汉农讲所派了大批学员。之后中共陕甘区委急需培养干部，根据北方局的指示，积极创办军事、农运和党政学校，取得了冯玉祥的支持，联合国民党陕西省党部和国民军联军驻陕总部，在西安创办了中山军事政治学校。
1927年2月，高岗随史可轩等到西安，在李子洲、魏野畴办的讲学班亦称教导队学习，同时协助创办中山军事学校。
1927年3月，在军事、农运教导队的基础上，成立中山军事学校并正式开学，学校办学宗旨在招生启示和广告中明确规定：“培养指导农民运动、办理党务及军队中政治工作人才”。每学期6个月，以学军事为主，军事、政治并重，理论和实践相结合。入学的学生大部分是陕甘、陕北各地党组织输送来的党团员和进步青年。还吸收了原西北大学一部分进步青年，榆林中学、绥德四师，延安四中，赤水职工学校、华县咸林中学、西安一中、二中及三原渭北等地区输送来的学生，共500多人，其中中共党、团员150多名。学生编为3个大队，每大队下设3个中队，每中队下设3个分队，各级队长多数由中共党员担任。学校设在西安北院门(今西安市政府院内)，慈禧被八国联军赶出北京后，到西安避难时，曾住在这里。
这所学校名义上属国民联军总部，实际上是中共领导的一所新型政治学校，也是我党直接掌握的一支革命武装，当时有“西北黄埔”之称。学校主要领导基本由共产党人史可轩、刘含初、李子洲、许权中、邓希贤(小平)等担任，刘志丹担任政治教官。高岗在校主要学军事、农运和中国政治状况、帝国主义侵华史等课程，他最感兴趣的中国军事政治和农运课，同时，担任农运课、军事教官兼任中队长，亦生亦官。
西安中山军事学校，是高岗走上革命生涯的最主要起点。在这段时间，为他后来创造陕甘根据地和军事活动奠定坚实的思想基础。他从小天赋聪明，颖悟性好，上课时非常认真听讲，善于思考，感到新鲜的段落，作少量笔记。学校实行共产主义革命教育，阅读的全是马列主义著作，从事的都是革命的活动。中山军事学校改变了读死书的教学方法，实行读书与实践结合，理论与实际联系，和社会实践广泛接触，在斗争中学习锻炼提高，学以致用，“为西北培养了革命的军事基础”。高岗根据学校“学以求知，学以救国”的要求，经常到街头、郊区农村这块“无字天书”中学习，作调查、演讲、宣传。他协助组建城市工会、郊区农会、妇女协进会等群众组织，他把书本上学的，拿到实践中运用，得到的感悟带回来给同学讲授，深入浅出，通俗易懂，生动活泼，受到农运班学生的好评。在组织工、农、学活动中表现出他的“组织才能”。
这时期“陕西农民运动的规模声势，震惊了黑暗的中国。”农民组织遍及全省60多县成立农会，农村建立农协会3800多个，农民会员达41.1万之众；农民自卫武装队员10万多人。3月，陕西省召开农民代表大会，成立了省农民协会和选举领导人。会议通过了《政治报告决议》、《惩治贪官污吏及土豪劣绅决议》等20个决议，进一步推动了农民运动出现高潮。长安县农民协会逮捕大地主、豪绅，并将罪大恶极者予以处决，大灭反动派气焰，大长了农民革命斗争士气。
与此同时，在上海工人两次举行起义的影响下，西安邮电、制造局等单位工会相继成立，号召工友积极组织起来，“站在一个旗帜之下，共同去打倒帝国主义、军阀，完成国民革命与世界革命。”5月1日，陕西省总工会成立，通过了宣言和章程，提出“工人武装起来，工农联合起来，打倒军阀蒋介石，打倒土豪劣绅，打倒反革命……”的口号。
陕西以西安为中心工农运动紧密结合，蓬勃发展，声势、规模浩大，在中共的领导下，与南方工农运动形成南北呼应，风起云涌之势，发挥了主力军的伟大作用，时有“南广州，北西安”之说。高岗在参加组建工会、农会和妇女会实践中，受到很大锻炼，组织才能初露头角，成为陕西党内小有名气的活跃人物。
蒋介石在上海发动“四·一二”反革命政变后，陕甘区委组织西安10万多人声讨蒋介石集会游行示威。这一时期，西安革命异常活跃，广泛发动组织了各界群众团体，如工会、农会、商会、学校、妇女协会，还秘密发展党团组织，积极开展活动，利用纪念“五一”、“五卅”济南惨案和“五四”节等一系列活动，宣传革命，声讨蒋介石反革命罪行，动员工农武装起来，反对独裁统治。矛头直指反动军阀、土豪劣绅，贪官污吏。高岗在此时革命热情极高，非常活跃，积极参加了组织、声讨蒋介石罪行的各种集会活动，并在大会上慷慨激昂声讨蒋介石的罪行，拥护联俄、联共、扶助工农三大政策，表现出他勇敢的爱国热情，他的发言铿锵有力，更激发了与会者的信心，增强了对蒋的仇恨。他亲自到大街小巷演讲，散发传单，张贴标语。秘密给中山军事学校搬运武器、弹药。他利用夜间给党团员讲课，组织反蒋活动，表现出高昂奔放，朝气勃勃的革命热情和无产阶级革命坚定性，对未来前途充满了胜利的信心。
在蒋、汪叛变革命的形势下，冯玉祥摇身一变积极追随蒋汪反革命，电令西安石敬亭进行“清共”，解散中山军事学校，政治保卫队调往洛阳，下令查封各县所有农会组织。西安警备司令部发出：禁止共产党人活动的命令；各机关所有共产党员，一律让其立即声明脱离共产党，不许有任何违反三民主义的宣传的“布告”，到处张贴。令出人随，他们紧接着派出了大批武装警察，查封各界群众团体组织，搜捕共产党的领导者和活动者。西安地区顿时处于一片白色恐怖的腥风血雨之中。西北地区的大革命运动，和全国一样遭到严重挫折。
从此，西安的共产党组织由原来半公开被迫转入地下秘密活动。在这腥风血雨，一片黑暗的日子里，“共产党和中国人民并没有被吓倒、被征服、被杀绝。他们从地上爬起来，揩干净身上的血迹，掩埋好同伴的尸首，他们又继续战斗了。他们高举起革命的大旗，举行了武装的抵抗……”(《论联合政府》)。在白色恐怖的形势下，高岗无法公开活动了，他坚持利用晚间，冒着危险，继续进行革命活动。每天深更半夜出去，和高鹏飞等，在大街小巷散发传单，张贴标语，揭露蒋介石叛变革命的罪行，号召农民、市民起来，跟军阀斗争，进行抗粮、抗捐、抗税。
高岗在反蒋斗争中积极、勇敢的活动，早已引起了反动派的注意，把他列入逮捕的黑名单。时任国民军联军驻陕总部的保卫部长史可轩(共产党员)获息后，立即通知高岗等人离开西安。高岗正在安排工作，还来不及动身，警察已经开始搜捕高岗。高岗在陈建晨(此时陈在兴民学校任教曾在横山一高时是高岗的老师)家里藏了两天，机智地翻过城墙，爬过护城河，星夜离开西安，回到陕北，继续开展农民运动。
本来，西北地区革命形势很好，不少要害部门的领导权掌握在共产党人手里，中共所掌握和共产党影响大的主要军队有井岳秀部队的石谦旅，杨虎城的第十军，甄寿山的师和史可轩带领的政治保卫队和中山学校，不少人掌握着实权，军事实力比较强。这几支部队特别是政治保卫队(近千人)、中山军事学校里中共党团员最多，又有共产党员史可轩，许权中等精明强干的军事人才和魏野畴、李子洲等人的决策，组织起来完全可以对冯玉祥造成一定的威胁。但是，当时省委(已由区委改为省委)主要领导人耿炳光，认为这样大的军事行动，要请示中央的批准，不敢作主，派李子洲去武汉请示中央；让史可轩把保卫队近千人带出西安，佯装执行冯玉祥调往洛阳的训令等待中央指示，观察事态的变化。高岗对耿的这种主张极为不满，他说：“将来革命还得靠军事，要靠人民武装。没有枪杆子是不行的，光喊空口号解决不了政权问题，蒋介石为什么搞‘四·一二’，蒋介石不是傻瓜，他绝不会轻而易举地把手中的政权交给你。”他的这种军事观点与毛泽东在1927年讲的“要非常注意军事，须知政权是由枪杆子中取得的”相一致。李子洲到武汉，汪精卫政府也于7月15日发动叛变革命，一片杀气腾腾的形势。蒋汪合流，镇压革命，甚至汪比蒋介石更加毒辣，到处贴着“宁可枉杀一千，不使一人漏网”的血腥布告。中共中央已转入地下活动，李子洲一时找不到人，无法汇报工作。
史可轩率保卫队撤出西安，等待中央指示。此时，驻陕北总部副司令邓宝珊派他的秘书葛齐云(共产党员)向省委联系，计划组织左派军事力量联合反对冯玉祥。史可轩根据省委的意见，率领保卫队和中山学校部分学生向陕北进发，建立根据地，“联邓反冯”，但是时间已经晚了，敌人为消灭这支武装做了充分准备。史率部北进时，途径富平县美原镇，遭地方军阀田生春杀害，到陕北的计划失败。高岗在总结西北大革命的经验教训中曾说：冯、于入陕后，我党坚持统一战线，发扬陕北革命历史传统，在国民党军队、政权、教育文化、党务等方面派进大量党员和进步力量，积极开展革命工作，发动工人、农民、学生运动，把大革命运动推向高潮，我党组织普遍建立，党员发展到数千人，建立了陕甘区委，统一了陕北与关中党的组织领导，扩大了共产主义思想的影响，培育锻炼了革命骨干，特别是军事干部，使大革命运动发展到高涨时期。但是由于我党与国民党统一战线中有右倾倾向，当时省委主要负责人“只有团结，没有斗争”，对大地主大资产阶级代表的两面性认识不足，只看到革命的一面忽略了反动的一面，所以对下层工作和农民运动发展不足，没有注意土地问题，武装工作只做上层政治工作，不懂得组织自己的军队。总之没有适应变化而转变党的工作和应变思想准备。国民党的郑州会议一开，实行“清党”，地主向农民反攻，杀的杀，赶的赶，抓的抓，使西北党与革命受到很大损失。西北由革命转为反革命局面，革命工作被迫转入地下活动，由城市转入农村艰苦斗争。
高岗在榆中和中山军事学校涉猎很多的进步刊物，那时他和进步同学一起抨击北平胡适宣传的“好人政府”的论调。他在横山一高上学时，看到《努力》上发表的蔡元培，胡适等人文章，主张不分党派，由全国公认的好人，出来组织好人政府，实行“废督裁兵”，公开财政，联省自治，停止内战，以实现和平统一措施后，他就提出异议，当时他同一些赞成这一主张的学生进行辩论，指出“好人政府”对什么人好的问题。他认为好人政府的观点是一种妥协的倾向，现在是向军阀斗争，不是和军阀和好。高岗经过西安中山军事学校学习和参加西安地区轰轰烈烈的大革命运动，受到深刻教育和血与火的锻炼，胆子越来越大，革命意志更加坚定，革命艺术有很大提高，思想较前成熟许多。高增培曾谈到，高岗从西安回到横山一高开展革命活动时，他正在横山一高念书，高岗和以前比较，判若两人，思想境界，工作方法，政治头脑比以前成熟多了，真正成了一个无产阶级职业革命者。“他把军校学的知识带回来和实际结合起来。”“后来在绥蒙和边区工作期间，群众中有威信，他与群众关系密切，和大家打成一片。威信并不都是由职务决定的，而是由联系群众、实干、苦干精神决定的，他不和群众打一片，就不会有威信。”
高岗离开西安回到家乡横山，根据“八七”会议精神和省委“党员到农村去”，“到军队中去”的决定，协助马继武(即马明方，时任横山响水第三高级小学教师)和曹亚华(后叛变)，共同领导横山区委(书记马明方)，积极开展农民运动，发展党员100多名，建立起6个支部，在实际工作中一显身手。他深入响水、武家坡、横山城周围和黑木头川等地动员农民武装起来，组织通俗讲习所、农民讲习所、农民协会，他宣传鼓动农民造反，说：“中国农民被封建压迫剥削最残酷，最深重，农民大众一旦接受革命思想，就会象火山爆发，是国民革命的最大力量，是推翻反动派的源泉。”“帝国主义武装、经济侵略中国，把洋烟贩进来，毒害中国人，把大量财富换出去。”官僚、军阀、土豪和帝国主义分子勾结一起，欺压百姓，每年要交几十种税，多如牛毛。农民将东山日头背到西山，还吃不饱，穿不暖，受尽牛马苦，连猪狗食也吃不上。农民到秋季庄稼还没收回来，井岳秀就派出狗腿子收粮要款，大吃大喝，棒响人叫唤。吃饱喝足，不是抽洋烟，就是搂姑娘。农民交不起粮款，不是拷打，就是坐牢。井岳秀一个人有八、九个老婆。不打倒这些吃人肉、喝人血的军阀、豪绅，农民永远受压迫。“只有农民组织起来，行动起来，同他狗日的们斗，才能推翻反动派。李自成就是受不了压迫起来造反的。”农民听了高岗的宣讲，脑子都动起来了，足手行动起来了，敢于同反动政府斗。他还在横山一高小学建立“暑假研究会”，举办教师培训班，宣讲马列主义、三民主义。在响水小学办起“自救社”(实际是共产党的代号)，在学生中发展十几名党员，建立了党支部。高岗要求学生，“注意学习文化，学习武装。”并动员学生利用回家、放假机会到农村宣传减租减息和反抗苛捐杂税，高岗亲自组织清算贪官的贪污账，为发动农民运动树立榜样，促进运动的发展，揭开横山地区农民斗争的新民主主义革命的序幕。
1928年(民国17年)，陕北地区遭受特大旱灾。农民到处抬龙王爷楼子祈雨，地主却祈旱，因干旱一次，农民的土地向地主集中一次。农民苦苦耕耘，结果赤地千里，秋后籽种无回。贫苦农民饥寒交迫，卖地当产，卖儿卖女，妻离家散，流离失所。高岗到农村看见十户九绝粮，饿殍遍野。农民连野菜也吃不到，靠树皮、干菜叶充饥，把树都刮成白杆杆，沿路成群结队的农民，拖儿带女，走老山(延安)，过黄河(至山西)。村庄路旁横七竖八的死尸、饿殍，悲惨之状，目不忍睹，死亡不计其数；响水、武家坡卖儿卖女卖妻的到处可见，横山县城设立卖人市场，残忍的人贩子，用绳子捆，鞭子抽，把青少年男女象猪羊似的一群一群，倒贩到山西省。据资料记载，横山居民出走逃命者8408人，2128户，被卖到山西省的1596人，活活饿死2000多人，出走和死亡的人数占全县总人口将近一半，而大户的余粮囤积不卖，即使卖也价很高，贫苦农民哪里有钱买粮。天灾人祸，无路可走，一些村庄断绝人烟。现在志丹、安塞、延安、甘泉、富县等县市的大批横山籍人，就是那时候逃荒下去的难民。
大革命失败后，国民党政府对人民实行法西斯统治，压迫、剥削变本加厉，地主豪绅仰仗政府的鼻息，趁天灾人祸，双管齐下，更加盘剥农民，敲骨吸髓，趁机兼并土地。腐败的政府中一些正直富有同情心的官员，看到此情此景也不寒而栗，秉报上级下拔一些粮款，以安慰灾民。国民党横山县政府却不顾人民的死活，乘机巧取豪夺，大发横财，经过一级一级克扣，蚕食鲸吞，轮到灾民手里寥寥无几。更令人痛恶的是，反动政府为了镇压造反的农民，把部分粮款挪作修建监狱。地保人员到处收粮要款，敲诈勒索，高利剥削。本来就被剥削的山穷水尽，天怒人怨，民穷财尽，满目疮痕的陕北，长年干旱的高原上饥民遍野，衣不遮体，食不饱腹，在大灾之年更经受不了官府的压榨。高岗对反动政府和土豪早就恨之入骨，发动农民分吃大户粮，他组织农民协会会员对克扣农民救灾粮款的刘尚和、武世昌，曹思潮等贪官污吏，进行清算斗争，使贪污分子吐出了鲸吞的粮款，分给贫苦灾民，取得胜利。同时，发动农民组织起来，包围县城，抗粮、抗款、抗税、抗捐，取得胜利，县政府被迫减免粮税，打击反动派的气焰，鼓舞了农民的斗志。农民从闯王推翻明王朝到现在，三百来年积蓄在胸中的怒火如同火山爆发，岩浆般喷发了出来，同反动派对着干。横山农民同官府多次斗争，千人至万人的斗争有三次，县长怕的钻进猪圈。高岗从农民抗粮抗捐斗争中，看到闯王故乡大地上的农民反对官府的星星之火，可以燎原中国大地潜在的力量，正是李自成发动农民起义的革命形势，从而奠定了注重农村工作的思想基础。
趁此机会，他组织农会，宣传李自成为什么造反、闹革命，就是天灾人祸逼出来的，“官逼民反”。李自成为人民生存，组织农民起义，打倒官府。大家为谋生存，动员起来，武装起来，行动起来，反对官府。这些，引起了敌人对高岗的极大仇恨。被高岗算账斗争过的武世昌等土豪，跑到县政府告状，狼狈为奸，勾结一起，搜集黑材料，罗织莫须有的罪名，诬陷高岗去年在西安等地当“土匪抢过人”，高岗是“共党分子”，在西安街上贴标语，散传单，煽动群众反对老蒋。他们和政府密谋策划，四处布控撒网，捉拿高岗。高岗为避免敌人逮捕，离开了横山，转移到外地工作。
高岗得到反动派策划捉拿他的消息后，同马明方等商量，暂离开横山。1928年前神木国民党高石秀等部队参加“倒井”活动未成。高岗离横前往高部打入手枪队，了解兵运情况，并利用关系当了高石秀的护兵。他秘密发展党组织，暗地策动兵变。高岗在高部发动兵变，策动拉走手枪队被敌人发觉，他闻风只身逃跑到安定县亲戚家躲避敌人逮捕。他到安定后，和此地哥老会组织一起动员农民进行抗粮抗款度灾荒斗争，分吃大户粮。他用西安亲眼看到的事实，揭露蒋介石叛变革命，屠杀人民，镇压工农运动的罪行，发动农民武装。他说“农民运动要深入发展必须逐步武装起来干”。期间，高岗到佳县、吴堡和慕嘉积、慕生贵、樊福仁、柳韶华(柳青兄)等考察和发动兵运工作，发展党员、团员，整顿农民协会，宣传武装农民革命。
大革命失败的教训，对高岗触动很大，通过西安革命的失败和横山站不住脚的现实，进一步深刻认识到“没有武装，革命没有希望”。从而坚定了“抓枪杆子”，壮大人民武装的决心，“抓枪杆子”是高岗的口头禅，念念不忘，难怪有人说他是个“枪迷”。他说：“穷人若要强，就要抓武装”。“要夺取革命胜利，非有工人榔头，农民锄头和军人枪头结合不可。”“千百年来穷人没有枪，没有穷人的武装，便没有穷人的天下。”这个观点和毛泽东对枪杆子和人民武装重要性的论述是一致的。此后，毛泽东在党的六届六中(扩大)会议上更进一步具体指出：“要争党的兵权，要争人民的兵权。”“劳动人民几千年来上了反动统治阶级的欺骗和恐吓的老当，很不容易觉悟到自己掌握枪杆子的重要性。”“有了枪确实又可以造党，八路军在华北就造了一个大党。还可以造干部，造学校，造文化，造民众运动。延安的一切就是枪杆子造出来的。枪杆子里面出一切东西。……谁想夺取国家政权，并想保持它，谁就应有强大的军队。”(《战争和战略问题》)。
陕北特委根据省委“党员要到军队去”的指示，决定高岗以特别党员身份派往肤施(现延安)搞兵运工作，任中共延安区委委员。从此，他化名为“高岗”。区委负责人李馥华，委员还有王世泰、吴鸿滨、高鹏飞、高崇义、杜守智等。
国民党叛变革命后，仍打着“革命”的旗号。当时延安地区革命力量很薄弱，我党活动很难开展，区党委决定利用国民党的牌子，开展有利于我党的工作。经组织批准，高岗打进国民党，在他参与协助下，由国民党肤施县临时党部的基础上，正式成立县党部，高岗被选为县党部委员，任党部录事，取得了合法身份，并打入高双成部搞兵运。延安县党部党务工作，基本上由共产党人包揽，党部主要负责人是焦维炽(共产党员)，党部委员高岗、陈俞延、易厚庵等均为中共党员。县党部设在延安钟楼附近的“义合站”，门上挂着“中国国民党肤施县党部”的牌子，实际上是共产党的联络站，里边设有游艺室、阅览室、会议室等。他们利用这个合法场所宣传革命，每逢节日、纪念日以国民党部名义召开大会演讲，张贴标语，把动员贫苦农民开展反对军阀，反对帝国主义和基督教势力的斗争及反对贪官、土豪，反对黑暗统治、动员吃大户粮渡灾荒的内容寓于其中，高岗寓意深长地说：“我们是‘挂狗头，卖羊肉’”，“打白旗，干红事”。“打上国民党的旗号，为共产党办事，这不是最好的事吗！”采取这种方法，似有不当，在当时的形势下，确实起到发动群众的目的。
1929年春夏未下雨，上年大灾，陕北农民大乱，东奔西走，死尸遍地。这次灾荒，陕甘豫有3500万饥民，陕甘“鼠疫、饥饿死亡人达350万之多”，史称“中国历史上十大自然灾害之一。”官府地保豪绅，相互勾结，疯狂镇压“闹事”的灾民。高岗的妻子杨芝芳和儿子在家里无法生存，连树皮也吃不到了，还受到人们歧视，反动派说是“土匪”家属，家也被抄了门上封条，高岗的哥哥高崇义被抓押送榆林。她带儿子来到安定，在姐姐家托人打听到高岗在延安县党部干事，捎信给高岗。高岗不久来安定把杨芝芳和儿子接到延安。他们在去延安的路上，看到大川、小路上逃难的灾民，络绎不绝，饿的眉膀脸肿，一个个骨瘦如柴，一张张痛苦呻吟的面容和沿门乞求的惨相：“干大、干妈，行行好，给点吃的，救救这娃娃。”在山沟里扔着候娃娃哭叫，惨不忍听，惨不忍睹。高岗认识不少人及听口音大部是横山、米脂、榆林等一带的人。“富人兼拼土地，囤积粮食，穷人流离失所，尸横遍野。”男儿有泪不轻掸，此种惨状，使这个陕北汉子心里难受的撕肝裂胆，不时流出眼泪，痛骂黑暗社会制度。
去年大旱，也造成延安地区贫苦农民家无粮，加之外来灾民很多，高岗看准了这正是发动农民造反动派反的好时机，他在区党委会上提出专题研究讨论了救灾的问题，借此发动农民运动，配合兵变拉出枪杆子，组织自己的武装。他亲自到高双成部发动士兵运动，到延安四中发动学生运动，刻腊板，搞油印，向各县中共支部(当时延安所属各县只建支部)发指示，要求各县党员到农村，组织农民抗粮、抗税、抗捐，分吃大户粮，救饥民的命。他自己利用国民党县党部负责人的身份，深入到农村了解情况，领导发动饥民吃大户粮，解救了很多饥民的生命。他和地下党员冯世光等在安塞地区以“哥老会”名义组织地下游击队斗争富豪，开仓放粮救灾民。并指挥高善祥、闫树华等带领饥民，把安塞县政府围得水泄不通。高岗又以高双成的副官身份给县长做工作，伪县长被迫办起舍饭点，给饥民发粮食，舍饭3个月。这些举措，受到陕北逃难饥民的感恩，他们说：“横山出了个李自成，爱护穷人率大军；高岗学着李自成，救济我们穷人的命。”