陕甘红军初建时，没有武器，军事活动全靠打入军阀内部做士兵和下级军官工作，发展地下党组织，学习军事，培养干部，伺机举行兵暴，夺取武器，建立自己的武装。
1929年春，在南昌和秋收起义并在井冈山建立根据地的影响下，陕北特委在榆林城北雄山寺翠然阁(即红石峡)召开特委扩大会议，决定发动武装起义。会议批判了特委负责人杨国栋的右倾、消极错误。会议决定今后党的工作，重点由农运、学运转移到兵运上来，集中力量抓武装斗争，刘志丹担任军委书记。会后，刘志丹到延安视察，在延安党组织的秘密机关——刘希向家里召集汇报会。高岗、李馥华向刘志丹汇报了情况，冯世光、刘希向、吴鸿滨、杜守智、高鹏飞等参加会议。刘志丹在会上传达了红石峡会议“党员到军队去，在西北培植革命的军事基础”的精神，主要讲了趁着救灾抓紧建立游击队，开展陕北游击战争。他说，毛泽东、朱德在井冈山创建工农红军，开辟根据地，就是中国革命的道路，也是陕北人民闹革命的道路；把农运、学运转移到兵运工作上来，要求党员同志们，夺取反动派的武装以建立地下游击队，想办法筹款，抓豪绅索款。刘志丹传达的精神正中高岗的心意，如同久旱逢甘霖。高岗在会上说：革命非抓枪杆子不行，打进敌营拉来枪，枪杆子和农民结合，掌握武装，打击敌人，否则没有出路。我们打进敌人内部的方针是“钻进去，站住脚、爬上去，拉出来”。他还说：“咱陕西地区和毛泽东讲的情况一样，打倒帝国主义，打倒军阀，打倒劣绅，是国民革命的主要任务”。会议对延安地区工作进行研究部署，决定延安地区总负责人李馥华并兼管延安县工作；延长县由冯世光负责；洛川县王世泰负责；保安县曹初本负责；黄龙县李象九负责；甘泉县薛太来负责。高双成部负责兵运的有高岗、李含芳、高鹏飞等，亦称军事组。会议之后，在国民党延安高双成部负责兵运工作的高岗、李含芳等，在高崇义的小店里和刘志丹一起研究了兵运工作，决定在高双成部搞一次兵变，暴动胜利后，将部队拉到保安县二将川地区打游击。
高岗是高双成部地下军事组负责人，他利用担任旅部的司书为掩护，领导军事组和部队地下党员一起，积极发动兵变。高岗为给地下游击队送武器，取得高双成同意派兵出去“巢匪”的队伍以失利为名给地下武装队送了武器弹药，并以“被俘”而拉走了部队，准备配合、接应延安兵变，少数人逃回延安报信，高岗又假意向高双成做安慰工作。同时，他以旅部司书(团附)的身份，广泛接触了国民党八十六师来往的上层人物，拉扯关系，开展统战工作，为后来抗战时期延安同榆林国民党二十二军实行抗日统一战线打下基础。
其时，横山反动乡绅，勾结政府和军队，到处捕捉高岗未获，使尽卑劣之手段，以捏造高岗当“土匪”，在家里私藏枪支为罪名，逮捕了高岗的叔父高仲魁、高仲发作人质，押送横山公安局下狱。公安局令其找回高岗，并诱嘱高岗回来可以委以重任，否则严惩他二人。他叔父将情况写信托人转告高岗。高岗接到信，未看完就勃然大怒，将信扯的粉碎，并连声说：“难道我革命了几年，再去当反革命？办不到！”“革命就不能缠绵留恋了。”表现出了坚定的革命情操和共产党员的气节。
高岗打入高双成部期间，除和李含芳(时任营长)、李妙斋(即王之宪）、刘景明等地下党员，秘密组织发动兵变外，他还到延安四中搞学运，利用到学校打篮球，踢足球等活动，广泛交朋友。他通过工友姚安吉(共产党员)在学校发展党员，策划学潮，宣传革命，以策应兵变，结识一些学校知识分子朋友，利用学校油印设备，亲自刻腊板，印发上级来文来信，宣传资料，和各县支部联系，供给地下游击队宣传资料。他和姚安吉建立了深厚的革命友谊，他们俩经常在一起交谈工作，搞宣传，姚叫高岗回老家时，到镇川买点干炉尝尝，“听说你们那里干炉好吃”。
这年冬季，高岗在高双成部发动组织兵变，已经有把握了，还联系安塞地区西河口、高桥、镰刀湾地下游击队和哥老会配合拉出队伍，夺取武器。在关键时刻，被叛徒出卖，说出高岗是共产党，策划部队哗变……破坏了延安兵变计划。高双成下令逮捕高岗等共产党员和进步人士。高岗即找本城人姚安吉，他说：“党内出了叛徒，我已被出卖，部队决定抓我。”姚安吉及时把高岗藏在城北角王台子农民刘胜华(共产党员)家里，白天不敢出门。三个城门关闭，城墙戒备森严，出入行人辨认，盘查极严，“抓捕高麻子”，城内捉拿高岗的风声越传越大。姚安吉以炊事员不打眼的身份，假借买菜、买柴的机会，观察哨位和城墙的高低，选择在清凉山对面延河畔的一座祠堂跟前城墙底有个污水洞，跟底堆积很多垃圾，洞口安几根铁柱，石头多年腐蚀，铁柱子夹的不紧。一天晚上夜深人睡后，姚安吉拿火柱将石缝挖宽，把铁柱板斜，高岗从污水洞爬出去。这是高岗五次大难不死、死里逃生的第二次。延安区委被叛徒出卖，惨遭破坏，大部分党员逃跑，有的被捕，有的自首，有的被杀，全城一片白色恐怖。共产党员王志环(时任高双成部连长)和他的妻子王彩云(时任地下党联络员)因给地下党通信惨遭杀害。区委遭破坏，兵变失败，各县支部都处于瘫痪状态。
杨芝芳逃荒到延安后，高岗安排住在一家姓史的大户院，她从横山带下去的儿子不服水土而夭折。高岗逃出城，托武善扬(横山武镇人)连夜把杨悄悄带走，连房东也没告诉。杨芝芳是小脚女人走长路困难，高岗用身带的钱买了一匹马，将杨芝芳送往安定县。由于不敢走大路，绕山路走，马在路上打滑掉入泥滩溺死。他们徒步到新窑湾周生华家住两天，杨芝芳由武善扬送到武家坡的杨家峁娘家住。高岗路过安塞和胡立亭、薛应昌(后叛变)等将地下游击队(时诬为土匪)带往保安二将川找到刘志丹，一起开展革命活动，策动兵变，抓枪杆子，发展武装。敌人得悉新窑湾住高岗亲戚，连续两次到周生华家里捉拿，周家人到山里躲藏，家里被洗劫一空。
共产党人刘志丹、谢子长、高岗等学习了南方毛泽东、朱德领导的游击战争的经验，总结了清涧、渭华、旬邑、延安等地多次武装兵变失败的教训，坚持正确的方向和道路，在陕甘边交界地区，全力发展共产党自己掌握的武装。
1929年秋至1930年春，冯玉祥同阎锡山结为反蒋联盟，爆发了蒋冯阎中原大战，冯玉祥将他的嫡系部队调去参战。期间，西北各省军阀都为自己扩充势力奔波。国民党甘肃军阀苏雨生骑兵四师为扩充势力，新编了两个旅即八旅、九旅，到处招兵买马。陕北特委趁苏雨生扩军的机会，先后派高岗、张东皎、贺晋年、张秀山、高昆山、曹华山、白天齐、曹炳奎、史法直、常焕章等50多名共产党员和革命青年，前往宁夏平罗县的李岗堡、姚福堡谷连舫、石子俊部当兵，开展党的地下活动和兵运工作，准备夺取枪杆子，拉走队伍，到桥山山区打游击战争。谢子长、刘志丹先行前去并担任九旅副旅长和八旅十六团副职。接着，张东皎等返回陕北与井岳秀为联系扩军问题，又带去吴世才、李友竹、李贵春、魏长春、魏长城等党团员、青年到八旅十五团，该团辖四个连队都有党团员，全是陕北来的。高岗、张东皎被派到石子俊旅较同情共产党的王子元十五团，建立了一个学兵大队(即教导队)，十五团副团长张东皎兼任大队长，高岗任副大队长兼分队长，李友竹任司务长、黄育华任秘书，卢子元、常柴良、牛化东等讲军事课。他们在学兵队建立了秘密中共地下党的特别支部(亦称军委)，张东皎、高岗任正副书记，受陕北特委领导。不久，刘、谢离开苏雨生部。张东皎、高岗领导下，在苏雨生部开展革命活动，巧妙地运用了统一战线的策略，利用亲友、社会和军队中的关系，和其他国民党军队活动，进行争取、改造和分化工作，建立秘密组织，发展杨林，曹胜荣、李向明、李仲英等为党员，灵活的利用军阀军队中及社会各阶级矛盾来为革命服务，更重要的是学兵队员通过活动和联系，学会了做统战工作的方法，结识各方面的人士，培养和锻炼了一批干部。他们组织党员和青年，联合和支持比较进步的以及危害较小的势力来打击最反动的力量。比如利用当时较开明的陈圭璋的力量，反对陕甘边最反动的恶霸张廷芝团(是石子俊旅的十六团)。在张东皎、高岗的领导下，学兵队政治文化生活很活跃，经常举办学习会，讨论会，讲政治课，讨论共产主义，唱革命歌曲，组织秧歌队，还写诗作画，颂扬劳动人民，揭露反动派剥削百姓，压制士兵的罪恶行径。学兵队官兵平等，互敬互爱，同军阀克扣军饷打骂士兵的状况形成鲜明对照。
1930年夏，苏部奉冯玉祥令移防平凉，走到半路上，平凉已被陈圭璋部占领，苏部的八、九旅返回宁夏时，又受马鸿宾部打击，该部南下无路，北上受打，感到跟苏雨生已无前途，在宁安堡宣布脱离苏部，并收缴了苏部的军械处的一些破烂武器，上了罗山。大家说：“我们也是逼上梁山的英雄好汉”。到罗山部队生活极度困难，学兵队本来就没好武器，吃穿也无着落，司务长李树林(即友竹)成天奔波后勤供应，把半成熟的大麦割来搓下炒着吃，一天吃半肚饭，衣服、鞋子都没得穿，高岗赤着脚在热烫的石头上和带荆刺的草地上一拐一拐艰难地走路，李树林将他带的一双鞋送给高岗穿，使高岗感动地说：“这是热里送鞋”。全队战士都感动地赞扬李树林在极度困难时将一双新鞋送给队长，既带感情又富有纪念意义。正是“饿时吃一口，强出饱时吃一斗”。直到全国解放后，高岗和李树林等学兵队员在北京会面时，还谈及这件送鞋的事。六、七月，九旅和八旅的十五团(当时每旅两个团，八旅的十六团已被张廷芝拉走陕北)被甘肃省代主席王祯收编为雷中田八师，改编为三旅，移防到静远，后又开拔到定西。石子俊任三旅旅长，王子元仍任团长，王团实际只有3个连和学兵队，王子元本来就不满反动的石子俊，而石子俊想搞掉王子元，下令将王子元团实力较强的学兵队解散，将队员分配到各连队，一些人被驱出部队。高岗对石子俊的这种飞扬跋扈反对王子元，排挤共产党员和进步青年的作风，极为愤恨，在石子俊断绝王子元部供养的情况下，高岗和战士们连单衣没办法换，他组织了“拥王反石”斗争，发扬了艰苦、勇敢奋斗精神和斗争艺术。经过斗争，石子俊无奈，又答应成立学兵连，任命高岗为连长，只给个空牌子，没有兵，没有枪，让高岗自己到陕北招人。
其间，高岗多次找旅部参谋长曹又参(曹是高在榆中的老师)谈话，研究对策。并请曹设法给予留队的人以保护、支持，消除危机。曹答应想办法，并说：“你们有什么大的行动，要告诉我”。还提出要高岗确定专人经常同他联系。
高岗离开部队前，利用晚间两次在曹又参家中商量研究问题，指定李树林为中共组织同曹又参联系。曹又参根据高岗的建议，辞去旅参谋长的职务，组建了一个新兵独立营，自任营长，连、排干部有高鹏飞、曹胜荣、李仲英等共产党员为核心，掌握了一些要害岗位的实力，为后来起义打下底。安排牛化东、李树林等党的骨干长期潜伏在后来的国民党十一旅(前身三旅)开展统战工作，使红军以及后来陕甘宁边区同十一旅一直保持较好关系，高岗和曹又参保持经常通信来往。1943年秋，由于十一旅不听调遣，和八路军“磨擦”不力，国民党克扣粮饷，冬季连棉衣也无法更换，经济极度困难。边区政府财政在极度困难的情况下，经高岗批准拿出30万法币给十一旅，以示关怀。曹又参在官兵会上讲述了这件事，广大官兵倍受鼓舞，加强了统战工作。十一旅于1945年冬起义，西北地区以旅为单位起义的是第一次，抗战胜利后，全国以旅规模起义的也是第一次。毛泽东称此次起义是“火车头”。这次起义，震惊了胡宗南集团，沉重打击了国民党反动派在西北的统治。
1930年秋，高岗和陈国宾离甘回陕北，积极招兵买马，扩充队伍，并派张志明等打入榆林井岳秀部搞兵运，准备从敌部拉出人枪。他又秘密潜入神木高石秀部和地下党研究策动手枪队起义，扩充学兵连。手枪队拉出后西进中至安边地区失败。不久，陕西省委调高岗回陕西省委军委负责兵运工作和省委交通工作。他先后到西安地区杨虎城部和汉中、甘肃胡宗南部，陕北井岳秀部做兵运工作，发展地下党组织。在陕甘边和刘志丹、谢子长、习仲勋等联系发动兵变，夺取武器，建立共产党领导的独立武装。
1931年农历正月，部队改编后向南梁开拔，行军至宁县张皮原同陈圭璋部战斗受挫，部队被打散。刘志丹带部分党员和战士，至小石崖与团总、哥老会大爷罗连城搞统战关系，罗连城收留了伤病员，并支援志丹一些武器。刘志丹又派马锡伍和陈鸿滨，谷连舫等与苏雨生拉关系，将刘志丹的少部分游击队暂编苏雨生部的补充团，刘任团长，驻旬邑县职田镇。补充团初建基本上是空架子。高岗到织田积极协助志丹在职田休整部队，筹措粮款，集合了张皮原被打散的人员，扩大队伍，伺机将队伍拉走。经努力在短期内，补充团发展到200多人，内有30多名共产党员。1931年4月，高岗参加陕西省委召开的全体会议，对张文华、张资平进行斗争，进一步讨论确定了建立自己的武装，开展游击战争的方针。会议决定高岗在军委工作，负责兵运和省委交通，开展陕甘游击战争。会后派高岗以巡视员身份来到职田镇，和刘志丹联系陕甘游击战争的事，并传达省委指示：“利用补充团的名义，尽快扩大队伍，积极准备打出红旗。”省委的指示是装在点心里带出来的。刘志丹、高岗召开支部会进行研究，决定尽快扩大力量，做好士兵思想工作，培养积极分子，发展党员，壮大组织力量，准备起义，打出红旗。对如何扩大力量的问题上，他们研究采取对小股土匪、民团、哥老会进行分化与争取的政策，指派一些干部、党员到土匪、民团、哥老会里边活动，争取他们转变乃至走向革命。当时称之为“三色”兵运(即建立红军称红色，白军里搞兵运叫白色，土匪里搞分化为灰色)，夺取武器，孤立和打击反动的家伙，以至消灭之。高岗负责恢复了刘志丹的党籍(此前陕北特委因刘坚持在军阀、土匪里搞军事拉武装而被开除党籍)。(见《刘志丹和高岗的革命军事活动》存省档案馆)。
他以省委代表的身份先后到甘肃和陕北领导开展兵运工作。一次在安边被胡景通部属逮捕，后经保安民团负责人曹力如(共产党员)交涉取保释放。这是高岗第三次死里逃生。他对曹力如风趣地说：“有贵人扶持，一路逢凶化吉。”
1929年到1931年间，我党在艰苦、复杂的工作环境中，运用统一战线政策，联合、支持比较进步的，打击群众愤恨的反动势力，争取了一些民团、土匪和哥老会的力量，有的接收过来改编为革命的队伍。在当时敌强我弱的形势下，实行这种政策是可行的，和毛泽东在井冈山时期发展壮大红军的观点一致。毛泽东曾说过一句意味深长的话：“杨虎城也是黄龙山毕业的。”不少土匪、民团，处于中立、同情，并给游击队借枪、借粮、借路、借钱，向游击队通风报讯，接收疗养伤病员。
30年代，陕甘边地区哥老会组织很多，活动范围很广，是一支很大的潜在力量，多为保护生命财产而入伙，占山为匪的“山大王”也不少。刘志丹经码头山龙头大爷马海旺介绍加入哥老会，号称西北堂刘大爷。刘、高利用哥老会成员身份，对这类“龙头”、“大爷”和“山大王”采取联合、争取工作和宣传教育他们走革命道路，利用他们的地盘作联络站或隐蔽所，夺取武器、扩大力量，龙头大爷马锡五经过宣传教育，1930年春带百余名成员参加革命。安定县龙头大爷李仲英率部参加革命，1936年担任红二十九军军长，马锡五当了陕甘边苏维埃政府主席、陕甘宁边区法院院长。在开创时期，哥老会成员为革命做了大量有益的工作，斗土豪，分田地，献枪支，捐粮食，参军参战，外出买武器，给红军通风报讯，当侦察员。海旺家成了红军的兵站，后来成了陕甘宁边区的劳动模范，全国进步哥老会组织的副主任，陕甘宁边区中华救国会副主任。毛泽东在1936年7月15日向全国哥老会发出的《宣言》中高度赞扬说：“刘志丹、谢子长、高岗等诸同志，他们不独是红军的领袖，并且是哥老会中的模范。”
1931年5月，刘志丹在职田镇期间，为了发动群众，扩大队伍，组织贫苦农民打富济贫，吃大户粮，派补充团团副陈鸿滨向当地大豪绅刘日新要20石粮，限期送来，刘日新顶碰陈部时被战士踢打后而上吊自杀。这一带地主、豪绅借此大作文章，联名向国民党陕西省政府、省党部(刘日新的儿子在省党部干事)告刘志丹是共产党，准备搞兵变。于是苏雨生根据省党部指示诱骗刘志丹到彬县逮捕下狱，并派兵缴了补充团的枪，将人员编为苏部的一个运输队，魏佑民、刘约山任正副队长。共产党员师智才奔赴西安和刘映胜向中共陕西省委汇报情况，省委即指示当时任国民党省政府秘书长的南汉宸(中共党员)和军委高岗活动杨虎城的高级参议杜斌丞营救刘志丹。高岗、马志贞先至彬县积极采取措施营救，通过关系在监狱探望志丹，并观察地形，命刘景范等组织力量，准备劫狱。同时指示苏雨生部的地下党员和通过苏部进步势力的活动，给苏施加压力，使苏雨生部下埋怨苏不该把刘抓起，拖延时间。省党部连续两次急令苏雨生，将刘押送省上处治。苏正准备押送，省党部又来紧急命令，要苏就地处决刘志丹。志丹得息毫不畏惧，并对来探望的同志说：“你告诉高岗……我遭毒手，要死就死，绝不会连累任何同志，叫他自己小心。”处决刘志丹的命令难住了苏雨生，既不敢放，又来不及送，也不忍杀在他手里。正在左右为难时，杜斌丞奉杨虎城命到彬县视察，令苏释放了刘志丹，使刘志丹捡的一条命。
高岗、志丹等住在彬县一小店里，杜斌丞去看望并面授机宜，说：“你们应站在前线上，不要站在后线上；要站在长线上，不要站在短线上(后、短线指国民党)。”高岗向刘志丹等传达了省委指示，计划在甘肃策动五个旅的兵变计划，刘、高等研究了贯彻省委的指示，决定到平凉和甘肃警备司令陈圭璋谈判，准备收编在宁县李培霄的饥民武装近千人，改编一个旅，暂归陈部，待后拉出来，打出红旗。陈圭璋的副官李勤甫(志丹的老乡)到天津为陈购买武器回来，路过彬县也被苏雨生扣押下狱，恰好和刘志丹关在一起，经谷连舫(苏部副旅长)周旋放出来。高岗、刘志丹和李勤甫交谈，李约请高岗、刘志丹到平凉陈部共事，这样两方不谋而合。杜斌丞的秘书姬伯雄将他们俩安排到李勤甫运武器的车上一起到平凉。苏部地下党员白冠伍相送到彬县大佛寺。刘志丹临别赠白冠伍一首诗：“丹心绵绵欲诉君，五中耿耿千秋明，西出阳关击螃蟹，旭日东升遍地红。”高岗改了两个字，递给白冠伍。他们到平凉经陈圭璋的警备团长刘保堂(保安人)积极推荐，李勤甫鼎力相助，陈圭璋也对刘志丹很敬重，任命刘志丹为十一旅旅长，刘保堂的警备团拨归十一旅并任刘保堂为副旅长，驻防甘肃正宁、宁县一带，高岗积极帮助刘志丹招兵买马，扩建武装，部队很快发展到300多人。高岗在平凉地区继续搞兵运，贯彻省委5个旅的兵变指示。
其间，杜斌丞向杨虎城、邓宝珊建议：要搞西北大联合，否则斗不过蒋介石。杨、邓有同感，构成争取陕、甘、宁、青、新杂牌军队和中共武装联合，力争实现“回汉一家，陕甘一体，打通新疆，结好苏联”的意图。杜斌丞为实现这一意图，曾几次奔走甘肃、青海，和军政要人及各方实力派磋商、沟通。1931年秋，杜斌丞两次到甘肃，打算利用杨、邓的实力，首先实现“陕甘一体”，然后再向青、宁扩展。他首先到平凉与各自为政且和共产党游击队有联系的驻平凉新编十三师陈圭璋部联系。高岗等到杜参议住所拜访、交谈。杜向他们透露了西北大联合信息“打开后门，关住前门”。杜斌丞的韬略恢弘政治家的风度，对高岗扩宽视野，受益匪浅。他表示但愿如此。可他认为西北的军阀头子，没有爱国的思想观念，画地为牢，各霸一方，派系纷争，各怀异心，都是想当土皇帝，非枪杆子，很难统一起来。经过交谈他们之间友谊更加深厚。
不久，高岗回陕北搞军事活动，在安定被捕处以死刑，幸得同志的设法营救出来，化妆成脚户逃回西安。
高岗在搞兵运和交通工作期间，凭他的机警、胆略、沉着、洞察和能言善辩的特点，奔走陕甘边，出入敌人营垒，策动兵变；争取哥老会，瓦解民团，深入农村组织发动群众；传递情报，在敌人严密监视下，经过一道道关卡，避开多处暗礁，在“来无形，去无踪”的战线上，没出任何差错，保证了省委和下边这条“血脉通道”的联系，同时，使自己在对敌斗争中受到锻炼。
杜斌丞被国民党杀害后，1948年10月，陕甘宁边区各界举行杜斌丞先生追悼会，高岗从东北发来吊唁挽词：
“悼斌丞先生：杜斌丞先生，是我党的忠实朋友，为人民民主事业坚贞奋斗，贡献颇多，因此赢得西北人民的同情和爱戴，但也因而遭遇到蒋胡匪帮姤忌以至最后杀害。杜先生为真理正义奋斗的意志，实是全国一切民主人士的榜样。杜斌丞的死是今天中国新民主主义事业的损失。我们将继续努力，争取全国的胜利，惩办凶手，告慰英灵。”
中共陕西省委决定在陕甘边依托桥山山脉建立工农武装，发展游击战争。同时决定原来埋伏在陕甘军阀队伍中的共产党员，都准备哗变，拖出几个旅的部队到桥山建立根据地。高岗在42年高干会上总结农运和兵运经验教训时说，虽然取得一些暂时胜利，取得一些经验，锻炼了一批干部，最终多数失败。当时省委的兵变计划受左倾路线的影响，带有很大的盲目性，多数是单打一，从单纯农运转入单纯军事的倾向，农民没有充分发动起来，兵变和农民运动结合不起来，又没有游击队援应，打游击战争的经验不足，“只会击，不会游”，没有很好地依靠农村。
当时，对枪杆子与农民结合的重要性认识不足，措施不得法，成立什么“行动委员会”，要在陕北、关中、甘肃建立三个军的兵力，片面强调赤色恐怖对抗白色恐怖，“反对书生姑娘习气，提倡暴徒泼妇精神”。没有发动农民土地斗争等，使旬邑、横山、绥德和礼泉、扶风、两当、靖远等地的农民、士兵暴动，没有很好结合起来。
高岗按省委的兵变计划在陇东地区白军中发动兵变，虽然作了极大努力，费尽心血，起义都没有成功。期间，刘志丹从彬县到平凉陈圭璋师后，挂一个十一旅的番号，自任旅长，驻扎宁县早胜镇，高岗、刘景范去协助刘志丹招人买马，队伍迅速扩大。从井岳秀部哗变出来的高广仁部投靠陈圭璋，改编十三旅也驻早胜后，又哗变扣留刘志丹，并缴了十一旅的枪，使刘、高拉起来的一支部队，在军阀火并中丧失。后被陈部蒋云台旅打垮高广仁旅，蒋云台以刘志丹失掉早胜为由准备抓捕刘志丹，旧友刘保堂告诉刘志丹，刘趁雨夜逃离，进入南梁地区林锦庙(现华池县林镇乡)一带活动，高岗协助收留了被打散的人员，在南梁附近收编了一些饥民、小商贩、手工业工人和起义过来的官兵、土匪，还收编了胡立亭、赵连壁、杨培胜、贾生财等小股武装，重新组织了一支南梁游击队300多人。他在多次失败中，摸索到开展游击战争的经验和正确的方向。
1931年秋冬，闫红彦、杨重远等带领晋西游击队从山西过河后，收编师储杰等带领的保商队武装，经安定县辗转到合水县，在林锦庙和志丹的武装会合。省委对这两支部队很关注，希望能根据急剧变化的革命形势改变以往“借水养鱼”、“借鸡下蛋”的兵运方法，公开打出红旗，建立一支正式的红军武装，与农民运动结合起来，开展农村游击战争，打富济贫，“养鸡下蛋”，“畜水养鱼”，扩充武装，建立根据地。
10月，谢子长、高岗根据省委指示：要负责把刘志丹、杨重远、刘保堂的三支部队组织起来，开展游击运动。子长和高岗在平凉了解陈圭璋部的兵运情况，相机发动兵变。他们在东关旅社住了半个多月，进行社会调查。一位国民党要员在平凉召开民众大会训话，子长、高岗以商人打扮，大模大样在会场转游，一边听“训话”，一边观察会场对“训话”的反响。之后，他和子长一起到南梁召开党团员会议，成立了游击队委员会。在刘、谢、高的共同努力工作下，刘、谢、高和刘保堂、杨重远等18人结拜，刘志丹写了《金兰谱》，以拈香结拜的方法，将三股武装合编一起，找主求生，暂归编陈圭璋部，为领取过冬衣食供给。但在打什么旗？驻什么地方的问题上发生了争议，一时无法定下来，于是队委会决定派高岗回西安向省委汇报请示；刘保堂向平凉陈圭璋请示。为了等待省委指示，部队暂住庆阳县新堡。刘保堂当时意味深长地说：“和你们交往值得，这些人将来是西北的要人。”刘保堂的预料还是有远见的。
高岗回到西安后，陈圭璋去兰州时被孙尉如部下杨子恒部暗杀了，对刘保堂震动很大，在打什么旗、驻什么地方的问题上，他对刘谢高说：全由你们决定吧。“9·18”事变后，西北阶级关系起了很大变化，统治阶级内部发生了抗日倾向，中下层要求抗日，这一变化最显著的标志是许多军队的中上层分子也找中共的组织进行合作抗日谈判，还有许多地方著名人士要求抗日，接近共产党人。高岗看到西安、汉中、渭北各地学生组织抗日团体，进行游行示威，砸国民党党部。西安市学生包围南京来的要员的住宅，驱逐戴季陶，并烧了汽车，使他感到民众抗日情绪日增，正是发展武装的好时机，积极主张发展抗日力量。但省委领导受左倾路线影响，搞关门主义，拒绝统一战线，白军进步军官来商谈合作，不予谈判；把富农和地主一样打击，分配中农财产的“左”倾路线指导下，使革命误失了良机。
11月，省委根据中共中央提出：“武装全国人民进行民族革命战争，反对日本帝国主义”的方针，决定正式成立陕甘人民武装，由刘志丹、谢子长、高岗在陕甘边组织领导武装部队。高岗向省委汇报了南梁组织活动情况。省委根据高岗的陕甘情况汇报，决定成立中共领导的独立武装。12月，高岗回到新堡传达省委指示。指示说，根据“9·18”事变后全国和西北革命形势的变化，省委决定部队脱离国民党部队，单独搞武装，并经整顿南下，扩大到关中交界，开展农村游击战争。省委还决定拉出来的部队改编为“西北反帝同盟军”。
12月底，部队离新堡、悦乐，沿武子岭南下，行至庆阳六寸原，击溃了陈圭璋部两个连的阻击。1932年1月，到达正宁县柴桥子村驻扎，以刘志丹领导的队伍和晋西游击队为基础，组建了西北反帝同盟军，第一次提出反帝抗日的口号，打出了反帝抗日的旗帜，对敌人震动很大。经过刘志丹、谢子长、高岗长期的奋斗，西北地区共产党领导的一支反帝抗日武装部队胜利诞生了。子长、志丹任正副指挥。下辖两个支队，高岗任二支队第二大队指导员(亦称政委)。“同盟军”成立时，发出通电，号召西北所有武装部队联合起来，一致抗日救国。部队在短期内发展到500多人。
同盟军成立后，在三嘉原上和杨虎城部队第一次交战，旗开得胜，击败了杨部的一个团，缴获了大量武器和装备、战马，大长“同盟军”的士气，对当地群众鼓舞很大。
西北反帝同盟军在三嘉原驻扎期间，高岗回省委汇报“同盟军”建立情况，部队边整训边宣传群众，打土豪，筹经费，扩充队伍。在整训中，一支队和二支队的意见发生一些分歧。为春节准备年食，二支队第一大队队长赵二娃(连壁)带部分队员出去打土豪，在永和集市上赶了一些羊子、牲畜，违犯群众纪律，影响很坏。腊月28日，部队开拔时，以整纪为名，执法队和警卫队领导指挥开枪打死赵二娃、二支队第三大队队长谷聚山、中队长王某某和战士周毛牛，打伤二支队第二大队队长白冠五等，并将二支队的武器全部收缴。指挥部宣布解散二支队，刘志丹的枪也被收缴，令干部离开同盟军。这件事未同副总指挥兼第二支队队长刘志丹商量，是荣子卿等人的荒唐决定。第二天(一说当天，一说第三天)，一支队队长师储杰拉走近200人投奔杨虎城部队。致使同盟军500多人的一支革命武装锐减至100多人，蒙受极大损失。“三嘉原事件”在领导之间、官兵之间、干部之间造成了不良影响，在西北历史上争论了长达半个多世纪。直到1985年，中央对这件长期争论的问题作出结论。结论指出：“队伍成份不纯，作风、纪律不好，按照党的建军原则进行整顿是必要的。但是，在一般情况下，采取一部分人缴另一部人枪的办法，特别是在刘、谢两位主要领导没有取得一致意见的情况下，采取缴枪的办法，甚至打死几人，不论是谁的决定，都是不对的，更不能说是完全正确的。好在这支队伍中多数同志以大局为重，始终坚持革命，为西北革命和红军的发展作出了重要贡献，刘志丹就是其中杰出的代表。”
马锡五、刘景范被勒令离开部队后到职田镇的第二天，恰好高岗汇报工作后带着1932年1月20日陕西省委关于陕甘边境游击队指示信(夹在《红楼梦》小说中)，以省委特派员返回“同盟军”指挥部，路过职田镇，马、刘二人将“三嘉原事件” 给高岗作了汇报。高岗赶到部队将刘志丹枪还给本人，协助指挥部整顿和收归了一部分队员。
“同盟军”成立不久，为了适应斗争的需要，根据陕西省委指示：部队尽快打出红旗，将同盟军改编为中国工农红军陕甘游击队，并要求部队改编后，向渭北平原挺进，在靠近西安附近建立根据地，威胁西安，争取“一省数省”首先胜利。高岗回省委后不知道三嘉原的事件。他返回来和一些人在执行省委指示时，不同意部队尽快改编，因为部队刚建立，装备不良，在“三嘉原事件”中蒙受损失，力量减弱，思想素质差，发展巩固一段时间再改编，是有道理的。特别是向平原地区进军，指战员意见更大。可是，省委坚持“一省数省”的左倾路线，随后派省委军委书记李杰夫(即高维翰后叛变)到部队监督执行省委的改编指示。
1932年2月12日(正月初六)，风和日丽，晴空万里，西北反帝同盟军指挥部根据省委指示，决定将“同盟军”改编为“中国工农红军陕甘游击队”。这天，在三嘉原细咀子的锦章村群众的打麦场上，召开军人大会，全体指战员脖子上系有红色的“牺牲带”，战马披红挂彩，大会主席台上搭着彩棚，横额上写着“中国工农红军陕甘游击队授旗典礼”，两旁插着绣着镰刀斧头的鲜红小旗。游击队、赤卫军和十里八乡群众数百人参加大会。高岗传达了陕西省委关于建立陕甘边境游击队指示信。“指示信”说，省委听了高岗同志报告后，关于你们的工作有以下的指示，希望你们深刻讨论，坚决执行。指示信指出“红军胜利与苏维埃运动的影响在陕西剧烈扩大情势之下，必然要更加迅速发展前去，这一形势正需要我们党坚决领导农民革命的游击战争与革命的兵士哗变才能推进斗争的发展与保障它的胜利，使正在开展的群众斗争，汇合苏维埃的旗帜下来，这一客观的政治形势是非常有利于你们发展的条件。”“你们行动的方针，是应加紧政治上、组织上、技术上的各种工作，坚决执行游击战争的任务，游击战争区域和方向应以关中道的三水(旬邑县)、淳化、富平、三原、长武等主要方向……你们将来必须和这些区域内农民斗争配合起来。”(原件陕西省档案馆存)。
会上，李杰夫代表省委宣布了陕甘游击队的成立和建制，任命了军队领导人：总指挥谢子长，副指挥刘志丹，政委李杰夫，参谋长杨重远，下辖三个步兵大队，一个骑兵队和警卫大队。高岗任二大队委书记兼第二大队队长、政委。大队下设中队、小队，还设一个军政干部训练队，培训小队长以上干部，旬邑县委书记第五伯昌授给谢子长游击队旗。
指挥部成立了队委会，由20多人组成，李杰夫任队委书记，在各大队都建立了党支部，加强了党对部队的领导。在游击队建立了政治委员会，士兵委员会，实行政治和民主权利。三嘉原、秋头原、阳坡头、职田等地农民吹着唢呐，抬着猪羊，载歌载舞，前来庆祝共产党领导的第一支并打出红军旗帜的游击队成立。
西北地区共产党领导的独立武装部队经过长期的努力，这天正式成立，第一次在西北高原打起工农红军革命军的旗帜，公开了这支部队的性质、任务和目的，具有转折性的意义，标志着西北革命军事斗争的开始，使人们明确了革命性质、方向。
陕甘游击队初创时期，领导多是初出茅庐的青年人，或多或少存在乌托帮的思想，都有些无政府主义观点，不喜欢纪律、训练和革命军人的严密组织、思想行动一致等东西，特别有些从收编的土匪、民团中来的战士，这种无政府主义观点尤为突出，更看不起政治，甚至对黑暗统治的罪恶根源认识不够清楚。所以绝对平均主义盛行，战士对负责同志住好点的房子，骑马行军、吃的好些，都表示反对，要领导也站岗放哨喂马……。
部队改编后即离开三嘉原，开展游击战争，投入消灭反动派武装的斗争。第二天，一举攻占了职田镇，消灭了守镇民团，捣毁了伪区公所，逮捕了几名豪绅，粮食分配给农民。继之，在阳坡头伏击了杨虎城的警卫团一个营，粉碎了彬县、淳化、旬邑三县民团近千人的进攻，大获全胜，打伤和毙俘敌300多人，缴获手提机枪20余支，盒子枪7支，长枪150余支，一个敌连长被俘。这是陕甘游击队成立后打的第一次大胜仗，打出了军威，“赤色战士的勇气立即提高”，使敌人为之震惊。阳坡头伏击战后，谢子长和高岗等率部队沿马栏河进军到旬邑、淳化和正宁、宁县交界的土桥原一线等地活动，并将土豪的财产土地分给农民。2月21日，消灭了照金民团，收缴30多支枪。部队在该镇休整，召开了党委会，总结了游击战争和发动群众的情况，分析了形势，会议决定以《古田决议》为主要教材，对部队干部进行政治整顿。高岗受谢子长委托负责给干部、战士讲政治课、纪律课和组织原则，学习《三大纪律六项注意》，根据毛泽东在井冈山创建军队原则实行军事、政治、经济三大民主原则，纠正了极端民主化和绝对平均主义的倾向，加强了部队自身建设，发展地方党组织，加强了组织性和纪律性，处理了一些无组织、无纪律和违法犯纪分子，全军上下团结一致，斗志昂扬，坚持“敌进我退，敌退我追，敌住我扰，敌疲我打”的方针，开展轰轰烈烈的游击战争，寻机打击敌人。
部队休整后厉兵秣马，转入同官(今铜川)、宜君、中部(今黄陵)境内活动。首先消灭了窑曲镇民团和国民党十六师驻焦家坪一个连，击溃一个营，打退了富平、同官，耀县等三县民团的两次进攻，共歼敌200多人，缴枪200多支。为了避开敌人追剿，趁陕西十七路军和甘肃暂编十三师在陇东混战之机，谢子长、高岗等率游击队西跨桥山，进入中部县上珍子地区，而后出击陇东，开创根据地。
1932年3月中旬，陕甘游击队经过一个多月的转战，又回到正宁县境内。此时，陇东军阀混战，甘军失败后官军和土匪勾结，趁火打劫农民，维持给养。正宁伪县政府向农民派款10万元多，摊派大量公粮，还勒索敲诈不计其数，人民无法承受，致成“官逼民反”的形势。当地群众在红军的影响下，自发组织起几个自卫民团，进行抗款抗粮的自发斗争。谢子长、高岗等带领的游击队回到柴桥子村后，群众无不高兴，民团派人来联系要求攻打山河镇。游击队委召开会议，经过分析研究，作出决定，支持群众的要求，采取就地联合民团，组织农民，准备攻打正宁县城——山河镇。3月17日，高岗带骑兵部队和少年先锋队百余人，率先开进寺村原新庄村，分别与各村民团、民众联系，约定3月19日拂晓，军民联合，分东西两路进攻山河镇，并和城内国民党军队部分官兵取得联系，准备哗变内应。接着，指挥部命令两路部队赶拂晓前到达指定位置。但因谢子长带200多人的东路部队夜行军，走错了路，19日早晨才到山河城东；高岗带的西路骑兵部队和30个村的600多农民，于18日晚在苟仁寺集中，高岗作简短动员讲话，民众由杜兴邦负责，行军到柏树坳，遭敌骑兵和绅士的阻拦，高岗命骑兵部队和敌人交火，民团、群众见红白军打起来了，慌乱退散，部队向东南绕道，快吃早饭时才赶到山河城跟前。由于未按时投入战斗，造成欲攻不能，城内有二三十人准备内应也暴露了，被敌人逮捕。游击队在城外埋伏一天，晚间撤出山河镇。第一次攻打山河镇未成。
游击队从山河镇撤下来，谢子长在西坡四圪塔召开队委会，重新讨论了行动计划。谢子长在会上作了重要讲话。高岗在会上也就建立根据地发表了重要意见。会议决定：一、到南原开展游击战争，打击豪绅地主的破坏；二、广泛发动群众，将群众自编的民团改为自卫军；三、立即实行陕甘游击队的纲领；四、准备再次攻打山河；五、创立陕甘边革命委员会，建立根据地。会后，部队开到寺村原，趁自发的群众斗争方兴末艾，在子长、高岗等指导下，将原有民团改编为赤卫军，成立了赤卫军指挥部，杜兴邦任总指挥。高岗、杨森带骑兵部队到各村发动群众，组织群众，张贴标语，宣传建立苏维埃政权，创造根据地。高岗等组织干部走村串户，访贫问苦，促膝谈心，做群众思想发动工作。经过广泛组织发动，各村普遍建立起农民联合会、贫农团、赤卫军组织，以寺村原为中心，扩展红色区域，南北40多里宽，东西100多里长，共有72个村都组建基层政权组织，进行打土豪，分财产斗争，受到群众的好评。他们说：“从来没见过这样的队伍，见了穷人，就象见了亲人，到穷人家，就象回到自己家，扫院、担水、打柴……什么活都干，真是穷人的部队，有了这样的队伍，国民党的尾巴长不了几天了。”当时，游击队经过整顿，纪律严明，不拿群众一线一针，吃饭买粮付钱。游击队离村，群众列队欢送。
4月初，72村的赤卫军，贫农团代表和游击队一千余人，在新庄村召开大会，成立了寺村原革命委员会，选举产生了革命委员会主席、副主席，下设军事、财粮、贫农、工人、青年委员会。革委会成立后，又召开群众大会，斗争了土豪，在苟仁寺处决了大土豪赵元亨(赵大人)及其走狗巩得功，并没收其财产，分给贫苦群众。使群众扬眉吐气，大煞了地主豪绅的威风。
寺村原革委会，是高岗在陕甘边区亲手参与建立的第一个苏维埃政权，是西北地区的曙光。革命委员会在游击队配合下组织群众，发动群众，打击土豪劣绅，没收地主豪绅的粮食、牛羊和财物，分配给贫苦百姓。为了巩固新生的革委会，扩大其影响，高岗指挥骑兵部队到正宁县的永和、北极、庙底和彬县的永乐、旬邑的职田、大峪、张洪等村镇，抓土豪，没收其财产，分配给贫农，雇农、佃农，烧毁一切契约，显示了游击队和革委的威力，当时，革命政权不稳固，农民只敢接收浮财，不敢要土地，怕游击队一走就没有保障。游击队和革委不强人所难，听其自愿。
陕甘游击队在寺村原集中活动了20多天，建立和保卫了红色政权，是苏维埃政权建设，创立根据地的第一次学习、偿试、锻炼和实践，虽然时间不长，但影响深远，在当地人民心目中留下深刻印象，为后来照金、南梁建立根据地提供了经验。同时，游击队在寺村原活动期间，相对地有个稳定的群众基础，继续加强了部队的军事纪律和群众纪律教育。原来部队纪律很差，绝对平均主义严重，游击队领导行军中骑马也受到战士的批评，经过在斗争中加强教育改造成份，淘汰了无法转变的土匪、流氓分子，改变了帮会、绿林的色彩，吸收了一批青年农民参军，使部队的素质有所提高，战斗力不断加强。
游击队在寺村原活动一段后，准备再次打山河镇，革委会、赤卫军指挥部组织72村近千人手持长矛、大刀，在苟仁寺集中，配合游击队联合作战。4月13日，在谢子长、高岗等指挥下，从山河东、南、北三面发起攻击。高岗率骑兵一直冲到山河城下。战斗打响后，敌人都钻进城里，凭借坚固工事，向周围游击队和赤卫军还击，双方对打了两天一夜。15日下午，敌驻早胜的一个骑兵营前来增援，游击队迅速撤退，隐蔽在城西十来里的西坡坳里，当敌人赶到时，游击队突然杀回马枪，歼灭敌人200多人，当场击毙敌40多人。敌人大挫锐气，急调头撤退，高岗等率游击队乘胜追击，将残敌赶入城内。由于山河镇位于平原上的一个坚固土围子，我游击队没炮兵，第二次攻打山河又未得手。
游击队回到根据地寺村原，队委会研究下一步游击行动的问题时，旬邑来人说县城空虚，请游击队去攻打。谢子长、高岗率部队当天晚从寺村原出发，于翌日拂晓到达旬邑县城跟前。高岗、吴岱峰率第二大队乘敌熟睡之机，首先摸到西山寨堡上，活捉了哨兵，游击队冲入堡内，像沸水灌蚁窝，全部收拾守敌，占领了西山寨子，掩护西城门登城的战士占领了东门和南门后，两路夹攻，敌一个连及两个排不战而降，并控制了制高点。城内部分守敌及一些政府人员见势不好，纷纷逃跑于北山的魁星楼内。由于北山地势险要，易守难攻，我游击队为避免伤亡，放弃攻打。
我游击队攻进城后，活捉了伪县长和警察局长等，并召开群众大会，例数其罪状并处决了反动家伙；打开监狱，放出所有“犯人”，分了大地主高万安的粮食等物；慰问了革命烈士家属；在街上刷写了大幅宣传标语；火烧掉了县衙门的卷宗、帐目和伪县政府。
这次战斗大获全胜，是游击队成立以来攻克的第一座县城，毙俘伤敌300多人，缴枪近200支，城里城外贫苦老百姓拍手称赞“红军打得好！红军打得好！”
游击队成立后，虽然两次攻打山河镇未克，但为攻城提供了经验和教训。此时，高岗根据敌强我弱的情况，提出运用“避实就虚”的战略，开展游击战争，扩大乡村根据地。部队从寺村原出发，向有利于游击战的照金一带发展，发动群众，打土豪，灭民团，创造根据地。
4月下旬，时任陕西省委书记杜衡和刘志丹(刘是打山河镇前回省委汇报工作，实际是反映三嘉原事件的)一起到游击队来。(杜衡是陕西省佳县人，担任过陕北特委书记，陕西省委书记，红二十六军政委和二团政委。1933年被国民党逮捕叛变，后到台湾。)杜衡一到游击队，执行左倾路线，抓住三嘉原事件和攻打山河镇未胜等问题，撤销了指挥部，谢子长被打发到甘肃搞兵运。游击队按省委指示，在旬邑的马家堡改编为三、五两个支队，刘志丹任三支队长，高岗任三支队队委书记，阎红彦任五支队长。游击队在刘、高、闫的指挥下，在乾县、永寿、耀县、三原等地区开展游击活动。接着，敌人分几路进剿。针对敌人进攻态势，5月上旬，省委又决定成立指挥部，刘志丹任总指挥，李杰夫任政委，高岗任队委书记。游击队采取“避实就虚”的战略和“游击运动”的战术，粉碎了敌人的“围剿”。发展方向上，游击队委分析敌情，认为北面敌人分散，又距西安、延安较远，指挥迟缓，增援不易，为敌薄弱地区，利于我军游击作战，队委决定向敌人空虚的北面转移，寻机打击薄弱之敌。
作战策略和方向确定后，指挥部率领部队从清水原出发，向宜君、黄陵、洛川、富县、宜川等地挺进。
5月15日，部队乘夜袭击马栏镇，歼敌2个连及部分民团，毙伤俘200多敌人，缴枪200余支。17日，向凤凰山守敌发起攻击，大获全胜，歼敌2个连，同日，还歼焦家坪，五里镇民团，一天打了三仗，共歼敌500多人，缴获枪400多支，并在这一带打击土豪，分财产，扩大红军。之后，到白水，黄陵等地歼灭一些民团，扩大红军影响。5月27日(一说26日)，因部队连打胜仗，指战员产生麻痹思想，在富县吉子岘，高双成部趁我开仓放粮之机，派特务团袭击，并在分粮群众里混进了便衣敌特人员，里击外攻，我部队伤亡很大，丢掉辎重，轻装夜渡洛河，到第二天在交道原休整时，又遭高双成的一个营扑来堵击，被游击队击溃。
5月30日，在牛武镇歼井岳秀部陈卓武一个营。31日，在宜川县英旺镇消灭敌300多人，缴获300多支枪，两万多发子弹和大批物资。此战高岗带二大队将冲出城的敌人从后山压下沟底，骑兵堵住沟口，造成全歼整营的形势。俘虏们惊奇地说：“怎么神不觉鬼不知，你们就来了，难怪老百姓都说你们是神军。”
在5月后半月，游击队在刘、闫、高等指挥下，发扬连续作战的精神，有把握地“击”，巧妙地“游”，连打九仗八胜，歼敌1400多人，缴获1200多支枪，粉碎了敌人的进剿，我军发展到1500多人。战士说：“志丹、高岗一结合，如虎添翼，仗仗胜利。”
1932年6月3日，游击队攻打宜川县的临镇(今属延安市)。临镇位于延安东南面约100多里，是个山区小镇。云岩河由西向东从镇南边流过，东侧山边有一山寨，可以控制全镇。攻城战斗部署是：阎红彦指挥五支队担任正面攻击，高岗指挥第二大队占领东山寨，掩护主力攻击。战斗打响后，高岗按时占领了东山制高点，
掩护阎红彦正面攻击并已攻入镇内。接着，敌人组织力量进行反攻，阎红彦部被冲散，退出镇内，敌人火力集中到东山寨，以抢占制高点，把高岗的部队打散，阵地被敌人夺去。高继续组织被冲散部队反击。此时中队长党益山的部队被冲散，遂拉出十几人，强行将高岗的枪下了，把部队拉出战场，向西转移，主力向东撤退，相互失去联系。
游击队攻城未果，部队撤出战场，主力转移到宜川集义镇休整。6月4日，在阎红彦的提议下，刘志丹主持召开了队委会，高岗以临阵脱逃论处，决定开除高岗的党籍并下令通缉高岗。
游击队一连串打了胜仗，队伍得到迅速发展，可谓人多势重，一时胜利“冲昏了头脑”，远离根据地，高对此曾向指挥部提出意见，未被采纳。在攻打临镇时又有轻敌情绪，侦察情报有误，说临镇寨子空虚，敌人不多，实际驻1个整营，造成此战失利。刘志丹的干将高岗脱离主力，实际给刘抹了黑。部队向韩城等地游击运动，引起敌人重视，派来一个旅的兵力追剿。在敌人优势兵力的围攻下，又处不利游击战争的平原地带，打了次几败仗，人员锐减到不足300来人，在干部中出现悲观情绪，战士思想发生动摇。6月底，游击队撤出韩城，转移到正宁县麻子掌。在队委会上李杰夫等提出“南北分家”的主张，就是各回各地区活动，陕北的回陕北，关中的回关中，陕甘边的回陕甘边。李杰夫说：愿南下的跟我走，愿北上的跟刘走。这种错误倾向遭到一些正确意见的反对，特别是刘志丹、阎红彦坚决反对。队委会决定改选了领导，刘志丹指挥、李杰夫政委职务被免去，阎红彦担任指挥，将三、五支队改为骑兵大队和两个步兵大队，在闫红彦率部向西面挺进，转战到陕甘边的盘克原一带休整活动。实践一再证明，在敌强我弱的形势下，平原地区要立足正是刘志丹曾说的“寡妇梦见男人。”
党益山中队在临镇被冲散后，当日下午在麻洞川东面的稍沟村南山住宿。晚上，党益山从山上下到稍沟村打听大部队去向情况，正好碰上高朗亭负责的陕北延川游击队在延长遭敌人袭击，撤到稍沟村住宿。党益山被高朗亭游击队扣起来，下了他的枪(正是高岗的枪)。党益山说他是刘志丹游击队的一个中队长，大队长是高岗，在临镇被敌人打散，现住南山上，他下来打听寻找大部队，“正好是你们，是自己人”。高朗亭的游击队里有个刘益三(经济员)，他曾在1929年延安四中念书时认识高岗，知道高岗在延安搞过学运、兵运。高朗亭把党益山的枪收起来，让其徒手上山通知高岗下山来。不多时，高岗下来，背一个空枪套子和子弹带子，将他被冲散的过程和找志丹部队情况向高朗亭谈了，并询问高朗亭的游击队情况。高岗问：“你的游击队受那里领导？”高朗亭说受“第四国际领导”。高岗说“怎么受第四国际领导？”。高朗亭说：“第三国际革命，第四国际更革命”。高岗哈哈大笑起来。原来是高朗亭要建游击队，请示陕北特委未批准，高组织起来拉出去活动。随后，两人谈判，经高岗动员后。高朗亭同意联合行动一道寻找刘志丹的大部队，将两支游击队合编一起，仍叫“中国工农红军西北先锋队”，高朗亭将枪交给高岗。同时，建立了党总支，党思恭任书记。
党益山带的19个人，21支枪，高朗亭带的50多人，20多支枪，合编为三个中队，由高岗、高朗亭负责，向西转移，寻找刘志丹大部队，但打听不到大部队去向。为避免南下敌人的锋芒，决定北上。部队到延安城南马不踏河红市村，折转北上。高朗亭因在延长遭遇战中受伤，无法行军，到延安去治病。部队由高岗和参谋长杨作栋带领，经杜甫川到安塞县的高桥，一路打击地主豪绅，筹集经费，开仓放粮，避敌锋茫，打其弱点，缴获一些枪支弹药和七、八十头骡马及军用物资，又折转向西盘克原方向前进。被延安高双成二六七旅发现，遂派一营兵力尾追上来，保安民团150多人埋伏在安条岭，在木头河前堵后追，将游击队包围在沟里，顿时枪声大作，高岗指挥战斗，因寡不敌众，部队已失控，所缴获的几十匹骡马未经过仗火，枪一响惊的前后沟乱窜，将敌人震住了。敌人也弄不清怎么回事，攻击停下来，那群骡马帮了大忙，游击队员趁此机会各顾逃生。高岗此战腿部负重伤并跌人深沟的灌木丛中，昏厥过去(他的脚腕有个圪瘩就是这次伤的残痕)。战斗结束后，党益山的中队被打散，埋枪人散；高朗亭的队伍由杨作栋(后叛变)收留回陕北后也解散。高岗半天才醒过来，成了“光杆司令”，只有一支手枪伴随。敌人走后，爬着扳折一树枝拄着，晃晃悠悠拐到一家姓张的老乡家里，随后转到华池地区哥老会龙头大爷郑德胜家里养伤。
此时谢子长到甘肃搞兵运，派杨林、苏杰儒等到西华池石子俊部队联系，没有成功。这个部队在1930年已埋伏下冯世光、曹化民、曹胜荣等，都是陕北人，是苏雨生部学兵队的队员。高鹏飞任曹又参营的一连连长，曹胜荣任二连的排长。高鹏飞是高岗的战友，曾在中山军事学校、延安高双成部和陕甘学兵队，合作共事，关系很好。胡立亭既是老乡，又是高岗入党介绍人之一。高岗成了“光杆司令”后，又受了伤，但没有气馁，伤还未愈就辗转到西华池曹又参部搞兵运，他到合水县城北关，派人给时任连长的李树林一张纸条，约李会面，高岗让李拉出部队扩大游击队，经研究认为起义条件不成熟。高让李继续隐蔽起来秘密活动，待机行事。李给高岗换一身军衣，高岗又到华池住在曹又参家里。一边疗养枪伤，一边发动兵变。曹向高岗谈了部队内部情况和打算清除石子俊等顽固分子，要求红军游击队给予支持，高岗完全同意，并一块商量了对策，决定让曹又参到庆阳以麻痹、消除石子俊怀疑的策略，并设法将曹营所辖的四个连全部调进庆阳，实现清除石子俊的计划。恰在此时，高岗获息刘志丹带的游击队南下受挫回到盘克原，他遂派人和刘志丹的游击队联系，要游击队接应。高岗为红军增强力量，稳定情绪，在曹又参到庆阳部署清除石子俊期间，高岗和高鹏飞、曹胜荣等共产党员研究决定先组织一、二连发动兵变。7月19日(一说21日)利用部队出操、打拳训练的机会，诱带队的潘立挺营副打麻将牌，在赌场将其击毙，拉出两个连队伍近200人、枪。
西华池起义，高岗为高鹏飞出谋划策，撑腰壮胆，起了决定性的作用，特别是威逼二连胁从起义的意见是高岗提出来的，有些人不同意，怕影响一连起义的成功。在这方面高岗比高鹏飞经验多，胆子也大，指定曹胜荣负责，使这次起义成功。起义后，高岗、高鹏飞带领起义部队，转辗到宁县盘克原和刘志丹带的游击队会合，7月21日在宁县秋头原召开军人大会，庆祝西华池起义成功。此时，高岗的腿伤还未痊愈，走路一拐一拐。高岗发动华池起义成功，以功补过，取消了“处分”。这就是高岗两次“脱逃”的全过程，临镇离队后在华池发动起义，实际上也是高岗的政治生涯中最关键的一步。
这次起义，由于精心组织，拉出来又得到游击队援应，击退了追击的敌人，是自开始搞兵变工作(据资料说70多次)以来最成功的一次。特别是在红军为难之时，刘志丹、闫红彦到盘克原约200多人，拉来装备齐全的两个连，使红军立即斗志大振，刘志丹等领导高度赞扬了这次起义说：“是几十次起义最成功的一次”。
曹又参到庆阳第四天后西华池起义，高岗拉走他的两个连，清除石子俊的计划落空，曹又参对高岗很有意见。高岗写信说：“对不起曹老师，这时期最需要人，更需要枪”。
起义部队和游击队会合后，在秋头、南邑休整。红军得到西华池拉出来的人和枪的补充，提高了部队的情绪，力量大大加强，为组建红二十六军打下基础。部队改编为三个大队，第一队队长高宝山，第二队队长刘志丹，第三队队长高鹏飞，还有一个骑兵队，队长强世龙。总兵力500多人，游击队声威复振。
游击队休整后，决定恢复寺村原72村革委会所辖红色区域。寺村原自4月下旬游击队撤离后，国民党军队和官府一起占领，逮捕革委会、赤卫军的骨干，使原组建的革委会、赤卫军和其他群众组织随之解体。这次游击队回到寺村原，群众欢欣鼓舞，在秋头原举行了军民联欢会，军威复振，百姓高兴，高岗此时军内无职务，参与负责重建了寺村原72村革命委员会的机构和有关组织，开展根据地建设活动。
7月下旬，陕西省委派李艮到游击队任政委。他带着“左倾”政策，将刚重建的72村革委会宣布取消，而建立五顷原一村革命委员会，作为他的“试点”，然后一村一村扩大，并成立秘密队委会。8月初，李艮主持召开游击队中队长以上党员干部会，强行贯彻他的所谓“新路线”。会议持续六、七天，一切正常工作陷于停滞，成天空谈“创造新苏区”，“组建二十六军”，批判所谓“游击队的右倾机会主义领导”和“反革命阴谋问题”。派部队到五顷原分配土地，群众不敢要，他命令队伍用武装强迫群众分地，限期在20天内分配完。游击队指挥机构和中队长以上干部，光在会上无休止地争吵，未作任何应付敌人“围剿”的准备工作，驻庆阳、山河镇的国民党军队从容地完成了“围剿”游击队的部署。根据地中心寺村原、秋头一带村庄和要道，都被敌人占领，切断两地交通。8月12日，在敌人包围的严重情况下，经高岗等极力反对后，李艮才停止了会议，指挥部队仓促投入战斗，进行反“围剿”。由于根据地已被敌人分割包围，内线作战条件受到限制，本应转出外线待机破敌，但以李艮为首的指挥部错误地提出“要死守阵地”，“以阵地战保卫根据地”，“不让敌人铁蹄践踏五顷塬一寸土地”。因而，指挥部命令部队进攻强固的王浪坡寨堡，由闫红彦指挥，坚攻两天未克，伤亡五六十人，撤出战斗，游击队转到三嘉原、五顷原。敌马鸿宾骑兵团和当地驻军勾结一起，联合向三嘉原游击队发起进攻，李艮下命令要“死守五顷原”的“试点”，游击队顶不住敌人的进攻，边抗击、边撤退，伤亡30多人，又吃败仗。当部队脱离战场，撤退到狼牙洼、秦曲、前马原等村庄刚住下。8月19日一大早，敌人步兵又从南庄子、细咀子包围上来，游击队奋起抵抗，且打且退，退到菜头湾，敌骑兵已堵死退路，游击队被包围，腹背受敌，面临全军覆灭的危险关头。部队以班、排为作战单位分别突围。此时的高岗在游击队没有什么职务，为挽救部队覆灭的危险，他以大无畏的不怕死精神，高喊：“跟我来！杀出去！”他全身衣服沾成泥棒，赤着脚片，率领第三队战士勇猛刺杀敌人。正在刺杀如火如荼，奋力开辟一条血路时，真是“天无绝人之路”，太阳升起，昨天下了一场雨，大雾腾起，游击队以排，班及个人为战，乘大雾弥漫突围出去。到8月24日，全队在马栏才完成了归队集结。“高岗刺杀手”的美名在游击队开始传颂。在1935年劳山战役中又一次发挥了他的刺杀手精神。40年代边区练兵时，以“朱德射击手”、“贺龙投弹手”、“高岗刺杀手”为榜样训练部队。
李艮到部队20来天，瞎指挥，连打三个败仗，全队只保留下来200多人，损失惨重，根据地丧失殆尽，哭着鼻子离开部队。五顷塬的失利，指挥闫红彦也有不可推卸的责任而被撤职。
8月底，游击队领导又换成谢子长，部队在耀县、照金地区休整，扩充队伍。9月底北上，袭击保安失利，在瓦子川、墩儿梁打两次败仗，后退到南梁地区的平定川、豹子川一带活动。由于连战失利，战士士气低落，又加上发生伤寒病，伤病员增多，过冬的服装和铺盖、吃饭都成困难，处境非常严重。自古以来“兵无粮自散”。谢子长主持召开队委会，决定游击队分三路外出游击，筹集粮款，渡过了难关。刘志丹、高岗率领一个大队到华池、合水一带活动，杨森带六、七十人到三原武字区活动；杨重远、闫红彦带领骑兵大队到照金、耀县活动；谢子长带二三十人在平定川、豹子川一带保护六、七十名伤病员治疗。12月上旬，游击队在合水县拓八原会合，壮大了力量，筹措齐过冬供给。
此时，中央北方会议后，决定陕甘游击队扩编为二十六军，陕西省委指示游击队到三原一带开辟苏区，并派杜衡到游击队。部队开到宜君改编，成立二十六军。杜衡一贯是“左”倾空谈家，他一到游击队便打击原来的干部，拒绝任何的统一战线，反对一切，打倒一切，对土匪民团不加任何区别，一律从肉体上消灭，对倾向和支援红军的民团、土匪也是如此。对白军进步的军官拒绝谈判合作。攻击刘志丹、谢子长、高冈等“梢山主义”、“逃跑主义”，“土匪路线”，高岗在搞兵运时和白军军官建立统一战线被骂为是“勾结军阀”等等，大帽子满天飞，结果造成所有白军、土匪、民团与我们对立。12月22日，在宜君杨家店召开党团大会，杜衡无端地攻击游击队领导，把他们说的一无是处。24日，在转角镇召开军人大会，杜衡宣布成立二十六军，先成立第二团，王世泰任团长，参谋长郑毅，杜衡自任军、团政委，把部队领导人都排除在领导班子之外，刘志丹、谢子长靠边站。闫红彦派往上海学习，高岗排挤出部队，派到陇南搞兵运工作。二十六军在33年1月攻打庙湾民团失利，杜衡将责任推给郑毅并撤职，成了杜衡的替罪羊。
高岗回到省委后，由当时省委书记孟用潜主持，召集高岗、王伯栋等人学习中央、省委有关兵变的文件，后派往甘肃武都胡宗南部土匪出身的鲁大昌师搞兵变。由于敌人防变极严，经考察条件不成熟，高岗被调回省委军委工作，任省军委委员。
期间，红四方面军一部进入陕南，高岗以省委特派员到陕南，和部队取得联系，参加整顿陕南特委的领导工作，并协助将该地几股游击队组建为红二十九军。这支部队在“左”倾路线的指导下，由于李艮等不懂游击战，只击不游，坚持阵地硬打硬拼，沿袭五顷原的作法，没多久失败，全军覆没，李艮阵亡，李艮成了左倾路线的阵地战牺牲品。(据汪峰访问记录)