1930年10月，鉴于渭北斗争形势恶化，黄子文不能再在三原一带从事革命活动，省委主持工作的乔国桢、委员张文华及张资平决定让他去天津北方局工作。为掩护身份，便于活动，省委委员焦仲鸣通知子文之妻李盛云同行。
子文夫妇到天津后，子文留北方局军委工作，盛云留法租界内的联络站工作。
1931年7月，在中共山西省委书记刘天章领导下，驻平泾县的陕西军阀高桂滋部队的两个团发动兵变，经改组成立了红二十四军。党中央对这支革命武装力量十分重视，指示北方局派20余干部加强领导，黄子文系派员之一。子文等到山西后，方知红二十四军遭敌袭击去向不明。刘天章决定让子文去汾阳找拓克宽，组建游击队。同年夏，黄子文、拓克宽等同志动员民众，组织力量，准备成立武装。随之，于孝义、中阳、汾阳三县交界的楼底村召开会议，正式宣布成立中国工农红军晋西游击队第一大队，拓克宽任大队长，黄子文任政委，闫红彦、白锡林、胡延俊、杨仲远任副大队长和副政委，吴岱峰为经济委员。不久，游击队很快发展到百余人，在晋西一带展开了轰轰烈烈的政治、军事斗争。国民党山西军阀徐永昌为扑灭革命烈火，调动万人“围剿”游击队，面对百倍之敌，子文等按照中共山西特委“精简部队，西渡黄河，进入陕北地区，继续开展游击战争”的指示，采取巧妙的战术，冲破敌人重重封锁，于9月上旬西渡黄河，进入陕北。
至达陕北后，子文又按照中共山西省特委关于“到陕北后在政治、军事上均接受中共陕北特委的领导和指挥”的指示，亲自到榆林县镇川堡一带寻找中共陕北特委书记赵伯平。
几经奔波，子文终于在陕北特委秘书张鸿志家中见到了赵伯平，赵当时化名康和煦。他们二人本来就认识，子文将游击队的情况及山西省特委的指示向赵伯平汇报后，又一起研究了游击队以后的活动问题，当时做出决定：一、活动地区在陕北军阀井岳秀、杨虎城辖区接合部之间，必要时，可以上陕、甘两省交界的子午岭；二、在暂时敌强我弱情况下，不要盲目进攻县城与有防御设施的村寨，以减少不必要的伤亡；三、坚决灵活地运用红军游击战术的“十六字方针”和“分散发动群众，集中以应付敌人”的策略方法，进行游击活动；四、发动劳苦工农民众参军，发展壮大游击队；五、动员已暴露身份的共产党员、团员加入游击队，增强政治力量。以上决定，拟由子文回游击队传达执行。
恰在此时，赵伯平接到中共北方局通过山西省特委转来的通知：“黄子文同志之妻李盛云在天津被捕后，转押北平，行将分娩，让家属保外生孩子，让子文速去北平照看。”赵伯平立即通知子文去北平照顾李盛云。但子文欲先回游击队传达特委指示，赵伯平劝道：“北平路途远，盛云坐牢身虚，生孩子人命关天，你赶陕上路。游击队的事，特委会派人安排。”子文遂将他走后游击队的人事安排与赵伯平交换了意见，这才匆匆赶往北平。