胡乔木初抵延安，在中共中央组织部报到时，遇上了小小的麻烦：他是中共党员，这当然确实无疑，李凡夫、邓洁都能为他证明。然而，他的党龄从何时算起呢？
胡桥木是在1932年加入中共。可是，他的入党介绍人、中共盐城县委书记嵇荫根后来被捕、叛变，带人前来抓他。他在仓促之中逃离盐城，失去党的组织关系。
在上海，1935年5月，由陈延庆介绍，胡乔木重新办理了入党手续。
胡乔木向中共中央组织部说明了以上情况。由于他在盐城入党没有人证，组织部的组织科长对他说，那就只能写1935年入党了。
从此，胡乔木填履历表，一直写“1935年在上海入党”。
在他1982年9月当选中共十二届政治局委员时，他的简历上仍写“1935年入党”。
后来，经中共中央组织部重新调查，这才确认他是在1932年入党。这样，盐城党史上的“悬案”，也随之解决了：因为胡乔木在盐城发展了邱剑鸣入党，倘若他那时还不是中共党员，邱剑鸣入党又从何谈起？
二十五岁的胡乔木来到红都延安，他对这一往情深。这是他走向成熟的地方，这是他一生中黄金岁月的所在。正因为这样，他死后，他的骨灰撒在这片红色的土地上。
刚到延安，中共中央组织部根据他的擅长，分配他做青年宣传工作。
那时，正是西安事变之后，西北民众抗日救亡运动高涨，大批青年奔向延安。1937年4月12日至17日，“西北青年救国会代表大会”在延安举行。大会选出冯文彬、胡耀邦、刘英等二十三人为大会主席团。冯文彬致开幕词。毛泽东、周恩来、朱德、博古、林伯渠、徐特立等到会讲话。大会决定成立“西北青年救国联合会”（简称“西北青救会”），以冯文彬为主任，王盛荣为组织部长，胡乔木为宣传部长。
值得顺便提一笔的是，胡乔木进入延安时，由原名胡鼎新改为“乔木”。改称“胡乔木”是后来的事。为了照顾读者的阅读习惯，此处仍用“胡乔木”。
胡乔木进入延安之后，写信给尚在上海的大妹胡穗新、二妹胡文新。由于二妹患伤寒，延至1937年10月才离沪前往延安。她俩到延安，分别改名夏青和方铭。
在西北青救会成立之后，1937年9月下旬，当时任中共中央青年部部长兼西北青救会主任的冯文彬在中共陕西省委书记贾拓夫（即关烽）的支持下，决定开设“战时青年短期训练班”。当时，中共陕西省委机关在陕西泾阳县，那里属国民党统治区、离西安、咸阳很近。训练班为了便于接纳来自国民党地区的大批青年，于1937年10月11日在泾阳的邻县——三原县斗口镇农场开办训练班。这个农场原是国民党元老于右任创办的。一个月后，训练班迁至泾阳县云阳镇的城隍庙。又过了一个多月，迁至云阳镇之北的安吴堡一座地主庭院内，安定下来。从此，人们也就称之为“安吴青训班”。
“安吴青训班”以朱德为名誉主任，最初只有四名工作人员，以冯文彬为主任，乐少华为大队长。训练班办第二期时，胡乔木从延安调到那，担任副主任，分管教学工作。后来，又增加了刘瑞龙为副主任。
“安吴青训班”设在西安的“门口”。西北青救会又派出黄华到西安招生。这样，大批学员前来。1938年，“安吴青训班”开办了十期之多。每期的学员原定一百名，很就被突破了，以至发展到每期三百多名。这些青年经过学习，分送到延安的“抗大”、陕北公学、中共中央党校等，成为中共培养部的“初级班”。
胡乔木变得异常忙碌。好在他原先当过语文教员、英语教员，有教学经验，只是此刻改教抗战理论课程，又要负责安排整个青训班的教学工作。