胡乔木在安吴堡跟谷羽结合后不久，被调回延安。他担任中共中央青年工作委员会委员。
谷羽则去西安工作，然后又回安吴青训班，直至1939年春，他俩才在延安重逢。正为这样，他俩才在延安补办“婚礼”。
此后，胡乔木被派往西南大后方，做青年工作。他来到桂林，来到重庆，来到昆明，风尘仆仆，行程千里。
他与谷羽失去了联系。此行是秘密的，谷羽只知他要远行，不知他的行踪。直至1939年底，当胡乔木从西南返回延安，他与谷羽重逢，这才发觉，谷羽的听力骤衰。一问，原来谷羽差一点到另一个世界去了：
那是1939年9月1日，日本飞机轰炸延安。那时，谷羽住在延安城的招待所——很坚实的石头窑洞。那也住了四、五十个从前方回来的将领。将领们是从弥漫的硝烟中走过来的，对那翅膀上漆着红日的轰炸机不在意。飞机来了，他们躲进窑洞；飞机刚走，他们就出来了。飞机发现了目标，掷下了一批炸弹。炸弹命中窑洞，墙坍了，压死了不少人。谷羽不省人事。她被抬进中央医院，醒来了，才知左耳鼓膜被震破，左臂受伤，头也破了。
在医院躺了三个月，这才康复……
回到延安，胡乔木担任了《中国青年》杂志的主编。当年，他听过《中国青年》杂志主编恽代英的报告。那时，《中国青年》杂志是中国共产主义青年团中央的机关刊物。自1927年11月起，改用《无产青年》，《列宁青年》等名字秘密出版，至1932年停刊。
1939年4月，为迎接五四运动二十周年，在延安复刊，仍用《中国青年》作刊名，由全国青年联合会延安办事处宣传部主办。胡乔木，从当年《中国青年》的一位热心读者，此时成为主编。至1941年3日出版了第三卷第五期，《中国青年》又休刊，直到194八年12月重新又复刊。办刊物，写文章，胡乔木此时已是“内行”。他为纪念五四运动二十周年，在《中国青年》杂志上发表了《青年运动中的思想问题》一文，颇有独特的见解。
1941年2月5日《中国青年》第三卷第四期发表胡乔木（署名乔木）的《小品三题》，这样是散文诗，颇有趣味，又富有哲理，照录于下：
猫和刺猬
多叫人羡慕的猫！它一会儿走着，攀登着，侦伺和捕捉着，睡着，……而且玩着。它可以跟自己的尾巴玩上一小时。
不懂得寂寞的小老虎呵！除了叫春的日子，对于它的邻人它是永远无所求的。
但是“一个冬天有一群刺猬挤在一起”，索本蒙如是说，“为的彼此可以温暖一些，免得冻死了。但是一会儿彼此又觉得刺刺得不舒服，于是又分散了。冷起来了又聚拢，刺得痛了又分散，这样一聚一散闹了许久，直到彼此间相隔，恰恰合式。”
聪明的人呵，你自许有万物之灵的，你从猫与刺猬将何所取舍？你爱我吗，我友？如果人间也是有刺的，我也不会是猫的弟子。是的，我常常寂寞，但愈是寂寞的时候我就愈恨猫，我用荆棘的鞭子打它，因它在寂寞中快乐，它不是我的同类。
火
我不会抽纸烟，但是我却知道在一个沉默的黑屋中独自抽着纸烟的意味。火向你眨眼呢，火跟你谈心呢。这宗秘密你坐在炉边也可以看透一半。火，你会相信我，这就是人的生命的最准确的墓穴，如果你想一想那熊熊的火焰……在辽阔的海面上，在狼群出没的荒原上，看见了豆大的灯光哪一颗夜行人的心能够不跳跃？哪一双眼睛记起取火者普罗米修斯的故事能够不感激流泪？恒星就是火，所以恒星无火；没有空气的行星上不能有火；不曾有人的地球上只有偶然的自然火；但有人才有意识的创造了火并由是创造了自己，所以发现了火的人也就发现了自己，他的快乐不是徒然的。
但是，我如是赞美了火，我的赞美却是徒然的哟。我不能够雪中送炭，却写下了这些愚蠢的文字——请告诉我，它们也能够变成火么？
水
凡物有三态，思想也有三态。
气体的思想是风。它是人脑中自由的过客，它自由地来而且自由地去，不着一点痕迹也不留一点痕迹。
固体的思想是石块。它在人脑中建筑堂堂的金字塔，堂堂的积蓄着和保护着几千年不变的尸体。
惟有液体的思想它在人脑中开阔有定而无定的河流。它是运转不息万古常新的，从它的不舍昼夜的奔驰中，人是不能和它有两度相识的，所以流水不腐；它的运转是有一定的基础、一定的纪律和一定的方向的，它永远向前看，永远要冲决网罗和荡涤瑕秽，所以流水无情。
东方的哲人说：智者乐水。西方的哲人说：水生万物。水乎，水乎！既然人类也是你的婴儿，就让人人常能沐浴在你的怀抱中，从你的乳房吸取无穷的睿智吧。
1940年5月3日，一所特殊的新型学校，在延安城北大砭沟（又称文化沟）诞生。这所学校的特殊，在于头一回以中共领袖毛泽东的名字命名——“泽东青年干部学校”。
这所学校，实际上是在“安吴青训班”的基础上发展起来的。自1939年下半年起，国民党加剧反共，“安吴青训班”不得不北撤，于1940年4月13日回到延安，改办为“泽东青年部学校”。陈云任校长，冯文彬任副校长。胡乔木为教务长。
5月3日下午，学校的开学典礼在延安中央大礼堂举行。毛泽东、张闻天前来祝贺。会上，师生们高唱着《泽东青年干部学校校歌》。这首歌的歌词，出自胡乔木笔下，由冼星海谱曲：
生在英雄的时代，
长在人民的旗下，
毛泽东的双手，
抚育我们长大，
坚定意志，艰苦传统，
革命精神、民主作风，
我们学习虚怀若谷，
我们奋斗浩气如虹，
我们奋斗浩气如虹。
记住仇敌未平，
破碎河山未整，
同胞正在呻吟，
天下尚待澄清，
太阳照临我们的肝胆，
大地倾听我们的誓言，
愿将热血灌溉人间，
结成自由春花一片，
结成自由春花一片。
在中共党史上，这是一首很早的毛泽东颂歌。胡乔木写此歌时，离遵义会议不过五年。
此时毛泽东虽已是中共的实际领袖，但名义上的最高负责人尚是张闻天。直至1943年3月20日，中共中央政治局推选毛泽东为中央政治局主席、中央书记处主席，才在组织上定毛泽东为中共最高领袖。
在写作《泽东青年干部学校校歌》时，胡乔木并未与毛泽东有过直接交往。据谷羽回忆，那时胡乔木跟陈云的接触比较多，因为陈云是泽东青年干部学校校长。然而，连胡乔木本人都未曾想到，毛泽东已经注意“乔木”其人了——此事直至将近一年之后，胡乔木才知道……
据林默涵回忆，胡乔木在担任泽东青年干部学校教务长时，曾去找他，请他去该校讲课。那时，林默涵正在延安马列学院。他答应了，去泽东青年干部学校讲“辩证唯物主义与历史唯物主义”。他采用艾思奇《大众哲学》那样的思路，穿插很多事例，讲得生动活泼——虽说这是林默涵平生头一回开课。胡乔木告诉他，学员反映不错，又请他继续开讲。
1941年9月，根据中共中央决定，泽东青年干部学校与陕北公学、中国女子大学合并，立“延安大学”。此前，胡乔木已经调离了泽东青年干部学校，来到毛泽东身边工作……