7月的一天，我们把两人的事向青训班主任冯文彬说了，就算结婚了。婚后，乔木根据《诗经·小雅·伐木》篇中“出自幽谷，迁于乔木”一句，把我的名字改为谷羽，和他的名字同出一典，表达了他和我永结同心的深情。
从此以后，胡乔木与谷羽终生厮守，相亲相爱，共同生活了54年。
担任中央青委宣传部长
1938年4月30日，中共中央政治局常委会议讨论了青年工作，决定成立中央青年工作委员会（简称“中央青委”），由陈云为主任，冯文彬为副主任。5月5日，中共中央发出《关于组织青年工作委员会的决定》，要求县委以上地方党部成立青年工作委员会，以发展全国青年运动和统一党对各青年团体的领导。中央青委成立后，胡乔木被任命为中央青委宣传部部长。宣传部下面设有宣传科和编辑科。中央青委的组织部部长为李昌，干部部部长为黄华。
1938年8月，胡乔木离开安吴堡到延安，参加西北青年救国联合会第二次代表大会（实际上是党所领导的全国青年工作会议）的筹备工作。在11月召开的大会上，胡乔木当选为西北青年救国会宣传部长。
此后不久，根据中央的指示和要求，中央青委的机关、西北青年救国联合会的机关，都由延安迁到安吴堡。这样，就实际形成了以青训班为基地推动抗日青年运动发展的局面。
10月，中央青委在延安召开青年工作会议。会议根据中共六届六中全会的方针和关于青年工作的决定，总结了青年工作的发展形势，提出了抗战时期青年工作的基本任务。会后，中央组织部长兼中央青委主任陈云又专门召集中央青委干部开了一个会，要求他们走出延安，到全国各地去传达和贯彻中央青委工作会议的精神。胡乔木主动请求去湖南，但因工作忙，到1939年8月才成行。
11月，中央青委决定组织六个西北青年战地工作团，分赴晋东南和晋察冀两个敌后根据地，帮助开展青年抗日救亡运动，并在斗争的大熔炉中锻炼干部。胡乔木和冯文彬在战地工作团出发前作了指示，强调战地工作团到前线去的任务是：用各种形式向敌后广大青年群众宣传党的抗日民族统一战线政策，协助青救会加强组织建设，加强根据地的青年工作，学习抗日根据地青年运动的经验；帮助发展壮大地方抗日武装力量；在战争环境中锻炼干部。
与此同时，11月的西北青年救国联合会第二次代表大会根据中央青委青年工作会议的精神，对中国青年运动的形势作出分析，确定此后把战时青年训练班改为训练青年工作干部的专门学校，即“中国青年干部训练班”。
1939年春天，胡乔木满怀激情，在延安创作了《安吴青训班班歌》，请作曲家冼星海谱了曲。5月上旬，青训班致信名誉班主任朱德：要用加紧的学习和工作来配合前方的打仗，输送更多的青年干部到前方帮助打胜仗。另外，班部还响应西北青救会的号召，举行青年参战动员周，通过检阅学员队伍，举办时事和工人运动青年运动讨论会、生产运动总结发奖大会、军事体育运动会、文艺联欢会、苏联画片展览，开展除奸宣传、慰问抗日军属等活动，热烈庆祝首届“五四”青年节。
青训班从1937年10月开办，到1940年4月按中央书记处决定撤离安吴堡，两年半时间，共办了14期，培训学员1.2万多人，被誉为“青运史上的丰碑，抗日青年的熔炉”。
主编《中国青年》
1939年4月16日，为纪念五四运动20周年，《中国青年》杂志在延安复刊。复刊后的《中国青年》杂志，以全国青年联合会延安办事处宣传部的名义主办，32开本，胡乔木担任社长、主编。
胡乔木在扬州中学学习时就接触到《中国青年》，受到它的积极影响，开始树立“把红色的天国建在地上”的崇高理想。十多年后，他自己从先辈的手中接过这面旗帜，担任《中国青年》的主编，心中无比激动。他满腔热情地投入到这本刊物的编辑工作中去。
胡乔木担任《中国青年》主编以后，对这个刊物应该是怎样性质的刊物，是办成青年群众性的刊物呢，还是党的青年工作的刊物，曾经进行过讨论。认识没有统一，他就向中央主持宣传工作的张闻天请示。
张闻天很快给胡乔木复了信，大意说：《中国青年》既是党的青年工作的刊物，又是青年群众的刊物，不应该把这两者对立起来；青年群众的立场，也就是党的青年工作的立场；不必回避这个刊物是党的刊物，把它尽量办得适合于青年的、群众的口味就行了。
胡乔木遵循这个指导思想办《中国青年》，刊物既有高度的政治性、指导性，又生动活泼、通俗易懂，不仅有政论文章、政策阐述、典型经验，还有科学小品、散文小说，很适合青年的特点。
当年担任《中国青年》编辑的韦君宜回忆，在乔木主持下，《中国青年》组织了“我怎么到延安来的”专栏，组织了那时已经有名的诗人何其芳、医生金茂岳等的稿子，很受读者的欢迎。韦君宜写道：
那一阵，《中国青年》社发表了许立群的中国史话，董纯才的伊林的故事，陈企霞的散文，王学文的政治经济学讲话，刘慕的活报剧，还把张闻天（洛甫）过去创作的小说《飘零的黄叶》也登上了。都是乔木的主意，真是延安出的那些板着面孔的杂志中，从来没有过的新鲜面貌。
《中国青年》复刊以后，迎来“五四”运动20周年纪念。胡乔木在《中国青年》第2期上发表《青年运动中的思想问题》一文，对当前青年工作的重点提出指导性意见，同时也包含着他多年从事党的青年工作实践经验的思考和总结。
胡乔木在文章中指出，“中国的革命运动和思想运动，从来是不可分离的。”“五四以后，因为马克思列宁主义的发展和胜利，思想运动和革命运动的关系，就格外密切起来了”。胡乔木指出：“在中国接受革命思想最快，传播革命思想最努力的，是中国的来自民间的青年知识分子，因为他们既有受新式教育和阅读新出书报的便利条件，又比任何人更加痛切地觉到民族压迫和民族屈辱，而他们对于旧社会又较少留恋。在革命发展的无论哪一个阶段，这些青年总努力学习当时最进步的理论，献身于实现当时最高尚的理想。这种精神，正是青年之宝”。“中国青年几十年来追求新思想的过程，也就成为一步一步接受马列主义的过程”。
胡乔木系统地分析了中国青年接受马克思列宁主义的原因：“首先是马列主义本身的优点”：“马列主义是人类有史以来唯一能够真正包罗万象的完整的正确的思想系统”；“马列主义也是人类有史以来唯一能够将客观和主观结为一体的主义”；“马列主义所指示我们的前途，是人类唯一可能的前途”；“马列主义正因为不是任何臆造的方案，它才具有无限的发展可能，它才能够适用于人类发展的任何环境，任何阶段”；“马列主义是不受国界限制的，是人类历史唯一的国际主义”。其次是马列主义的“实际的成绩和行动的表现”：“马列主义的绝对正确，从苏联二十二年的历史得到了辉煌无比的铁证”；“马列主义的绝对正确，更表现在国际共产党的伟大行动方针和国际主义者的高尚人格上，共产国际和它的各国支部的存在和发展本身就已经是人类历史上破天荒的了”。
当时担任毛泽东秘书的陈伯达认为胡乔木的这篇文章写得不错，把它推荐给毛泽东。为纪念五四运动20周年，毛泽东发表了《五四运动》的文章和《青年运动的方向》的讲演，强调“知识分子与工农民众相结合”。胡乔木这篇文章着重讲了青年要“接受马克思主义”，“使用马克思主义武器”。毛泽东看后非常满意，感到胡乔木的文章很有见解，也抓住了青年运动带有根本性的问题。这篇文章为后来毛泽东要胡乔木到他身边当秘书打下了基础。