担任毛泽东秘书
1941年1月初，震惊中外的皖南事变发生。2月初的一天，中共中央秘书长王若飞突然来到大砭沟胡乔木家，说要调他当毛主席的秘书。
王若飞告诉胡乔木：前年你为纪念“五四”运动在《中国青年》上发表的那篇文章（指《青年运动中的思想问题》），陈伯达很欣赏，推荐给毛主席。毛主席看了说，乔木是个人才。那时候，毛主席就注意到你了。王若飞还说，前些时候，毛主席的秘书周小舟被派到冀中区党委当宣传部长了，毛主席身边人手不够，决定调你去。胡乔木听了，有些顾虑，说：给主席当秘书，我怕当不好。我可从来没有做过秘书工作呀！王若飞说：这可是毛主席亲自点的将啊。
很快，胡乔木就从大砭沟搬到杨家岭毛泽东身边去了。
2月19日，中央政治局召开会议。在这次会上，毛泽东提出要加强中央秘书处组织。秘书处工作主要有政治、军事、党务、情报、同延安各机关的联系五个部分。会议正式决定调胡乔木和陶铸等四人到秘书处工作。胡乔木主要对毛主席负责，当了毛主席的秘书。
一、参与编辑《六大以来》等“党书”
胡乔木刚到毛泽东那里时，不知道该做些什么。他看到毛泽东在亲自校对《六大以来》的清样，就说：我来干这个事吧。毛泽东说：你算找对任务了。毛泽东又说，校对工作很难，也很艰苦，一定要非常认真。校对也称“校雠”，就是要像对待仇人那样，把文章中的错误校出来。就这样，校对《六大以来》清样，成为胡乔木到主席身边做的第一件事。
胡乔木他们当时只知道是为七大准备材料，没有听说要把这些文献材料汇编成书。把这些文献编成后来称为“党书”的《六大以来》，是出于形势的需要。到1941年8、9月间，在为准备中央九月会议的过程中，针对当时的形势，毛泽东认为，有必要在党的高级干部中开展一个学习和研究党的历史的活动，以提高高级干部的路线觉悟，统一全党的认识。为此，他建议，将正在审核的历史文献汇编成册，供高级干部学习和研究党的历史用。这项建议得到中央的赞同。这才将历史文献汇编成书。
《六大以来》内容十分丰富，汇集了自1928年6月中共六大至1941年11月间，党的历史文献519篇，共280多万字。在编辑过程中，为及时提供在延安的高级干部学习、研究，毛泽东挑选一些重要的文献随时以活页的形式，陆续印发。1941年九月会议期间，毛泽东、王稼祥致中央研究组和高级研究组各同志信，请“看六大以来的文件”，随信开列了要目。1941年12月，将活页印发的86篇文献汇编在一起，订成《六大以来》的选集本。在1943年10月《两条路线》出版以前，《六大以来》选集本是党的高级干部学习和研究党的历史的主要材料。对此，胡乔木后来回忆说：“编出《六大以来》使总结历史经验得到一个武器。把党的历史文献编出来，使正确路线同错误路线的对照非常明显。一些犯‘左’倾错误的同志看了心服口服。”
《六大以来》出版后，引起了党的高级干部学习党的历史的浓厚兴趣，不少同志提出研究党的历史干脆从党的一大开始，要求中央编一本六大以前的党史资料书。所以，毛泽东从1942年初就着手编辑《六大以前》。《六大以前》的资料工作主要由胡乔木和陶铸负责。《六大以前》共收文献184篇，按照时间顺序编排，分上下两册，上册121篇，下册63篇，其中“补遗”24篇，此外还有“附录”4篇。发行的方式与《六大以来》汇集本相同，只发单位，不发个人。
《六大以前》出版后，毛泽东紧接着就准备在《六大以来》和《六大以前》两本书的基础上，选编一本关于党的路线的学习材料，这就是《两条路线》。后因故耽搁下来，直到1943年8月才正式动手。《两条路线》是胡乔木参与编辑的又一本“党书”。该书具有很强的针对性，要求挑选最能反映党的各个历史时期两条路线斗争的文件、讲话、文章等，选目难度较大。胡乔木作为毛泽东的秘书和中央总学委的成员，参加编辑工作。因为已有前两部“党书”做基础，驾轻就熟，很快就完成了。《两条路线》也分上下册，所收文件起自1922年党的二大宣言，讫于1943年10月《解放日报》发表的毛泽东《在延安文艺座谈会上的讲话》，共收录文献131篇。最后印了2000套，分发的范围较广，不仅在延安的高级干部人手一套，而且各根据地的主要领导人也差不多人手一套。此后，《两条路线》成为党的高级干部学习的主要材料。
关于“党书”的作用，毛泽东在1943年九月会议（中央政治局扩大会议，9月7日至10月6日）上批评王明在十年内战时期的“左”倾教条主义错误和抗战初期的右倾投降主义错误时，作过简要的论述。毛泽东说：“现在党内主要的危险是闹独立性，我们要强调党的一元化领导。抗战初期的右倾投降主义，六届六中全会在政治路线上是克服了，但未作结论，组织问题也没有说，目的是希望犯错误的同志慢慢觉悟。到了一九四一年五月，我作《改造我们的学习》的报告，毫无影响。六月后编了党书，党书一出许多同志解除武装，才可能召开一九四一年九月会议，大家才承认十年内战后期中央领导的错误是路线错误。”
在毛泽东的带领和直接教诲下，参与编辑和校对《六大以来》《六大以前》和《两条路线》三部“党书”，对于胡乔木个人的成长，对于他全面系统了解党的历史，分清党内路线斗争中的是非功过，准确把握毛泽东思想，具有非常重要的意义。这也为他后来参与起草《关于若干历史问题的决议》，奠定了坚实的基础。
二、为《解放日报》撰写社论
1941年3月26日，中共中央作出《关于调整刊物问题的决定》。其中一项重要的决定是扩大《解放》杂志的编委会，胡乔木成为其中的成员。新的编委会由张闻天、博古、吴亮平、陈伯达、杨松、康一民、蒋南翔和胡乔木组成，仍由张闻天负总责，吴亮平为编辑主任。另一项重要决定是将《新中华报》与《今日新闻》合并，改名为《解放日报》出版。为此，毛泽东为中央起草了《关于出版〈解放日报〉和改进新华社工作的通知》。4月16日，中央政治局会议正式作出决定，同时确定博古担任社长兼主笔。5月15日，中央书记处发出毛泽东起草的通知：5月16日起，出版《解放日报》。新华通讯社，亦加改进，统归一个委员会管理。一切党的政策，将经过《解放日报》与新华社向全国宣达。《解放日报》的社论，将由中央同志及重要干部执笔。通知要求：“各地应注意接收延安的广播，重要文章除报纸刊物上转载外，应作为党内学校内机关部队内的讨论与教育材料”。
根据中央的这一决定，新华社附属于《解放日报》，由博古为首的《解放日报》编辑委员会具体负责。《解放日报》社长是博古，总编辑是杨松。当时《解放日报》为四开两版。博古学习联共中央机关报《真理报》的做法，每天发表社论。毛泽东经常被约请写社论。有的社论，毛泽东嘱咐胡乔木完成。同时，由于胡乔木的特殊位置和写作才能，胡乔木也是博古经常约写社论的作者。
胡乔木为《解放日报》撰写的第一篇社论是《救救大后方的青年》。这不单是因为胡乔木长期从事青年工作，对青年情况熟悉，还因为他当时参加了《中央关于青年工作的决议》的起草和修改工作。6月8日《解放日报》社论《救救大后方的青年》，正是配合中央青年工作决议发表的。胡乔木在社论中对国民党统治下的大后方青年“在物质上生活上受着煎逼，同时在精神上思想上更受着苛刻的压制”，而“不能安心读书”、“找不到自己所要做的工作”，表示了极大的同情、痛心和悲叹。他恳切地呼吁“在重重压力下的大后方青年”：“第一，对抗战的前途须有透彻认识和信心”；“第二，必须自强不息，自觉地担负自己应尽的责任”；“第三，必须善于识别各种危害青年者的面目”。
从此之后，胡乔木在担任毛泽东秘书的繁重工作之余，为《解放日报》写了不少社论和文章。他那渊博的知识，敏捷的才思，优美的文采，也更加充分地显露出来。
6月10日，《解放日报》发表胡乔木写的社论《欢迎科学艺术人才》。社论指出：“随着抗战以来文化中心城市的相继失去……延安的古城上高竖起了崭新的光芒四射的新民主主义文化的旗帜，在这个旗帜下萃聚了不少优秀的科学艺术人才，从事着启蒙的研究和实际建设的工作。”社论表示：“虔诚欢迎一切科学艺术人才来边区，虔诚地愿意领受他们的教益”。
6月17日，胡乔木在为《解放日报》撰写的社论《国民党缺少什么》中，严厉批评“国民党最缺少的，却是民族的信心”，呼吁国民党“坚决提高民族信心，坚决贯彻民族独立战争”。
6月29日，中共中央西北局在延安中央大礼堂召开中国共产党成立20周年纪念大会。这一天，也是苏德战争爆发一星期的日子。《解放日报》发表了胡乔木写的社论《苏必胜，德必败》。这是毛泽东出题目、坐等胡乔木用一小时写出来的。社论指出：苏德战争“必然达到一种结论：苏必胜，德必败”。为什么呢？“第一，德国师出无名，无法进行精神动员”；“第二，德国实力，在量上是有限的，在质上是已暴露的”；“第三，德国对苏作战还要不可免地遇到许多重大的技术上的困难，德国对苏似乎是外线作战，其实德国的四面，都在敌人的包围攻击中间”；“第四，德国内不稳而外孤立，苏联内坚强而外多助，这乃是决定这次战争胜败的关键”。在苏德战争刚刚爆发之时，这篇社论对战争前途作出很有说服力的分析，增强了人们反***战争胜利的信心。
接着，胡乔木或按毛泽东的要求，或应《解放日报》的邀约，为《解放日报》撰写了一系列社论，阐述中国共产党内政和外交方面的政策和策略。
1941年7月8日，《解放日报》发表胡乔木写的社论《国际的团结与国内的团结》，提出“加强民族团结，是目前的急务”。7月27日，《解放日报》发表胡乔木写的社论《出路和迷路》，指出：我们面前只有两条路。一条是联合英美苏联，加强国内团结，改良政治，积极反攻，以求彻底驱逐日本帝国主义，建设三民主义新中国的路；另一条是全国分裂，反共反蒋、反苏反英美，投降日寇和国际***阵线，使中国亡国灭种的路。二者究竟孰吉孰凶，何去何从呢？社论运用严谨的逻辑，十分有力地说明前一条是中国的出路，另一条是迷路。8月14日，《解放日报》发表胡乔木写的社论《闻捷》，祝贺在敌后艰苦抗战的八路军、新四军在开始反攻的时候取得的很多胜利，论述反攻胜利的意义，希望“这些胜利能够促成全国的反攻，尤其是促成反攻胜利的各种必要前提的实现”。8月26日，《解放日报》发表胡乔木写的社论《最近的国际事件与中国》，强调“今天的世界乃是民主的世界，无论国际局势的演变如何波谲云诡，未来的胜利者必属于民主的势力，必属于民众”。9月11日，《解放日报》又发表胡乔木写的《打碎旧的一套》的社论，主张把马克思列宁主义关于教育的思想“翻译成真正中国的言语”，“打碎旧的一套，彻底地改进我们的全部教育——学校教育、社会教育和在职教育”，“发展真正与人民与实际相联系的教育，替中国的新教育真正开辟一条康庄大道”。
三、继续为《中国青年》写稿
在为《解放日报》撰写社论和文章的同时，作为《中国青年》的主编，胡乔木仍然不断地为刊物写稿。
在《中国青年》第3卷第3期上，胡乔木发表了《说难》，提倡“朴素切实、埋头苦干、艰苦奋斗”的作风。在第3卷第4期上，发表文字简练、思想隽永的小品文《小品三题》。在《猫和刺猬》中说：“愈是寂寞的时候我就愈恨猫，我用荆棘的鞭子打它，因为它在寂寞中快乐，它不是我的同类。”《火》写种种情景下火的状态，赞美火“是人的生命的最准确的摹本”，“有人才有意识地创造了火并由此创造了自己，所以发现火的人也就发现了自己”。第三题《水》更富哲理。他说：“凡物有三态，思想也有三态。”他以水作比，说“惟有液体的思想它在人脑中开辟有定无定的河流。它是运转不息万古常新的，从它的不舍昼夜的奔驰中，人是不能和它两度相识的，所以流水不腐；它的运转有一定的基础、一定的纪律和一定的方向的，它永远向前看，永远要冲击网罗和荡涤瑕秽，所以流水无情。”在对“流水不腐”和“流水无情”两个成语作出形象而富有哲学意味的解释后，他又举出东西方哲人关于水的两句格言：“智者乐水”“水生万物”，启发读者“常能沐浴在你的怀抱中”“吸取无穷的睿智吧”。
在第3卷第4至5期上，胡乔木发表的科普文章《科学和科学家的故事》，也特别引起读者的兴趣。在这个总标题下，胡乔木以“大观园是从哪里来的”作为引言，用生动活泼的文笔，分八个题目，讲了一串科学和科学家的故事，简要地讲述了人类社会科学发展的历史。在当时延安资料严重缺乏的条件下，能够写出这样的文章，反映了胡乔木在自然科学方面渊博的知识和扎实的功底。