1944年5月10日，中央书记处召开会议，讨论中共七大的准备工作。决定组织几个准备报告的委员会，其中之一是党内历史问题决议准备委员会，由任弼时负责召集。成员有：***、康生、周恩来、张闻天、彭真、高岗。会议还决定在七大前召开六届七中全会，5月20日左右召开首次会议。
从这时起，中央《关于若干历史问题的决议》的起草工作正式启动。这项工作在毛泽东的领导下进行，日常工作由任弼时主持。胡乔木作为主席的秘书，参与了历史决议的起草和修改工作，随着起草工作的进展，他介入的程度不断加深。
1944年5月21日，扩大的中共六届七中全会举行第一次全体会议，出席会议的中央委员17人，各方面的负责同志12人。胡乔木和王首道担任会议记录。
会议的主要任务是在整风运动的基础上全面总结党的历史经验，为召开七大作准备。重新起草历史决议是全面总结党的历史经验的最基本的、也是最重要的工作。会期原定两个月，实际开了11个月，一直开到1945年4月20日才结束。在党的历史上，这是持续时间最长的一次会议。其间多次召开全体会议，讨论党的历史问题和历史决议草案。
1944年5月中央书记处会议决定组织“党内历史问题决议准备委员会”后，任弼时就投入历史问题决议的起草工作。当月就写出了一个稿子，题为《检讨关于四中全会到遵义会议期间中央领导路线问题的决议（草案初稿）》（一九四四年五月）。这个稿子是以1941年秋毛泽东起草的《历史草案》为蓝本写成的。全稿分为六个问题：（一）关于四中全会的结论；（二）“左”倾领导路线的错误；（三）“左”倾领导路线的恶果和其思想根源；（四）在错误领导路线下还能获得一些成绩的原因；（五）遵义会议结束了这一错误路线，恢复正确的领导路线；（六）检讨历史的意义和学习党史的重要。
任弼时对稿子作了多次修改，现存三个改稿。第一稿近1.2万字，第三稿压缩到1万字左右。
此后，胡乔木参与修改。修改后的稿子近7000字，分四个问题：
第一个问题，从两条路线斗争的高度，概述从1927年大革命失败到抗日战争爆发十年间，中国共产党曲折发展的历史；着重评述毛泽东以开展长期的农村游击战争、建立革命根据地为核心的思想，和怎样运用这一思想正确地解决中国革命的军事建设、政权建设和党的建设的各种问题，走出一条农村包围城市、取得革命胜利的道路。
第二个问题，基本上依据毛泽东的《历史草案》和任弼时的稿子，概述第三次“左”倾路线是怎样占据党的统治地位及其在思想上、政治上、军事上和组织上的严重错误内容。
第三个问题，分析“左”倾路线在党内取得长达四年之久的统治地位的历史原因，基本上依据《历史草案》关于社会根源、政治根源和代表人物的主观根源三方面来叙述，并进一步指出，个人品质问题归根结底是历史的产物。
第四个问题，讲以毛泽东为代表的正确路线的胜利，指出遵义会议确立了以毛泽东为领袖的新的中央，在实际上开始了党的马列主义的新时期。毛泽东同志的思想是中国的马列主义，而党现在是完全统一团结于毛泽东同志为领袖的中央的领导之下了。
胡乔木起草的这个稿子由任弼时的秘书兼中央速记室主任张树德抄正并复写。任弼时在胡乔木起草的稿子上进行了三次修改，每次修改都由张树德抄正。第一次，主要是文字上的修改；第二次，加上了题目《关于四中全会到遵义会议期间中央领导路线问题的决定（草案）》；对胡乔木起草稿第三个问题讲教条主义与经验主义结合的部分作了修改，加了五百多字的一段话；文字也有一些修改。第三次，除了文字上的修改外，主要是对胡乔木起草稿中关于第三次“左”倾路线错误部分，加写了七条提纲式的意见，从政治形态上对第三次“左”倾路线的错误内容作了进一步的概括。任弼时所作的概括，集中了中央政治局和“党内历史问题决议准备委员会”集体讨论决议草案时的意见。
对经过这样多次修改的历史决议稿，“党内历史问题决议准备委员会”和参加六届七中全会的同志们仍不满意。
任弼时当时除负责“党内历史问题决议准备委员会”外，还担任中央秘书长，负责处理中央的日常工作，非常繁忙，无暇用大量的精力专门修改稿子。中央乃指定“党内历史问题决议准备委员会”成员之一的张闻天参加修改。张闻天经历并参与过党内许多重大事件，遵义会议后相当长时期在党内负总责。他熟悉党的历史，理论水平高，分析能力强，且在整风运动中对历史错误的认识比较深刻。
张闻天在前述任弼时、胡乔木的稿子基础上，重新构思，改写了一个稿子，但没有完整地保存下来。现存张闻天修改稿只有前面三个问题。张闻天的修改稿最后抄清时，约有1.3万字。抄清稿上有第四、第五个问题，并对任弼时在胡乔木稿第二次修改时所加的历史决议的总题目（《关于四中全会到遵义会议期间中央领导路线问题的决定（草案）》）予以肯定，加了上去。
张闻天在修改稿中增补了四段话，专门对毛泽东的历史功绩和历史地位作出高度的概括和评价，这是前面几稿所没有的。
经过半年多反复琢磨，关于党的历史问题决议的总体思路和基本格局已经差不多成形了。
从1945年春天开始，毛泽东以张闻天修改稿的抄清件为底本，动手修改历史决议，胡乔木从旁协助。从现存材料看，毛泽东至少作了七次大的修改。
第一次修改，毛泽东把张闻天的“抄清件”上的题目《关于四中全会到遵义会议期间中央领导路线问题的决定（草案）》改定为《关于若干历史问题的决议（草案）》。毛泽东对“抄清件”的第一个问题改得比较多，加写了不少话。第二次修改是在第一次改稿的抄清样上进行的，这次修改主要是对第二个问题涉及党的历史上的一些重要事件和人物的评价上加了一些有分量的话。
3月25日，六届七中全会主席团会议提议，将关于历史问题的决议草案改在六届七中全会上讨论通过，先召集四五十人的座谈会征求意见。4月4日，六届七中全会主席团会议又决定召集一次七大代表团主任联席会议，由毛泽东出席讲话，解释《关于若干历史问题的决议（草案）》中的若干问题。
很快改了一遍，主要是在文字上作了一些增删。经过这次修改，4月5日又出了清样。第四、五、六次修改，都是在这个铅印稿上进行的。第四、五、六次的修改稿上，除了毛泽东的修改外，还有其他领导同志的修改。毛泽东在第四次修改稿上加了“修正稿”的字样，所以，这三次修改稿，统称“草案修正稿”。
胡乔木做工作比较多的是第六次修改稿。这是汇总毛泽东和中央其他领导同志的意见作的一次修改。
毛泽东在审阅时，又作了个别文字的修改。4月9日，胡乔木将修改好的稿子交给任弼时，并附一便笺，说明修改情况。
可能是别的同志对第六次修改稿还有意见，所以，4月9日这天，又将该稿再次排印，作为第七次修改稿的基础。这次修改，很重要的就是把前面几稿已经采用的、按照任弼时的意见讲的第三次“左”倾路线的错误的七点内容，重新恢复为从政治（包括军事）上、组织上和思想上三个方面进行分析。
为了提交4月20日的六届七中全会大会讨论，4月15日又改出新的修改稿。这次稿子的清样上标上了“草案第三次稿”。这样，历史决议稿的总体布局和主要内容，在党内诸多同志的共同努力下，经过前后七八次大的反复修改，到拿到六届七中全会第五次大会上讨论前五天，总算大体定型了。
4月20日，六届七中全会在延安杨家岭举行第五次也是最后一次大会。会议的主要议题就是审议历史决议草案第三次稿。毛泽东、***、朱德、周恩来、任弼时、陈云、彭真、康生、林伯渠、彭德怀、张闻天、博古、李富春、林彪、刘伯承、陈毅、贺龙、高岗、叶剑英、聂荣臻、杨尚昆、李维汉、吴玉章、邓发、凯丰、朱瑞、林枫、陈郁、谭政、孔原、陈伯达出席会议。胡乔木和石磊（曹瑛）担任会议记录。会议原则通过了《关于若干历史问题的决议》。
4月21日，中共七大预备会议召开，毛泽东在会上作《“七大”工作方针》的报告。会议确定了大会的主席团名单，确定了大会的议事日程。4月23日至6月11日，中共七大在延安举行。会议有正式代表547人，候补代表208人，计755人。胡乔木作为候补代表出席大会，并负责大会记录和主席团会议的记录。
在七大会议的准备和开会期间，胡乔木除了参与《关于若干历史问题的决议》的起草和修改外，还不同程度地参与了一些其他工作。
6月19日，举行七届一中全会第一次会议，胡乔木和石磊继续担任会议记录。七届一中全会第一次会议除选举中央领导机关外，还讨论了《关于若干历史问题的决议》，并决定继续由中央书记处书记兼中央秘书长任弼时组织修改，准备提交下次会议最后通过。任弼时和胡乔木等人，根据六届七中全会、七大和七届一中全会第一次会议期间各方面提出的修改意见进行了修改，于7月24日印出“草案第四稿”。8月5日，又排印出历史决议“草案最后稿”，在作最后的文字修改和润色后，提交8月9日召开的七届一中全会第二次会议讨论。
出席七届一中全会第二次会议的中央委员29人，候补中央委员12人，还有几位高级干部列席。与会人员没有再对历史决议稿提出大的修改意见。在会议表决时，《关于若干历史问题的决议》获得一致通过。8月12日，正式印成党内文件。
多年以后，杨尚昆在谈到胡乔木对历史决议的贡献时，作过简要评论。他说：“据我所知，在弼时同志起草的决议稿的基础上，乔木改写过一个稿子；最后毛主席在闻天同志改写过的稿子上亲自修改，乔木又从旁帮忙，把主席的不少重要思想用恰当的文辞表达出来。”