胡乔木担任文总党团书记后，按照共产国际七大和《八一宣言》精神，及时开始了左翼文化运动的策略转变，制定了文总和左翼各联的新纲领，并通过《文报》第11期及其副刊，及时传达贯彻国际七大文件和文总及左翼各联的新纲领。这为随后文总及左翼各联的解散，为文化界抗日民族统一战线的建立，作了思想上的准备。
1935年12月9日，北平爆发反日爱国示威游行，得到全国响应。
胡乔木立即委托复旦大学女生程天赋前往杭州与浙江大学女生陈怀白联络，发动杭州学生掀起爱国救亡运动。
在上海的抗日救亡运动中，胡乔木作为文总党团书记和江苏临委成员，是运动的领导核心之一。1935年12月24日上海南京路的示威游行和在上海北站的集会，1936年1月28日纪念淞沪抗战四周年的集会和到江湾公祭阵亡将士的活动，声势浩大，威震全国。这两次行动胡乔木都参与策划，并自始至终置身于游行、集会队伍之中。在“一·二八”的纪念活动中，胡乔木担任秘密指挥。
徐雪寒回忆说：“据我所知，1936年（上海）全市性重大的救亡运动中，内部有一个极其秘密的行动指挥部，参加者有胡乔木、徐雪寒、王纪华、沙文汉四人。这个指挥部是钱俊瑞通知我去参加的。指挥部内着重研究每一次行动的具体部署，开完会就分头贯彻。”
王翰回忆说：“‘一二·九’运动以后，文委决定抽出我和左联的何家槐组成领导本系统学生运动的班子，把各联的学生关系都集中在我们这里。以后，胡乔木、陈家康、张执一、雍文涛和蒋南翔等也先后参加过这一工作。这个班子实际上成了文委（临委）的学委。”
1936年夏的抵制日货运动，胡乔木也是直接参加与领导的。这次运动组织很周密，动员了很多青年参加，利用了英美和日本的矛盾，在上海两界（租界和华界）都普遍热烈地开展起来，受到民族资产阶级的欢迎。
在“一二·九”运动中，上海各界救国会纷纷成立。救国会基本上按行业组织（如文化界救国会、学生界救国会、职业界救国会等等），范围比主要是文化性组织的文总和左翼各联盟宽泛得多。当时站在运动前沿的胡乔木等领导人，已经感受到实际工作中组织形式与斗争形势存在着突出的矛盾。文总和左翼各联盟的组织同抗日救亡运动蓬勃发展的形势显得不相适应：又是原来的文总和各左翼联盟，又是新起的救国会，领导和骨干也难以兼顾。胡乔木等考虑如何按照共产国际七大建立广泛的民族统一战线的精神来解决这一矛盾。
正在这时，接到左联驻国际作家联盟代表萧三1935年8月11日从莫斯科写给左联的长信。萧三的信在肯定左翼文化运动，特别是左联所取得的巨大成绩的同时，明确指出了其中存在的“左”倾关门主义倾向，并说：“我们的工作要有一个大的转变。我们认为：在组织方面——取消左联，发宣言解散它，另外发起，组织一个广大的文学团体，极力夺取公开的可能，”“吸引大批作家加入反帝反封建的联合战线上来，‘凡是不愿作亡国奴的作家，文学家，知识分子，联合起来！’——这，就是我们进行的方针。”
萧三来信提出的意见，正好是解决胡乔木等人深切感受到的当时矛盾的办法。从萧三来信的语气来看，这信显然不是个人行为，信中提出的意见显然是代表组织。在文总领导下的各左翼文化团体人员已经有学习、讨论共产国际七大文件和制定文总与各左翼联盟新纲领打下的思想基础，所以，解散左联及至解散文总和各左翼联盟，另组广泛的统一战线组织，周扬、夏衍等领导人都是赞成的。
于是，周扬、夏衍同胡乔木等人为解散文总和左翼各联盟做工作。其间，带有关键性的左联的解散没有处理好，没有按鲁迅的意见发解散左联的宣言，也没有把以周扬为书记的文委关于文总发解散宣言、左联不单独发解散宣言的考虑再同鲁迅商量，以至引起鲁迅极大的不满，认为左联这样销声匿迹，形同“溃退”。
1936年1月，文总在上海各大报上发表了一个解散的宣言。这个宣言是胡乔木起草的。总的说来，在左翼文化运动的策略转变过程中，胡乔木跟上形势，做了大量积极有效的工作。不过，他对左联解散未发宣言、未再向鲁迅报告这件事，深以为憾，直到晚年还经常提起。
江苏省临委的成立及其后的工作
文总解散还面临一个需要解决的问题，就是解散后对各左翼联盟中的党员怎么进行组织领导。通过1935年至1936年的工作，这时文委、文总系统有党员一百多人。这样，在1935年底准备发表文总解散宣言的时候，胡乔木等就酝酿成立中共江苏省临时工作委员会（简称江苏省临委）。
当时中国共产党在上海的组织共青团、工会、武卫会和特科等几个系统，都同党中央失去了联系，独立开展工作。胡乔木等酝酿成立江苏省临委时，设想使它成为统一领导当时上海各系统党员的组织，但实际商谈成立统一的领导机构问题时大家意见不一，没有成功。
文总同共青团、武卫会等既无法统一组织领导，文总党团成员不得不独立成立江苏省临委。得到原党中央留在上海负责通信联络工作的王学文同意，江苏省临委在1936年2月成立。书记为邓洁，委员是胡乔木、王翰（原社联）、王新元（原左联）、丁华（原教联）。重要事情都由邓洁、胡乔木、王翰商定。
1936年4月下旬，冯雪峰受党中央派遣到达上海。冯即同临委接上关系，并领导临委。1936年9、10月间，丁华、邓洁先后被捕。1937年初，在冯雪峰领导下重建临委，李凡夫任书记，胡乔木为委员，分管救国会工作，委员还有王翰、徐雪寒。1937年5月，胡乔木、李凡夫赴延安，临委也就解散了。
临委成立以后，面临的任务就是推动正在掀起的救国会运动。临委通过在全国各界救国会中的党团（书记为钱俊瑞），通过各系统中的组织和党、团员及积极分子发挥作用。上海先后成立了国难教育社、文化界救国会、职业界救国会、妇女界救国会、学生界救国会、工人救国会等组织，上海的抗日救亡运动轰轰烈烈地开展起来。上层爱国民主人士中，文化界的沈钧儒、邹韬奋、章乃器、李公朴，职业界的沙千里，妇女界的史良，教育界的陶行知、王造时等，成为抗日救亡运动的领袖人物。
负责中共中央北方局工作的***认为，上海地方大，又有租界，便于掩护，也便于联系华中、华南，上海的救亡运动推动了全国规模的各阶层广泛参加的群众抗日救亡运动的形成。他主张把全国各界救国会和全国学生救国联合会设在上海，并要求把党中央提出的“停止内战，一致抗日”的旗帜打出去。
胡乔木这时承担的任务是筹建全国学生救国联合会（简称全国学联），并指导它开展工作。
参加全国学联筹备工作的代表，除上海本地外，主要来自北平，还有来自山东、武汉、天津、南京等地的。北平、天津的学生都是由北方局负责人之一林枫直接介绍来上海的。
北平最早来上海的是韦毓梅等三人。他们是第一批，在“一二·九”后不到一个星期就到了上海。韦毓梅同胡乔木是老乡。她原来是复旦大学学生，被开除后转到清华大学。她在复旦的同学、社联的程天赋与方铭熟悉，通过方铭，韦毓梅等跟胡乔木联系上了。
第二批是刘江陵（松云）、陆璀和董毓华（后用名李家栋）。他们带了林枫亲笔写给胡乔木的介绍信。刘江陵是北大经济系学生，1931年胡乔木在北平遭敌人通缉时，就帮助过胡乔木。这次来上海，他是北平的首席代表，肩负着筹备全国学联的任务（后当选为第一任主席）。陆璀是“一二·九”运动中出名的学生运动女领袖。同刘江陵等一起来的还有山东代表唐守愚，他是北大历史系学生，带了钱俊瑞在南京给他写的介绍信。
第三批来的是黄敬，他的任务是组织全国各界救国联合会，也是林枫介绍来的。那时全国各界救国会同全国学生救国联合会的筹备工作是同时进行的。
接着，1936年4月，蒋南翔带着王作民的介绍信找到胡乔木。蒋南翔当时在北平被特务盯住，无法到天津找北方局带党的关系来上海。情急之中，只得采取变通办法，找尚未入党的王作民写信。王作民在1934年底与胡乔木一起被浙大除名后，即到北平转入了清华。
对北平和外地来的学生代表，临委决定由胡乔木和王翰负责联系。胡乔木和王翰热情接待他们，派人帮他们租房子住，找地方开会，向他们介绍上海党开展救亡活动的情况和内部消息。他们也把中共北方局的文件，***为贯彻瓦窑堡会议精神、指导北方局实现策略转变而写的《肃清立三路线残余——关门主义冒险主义》等文章，给胡乔木、王翰等人看。这也成为上海地下党了解当时中央路线方针的一个重要渠道。
第一、二批北平学生来上海后，胡乔木帮助他们成立了临时党支部，还创办了名为《学生呼声》的全国学联机关刊物。刊物需要稿子，特别是分析形势指明任务的稿子，时间紧，很难及时组织到。陆璀（全国学联成立后任宣传部长）知道胡乔木能写，临时急要就去找他，胡乔木总是能满足要求。因为胡乔木同北平学生代表会面的地点在开明书店，他们就以“开明”相称。胡乔木也就把“开明”作为自己的一个别名，写这方面的文章就用它署名。
胡乔木为1936年5月出版的《学生呼声》创刊号写了《今年的五四纪念》一文。文章从赞扬“五四”的光辉、指出“五四”的弱点，说到从“五四”到现在中国学生认识的提高和发展，进而指出，1936年的“五四”“摆在面前的——是战斗，是比五四时代更不可调和的战斗。”“中国的学生却将誓死维护五四的辉煌耀眼的革命传统到底！”在6月出版的《学生呼声》第二、三期合刊上，胡乔木又发表《五月底的三个惨痛纪念》一文。文章从1925年五卅惨案，讲到八年后（1933年）5月31日的中日“塘沽协定”，十年后（1935年）5月29日的“何梅协定”，期望这些“伤心往事”，“都变化成‘多难兴邦’的纪念日子”，呼唤同学们“惊醒”，唤起全国同胞决心抗日。
为了筹建好全国学联、开好成立大会，来上海进行筹备工作的学生代表会前起草了成立宣言、学联章程等文件，胡乔木给以关心和指导。全国学联和全国救国会成立后，胡乔木继续进行指导。1937年初新的临委成立以后，胡乔木分管救国会工作。
与鲁迅相呼应
一、评论萧军的小说《八月的乡村》
1936年初，文总发表宣言解散以后，活动相对较少。这时，由鲁迅作序出版的东北青年作家萧军的小说《八月的乡村》在上海产生广泛热烈的影响，同时也受到攻击。胡乔木认真阅读了这部小说，与鲁迅相呼应，发表了赞扬这部小说的评论。
鲁迅在《田军作〈八月的乡村〉序》中赞扬这部小说：“我却见过几种说述关于东三省被占的事情的小说。这《八月的乡村》，即是很好的一部。”可是，这书首先不容于“‘我们’之中的‘他们’”。当时混迹于左翼阵营中的张春桥，化名“狄克”，以“执行自我批判为名”，在1936年3月15日上海《大晚报》副刊《火炬》上发表《我们要执行自我批判》，贬薄《八月的乡村》，攻击鲁迅，说萧军的这部《八月的乡村》“里面有些还不真实”，“技巧上，内容上，都有许多问题在”，并说什么“田军不该早早地从东北回来”。正如鲁迅所指出的，狄克此文其实是在向“‘我们’之外的‘他们’”献媚或替“‘我们’之中的‘他们’”缴械。