除了北平的抗日救亡运动之外，胡乔木还参与了东北抗日义勇军的组织工作。着名的抗联将领李兆麟就是胡乔木派往东北的。那是1931年12月，当时李兆麟化名李烈生，是北平一所大学的挂名学生。胡乔木派在北平弘达高中读书的共青团员林郁青和刚参加反帝大同盟的李兆麟，同张国威一起，到李兆麟的家乡辽阳，组织领导自发的群众武装抗日。李兆麟等回到辽阳后，即把那里的反日武装山林队和义勇军联合起来，成立了东北抗日义勇军第二十四路军，李兆麟担任了副司令。
再被列入侦缉黑名单
“九一八”事变后，胡乔木在北平的革命活动又一次引起国民党反动派的注意。在他们眼里，胡乔木是有害“党国”的危险分子。1931年11月，胡乔木再次被北平市公安局以“共党主要分子”列入黑名单，密令侦察缉捕。11月20日，国民党北平市党务整理委员会致函北平市公安局，谓：“清华大学学生李兆瑞、张钦益、陈志安、胡鼎新四人为共党主要分子，今年暑中曾被市公安局密令缉拿，未及罗网。今秋开学以来，常于夜间集会散传单，白天下乡作宣传”，要求市公安局“密派暗探至西郊，侦察缉捕，严厉处置”。过了一个星期，11月27日，北平市公安局即下令逮捕胡乔木等四人。
北平市公安局的密探在西郊当然侦察不到胡乔木的踪影。胡乔木很机警，一直藏匿在北大（沙滩）、北师大（南新华街）、中国大学（二龙路）这些靠近敌人心脏的市中心区域，先后吃住在北京大学经济系学生刘松云、中国大学小陈和在北平教书的盐城人郁士元那里。在离开北平之前，胡乔木又和白坚一起在一位姓朱的团员（安徽人）处住过一阵。白坚是陕西靖边人，1928年由陕西省委派到北方局工作，以辅仁大学学生身份为掩护开展地下活动，机警过人，敌人都怕他，称他为“神特工”。他曾到胡乔木办的平民夜校教过课，并同胡乔木一起在共青团西郊区委工作。
来自“左”倾领导的打击
正当胡乔木遭到敌人搜捕，只能到处躲藏之际，党、团内部在“左”倾错误领导下对胡乔木的打击又接踵而至。
当时，王明的“左”倾教条主义错误在党内居统治地位。中共河北省委已被改组。改组后的河北省委贯彻“左”倾方针，指责中共北平市委右倾。1932年春节期间，团省委书记冯某由天津到北平宣布决定：解散北平团市委，开除团委书记李续刚党籍和团籍，停止胡乔木、于致远一切工作。
从此，胡乔木完全被排除在团市委之外，什么会也不叫参加，什么文件也不让看。但胡乔木并没有消沉，还是在反帝大同盟做工作，积极参加爱国救亡运动。1932年3月18日，他参加了反帝大同盟组织的纪念“三一八”惨案六周年反日大游行，事后，写了一篇通讯，发表在当时一个公开刊物上。他还搜集历来反对托陈取消派和反对立三路线的重要文件、论文，编了一部《马列主义的中国革命观》。
避难盐城加入共产党
胡乔木在1931年暑假为躲避反动当局缉捕而离开清华以后，曾给家中一信，先是改变通讯地址，后又给家里说“有难言之隐”。家里感到，这是鼎新在北平遇到麻烦，向家里求救的信号。胡乔木的母亲本就思儿心切，夜不成眠，得到这个信息，更是五内如焚，病情一天比一天重起来。胡启东写信给学校询问，回信说该生久已离校，不知去向。
在这样的情况下，胡启东决定亲自到北平一探究竟。1932年5月，胡启东在大女婿张肃堂陪同下赶往北平。通过在清华的盐城同乡乔冠华等人，在郁士元住处找到了胡乔木。胡启东心里一块石头这才落地。经过商议，觉得无论从鼎新当时所处环境，还是从缓解母亲病情的需要，上上策是要他赶快离开北平，随父亲和姐夫回盐城老家。
随后，胡乔木请中国大学小陈代为向上级请假。很快得到团市委批准，说等以后分配工作时再通知他回来。于是，胡乔木同小陈约定了联络方式，就随父亲和姐夫离开北平。
临行时，白坚和团市委的王德山，还有中国大学的小陈，安徽人小朱，到前门火车站送行。大家依依惜别，合影留念。谁都说不清楚，胡乔木何时能够重返北平，这一别什么时候能够重逢。
胡乔木回家以后，什么地方也没有去，终日侍奉母亲，不离左右。只三五天，母亲的病就见好了，情绪平稳下来，精神也爽朗了。
母亲逐渐康复，胡乔木就准备回北平去了。他按约定的联络方式给小陈写信，打听团市委有没有给他安排工作。小陈寄来过一份团的刊物，就再无消息。接到过王德山从北平狱中的来信，胡乔木给他寄去十元钱，此后也断了联系。胡乔木在难耐的等待中，只能用读书来排遣心中的焦虑。这段时间，他翻阅了父亲收藏的一整套线装的《二十四史》。
从王德山被捕，又得不到北平方面的消息来看，北平的环境益发严峻，短时期内是回不去了。整天蛰居家中也很寂寞。过了炎炎长夏，胡乔木就想在盐城活动活动了。
胡乔木的三姨夫，名叫朱木芗，是一位开明士绅，在盐城颇有名望的教育家。当时，他是私立盐城贫儿教养院院长。胡乔木进城，就住在三姨夫那里。
贫儿院的教员中有一位共产党员，名叫刘必成。他早就听说朱木芗的外甥在清华读书，聪明出众。如今得以相识，朝夕共处，交谈之下，果然是才华横溢，思想左倾；慢慢地，又知道胡乔木早已在清华入团，而且是北平团市委的干部。那时，党和团是没有十分明确界限的。刘必成通过对胡乔木的了解考察，很快就把他视为同志，作为组织发展的对象，向上级作了报告。
这年秋天，表弟朱耀章跟胡乔木说，贫儿院的刘必成是共产党，他们的领导人要同你谈谈。经过刘必成介绍，一位自称姓韩的人同胡乔木见面。他说是盐（城）阜（宁）特委的，要胡乔木参加此间共产党的工作。此人即是中共盐城县委书记蔡道生。他是涟水人，原名嵇荫根。胡乔木说：我只入了团，还没有入党。嵇荫根说：没有关系，团员、党员是一样的。现在就算入党了。就这样，胡乔木由嵇荫根介绍，1932年秋加入了中国共产党。
入党以后，胡乔木即在盐城从事革命宣传活动和党的组织发展工作。胡乔木介绍盐城《民声日报》记者邱剑鸣（后用名胡扬）入党，又介绍妹妹胡文新（后用名方铭）入党。文新当时在盐城女初中读书，入党后就组织了读书会之类的外围组织。
主编《海霞》
20世纪30年代初期，新军阀连年混战，对盐城这样的苏北小城，思想统制还鞭长莫及。这里各种思潮涌流，错综复杂，传播进步的、革命的思想有不小的空间。
1933年春，盐城街头巷尾出现一份32开本的文艺半月刊。封面图案是海边激浪的背景上跃出一轮红日，上面是两个美术字的刊名：海霞。刊物的主编是胡乔木，但因环境关系，他不便公开出面，名义上的主编是盐城学府街小学教师乔冠军。他是胡乔木的清华同学乔冠华的哥哥。《海霞》由综流文艺社主办。综流文艺社公推乔冠军为理事长。理事长担任主编顺理成章。这综流文艺社是一个进步青年组织，有四五十名成员，其中有几位地下党员。主要撰稿人除胡乔木、乔冠军外，还有邱剑鸣、张景炎、陈廷宪等几位。陈廷宪的哥哥陈廷启，是国民党盐城县党部的书记长，《民声日报》和民声印刷厂的老板；而邱剑鸣又是《民声日报》的记者（用邱离天的化名）。通过这样一些关系，《海霞》在民声印刷厂印刷，版式、质量都是不错的。
《海霞》发表小说、散文、诗歌和文学翻译，以文艺作品宣传反封建反专制，提倡民主自由。由于至今没有搜集到这个刊物，无从确知胡乔木在上面发表了些什么作品。据当年读过《海霞》的他的一位老同学回忆，胡乔木在《海霞》上发表了一篇翻译小说契诃夫的《凡卡》（后来有人译作《万卡》）。
《海霞》只出版了三期（第二、三期是合刊），就因为经费问题难以为继。《海霞》停刊后，改出一种不定期的周刊，名为《文艺青年》。采取报纸形式，每期八开四版一大张。《文艺青年》仍由胡乔木主编，内容与形式比《海霞》生动活泼，可惜也只出了几期就停办了。
脱险
正在盐城党的组织得到发展，革命活动取得进展的时候，突然事故发生了。1933年夏，中共盐城县委书记嵇荫根被敌人逮捕。胡乔木得到这个凶险的信息后，立即同邱剑鸣一起，步行六七十里，到阜宁县城营救。胡乔木找到一个在县政府当财政科长的远房亲戚，对方表示涉及共产党的案子，实在无能为力。
胡乔木没有想到，嵇荫根被捕后竟带人到盐城县教育会去抓邱剑鸣；在那里扑了个空，又到贫儿教养院来抓他。胡乔木正在贫儿教养院寝室里看书，忽然门房急匆匆跑进来，低声说道：“有人带一帮人来抓人，已到门口了！”
胡乔木立即藏到床底下。
一会儿，就听到嵇荫根到了隔壁三姨夫朱木芗的屋子里，高声查问胡乔木的下落：“胡鼎新是共产党，要捉拿归案。”朱木芗声色俱厉说：“我姨侄子是个好学正直的青年，你不要胡说八道，别来我这里捣乱！”嵇荫根没再搜查，带人走了。胡乔木的寝室同朱木芗的屋子只隔一层板壁，听得一清二楚。
当天晚上，乘着夜色，胡乔木就别了三姨夫，悄悄坐船离开盐城这个凶险的地方，回北张本村家里。
胡乔木在家里也不敢久留，同父母商量，只有逃到上海再想办法。
眼前，盐城是万不能去的了。为避免发生危险，胡乔木决定不走盐城。
胡乔木在家歇了一天，就告别父母，前往秦南仓。这是附近最大的集镇。胡乔木在这里坐上轮船，经泰州到镇江；从镇江坐上火车，直奔上海。