另一件事是，在《中国青年》上读到朱自清的诗《赠S》。在这首诗中，朱自清赞颂他的这位朋友有无比的威力——“我想你是一阵飞沙走石的狂风，要吹倒那不能摇撼的黄金的王宫！”这位朋友要成就空前的伟业——“你飞渡洞庭湖，你飞渡扬子江；你要建红色的天国在地上！”胡乔木说：这首诗虽然没有直接提出共产主义，但是它已经明白地、毫不含糊地讲到共产主义的理想，这就是“要建红色的天国在地上！”
对于胡乔木说来，这是他思想发展的一个重要契机。由此开始，胡乔木接触并进而学习和实践共产主义思想，不久就投身于中国的共产主义运动了。
胡乔木一开始只是跟一些高年级的进步同学（其中也有共产党员）有接触，跟着他们参加一些校内外的反帝爱国运动和反对军阀的活动。那时正值北伐战争胜利发展，在北伐军进入江苏境内快要过江的时候，校内共产党组织曾经策动军阀孙传芳部驻扬州的一个团倒戈起义。胡乔木参加贴标语（如：打倒军阀、打倒帝国主义、欢迎北伐军）、折叠响应北伐军的油印传单准备散发等活动。不久北伐军来了，学校里也住了很多部队。后来孙传芳反攻，北伐军退走。传说孙传芳要大开杀戒，屠杀学生。胡乔木和参加欢迎北伐军、策反倒戈等活动的同学都逃到长江南岸的镇江躲避。春寒料峭，一二十人挤在一个阁楼的地板上睡觉。在避难中，胡乔木也没有浪费时间，利用这个机会，“读了几本马克思主义和国民党左派的小册子，对于当时的政治变化稍微有了些更清楚的认识”。
在镇江躲避了一个来月，“四一二”反革命政变发生，镇江的火车站、轮船码头，到处贴着“肃清跨党分子”、“欢迎蒋总司令”等标语。胡乔木他们在镇江不能待了，只好又回扬州。兵荒马乱，学校放假，胡乔木就算初中毕业了。
1927年秋季开学，江苏省立第八中学与江苏省立第五师范合并为省立扬州中学。当时，扬州中学高中是文理分科的，胡乔木选的是理科。编在普通高中一年级乙班。他在同班同学中间留下很好的印象。六七十年后，老同学乐怡然回忆当时的情景和印象说：“在班上他的年龄最小，但显得比大他两三岁的同学要成熟得多。他温文尔雅，沉默寡言，学习努力，成绩优良，又谦逊有礼，追求进步，深得老师们的喜爱和同学们的钦佩，常被推举作为本班代表和学校或外班打交道。”
高中三年，胡乔木虽然读的是理科，但对文学的兴趣有增无减。他在自传中说：“以后第八中学改组为扬州中学，我仍在该校读书。我对于文学仍旧继续钻研，但阅读范围是更广泛了。那时我入了理科，因此对自然科学也下了些工夫，但是对正课却不甚热心。”
那时，扬州中学有个好的做法，在教室一角放置一个书柜，从校图书馆借一些书来，供同学自由取阅，称为图书角。胡乔木自觉地担当班上图书角管理员的角色。图书角存书一百多本，大部分是文学名着，也有少量自然科学和社会科学方面的书。过一段时间到图书馆选书、换书，是胡乔木非常乐意做的一件事。
胡乔木在高中阶段阅读了大量世界文学名着，从古典主义、浪漫主义、自然主义、批判现实主义到现代主义直到社会主义现实主义的作家作品，可说是兼容并蓄，无所不读，而且有颇为深刻的见解。
寒假、暑假期间，他常把《中国青年》《创造月刊》和一些文学作品如《三个叛逆的女性》《桃色的云》《托尔斯泰短篇小说集》等带回家里，给两个妹妹看。他对中国古典诗词的喜爱有增无减。他挑选了一百首古诗，工楷抄写，要两个妹妹熟读。他还收集了一些民间歌谣，让她们背诵。他期望她们能同自己一样，关心人民的疾苦，有较高的文化素养。有一年暑假，胡乔木还给小妹文新和她的同学袁玉清讲解唐朝诗人李商隐的几首“无题”诗（“相见时难别亦难”“锦瑟无端五十弦”等）。这些隐晦深奥、别有寄托的诗篇，经胡乔木一讲，显得精致隽永，情意深长。
胡乔木还是课外文艺活动的热心参加者，在课外活动组织，如文艺、诗歌、戏剧、音乐等研究会里，他不是主要负责人便是积极分子。
1929年，胡乔木已经读高三了，家乡遭遇水灾。父亲在城里续修盐城县志，没有什么收入，地租又收不上来。家里经济拮据，实在无法同时供给达新、鼎新、穗新、文新兄妹四个读书。这时，大哥达新在交通大学读土木工程快要毕业，父亲决定保证重点，专供达新读完大学，鼎新和两个读中学的妹妹暂时休学。
扬州中学的老师和同学得知胡鼎新即将休学，都很同情，找校长想办法。校长周厚枢，教高三化学。他很帮忙，让胡乔木在学校半工半读——替他批改同级学生的化学实验报告，给一些津贴。这样，胡乔木得以继续在扬中的学业。
胡乔木节俭，所得报酬除支付学费和生活开销之外还有节余。他用积攒下来的钱支持已经休学的妹妹文新，另一个妹妹穗新也得到半工半读的机会，文新在哥姐的支持下也复学了。
胡乔木家有诗教，进扬州中学读书不久，就因擅长诗文而得到“神童”的美誉。在高中时，有一次语文作业是自由命题，不限文体。这种方式给了胡乔木这样的学生施展才华的机会。胡乔木写了一首五言古诗。人称“淮南才子”的语文教师张煦侯老先生一字一韵未改，拿到班上一边朗诵，一边击节赞赏，并对这首诗的“夏木变凝碧，秋虫鸣繁钟”一联加了“二句入古”的批语。
当时，扬州中学出版一种铅印的《扬州中学校刊》，胡乔木不单是读者而且积极投稿。在1930年出版的几期校刊上，发表了普三乙班学生胡鼎新的好几篇文章。读过这位中学生的诗文，谁都会情不自禁地惊叹他的才华。以此，他被吸纳为《扬州中学校刊》编辑委员会的成员。可以说，这是胡乔木一生文字工作的发端。
胡乔木写充满象征意味的抒情作品，也写逻辑严谨的学术文章。他的散文诗《逸——赠Ｌ及有同感的人》，写一个青年女性追求自由、解放，从思想内容到表现形式都受到鲁迅《野草》的影响。《淮扬方音概论》则是一篇纯粹的语言学论文，细致地分析和描述了淮扬方音的特点。他对汉语语音和汉字的研究正是从扬州中学起步，贯穿于他的整个人生。
胡乔木在《扬州中学校刊》上发表的最重要的诗文是文艺论文《近代文艺观测》和新诗《别辞》。这两篇诗文表明了胡乔木对科学社会主义的信仰和“少年投笔倚长剑”的决心。
倾心社会主义
胡乔木在十三四岁读初二时，听过恽代英的讲演而受到启发，读到朱自清的诗篇而为之感动，读过《共产党宣言》而对共产主义神往。经过几年的学习、锻炼，到1930年，读高三时，他已经完全信奉科学社会主义了。胡乔木在1940年11月写的自传中回顾说：这时我对于社会主义已完全倾心，不过除了在校刊上写过文章，在扬州一些进步青年所发起的反基（督教）运动宣言上签过名，未曾有了行动吧［罢］了。学校里也已有党的和半党的活动，我和这些同学也有认识的，但是我既未找他们要求加入，他们也未找我。直到我毕业了到上海投考，听说这些同学被学校开除了很多，我才写了一封信给学校的训育主任，提出严厉的抗议。
这里所说的在校刊上写过的文章，就是1930年3月22日脱稿，发表在4月16日出版的《扬州中学校刊》第48期上的《近代文艺观测》。
在这篇文艺论文里，胡乔木表示：要“以全人类的幸福为鹄的”、信奉“向明日的光明与快乐推进的社会主义”。他写道：进步的人类……需要如何的有伟大的真实的生命的宗教——这种宗教，不是幻的空疏的过去一切的旧的耶稣教，佛教，拜物教和拜金教，而是敢于以全人类的血肉为牺牲，以全人类的幸福为鹄的，将黑暗的昨日与混乱的今日勇敢的无畏的向明日的光明和快乐推进的新宗教——社会主义。
从这篇论文可见，胡乔木对科学社会主义的理想、信念的确立有他独特的路径。他是在初步学习了历史唯物主义并运用这个思想武器分析17、18世纪以来资产阶级的和19世纪末以来新兴无产阶级的文学思潮与流派的过程中，是在对历史唯心主义、机械唯物主义与历史唯物主义、辩证唯物主义作了分析比较之后，自觉地确立的。
胡乔木在论文中对“新兴文艺”的性质作出简要的解释，指出：“革命文艺因为社会主义者对于胜利的明日之坚信而成为强壮的，向上的文艺。”新兴文艺者接受了“辩证唯物主义和历史唯物主义的艺术观”，“才从自来的传统的观念论艺术界划了新的阶段，所以，说唯物的艺术观才是新兴文艺的根本性质，决不为过”。胡乔木又引述了普列汉诺夫阐述马克思、恩格斯关于经济基础与上层建筑（包括意识形态）关系的着名的五点公式和普氏由此作出的论断。胡乔木进而分析了西洋文学主要流派的起伏变化，指出聪明的读者可以从中“认识出一种主流的趋向”，可以看清楚“摇落的感伤主义，盲目的享乐主义，英雄的个人主义”为什么会“销声匿迹”，“大时代中知识阶级的态度要如何的转变”，而进步的人类，为什么需要社会主义。
胡乔木在发表《近代文艺观测》论述社会主义是历史发展的必然趋势，表明自己建立在辩证唯物主义和历史唯物主义基础之上的共产主义理想信念的同时，还在《扬州中学校刊》上发表了一首题为《别辞》的新诗，表明他投身革命的决心。在这首诗中，他告诉“我亲爱的青春的友伴”，“我再不能忍受这非生灵的冷淡与平凡的空气了”。他说，“我要来奏一个粗暴的调子”，到那时，“你将见你的密友倒卧在人们所赐予的血迹模糊里，但他的脸上却仍然溢出了战斗过来的红色欢笑，因为他底血液曾是沸热而他的灵魂是永远地光明的。”
胡乔木当年18岁。这首诗，是他决心投身中国革命，为他信奉的社会主义而献身的宣言。
扬州中学六年，为胡乔木一生奠定了坚实的基石。胡乔木晚年这样总结他六年中学时代的生活：“扬州中学连同他的前身江苏省立第八中学使我从一个小学毕业生成为一个有知识、有情操、有理想的青年。”“扬中教育我成为一个勤学的人，一个正直的人，这仍然使我深深感激，念念不忘。”还说：当时一些先进的思想家及先进的同学帮助我、教育我走上一条革命的道路。“四十多年已经过去了，但是我永远忘记不了当时的老师和同学。”