胡适离开梅溪学堂后，1905年进了澄衷学堂。这是一个上海有名的私立学校，是浙江宁波一个商人叶成忠（字澄衷）创办的。胡适因他二哥与该校总教习白振民有同学关系，所以插入这个学校的东三斋第五班。那时因宿舍已满，住在该校的怀德堂，这里只有两个同学和一个东三斋的老师。因学制未定，澄衷是一个中小学混合在一起的学校，共有13个班，大体说来高班相当于中学，低班是小学。课程除国文、英文、算学外，还设置物理、化学、植物、国画等科；与梅溪学堂相比，该校较为重视英文。胡适因英文、算学成绩太低，被编在第五班。学校管理非常严格，每月有小考，半年有大考，而且还要公布成绩，前三名有奖品。胡适新来时有的科目不行，但经过努力，进步很快，成绩常在第一名，所以一年升了四班。国文老师杨千里思想比较开明，用严复翻译的《天演论》为教材教他们，出的作文题是“物竞天择，适者生存，试申其义”。胡适作此题时，运用课堂上学到的“进化论”知识，对国家大事进行分析，发了一通议论，他在文章里说：
“今日之世界，一强权之世界也。人亦有言，天下岂有公理哉！黑铁耳、赤血耳，又曰公法者，对于平等之国而生者也。呜乎！吾国民闻之，其有投袂奋兴者乎。国魂丧尽兵魂空，兵不能竞也；政治、学术西来是仿、学不能竞也；国债累累，人为债主，而我为借债者，财不能竞也。以劣败之地位资格，处天演潮流之中，既不足以赤血黑铁与他族角逐，又不能折冲樽俎战胜庙堂，如是而欲他族不以不平等相待，不渐渍以底于灭亡，亦难矣。”
这篇文章，胡适倾述其忧国忧民之情怀，受到老师杨千里的赏识，批语是“富于思考，善为演绎文，故能推阐无遗”，“赏制钱二百”，以示奖励。
胡适得此奖励，对“进化论”的学习兴趣更加浓厚了。除课堂上的学习外，他在课下又读了严复译的《群己权界论》等书。之后他的思想更加开阔了。有一天，他请二哥取一个字号。他二哥不假思索地说，就用“物竞天择，适者生存”的“适”字好不好？胡适一听，高兴极了。后因其两位兄长表字叫“绍之”、“振之”的关系，为求得一致，故改为“适之”。那时，他二哥在上海主持店务，掌握着经济大权，胡适一切都得听他的。由于二哥的介绍，他又读了朱子的《近思录》，同样感觉有兴趣。这是他读宋代理学家的第一部书。其中“学原于思”这句话深深印在他脑海里，后来他回忆说：“我思想走上赫胥黎和杜威的路，正是我从十几岁就十分着重思想的方法了。”
胡适在澄衷一年，各方面的书籍都涉猎了一些，他认为严复的翻译文字太古雅，少年人不易接受，因此限制了他的影响力，而这方面梁启超却远胜于他。二人相较，胡适更喜欢读梁的文章，觉得他的文章明白晓畅之中，带着浓厚的热情，使人不得不跟着他走，也不能不跟着他想。这种魅力把他带到了一个新的境界。特别是梁启超著的《新民说》与《中国学术思想变迁之大势》对他影响更大。梁自号“中国之新民”，其所著之《新民说》共20节。这书从我国传统文化各方面进行评论，并与西方文化相比较，从而说明中国民族需要改造，要把这老大的病夫民族改造成一个新鲜活泼的民族。他说：“未有四肢已断，五脏已瘵，筋脉已伤，血轮已涸，而身犹能存者；则亦未有其民愚陋怯弱，涣散混浊，而国犹能立者。……苟有新民，何患无新制度，无新政府，无新国家！”如何达此目的呢？梁氏态度很鲜明，要采取革命的手段，打碎国家机器，于是他说：“必取数千年横暴混浊之政体，破碎而齑粉之，使数千万如虎如狼如蝗如蝻如蜮如蛆之官吏，失其社鼠城狐之凭藉，然后能涤荡肠胃，以上于进步之途也！”梁氏在该文第四节里以优胜劣败之理，对世间各民族进行了比较，进而指出中国之路。他说：“五色人相比，白人最优。以白人相比较，条顿人最优。以条顿人相比较，盎格鲁撤逊人最优。”并称“使黄种人能自新，以胜于白人。”接着他在各节里指出我国民所缺乏而需采补的是公德，是国家思想，是进取冒险，是权利思想，是自由，是自治，是进步，是自尊，是合群，是毅力，是私德，等等。胡适读了是书，深受教益，影响也大。他认为：《新民说》的最大贡献在于指出中国民族缺乏西洋民族的许多美德。使我们彻底相信中国之外，还有高等的民族、很高等的文化。并称：“这样推崇西方文明而指斥中国故有的文明确是中国思想史上的一个新纪元”。由此可见，胡适对《新民说》评价是很高的，同时也可看出，此书对胡适之影响实在不小。
至于梁启超著的《中国学术思想变迁之大势》一书，给胡适的影响也是很深刻的。他说，这书“给我开辟了一个新世界，使我知道《四书》、《五经》之外，中国还有学术思想”，并认为这书是学术界第一次用历史的眼光来整理中国学术思想。可惜梁只作了几篇之后忽然停止了，使他大失所望。在失望之余，他暗下决心，将来一定要补全这部中国学术思想史，虽不敢告诉别人，但主意已经打定，从此以后，便开始留心阅读周秦诸子的书。这就是他后来作中国哲学史的思想出发点。
胡适在澄衷学堂读了一年半，后期还当上了班长，常登台演讲，一改过去见人就面红耳赤，问一答一，问二答二的腼腆状态。后他因班上有个同学被开除的事，与学校办事人发生冲突，结果被记大过一次。他感到委屈，于是决定要离开这个学校。但他对这个学校管理严格，考试认真，教师能注意到学生的功课和品行，不时找去问话等制度，留下深刻印象。还有，这个学校有个制度，天资高的学生可以越级升两班；中等的可以升一班；差的不升班。这个办法，他认为是可取的，能鼓励学生竞争，选拔优秀，使人才得以更快成长。
后来，澄衷学校于1936年4月举行“35周年纪念”，胡适作文祝贺，并回顾了当年的学习生活。他说，“我回想在澄衷最得益的是英文、算术两项的严格训练，两项之中最得力的是英文。当时大学极少，故中学的地位较高，能请到很好的教员。澄衷的英文教员，如张镜人先生、陈诗豪先生都是能说能写、能细细讲解的。他们都是圣约翰大学出来的，思想见解也许不算很高明……然而他们同时从教会学堂带来了严格的语言训练，使他们成为最好的中学英文教员。每天有一张习字、每天有默读、每天有造句作文的练习，都是每天批改的，都是每月有积分的。一年半的严格训练，使我得着一点读书作文的基本技术，我不能不感谢这几位先生。”在这篇文章里，他怀念母校并以自己的经验来说明基础教育不可忽视，于是他希望澄衷只守住办初中，不升格，不慕升格的光荣，只抬高教员的待遇，提高人选。最后，他以亲切的口吻说：“小小意见，算是贺礼。”