小学和中学时期
徐舜寿天资聪慧，从小品学兼优，哥哥徐迟说：
“那时并不知道，我全家的灵气却是集中于他一身的。他后来长得轩昂，仪表非凡，品学兼优，吸取知识比海绵还多、还更加饱满。
……
两年前（注：1924年）我弟弟也已上了小学，因在学龄前，自学了小学一年级的课程，入学时学校考了他一下，就免掉了他一年级的功课，一下子让他进了二年级。他学了一年，又因为功课特别的好，而跳了一级。
……
我弟弟可不得了，他读完了这年的四年级课程，又是因为成绩实在太好了，学校里又给他跳了一级。1926年，他入学才三年，竟已念了六年级。他跳了一个三级跳，一下子差不多已撵上了我。
（徐迟《我的文学生涯》）
1927年夏天，徐舜寿从“丝业公会”创办的丝业小学毕业，考入南浔中学读初中。他的数理化成绩优异，喜爱体育活动，曾被选入校队。三年初中的走读生活，培养了他的社会意识，增强了独立生活能力。
1930年，徐舜寿初中毕业，考入南京的省立南京中学就读高中。
1931年，“九一八”事件爆发。1932年1月28日，侵华日军进犯上海，十九路军奋起抗击，“一·二八”淞沪抗战打响。看到战乱的局势，母亲对在南京读书的儿子很不放心，多次去信催促徐舜寿返回故乡读书。1932年，按照母亲的要求，徐舜寿转学到离家较近的嘉兴秀州中学读书。这是一所私立教会中学，在当地很有名气，学风很好。徐迟在《我的文学生涯》中写道：
“这一年我弟弟初中毕业，考上了嘉兴的秀州中学开始念他的高一年级。秀州中学也是很有名的学校。朱生豪那时就在那里，一面教书一面翻译他的莎士比亚全译本。朱的夫人宋清如也在秀中教语文，她也是有名的散文家。当然我弟弟的文学兴趣不强，是科学细胞较多的人。他的发展方向很明显的就是理工科了。”
徐舜寿喜欢数学和理化，立志在高中毕业后学理科或工科，母亲很赞成他的志向。1933年，徐舜寿在秀州中学毕业后报考大学，由于成绩优秀，被南京金陵大学和北京清华大学两校同时录取。经过认真思索，他选择了清华大学机械系的航空专业。
徐迟记述道：
“我弟弟是考上了清华而放弃了南京的金陵大学的。他到南京的时候忽然病了，险点儿误了到清华注册入学的报到时间。幸亏大姐夫知道了，他赶快从上海到南京，就在南京采取了紧急措施，不但找来名医，给他打了几针贵重的药，而且大姐夫还送他上火车，自己也上了火车，过长江，为了看准几个车上的同路人，好拜托他们沿途照料他的小舅子。他这样周到地安排好了这一切之后，才放心地返回上海去。
我则在北京的车站接了他，看见他脸色苍白，身体羸弱不堪，又得到两位表兄弟帮助，把他送到清华，没误了日期，顺利进入学校。头两个月，他身体一直不好。有一次病倒，校医检查过后，原来是根本没有病痛，就需要好好吃几顿饭，增加营养。这很合我的胃口，我陪他在食堂里点好菜，一起吃了好几顿。那时他和我商量，他念什么专业好？当他告诉我，那个学期，清华第一次开班办起航空专业。我又以长兄身份，大表赞成，这样他就进了机械系的航空专业。”
（徐迟《我的文学生涯》）
清华大学
清华大学的历史可溯至1911年的“清华学堂”。中华民国成立之后，“清华学堂”被改名为“清华学校”。1928年8月，国民政府改“清华学校”为“国立清华大学”，徐舜寿1933年考入清华大学的时候，梅贻琦先生担任清华大学校长不过两年。
梅贻琦将孔孟之道的思想与西方学术自由及民主法治思想相融合。他在清华大学倡导希腊人崇尚体育的精神，规定所有学生体育课必须及格，否则不能毕业。当时，清华大学的体育部主任是马约翰教授。他1911年毕业于美国圣约翰大学，曾两度赴美国春田学院进修体育。在梅贻琦和马约翰的共同努力下，清华大学成为闻名遐迩的体育强校。
徐舜寿的夫人宋蜀碧回忆道：
“清华大学十分重视体育，听舜寿说，为了使同学们养成体育锻炼的习惯，学校特地在澡堂前面修了一个健身房。这样，同学们去洗澡之前，总要顺便在健身房锻炼一番，出一身汗再去洗澡。舜寿也养成了这样的习惯，他在清华是乒乓球队的队员和网球队的队员。”
梅贻琦采取了西方的“自由教育”（liberal education）模式。这种教育要求学生不仅学习专门知识，更应接受贯穿在整个大学课程中的普通教育，能够将人文科学、自然科学、社会科学融会贯通。他曾说：
“学问范围务广，不宜过狭，这样才可以使吾们对于所谓人生观得到一种平衡不偏的观念。对于世界大势文化变迁，亦有一种相当了解。如此不但使吾们的生活增加意趣，就是在服务方面亦可以增加效率，这是本校对于全部课程的一种主张……”
在他的主持下，清华大学成就了在国内外的影响和地位。
徐舜寿受到梅贻琦、马约翰先生教育思想的熏陶。他不仅学习成绩优秀，而且喜爱体育运动。在清华大学出版的一本书里，保留着一张徐舜寿在1935年时作为清华大学乒乓球校队队员的照片。除了乒乓球，他还打网球、桥牌，冬天常去滑冰场滑冰。
大学期间，徐舜寿的文化生活兴趣也非常广泛，他喜欢《红楼梦》，也喜欢沙俄时代一些作家写的小说，特别是托尔斯泰的《安娜·卡列尼娜》、《复活》。他喜欢音乐，尤其喜欢欣赏西方古典名曲。
自1961年就在徐舜寿领导下从事设计工作、后来担任了飞机总设计师的龚国政回忆道：
“他还有一个爱好就是喜欢听音乐，钢琴曲、古典的交响乐和美声，而且他平时走路也唱这种调，不像我们唱流行歌曲。”
机械工程学系的第二期学生
1926年，清华大学设立了工程学系，其中包括机械工程、电机工程及土木工程三科。至30年代初，清华理学院的数学、物理、化学等系已有一定基础，加之经费较为充裕，形成了发展工学的相对优势。1932年1月28日，清华大学评议会决定设立工学院。当年暑期，工学院正式成立。在已有的土木工程学系外，新建机械工程学系和电机工程学系，其中机械工程学系首批招收新生20余人。
徐舜寿是该系的第二期学生。当时工学院院长由顾毓 先生担任，机械工程学系的系主任是庄前鼎先生。
庄前鼎先生非常重视基础教育，他提出：
“我们所需要的工程师，不仅仅是一个工程专家，而希望他对于一般的常识，都有相当的认识。我们不能脱离社会来办工程，所以，政治、经济、历史、地理、社会学等都得知道点……在国内当工程师，最好对于一般的普通工程上的学识也都知道一点……所以同学们即使选读了机械工程，对于其他系的工程功课，如电机工程、工程材料学、水利学等，均应一样重视。”
他告诫同学：
“大学的工程教育，只给你们一个从事工程事业的基础。在这基础的上面，需得寻求健全的经验。”
庄前鼎先生的这一教育思想，始终贯穿于机械工程学系的教学与科研实践中。徐舜寿深受熏陶，并运用于以后的工作中。
机械工程学系成立时下分三个组：原动力工程、机械制造工程、飞机及汽车工程（1934年改称为航空工程组）。原动力工程组主要训练发电厂的筹划、试验、工程设计等；机械制造工程组训练机械制造及其步骤；航空工程组注重飞机设计及航空发动机构造等。