留洋幼童来到美国，并非是完全扎根于异国土壤中吸收养分，清政府企图将这些幼童教育成掌握西方先进科学技术，以捍卫中国封建圣道的新式卫士，因而对幼童的封建思想教育始终紧抓。在管理留洋幼童事宜的“驻洋肄业局”大堂，高挂着孔子画像与“天地君亲师”的牌位，让学生参拜；学生们要定期学习汉语与中国传统礼仪，学习四书五经、国朝律例、圣谕广训；还向幼童学生们灌输三纲五常等中国传统思想道德观念。
而这些，始终敌不过代表当时世界进步潮流的西方近代思想文化，更约束不住天性向往与追求新奇、自由与进步的青年学生的思想感情。他们在系统地学习英语和各种科学知识的同时，不可避免地接触到了西方以自由和平等为中心的价值观，逐渐背离了封建统治者“外西内中”的最初设想。
詹天佑来到美国后，迅速完成了英语的学习，通过考测，于1873年（同治十二年）春，进入康涅狄格州西海汶（WestHaven）的“海滨男生学校”（SeasideInstituteforBoys）学习，他在这里学习了两年，到1875年（光绪元年）4月结束。
海滨男生学校是一所私人办的预备性质的住宿学校，主要任务是训练从中国、日本和南美洲等国家来美国留学的幼童，为将来报考美国各大学作准备。校长名叫诺索布（L.H.Northrop），毕业于耶鲁大学，会讲七种语言，爱好音乐。他的夫人玛莎·诺索布（Martha.D.Northrop）知识丰富，擅长数学，对外国来美求学的学生极为关心，她给了詹天佑很大的影响。后来詹天佑回到中国，和诺索布一家还保持着长久的书信往来。在海滨男生学校的两年时光里，詹天佑经常和同学们来到校长家中玩耍，学习。在此期间，诺索布夫人发现詹天佑的数学成绩很好，有优异的数学天赋，就热情地鼓励他今后投身科学技术。
从海滨男生学校毕业之后，詹天佑进入了新海汶（NewHaven）的“山房高级中学”（HillhouseHighSchool），他注册进入特别班（SpecialClass）。在学校，他系统地学习了美国高中阶段的各科基础知识，各科成绩优异，打下了坚实的自然科学知识与西方文化知识的基础。尤其在数学、物理、化学等课程中表现出过人的学习力。1878年，詹天佑以全班第一，全校第二，仅比第一名总成绩相差6分的成绩从山房高级中学毕业。为中国留学生，也为中国人争得了荣誉。
在此期间，詹天佑的几个同来美国的同学不幸早夭，他深深意识到身体健康对一个人的重要性。在学习之余，他常参加游泳、滑冰、钓鱼、打球等体育活动。他特别喜欢打棒球，并坚持不懈，练得一手好球艺。他还与中国留美学生中的棒球爱好者一同组成了“东方人”少年棒球队，常与美国各地的棒球队进行比赛。中国留美学生的棒球技艺精湛，逐渐打出了名声。在詹天佑与同学们离开美国，回国途经旧金山时，还被旧金山当地著名的棒球队——奥克兰（OakLandBaseballleam）挑战，要求举行一场中美公开赛。血气方刚的中国留学生们立即应战，引得不少当地百姓特别是华侨们，赶来观战。奥克兰球队并不以为中国留学生的球技会很高，又是即将回国、临时组合的球队，一心觉得能轻易取胜。然而，东方人玩的棒球让老美溃不成军，其出球之猛，技艺之高，都让奥克兰队队员大感意外。学习和体育活动，让詹天佑的心智和身体以最健康的方式成长着。
在山房高级中学的学习期间，驻洋肄业局带领留学生的一次参观经历，对詹天佑产生了巨大的影响，让他更坚定了自己今后的学习方向。
那是1876年（光绪二年），正是美国建国100周年，各地举行了隆重的各式各样的纪念与庆祝活动。其中影响最大的是在费城举办的一个规模巨大的百年博览会，展出美国建国100年以来的各项生产成就和当时世界上最新的科学技术成果，还邀请了37个国家，包括中国，去该博览会辟馆陈列自己国家独特的展品。驻洋肄业局为扩充年轻留学生们的见识，特地组织了一次参观活动。
博览会上突出地展出了美国及先进国家在电力、通讯、机械与交通工业方面的革新成就。《美国历史地理》一书中记载有当时的盛况：美国百年纪念展览会1876年在费城举行，展览大厅占地21英亩，陈列采矿部门和制造部门的产品；另一座建筑物占地17英亩，陈列各种机器。参观者可以从这里看到：康涅狄格出产的工具和刀剑；新泽西出产的缝纫机；普林斯的改良自来水笔，“保证书写十小时”；打字机，“可以代替钢笔书写除簿记以外的各种文件的机器”；纽约出产的“华尔山姆”表和芝加哥的“爱琴牌”表；还有费城为儿童制造的幻灯和放映机……更有号称当时“全世界最伟大的机器”的700吨重的柯林斯（Corliss）式蒸汽机，也出现在会场。各种先进精妙的机器与科技最新成果，让少年们看得如痴如醉，惊叹万分。
而在布置得古色古香的中国馆里，詹天佑只看到了“与官衙一式，极为严肃”的格调。展品也都是中国传统的农副产品，如丝、茶、六谷、药材等与手工制品如绸缎、牙雕、玩物、银器、玉器、字画等。“物体悉遵华式，专一手工制造，无一借力机器。”勾画出当时中国社会仍是农业和手工业相结合的自然经济图景，比西方资本主义机器大生产落后了整整一个时代。詹天佑深深地感到了差距，暗下决心，要学好西方先进科学技术，回国报效祖国。
1878年（光绪四年）7月，17岁的詹天佑从山房高级中学毕业，面临着报考大学的选择。志向远大的他选择了美国第一流的名牌大学——耶鲁大学的雪菲尔德理工学院（SheffieldScientificSchoolYaleUniversity），他报考的是该学院土木工程系的铁路工程一科。詹天佑之所以选择铁路，一方面是由于他对自然科学的热爱；另一方面，西方当时正兴盛着以铁路起飞带动经济起飞的理论，美国铁路正处于高速发展的高潮期，詹天佑亲身经历着这一切，意识到铁路对于振兴祖国的深切重要性，更坚定了学习铁路建设的决心。
事实上，詹天佑对于铁路的认识思想，在当时的中国只有少数人认同。火车，是封建顽固派极力排斥的新型事物。就在詹天佑报考耶鲁大学土木工程系铁路工程科的前半年，清政府花费28.5万两，购买拆毁了中国大地上第一次出现的办理过营运的铁路——吴淞铁路。可见当时中国封建统治者对于铁路的痛恨与排斥。可以说，詹天佑对铁路的认识，已大大超过了清朝社会的绝大多数人。没有詹天佑，中国人自己的铁路将是个遥遥无期的梦，他当之无愧是中国铁路建设的先驱，技术的领头人。
耶鲁大学雪菲尔德理工学院，入学资格考试非常严格。考试科目包括英文、美国史、地理、拉丁文、算术、代数、集合、三角等等。詹天佑顺利地通过了这些考试，取得了入学资格。在耶鲁大学，詹天佑常在老师的带领下，和同学们一起做实验、实地勘测等。这些都培养了他求实、细致的作风与学风。学习方面，他更是表现优异。特别是他的数学成绩更为突出，在一、二年级时他两次获得数学课的奖学金与奖章，在毕业考试中则获得了全校第一名。1881年（光绪七年），詹天佑从耶鲁大学雪菲尔德理工学院土木工程系毕业，获得耶鲁大学土木工程哲学学士学位与毕业证书。就在这时，一个让留学生们震惊又无奈的消息传来了：清政府下令裁撤全部留美学生与驻洋肄业局，要他们立即回国。
詹天佑与他的留美同学们得到回国的通知时，正值暑假。他们“正在班丹湖畔举行野外宿营，以图欢聚，不料容闳博士带来了出洋局停办之恶消息，学生们听了都垂头丧气，只得怏怏地各自回到寄宿的地方，去收拾行李准备回国”。他们不知道，他们在言行举止、行为着装上的西化，导致了出洋局第四任委员吴嘉善的强烈反感，他认为留学生们“抛弃中学，背弃孔孟之道；驰骋跳跃，有损儒者之风；运动换装，弃我大清国服”等等，极不注重行为举止，大失体统。加之清政府中顽固派的大力反对，清政府“浅尝辄止”，一次进步的留洋运动就此夭折。
1881年9月6日（光绪七年七月十三日）下午，詹天佑与第三批学生一道，登上“北京城”号轮船，离开美国。在海上航行了一个多月后，詹天佑回到了阔别九年之久的祖国大地。