1895年，爱因斯坦已经16岁了。根据当时德国的法律，男孩只有在17岁以前离开德国才可以不必服兵役。出于对军国主义的深恶痛绝，加之对军营般的路易波尔德学校的生活早已忍无可忍，爱因斯坦没有同父母商量就想离开德国，去意大利与父母团聚。
但是，怎么才能提前离开路易波尔德中学呢？经过冥思苦想，他终于想到一个办法：先请求学校的医生给他开一张诊断书，证明该生因为神经衰弱，需要离校前往意大利父母处休养。做到这一点并不困难，因为他平时行为古怪，学校的老师和同学都认为他神经上有一些毛病，再说他平时也经常因为神经衰弱请假，就是为了不去上让他头疼的课。然后他再去找自己的数学老师，请他给自己写一封证明信，证明本校学生爱因斯坦已经具备充分的高等数学知识，不需要大学预科文凭也可以进入大学学习。做到这一点也不困难，因为他确实已经在老师面前表现出了自己的数学能力，而且还经常在课堂上提出一些将老师难倒的问题。只要老师不记恨，是会给他写这封证明信的，而且说不定老师还会因为这个学生总给他惹麻烦而愿意他早些离开呢。
恰巧在这时候发生了一件意外的事，使他的愿望提前变成了现实。
一天，学校的训导主任把爱因斯坦叫到了办公室，十分严肃地对他说："爱因斯坦先生，如果你想离开这所学校的话，将会受到欢迎的。"
爱因斯坦反应过来这话究竟是什么意思时，便问道："训导主任先生，您的意思是说，我已经被学校勒令退学了？"
"一点不错，据好几位任课老师反映：由于你的存在，破坏了学生对老师的尊敬！你带坏了班级的风气。"
爱因斯坦明白了，心里长长地松了一口气："这样也好！想不到事情这么容易就解决了。"
他心里感到高兴，因为这样一来，在父亲面前也好交待了。不然，他私自退学，父亲肯定不会同意，说不定还会强迫他重新回来完成学业。而现在情况就不同了，是学校方面勒令他退学，父亲也没有办法，最多不过是狠狠地责怪他一番罢了。
然而被学校勒令退学，对16岁的爱因斯坦毕竟还是一次很大的伤害，他觉得自己的自尊心受到了侮辱，尽管他自己原来就是想离开这里的。他带着一颗受伤的心离开了学校。1936年10月，爱因斯坦在美国纽约州立大学举行的"美国高等教育300周年纪念会"上，发表了题为《论教育》的讲话，其中的一段话显然是针对他自己这段经历而讲的。他说："我以为，最坏的事是，主要靠恐吓、暴力和人为的权威这些办法来进行工作，这种做法摧残学生健康的感情、诚实和自信；它制造出来的是顺从的人。这样的学校，在德国和俄国已经成为司空见惯的事，那是没有什么可奇怪的。"
当南下的火车载着爱因斯坦，穿过阿尔卑斯山谷的时候，一股清新自由的空气迎面扑来。
前面就是他日夜向往的意大利，就是他的父母、他的妹妹、他的新家。
意大利是一个迷人的地方。古罗马的教堂、博物馆、绘画陈列馆、宫殿以及风景如画的农舍……人们愉快、好客，举止无拘无束，到处都可以听见音乐、歌声和生气勃勃的谈吐。这与德国的军国主义气氛是根本不同的！父亲整天不停地唠叨："把你哲学上的胡思乱想统统扔掉吧！想办法学一点实实在在的东西，将来当个机电工程师吧！"最终他不得不接受了家人的忠告，于1895年秋天坐上了开往苏黎世的列车。通过他母亲的关系，爱因斯坦获准参加瑞士著名的联邦工业大学的入学考试。然而他的成绩实在不够理想，只有数学和物理考得十分出色，引起了学校教授和校长的关注。这给了他一线希望。
校长十分欣赏他非凡的数学能力以及渊博的数学知识，他给爱因斯坦提出了一个善意的忠告：应当先在瑞士的一所中学毕业后，再来投考联邦工业大学。校长还亲自推荐了阿劳小镇上的州立中学，这所学校无论在教学方法还是在师资的组成上都是当时苏黎世最先进的。
爱因斯坦来到了离苏黎世不远的阿劳小镇上。当踏进州立阿劳中学大门时，他的心情很沉闷。他寄住在温特勒先生的家中。温特勒先生是州立阿劳中学的教师。他不仅知识渊博，而且擅长教育心理学。他带着爱因斯坦在学校里到处参观散心，并让自己的妻子和7个孩子都与爱因斯坦交上了朋友。很快，爱因斯坦就在温特勒先生家里找到了温暖，摆脱了抑郁的心情。
爱因斯坦后来在他的《自述》中，感慨地回忆起了他在阿劳中学的那一年的时光："这个学校的自由精神和那些毫不依赖外界权威的老师们的淳朴热情给我留下了难忘的印象。同我在那所处处使人感到受权威指导的路易波尔德中学的6年学习相比，我深切地感到：自由行动和自我负责的教育，比起那种依赖训练、外界权威和追求名利的教育来，是多么的优越呀！真正的民主决不是虚幻的空想……人不是机器，要是周围环境不允许襟怀坦白、畅所欲言的话，人就不会生气勃勃了。"
从现在保存下来的一篇爱因斯坦当时在阿劳中学写的《我的未来计划》的短文中，可以充分看出爱因斯坦当时的精神状况是何等的昂扬自信："幸福的人对现状太满足了，所以不太会去想到未来。另一方面，青年人则爱构想一些大胆的计划。而严肃认真的青年人自然想要做到使自己寻求的目标概念尽可能明确。
"若有幸考取，我就会到苏黎世的瑞士联邦工业大学去读书。我会在那里待上4年，学习数学和物理。我想象自己成了自然科学中这些部门的教师，我选择了自然科学的理论部分。
"下面就是使我做出此项计划的理由。最重要的是：我倾向于做抽象的和数学的思考，而缺乏想象力和实际工作的能力。我的愿望也在我心中激发了这样的决心。这是很自然的事，人们总是喜欢去做自己有能力去做的事情。何况，科学事业还有某些独立性，那正是我喜欢的。"阿劳中学虽然规模不算太大，但却拥有完备的实验室和实验设施，学生们可以在物理实验室或化学实验室里独立操作。在学校的动物馆里，学生们还可以使用显微镜和手术刀，完全自由地研究自己感兴趣的题目。这种学习和实验的方式，完全符合也适应了爱因斯坦进行科学研究和科学思考的习惯，从而又重新激发了他对数学、物理学的探索与思考。因此，短暂的阿劳中学的学习生活，也成了爱因斯坦进行他的物理学研究的一个新的起点。
正是在这一年中，他又重新拾起了对光线和以太的探索性思考。关于这一点他写道："在阿劳这一年中，我想到这样一个问题：倘使一个人以光速跟着光波跑，那么他就处在一个不随时间而改变的波场之中。但看来不会有这种事情，这是同狭义相对论有关的第一个朴素的理想实验。狭义相对论的发现决不是逻辑思维的成就，尽管最终的结果同逻辑形式有关。"
温特勒先生在阿劳中学教德文和历史。他淳朴热情，学识渊博，采集鸟类标本是他的业余爱好。他常带着学生到山里去远足，采集动植物标本。爱因斯坦与温特勒先生朝夕相处，最后他们成了好朋友。就是在这样的环境下，爱因斯坦对学校的印象开始有所改变。
爱因斯坦有生以来第一次喜欢学校了。这里的老师对学生很亲切，学生可以自由地提问，讨论问题。他第一次享受到这种民主和自由，他开始热爱自己的生活，一股青春的朝气和活力进发出来了。过去路易波尔德中学里那个胆小敏感、沉默寡言的少年，现在变成了一个笑声爽朗、步伐坚定、情绪饱满的年轻人。在他浓密的黑色卷发下面，一双棕色的大眼睛里时常带着嘲笑的神色，而早年的那种腼腆已经不见了。有一位同班同学后来还回想起他那有力而又自信的步伐，脸上那微带嘲讽意味的表情，以及他"不顾是否会冒犯到别人而敢于表达自己意见的大无畏作风"。
在阿劳中学的生活更坚定了爱因斯坦的一个决心，那就是不再做德国人。在慕尼黑的时候他就曾向父亲提出过他要放弃德国国籍。一个孩子，居然要放弃自己祖国的国籍。这是多么不可思议的事情。1896年10月29日，他作为一个无国籍的大学生，顺利地考入了瑞士联邦工业大学。从1896年10月到1900年8月，爱因斯坦在联邦工业大学度过了4年大学生活。在大学里，他选修了数学、物理以及哲学、历史、经济和文学方面的一些专门课程，但却很少去听物理和数学的主要讲课。杰出电工学家韦伯所讲授的物理课的内容他早已熟悉，他宁可自己直接去攻读物理学大师麦克斯韦、基尔霍夫、波尔茨曼和赫兹的著作。数学虽然是由胡尔维茨、闵可夫斯基这样一些杰出的研究者讲授的，但同样未能引起他的兴趣，原因是他已逐渐改变了对数学的看法。
他觉得数学分支太多、太细。每一个分支都能吮吸掉一个人的全部时间和精力。他担心自己永远也不会有眼光去判定哪一个分支是最基础的。那时他会处于布里丹驴子的境地：因为无法决定吃面前的哪一捆干草而饿死。而闵可夫斯基，这位未来的相对论数学工具的创立者，在自己的课堂上并没有看出相对论的未来创造者的才能。在相对论出现的时候，闵可夫斯基才发现，这个相对论的创立者竟是那位经常无故旷课的学生。然而物理学不同，尽管物理学也分为若干领域，其中每一个领域也都能吞噬掉一个人短暂的一生，但是在这个领域里，他认为自己很快就学会了识别出那种能导致深邃知识的东西，而把许多充塞脑袋，并使它偏离主要目标的东西撇开不管。在物理学中。特别是在理论物理学中，很容易找到本质的东西。你只要钻进去，再钻进去，自然的奥秘就呈现在你的眼前。这才是让人最为激动的事情。学生时代的爱因斯坦还不清楚，在物理学中，通向更深入的基本知识的道路是同最精密的数学方法联系着的。
爱因斯坦很快发现，在大学里要做一名优秀的学生，必须要集中精力学好所有的课程，必须要遵守秩序、循规蹈矩、有条有理地记好笔记，并且自觉地做好作业。而他感觉到，这些特性正是他最为欠缺的，他不愿意为此多花精力，他要把时间集中用到学习那些适合于自己的求知欲和感兴趣的东西上。于是他抱着某种负疚的心情，满足于做一个中等成绩的学生。他"刷掉了"很多课程，而以极大的热忱在家里向理论物理学的大师们学习。因此他除了数学和物理学之外，其他功课的成绩平平。好在按瑞士的教育制度，大学只有两次考试。更为幸运的是，爱因斯坦有位最要好的同学马尔塞罗，格罗斯曼，他正好具备爱因斯坦所欠缺的那些品质，并且慷慨地同这位桀骜不驯的同伴分享他那细微而条理分明的笔记。所以爱因斯坦能够坦然地按照自己的路子走下去，并且从格罗斯曼的笔记里适当地往脑子里填塞一些东西而顺利地通过考试。
对于守旧的教授们而言，爱因斯坦对科学研究的理解被视为离经叛道、胡思乱想。在他们眼里，爱因斯坦是个成绩糟糕又叫人头疼的学生，简直就是一个坏学生，将来能否毕业都会成问题呢！有一次上实验课，教授照例发给每个学生一张纸条，上面把操作步骤写得一清二楚。爱因斯坦却把纸条捏做一团，放进裤子口袋。过了一会儿，这张纸条就被扔进了废纸篓里，原来他有自己的一套操作步骤。他低头看看玻璃管里跳动的火花，可头脑却进入了遥远的抽象思维世界，突然，"轰"的一声，把他震回到现实世界中来。他觉得自己的右手火辣辣的，低头一看，手上的鲜血直往外涌。同学、助教、教授都围了上来。教授问明情况后，就愤愤地走了。教授向系里报告，坚决要求处分这个胆大包天、完全不守规矩的学生。加上前不久，因为爱因斯坦不去上他的课，他已经要求系里警告爱因斯坦了。这一次，未来的物理学大师果真受了处分，一个不听老师话的学生能成才吗？
十几天以后，爱因斯坦看到教授迎面走来，他想躲，已经来不及了。教授走到他面前，目光很自然地落到他包着绷带的右手上，叹了口气，心里又同情又遗憾地说："唉，你为什么非要学物理学呢？你为什么不去学医学、法律或语言呢？"
教授认为，一个不循规蹈矩的人是进不了物理学殿堂的，不过爱因斯坦并未意识到教授的话中有话。诚实的爱因斯坦还是老老实实地回答了教授："我热爱物理学，我认为自己具有研究物理学的才能。"
在大学里，爱因斯坦当然算不上是模范学生，但也绝对不是一个低等学生。他平时生活上有些散漫，常常不去上课，做实验时粗心大意，有时出点小事故，在课堂上有时对老师不够尊敬，可是他却博览群书，有自己独立的见解。