宋朝的第三个皇帝宋仁宗执政期间，看到国力衰弱，很着急。于是从陕西调回范仲淹，派他担任参政知事（副宰相）。
范仲淹一回到京城，宋仁宗马上召见，要他提出治国的方案。范仲淹知道朝廷弊病太多，一下子都改掉不可能，准备一步一步来。但是，禁不住宋仁宗一再催促，就先提出了十条改革措施。
宋仁宗看了范仲淹的改革方案，立刻批准在全国推行。历史上把这次改革称为“庆历新政”（“庆历”是宋仁宗的字号）。范仲淹的新政刚一推行，一些皇亲国戚，权贵大臣，贪官污吏，纷纷闹了起来，散布谣言，攻击新政。
宋仁宗看到反对的人多，就动摇起来。范仲淹被逼得在京城呆不下去，就自动要求回到陕西防守边境，宋仁宗只好应允了。
范仲淹一走，反对派便对改革派发动猛攻。宋仁宗碍于当时的阻力，下命令把新政全部废止。
范仲淹为了改革政治，受了很大打击，但是他并不因为个人的遭遇感到懊恼。隔了一年，在岳州（治所在今湖南岳阳）做官的滕宗谅，修建当地的名胜岳阳楼，请范仲淹写篇纪念文章。范仲淹挥笔写下了《岳阳楼记》。在这篇文章里，范仲淹写到：一个有远大政治抱负的人，他的思想感情应该是“先天下之忧而忧，后天下之乐而乐”（意思是“担忧在天下人之前，享乐在天下人之后”）。这两句名言一直被后人所传诵，而岳阳楼也由于范仲淹的文章而更加出名了。
范仲淹改革的主要内容是：对官史一定要定期考核，按他们的政绩好坏提拔或者降职；严格限制大臣子弟靠父亲的关系得官；改革科举制度；慎重选择任用地方长官。
公元1052年，64岁的范仲淹去世时，数百名羌族首领痛哭流涕，为之斋戒三日。