纳尔瓦战役后，年少气盛的瑞典国王查理十二以为俄军已被彻底击败，不再对他构成威胁，便调兵南下，进攻波兰，追击奥古斯都二世的萨克森军。彼得一世则通过这次战争进一步看清了俄军的落后性，于是乘机大力进行军事改革，加强军事实力。1701—1702年，俄国铸造大炮368门，增加新军团10个。到1708年，俄国总兵力已达20万，而当时瑞典总兵力只有11万。同时他还巩固和重建反瑞同盟，力图使瑞典陷入波兰战场，以利其在波罗的海的军事行动。为了阻止萨克森退出战争，让萨克森把瑞典拖在波兰战场，1701年2月26日，彼得一世同奥古斯都二世再次签订反瑞典同盟条约，规定俄国向萨克森派出1.5—2万人的军队，资助10万卢布的军费；奥古斯都在西部引诱查理，以使俄国在卡累利阿、英格里亚向瑞典展开进攻，战后将爱沙尼亚、立沃尼亚划归萨克森。为争取波兰参战，彼得一世还向奥古斯都二世另拨2万卢布，用以贿赂波兰议员。
俄、萨再签同盟条约后，彼得一世便趁瑞军主力深入波兰国土作战之机，向波罗的海东岸和立沃尼亚大举进攻。从1701年年底至1704年8月的两年多中，俄军连续攻占了马连堡、诺特堡、尼恩尚茨堡、雅姆、克伯利亚、杰尔别特、纳尔瓦、伊凡哥罗德等重要城镇和港口，肃清了这一带的瑞典军，再次打开了俄国通往欧洲的门户。在攻打诺特堡时，彼得一世以炮兵大尉的身份亲临战场，参加了战斗。诺特堡建在涅瓦河河口的一个岛上，有两俄丈厚的城墙环绕，防卫十分坚固。彼得一世调集了14个团的兵力，首先对该城连续炮击了两个星期，然后发起总攻。俄军架起云梯，瑞典军顽强抵抗，推倒梯子，将滚烫的开水和热松晶油从城头泼下。这样，经过一天激战，俄军才占领了城堡。战后，彼得一世十分感慨，喻之为“坚硬的胡桃”，并把它改名为什利谢利堡，意为“通向海洋的钥匙”。也就是说，攻占了诺特堡，就等于掌握了打通波罗的海出海口的钥匙。
占领诺特堡后，俄军很快又夺取了涅瓦河上的尼恩尚茨堡。这样，俄国完全控制了涅瓦河。彼得一世清楚，瑞典人不会善罢甘休，他们肯定会卷土重来夺回这些城堡。为了加强这一带的防御，把涅瓦河以及这些城堡永远置于俄国的控制之下，1703年5月16日，他派人进行实地考察后下令在涅瓦河河口的一个小岛——卢斯特·艾兰特岛即快乐岛上建一座城堡。不久，一座有6个转角塔楼的城堡便在这里矗立起来。这就是著名的圣彼得堡。之后，彼得一世产生将其建成首都的念头，进行了大规模扩建。从1713年起它成为沙皇俄国的首都，直至俄罗斯帝国的覆灭。
当彼得一世指挥的俄军在波罗的海东岸和立沃尼亚频频取胜的时候，查理十二率领的瑞典军队在立陶宛、波兰也取得一系列胜利，先后攻占了维尔诺、格罗德诺、华沙、克里科夫等重要城镇。瑞典军队的入侵给波兰造成巨大破坏，引起波兰庶民和大部分贵族对瑞典的仇恨。1704年8月，波兰议会放弃北方战争初期所持的中立立场，与俄国在纳尔瓦签订了反瑞同盟条约，规定波兰正式加入战争，俄军可以进入波兰作战。俄国答应波兰在战后可获得立沃尼亚。该条约使北方同盟重新扩大为俄、萨、波三国同盟。
俄波条约签订后，俄国派军进入波兰，对瑞典军造成巨大威胁。1705年年底，俄军进逼格罗德诺。查理十二旋即率军来援，逼退俄军，然后趁势向东南方向挺进，穿越西里西亚，进入萨克森，击败奥古斯都二世。1706年9月，奥古斯都二世被迫与查理十二签订和约，宣布放弃波兰王位，退出北方战争。之后瑞典军进行了几个月的休整。1707年夏，查理十二率4万大军从萨克森经波兰向俄国进发，准备收复失地，和俄国决战。
此时形势对俄国非常不利。自从开战以来，查理十二率领的瑞典主力军几乎每战必胜，可谓气焰嚣张，来势汹汹；俄国苦心经营的反瑞同盟已经瓦解，波兰也已被瑞典控制，俄国单枪匹马，处于孤立无援的境地。
面对这种形势，彼得一世在继续加紧进行军事改革，增强军事实力的同时，进行了紧张的外交活动，希望荷兰、英国、法国等出面调停，在俄国保留波罗的海出海口和圣彼得堡的条件下同瑞典缔结和约。但欧洲各国正忙于西班牙王位继承战争，对调停态度冷淡。瑞典则要求收复包括圣彼得堡在内的全部土地。在调停无望的情况下，为了避免两线作战，解除后顾之忧，他集中做土耳其的工作，一方面重金贿赂土耳其高官，另一方面通过大规模海军演习进行威慑，阻止其趁火打劫，对俄国开战。在俄国的软硬兼施下，土耳其向俄国保证不介入俄瑞战争。
再说查理十二率领的瑞典军主力从萨克森出发后，浩浩荡荡，晓行夜宿，经波兰向俄国开来。1708年9月，瑞典军进入俄国边境。在这里等待他们的是空旷的原野，空落落的村镇。俄国人坚壁清野，没有给他们留下一点粮草。长途跋涉、劳师远征的瑞典军饥肠辘辘，疲惫不堪，以稀粥度日，以白水代酒，十分狼狈。查理十二原计划率领瑞典主力与列文豪普特所率的增援部队在斯摩棱斯克会合，然后合力进攻莫斯科，但列文豪普特所率瑞军于9月28日被俄军击溃，损失约9000人，所带的7000车辎重全部丧失，余部与瑞典主力会合。查理十二遂决定先进攻乌克兰，在那里同一支哥萨克军会师，然后绕道进击莫斯科。1709年4月，瑞典军包围了乌克兰小镇波尔塔瓦。
波尔塔瓦当时只有俄国守军4000人，城堡也不坚固，城墙是土筑的。查理十二认为，拿下该城，就打通了进攻莫斯科的道路，志在必得。彼得一世也认为该城战略地位重要，决心死守。这样，双方调兵遣将，一场决战势不可免。
这场决战，俄国共投入兵力约4.2万人，大炮72门；瑞典投入兵力约3万人，大炮4门。俄国方面，沙皇彼得一世亲任第一师指挥，他穿着骑兵军官的深绿色制服，一会儿出现在龙骑兵团，一会儿又来到炮兵中间，发表演说，鼓舞士气；瑞典方面，国王查理十二几天前腿部受伤，躺在担架上少气无力。俄军军需供应充分，瑞军粮食弹药不足。这就基本决定了战争的结局。
6月下旬，土耳其政府正式通知查理十二，土耳其无意卷入俄瑞冲突。与此同时，查理十二获悉，波兰的亲瑞典军和在波兰的瑞典军由于俄军的阻击无法赶来增援，俄方则有4万援军将要开来，遂决定立即开战。27日凌晨，瑞典军向俄军营地发动进攻，遭到俄军猛烈反击。上午8时许，俄军排成作战阵势，步兵居中，炮兵在后，骑兵居两翼，严阵以待。瑞典军则集中兵力向步兵进攻，企图从中间突破。起初瑞军将俄军步兵前锋打得败下阵来，随后彼得一世亲率一个营的官兵进行反攻，把瑞典军打得退了回去。紧接着俄军骑兵向瑞军骑兵发起进攻，俄军炮兵向瑞军猛轰，瑞军成批倒地。这时彼得一世发出总攻的信号，俄军排山倒海般压了过来，瑞军招架不住，开始溃逃。查理十二由人搀扶着拼命阻挡士兵溃逃，但无济于事。结果，仅仅经过几个小时的激战，瑞军就被打得大败，查理十二在一小股骑兵的护卫下逃往土耳其，另一支瑞军残部撤退至第聂伯河彼列沃洛奇城，于6月30日向追击而来的俄军投降。波尔塔瓦战役以俄军的大胜而告终。在这次战役中，瑞典军损失约2万人，俄军损失四千余人。彼得一世称这是一次“极其伟大、辉煌的胜利”。为嘉奖会战的参加者，他下令给每人颁发勋章一枚，军官为金质，士兵为银质。勋章正面为彼得一世的半身像，背面为步兵在波尔塔瓦英勇作战的场面。为纪念这次战争的胜利，他下令在会战处建一座教堂，立一座纪念碑，碑面上镌刻着各种战斗的场面及辉煌的战果记录等。
第三阶段：1709—1721年。在这一阶段，彼得一世重建反瑞典同盟，最终战胜瑞典，迫使其签订和约，取得北方战争的胜利。
波尔塔瓦战役是北方战争的转折点。波尔塔瓦战役后，俄国的国际威望空前提高。清醒的欧洲各国君主和政治家们看到，从前的北欧强国从此将一蹶不振，至少在走下坡路了，俄罗斯则作为一个强国正在崛起，不得不对其刮目相看。俄国乘机恢复和扩大北方同盟，它首先占领了华沙、克拉科夫，把傀儡奥古斯都二世重新扶上王位，与其再次签订了同盟条约。丹麦自从北方战争开战之初被瑞典战败以来再未敢碰撞瑞典，现在看到瑞典已遭到决定性失败，再度激起了瓜分瑞典领土的欲望。丹麦国王立即派全权大使专程赴俄向彼得一世祝捷，表示愿意重新加入对瑞战争。彼得一世当然求之不得，于是双方再次签订了同盟条约。
俄国不仅同旧盟友恢复了关系，而且还把普鲁士、汉诺威拉入了同盟。为了引诱普鲁士加入同盟，俄国将其占领的瑞典属地波美拉尼亚的什切青拱手相让。1714年6月，俄普签订同盟条约。俄国保证普鲁士永久占领什切青，并在今后瓜分瑞典领土时支持普鲁士；普鲁士表示支持俄国吞并瑞典在波罗的海东岸的领土。1715年10月，俄国同急欲夺取瑞属不来梅和费尔登以获得波罗的海出海口的汉诺威签订了反瑞同盟条约，规定汉诺威应立即对瑞典宣战，并派出6000人的军队进攻波美拉尼亚；俄国支持汉诺威吞并瑞属不来梅和费尔登；汉诺威保证帮助俄国巩固从瑞典夺取的波罗的海东岸领土。北方同盟的恢复与扩大壮大了俄国的反瑞实力，在外交上孤立了瑞典，为俄国夺取北方战争的最后胜利奠定了基础。
俄国在恢复和扩大北方同盟的同时，继续在波罗的海对瑞典采取军事行动。1710年，俄军风卷残云，先后占领里加、彼尔诺夫、埃兹列岛、列维尔、维堡和开克斯果尔姆。1712—1714年，俄军把主攻方向又转到芬兰，先后占领赫尔辛福斯、阿皮等地，把瑞典赶出芬兰。1714年7月27日，彼得一世亲自指挥波罗的海舰队在芬兰汉古特半岛东海岸和瑞典海军决战。这是俄国海军首次大显神威，它全歼瑞典特遣舰队，迫使瑞典海军上将埃连希尔德举旗投降。从此瑞典海军称霸波罗的海的时代一去不复返了，俄国成为波罗的海的霸主。
汉古特战役后，俄军又占领了芬兰与瑞典之间的阿兰群岛，准备以此为跳板在瑞典登陆。此时瑞典因长年战争出现严重经济困难，国库空虚，物资匮乏，政府内反战呼声日盛。穷兵黩武的国王查理十二见已无战胜俄国的可能，不得不同意与俄国和谈，请法国调解。彼得一世此时夺取出海口、称霸波罗的海的夙愿已偿，加之俄国的不断扩张已引起英国的强烈反对和丹麦等盟国的严重不安，也同意举行和谈，结束战争。1717年5月，彼得一世率俄国著名外交家勃·库拉金、彼·沙菲罗夫、彼·托尔斯泰等人赴巴黎与法国政府举行了会谈，签订了《阿姆斯特丹条约》，不仅促使法国同意在俄、瑞间调停，而且使法国同意放弃法瑞联盟，停止资助瑞典，与俄国结成防御同盟。从此法、俄改变了历史上冷漠、对立的关系，开始日益密切，这是彼得一世在外交上纵横捭阖所取得的又一大收获。
1718年5月，俄、瑞两国代表在阿兰开始和谈。由于双方在领土问题上存在很大分歧，各持己见，谈判很快陷入僵局。为了迫使瑞典接受俄方条件，彼得一世命令俄国舰队开进瑞典海面，给其施加压力。在俄国的军事压力下，瑞典同意了俄方绝大部分领土要求，俄方也做出适当让步，同意牺牲其盟国利益，和瑞典一起强迫汉诺威把不来梅、费尔登归还瑞典。据此，两国拟定了和约草案。
然而变生不测。是年秋，瑞典国王查理十二在进攻挪威时中弹身亡，其妹乌利里卡·埃列奥诺拉继位。乌利里卡女王认为，瑞典谈判代表盖尔茨对俄国作了太多的让步，有损国家利益，在其回国述职时将其投入监狱，不久即以反瑞典王国罪将其斩首，俄瑞谈判中断。
1719年春，双方恢复谈判。在这次谈判中，瑞方态度强硬，坚决拒绝上次谈判已同意的将立夫兰（即立沃尼亚）、爱斯特兰（即爱沙尼亚）划归俄国的条件。俄方作了两点让步，但瑞方寸步不让。彼得一世遂再次以武力相胁，瑞典被迫同意把纳尔瓦、列维尔、爱斯特兰划归俄国，立夫兰拒不割让。是年10月，阿兰和谈无果而终。
此次俄瑞和谈的失败与英国的插手有直接关系。英国在欧洲一贯采取均衡政策，在波罗的海也不例外。俄国在波罗的海的扩张引起英国的严重不安，它担心俄国如果征服瑞典，控制了波罗的海，不仅将危及英国在波罗的海的利益，沙皇的手也将伸向整个欧洲，成为离英国“更近和更可怕的邻居”。因此，早在北方战争爆发之初，它就同瑞典签订了全面防御条约，给瑞典以援助，以维持波罗的海均势，保持英国在该地区的利益。现在，当俄瑞进行和谈之际，它又从中破坏，竭力阻止瑞典对俄国做出让步，