当忽必烈听到蒙哥汗的死讯时，为了争夺汗位，急于北返。这时，南宋权相贾似道慑于蒙古军的威力，暗中派人乞和。忽必烈答应了议和条件，撤兵北归。
忽必烈先回到自己的大本营开平（今多伦西北）作了一番部署，然后一反传统的选汗形式，于公元1260年3月在开平宣布自己即大汗位（元世祖）。同年4月，蒙哥幼弟阿里不哥也在和林即大汗位。
忽必烈凭借着汉族地主阶级和一部分蒙古贵族的支持，公元1264年终于击败了阿里不哥，夺得了最高统治权。
忽必烈深知，在当时情况下，必须先坐稳中原的皇位，才能保持住蒙古大汗的地位。他改变了蒙古传统的选汗制度，采取汉人预立皇太子的办法，确定帝位继承人，并于公元1264年建都燕京，改年号为至元。又依照中原的传统，采用《易经》“大哉乾元”的说法，于公元1271年改国号为大元。
元朝开国后，一切政治制度和国家机关组织大半都沿袭辽、金的旧章。公元1272年又在燕京旧城的东北筑新城，建设宫殿衙署。命名首都为大都。此后，元朝的政治重心就完全移到中原来了。
南宋灭亡
为防临安的失陷，襄阳府和樊城是南宋抗元防线上的重镇。公元1267年冬，元军围攻襄、樊。两城坚守达六年之久，被围期间宋军多次向临安求援，贾似道隐匿军报，始终不派援兵。
公元1273年元军烧毁了浮桥，隔断了襄、樊两城之间的联系，并用新武器远射程的“回回炮”来轰击。樊城先被攻陷，守将牛富率众巷战，身负重伤投火牺牲。荆湖都统制范天顺力战不支自杀。
不久，襄阳守将吕文焕投降了元朝。元军攻下襄阳府、樊城后，南宋门户洞开，形势急转直下。
元军攻下襄阳府、樊城后，忽必烈派丞相伯颜督率大军，以降将吕文焕为前锋，由襄阳顺汉水而下，进入长江。南宋守将或败或降，沿江重镇相继陷落。
公元1275年，在朝野压力下，贾似道不得已出兵应战，但13万宋军，在池州下游丁家洲与元军遭遇后，一战即溃。贾似道旋被贬废，于途中被杀。
公元1276年2月，元军占领临安，俘南宋恭帝、全两太后并宋室官吏等北去。