蒙哥汗二年（1252）正月，谋士姚枢建议改变春去秋来，夺城后剽杀掳掠的作战方式，采取以守为主，亦战亦耕，广积粮储，充实边备的灭宋方针。忽必烈采纳了这一建议，首先整治邢州（今河北邢台）。当时，邢州在两个答剌军统治下，民户由一万多户锐减为五千七百户。忽必烈任用汉人张耕为邢州安抚使、刘肃为邢州商榷使。他们到邢州后，革除弊政，惩办贪暴，召抚流亡，仅几个月时间，邢州大治，于是，忽必烈请设经略司于汴（今河南开封），以汉人史天泽、杨惟中、赵壁等为经略使，整顿河南军政。汉将史天泽等到河南后，打击暴虐贪淫的地方军阀，处死横暴的州官，兴利除害，深得民心。他们还在唐（今河南唐河县）、邓（今河南邓县）屯田。屯田的农民，敌至则战，敌走则耕，不久，河南大治。
蒙哥汗三年（1253），蒙哥把关中地区封给忽必烈。第二年，忽必烈在京兆（今陕西西安）立宣抚司，以孛兰和儒臣杨惟中为宣抚使并屯田于凤翔（今陕西凤翔）。又奏割河东解州盐池的收入以供军食，招募百姓以盐换粮，支援四川前线。他们改革弊政，努力恢复农业生产，减免关中赋税整顿吏治，处死害民的贵族，并进一步严肃军纪，关中情况大为改观。忽必烈还任命许衡为京兆提学，在关中建立学校，释放俘掠的儒士，编入儒籍；又立京兆交钞提举司，所发纸钞，以佐经用。关陇地区的社会经济得以恢复。忽必烈上述措施，得到了汉族地主、儒生的广泛支持，巩固了自己的地位。他也从中学到了统治汉地的方法。
蒙哥汗六年（1256）春，忽必烈命刘秉忠在桓州东、滦河北岸的龙冈（今内蒙古多伦西北）营建宫室、房舍。三年后建成，称开平府（今内蒙古锡林郭勒盟正兰旗东五十里），作为藩王府的常驻地。开平府聚集了忽必烈的重要谋士，成为他治理汉地的政治中心。汉地社会经济的恢复，也为后来建立元朝奠定了物质基础。
忽必烈采用汉法治理中原地区，取得了显着成效，改变了过去那种人民逃亡，农田荒芜、典章不立的混乱状乱。但是却招致了蒙古统治集团中一部分贵族的不满。蒙古旧贵族企图用旧的统治方式来统治中原汉地。于是，有人向蒙哥大汗告状，说忽必烈在中原收买人心，财赋尽入王府，恐枝大于本，不利朝廷等，引起了蒙哥的疑忌。蒙哥汗七年（1257）春，蒙哥以王府诸臣多擅权营奸利事为名，派遣亲信阿兰答儿等到关中主管政务，并在关中设钩考局，核查关中、河南等处钱谷事。阿兰答儿从忽必烈所任命的经略、宣抚司官员中，罗列罪状一百四十余条，企图通过罢免忽必烈所信任起用的官员来打击他的势力。蒙哥下令解除忽必烈在汉地的军权。忽必烈于冬天亲自送家属到和林，并单独朝见蒙哥，这才解除了蒙哥对他的猜忌。蒙哥决定不追究忽必烈，同时停止了对关中、河南的核查。但是，忽必烈所设置的行部、安抚、经略、宣抚、都藩诸司全部废除。蒙哥伐南宋时，仍以忽必烈患足疾为名，不予统兵之权。直到蒙哥汗九年（1259）十月才不得不改命忽必烈统东路军征南宋。忽必烈以谦恭忍让保全了自己，避免了一场不测之祸。
忽必烈征服大理
蒙哥汗二年（1252）六月，忽必烈到曲先脑儿（蒙语脑儿意为湖，蒙古驻夏之地）朝见蒙哥。蒙哥命忽必烈率军征云南。老将兀良合台（速不台之子）总督军事，士人姚枢、刘秉忠等人随行参谋。
云南地区早在唐代就由南昭国（乌蛮族即今彝族建立的政权）统治。宋时白蛮族（今白族）取得政权，建立了以大理（今云南大理）为都城的大理国。统治区域包括今云南、贵州、广西西部和四川南部，以及缅甸、泰国、老挝的一些地区。主要民族为乌蛮和白蛮。其他的还有摩些（今纳西族）、和泥（今哈尼族）、金齿、白夷（今傣族）等，再加上与各少数民族杂居的汉族。这时大理国事衰微，内政腐败，阶级矛盾尖锐。有些地区的少数民族正逐渐摆脱大理国的统治。
同年秋，忽必烈从蒙古起兵南下。第二年夏，忽必烈率军驻屯六盘山，秋天，军至临洮（今甘肃临洮），取道吐蕃（今四川甘孜藏族自治州地区），到达忒剌（今四川松潘），然后分兵三路前进。兀良合台率军由西路晏当（今云南丽江北部）进；诸王抄合、也只烈率东路军由白蛮境（今西昌、会理境）进；忽必烈自己带领中路军，经大雪山，过大渡河，穿行山谷二千余里，抵达金沙江北岸。忽必烈军队分别招降大理以北四百余里的摩些蛮等部。冬天，西路军进到此会合。忽必烈派使者入大理招降。大理国拒绝投降并杀死蒙古使臣。忽必烈与兀良合台分兵进攻大理。兀良合台破大理北的龙首关（上关）。大理国主段兴智与权臣高祥、高和兄弟弃城逃跑。忽必烈军与兀良合台会合，顺利进入大理城。
忽必烈命姚枢裂帛为旗，写上禁止杀戮的命令，大理居民得以保全。他又命姚枢等搜访大理国图书典籍。这时东路兵取道吐蕃，也到达大理。忽必烈命人追击高祥兄弟，擒斩于姚州（今云南姚安）。
蒙哥汗四年（1254）春，忽必烈率军北返，留下兀良合台率军戍守大理，并继续征服未降伏的诸部。任命刘时中为宣抚使，对云南地区进行治理。秋，兀良合台继续向东追击段兴智，进取善阐（又称押赤即今云南昆明）。善阐城陷。段兴智逃到昆泽（今云南宜良），终于被蒙军擒获。兀良合台遣送段兴智等首领去蒙古见蒙哥。蒙哥施以怀柔，赐金牌，让他们回去继续管理原属各部。段兴智回部后，献出地图，并统率本族军队，亲自为先锋，引导兀良合台去征服继续抵抗的各部。蒙古军经过两年的激战，相继征服了赤秃哥（今贵州西部）、罗罗斯（今四川凉山彝族自治州地区）和白蛮波丽国（今元江一带）。从此，大理五城的八府四郡之地，和大部分乌蛮、白蛮部归附于蒙古。兀良合台在云南设置统治机构，管理这一地区的事务。
忽必烈用武力征服了大理，通过征服，统一了大理各部。以后又按中原的封建制度设置郡县，并在大理屯田，不断推广中原地区先进的生产技术，传播科学文化，使云南地区的经济、文化不断进步，对我国多民族国家的形成和发展产生了积极的作用。
忽必烈建国
蒙哥汗九年（1259）七月，蒙哥死于合州（今四川合州），因对汗位继承未作任何安排，因此导致了一场新的汗位争夺。忽必烈在鄂州（今湖北武昌）前线得知蒙哥死讯后，断然与宋议和，接受宋称臣，以江为界，每年纳银20万两，绢20万匹的条件，双方停战。年底，忽必烈到达燕京（今北京）。留守和林的幼弟阿里不哥已派脱里赤在燕京召集各地军队以包抄忽必烈。忽必烈到燕京后，马上遣散脱里赤已集结的军队，同时急召自己在鄂州的军队北返。阿里不哥通知他去漠北参加忽里台会葬蒙哥，他不加理睬，并命兼希宪到开平（今内蒙古锡林格勒盟正兰旗东50里），观察事态的发展。兼希宪劝说有实力的塔察儿拥戴忽必烈为汗的计划将获得成功。
元世祖中统元年（1260）三月，忽必烈到达开平。得到东道诸王塔察儿、移相哥、莫哥、忽剌忽儿、爪都和西道诸王合丹、阿只吉等人的支持，于是召开忽里台大会，忽必烈一举登上大汗宝座。四月，忽必烈定当年为中统元年。中统建元表示大蒙古国继承中原封建王朝的定制和统一全国的决心，也是忽必烈仿效中原王朝改造蒙古国的开始。
同时，阿里不哥也在和森（今蒙古后杭爱省厄尔得尼召北）召集忽里台大会，自立为大汗，分据漠北地区。支持他的除阿兰答儿、塔里赤外，主要是西路诸王，有察合台系宗王阿鲁忽、窝阔台系宗王阿速台、蒙哥之子玉龙答失、和蒙哥留守六盘山的大将浑都海、驻守四川的密者火里等蒙古将领。争夺汗位的斗争十分激烈，阿里不哥派霍鲁海、刘太平到陕、甘任职，拘收钱粮，准备与六盘山的大将浑都海联合，从关中进攻忽必烈，陕、川一带的局势立即严重起来了。忽必烈针锋相对地派兼希宪、商挺进驻京兆（今陕西西安），任陕西、四川等路宣抚使。六月，兼希宪先发制人，以谋反罪捕杀霍鲁海与刘太平。又派使者处死四川军中附阿里不哥的密者火里等将领，阿里不哥失去了西线的军势和陕川的财力物力。忽必烈却稳定了关陇局势，随后召集诸军联合防御六盘山浑都海部的袭击。
七月，忽必烈率师征讨阿里不哥。九月，阿里不哥遣阿兰答儿率兵南下，与浑都海、哈喇不花等部会合于甘州（今甘肃张掖）。忽必烈派合彤与将汪良臣率领部队迎接。双方大战于甘州东删丹（今甘肃山丹），浑都海、阿兰答儿被击毙。从此，忽必烈完全控制了关陇山蜀地区。同年冬，忽必烈决定亲征和林。阿里不哥失去了陕川，只得逃到封地谦州（今叶尼塞河上游南）。忽必烈命宗王移相哥驻守和林，以防御阿里不哥，自己班师回到开平。
阿里不哥在谦州休整之后，于中统二年（1261）秋，率军突袭驻守漠北的移相哥军，占领和林，乘胜南下。忽必烈急忙调军迎战。十一月，忽必烈与阿里不哥大战于昔木土脑儿（蒙语脑儿意为湖）。两军反复较量，死伤都相当严重，双方只好退兵。由于忽必烈切断了中原汉地对漠北的物资供应，使阿里不哥陷入困境。阿里不哥派往察合台兀鲁思的阿鲁忽（察合台孙）取得汗位后，立即拒绝向他提供援助，并扣留使者，宣布倒向忽必烈。阿里不哥于第二年春天出兵西征阿鲁忽。这时忽必烈乘阿里不哥西征之机，收复和林。阿里不哥在攻占阿里订里（今新疆霍城）等地后，纵兵掳掠，终于众叛亲离，处境孤立。至元元年（1264），阿里不哥走投无路，只得率领身边的诸王和大臣到开平，向忽必烈投降。在汗位斗争中，忽必烈由于取得了中原汉族地主的支持，掌握了中原汉族地区的人力、财力和物力，最终取得了胜利，也是蒙古贵族中主张采用汉法治理汉地一派的成功，有利于元朝的建立和巩固，是符合历史发展要求的。
中统三年（1262）春，正当忽必烈与阿里不哥相持不下时，山东益都行省长官、江淮大都督李璮勾结执政的平间政事王文统，以降宋为外援，起兵叛乱，占据济南。正在进据和林的忽必烈，听到李璮叛乱的消息后，立即转而向南，调遣军队，处死王文统，又派右丞相史天泽到山东前线节度各路军队。李璮错误估计形势，起兵后，各地汉人军阀响应者少，而各路蒙古、汉军已向济南进逼，接受忽必烈的调度，李璮陷于孤立的境地。四月，史天泽派各路将士开河筑城，准备长期围困济南。七月，济南城破，山东之乱不到半年就被平息。李璮之乱对忽必烈影响很大，使他感到虽用汉法，但汉人不可完全信赖。为了稳定大局，忽必烈慎重处理变乱后的有关人和事，又因势利导地进行了一系列政治改革。
忽必烈中统建元后，视中原汉地为政权的重心。平定漠北与镇压李璮叛乱，排除和蒙古贵族中的保守势力和汉人军阀割据势力的干扰，适时地着手全面推行“汉法”，改革蒙古对汉地旧的统治方式。他在建元中统诏书中明确提出了“祖述变通，还在今日”，“稽列圣之洪规，讲前代之定制”，提倡“文治”的政治纲领。在中央设中书省，在各地设宣抚司，任汉人儒士为使。另外，严格执行地方兵、民分治制度，不相统属；罢诸侯世袭，行迁转法；实行易将制，使将不专兵。李璮之乱后，又迫使汉人军阀交出兵权。史天泽带头请求解除自己子弟和姻亲的兵权。北方汉族地主武装实力大大削弱。为了加强对汉人的防范，忽必烈在各级政权中都起用色目人为帮手，分掌事权和汉人官僚互相牵制。从此，色目人在政治上的实权日渐增强。中统四年（1263），升开平为上都。中统五年（1264）八月，又改中统为至元，燕京为中都。至元三年（1266），忽必烈命刘秉忠在原燕京城东北营建都城宫室。至元四年（1267），迁都到燕京。至元八年（1271），忽必烈公开废弃“蒙古”国号，按照《易经》“大哉乾元”之意，建国号为“大元”。至元九年（1272），忽必烈根据刘秉忠的建议，改中都为大都。元朝的建立，结束了中国历史从自五代十国以来的分裂割据局面，实现了一次新的大统一，使我国多民族国家的发展进入一个新阶段。同时标志着蒙古从一个区域性政权，转变为统治全国的统一封建政权，有利地促进了南北经济文化的发展，也使我国与西方的交流更加频繁。
马可·波罗来华
杰出的旅行家马可·波罗（1254~1324），出身于意大利威尼斯巨商之家。其父尼可罗·马可，叔父马飞阿于1260年往东方经商，在布哈拉留居三年。巧遇旭烈兀派往忽必烈处的使臣，就随同东来，于1265年到达上都（今内蒙古多伦县西北）。尼可罗兄弟在旭烈兀使臣的引见下，朝觐了忽必烈。大汗向他们询问了西方各国情况，恳请尼可罗兄弟陪同元朝使臣科加达尔出使罗马，并修御书交给尼可罗兄弟，请转呈罗马教皇，想与罗马基督教取得联系。尼可罗兄弟接受使命，终于在1269年4月到达阿迦城（今海法北）。这时，教皇刚刚逝世，尼可罗兄弟向教皇驻阿迦城的大使报告了元朝大汗交给的使命。大使劝告他们等选出新教皇，于是，尼可罗兄弟决定先回威尼斯探亲，此时马可·波罗已15岁了。
1271年，尼可罗兄弟决定带17岁的马可·波罗去东方。他们三人到阿迦后，新教皇仍未选出，于是请驻阿迦大使转呈大汗的书信，然后离开阿迦。不久，驻阿迦的教皇大使当选为新教皇，取名格雷戈里十世。新教皇急忙派特使，寻找尼可罗兄弟一行，这时，他们还未离境，便应召，重返阿迦。新教皇用特别隆重的礼节接见了他们，并写好书信，派两位教士随同。尼可罗一家，经伊朗，越过帕米尔高原进入新疆，经甘肃、宁夏，历经三年半的艰辛于元至元十二年（1275）夏到达上都。忽必烈表示欢迎。尼可罗兄弟详细汇报了他们的出使经过，呈上新教皇的书信礼品。忽必烈十分高兴，下令将马可的名字列入元朝侍从名册，并将波罗一家留居朝中任职。
马可·波罗聪明好学，很快学会了中国的语言、礼仪、风俗、骑射，并且精通四种文字，能够流利地读书和写作，深得大汗器重。多次奉命出使，执行机密使命。由于马可的才能和谦虚谨慎的精神，总是把事情办得十分妥善。他还十分留心所到之地的风俗民情和奇闻趣事，认真搜集采访，详细记录，回朝后向大汗汇报，博得了大汗信任。
马可的足迹遍及中国各地。他曾受命穿行山西、陕西、越秦岭到四川、经过川、藏边区少数民族聚居地区，渡过金沙江到云南昆明直至缅甸的北部去执行任务。他自称曾在扬州做过三年官。到过淮安、宝应、高邮、泰州、南京、镇江、常州、苏州、杭州、九江、福州、泉州等地。他还出使过南洋，到过越南、爪哇、新加坡、苏门答腊、泰国、菲律宾、斯里兰卡、印度等地。他每到一地都收集当地风情，并不辞劳苦分门别类地记录下来。