西晋灭亡后，北方黄河流域成为各少数民族的逐鹿之地。直至东晋灭亡，中原从未被东晋所收复，国家一直未能统一。这一历史时期，北方出现了二十多个小国，大多是少数民族建立的。其中主要的有十六国，史称“五胡十六国”。
（一）成汉
西晋的腐朽统治和混战给百姓造成无穷无尽的灾难，再加上连年天灾，许多农民被迫离开故乡，成群结队地逃荒。这种逃荒的农民被称为“流民”。
晋惠帝元康八年（298年），关中地区闹了一场大饥荒，略阳（治所在今甘肃天水东北）、天水等六郡十几万流民逃荒到蜀地，氐族人李特和他兄弟李庠、李流也跟着流民一起逃荒。一路上，流民中有挨饿的、生病的，李特兄弟常常接济他们，流民都很感激。
蜀地离中原地区较远，百姓生活比较安定。流民进入蜀地后，分散在各地给富户打工。
益州刺史罗尚不同情这些流民，要把他们赶回关中去。他还在流民必经之路上设立关卡，准备抢夺流民的财物。
流民听说官府要他们离开蜀地，都发起愁来。因为家乡正在闹饥荒，回去也无法过活。
流民向李特诉苦，李特挺身而出，多次向官府请求放宽遣返流民的期限。流民听说后，纷纷前来投奔李特。
李特在绵竹设了一个大营收容流民，流民越聚越多，不到一个月就聚集了两万多人。他的弟弟李流也设营收容了几千流民。
李特收容流民之后，派使者阎彧去见罗尚，再次请求缓期遣返流民。
阎彧来到刺史府，看到罗尚正在指挥士兵修筑营寨，调动人马，知道他不怀好意。阎彧对罗尚说：“我已经准许流民缓期遣返了，你回去告诉他们，让他们放心吧！”
阎彧说：“罗公听了谗言，看样子不会饶过他们。不过，请千万不要小看百姓。百姓看起来软弱，但若逼得他们无路可走，只怕对你没有好处。”
罗尚假惺惺地说：“我不骗你，你尽管对百姓去说吧！”
阎彧回到绵竹，把罗尚那里的情况告诉李特，并对李特说：“我们不能轻信罗尚，要防备他率兵前来偷袭。”
李特听了，立刻把流民组织起来，准备好武器，布置好阵势，准备抵抗官军偷袭。
夜里，罗尚果然派部将带三万人前来偷袭绵竹大营。
三万官军刚进营地，四面就响起了震耳欲聋的锣鼓声，预先埋伏好的流民手持大刀长矛一起杀了出来。官军没料到流民早有准备，被流民杀得丢盔弃甲，四散逃窜。
流民杀散官军，知道官府决不会善罢甘休，就推李特为镇北大将军，李流为镇东将军，把大家组织起来，宣布起义。
几天后，义军攻下了附近的广汉，赶走了那里的太守。
李特进了广汉，学汉高祖刘邦的样子约法三章，打开官府的粮仓，救济当地的贫苦百姓。
义军在李特领导下，军纪严明。蜀地百姓受尽官府的压迫，如今李特来了，大家生活都安定下来。
罗尚十分狡猾，表面上派使者向李特求和，暗地里却勾结地主豪强围攻李特。
李特率众奋勇抵抗，不幸牺牲了。
李特之子李雄继续率领流民战斗，攻下成都，于永安元年（304年）自立为成都王。过了两年，又自称皇帝，国号大成。后来，到李雄侄儿李寿在位时，改国号为汉，因此历史上又称李氏政权为“成汉”。
大成建国后，相继攻占了汉中及南中地区，疆域几乎与刘备建立的蜀汉相同。
李雄实行与民休养生息的政策，规定男丁每年交三斛谷，女丁减半，有病也减半；户调每年几匹绢，几两绵。不久，大成国内便富了起来，成为中国大西南一个安定的地区。
成汉历五主，共四十四年。
（二）汉和后赵
李雄在成都称王的同一年（304年），北方的匈奴贵族刘渊也反晋独立，自称汉王了。
刘渊身高八尺，双手过膝，自幼喜欢读书，拜上党崔游为师，学习《毛诗》、《京氏易》、《春秋左传》、《孙吴兵法》、《史记》和《汉书》。他胸怀大志，要做一番事业，是个通晓汉族文化的、能文能武的匈奴贵族。
刘渊的父亲刘豹是匈奴左部帅，十分疼爱刘渊。
晋武帝见刘渊状貌雄伟，感到惊讶，认为他不是一般人。有人向晋武帝推荐说：“让刘渊统兵伐吴，东吴可灭。”晋武帝说：“此事可以考虑。”但朝中大臣认为刘渊是匈奴人，非我族类，不可重用，晋武帝只得作罢。刘渊听说后，大哭一场，精神上受到了很大的打击。
八王之乱时，刘渊想帮助晋朝平乱，发兵攻打鲜卑和乌桓。他的叔祖刘宣说：“我们祖先单于和刘邦结为兄弟，同甘共苦，同心同德。自从汉朝灭亡之后，我们单于徒有虚名，连个地盘都没有了。晋朝君臣不是东西，像对待奴婢一样对待我们。这口气怎能咽下去呢？鲜卑和乌桓与我们生活习性相同，可以结为外援，怎能伤害他们呢？”刘渊听了这话，如梦方醒，激动地说：“我现在有十万人马，个个以一当十，消灭晋朝如同秋风扫落叶一样。但要夺取天下，必须赢得人心。我们单于娶汉朝公主为阏氏，我们都是汉朝皇帝的外甥，本是一家。我们打出大汉的旗号，就名正言顺了。”
晋怀帝永嘉二年（308年），刘渊在平阳（在今山西临汾西南）称帝，自称是汉朝皇帝的外孙，把他建立的国家定名为汉国，表示继承汉朝的正统。
刘渊严肃法纪，整顿吏治，惩治奸佞，轻财好施，以诚待人，吸引了一大批有识之士。
刘渊建立汉国后，发兵攻打晋朝都城洛阳。
永嘉五年（311年）六月，洛阳终于被攻陷了。这时，刘渊已死，刘聪夺得了帝位。
刘聪洗劫洛阳后，听说晋朝皇室有大批人逃往长安，便命令堂兄弟刘曜领兵打进了长安。
由于关中连年灾荒，缺乏粮食，在那里无法立足，刘曜便掠走八万多汉人，撤出了长安。
晋朝宗室和大臣听说匈奴军队走远了，又都回到长安，拥立秦王司马邺做皇帝，史称晋愍帝。司马邺是司马炎的孙子，刚刚14岁。这一年是晋怀帝永嘉七年（3l3年）。
晋愍帝建兴四年（316年），刘曜又一次攻陷长安。西晋残留下来的一些文武官员全部被俘，晋愍帝司马邺坐着羊车，光着膀子，口里衔着传国玉玺向刘曜投降，西晋王朝灭亡了。
晋愍帝被解到平阳，刘聪封他为怀安侯。这年十二月，刘聪大宴群臣，使晋愍帝行酒，清洗酒杯。过了片刻，刘聪起身离座，又令晋愍帝手执伞盖跟在后面。在座的晋朝旧臣见皇帝受辱，不禁哭出声来。尚书郎辛宾甚至抢步上前，抱住晋愍帝大哭。刘聪大怒，命人将辛宾拖出去斩首，晋愍帝也于几天后被杀，年仅18岁。
刘聪死后，其子刘粲即位，当年即被叛臣所杀。堂叔刘曜讨伐叛臣，被众人立为皇帝。
刘曜即位后，迁都长安，改国号为赵，史称前赵。
刘曜杀了大将石勒的左长史王脩，石勒大怒，率军独立。刘石双方连年征战，互有胜负。最后，刘曜战败被俘，不久被杀。
汉和后赵历五帝，共二十六年。
（三）后赵
石勒是羯族人，其祖先世代担任羯族部落的小头目。石勒年轻时，并州闹饥荒，他和部落失散后，曾给人家做过奴隶。
石勒受尽苦难，没有出路，就招集一群流亡的农民组成了一支强悍的队伍。刘渊起兵后，石勒投奔汉国，在刘渊手下当了一员大将。
羯族人的文化比匈奴人要低，石勒没有像刘渊那样从小受过文化教育，不识字。他担任大将以后，渐渐懂得要成就大业，光靠武力不行，于是就重用汉族士人张宾，采取了许多政治措施。他还收留一批北方读过书的贫苦汉人，组成一个“君子营”。
由于石勒骁勇善战，再加上张宾一批谋士帮他出谋划策，他的势力日益强大。
后赵石勒太和元年（328年），石勒终于消灭了刘曜。过了两年，石勒在襄国（在今河北邢台西南）自称皇帝，国号仍为赵。史称刘氏的赵国为“前赵”，石勒建立的赵国为“后赵”。
石勒自己没有文化，却十分重视读书人。他称帝后，命令部下凡捉到读书人时不许杀死，一律送到襄国由他处理。
石勒听从张宾的建议，设立学校，让将领的子弟进学校读书。他还建立了保举和考试制度，凡各地保举上来的人，经评定合格后便可以做官。石勒还命令部下和州郡官吏每年向他推荐有文才、会武艺的人做官。
石勒喜欢读书，但不识字，就找读书人把书讲给他听，一边听，一边还发表自己的见解。
有一天，他让人给他讲《汉书》，当听到有人劝汉高祖封六国贵族的后代时，忙说：“刘邦这样做，怎能得天下呢？”讲书的人立即解释说由于张良的劝阻，汉高祖并没有这样做。石勒点头说：“这才对啊！”
有一天，廷尉续咸听说石勒要在邺城大兴土木建筑宫殿，就连忙上书说明这样做的危害，要求不要动工兴建。石勒听了，火冒三丈，大发脾气说：“不杀死这个老贼，我的宫殿是建不成的。”他马上下令，把续咸抓起来，中书令徐光劝阻说：“陛下是一个聪明人，平日常说要效法尧舜，如果不接受忠臣的意见，岂不成了桀纣一样的暴君了？续咸的话能听则听，不能听就算了，怎么能因为人家说了几句话就把人杀了呢！”石勒听了这番话，叹了口气说：“做君王的也不能独断专行啊！”他看了大家一眼，微笑着说：“我难道不知道续咸的话是忠言？说要杀他，只是跟他开个玩笑，吓唬吓唬他罢了！说实在的，稍有点闲钱的人都要买房子，娶小妾，何况我这个得了天下的人，把宫殿修理一番又有什么不可以的呢？现在听了续咸的话，明白了更多的道理。我接受他的意见，不动工了。”说完，石勒奖给续咸一百匹绢、五十担稻谷。这样，大小官员都敢于直言进谏了。
由于石勒重用人才，在政治上努力进取，后赵初期出现了兴旺的气象。
石勒虽然贤明，但他的子孙却多是杀人魔王。他们经常屠城，还把掠来的美女盛妆之后砍下头，放在盘子上，在酒宴上传观取乐。后赵历七帝，共三十二年。
（四）前凉
前凉是西晋灭亡之后由张轨及其子孙继续保持的汉族政权。
张轨自幼读书，很有学问，受到西晋中书令张华的器重。
晋惠帝永宁元年（301年），张轨被任命为护羌校尉、凉州刺史，镇守河西，首府设在姑臧（今甘肃武威）。
张轨上任后，立即在辖境内采用剿抚结合、恩威并施的策略，对归顺的鲜卑人给予妥善的安置，对于骚扰地方的一部分鲜卑贵族大力讨伐，很快就使河西地区成为五胡十六国分裂动乱年代中北方唯一安定的地方。
张轨先后被晋廷任命为镇西将军，并加封为安乐乡侯，成为河西和西北广大地区的实际统治者。
张轨在河西地区推行实际上的自治，长达13年，为国家统一作出了积极的贡献，给西北地区创造了和平的环境。
张轨千方百计处理好少数民族问题，注重争取上层，教育多数，加强管理，从而化解了矛盾，团结了境内的少数民族。
张轨选贤任能，重用地方土族中的代表人物，为己所用，如敦煌地方实力人物宋配、阴充、阴澹、记瑗等人，都被吸引为他的谋主，并通过他们把自己的政治基础扎根于河西的土壤之中。
张轨大力推行儒学教育，在官府增设主管教育的官员，大建学校，广招土宦士族子弟入学，接受系统的教育，以达到民族融合和同化。
张轨努力发展区域经济，除了注重加强境内的经济建设，还十分注意与中土和西域的商贸往来，为此，他颁行钱币法规，铸造五铢钱币，对东西方的商品交换起到了积极作用。
张轨在河西地区大兴水利，推广中原的先进生产工具和生产技术，使得粮食问题得到基本解决。
在张轨的惨淡经营下，河西成为中原百姓和士人向往的乐土。河西地区不仅成为中原人民的避难之所，也吸引了大批知识分子和各类人才。
晋愍帝建兴二年（314年），张轨病故。临终前，他告诫子女要素棺薄葬，不许用金玉陪葬。
张轨死后，全州各界人民一致拥护他的儿子张寔继承父职，宣布建立凉国，史称前凉。
在张轨的教导和影响下，其后人大多能做到爱才敬贤，勤政为民，不追求奢靡，不好大喜功，内施仁政，外求和平，兢兢业业守着他创下的基业。
张轨的儿子张寔即位后，励精图治。一天，他下诏说进言者重赏，有人进言说：“自从你即位以来，什么事都是你一个人说了算，大臣们只是点头而已。你不要以为你是天下最聪明的人，其实好多事你还不如大臣。如果你能虚心纳谏，即使不用重赏，有利于国家的建议也会源源不断地送到你的耳中。”这种难以接受的话，并未让张寔发火，反倒高高兴兴地接受了。
张氏子孙世代据守凉州，人民生活比较安定，汉人士族在那里传授儒学，保存了中原失传的一些经籍和学说。
陈寅恪说：“秦凉诸州西北一隅之地，其文化上续汉魏、西晋之学风，下开魏齐、隋唐之制度，承前启后，继绝扶衰，五百年间延绵一脉。”可见前凉在中华民族文化中的重要地位。
东晋孝武帝太元元年（376年），苻坚派十三万大军进攻前凉，前凉灭亡了。
前凉历八主，共六十三年；一说历九主（包括张轨），共七十六年。
（五）前燕
前燕是十六国时期由鲜卑族首领慕容皝所建立的政权，为区别同时期的慕容氏诸燕，历史学家把它称为前燕，统治地区包括今河北、山东、山西、河南、安徽、江苏、辽宁各地一部分。
魏晋之际，鲜卑慕容氏自辽西迁至辽东。
晋惠帝元康四年（294年），鲜卑酋长慕容廆徙居大棘城（今辽宁义县西北），开始了定居的农业生活。晋怀帝永嘉元年（307年）前后，慕容廆自称鲜卑大单于。
西晋灭亡后，慕容廆在汉族士人的辅佐下，据有辽河流域，接受东晋官爵。许多山东、河北一带的汉族世家大族纷纷投靠慕容氏，慕容氏自慕容廆起即与汉族士大夫合作，共同统治境内百姓，兴立学校，培养统治人才。
慕容廆之子慕容皝即位后，于咸康三年（337年）称燕王，建燕国，继续尊奉东晋，并用兵扩展领地。
慕容皝留意农桑，兴修水利，国势日盛。
东晋成帝咸康八年（342年），慕容皝迁都龙城（今辽宁朝阳），成为东北地区最强大的国家。
慕容皝招徕中原地区的汉族流民，组织屯田垦荒。地租比率，用官牛者，民得收获物十分之四；用私牛者，官民对分。前燕社会安定，中原地区的许多劳动人民都逃到这里，并带来了生产技术，促进了前燕社会经济的发展。
慕容皝十三年（348年），其子慕容儁进攻后赵，夺得幽州，迁都于蓟（今北京西南）。前燕占领后赵幽州后，继续南进，击败冉魏，占有河北。随后，慕容儁抛弃东晋旗号，自称燕皇帝，迁都邺城（在今河北临漳西南邺镇东）。
迁都后，统治集团内部生活日益腐化，政治也渐趋黑暗。慕容儁后宫有四千余女人，童仆四万余人，穷奢极欲，日费万金。太傅慕容评极力搜刮百姓，强占田地，还封山封泽，平民乃至军队砍柴打水都要纳钱，搜刮的钱绢堆聚如山。此外，贵族官僚们还大量地占有庇荫户，总数超过国家控制的户口，致使国家的税收和徭役调发都很困难。
前燕光寿四年（360年），慕容儁病死，11岁的太子慕容即位，由慕容皝第四子慕容恪辅政。慕容恪德才兼备，前后辅政七年，前燕王朝政治稳定。慕容恪还率兵攻占东晋的河南、淮北不少土地。
前燕建熙七年（366年），慕容恪病死，前燕王朝开始走向衰落。
东晋废帝太和四年（369年），东晋大将桓温北伐，燕军战败。慕容之叔吴王慕容垂在前秦军队的帮助下大败晋军，桓温退走。