鲜卑旧有的部落兵之间存在着一定的氏族关系，宇文泰建立府兵制后，保留了这种特点，并且下令让军功高的将领继承旧日鲜卑的三十六国，以军功稍次的将领继承旧日鲜卑的九十九姓，“所统军人，亦改从其姓”。即然诸将被定为三十六国、九十九姓的继承人，其姓氏也应依从三十六国、九十九姓的姓氏，于是又引出复姓和改姓的活动。除侯莫陈氏、独孤氏、豆卢氏、贺兰氏等本来就是鲜卑旧姓外，凡孝文帝时改变汉姓的鲜卑将领又恢复了原来的姓氏，如于氏，仍旧恢复为原来的勿忸于氏。汉族将领则要改变汉姓而为鲜卑姓氏，例如赵贵被赐姓为乙弗氏，李弼被赐姓为徒河氏。李虎被赐姓为大野氏，杨忠被赐姓为普六茹氏，王雄被赐姓为可频氏等。他们统率的士兵，也随了他们改后的姓氏。
府兵建立后，便成为西魏的“禁旅”，兵士的地位也由六镇的戌边战士上升为类似“羽林军”、“虎贲军”的中央禁卫军。府兵统属于六柱国大将军，有一定的独立性，但宇文泰又以都督中外诸军事的职务，将各军指挥权统归在他一人手中。除他以外，任何人都不能调遣六军。宇文泰死后，六军指挥权又移至他的继承人宇文护手中，诸军“凡所微发，非护书不行”，可见府兵制的建立，是有利于集中军权，统一指挥的。
为使府兵的兵员能够得到源源不断的补充，西魏政府又从均田的农民中选拔府兵，具体规定为，在六户中等以上农民家庭中，从一个有三丁之家中抽一男子充当府兵。凡充当府兵的人，免除租调和徭役，加入军籍。府兵有战争时就要出征作战，无战争则“十五日上，则门栏陛戟，警昼巡夜；十五日下，则教旗习战”。北周建德元年（572年），北周武帝宇文邕杀宇文护后，派人前往相府收取兵符，终把最高军权收回手中，下令“改诸军士并为侍官”，使府兵成为名副其实的禁卫军，但这时府兵仍然另有军籍，仍然是兵民分治。不过府兵成员结构已经发生了很大的变动，主要由于周武帝广募均田农民加人府兵，“是后，夏人半为兵矣”，使府兵中的均田农民数量大增。这样既扩大了兵源，又为府兵制与均田制的结合奠定基础。
府兵制在发展和变动中，与鲜卑族原先的部落兵制越离越远，而与土地关系则日益紧密，到隋开皇十年（590年），隋文帝杨坚进一步规定：“凡是军人，可悉属州县，垦田籍帐，一与民同。”至此，府兵制与均田制完全结合在一起了，府兵也由兵农分离完全走向兵农合一。
府兵制的创置和逐步完善，对西魏和北周来讲，都起了重大作用，具体表现为士兵人数大量增加。兵源有了保证，经历了长期战争而兵员却是越来越多，至北周最后一次进攻北齐时，军队已发展到20万人左右。北周也正是藉此才能攻灭北齐，统一北方。
北周灭北齐
从西魏宇文泰到北周武帝宇文邕，宇文氏政权经过宇文泰等几十年的苦心经营和不断改革，国势日渐昌盛。在政治方面，遵循“六条诏书”中“擢贤良”的精神，吸纳许多贤才。在军事方面，创建了府兵制度，加强了武装力量。在经济方面，释放奴婢、杂户，禁断佛、道二教，大大增加了国家的均田农民的数量和经济实力。通过这些改革，到北周武帝后期，不仅中央集权制得到加强，而且国家实力与东方的北齐相比，也是由弱变强，蒸蒸日上。与此相应的是，军事局势也发生变化，由对北齐的积极防御转变为主动出击，全面进攻。
与北周相反，北方的政治和社会状况却是每况愈下，帝王贵族荒淫腐败，倾轧不已，国内各种矛盾日趋激化，齐后主高纬上台后，政治更为混乱。他厌倦政事，整日怀抱琵琶弹唱“无愁之曲”，和唱者数百人，被人称之为“无愁天子”。而且也又宠幸一奸佞之人，委宦官重任，让他们参预朝政，允许他们卖官鬻爵。此外州县之官多来自富商大贾，这些人得官后不顾百姓死活，贪赃枉法，税括百姓，大发横财，造成了“官由财进，政以贿成”民不聊生的政治局面。他又胡乱封官拜爵，庶姓封王者以百数，开府一千多人，仪同无数。他豢养的跑马、斗鸡、鹰、犬等，竟也被授予仪同、郡居、开府等官爵，与大臣一样享有同等俸禄。后宫婢女也皆封为郡君，宫女中宝衣玉食者达五百余人，宫女一裙值万匹，一个镜台值千金。又大发徭役，盛修宫苑，极为装丽，建成后稍不如意，则折毁重建，至使百工匠人，连休息的时间都没有，“劳费亿计，人牛死者不可胜纪”。与北周武帝和北周的政治相比，形成极为鲜明的对比。
周武帝即位以后，北周就不断进攻北齐，北周保定三年（北齐河清二年，563年），北周大将杨忠、达奚武与突厥曾联合分路讨伐北齐，一度兵临晋阳城下，后被北齐军中的精锐部队击退。北齐名将斛律光还乘势反攻入北周境内，俘掠三千余人。此后北周军队又数次东进，由于北齐有斛律光、段韶等名将名臣，政治虽然败坏，而军事上却还保持一定实力，故北周军队收获并不大。
周武帝杀宇文护后，亲自掌握了高军权，他一面与北齐通商和好，使对方麻痹松懈，一面却加紧练兵，积极准备，伺机灭齐。周武帝杀宇文护后三个月，齐后主诬蔑斛律光谋反，将其诛杀，尽灭其族。周武帝听到此讯大喜，为之大赦。北周建德四年（北齐武平六年，575年），周武帝与诸将伐齐。大将韦孝宽献计三策：一为联合陈朝、稽胡等军队，数道并进，可一举而成。二为广事屯田，招募强悍之士，严加训练，与陈朝军队互相配合，使其疲于奔命。一二年后，待其内部离叛，然后乘机举攻下。三为作长期打算，签订盟约，安民和众，蓄锐养威，观衅而动。周武帝又与齐王宇文宪，内史王谊、安州总管于翼长计议，于这年七月下诏伐齐。出兵十八万，命宇文纯、司马消难、达奚震为前三军总管，宇文盛、侯莫陈崇、宇文招为后三军总文宪，于谨、李穆等将所向势靡，连取北齐三十余城。周武帝大军在金墉城下遭到北齐洛州刺史独孤永业的顽强抵抗，数攻未克。这时，周武帝忽然患病，又逢北齐右丞相高阿那肱率援军自晋阳赶至河阳，故周军不得不弃城撤军。
次年，北周再次大举攻齐，周武帝认为前一年未能灭齐，原因主要在于“直为拊背，未扼其喉”。这次应直攻高欢发迹之地晋州，争得此地，北齐必派重兵援救，我军可严军以待，击之必胜，然后乘破竹之势，挥军东进，定可“穷其巢穴”，灭亡高齐。十月，周武帝再次亲征，以宇文盛、宇文亮、杨坚为右三军，宇文俭、窦泰、丘崇为左三军，宇文宪、宇文纯为前军，亲率中军，开入齐境，并驻军于晋州汾曲（今山西临汾市南）。然后分判派遣宇文宪率精骑二万驻守雀鼠谷，宇文纯率步骑二万驻守千里径，达奚震率步骑一万守统军川，韩明率步骑五千守齐子岭，尹升率步骑五千守鼓钟镇，辛韶率步骑一万驻守汾水关。又遣王谊监诸军进攻平阳城（今山西临汾市），但是北齐海昌王尉相贵据城坚守。周武帝宇文邕赶赴平阳城下督战，城中情况紧急，北齐诸将纷纷投降，北周军队占领了平阳，生擒尉相贵及其部下八千余人。宇文宪率领的另一路军也攻克洪洞、永安二城。本计划乘胜前进，但由于北齐军焚桥守险，军不得进，只好屯守永安。
齐后主此时正带着冯淑妃与右丞相高阿那肱在天池（今山西宁武县西）围猎。晋州告急的信使，从清晨至中午，连来三批。高阿那肱却拦住信使，不准报告，说：“皇帝正围猎高兴，何必急着报告。”到了黄昏，又一信使赶到，报告“平阳已陷”，高阿那肱乃转报齐后主。齐后主闻讯准备立即返回晋阳，但冯淑妃此时正在兴头上，请再围猎一次，齐后主便又留下继续围猎。猎毕，齐后主才携带冯淑妃回晋阳，调兵遣将，分军向千里径、汾水关发动反攻。齐后主自率主力开上鸡栖原。驻守汾水关的宇文盛派人告急，宇文宪马上率兵来援，大破这一路齐军。齐后主率大军到达平阳城下，周武帝见齐军声势颇盛，周军疲惫，长留下一些将士镇守平阳，自率主力军西退。
齐军包围了平阳，昼夜攻城。城已残破不堪但仍不能攻克。北周守将梁士彦慨慨激昂，身先士卒，激励了士卒。守城军民士气大振，无不是以一当百。齐军再次挖地道攻城，城墙塌陷十余步，齐军将士呼喊着要冲进去，被齐后主下令阻止。齐后主派人召冯淑妃来观看，冯淑妃正在化妆，等她化妆完毕，周军已用木棍塞住缺口，齐军再次进攻，已经冲不进去。
周武帝本已引兵西归，闻平阳危急，又率军赶至平阳，会集诸军，向齐军发起猛烈攻击。齐后主与冯淑妃在阵后并骑观战，东边稍退，齐后主便与冯淑妃率先逃走，齐军见皇帝先跑，随之全线溃败。齐后主逃回晋阳不久，周军又尾追而来。齐后主任便命安德王高延宗为相国、并州刺史，总领山西兵，自己却不顾群臣劝阻，在夜里砍杀守城门的士兵，率少数侍卫逃出晋阳城。他想投奔突厥，侍官多所不愿，许多人半路悄悄溜走。领军梅胜郎也百般谏阻，他这才带着剩下的数十人逃到邺城。穆提婆见大势已去，不得己投降了周军。
周军包围了晋阳，高延宗在北齐留守将帅的坚决要求下，即皇帝位。周军四面攻城，终于攻破东门，周武帝率数千人冲进去，却在城内展开基战，周武帝几乎被困在城内，好不容易才突围出城。直到二次组织攻城，才占领了晋阳，俘虏了高延宗。谁知齐后主在邺城，听望气的人说，当有革易，遂禅位于太子高恒。次年正月，高恒即位，是为幼主。改元承光，尊齐后主高纬为太上皇，朝政大权却仍掌握在高阿那肱手里。高阿那肱对主战将领颇为猜忌，于是齐军士气聚而复散，更加离心离德。周军进兵邺城，齐军出击，大败而归，高纬只得带上高恒东逃。周军攻入城内，俘获百官。高纬逃至济州，留下高阿那肱守济州关，又与穆后、冯淑妃、高恒、韩凤等数十人逃至青州、准备投奔江南的陈朝。不料高阿那肱表面上虽劝高纬先居住青州，暗地里却勾结周军速至青州，将高纬、高恒等人全部俘虏。北齐灭亡。北齐自显祖文宣帝高洋至幼主高恒，凡6帝，28年（550—557年）。
北方自东西魏分裂以来，已近半个世纪，至此终于统一。周武帝准备乘势“平突厥，定江南”，统一全国，可是不久他便病死在征讨突厥的途中，统一全国的事业未能由他完成。但是他为统一所作的一切准备并没有白费，为后来隋文帝杨坚统一全国奠定了坚实的基础。
刘裕篡晋
晋元兴元年（402年），门阀士族谯郡桓玄代晋建楚，自立为帝。次年三月，出身寒门士族的北府旧将刘裕、何无忌占据京口（今江苏镇江），刘毅、孟昶等制据广陵（今江苏扬州）起兵，打着恢复晋室的旗号，讨伐桓玄。刘毅等帅兵到京口与刘裕会师。然后，合兵进攻建康。讨伐军迅速击败桓玄的抵抗，进而占领建康。此后又派刘毅等帅军西上追击桓玄，陆续镇压了桓玄势力的反抗，迎回被废的晋安帝重登皇位，重建东晋。刘裕起兵成功，任使持节、都督扬、徐、兖等八州诸军事、领军将军、徐州刺史、从而掌握了军权，尤其是掌握了北府兵这支最精锐的军队。义熙四年（408年），刘裕又升任扬州刺史、录尚书事的要职，他实际掌握了东晋政军大权。
南燕慕容超认为南方软弱可欺，屡次派骑兵侵入东晋边境骚扰和劫掠人口。刘裕于义熙五年（409年）出兵，北伐南燕，出兵两月后就已包围了南燕首都广固（今山东省益都北），南燕惊慌失措，向后秦求救，秦却未派兵。晋义熙六年（410年）三月，刘裕大军攻陷广固，生擒慕容超，灭掉南燕，收复了青兖广大地区。刘裕声威大震，时人无可匹敌。在刘裕北伐之时，盘踞广州的卢循、徐道覆率部北上，图谋争夺政权。他们在豫章（今江西省南昌）大败东晋江州刺史何无忌，声威大振，兵锋直指建康。刘裕闻讯，急忙班师回朝，亲率数十人匆忙赶回建康。当时地位和实力仅次于刘裕的豫州刺史刘毅为壮大声势，不听刘裕指挥，率军二万从姑熟溯江而上，以阻击卢循军队。六月，双方战于桑落洲（今江西省九江东北），刘毅大败，狼狈逃走，至使声望一落千丈，这时建康城内，人心惶惶，很多人提议迁都江北，遭到刘裕坚决反对，宣布内外戒严。同时，征发居民修筑防御工事，此时大批援军从而陆续赶到。卢循闻知刘裕还都，就很想退兵，经徐道覆力争，犹豫多日才继续进兵。刘裕也得到了周密部署的时间，坚壁不战。卢循因师老兵疲、给养因难，被迫退回寻阳。试图西取荆州，徐道覆部却遭到失败。卢循、徐道覆又率部东下，与刘裕军激战，又遭惨败，遂率部南逃，不久全被晋军歼灭。
卢循的起义被平定后，刘裕与刘毅的矛盾已日趋激化。晋义熙八年（412年），江州刺史刘毅移镇荆州，力图割据，于是取江州兵和豫州西府文武万余西上。由于刘毅文温尔雅，颇得徒有虚名的名士如谢混等人的欢心，而刘裕气质不文，在结交高级士族方面处刘毅的下风，心中十分不满。这时，刘毅又要求允许起用从弟刘藩做他的副手，以党徒郗僧施担任南蛮校尉的要职。刘裕感到分裂在即，决意先发制人，先收杀刘藩、、谢混等人，他命王镇恶为前锋，自己亲统大兵征讨刘毅，不久就攻克了江陵，刘毅逃走，后不得不在牛牧佛寺（今湖北江陵）自杀。刘裕随之又潜回建康，诱杀了心怀狐疑，欲谋叛乱的豫州刺史诸葛长民兄弟。刘裕在寒门士族中确立起独一无二的统帅地位。军权的高度集中，使寒门士族得以有效地利用武力谋取更大的利益，为王权的恢复奠定了基础。
在此之前，谯纵乘东晋衰乱，占据四川称王。后谯纵常与醒玄从兄桓廉连兵侵扰东晋，威胁荆楚。义熙九年（413年）一月，刘裕命大将朱龄石率众二万攻蜀谯纵，力克平模（今属四川省），谯纵部将相继奔溃，谯纵弃成都出逃，尚书令马耽在成都投降，益州就这样被东晋收复。