曹魏时把南匈奴分为五部，共3万余落，各置大人。五部中的左部匈奴屠各氏后来强大起来。西晋初左部屠各首领刘渊因依附晋室，掌握了南匈奴五部。西晋“八王之乱”引起中原大乱，成都王司马颖令刘渊征召南匈奴五部骑兵助战。《晋书·刘元海载记》提到，南匈奴贵族认为魏晋以来南匈奴势力衰落，“单于虽有虚号，无复尺土之业”。而诸王侯以下的贵族地位“降同编户”。汉族地主的残酷压迫使内迁匈奴普遍感到“晋室无道，奴隶御我”。司马氏贵族的自相残杀为匈奴兴邦复业提供了极好的机会。
刘渊是一位汉化程度很深且有抱负的匈奴贵族，他提出：帝王没有常传不息的道理。“大禹出于西戎，文王生于东夷”，他们都是因为具备了“德”而被授为君。而匈奴是汉氏之甥，与汉约为兄弟，兄亡弟绍并无不可。
前汉政权的官制胡汉杂用，既保留了许多鲜卑旧俗，如国君称为“大单于”，为屠各族所控制。单于的弟子亲贵所担任高级官职分为16等，有左右贤王、左右奕蠡王（即谷蠡王）等，杂姓匈奴贵族呼延氏、须卜氏、兰氏、乔氏等分别担任的世臣世卿，也有汉官丞相、太师、大司马、太尉等。其国制为胡汉分治，即按“户”统治汉人，设左右司隶，各领20万户，每1万户置一内史，共设了43内史。而对“胡人”则按“落”统治，设置单于左右辅，每1万落置一都尉，共有20万落。
西晋“永嘉之乱”以来，中原士人有许多迁往河西避居，在那里受到礼遇，一时河西成为士人聚集之地。沮渠蒙逊及北凉鲜卑贵族对汉族士人非常重视，委以重任。文人阚骃典校经籍，有助手30余人，成果丰硕，校定诸子3000余卷。另一位文人宗钦撰写了北凉国史《蒙逊传》。北魏平定中原后，进攻北凉。在攻克姑臧后，把那里的许多汉族士人收为己用。北魏入主中原之初，使用的是曹魏的“景初历”。攻破北凉后，北魏发现沮渠蒙逊政权所使用的“玄始历”更为精密。北魏文成帝兴安元年（452年）下诏废止“景初历”，采用这种“玄始历”。
据《隋书·音乐志》记载，北魏道武帝皇始元年（396年）在战败慕容宝时，获得后燕所藏晋朝乐器，但不知如何使用，只得收而弃之。只是在魏太武帝攻取河西，掳取当地士人之后，才得知礼乐之法。后来北魏嘉宾大礼，常以从北凉士人学来的晋乐演奏。北魏宫廷流行的音乐中有一种称为“西凉乐”，产生于前秦氐族苻氏政权末年。至吕光、沮渠蒙逊先后据有河西时期，以西域龟兹乐改编之，号为“秦汉伎”。魏太武帝得河西之后，这种音乐传入中原，被改名为“西凉乐”。据《魏书·乐志》记，北魏从北凉得到的还有一批“伶人器服”。
《晋书·赫连勃勃载记》提到，铁弗匈奴在建立夏国之后，经常袭击后秦。其部下建议他在“高平险固”之地定居。他回答道，如果专守一地，敌人必定全力来攻，灭亡指日可待。莫如“云骑风驰”，对敌人发动出其不意的攻击。敌“救前则击其后，救后则击其前”。这样敌人疲于奔命，而我则“游食有余”，不到十年便可尽有岭北河东之地。可见铁弗匈奴在建国后仍保持着游牧生活方式。
鲜卑族起源于我国东北，是秦汉时代的东胡族的后裔，学者们多认为鲜卑人是使用某种古蒙古语的民族。匈奴冒顿单于击败东胡后，东胡分裂为鲜卑与乌桓两个集团。在北者称鲜卑，居南者称乌桓。
匈奴衰落后，鲜卑人强大起来。北匈奴西迁后，漠北草原陷入政治真空，匈奴余部10余万落均依附于辽东鲜卑，并自号鲜卑。东汉桓帝时（147—167年），鲜卑首领檀石槐统一各部，建牙于漠南。檀石槐是鲜卑历史上一位著名的人物。鲜卑原先受治于匈奴，檀石槐之父投鹿侯曾在匈奴服役3年。他少年时，其他部落抄掠了他母亲家的牲畜，檀石槐单骑追迫，所向无敌，终于追还了自己的牛羊，受到了部民的称赞。成年后，众推为帅。他南抄汉边、北拒丁零、东却夫余、西击乌孙，建立了以蒙古草原为中心的鲜卑部落联盟，境土东西达7000余公里。为了便于统治，檀石槐把辽阔的国家分为三部分，今北京以东至于辽海的20余部为东部；今北京至山西、河北交界处的10余部为中部；由此以西直至乌孙为西部。每部各置大人。东汉灵帝年间（168—189年），檀石槐死去，鲜卑部落联盟解体。东部鲜卑中的“小种鲜卑”轲比能集团强大起来。曹魏时轲比能统一漠南各部。235年轲比能死后，鲜卑联盟再度瓦解。东部鲜卑最重要的是宇文部、段部和慕容部。
魏晋时期，鲜卑还有许多部落。其西部主要有拓跋部（又称为秃发部）和乞伏部。魏晋南北朝时期，鲜卑人在北方建立了不少割据政权。
（二）阿干之歌
在鲜卑族建立的割据政权中，源出于辽东鲜卑慕容部在青海建立的吐谷浑历时最长。吐谷浑最初是慕容部酋长慕容涉归的庶长子名字，其弟为慕容廆。西晋太康四年（283年）慕容涉归死去，吐谷浑虽为长子，却因庶出不得继位，只得到户1700封户（《宋书》和《魏书》的《吐谷浑传》均说吐谷浑只得到700户），而其弟慕容廆因嫡出而继为部长。吐谷浑与慕容廆虽各有封户，但牧场相邻。日益增长的牲畜数量与狭小的牧场是一个难以解决的矛盾。吐谷浑与慕容廆部民之间的牧场纠纷使吐谷浑决定远徙。其迁出辽东地区的时间大约在太康四年至十年间（283—289年）。
吐谷浑离开辽东后，率部向西迁移。当时辽东鲜卑段、慕容和宇文三部之间争斗很激烈。吐谷浑的出走使慕容部的势力削弱，慕容廆感到很后悔，专门派人追赶，劝说吐谷浑返回。吐谷浑离开辽东后，执意西迁，不愿再东回。慕容廆思念其兄，作了一首歌，称为“阿干之歌”。“阿干”在鲜卑语中意为“兄长”。“阿干之歌”意为怀念兄长之歌。
吐谷浑的部落先在塞北的阴山地区游牧，西晋末“八王之乱”时，他们离开这里，向南迁移，越陇山至今甘肃、青海交界处。后来吐谷浑向西、向南扩张。吐谷浑建国约在其第二代可汗吐延即位时，即329年。至唐龙朔三年（663年）才为吐蕃所灭，存在时间长达330余年。吐谷浑立国于西北之后，其国便以吐谷浑为号。在后代的史书中，吐谷浑这个名字因为语音变化的缘故，被译为“退浑”、“吐浑”等。除此而外，他的部落因地处黄河之南，南朝宋、齐、梁诸国有时又称为“河南”或“河南国”。吐谷浑国还有一个名称“阿柴”，这个名称不仅汉人使用，亦见于藏文史籍。
在吐谷浑至其子吐延在位时，这支西迁的鲜卑人征服了今甘、青、川三省交界处的羌人部落，据有今柴达木盆地、四川西北一带。最盛时疆域东起甘南川北，南抵青海南部，西至新疆塔里木盆地西南的若羌、且末，北至祁连山。立国之初吐谷浑只是游牧部落，不过城居生活。国内虽然有些小城，有王公贵族居住，但都不是首都。至后期才在青海湖西岸筑伏俟城以为都城。此城遗址解放后在青海共和县距青海湖7公里处发现。
吐谷浑虽然立国于西北，但仍然受到汉文化的影响。《晋书·吐谷浑传》说吐谷浑初期的官号有长史、司马和将军等，均沿用汉名。还说其国“颇识文字”。至唐代又增加官号仆射、尚书、郎中等。《通典》说它“建官多效中国”。后来“长史”、“将军”等称号在突厥、蒙古诸部中广为使用。
《魏书·吐谷浑传》记载，其男子的服饰同于北朝的汉族，妇女的服装也类于内地汉族，所不同的是发式。吐谷浑妇女辫发，而且以多为贵。这种辫发风俗直至今日仍在甘、青藏族妇女中流行，很可能是吐谷浑遗风。
吐谷浑的音乐通过与汉族人民的交往传入内地。隋唐时代，吐谷浑乐与鲜卑乐、部落稽乐一起合称“北狄乐”。据《旧唐书·音乐志》记载，“北狄乐”是“鼓吹本军旅之音，马上奏之”，归鼓吹署管理。至唐代尚保存有53章，题目有《慕容可汗》、《吐谷浑》、《部落稽》等，其歌词均非汉语。
吐谷浑的文化对北方游牧民族有深刻的影响。《魏书·吐谷浑传》记载了一则故事，说5世纪时吐谷浑可汗阿豺有20个儿子，当他年迈时，恐自己死后诸子不和，危及国家，遂把他们召来，给他们每人一支箭，要他们折断。然后又命他们试折多支箭，皆不能折断。阿豺因之教诲道：“汝曹知否？单者易折，众则难摧，戮力一心，然后社稷可固。”这就是著名的“折箭遗教”故事。这个故事在草原游牧民族中长久地流传着，世代传替。直至辽代，还在漠北的蒙古民族中传颂着。元代蒙古语古籍《元朝秘史》第22节记载成吉思汗的十世祖母阿兰豁阿的事迹时描写道，她教导她的5个儿子说，你们皆出于同一母腹，就像5支箭一样，如各自为一很容易折断，如束在一起，谁也无法折断。这则故事显然与吐谷浑阿豺可汗折箭教子的传说有同一起源。阿兰豁阿老祖母折箭教子的故事，直至今日在蒙古民族中还是人人皆知。它在我国汉族人民中间也广为流传。
吐谷浑立国恰在中国南北分裂，南方人民无法通过河西走廊与西方诸国往来的时代。南朝人民通过川北进入吐谷浑，顺青海道向西北进入新疆南部，保持着与西域的联系。
3.从草原走入中原
（一）拓跋人的足迹
鲜卑诸部中对中国历史影响最大的是拓跋鲜卑。拓跋人是鲜卑族的一支，他们迁出故土之后，来到中原，建立了北魏王朝。入居中原后日久天长，与故土的联系逐渐淡漠。据传说，在北方的广漠之野中有大鲜卑山，他们过去在那里以畜牧射猎为生，民风朴素，不知文字。他们所能记得的最早始祖名“毛”，“毛”之前只知还有37世，但具体情况因时代久远而不能确知。“毛”是一位部落酋长，统有36国（即36个部落），所辖大姓（即氏族）有99个。这里的36国和99姓并不是确实的数字。
“毛”传五世后拓跋部的首领称为“推寅”，其意为“钻研”。他率领部落离开大鲜卑山向南迁至一个“大泽”，即今呼仑池和贝尔湖。再传二世拓跋部又产生了一位首领名“邻”，也被众人称为“推寅”。他的儿子叫诘汾，率领拓跋人再向南迁，经过“九难八阻”，在一种形似马、声如牛的神兽指引下，到达匈奴故地。
拓跋人在中原建国后，与故土相距遥远，往来很少。他们还记得祖先在故土大鲜卑山时曾“凿石为祖宗之庙”，其位置在乌洛侯部之西北。魏太武帝太平真君四年（443年）乌洛侯部的使臣入中原朝贡，报告拓跋先祖石室犹在，仍有人在那里祭请，很是灵验。北魏朝廷因之遣使前往这个祖先石庙，在那里铭文，并告祭天地。1980年考古学家在内蒙古自治区鄂伦春自治旗阿里河镇西北10公里的大兴安岭北部东麓发现了拓跋祖庙。这个“石室”，高约12米，宽19米，洞口大略朝南，洞内92米长，27—28米宽。洞壁上发现了铭文，内容与《魏书》所记大同小异（参见拙文：《拓跋人的故土及其迁移》，原文为德文（Zur Urheimat und Umsiedlung der Toba），刊于《中亚杂志》（Central Asiatic Journal），1989年第1—2期，威斯巴登（Wiesbaden），第86—107页）。其实这个“石庙”是一个天然石洞，可能因为拓跋人的祖先曾清理过这个石洞，所以史书上说他们凿石为庙。
拓跋人统治中原后，汉化的速度大大加快，原有的游牧意识与城居生活发生了尖锐的矛盾。为了在中原立足，必须顺应形势。魏孝文帝元宏在位时（471—499年）进行了一系列意义重大的改革，其中最重要的措施有：
一、南迁洛阳：自魏道武帝拓跋珪以来，北魏的都城一直在平城。这里是防卫北方游牧民族柔然入侵的军事重镇，风俗杂糅胡汉，适于拓跋人生活，但偏于北方，粮食不能自给。而北魏的经济、文化重心则早移至黄河流域。太和十七年（493年）孝文帝借口南征，率军至洛阳。经过反复思考研究，最终决定移都于此。凡随军南迁之北方人，死后一律就地安葬，不得还葬于北方。