对汪达尔人战斗的失败，招致了军队的不满，里希默因此废黜并杀死了默乔里安。不久，里希默也死了。经三个任期更短暂的君主的统治，高卢完全丢给了已独立的西哥特人。接替里希默任军事统帅的奥雷斯蒂兹，最后干脆把皇帝的称号给了他的儿子罗慕路·奥古斯都。这个皇帝在位时间极短又毫无作为，唯一值得一提的是，他的名字恰巧与传说中罗马城的创建者，罗马王政时代第一任国王的名字相同。他统治时，驻守意大利的是主要由诸如鲁吉族和赫鲁利族等几个较小的日耳曼部族组成的罗马军队，他们在其日耳曼将军奥多爱瑟的率领下，要求得到意大利1/3的领土和同盟者身份，遭到奥雷斯蒂兹的拒绝。公元476年，这支军队发动叛乱，拥立奥多爱瑟为王。奥多爱瑟率军夺取拉文纳后，宣布废黜罗慕路，让他拿抚恤金退位。按照奥多爱瑟的要求，元老院没有任命新的奥古斯都，而是把西罗马帝国的国徽转让给东罗马帝国皇帝泽诺（公元474—491年）。泽诺犹豫不决，因为他们提名的西罗马帝国皇帝尼波斯虽不在位却仍活着，而他又因东罗马帝国内部纠纷陷入困境，无法采取反对奥多爱瑟的行动。不过，奥多爱瑟和他的同时代人都没有意识到，他废黜罗慕路的行动是西罗马帝国的终结。奥多爱瑟在意大利建立的日耳曼人的王国，就像西哥特人在法国南部和西班牙所做的一样，名义上仍臣属于在君士坦丁堡的罗马皇帝。奥多爱瑟在他发行的硬币上还讨好地铸上泽诺的头像。不过，实际上，他的王国和西罗马帝国境内建立的其他日耳曼人王国一样，是独立的。
后来的历史学家把公元476年作为早已衰败不堪的西罗马帝国最后崩溃和灭亡的年代。虽然，近来有一种对罗慕路被废黜一事极度轻视的倾向，因为导致西罗马帝国最终灭亡的诸多事件中，这一事件并不那么重要。不过，尽管奥多爱瑟的行为和他对罗马造成的损害都不是特别惊人的，却正是他终结了西罗马在拉文纳的帝位。意大利成了另一个日耳曼人的王国。意大利是罗马帝国的发源地和中心，没有意大利就没有罗马帝国，罗马帝国是意大利的产物。尽管东罗马帝国皇帝仍以整个罗马帝国的皇帝自居，一些在西罗马帝国境内建立的日耳曼人王国也仍在表面上臣服君士坦丁堡，但没有意大利的罗马帝国，纵有罗马帝国之名，也已不是原来意义上的罗马帝国了。西罗马帝国崩溃了，也就是罗马帝国崩溃了，以罗马帝国自居的东罗马帝国已不再是西方的帝国了，而是东方的了。历史学家给其取了个比东罗马帝国更合适的名字——拜占庭帝国。
公元476年以后，西罗马帝国原来所辖地区就再也没有统一过，更不要说东西两部分的统一了。政治上统一的地中海，成为一个国家内海的历史一去不复返了。
公元527年东罗马帝国君士坦丁堡出现了一位才能出众而且决心重新把罗马帝国的东西两部分统一起来的皇帝查士丁尼（公元483—565年）。他是东罗马帝国皇帝中唯一有此愿望并几乎达到了目的的皇帝。可以说，他毕生的精力都倾注在实现地中海的统一上了。他为此常常彻夜不眠，绞尽脑汁，几乎到了发狂的地步。为了能全力西征，剿灭在西罗马帝国旧址上建立的诸蛮族国家，他不惜以缴纳巨款为代价，和波斯签订和约。公元533年，他派大将贝利撒留率兵侵入北非汪达尔王国，攻占了汪达尔王国首都迦太基，灭亡了这个曾称霸西地中海的日耳曼人王国，重建了罗马在北非的权威。公元535年，查士丁尼又派贝利撒留从非洲率兵渡海进攻东哥特人的意大利王国，公元536年攻下罗马。
查士丁尼在北非和意大利倒行逆施，恢复过去的行政机关，让过去的贵族和奴隶主重新上台。这些重新得势的贵族和奴隶主对隶农和奴隶反攻倒算，结果引起了当地人民的强烈不满，他们不站在东罗马人一边，而是支持汪达尔人和东哥特人继续和君士坦丁堡军队斗争，北非人民掀起了长达10年的起义（公元536—546年）。意大利人民则继续在东哥特国王领导下坚持抵抗，有一段时间，曾把贝利撒留逼到半岛的西南部，查士丁尼不得不加派援兵，直到公元555年才消灭了东哥特王国。查士丁尼在征服意大利的同时，利用西哥特王国内乱之机，占领了西班牙南部，科西嘉、撒丁尼亚、巴利阿科群岛以及达尔马提亚等地也先后并入东罗马帝国版图。东罗马帝国几乎囊括了原西罗马帝国的大部分领土。查士丁尼的统一地中海世界、恢复昔日罗马帝国威权的梦想似乎即将成为事实。但实际上，东罗马帝国这时已成了强弩之末。公元555年后，查士丁尼再也无力进行新的对外扩张了，并且在同斯拉夫人、匈奴人、波斯人的战斗中屡吃败仗。他对西部的侵略，既把帝国的财力消耗一空，又削弱了帝国的军事力量。而西部地区人民又并不支持东罗马的入侵者，他们已不把东罗马当成昔日的罗马统治者，而把他们看成是外来的侵略者。下层人民宁要蛮族的统治也不要东罗马的统治。在这种情况下，东罗马的军队不是在收复罗马帝国失去的国土，而是侵略别的国家，成了非正义之师，即使再强大，也无法恢复过去罗马在地中海的霸主地位了。罗马帝国已死亡了，不可能复活了。公元565年，查士丁尼一死，帝国侵占的西方领土就相继失去。公元568年，意大利北部和中部被又一支日耳曼部族——伦巴德人侵占，意大利北部现称“伦巴第”即源于伦巴德人。10年后，西班牙又重新被西哥特人收复，恢复罗马帝国的梦想彻底破灭。
其实，查士丁尼名留史册的，不是他恢复罗马帝国的徒劳，而是他领导编纂了罗马帝国的法律汇编，汇集和整理了全部罗马法律文献，统称《罗马民法汇编》。这是欧洲历史上第一部系统完整的法典，影响巨大，对近代欧洲资产阶级的立法起了很大的启示和借鉴作用。罗马法是罗马帝国留给人类最重要的遗产之一，查士丁尼在这方面倒是功德无量。
查士丁尼无法实现统一的梦想，还有一个宗教的原因。这时，基督教的东方教堂和西方教堂的界限逐渐分明，罗马主教成了教皇，其权力已不下于已失势的罗马皇帝的继承人。早在罗马帝国灭亡之前，罗马的政治地位就已江河日下，而其宗教地位，却由于基督教的广泛流传和其影响的不断增长，日益提高。作为教皇所在地，罗马成了高贵之城，西方世界的宗教中心。基督教的影响和教皇的非凡能力使蛮族人也对罗马抱有相当深厚的崇敬之情。罗马教皇当然不愿意有一个不同教派的世俗君主凌驾于自己的权力之上。基督教的分裂使东西两部分的距离更大了，统一更不可能了。
六、罗马帝国灭亡的原因
1.离心离德：内部矛盾的激化
罗马帝国灭亡了，而且是彻底地永远地灭亡了，东罗马帝国也只是拜占庭帝国，就像后来的查理曼建立的加洛林帝国和更晚的神圣罗马帝国一样，都被冠于罗马帝国之名，却丝毫无罗马帝国之实。罗马帝国的灭亡不像中国某个王朝的灭亡。中国旧王朝灭亡，取而代之的新王朝建立，中国仍是中国，四分五裂在中国是暂时的，最后总要趋向统一。这是因为中国有深厚的不可动摇的统一基础。汉文化作为中国文化的核心，具有不可取代性。罗马帝国则不同。罗马帝国的地中海世界并没有中国那样深厚的统一基础。罗马帝国基本上是靠武力统一的。古代地中海世界，埃及、小亚细亚、希腊诸文明都要高于罗马，罗马在军事上征服了地中海，而希腊文明却征服了罗马。古希腊文明是城邦文明，不适应一个庞大的帝国。罗马帝国末期，政治上东方化了，军事上蛮族化了，宗教信仰基督教化了，企图恢复原有的宗教信仰的罗马皇帝朱里安，竟被称为叛教者，这说明改信基督教的罗马人已忘记他们的祖宗信什么宗教了。这种情况，在中国是不可能发生的。中国也曾被少数族统治过，但汉文化的核心地位从未动摇过，中国的统治者，对宗教是宽容的，但中国敬天、敬祖宗、敬神的传统信仰从未被任何宗教取代过。中国的皇权是唯一的，不可分割的，它高于一切其他权力，包括宗教权力。罗马由于是从城邦发展来的，它没有中国这样高于一切的绝对的不可分割的权力，元首制是二元的，后期帝国的皇权也不是唯一的不可分割的，两帝共治、四帝共治是常规。地中海世界由于缺乏可靠的不能动摇的统一基础，它的统一就只能是暂时的。
罗马是一个特殊的从共和制发展到帝制的帝国，“其兴也勃焉，其亡也忽焉”，而且一亡就再也无法恢复。西方的古代帝国都是如此，比罗马早的亚历山大帝国如此，比罗马晚的查理曼帝国也是如此，不同的是后两个帝国主要靠统治者个人的杰出才能建立起来，因此亡得更快。罗马在西方算是延续时间最长的一个帝国了，从建国算起，有1000年的历史，从建立帝制算起，有500年的历史，其鼎盛时期，有两百多年。这和东方一些帝国，特别是中国相比，时间太短暂了。
罗马帝国衰亡是必然的，西方本质上是多元的，在古代，一个多元的大帝国是很难长期维持的。但是造成罗马衰亡的因素是很多的，其中也包括许多偶然因素。最明显的因素是蛮族入侵。不过，这是一个一直在起作用的外来因素，如同中国一直处于北边游牧民族的侵扰中一样，罗马也一直处于北方蛮族的威胁中。就日耳曼人和罗马人的关系而言，开始时，日耳曼人处于守势，是被侵略的，他们居住活动的地区是罗马扩张的目标，日耳曼人甚至都成了罗马的重要奴隶来源，罗马人曾多次战胜过日耳曼人。如果罗马不是自身衰落，蛮族的入侵是可以挡住的。外族入侵成了罗马的灾星，是由罗马内部变化造成的，外因是通过内因起作用的，其实，没有蛮族入侵，罗马帝国也维持不下去了。面对蛮族入侵，罗马皇帝要征召一支足以抵抗入侵者的军队都非常困难，吉本在谈到西罗马帝国衰败征象时说：“罗马政府在敌人眼中一天比一天软弱，而对它自己的臣民来说，一天比一天更为凶恶，更为可厌了。随着公众灾祸的增多，赋税日益加重……心术不正的富人把不平等的负担从自己身上转移到人民身上。富人用欺骗手段夺走有时还可以略为缓解他们灾难的一些特惠待遇，没收他们的财货，对他们进行拷打的严酷的征敛使得瓦伦蒂尼安的臣民宁可接受野蛮人的更为简单化的暴政统治，逃亡到森林或山区中去，或者甘愿去充当下贱的可以赚点钱的奴仆。过去人们所极力追求的罗马公民称号，现在只感到非常厌恶，纷纷放弃。高卢的阿尔莫利卡省和西班牙的绝大部分地区，通过巴高达的联盟已陷入一种混乱的独立状态中，而帝国的大臣们则利用各种禁令和力量有限的武力追逐着他们逼出的叛民。如果所有的野蛮人征服者有可能同时被消灭，他们的彻底毁灭也不可能使西部帝国重新得到恢复。如果罗马仍然存在，他也决不可能再具有原来的自由、品德和荣誉了。”
吉本的分析是深刻的，试想，一个令自己的人民害怕、生厌的政府，能有什么力量去抵抗外来侵略。在人民对罗马公民的称号都心生厌恶的时候，在人民宁要异族统治而不要本国的统治者的时候，在人民被政府和富人欺压得无法生活、忍无可忍、群起造反的时候，这个国家还能不亡吗？这样的政府还能维持吗？造成西罗马帝国灭亡的不是蛮族这个外来侵入者，而是帝国内部逐渐增长的崩溃因素。吉本的分析中还有一点值得我们深思，他认为，即使罗马帝国不灭亡，也不是原来的罗马了。这是非常有见地的。罗马正是在衰败过程中逐渐官僚化、东方化，如果不灭亡，也只是另一个东方式的君主集权国家，或另一个拜占庭帝国。罗马的灭亡，打断了罗马东方化、官僚化、集权化的过程，才有了后来的西欧的中世纪，也才有了近现代的西方。
2.乌合之众：军队中的种种弊端
当代罗马史学家迈克尔·格兰特在分析罗马灭亡时，认为罗马帝国灭亡的主要原因是帝国的毁灭性的不团结。这和吉本的分析大致上是一样的，吉本所说的统治者与被统治者水火不容、势不两立也就是格兰特所说的不团结。在这方面，格兰特的分析更具体、更充分。