石遵自破城之后，斩张豺于平乐市，夷其三族。假刘氏令曰：“嗣子幼冲，先帝私恩所授，皇业至重，非所克堪，其以遵嗣位。”于是遵即皇帝位，大赦！
当石遵起事之时，对武兴公冉闵道：“努力！事成，以尔为太子。”而此时石遵为得人望，立故燕王石斌子衍为皇太子。以义阳王石鉴为侍中、太傅，沛王石冲为太保，乐平王石苞为大司马，汝阴王石琨为大将军，武兴公冉闵为都督中外诸军事、辅国大将军。
石遵诏命未至，沛王石冲听闻石遵杀石世自立，宣告群下道：“世受先帝之命，遵辄废而杀之，罪莫大焉！其敕内外戒严，孤将亲讨之。”于是留宁北将军沐坚戍幽州，帅众五万自蓟南下，传檄燕、赵，所在云集！
石冲大军行到常山，跟随而来的讨逆军已然十余万众。恰在这时，石遵的任命诏书到了，石冲见自己坐得太保，心生退意。便对众僚属道：“皆吾弟也；死者不可复追，何为复相残乎！吾将归矣！”
此言一出，将属们大都附和，只将军陈暹道：“彭城篡弑自尊，为罪大矣！王虽北旆，臣将南辕。俟平京师，擒彭城，然后奉迎大驾。”
于是石冲心定，继续进军。遵使武兴公冉闵及李农等帅精卒十万讨之，由于石冲手下多是些不习战阵的百姓，遇冉闵所帅精兵，一战之后，知不能敌，便多所溃散。冉闵乘胜又领大军与石冲交战于平棘，冲兵大败。石冲虽引骑逃走，却终被抓获，赐死！其部众三万余人被坑杀。
冉闵平叛之后，自恃功高，想要把控朝政，而又对掌控关中而握有兵权的蒲洪（后改名苻洪，是苻坚祖父。）有所忌惮！便对石遵道：“蒲洪，人杰也；今以洪镇关中，臣恐秦、雍之地非复国家之有。此虽先帝临终之命，然陛下践祚，自宜改图。”
于是石遵便下诏免除蒲洪都督之职，蒲洪接到诏书后，大为恼怒。便帅众回到枋头，把守这军事要地！然后向晋室派出密使，请求回归晋廷，并请求晋室能出兵相助！
鉴于石遵刚刚平定了石冲的叛乱，国中还不稳定，一直在辽东虎视眈眈的燕国已经有些蠢蠢欲动了，于是平狄将军慕容霸上书言：“石虎穷凶极暴，天之所弃，馀烬仅存，自相鱼肉。今中国倒悬，企望仁恤，若大军一振，势必投戈。”
然而燕王慕容俊以新遭大丧，不宜议兵，将其搁置。远在边关的慕容霸闻讯，立马赶回燕都龙城，向慕容俊进言道：“难得而易失者，时也。万一石氏衰而复兴，或有英雄据其成资，岂惟失此大利，亦恐更为后患。”
慕容俊道：“鄴中虽乱，邓恒据安乐，兵强粮足，今若伐赵，东道不可由也，当由卢龙；卢龙山径险狭，虏乘高断要，首尾为患，将若之何？”
慕容霸回道：“恒虽欲为石氏拒守，其将士顾家，人怀归志，若大军临之，自然瓦解。臣请为殿下前驱，东出徒河，潜趣令支，出其不意，彼闻之，势必震骇，上不过闭门自守，下不免弃城逃溃，何暇御我哉！然则殿下可以安步而前，无复留难矣。”
慕容俊闻言，虽已有些心动，但是仍然是犹豫不决，便想起了当年数次帮助慕容皝制定军策的封弈，便问他伐赵是否可行！
封弈对道：“用兵之道，敌强则用智，敌弱则用势。是故以大吞小，犹狼之食豚也；以治易乱，犹日之消雪也。大王自上世以来，积德累仁，兵强士练。石虎极其残暴，死未瞑目，子孙争国，上下乖乱。中国之民，坠于涂炭，廷颈企踵以待振拔，大王若扬兵南迈，先取蓟城，次指鄴都，宣耀威德，怀抚遗民，彼孰不扶老提幼以迎大王？凶党将望旗冰碎，安能为害乎！”
这时‘从事郎中’黄泓知道慕容俊如今已然心定，便想借势再加助力，于是进言道：“今太白经天，岁集毕北，天下易主，阴国受命，此必然之验也，宜速出师，以承天意。”
折冲将军慕舆根也上言劝道：“中国之民困于石氏之乱，咸思易主以救汤火之急，此千载一时，不可失也。自武宣王以来，招贤养民，务农训兵，正俟今日。今时至不取，更复顾虑，岂天意未欲使海内平定邪，将大王不欲取天下也？”
慕容俊见国内众将皆锐意进取，于是以慕容恪为辅国将军，慕容评为辅弼将军，左长史阳鹜为辅义将军，谓之“三辅”。慕容霸为前锋都督、建锋将军。选精兵二十馀万，讲武戒严，为进取计。准备不日伐赵！
而在江南的晋室朝廷如今见石赵大乱，更是有了恢复中原之意，于是桓温出屯安陆，遣诸将经营北方。
征北大将军褚裒上表请伐赵，即日戒严，直指泗口，朝议以裒事任贵重，不宜深入，宜先遣偏师。裒奏言：“前已遣前锋督护王颐之等径造彭城，后遣督护麋嶷进据下邳。今宜速发，以成声势。”于是裒帅众三万，径赴彭城，北方士民降附者日以千计。
北方民众见晋廷举兵，相与起兵相应，求援与褚裒，裒遣部将王龛、李迈将锐卒三千迎之。遇赵南讨大都督李农帅骑二万来战，王龛等寡不敌众，全军覆没于赵地！而赵军乘胜追讨，一月间便把刚刚回归晋统的城池全都夺了回去！朝廷闻讯意消。
当晋起兵之时，河北之民欲投晋者二十余万人，而正欲渡河之时，又遇褚裒兵败，无人相接，最终被赶来的赵兵围杀，以致于死亡略尽！
冉闵见赵境兵贼四起，而自己在朝中又不得专权，渐起不臣之心，只是如今石氏掌兵者众多，不可轻易发难。于是抚循殿中将士，皆奏为殿中员外将军，爵关外侯，以收人心，而石遵不疑，皆以授之！
十一月，石遵召义阳王石鉴、乐平王石苞、汝阳王石琨、淮南王石昭等入议于郑太后前，说道：“闵不臣之迹渐著，今欲诛之，如何？”
石鉴等皆道：“宜然！”
郑氏说道：“李城还兵，无棘奴，岂有今日！小骄纵之，何可遽杀！”石鉴出宫，密遣宦者杨环前往告知冉闵。
于是冉闵遂劫李农及右卫将军王基密谋废遵，派将军苏彦、周成帅甲士三千人将石遵抓到南台。
当时是石遵正在与妃子弹棋，见周成等甲兵相见，问道：“反者谁也？”
周成道：“义阳王鉴当立。”
石遵仰天笑道：“我尚如是，鉴能几时！”于是冉闵遂将石遵诛杀，然后迎立石鉴！
冉闵既立石鉴，更加肆无忌惮，把控朝政，进位大将军，晋爵武德王。
而在枋头的蒲洪，受到秦、雍二州流民拥戴，共推为主，帐下士众如今已达到十余万之多！此时在邺都的蒲健闻讯，便从邺都斩关而出，一路直奔枋头而去！
此时在邺都刚刚即位的石鉴害怕蒲洪起兵相逼，便想用计遣之，于是以洪为都督关中诸军事、征西大将军、雍州牧、领秦州刺史。
蒲洪接到诏命，便召集官署，商议是否接受策命；主簿程朴请且与赵连和，如列国分境而治。蒲洪怒道：“吾不堪为天子邪，而云列国乎！”引朴斩之。于是与赵相争！
新兴王石祗，石虎之子也，此时领兵镇守襄国，见冉闵把持朝政，两易赵主，便与姚弋仲、蒲洪等联络，想要一起出兵讨伐，在得到支持后，移檄中外，通告欲共诛冉闵之意！
于是冉闵以汝阴王石琨为大都督，与张举及侍中呼延盛帅步骑七万分分兵讨伐石祗、姚弋仲、蒲洪等人。
而在邺都，众羯人见冉闵以汉人掌权，亦有反心！于是趁着冉闵等方忧心于外事，龙骧将军孙伏都、刘铢等帅羯士三千伏于胡天，欲诛冉闵。
当时石鉴在中台，于是孙伏都帅三十馀人准备升台挟持石鉴，然后假称石鉴的命令攻袭冉闵。石鉴见孙伏都冲毁阁道，临问其故。
孙伏都道：“冉闵等反，已在东掖门。臣欲帅卫士以讨之，谨先启知。”
石鉴回道：“卿是功臣，好为官陈力。朕从台上观，卿勿虑无报也。”于是孙伏都、刘铢帅众向冉闵进攻，由于冉闵随身护卫众多，未能得手，孙伏都等便转屯于凤阳门。
冉闵帅众数千欲攻孙伏都等，不得门而入，于是欲从旁抄略，遂毁金明门。石鉴在凤阳门内，惧冉闵因怒杀己，于是遣使驰招冉闵，开门内之，谓曰：“孙伏都反，卿宜速讨之。”
冉闵得入凤阳门，帅众强攻孙伏都等，先后三战，终于诛杀孙伏都众人！而战后宫墙之内，自凤阳至琨华，横尸相枕，流血成渠。
冉闵鉴于孙伏都等帅羯族士众反叛，而羯人勇悍，又多习武，恐遗为后患，于是宣令内外六夷，敢称兵仗者斩。
胡人闻令，以为将被戮于当政者，于是帅众斩关、逾城而出，数日之间，曾不间断，四处起兵者，不可胜数！
冉闵诛孙伏都等之后，执石鉴，使尚书王简、少府王郁帅众数千幽禁石鉴于御龙观，每到用食之时，则令兵悬食以送之！于是国中之政，尽由冉闵专之！
冉闵下令城中言：“近日孙、刘构逆，支党伏诛，良善一无预也。今日已后，与官同心者留，不同者各任所之。敕城门不复相禁。”于是邺都周围百里内的汉人悉数入城，以奉冉闵，而胡、羯争相离去者拥堵于城门之前，以致于填门，众难出入！
自令下，冉闵见胡、羯争相离去，知其不能为己用！又念当年羯、胡入中原之时，以汉人为食，欲为汉人报仇而得人望，于是班令内外：“赵人斩一胡首送凤阳门者，文官进位三等，武官悉拜牙门。”
自令下后，一日之中，邺中胡、羯被斩首者数万。见赵之汉人欲诛羯、胡者甚众，于是冉闵亲帅赵汉人以诛胡、羯，无论贵贱、男女、少长皆斩之，死者二十馀万，尸体遍布邺城之外，为野犬豺狼所食者太半！
见邺都诛羯、胡而得人，于是冉闵致书屯戍四方之汉人将帅，命其诛境内羯、胡以报国！有滥权邀功者，每以面容奇特者为胡，以致高鼻多须滥死者半！
永和六年（公元350年）春，正月，赵大将军冉闵想要灭掉石氏之后，托以谶文有“继赵李”，更国号曰卫，易姓李氏，大赦，改元青龙。
赵国大臣见冉闵残暴，数日间所杀之人比于羯、胡，以为其势必不能久。于是太宰赵庶、太尉张举、中军将军张春、光禄大夫石岳、抚军石宁、武卫将军张季及公侯、卿、校、龙腾等万馀人，出逃襄国，汝阴王石琨逃往冀州。
抚军将军张沈据滏口，张贺度据石渎，建义将军段勤据黎阳，宁南将军杨群据桑壁，刘国据阳城，段龛据陈留，姚弋仲据滠头，蒲洪据枋头，众各数万，皆不附于冉闵。
汝阴王石琨及张举、王朗帅众七万伐鄴，大将军冉闵帅骑千馀与战于城北；当是之时，众寡难敌，于是冉闵操两刃矛，亲犯贼锋，数摧折之，以示士卒以必胜，如此三遭，贼兵皆披靡，众将士皆以为复见项羽，争相愿从！
于是冉闵帅众驰骑击之，所向摧陷，斩首三千余级！石琨帐下士兵士气低迷，争相逃散之人，以致于数万，琨等见败势已定，遂帅余军归去。冉闵乘胜又与李农帅骑三万讨张贺度于石渎，而又遇邺中有事，还军！
冉闵得胜还朝，诛杀石鉴及石虎诸孙，尽灭石氏！
司徒申钟等上尊号于冉闵，冉闵推辞道：“吾属故晋人也，今晋室犹存，请与诸君分割州郡，各称牧、守、公、侯，奉表迎晋天子还都洛阳，何如？”
尚书胡睦进言道：“陛下圣德应天，宜登在位，晋氏衰微，远窜江表，岂能总驭英雄，混壹四海乎！”
冉闵道：“胡尚书之言，可谓识机知命矣。”
于是冉闵乃即皇帝位，大赦，改元永兴，国号大魏。