第四集团军经编遣后，在武汉的只有夏威第十五师、胡宗铎第十六师、陶钧第十七师、叶琪第五十二师；在湖南的有鲁涤平第十八师、何键第十九师、谭道源第五十师；另有王泽民的第五十四师驻在北平南苑。
在蒋桂战争中，是武汉方面先动，夏威、叶琪两师由鄂入湘，鲁涤平于二月二十一日晨接到报告，立即率部向江西退走，夏、叶两师遂占领长沙。夏师的李明瑞旅和附属指挥的杨腾辉旅追击鲁部。二月二十六日，直抵湘赣交界处的渠城，才停止前进。此时蒋介石已由溪口回到南京，接见鲁涤平得悉一切。二月二十八日，胡宗铎、陶钧、叶琪、何键在长沙举行会议后，胡宗铎师集中武穴、黄梅、广济以对付长江下游。夏威师附杨腾辉旅调集武长路岳州、蒲圻、咸宁一带，以对赣北。程汝怀、张义纯（1895—1982，桂系骨干将领，作战勇猛，号称小张飞。曾任国民党二十一集团军代总司令、国民党政府最后一任安徽省主席。）两师集中武汉，并以一部向黄州移动。陶钧师则由罗田、黄安向田家镇、武穴增援。他们显然对白崇禧所提放弃武汉的建议置之不顾。
此时，冯玉祥雄视中原，举足轻重。李宗仁派温乔生谒冯氏于河南辉县百泉村，请其居中停处，化干戈为玉帛；蒋介石则派邵力子偕马福祥于三月五日访冯玉祥于华山，要求冯氏派兵从河南出兵进攻武汉，以冯氏任行政院长作为条件，如冯玉祥态度中立，则蒋介石自难悍然用兵。不幸冯氏意动，蒋氏遂公开发表冯氏给他有谓“玉祥服从中央，始终一致”的电报，以免其中途变卦。为此，蒋介石改订原来内定的战斗序列。三月二十八日，以冯玉祥部的将领韩复榘为第三路总指挥，由豫南向武汉进攻；中央军第一军（军长刘峙）和第二军（军长朱绍良）改为第二路军，西攻武汉；在江西的朱培德所属第三军为第一路军，西攻武长路，截断武汉退路。同时蒋介石委任何键为第四军军长，从事分化。
李宗仁在离上海前，电令武汉第四集团军总司令部参谋长张华辅，着委何键、叶琪、夏威、胡宗铎、陶钧为第一、二、三、四、五路司令。饬令各部在黄陂至武穴之线待敌。三月二十六日，张华辅依照电令发表。并以李明瑞为第三路副司令。二十七日，因夏威患扁桃腺炎入院割治，再发一道命令，以李明瑞代理第三路司令，着该部守黄陂、祁家湾至平汉路一带。此时，李明瑞已与俞作柏拉上关系，夏威一病，遂给李明瑞以自由行动的便利。
前面说过，周伯甘到汉口晤李明瑞后，李以这事关系重大，必须同他的表哥俞作柏商量才能决定，这是李明瑞向来的习惯。周回报蒋介石，结果杨永泰通过梁五凤的关系找到了俞作柏，俞作柏到南京谒蒋得到一笔巨款，事遂决定。“湘案”发生，李明瑞旅与杨腾辉旅进兵湖南，途中李明瑞就和杨腾辉勾搭上了。他们相约到适当时期，便以反对胡、陶为名，脱离第四集团军的系统。以后李明瑞又争取李朝芳旅（原第七军第二师）的梁重熙团和尹承纲旅（原第七军第三师）的庞汉祯团参加，这样就有八个团了。李明瑞接到命令代理第三路司令后，即在汉口太平洋饭店约集这八个团长讲话，说吾人举义目的在反对胡、陶，因他没有说反对李、白和归附南京，所以座上无人提出异议。
李明瑞于三月二十八日晚率所部五旅从汉口出发，去黄陂、祁家溪布防，三月二十八日，南京三全大会闭幕。二十九日，蒋介石即乘“楚有”舰到九江。三十日，对武汉下总攻击令，因前线已有默契，所以只虚张声势，并无实际行动。四月二日，俞作柏乘海军舰艇上溯到刘家庙，与李明瑞取得直接联络，约定行动时刻。当日傍晚，李明瑞即指其本旅、李朝芳旅的梁重熙团、尹承纲旅的庞汉祯团，以及杨腾辉全旅秘密集结，连夜以急行军撤往平汉铁路线上的花园和安陆一带。四月三日，在花园贴出打倒胡、陶的标语，后来安陆也出现反对李、白的布告了。
胡宗铎、陶钧、夏威因李明瑞的倒戈行动，变生不测，并以冯玉祥于三月三十日通电讨伐“桂逆”，武汉态势孤立。诚如白崇禧所说：“武汉乃四战之地，易攻难守。”他们是时在去黄陂的火车上商议，决定从四月三日起全线退却，到四月四日晚，最后部队也离开武汉。叶琪部由武昌南撤，集结武长路因接到何键电，知他已就蒋介石所委任第四军军长职，归路被截，事无可为，于四月五日离队而去。四月五日，蒋介石到达武汉，宣布“兵不血刃而定武汉”。
胡宗铎、陶钧和夏威率所部到鄂西后，原拟守住沙市、宜昌。但因他们到武汉后，生活腐化，脑满肠肥，长期脱离部众，士无斗志。四月二十日，竟接受孔庚的招抚，向蒋介石投降。一天，夏威得胡、陶送来五万元，说是“中央送给他出洋的”。夏遂搭英国兵舰去香港。所部由李朝芳统率。五月二十七日，李朝芳向蒋介石新任的第一路追击司令官张发奎接洽，由全部官兵运送武器去张的司令部，完成变相的缴械手续。第四集团军就这样冰消烟散了。
蒋介石攻下武汉后，忽于四月八日在汉口发出通电，表示愿意下野出洋，以息内争。时人对蒋氏此一表态，多不明其所以，后来才了解到，他是对李、白有所暗示的。四月十六日，被蒋介石扣留在汤山的李济深，经不起古应芬的施加压力，特亲函李宗仁、白崇禧，劝请他们出洋。函中有云：“……我辈生平自许救国，而形迹乃至伐勋，汤泉涤我，愧汗无地。所以既自知其负忒，又复何敢高论？万望两兄即日严斥旧部绝对停止蠢抗，以求未減。自己则早日行赴海外，得知识之加增，亦可有益于社会……”李、白以李济深在狱中所写，不能自由表达其意见，卒不复。
蒋介石在三月二十六日所下的讨伐令，只涉及李宗仁、李济深、白崇禧三人，所以广西省政府主席兼第十五军军长黄绍竑此时还置身事外，不被牵累。蒋介石见李济深函得不到任何反应，又关照谭延闿、何应钦电黄绍竑，要他顾全大局，劝解息争。但电文盛意凌人，黄不甘示弱，复电谭、何，请先恢复李宗仁、李济深、白崇禧三人名誉，然后方可进行劝解工作。蒋介石自然不予理睬。到四月底，蒋介石忽由广东省政府主席陈铭枢转来一电，要黄绍竑办四件事：
一、着黄绍竑将李宗仁、白崇禧拿解来京，听候查办；
二、广西境内部队缩编为两个师，剩余武器解缴中央；
三、广西不得收容由武汉退回之部队；
四、黄绍竑将以上三项办妥后，得任为两广编遣副主任（主任为陈济棠）。
李、白回到广西，对于将来如何打算，原无任何考虑，但蒋介石此电欺人太甚，终于逼上梁山。广西人性格是倔强的，向来以“唔有怕”（什么都不怕）闻名，你迫他越厉害，他就会同你蛮干到底。李、黄、白在蒋介石施加的沉重的压力下，没有选择的余地，当即召各部队长到容县举行会议，决定行动方针。
那时，第十五军第二师师长黄旭初，刚巧率部从粤北经湘南回桂，也参加了会议。会上除吕焕炎（第十五军第三师师长）外，大家对蒋介石无理压迫，都愤慨异常。他们一致主张先发制人，绝不坐以待毙。于是，做了这样一项决定：出兵攻粤。大概在极端愤慨的情况下，人们让唯意志论来主宰一切，而不愿用冷静头脑来考虑整个行动的利害得失，他们还幻想取得局部军事上的胜利，转移政治上的颓势。实际上，胜利的功算是不存在的。广东陈铭枢、陈济棠两部，至少有六个师，而蒋介石还可以派兵去支援；而广西只有第十五军三师，孙子不是说过“倍则攻之”，是则在交战以前，胜负如何已判然若揭了。
蒋介石以黄绍竑不肯就范，于五月四日下令将他撤职，以伍廷飏任广西省政府主席，吕焕炎为广西编遣特派员，并以何键为讨逆军第四路总指挥，陈济棠为第八路总指挥，分由湘粤夹击广西。
五月五日，李宗仁在梧州就护党救国军总司令职，通电讨蒋。“护党”是唐生智、张发奎等在一九二六年下半年反对特别委员会时所用的旗号。现在，急忙中李宗仁也利用它来反蒋了。李宗仁为了联络冯玉祥，前往香港进行政治上的活动。广西部队由黄绍竑、白崇禧两人指挥东下攻粤。
黄绍竑指挥第一路，沿西江向三水攻广州；白崇禧指挥第二路，经怀集、广宁、四会，约定两路军于五月九日在三水会合。白崇禧指挥的一路于五月七日到达芦苞对岸的蒋岸墟，敌沿北江沿岸戒备，经旬不能渡，到十八日才由大塘强渡成功，占领大塘，敌退芦苞。十九日，白指挥伍廷飏、吕焕炎两师击败敌军香翰屏旅和张达教导团于芦苞，伍廷飏的副师长梁朝玑受伤。二十日，白崇禧又击败余汉谋于大塘。两处敌军于二十一日退到白泥防守。
黄绍竑指挥的一路因无法渡江攻三水，也转来大塘会同白崇禧进攻白泥。二十二日，总攻白泥不利，黄旭初师长受伤，由广东起义过来的王应榆旅长被俘，黄师的团长叶丛华从阵中逃亡。此时白崇禧接徐景唐电，知他率所部协攻广州，但徐在东江，联络不到。白看到所部伤亡过大，进展无望，遂与黄绍竑商定全军经由怀集退回梧州，这是攻粤的第一次失败。
何键见白崇禧、黄绍竑攻粤久无进展，才指挥所部刘建绪、吴尚、周斓各师和陈光中旅从桂北进入广西，桂林警备司令张任民以众寡不敌，逐步退向柳州，湘军跟踪追击，白崇禧乃将入粤退回梧州的部队编成一、二、三纵队，以徐启明、覃连芳、雷飚分任纵队司令官，而以第一师长伍廷飏为总指挥，调他们到柳州方面迎敌。六月十七日，覃连芳败陈光中于柳城。十九日，徐启明、雷飚两纵队迎击刘建绪、吴尚两部于沙塘，覃连芳回师夹击，刘吴大败而逃。六月二十四日，覃连芳乘胜收复桂林。但柳桂的胜利因李明瑞、杨腾辉两部返桂而抵消了。
当白崇禧、黄绍竑攻粤时，蒋介石即将在武汉倒戈的李明瑞、杨腾辉两师由长江运到广东，徐景唐在石塘附桂，被李明瑞派兵将其击溃。李、杨两师于六月二日乘虚进入梧州，蒋介石以伍廷飏、吕焕炎不受利用，特将他们免职，另任俞作柏为广西省政府主席，李明瑞兼广西编遣分区特派员。李、杨在梧州稍留，即率部溯江而上桂平，是时白崇禧已无兵可调，只好约同黄绍竑离桂出走。但白在桂柳有所部署，迟迟未能成行，黄绍竑在南宁等得不耐烦，黄氏特电白崇禧：“一走百事俱了，不走百事不了。”白崇禧回到南宁时，李明瑞部已进抵贵县。即与黄绍竑乘小电船去龙州入安南（今越南），这是当年陆荣廷出走的旧路，而今白、黄也步其后尘。回念及此，不禁感慨万分。白崇禧决定在河内住下，他估计俞作柏遇事偏急冒进，不久广西仍将发生变化。住在河内可以就近策应；黄绍竑则决定前往香港。两人分手时，白崇禧已不名一钱，黄绍竑也只有二万元，而他亦将其中款项平分一半给白氏。从此他们就过着流亡生活。