一九二七年，蒋介石乘“楚同”军舰抵上海，驻江苏交涉使署。他告诉白崇禧说，武汉方面，国民党于三月十日在汉口召开第二届三中全会，会期七天，这次会议是共产党与国民党所谓左派分子互相勾结利用，以夺取党政军大权为目的。会议通过了《统一党的领导机关案》、《中央执行委员会军事委员会组织大纲》、《国民革命军总司令部组织条例》等案，其目的在削弱革命军总司令的权力，攫得中国革命的领导权。
国民党第二届三中全会后，蒋介石对全党党员发布训令，他概括地指出：“自北伐以来，军事、政治、党务皆集中于个人，庶政设施，逐渐脱离党的领导，驯致陷于只受军事机关之支配状态中。中央执行委员会全体会议深感本党目前危机，非有切实挽救之方，不足以负全国代表大会之委托，经详慎考虑决定，将一切政治军事外交财政等大权，均须集中于党。此等决议，为适合中国革命之需要，将借以防止党内投机腐化及军事专政独裁之趋势。中央执委会之毅然出此，乃基于民主集中制观点，以与封建势力斗争，绝非对个人有所爱憎也。”
蒋介石说：“照目前情势发展下去，我们再不与共产党合作了。现中央监委四老（指蔡元培、张静江、吴稚晖、李石曾）准备了一个文件，将在上海开会发动‘清党’。我离开南昌前已密电任潮、季宽兼程来沪，二十三日过安庆时也嘱咐了德邻跟着东下参加会议。”
接着，蒋介石随即问白崇禧：“在上海清党需要多少军队？”
白崇禧说：“只要调走薛岳的第一师，留下刘峙的第二师及周凤歧的第二十六军便够了。”
蒋介石又问：“你看需要多少时间？”
“三天差不多，至多不会超过一星期。”白崇禧答道。
“你要小心，注意防范共产党的渗透。”蒋介石最后这样说。
蒋介石在上海分别召集第一军第一师、第二师的干部训话，表示清党的决心。第一军第一、二两师是从黄埔校军、党军扩编而成的，是他的嫡系子弟兵。他在训话后，第一师有些中级干部起来质问他，说：“三大政策是孙总理制定的，清党就是反共，反共就是反对总理遗教，就是反革命，这岂能是素以革命自负的校长（按：黄埔学生一贯叫他校长）所应该做的？”蒋介石被气得拍案大骂，力竭声嘶，他更因此而迁怒于第一师师长薛岳，说他管教不严，把他免职调回广东安置。第一师则采纳了白崇禧的建议，全师移防镇江，它驻守的淞沪地区由第二师接防。
共产党在上海的领导人知道第一师调离上海后，便发动了各界人民代表到白崇禧的淞沪警备司令部（白氏一到沪，蒋介石就任他为淞沪警备司令）请愿，要求挽留第一师，拒绝第二师。十分明显，第一师的干部中有许多是共产党员，这是白崇禧也很了解的。白崇禧告诉这些代表：“调动军队是总司令决定的，我不能擅自变更。”代表们见到白崇禧那么说，也就无可奈何地离开了。
李宗仁于三月二十八日到上海，住在龙华白崇禧的司令部里。白崇禧告诉李宗仁，此时不仅工人势力庞大，连第一军第一师也不稳。他已向蒋介石建议把该师调离上海了。
四月一日，李济深、黄绍竑乘“比亚士总统”号到上海，白崇禧派他的参谋长张定璠乘差轮去接他们，到时与李宗仁住在一起。彼此在热烈握手时，白崇禧发现黄绍竑变得几乎认不出来，原来他的满腮胡子不见了。白崇禧问黄：“为什么舍得牺牲留了这么多年的胡子？”
“原来是这样，”黄绍竑说，“三月下旬接李任公急电，要我立刻到广州去。到时他出示蒋先生由南昌发来的电报，要我们到上海和他见面，商量重要问题。任公说：‘香港到上海的船票，都准备好了，下午就动身。’我回到颐养园向妻子（蔡凤珍）告别，说要立刻秘密到上海去，她听了说：‘你那满面的长须，哪一个不认识你？挂一个招牌在面上，还能保密吗？不如就把胡须剃去吧！’我听了她的话，就这么办了。这六年来相随不舍的东西，至此不能不割弃了，心中不免有些难过！”
不久，蒋介石到白崇禧的司令部同李济深、李宗仁、黄绍竑、白崇禧会晤。寒暄以后，蒋氏说：“明天将要举行一个会议，讨论清党问题。”这表明，北伐开始时的八个军，除第一军外，只有上面这几位广西佬站在蒋介石一边。参加这次为世人所称的“反革命政变”。
六、“清党”事件从酝酿到行动
四月二日，在蒋介石的布置下，在上海的国民党中央监察委员蔡元培、张静江、吴稚晖、李石曾、李宗仁、黄绍竑、古应芬、陈果夫等人在上海莫里哀路孙中山故居开会，由吴稚晖提出《国民党内跨党分子与共产党谋叛案》。据白崇禧所了解，这一文件是在三月一日浙江省政府在杭州开始办公时，就已经准备好了的。当经决议，咨请中央执行委员，采取措施，以防阻叛乱行为于未然。白崇禧也列席了这一会议，没有经过什么辩论，就草草地决定了。
本来在监委开会以后，蒋介石就要白崇禧开始动手的。但由于汪精卫于四月一日从欧洲返抵上海，蒋介石要争取与汪精卫合作，从而把这一政治风暴的发动日期推迟了。
与汪精卫在上海会晤以后，蒋介石即于四月三日以总司令名义发出下面的拥汪通电：
南京何总指挥（应钦），南京汉口探送程总指挥（颂云），汉口唐总指挥（生智）、九江宋总指挥、陈总指挥（宋鹤庚、陈调元）并转各军长师长钧鉴：我军势力日益进展，东南已告底定，江北频传捷音，河南敌势不振。当此革命大业功亏一篑之际，如能统一党权，有全党信赖之人，指导督促，疏解纠纷，排除障碍，国民革命即可告成。汪主席病假逾年，不特全国民众渴望仰慕，党国要政亦蒙受重大影响。中正曾经迭电促驾，今幸翩然出山，恍如大旱之望甘霖，莫名欣慰。汪主席为本党最忠实同志，亦中正平日最敬爱之师友，关于党国大计，业与恳谈，中正深信汪主席复职后，必能贯彻意旨，巩固党基，集中党权，完成革命，以竟总理之遗志。今后党政主持有人，后顾无忧，中正得专心军旅，扫荡军阀，恪尽革命天职。凡我将士，自今以往，所有军民财政外交事务，皆须在汪主席指导之下，完全统一于中央，中正统率全军而服从之。至于军政军令，各有专属，军政大计应归中央统筹，中正唯司军令，以明责任。各军长务遵此意，对汪主席绝对服从，诚意拥护，使汪主席得以完全自由行使职权，真正党权集中，达成本党革命任务，以促进三民主义之实现。特此电达，即希查照。
蒋介石还将此电就近抄送白崇禧转李济深、李宗仁、黄绍竑一阅。
通电见报的第二天（四月五日）午前十时，汪精卫、蒋介石、蔡元培、吴稚晖、李石曾、李济深、黄绍竑、李宗仁、白崇禧、古应芬、柏文蔚（1876—1947，近代资产阶级革命者。1905年秘密加入同盟会。1914年参加中华革命党。1929年3月与汪精卫、陈公博、顾孟余、何香凝等联名发表《关于最近党务政治宣言》，反对南京政府，被撤职。1945年5月在国民党“六大”上被选为中央执行委员。1947年4月病逝于上海。）、宋子文、甘乃光等约集在上海道尹公署楼上举行谈话会，本来准备商量党内团结问题，可是由于上海各报刊登了汪精卫、陈独秀在当天发表的联合宣言，就把会场空气搞混了。
吴稚晖扬着刊载汪、陈宣言的报纸问汪精卫道：“今日各报刊载国共两党首领宣言，外界引起很多误会，难道中国从此即由两党共同统治了吗？”
汪精卫大笑，说：“这是读新闻的文理欠通，全篇宣言只是说两党不可发生误会，并无两党共同统治中国的话。”
吴稚晖又说：“本党总理之所谓联俄，和汪同志之所谓联共，皆有其不可逾越的界说。‘联共’两字在国民党的文献中并无所闻，去年五月在广州虽有国共联席会议，但其意旨仅在疏解双方的误会，决谈不上‘联共’。”
吴稚晖这些话，语气凌厉，不留余地，使汪精卫十分难堪。汪氏以为是蒋介石授意要他说的。谈话会最后决定于四月十五日在南京召开中央执监委员联席会议，以和平方法，解决党内纠纷。会前决定采取下列四种暂行办法：
一、由汪精卫通知陈独秀，暂行停止共产党的过激行动；
二、武汉中央党部与国民政府命令，凡属窒碍难行者暂缓实施；
三、各级党部、军队与民众团体内，如有叛乱分子阴谋捣乱，由各该负责党局自行纠正；
四、工人纠察队以及其他民众武装，均须服从革命军总司令指挥，否则以反革命论，严加取缔。
上面这些办法，是蒋介石以己意强加于人的，汪精卫在孤掌难鸣的情况下，不得不表示同意。汪深深感到，蒋氏还是像去年炮制“中山舰事件”独断专行，绝难同他携手合作。因此到了四月六日，他便离开前往武汉了。这是宁汉分裂的开端。
汪精卫一到武汉，即接任中央党政主席职务，大呼“革命的向左来，不革命的滚开去”。并以国府下令给蒋介石即日离开上海，到南京去指挥军事。对于他于五日在上海座谈会上所承诺的事一概置之不理。
蒋介石见事已至此，只得将四月二日上海八个中央监察委员会议所决定的应付时局方针，付诸实施。四月九日，邓泽如、吴稚晖、黄绍竑、李石曾、蔡元培、古应芬、张静江、陈果夫等以国民党中央监察委员名义通电给汪精卫及全国党员，斥责武汉自成立中央联席会议以来的种种谬举和不法措施，这是蒋介石为“清党”发出的第一个信号。
也就在四月九日，蒋介石偕李宗仁、黄绍竑去南京，临行正式宣布上海戒严，委白崇禧、周凤歧为上海戒严正副司令。白崇禧侦悉上海商务印书馆的印刷厂，为上海工人纠察队的总指挥部，他的首要任务，是把那里的工人纠察队包围缴械。白崇禧派人去同上海帮会头目黄金荣、杜月笙接洽，在他们那里借得工会会员的符号和制服，于是精选一批武装突击队，化装成纠察队员带着手枪混进商务印书馆印刷厂去。
与此同时，白崇禧鉴于派部队去商务印书馆，必须通过法租界，这是一条捷径。因此他派去同法国驻沪领事商量，对过法界的军队予以方便，这位领事最初期期以为不可。后来经白崇禧晓以利害，他才同意了。
白崇禧原以为“清党”工作要三天到七天完成，后来实际上并不需要这么长的时间，上海只需一天时间便把它办妥了。这主要是靠上海帮会的帮忙。
当时实际负责“清党”工作的是蒋介石的总部特务处长杨虎（1889—1966，历任江苏军总司令、广州非常大总统府参军、上海警备司令和中国国民党4～6届中央监察委员。授陆军中将。曾受邀参加中华人民共和国开国大典，受任政务院顾问。1959年9月，最高法院以叛国通敌罪判处其死刑缓期二年执行。1966年3月在北京复兴医院病故。）与东路军前敌总指挥部（后改为淞沪警备司令部）政治部主任陈群（1890—1945，国民党元老。汪精卫在南京成立伪国民政府时，历任“内政部长”等职，多次参与签订出卖中国主权的条约和协定。日本宣布无条件投降后，畏罪自杀。）。杨、陈通知杜月笙，要他动员上海流氓参加“清党”。杜最先征得张啸林（1877—1940，中华民国时期上海青帮头目之一。浙江慈溪人，移居上海后加入青帮，成为头领，与黄金荣、杜月笙并称为“上海三大亨”。1939年日军攻陷上海，公开投敌，筹建伪浙江省政府，并拟出任伪省长。1940年，被贴身保镖林怀部暗杀于上海华格臬路张公馆。）同意，黄金荣是最后一个被说服。
四月十二日清晨四时，杜月笙、黄金荣、张啸林分别集合他们的门徒，杜月笙的爪牙由顾嘉棠率领；黄的门徒由唐嘉鹏、顾竹轩率领；杨虎特务处的特务由彭伯威率领。他们一律佩戴工字臂章，携带武器，分股从租界冲向商务印书馆印刷厂、南市和闸北纠察队址及电车工会、三山会馆、湖州会馆、申新工厂等处集结，他们乘工人纠察队尚在梦中时，缴了守卫的枪支，然后与部队采取配合的行动。
与此同时，事前约好了的第二十六军周凤歧部参谋长祝绍周指挥该军第一师伍文渊部和第二师斯烈部四个团，分别将纠察队包围，向纠察队进攻。有的地方当时发生激烈冲突，工人们仓忙应战；有的地方部队假称调解两派工人双方争端，趁机缴走了纠察队的武器。在冲突中，纠察队被打死一百多人，打伤几百人，总工会委员长汪寿华（1901—1927，1923年加入中国共产党，是五卅反帝爱国斗争的主要领导人之一。1926年10月至1927年3月，先后参与指挥了上海工人三次武装起义。1927年4月11日牺牲在上海，是四一二反革命政变中牺牲的第一位革命烈士。）被杀害。
次日（十三日），上海总工会为纠察队缴械事件，命令全埠工人举行总同盟罢工。同时罢工工人集会追悼被暗杀的委员长汪寿华和缴械时战死的工人，会后游行到闸北宝山路口仁善女校第二十六军第二师司令部，要求发还武器，与军队发生冲突，死伤游行工人百余名，被捕的亦近百人。
四月十四日，白崇禧的司令部派兵查抄原来的上海市府和工会，并取消总工会和工界联合会，派人组织“工会统一组织委员会”，办理工会事务。白崇禧在上海进行的“清党”工作至此宣告结束。
七、肃清江北之役
白崇禧于四月十四日傍晚抵南京，住前清总督衙门，蒋介石的总司令部就设在那里。当晚白崇禧向蒋介石报告上海方面“清党”的情况。蒋介石没有料想到白氏进行得如此顺利，对他颇为嘉许。
次日，蒋介石邀白崇禧列席中央执监委员联席会议，但到的人不多，只有改开预备会，改定在南京成立国民政府。从此宁汉正式分裂。
四月十六日，蒋介石在他的总部召开军事会议，何应钦、李宗仁、黄绍竑、白崇禧、陈调元等均参加，由总部参谋长朱绍良（1891—1963，国民党高级将领。1910年加入中国同盟会，参加武昌起义，讨袁战争，北伐战争。随蒋介石参加蒋冯阎战争。之后，率部参加对中央苏区的第一、二、三“围剿”。1933年任甘肃省政府主席兼驻甘绥靖主任。1937年“七七”卢沟桥抗战爆发后，率部参加淞沪会战，任中央军总司令兼第9集团军总司令。1939年任第八战区司令长官。1946年后任军事委员会副参谋总长、重庆行辕主任等职。1949年8月去台湾。）报告江北敌军动态。朱绍良说：“张宗昌、褚玉璞（1887—1929，1926年被张宗昌任命为直隶省军务督办。1928年国民革命军第二次北伐，直鲁联军被击溃，褚化装逃往大连。1929年在牟平县被枪决。）的直鲁军，已用白俄兵驾驶铁甲车做先锋冲到了浦口，不时以大炮轰击南京。我狮子山炮台也开炮还击，孙传芳亦同时南下，与镇江、常熟一带的我军隔江对峙伺隙南渡。直鲁军更以渤海舰队攻击吴淞，企图冲入长江以掩护江北陆军渡江。”会上蒋介石指出：“当前以成立政府为要图，军事暂取守势。俟下月部署就绪，再行北伐。”
四月十七日，汪精卫以国民政府主席名义，下令撤去蒋介石的革命军总司令职务。汪氏又电胡汉民、蔡元培、吴稚晖、张静江、李石曾、李宗仁、白崇禧等，谓“党事应由党自行解决，不得为局部个人，及以武力为争衡”。
四月十八日，南京国民政府正式成立。由蔡元培受印，胡汉民受印。同时，蒋介石以中央政治会议主席的名义发表迁都南京宣言。这当然是不合法的，因为三月在武汉举行的三中全会以后，他这个头衔已经不存在了。
因此，蒋介石就得一个合法基础。四月二十四日，蒋介石召集一个海陆军事会议，白崇禧也应邀参加。会后，由海军总司令杨树庄（1882—1934年，1924年北京政府授予海军副总司令、海军中将、胜威将军。第二次奉直战争段祺瑞上台，任海军总司令。蒋介石南京国民政府成立，任国民政府委员、海军总司令兼福建省政府主席、军事委员会常务委员、海军特别党部主任委员。1933年病逝于上海，国民政府在其病逝后通令全国海军下半旗志哀三日。）领衔发表通电，李宗仁、白崇禧联署，表示：一、拥护南京中央党部、国民政府；二、拥护中央监察委员四月二日建议；三、否认武汉第三次执行委员会全体会议决案，及所产生的机关与一切命令；四、欢迎各地纯粹中央执监委员来南京；五、陆海军一致完成北伐。
五月初，南京召开一次军事会议，决定三路北伐计划，其内容如下：
一、何应钦任第一路总指挥，率第十四、第十七两军和第一、第二十六军的一部由镇江常熟渡江北进，肃清江北，直取海州；
二、蒋介石自任第二路总指挥，由白崇禧代理，以陈调元为前敌总指挥，率第一军的第一、第三两师，第四十、第三十七两军，第六军杨杰（1889—1949，著名爱国将领，战略军事家。在日本加入孙中山领导的同盟会。中将加上将衔。1948年1月任中国国民党革命委员会中央执行委员，后参与策动国民党高级将领起义。1949年9月受中国共产党的邀请准备参加第一届全国政治协商会议。1949年9月19日下午四时许，在香港被国民党特务暗杀。1982年中华人民共和国民政部追认为烈士。）的第十七师，由浦口渡江北上，任津浦路正面作战；
三、李宗仁任第三路总指挥，率第七、第十、第二十七、第四十四各军和第十五军一部由芜湖渡江北上，斜截津浦路以攻浦口直鲁军侧背，并北上解合肥、六安之围，联合马祥斌、王金韬两部进攻陇海路，截断敌军与河南奉军的联络。
蒋介石以白崇禧代替他指挥第二路军，这表明自“四一二”事件以后，蒋白关系更加密切了。白崇禧到南京进行兵力部署：以贺耀祖指挥其第四十军为第一纵队；以杨杰指挥其第六军第十七师和第一、第三两师为第二纵队；陈调元指挥其第三十七军为第三纵队。
第二路渡江最先的是陈调元的第三纵队，五月九日，由西梁山渡江。十一日，进占和县，即与进驻含山的李宗仁第三路第一纵队（叶开鑫）协力斜截浦口北方，以掩护后援部队渡江。贺耀祖纵队和杨杰纵队得到海军炮火的掩护，分别由慈湖与大胜关先后渡江。第二路渡江完毕后进展到江浦、陈家渡、官渡、大镇集之线，候令进止。敌军为鲁军聂裕禄部和张继善部。
白崇禧于五月十五日下令进攻。十七日，贺耀祖的第一纵队克浦镇；杨杰的第二纵队克界首，俘敌二千余人；陈调元的第三纵队亦克全椒。十八日，第二纵队又克滁县，白俄军官指挥的铁甲车两列仓皇北逃；乌衣以南不费一弹而定。由此，至浦口全部肃清。
十九日，白崇禧在全椒奉令分兵东向，以协助何应钦的第一路军渡江。白氏即以第四十军和第一军第一师东向进攻孙传芳右翼军所在地的六合，并向仪征追击，逼使孙传芳进攻镇江的部队退却。二十二日，第一路军乘势渡江，逼使仪征、扬州一带的敌军，闻风乘夜逃向清江浦。
五月二十四日，白崇禧在六合接到蒋介石的一道命令：“我军向山东进攻，第一路须肃清扬州、靖江以北残敌；第二路以主力向台儿庄、一部出清江浦截击孙（传芳）军残敌；第三路沿津浦路及其以西地区向徐州及砀山截断陇海路。”于是，白崇禧以贺耀祖第一纵队由六合、滁县直趋临淮关；杨杰的第二纵队由天长向淮安、清江浦；陈调元的第三纵队由明光向宿迁、睢宁。二十九日，因贺耀祖的第一纵队改隶第三路军，而将第三路军的叶开鑫部改隶第二路仍编为第一纵队。六月一日第一纵队攻克灵壁，敌逃徐州。六月二日，第三纵队进占睢宁、高作，敌已先逃。六月四日，第一、第三纵队同时到宿迁收编孙军残部。从四日到七日，又连续攻克泗阳、瑶湾和木榆湾沿运河一带地区，敌军逃往郯城、台儿庄。
白崇禧综合当时所得的情报，了解到孙传芳军主力退集郯城，周荫人、白宝山、冯绍闵各部已退海州，于是电请第一路总指挥何应钦速令所部由阜宁、大伊山镇兼程向海州追击，而他自己则以第二路的主力直向郯城，一部则向海州进发。六月八日，白崇禧将海州南面之敌击溃，敌入城据守，白军即围攻。九日晨，周荫人突围逃走，中午白部将其全部缴械。
六月十一日，白崇禧第二路军第一纵队进占青口、赣榆；第二纵队攻占郯城；第三纵队进占马头、重庄。孙传芳残部退往青岛。至此，白崇禧忽接蒋介石电，着停止前进。并告知即去徐州候晤。白崇禧六月十四日到徐州见李宗仁，始知冯玉祥派李鸣钟（1887—1949，行伍出身。1924年参加推翻曹锟的首都革命。次年，出任绥远都统。1926年、1930年曾先后奉命赴苏、英、日、美考察。）为代表到南京谒蒋，主张召开徐州会议。蒋介石通知李宗仁，要他与白崇禧在徐州候他到来面谈一切。
徐州会议的召开，标志着宁、汉两方与冯玉祥的三角关系发展到另一阶段，它与蒋介石的进退以及蒋氏与白崇禧的离合也有密切的关系。