一九三一年十月十八日，粤方代表团汪精卫、古应芬、孙科、邓泽如、李文范五人偕来粤协商和平的蔡元培、张继由广州去香港，乘昃臣总统轮北上，黄绍竑、唐生智、张发奎也偕行。黄绍竑从菲律宾返港后感到十分无聊，李宗仁特劝他随代表团去上海看看，而唐、张二人则出自汪精卫的邀请。后来证明，汪约张北上，是有计划的，他把张发奎当做一张王牌，拿来做与蒋介石谈判合作的讲价条件。
在粤方代表团北上的次日，即十月十九日，南京国民党中央临时常务委员会开临时会议，决定凡在第二届四中全会以后，因政治原因而被开除党籍者一律予以恢复。这就意味在一九二九年三月在蒋桂战争中被开除出党的李宗仁、李济深、白崇禧以及汪派的陈公博等得以重返党内。南京采取这些措施，目的在表示其有和谈诚意。
十月二十一日，粤方代表团一行九十一人抵上海，受到南京方面的热烈欢迎。次日蒋介石从南京飞上海，与粤方代表晤谈，恳邀他们入京，共赴国难。但后者表示，和议只能在上海举行。蒋不得已，于回到南京后在国民党二十五日的中央常会中指定李石曾、蔡元培、陈铭枢、张继、张静江（1877—1950，浙江吴江人。1924年当选国民党中央执行委员，次年当选中央监察委员。后又被选为中央执行委员会常务委员会主席。1927年后，任国民党特别委员会委员、国民党政府全国建设委员会主席、浙江省政府主席。后因四肢瘫痪逐渐脱离政治活动。1938年去欧洲治病。第二次世界大战爆发后去美国。1950年9月在纽约病逝。）为代表。二十七日，宁粤双方代表在上海举行预备会议，拟订和议日程。二十八日，古应芬病逝广州，粤方大员自是去了一个。原来古应芬到香港后因患牙痛，折返广州疗治。他初想请德国医生柯道治理，柯道主张他入颐养团割治，索手术费三千元。古以柯道敲竹杠，不肯入医院，另请中大附属医院牙科医生拔去一牙。拔牙后忽发高热，一变而为脓毒入血的险症，而告不治。古死以后，陈济棠哭之甚哀。开办勷勤大学以纪念之。广州组府一幕，完全是得自古应芬的调度。古原想请陈铭枢参加，曾辗转托人示意，但铭枢以对蒋有私恩，忽匆匆离去。陈济棠恐势孤，才与广西的李、白携手合作。蒋介石鉴于形格势禁，不敢派兵南下，从此陈济棠偏安岭南多年，被人称为“南天王”。胡汉民之获释，也应归功于古应芬。所以，胡哭古诗有：“拯我于危知甚苦，迹君行事概难能。”
宁粤上海和谈自一九三一年十一月一日正式开始，经过十天的折中，达成三项协议：
一、宁粤双方的国民党第四次全国代表，各自分别召开，依照比额分配名额（预定粤方执委五人、监委三人）选出新的中央委员，然后在南京合并举行四届一中全会，产生新的中央政府。
二、国民政府主席，不得以军人充任，由一中全会推选年高德劭的同志承之。
三、撤销陆海空军总司令部，改设军事委员会统率全国部队。
关于蒋介石下野问题，和议没有作出具体决定。南京代表说：“考虑到中央政府一时无人负责，故不应规定蒋在统一政府成立前辞职。”而粤方代表也觉得他们言之成理，并未坚持。
上述协议具有这样基本精神：一是国府主席是虚位元首，不负行政实际责任；二是行政院是责任内阁。所以有此规定，目的在不使权力过于集中，以免蒋介石卷土重来。
国民党四全大会既决定分别召开，南京的四大于十一月十二日开幕，广州的四大因希望胡汉民、汪精卫回粤出席，迟至十一月十八日揭幕。我以四集团军代表之一参加，并被任为四集团军代表团党组书记。党组设在广州新亚酒店。在开会期间，上海和议代表团推举孙科、李文范回粤向大会报告一切。大会听取报告后，地方实力派代表在大会上提出质询：“为什么和谈代表团没有实现蒋介石下野的条件？”海外代表亦随声附和，声势汹汹，使孙科穷于应付。十一月二十四日孙科退出大会，前往香港休息。以致广州四大陷于停顿。但不久又复会，接纳孙科的提议，接纳上海和谈方案。大会在十二月五日开幕时决议取消非常会议和国民政府（大会在通过决议时，仍以蒋下野为宁粤合作的前提条件。），改设西南执行部和西南政务委员会，作为西南最高行政机关。在新选中委中，广西获得执行委员四名，即：白崇禧、黄旭初、李品仙和李任仁。
当广州四全大会开会时，汪精卫在上海发表谈话，说和谈代表团不坚持先下野，是顾全事实，恐怕中央陷于无人负责状态。并且和谈协议二、三两项，蒋的国府主席和陆海空军总司令均将自然消失，不必争持这一形式。但广州四大代表对汪的解释并不满意，而会上又流传这样的内部消息，说汪因为在广州失意，特派顾孟余同陈果夫密洽，酝酿汪、蒋合作。全体代表为之哗然，谴责汪精卫已经出卖了粤方的政治立场。汪派代表在此形势下，纷纷离粤赴沪，十二月四日，在上海“大世界”游乐场共和厅举行大会，选举中央执监委员。后来，这些中委，也加入统一后的南京中央，汪派自此与两广分裂。