督军团统一了思想，接下来就是段祺瑞带着一帮督军不断做工作了，一干人先是拜会了协约国各位公使。对于中国实力派人士的到来，各国公使殷勤有加。芮恩施特地为督军们举行了正式招待会，联络感情，对他们的行动加以勉励。5月1日，内阁召开会议，讨论对德宣战事宜，督军团倪嗣冲、张怀芝、孟恩远、李厚基等列席，参战计划获得通过。段祺瑞随即率领当日出席会议的阁员到总统府提请黎元洪核准。同一天，日本公使林权助登门拜访黎元洪，告诫中国参战须举国一致，如发生政变，日本亦同其利害。5月3日，倪嗣冲又率督军团一行，到总统府向黎元洪陈述。黎元洪思前想后，最终在对德宣战书上盖印。这样，段祺瑞只需要再过国会这关就告成功。与此同时，国民外交后援会在北京中央公园开演说大会，朱念祖、张嘉森、汤化龙、孙润宇、李厚基等均主对德国宣战。
这时候的段祺瑞，在与国会发生一系列摩擦之后，已对国会办事的动机和效率明显持不信任态度了。在他看来，国会中支持宣战的，只有汤化龙和梁启超研究系的一帮人马，其他的多是逐利之徒，很多人都是以手中的投票权来谋利，成事不足败事有余。5月8日，国务院邀请了国会各党派部分议员一百八十人，阐述了内阁有关参战的想法并回答各议员的质疑。梁启超慷慨陈词地作了“外交方针质言”，力主对德奥宣战。议员们的质疑主要集中在：其一，德国是不是肯定会败；其二，中国宣战能不能真正地获得利益；其三，中国的宣战是否存在秘密外交，是不是受到某些国家特别的指使；其四，中国是不是真正要出兵。对于这些质疑，段祺瑞一一作了解释，尤其是对于中国出兵的态度，段祺瑞强调了中国并不需出兵，宣战不会带来实际战争，国内也没有实行战时法令的必要。不过由于跟日本代表西原之间的借款谈判处于极度秘密状况，段祺瑞对于这一点的疑问也给予了否定。
5月10日起，国会门口突然出现了很多“自发”的主战派“请愿团”静坐示威，举着手中的小旗帜，支持国会批准对德宣战。很多议员都以为此举直接或间接受段祺瑞雇佣，因而对段祺瑞更加反感。各方力量同时采取不同方式给内阁和国会施压，国民党阁员谷钟秀、张耀曾、程壁光相继宣布辞职，同是国民党员的参议员代议长的王正廷，扮成学生模样悄悄溜出北京，先到上海隐匿在一位美国牧师家中，然后去了广东。王正廷等一批阁员的辞职，几乎让局面失控，段祺瑞承担的压力更大了。有议员提出对德宣战一案手续不完备，应不予讨论。这个动议以多数赞成票获得了通过，参战案遭到了搁置。众议院复议对德宣战案时，近三分之二议员赞成改组内阁，更是表明国会对内阁的不信任。这样的形势，将段祺瑞梁启超以及内阁几乎推入了绝境。段祺瑞梁启超也不示弱，与督军团商议后决定向总统施压要求解散国会，理由是国会专制，陷内阁于“颠危之地”。张勋也致电督军团支持解散国会，声称当“为诸公后盾”。
内阁与国会对峙之时，5月18日，英文版的《京报》披露了中日秘密签订一亿元军事借款的消息，声称借款条件是聘用日本武官和管理人员主持中国军火工业，用日本武官训练中国参战军。同时谴责段祺瑞试图“将中国出卖给日本”。这一报道，是时任《京报》总编辑，后任国民党外交部长的陈友仁所为。消息的披露，引起轩然大波，段祺瑞所言中日间绝无秘密外交的陈述被彻底戳穿。段祺瑞一气之下下令逮捕陈友仁。陈友仁的被捕，又引起了新的浪潮。巨大压力下，警察局不得不将陈友仁释放。
黎元洪接到内阁和督军团要求解散国会的要求后，急招来芮恩施问计。芮恩施到总统府与黎元洪进行了长谈，再一次表达了美国政府对他的支持。黎元洪确认美国的态度后，开始显示他的强硬：21日，黎元洪召见督军团成员孟恩远、王占元，严厉地训诫他们不要超越宪法办事，指出时局的症结在内阁，段祺瑞“理宜引退”；针对督军们解散国会的要求，黎元洪表示绝不可能，坚定地表态不怕死、不盖印、不违法。与此同时，黎元洪对军人干政的方式，表示了极大的愤怒和不满。
各省督军们没有想到黎元洪情急之下如此坚决，只好悻悻地离开了京城，应张勋邀请去徐州商议对策。5月23日，黎元洪下达总统令，免去了段祺瑞国务总理兼陆军总长职，令外交总长伍廷芳暂行代理国务总理，张士钰代理陆军总长。同时电告各省免段职之原因，并声明请徐世昌出任总理，王士珍继任陆军总长。在得知被免职的消息后，段祺瑞非常气愤，通电全国，明确表示根据《中华民国临时约法》，总统无权撤销总理职务，拒不承认黎元洪的免职令；将来地方及国家因此发生影响，一概不能负责。发表声明后，段祺瑞离开北京去了天津。
依《中华民国临时约法》第五章第四十七条规定，包括总理在内的国务员的任免，需要参议院的弹劾后，由大总统任命。黎元洪对段祺瑞的直接免职，确有违宪嫌疑。段祺瑞离职后，黎元洪想请徐世昌和王士珍出任总理，遭到了对方的拒绝。情急之下，黎元洪向国会提议袁世凯时代的“嵩山四友”之一、曾任云贵总督的李经羲为内阁总理，得到了两院通过。李经羲系李鸿章侄子，跟北洋将领关系密切，并且，李经羲任云南总督时，张勋曾是他的下属。年逾七十的李经羲从南方赶来上任，在火车上听到各省宣布独立的消息，觉得这一汪“浑水”实在无法趟得进去。到了天津，李经羲下车后死活再也不愿意北上了。
与此同时，长江巡阅使张勋给黎元洪打来电报，表明进京调停的愿望。身陷尴尬的黎元洪立即表示同意。张勋来京，更让局面变得无法控制。
府院冲突如此激烈，像一场大戏惊心动魄地上演。唯恐天下不乱的报刊，更是铆足劲火上浇油。至于在华的外国记者，联系到各列强在中国的明争暗斗，更愿意把黎总统看作“亲英美派”，把段总理看作“亲日派”，从而断定“府院之争”其实是中国政府亲英美派与亲日派的争斗。政局刮起的台风，将平民百姓也卷进来，各界人士沸沸扬扬地表达看法，划线站队，有的成为“拥黎派”，有的成为“拥段派”。两派竭力诋毁对方，甚至开始无中生有地造谣。争斗如火如荼，从最高层一直蔓延到最底层。争斗的无法控制，不仅让百姓们失去可以依赖的主心骨，更让社会多了对民国政体的埋怨，对于标榜与现代政治接轨的中华民国多了些不信任。也因此，铭怀皇权的社会思潮再度席卷，对习惯于“天子”专制控制的人们来说，专制制度最起码有着表面的稳定和谐。哪像这个民国，一天到晚吵吵闹闹，似乎从没安宁的日子。这一切，是因为没有皇帝的缘故？
徐州会议
黎元洪发布总统令免去段祺瑞国务总理一职时，从北京出走的各省督军们，正在徐州张勋的地盘上紧锣密鼓地开着会。徐州会议一直是各省督军的联盟会议。这个联盟，是在袁世凯逝世后，军人们为了应付纷乱的政局自主召开的联席会议。袁世凯死后，各地手握军权的督军们觉得时来运转，希望新总统黎元洪能调整政策，保证军人政治和经济地位的提升。1916年6月9日召开的第一次徐州会议就是在这样的背景下产生的，以对抗南方和国民党势力为号召，邀请吉、黑、奉、直、晋、皖、豫七省督军开会商议国是，由长江巡阅使张勋主持召开。通过十项重要决定：一、尊重清室优待条件；二、保全袁世凯家属生命财产及其身后荣誉；三、速行组织国会，施行完全宪政；四、电劝独立各省取消独立，否则武力对待；五、抵制暴烈分子参预政权；六、严整兵卫，保全地方；七、维持国家秩序，设有用兵之处，合筹军饷；八、电请政府罢除苛细杂捐；九、中央如有弊政，应合力电争；十、固结团体，遇事筹商，取同一态度。应该说，第一次徐州会议对于袁世凯死后局面的稳定，起了重要作用。不过军人们不甘寂寞的强硬之举，也给后来的武力干政开了先例。1916年9月的第二次会议，山东、奉天、吉林、黑龙江、河南、直隶、浙江、江苏、湖北、江西、绥远、察哈尔、热河十三省督军代表集会，由张勋、倪嗣冲领衔宣布成立“各省区联合会”，制定八条纲领，拥老资格的张勋为“盟主”，通电抨击国民党议员和政府阁员。三十四位督军、省长、都统以及师旅长联名通电反对外交总长唐绍仪赴任，要求将他逐出内阁。巨压之下，唐绍仪只得宣布辞职，痛斥张勋、龙济光等人干政。除了干涉人选之外，督军们还发出通电，要求“定孔教为国教”，为复辟争取支持。在领头的张勋看来，天降大任于斯人，即以己之力，将已经脱轨的火车拉到君主制上来。
督军团干涉国会、宪法、内阁，攻击国民党及其议员、阁员，引起社会各界的谴责，也引起南方实力派的不满。总统黎元洪对督军团的活动深感忧虑，曾几次派人到徐州敦劝张勋。张勋根本不买账。唐绍仪在遭到督军团的强烈反对请辞后，黎元洪感到事态严重，曾于1916年9月29日发布禁止军人干政的训令，对张勋等人提出严重警告。段祺瑞也致电参加徐州会议的各省督军以示批评，不过段祺瑞的建言相对委婉，认为他们虽然对于政局很有热情，但此种方式，不合程序。总的来说，督军们对黎元洪和段祺瑞表现出了不同态度，他们更愿意把段祺瑞当作自家人。
1917年5月21日，就在黎元洪下达免除段祺瑞国务总理职务的前两天，张勋召集了十三个省的督军和大员们再一次在徐州召开会议，中心议题是军人们如何以更积极的态度干预中国政治的走向。徐树铮和曾毓隽作为段祺瑞方代表参加了会议。当黎元洪下令免去段祺瑞国务总理的消息传到徐州时，会场炸开了锅，倪嗣冲当即破口大骂，认为黎元洪是对北洋军人的挑战，呼吁立即起兵推翻现任总统。其他督军也表示了愤慨。张勋公开表明态度，把民国的混乱归结于共和政体的没有权威，提议恢复帝制，以确保中国的传统和权威。参加会议的徐树铮没有表示反对，只是婉转地表达段祺瑞虽不能公开支持复辟，但只要达到解散国会和驱逐黎元洪的目的，其他一切在所不计。这样的表态，被张勋看作段祺瑞对于复辟的默许。徐树铮的态度，后人有多重猜测，有人认为这是徐树铮的个人态度；也有人说这是段祺瑞的“欲擒故纵”，希望张勋做一些“过头事”——解散国会、复辟帝制，这样有“武力干涉”的理由，从而达到“再造共和”的目的。有种说法是，在张勋的提议下，参加会议的各方代表在一件黄缎子上签名，以示同意宣统皇帝复位。这一份文件，也成了张勋复辟失败后的“黄金甲”。传说张勋复辟失败后，段祺瑞曾派人用重金从保管签名的张勋副官手上，买走并销毁了“黄缎子”。自此之后，因为缺乏佐证，有关各省督军同意复辟的承诺，也被认为子虚乌有。历史的真实，往往会随着佐证的消失，变得真相不再。这也是无可奈何之事。