“让出”总统，段祺瑞决定踏踏实实地当总理。当然，他要当的总理可不是袁世凯时代的虚位总理，而是责任内阁制下的实权总理。
自民国初建以来，责任内阁制的行政主导体制便在“临时约法”中得到确认，但在袁世凯当政时期，内阁并不居于主导地位。想当年，宋教仁为实现这一政治理想舍命奔走，直到临死都未能如愿，现在却要依靠段祺瑞来完成了。
如同支持黎元洪继任总统一样，各国对段祺瑞组阁均表现出乐观其成的态度。他们对中国各派政治军事力量及其头面人物的情况进行了分析，认为南方各派尚成不了气候，只有段祺瑞能暂时控制住中央政权，并巩固和扩大各国在华利益及影响。
国内方面，首先涉及北方的几个政界大佬，其中黎元洪已经做了总统，但他在北方的声望无法与段祺瑞相提并论，他就算是为了保住总统宝座，也得依赖于段祺瑞。
另外两位：徐世昌在北方的声望高于段祺瑞，可是实力不济，同时又无法融洽与南方的关系；冯国璋的实力倒不错，也是北洋系中唯一一个能与段祺瑞匹敌的角色，然而政治影响力和号召力也不及段，并且他身居长江下游的南京，做个地方实力派首领固无问题，要争夺中央政权就鞭长莫及了。
此时的中国虽然尚未形成历史上又一个南北朝，但南北两派势力已经泾渭分明：长江以北，基本上是北洋系的天下；长江以南则存在着多种政治军事力量及其头面人物，除了以冯国璋为首的北洋地方实力派外，还包括西南地方实力派、以梁启超为首的进步党人、以孙中山为首的国民党人，等等。
总的来说，南方各党各派都肯定了段祺瑞在“二造共和”中的表现，同时认为他是解决时局危机的核心人物。护国运动的发起者、梁启超的学生蔡锷早在袁世凯取消帝制时，就提出了“总理摄政”的主张，后来又曾通电表示：“时事多艰，非芝老（段祺瑞）莫胜此任。”
段祺瑞当政后，所做的第一件大事就是统一南北。在他发出相应号召后，陕西、四川、广东在三天内就取消了独立，接着云南、广西也电告各方，表示支持段祺瑞组阁。
但是，南方各党各派支持段祺瑞也是有条件的，主要包括废除“民三约法”、迅速恢复“临时约法”和重开国会、惩治帝制祸首十三人等。
段祺瑞尝到过被国会当众质问以及议案无法通过的苦头，他的本意是继续“民三约法”，以避免国会重开后自己受到掣肘。南方各党各派识破后，立即群起围攻，近一个月的新旧约法之争由此而起，段祺瑞新内阁的组成亦不得不一再推迟。
面对南方巨大的反对声浪，段祺瑞被迫做出让步，表示政府对恢复“临时约法”一开始就没有歧见，目前需要的只是研究如何恢复的问题。
这是段祺瑞用来拖延的一个政治花招，如果不灵，他还准备了硬的一手，即以辞职相威胁。
不料硬的碰到了更硬的。1916年6月25日，驻沪海军突然宣布独立并加入了护国军。
在二次革命和护国战争中，袁世凯曾用海军运兵南下，对独立各省进行镇压和威胁。现在海军加入护国军，反过来对北洋政府形成了严重威胁——在拥有制海权和海上运兵工具之后，护国军横可进入长江，纵可到达津沽，甚至直接开入北洋政府的核心区域。
段祺瑞顿感事态严重，经过反复考虑，他决定接受南方关于约法和国会的要求。6月29日，经段祺瑞等人副署，黎元洪公布申令，宣布遵行“临时约法”。同一天，黎元洪又宣布依据“临时约法”，于两天后重开国会。
新旧约法之争至此告一段落，段祺瑞组阁的障碍也随之解除。黎元洪重新任命段祺瑞为国务总理，并由段祺瑞出面组织新内阁。
除了恢复“临时约法”、重开国会外，南方提出的主要条件只剩下“惩治帝制祸首十三人”一条。“帝制祸首十三人”包括杨度、梁士诒、张镇芳、段芝贵等，多为袁世凯政府或幕府成员，段祺瑞与他们的私人关系较为密切，段祺瑞虽然反对他们在帝制时期的做法，但又对这些人在袁世凯失势后未对故主反戈一击表示肯定。
段祺瑞认为“十三人”都可以赦免，他不能饶恕的是陈宧。陈宧在帝制活动中出力不小，不过这并不是段祺瑞反感陈宧的原因，他所深恶痛绝的恰恰是陈宧宣布独立的举动。
倒不是说陈宧不能改变原先的政治立场反对帝制，但在段祺瑞看来，作为袁世凯座下第一宠幸之人，陈宧在公开场合反对帝制可以，却不能因为个人利益得失而忘恩负义，在私情上背叛袁世凯，乃至于给故主的心脏插上致命一刀。