袁世凯就任临时大总统后，任命段祺瑞为陆军总长。段极其飞扬跋扈，曾逼得保定军校校长蒋百里自杀。段的专横引起袁世凯的不满，袁、段之间开始出现裂痕。
袁世凯就任了临时大总统之后，论功行赏，派人带信给段祺瑞，让他把湖北的事安排一下，第一军军统拟由段芝贵前来接任。来人对段祺瑞说：“总统的意思，是要你回去做陆军总长。”
在内阁各部中，陆军部无疑是最重要的部之一，南方也在极力争取该部总长一职，提出由黄兴出任陆军总长。袁世凯自然不会同意，于是决定把段祺瑞从湖北调回来。就这样，段祺瑞成为民国以来北京政府的第一任陆军总长。
本来军事方面按照体制应由参谋部和陆军部管理，然而参谋总长黎元洪远在武汉，参谋次长陈宦负责一些具体事务，真正的实权都掌握在陆军部手里。陆军部负责全国陆军的调遣、扩裁、军需及人事任免等，段祺瑞大权在握，炙手可热。袁世凯虽然信任段祺瑞，然而对功高震主、尾大不掉的段却是始终警惕。
１９１２年３月１３日，他在总统府设立了两个“左右手”组织，一个是秘书厅，一个是军事处，一个是用来控制内阁的，一个是用来试图掌握军权的。军事处处长原为同盟会的李书城，但他一点权力也没有，连文件也看不到，不久便被气走了，副处长傅良佐是段祺瑞的门生部下，段祺瑞根本不把军事处摆在眼里，军事处的意见，他爱理不理。有时候连袁世凯的批示也拖着不办，因而时常引起袁世凯的不快。
这年夏季，袁克定找到段祺瑞想在陆军部安插一个同乡，因为段祺瑞的继室是袁世凯的义女张佩蘅，袁克定便说：“大哥，此事就拜托你了。”
段祺瑞当了陆军总长，却很少到部办公，大小事情都由次长徐树铮一手操办，而徐树铮又极其跋扈，引起许多人的不满，连袁世凯都有耳闻。
被推荐的人持袁克定的信函找到段祺瑞，段正在下围棋，不耐烦地批个“交徐办”，让他去找徐树铮，徐树铮则让秘书把批文留下。几天后，那人来见徐，徐树铮说：“你去查查批文吧，我已经批过了。”那人以为事情已经办妥，高高兴兴地跑到秘书那里去查，只见批文是：“查本部已无空缺，批驳，验过。”
这自然让袁克定大失面子，又在袁世凯面前提及此事：“陆军部简直目中无人！有时连您的话也不放在心上。”袁世凯听了便说：“徐树铮这个人太狂妄了，芝泉怎么会用这样的人！”袁世凯内阁成员，后排左三为段祺瑞“我看未必。许多事情虽然是徐出面，背后要没有段合肥支持，他敢这样吗？”袁世凯顿时沉下脸，“不要胡说！”
然而，蒋方震自杀事件却使袁世凯感到，段祺瑞是越来越不顺心了。
蒋方震，字百里，曾是日本士官学校第三期学生，在考试中名列第一，从而成为中国留学生中获得天皇授刀的第一人。在德国深造期间，又受德国军事家小毛奇的赏识，回国后在禁卫军任职，不久晋升为陆军少将。１９１３年冬，袁世凯任命他为保定军校的校长。然而，蒋方震的任命，袁世凯事先没有与段祺瑞打招呼，段祺瑞很恼火，加之北洋军事教育系段一手创建，而蒋方震想另搞一套，于是陆军部便在经费、用人等方面横加刁难。段的亲信、陆军部军学司司长魏宗翰更是视其为眼中钉。
蒋方震是个书生，一心埋头军事学，其才学为人所嫉，而他所提倡的德国化教育也使不少人反感。魏宗翰骄横地说：“蒋百里那一套根本行不通，就是行得通，军学司这一关也过不了。”不久，由于军校扩建的事，蒋、魏二人发生了直接冲突。
军校扩建计划是蒋方震花了不少心血精心制订的，曾征得袁世凯的同意。蒋方震以为计划指日可成，于是满怀信心在全校师生大会上读了这一计划，但军学司却迟迟没有下文。蒋方震于是通过傅良佐询问此事，魏宗翰以“需要研议”答复之。“研议”了很长一段时间，蒋方震终于等不得，亲自跑到陆军部找魏宗翰，魏宗翰不客气地说：“你的计划没通过，部里拿不出这笔钱。”蒋方震则说，此事已经向全校宣布过，何况袁总统和军事处都表示赞同此事。
“那好，你的面子大，你去找总统！”魏宗翰讽刺道。蒋方震气得浑身发抖，指着魏宗翰的鼻子骂：“我算认识了你们这班狐群狗党的下流军人！”
回到保定后，蒋方震立即召集了全校师生，在讲坛上痛哭流涕，表示自己上对不起国家，下无颜对同学，当场掏出手枪自杀。幸亏贴身卫兵李如意冲上去奋力夺枪，子弹才偏离心脏，仅使胸部受了重伤，抢救后脱离危险。
魏宗翰之所以这么跋扈，就是因为有段祺瑞的支持，袁世凯虽然不满，但表面上也不便于说什么。蒋方震伤好后，袁世凯委任他为陆海军大元帅统率办事处的参议，但陆军部却顶着不发委任状，倘没有段祺瑞的指使，谁有这个熊心豹子胆？
这时候，袁世凯正与国民党斗法，他指使人暗杀了宋教仁。内阁总理赵秉钧在此案中嫌疑很大，已成为众矢之的，只好提出辞呈，袁世凯于是让态度强硬、作风武断的段祺瑞代理国务总理。宋案未了，袁世凯背着国人与五国银行团签订“善后大借款”的消息也传了出来，在国会中占优势的国民党议员要求代总理段祺瑞到会回答质问。
这是５月上旬的一天，荷枪实弹全副武装的士兵封锁了国会的各个通道，包围了会场。正当议员惶惶之际，忽听得一声“段总理到！”
士兵们纷纷立正，持枪敬礼。代总理段祺瑞身着陆军上将服，挎着指挥刀，满脸肃穆，在卫兵的簇拥下，大步走进会场，在议员们惊愕的目光下坐在主席台上。全场鸦雀无声，等着段祺瑞发话。段祺瑞就座后，将指挥刀竖在胸前，一脸杀气。
当一个议员提及“善后大借款”时，段祺瑞猛地站起，全场悚然一惊。段祺瑞环视一周，干巴巴地说道：“木已成舟，勿庸再议。”
在段祺瑞眼里，国会质问真是多此一举，议员们拿钱喝酒玩耍就成了，何必在这添乱子？
袁世凯要的就是段祺瑞的强硬，正好借之对南方用兵。结果，北洋军在短短两个月内便镇压了二次革命，北洋势力进入长江流域，而段祺瑞内阁被称为“战时内阁”。
二次革命失败后，孙中山、黄兴流亡海外。１０月初，袁世凯当选为正式总统。１０月１０日，在太和殿举行了总统就职和开国纪念的盛大庆典，下午，北洋军举行了盛大阅兵式，由段祺瑞作检阅总指挥长。
天气虽然不好，下起了雨，但阅兵却极为成功，袁世凯极为满意，说：“我看陆军总长该记头一功。”“总统过奖了。”段祺瑞推辞道。
雨越下越大，大家劝袁世凯回去休息，袁世凯临走前，把自己的黑色呢披风披到段祺瑞身上，说：“都是自己人，不必推辞。”受此殊荣，段祺瑞极为感动。不久，他又为袁世凯去了一块心病。
副总统黎元洪是“开国元勋”，一直留在武汉，袁世凯对此很不放心，曾经几次想请黎元洪北上，都被黎巧妙地推辞了。这次，他决定让段祺瑞出马去武汉“劝驾”。
段祺瑞于１２月到达武汉，住在副总统官邸两天。在段祺瑞的“劝驾”下，或许是由于在湖北的北洋军第２师的“劝驾”，黎元洪北上。这时，袁世凯早就任命段祺瑞为湖北都督了。大局稍定，段祺瑞把湖北都督让给了段芝贵，自己返回北京。一来一回仅两个月，段祺瑞就帮袁世凯把黎元洪“请”进了京，从而完成了对湖北的控制。
段祺瑞回到北京已是１９１４年１月了。此时，声势浩大的白朗起义在河南所向披靡，如入无人之境，扬言要挖掉“托名共和，厉行专制”的袁世凯的祖坟，同时惩治了一些罪大恶极的外国人。各国驻华使节纷纷表示抗议和惊慌，袁世凯坐立不安，大骂河南都督张镇芳和护军使赵倜无能，准备调段祺瑞去河南“剿匪”。１９１４年１月１４日晚８时，段祺瑞的专车抵达开封。２月，段祺瑞代张镇芳为河南都督，统一指挥豫、鄂、皖三省正规军两万多人围剿白朗。８月，白朗战死，起义失败。
从这些事情看，段祺瑞不可不谓对袁世凯忠心耿耿，殚精竭虑。然而，随着袁世凯地位日益巩固，两人矛盾也日益尖锐突出了，以至于到了段祺瑞连陆军总长也做不下去的地步。
段祺瑞秉性刚直，刚愎好强，对袁世凯尽心尽力却不事趋奉，因而对袁世凯包办一切的做法加以抵触。袁世凯生性狐疑，加上旁人的挑拨，袁世凯对段祺瑞越来越不放心了。
１９１４年５月９日，袁世凯决定在原来总统府军事处的基础上，建立陆海军大元帅统率办事处，由他亲自掌握，陆、海、参谋三部总长均为办事处的大办事员，实际上是收回了分散于三部的军权。事情一开始，袁世凯瞒着段祺瑞，而让坂西利八郎和王士珍参与筹划，等到事情差不多时，才告诉段祺瑞。袁世凯的猜忌，使段祺瑞充满了怨气，他对身边的人发牢骚说：“当年朝廷不信任项城，今天倒好，总统也不相信我了。如此下去，他还能信谁呀？”
袁世凯听到了这话，解释说，当时段祺瑞身在开封，没法与他商讨，最后让段祺瑞不要多心。段祺瑞更为寒心，自己的话怎么这样快就传进了袁世凯的耳朵？
到了８、９月份，袁世凯决定成立模范团。成立模范团，表明袁对小站宿将的疑忌，要以模范团来改造北洋军，而袁克定于此事最为热心。模范团原准备建成一个军，但袁世凯怕引起北洋将领的反感与不安，于是缩小为师，继而为团，其实相当于个混成旅。其人员配备，均由袁克定操纵，其装备、待遇均优于其他部队，俨然成为袁世凯的“御林军”。
段祺瑞对此事一直持反对态度，当袁世凯问他时也不置可否。以后统率办事处又专门开过几次会商议模范团的事，段祺瑞不是借故不到，就是到会一言不发。袁世凯本想让袁克定当团长，段祺瑞则当面否定说：“我看他不行吧。”半天没有结果，袁世凯怒气冲冲地说：“你看我行不行？”于是，袁世凯自兼模范团团长。段祺瑞嘴上不说，心中暗自生气。段祺瑞有个外号叫“段歪鼻”，一生气就歪鼻子，但这种情况很少见，只有在他极其恼怒的情况下才出现。这一次，段祺瑞的鼻子又歪了。
１９１４年１０月，模范团成立了，袁世凯自兼团长，但到第二期时，便把团长让给了袁克定。模范团一事，加深了袁氏父子和段祺瑞之间的裂痕。
段祺瑞反对袁世凯称帝，被袁软禁。当“称帝”受到全国反对之时，袁还是请出段出来平息风波。袁死时，对段说，一切都交给你了，段把袁的葬礼办得隆重热烈，以示不忘知遇之恩。
１９１２年３月，袁世凯想当皇帝的谣言开始流传。６月２５日，他专门为此通电辟谣。到１９１３年９月二次革命被镇压下去后，袁的亲信就有人进言，隐隐地提到实行帝制。
段祺瑞是反对帝制的，他一直不相信袁世凯企图做皇帝的说法，多次在公开和私下的场合为袁辩解。然而，流言越来越多，终于有一天徐树铮告诉他，有人在暗中策动袁世凯当皇帝，段芝贵、雷震春、张镇芳都是局中人，段祺瑞于是在一天晚饭后邀请段芝贵来打麻将。
打完麻将后，段祺瑞把段芝贵留了下来，问他有关帝制的传闻。段芝贵虽然一直热心袁世凯当皇帝，却坚决否认袁世凯有这个企图，而且表明自己也不清楚是怎么回事。最后，段芝贵问：“假若，我说的是假若，老头子有此意思，你看法如何？”
“万万使不得！”段祺瑞毫不犹豫地说，“此种事必遭天下人反对。”
不久，段祺瑞又问雷震春，雷震春也矢口否认。１９１４年春天，等到段祺瑞从开封回到北京，袁世凯欲帝制自为的风声已经路人皆知了。袁世凯先下令解散国会，推行新约法，成立政事堂，又大规模地恢复清朝制度和官场仪式。一时间，复古浪潮甚嚣尘上，但袁世凯表面没能承认帝制，只在暗中怂恿和操纵。段祺瑞这时也不能不有几分相信了，他决心对袁忠言相劝。当他向袁世凯提及此事时，袁世凯却平静地反问道：“你这些话从哪里听来？”
“外边都传得有声有色，总统难道未曾耳闻？”
“荒唐！”袁世凯有些怒气，“简直荒唐！”他停了一下，又说，“这些都是无稽之谈。有些人就爱无风起浪，我总不能封住他们的嘴吧？”
“不过，此种传闻对总统极为不利，对造谣惑众者应予严惩。”段祺瑞的肺腑之言却使袁世凯摸清了他对帝制的态度，感到这个昔日的左膀右臂在帝制的问题上不能为自己出力，反而会横加阻挠，于是产生了走马换将的想法。然而，怎么样才能明正言顺地撤去段祺瑞呢？
１９１５年１１月，袁世凯公开暗示了自己对帝制的态度，他说：“宣统满族，业已让位，果要皇帝，自属汉族，清系自明取得，便当找姓朱的，最好是明洪武的后人，如寻不着，朱总长（朱启钤时任交通总长）也可以做。”１２月２３日，袁世凯仿照历代皇帝在天坛举行了祭天仪式，把复古浪潮推向了顶峰。
在帝制活动逐渐公开之时，段祺瑞基于对袁世凯当年的“知遇之恩”，再次慨然相劝，袁世凯却模棱两可，敷衍了事。看到了袁世凯对谈话心不在焉的样子，段祺瑞动情地说：“总统，祺瑞自小站跟随总统，鞍前马后，将近二十年，总统知遇之恩，祺瑞没齿难忘。如今国势危殆，倘有变动，后果不堪设想。祺瑞无知，赤诚可鉴，望大总统三思。”
袁世凯也装作推心置腹的样子说道：“芝泉，你是我的老部下，难道还不了解我吗？我可以告诉你，皇帝我是绝不做的。如今我这个大总统与皇帝又有何异？如为儿孙计则更不可。克定是个残废，其他几个亦无此才能。你尽可放心，不要胡思乱想。”
段祺瑞一片愚忠，袁世凯考虑的却是由何人来代替他任陆军总长。最先打算由蔡锷取代段，但未能实现。袁世凯又转而说服王士珍，王士珍虽然与段祺瑞有矛盾，但两人毕竟是小站的老朋友，也抹不下面子，极力推辞。老谋深算的袁世凯于是想釜底抽薪，调开徐树铮。
徐树铮是段祺瑞的得力助手和智囊。此人聪明绝顶，才华出众，１２岁时中了秀才，在小站时就投奔了段祺瑞，被送往日本士官学校学习，回国后，一直受到段的信任和重用。先后担任军学司司长、军马司司长兼管总务厅事，并创办了陆军部的机关报平报。１９１５年，升为陆军次长。段祺瑞经常不到部里，陆军部大权被徐树铮掌握。如果调开徐树铮，等于砍去了段祺瑞一只胳膊，段在陆军部的势力自然大为削弱。
当袁世凯婉言提出要调徐树铮去参谋部时，段祺瑞竭力压着心中的怨愤与怒气，说：“很好，请大总统先撤了我再说吧。”
虽然这样，段祺瑞仍苦口婆心地劝袁世凯不要冒天下之大不韪，这愈发引起袁世凯的厌憎之心。连徐树铮都明白袁世凯是铁了心要当皇帝，段祺瑞去劝他只不过是徒费口舌，而且会加剧两人的分裂，段祺瑞却一意孤行。
一次，段芝贵也劝段祺瑞：“老头子向来很器重你，可你在帝制问题上却一直顶牛，他怎能不生气呢？何况，总统、皇帝还不是一回事，你何必太认真？”
段祺瑞皱着眉说：“那可不是一回事。项城做总统，见面只要敬礼、拉拉手就可以了，如果做了皇帝，见他就得磕头，话也得跪着说。我最恨这种长子变矮子的把戏。”段祺瑞不喜欢磕头，他认为自己身为军人，军礼则表示最大的敬意，当年西太后从西安返回北京时，沿途官员、将领及清军皆跪下迎接，惟有段祺瑞部皆站立持枪敬礼，表示最大的敬意。载沣加以严斥，段祺瑞毫不退让，闹到西太后那里。那拉氏经八国联军之后，对洋人事事顺从，听说这是洋礼，也就默许了，事情就这样不了了之。
段祺瑞对袁世凯的“虔诚”却被袁认为是背叛。袁世凯对他说：“你回去吧！我看你脸色不好，应该休息了。”接着，有人上门来劝段祺瑞身体不好，应该注意休息。１９１５年５月３１日，段祺瑞被迫称病请辞，袁世凯假惺惺地给假两个月。８月２９日，假期将满之际，袁世凯正式解除了段祺瑞陆军总长的职务。
段祺瑞称病后，袁世凯任命王士珍署理陆军总长，随后又解除了徐树铮陆军次长的职务，同时加强了对段祺瑞的监视，在段府附近安排了不少密探，“病中”的段祺瑞实际上已被袁世凯软禁。
８月１４日，以杨度为首的筹安会成立，段祺瑞大受震动，先后两次去总统府，但袁世凯避而不见。段祺瑞的续弦张夫人是袁世凯的义女，她是前清江西巡抚张芾的侄孙女，其父张瀛为袁世凯之至交，张瀛夫妇去世后，袁世凯便将张女收为义女抚养。两家本来关系亲密，现在却难得走动。
１９１５年１２月１２日，袁世凯帝制自为，改中华民国为中华帝国。次日，袁在居仁堂匆匆登基。段祺瑞没有参加“登基大典”，他在公馆与徐树铮说：“项城作孽啊！”
徐树铮也慨叹：“天作孽，犹可违；自作孽，不可逭。”
袁世凯称帝后，果然如段祺瑞预料的一样，局势一发不可收拾，众叛亲离。袁世凯本来对军事和外交一直充满信心。外交上，他原以为“二十一条”签署后，日本人会信守诺言支持帝制，结果却不然。日本见抗议帝制的声浪日益高涨，便开始新的投机，先后联合英、俄、法、意向袁世凯提出缓办帝制的五国劝告，又在暗中协助蔡锷、梁启超等反袁人士绕道日本进入云南。这对袁世凯的打击很严重。
军事上也是一团糟糕，北洋军昔日的威风荡然无存。这时后院又起火，冯国璋联络长江巡阅使张勋、江西将军李纯、山东将军靳云鹏、浙江将军朱瑞联名发出致各省将军的密电，征求撤销帝制的意见。“五将军密电”传到北京，袁世凯知大势已去，在四面楚歌声中，只得把段祺瑞请了回来。段祺瑞是反对帝制的，但他不反袁，他说：“要我公开反对袁项城，做不到。否则，人家要指我脊梁骨，骂我忘恩负义。”
在徐世昌的建议下，袁世凯准备请回段祺瑞，为了避免碰钉子，袁事先让夫人于氏打电话到段公馆给张夫人，这是两家断绝来往后母女第一次通话，相对哽咽。于夫人便把意思告诉了张夫人，并叮嘱道：“不管咋说，总统病了，芝泉总得来看看吧。”
次日，袁世凯派人手持亲笔信函赴段公馆邀请段祺瑞，来人还带口信说，总统让转告总长，请看在多年的老交情上，务必前往一叙。段祺瑞不再推辞，到中南海拜晤袁世凯，袁世凯躺在病榻上，面色赤红，但说话正常。见到段祺瑞，袁表示自己后悔没有听段的话，以致今日内外交困，希望段念及小站的情分，出来稳定局面。段祺瑞看到袁世凯又老又病的样子，何况又认了错，于是慨然答应竭力相助。
３月２０日，袁世凯召集徐世昌、段祺瑞、黎元洪三巨头开了一次紧急会议。看到谁也不肯先发言，袁世凯只好自己先说：“事至今日，帝制已不可为，只有取消了。取消帝制后，可以恢复从前的样子。”袁世凯的意思是想继续担任大总统，撤销帝制是最后的让步，在总统问题上绝不妥协。“芝泉，你说说吧？”
段祺瑞自见到了袁世凯，便开始考虑稳定时局的措施，这时不慌不忙地说出了几点，主要意思是首先取消帝制，宽容西南起事人员，采取和平姿态达到停战目的，其主张与袁世凯出山时向清廷提出的条件有惊人的相似处。袁世凯有些不快，然而说道：“芝泉的意见很好，但若南方欺人太甚，得寸进尺，那将怎么办？”
段祺瑞说现在不能一味用武，先退一步再说，事情总有解决的办法。看到段祺瑞表示取消帝制后，仍承认他的大总统地位，袁世凯稍稍放了心。
第二天，袁世凯又召集有关人员，讨论撤销帝制问题，并通过了关于取消帝制的电稿，送往印铸局，准备当天晚上通电全国。可是直到第二天，也没有见到通电。段祺瑞急了，连忙打电报询问，印铸局说电稿送来后不久又被袁世凯派人取回去了。段祺瑞吃惊不小，连忙会同徐世昌直奔中南海。
袁世凯面容平静，淡淡地说：“哦，是我叫人取回的。”停了一会，又解释道：“里头有几个字，我想改动一下，改好后就让人送回去。”段祺瑞和徐世昌都明白事情绝不会如此简单。
据说袁克定知道电稿后，对袁世凯说，西南方面不让你做皇帝，你便取消帝制，若不满你做总统，你怎么办？遂有袁世凯撤回电稿之举。然而撤回电稿之后怎么办？
３月２２日，袁世凯还是发表了撤销帝制的通电，宣布废除洪宪年号，８３天的皇帝梦结束了。
这一天段祺瑞回到家里，张夫人高兴地迎上来说：“老头子终于醒了。”段祺瑞脸上却露出了古怪的笑容。
３月２４日，段祺瑞与徐世昌商议，以黎、徐、段三人的名义致电西南护国军首脑，表示“帝制取消，公等目的已达，务望先戢干戈，共图善后”之意，黎元洪也表示同意。但段祺瑞没有将电稿立即发出，而是想观望一下，暗中摸摸西南方面的底。可是，大出意料的是，３月２８日，在他毫不知晓的情况下，电报竟然已经发了出去。
段祺瑞简直气歪了鼻子，他打电话给徐、黎二人，二人皆不知情，再打电话给总统府，才知道是袁世凯指示发出的。原来，袁见段迟迟不发这份电报，惟恐他态度有变，就指示把电稿发了。
段祺瑞觉得自己又被袁世凯愚弄了，怒气冲冲地说：“都到什么地步了，还要这么包打天下。好吧，你事事要管，那就让你一个人去管吧！”
４月１日，袁世凯亲拟了一份关于议和条件的电稿，派人送给段祺瑞征求意见，段祺瑞原封不动地将此退回，袁世凯又派人送来，段对来人说：“总统想怎么办就怎么办好了，不必来问我。”
北边袁、段出现新矛盾，南方却咄咄逼人，要求袁世凯退位。４月中旬，蔡锷、唐继尧等联名提出六项条件，这六项条件极其严厉：袁退位后免其一死，但必须逐出国外；诛帝制祸首杨度等十三人以谢天下；大典筹备费用及用兵费六千万，应查袁氏及帝制祸首十三人的财产赔偿之；袁氏子孙三世应剥夺公民权；依照民国约法，推举黎元洪副总统继任大总统；除国务外，文武官吏照旧供职，但关于军队驻地，要接受护国军都督的指令。
南方要袁世凯退位，袁却死抱着总统不放。段祺瑞撒手不管，北洋将领或主和或主战，徐世昌这个不满一个月的国务卿觉得夹在中间白白受气，提出辞职。徐世昌辞职了，谁来接替他呢？
袁世凯想到的还是段祺瑞，段祺瑞在反对帝制时与西南方面保持默契，与蔡锷、梁启超等也有联系，交涉起来有利。退一步，若和谈不成动用武力，段也是最佳人选。对于袁世凯的提议，段祺瑞也毫不客气地提出一个先决条件：让他做国务卿可以，但必须实行责任内阁制，即由段祺瑞掌握实权。
内外交困，袁世凯束手无策，只得做出让步。４月２１日，他下达了恢复责任内阁的电令。４月２２日，段祺瑞就任国务卿，开始大刀阔斧地干起来。
首先，他撤政事堂改国务院，废国务卿改国务总理，接着又提出裁撤统率办事处、总统府机要局、军政执法处三机关，并收容模范团、拱卫军为陆军部。袁世凯得知后，气得浑身发抖，连连骂道：“段芝泉别有用心！别有用心！”
段祺瑞大权在握，则主张和平解决，反对用兵，但西南方面却坚持和平解决的前提是袁世凯必须引退。段祺瑞也只好拖着日子，袁世凯疑心又起。这时，蔡锷、梁启超又愿推举段为摄政取代总统，袁世凯对段祺瑞更加猜疑，在许多事情上暗中掣肘，袁、段两人的冲突连连不断。
段祺瑞提出徐树铮任国务院秘书长，秘书长虽不是阁员，但却是总理的直接助手，比阁员还重要，袁世凯却主张由原政事堂机要局局长王式通担任。段祺瑞当然不愿身边多一个袁世凯的心腹，于是托王士珍向袁世凯说项。王士珍老奸巨猾，表面答应，其实根本不提，段祺瑞又让张国淦和袁世凯说，袁世凯以总理是军人，秘书长再弄个军人不合适为由推辞。张国淦无可奈何，回去见段祺瑞，段祺瑞勃然变色，鼻子立时向左歪斜。
段祺瑞的和平方案没有进展，袁世凯却怂恿徐、皖、鲁、奉、吉六将军公开电请武力解决，不惜一战，段祺瑞则坚决反对。袁世凯大怒道：“和又和不了，战又不想战，你到底想干什么？”
段祺瑞也毫不客气地回答：“如果总统坚持用兵，那我只有辞职。”
果真，段祺瑞立即递上辞呈。袁世凯又气又恨，索性撇开段祺瑞，亲自出面主持对西南的军事行动。然而此时的袁世凯已是心有余而力不足，坐镇江宁的冯国璋态度暧昧，四川将军陈宦、湖南将军汤芗茗通电独立。终于，５８岁的袁世凯一病不起。
１９１６年６月５日，袁世凯病情陡然恶化。于夫人哭着告诉了张夫人，总统病危，急欲见段祺瑞一面。段祺瑞火速赶到怀仁堂。
段祺瑞
听到段祺瑞来了，袁世凯睁开眼，微微点头示意。段祺瑞弯下腰，压低声音问道：“总统，有何吩咐？”
袁世凯半晌不做声，而后对段祺瑞说：“芝泉，今后一切都要靠你了。”
这是袁世凯对段祺瑞的临终嘱托，不知是希望段祺瑞照顾好袁家，还是主持大局，抑或两者兼而有之。次日上午，袁世凯病逝。
袁世凯一死，段祺瑞对袁家完全抛弃了以前的怨恨，对袁世凯进行了隆重的国葬，表现了对袁的极大忠诚。
段祺瑞通令全国下半旗致哀，停止娱乐一天，学校停课一天，文武官吏停止宴会２７天，在财政几乎崩溃的情况下，拨银币５万元作为丧葬费，成立恭办丧礼处，内务总长王揖唐和周自齐等筹办大丧典礼，段祺瑞率各部总长轮流守灵，河南巡按使负责营建袁氏之墓，占地近１４０亩，工程持续两年才完成。
６月２３日，段祺瑞以总理身份主持政府公祭，各国使节、文武大员尽数到场。灵车用的是当年运送慈禧太后棺柩的豪华胶轮车，并派马、步兵近两个团护送，段祺瑞亲自扶柩送至前门车站。
府院之争，以黎元洪失败而告终，但黎又请来辫帅张勋，张解散国会，扶溥仪重登帝位，引起全国反对。段祺瑞乘机在马厂誓师，反对帝制，自称再造共和。
袁世凯死后，副总统黎元洪继任大总统职，为了平息与西南方面的纷争，段祺瑞同意恢复临时约法和召集国会，于是南北融合，气象一新。
然而，国内和平刚一实现，黎、段之间的矛盾马上继之而来。段祺瑞依然是段祺瑞，而黎元洪不是袁世凯，段祺瑞根本不把他放在眼里，不仅段祺瑞骄横，连徐树铮及手下人对黎元洪也十分无礼。
一次，国务院任命了几位外省的厅长，徐树铮拿着委任令去总统府盖印。黎元洪见名单上的几个人名字很陌生，便随口问了一下。徐树铮便不耐烦了，用训斥地口气说道：“你问那么多干什么？让你盖印你只管在最后一页盖就是了。我还忙得很，哪有闲工夫？”黎元洪气得脸色发白。
黎元洪忍气吞声，其幕僚愤愤不平，于是和国会中反段力量联合。国会中“韬园派”反段最为激烈，首脑是段祺瑞最讨厌的孙洪伊。孙洪伊进京后，与黎元洪商议提出联直排皖、联冯排段的计划。
面对总统与总理的冲突，总统府秘书长张国淦两面为难，于是干脆辞职撒手不干，接替他的是总统府方面强硬的代表丁世峄。丁一上任便提出要划分府院权限，这一提议仿佛在热油锅里洒了水。段祺瑞气得一拍桌子道：“好吧！我不干了，让黎黄陂一个人干吧！”
段祺瑞甩手不管，黎元洪害怕了，赶紧找人向段表白，同时也向他诉苦，反映国务院某些人目无总统。段祺瑞也不想把事情闹大，趁机重新视事，同时对部下作了一些约束。
一波未平，一波又起，国务院内狼烟四起，闹事的是内务总长孙洪伊。
事情起因很多，主要缘于一件事，国务院任命郭宗熙为吉林省省长和查办福建省长胡瑞霖案。因为国务总理发布的命令还需经分管的总长副署方可生效，而徐树铮为了免得孙洪伊从中作梗，直接越过了孙洪伊。孙洪伊自然得理不让人，要求查办徐树铮，段祺瑞想把大事化小，孙洪伊一气之下便递辞呈。后来虽然未辞成，却埋下了祸因。
徐树铮受了孙洪伊的气，发誓要进行报复。机会来了，孙洪伊撤换了袁世凯时代的内务部旧职员３０余名，这些人或多或少与北洋高级官员有联系，事情捅到了段祺瑞那里。
有了总理的支持，被解职的人员便向政府仲裁机构平政院提出诉讼，平政院也明白总理在背后撑腰，便判决原告胜诉，要内务部限期撤销解职令。孙洪伊不干，声称平政院是袁世凯私立机构，其判决不足为据。
事情弄到这个份上，段祺瑞便不能不说话了。他要孙洪伊接受裁决，孙洪伊索性横下心来，坚决不同意。段祺瑞气得火冒三丈，说：“你这是结党营私，滥用私人！平政院的判决我看很合理，难道就没人管得了你了？”
孙洪伊索性撕下了脸，大声道：“我撤除的是帝制余孽，官厅不能成为庇护他们的场所。”
段祺瑞决心除去孙洪伊，于是签署了罢免令。黎元洪大吃一惊，压下了这道命令。徐树铮催促了四次，都无结果。
段祺瑞被激怒了，亲自出马见黎元洪，气冲冲地问：“孙洪伊的罢免令已经送来好几天了，大总统不会不知道吧？”
黎元洪支支吾吾，说应当慎重考虑这件事，段祺瑞火冒三丈，说：“照你这么说，我是不慎重了？”
“这个，唔，这个……”
“那好，大总统既不免他的职，就请免我的职吧！”
孙洪伊的事使段祺瑞与黎元洪闹僵了，于是请来徐世昌调解。徐世昌哪边也不得罪，摆出一副公允的姿态，两边各打五十大板，提出孙洪伊和徐树铮同时免职。黎元洪自然明白自己不可能取得最后胜利，打个平手也就满意了。但却不知段祺瑞意下如何，又转请许世英向段祺瑞提这个方案。
许世英时任交通总长，是段的大同乡，而且两人有金兰之好，是段祺瑞的亲信，他在和段祺瑞下棋的时候委婉地说出了徐世昌的建议。段祺瑞考虑良久，说：“你去对黎黄陂说要免丁世峄一起免。”
于是，孙洪伊、徐树铮、丁世峄先后被免职，事情暂告一段落。
１９１７年２月，段祺瑞和黎元洪因为对德问题再次产生尖锐的冲突，并导致了两人之间的彻底决裂。
１９１７年２月３日，美国宣布与德国绝交，段祺瑞和黎元洪一致赞成对德宣战。首先，在２月９日，内阁通过了对德国潜艇政策提出抗议的决定，这是中国对德国采取的第一个外交步骤。
３月３日，在段祺瑞的主持下，内阁会议又顺利地通过了对德绝交案。次日，段祺瑞率全体阁员到总统府请黎元洪在对德绝交咨文上盖印，黎元洪却一反以前赞同的态度，拒绝盖印。问题出在什么地方？
是帝国主义在背后捣鬼！
黎元洪走的是亲美路线，美国人对德绝交，他自然紧随其上，而段祺瑞是亲日派，美、日帝国主义都希望通过促使中国参战而取得在中国的霸权。于是美国一旦发现了中国参战对日本的好处远大于己，马上就改变主意，不再支持中国参战。
段祺瑞气势汹汹，黎元洪却以不变应万变，支支吾吾加以拖延。
“这么说，大总统是反对对德绝交了？”
“这个，我的意思是，此乃大事，需慎重考虑。再者，绝交是宣战之先声，如今各省军人大多反对参战。在做出决定之前，也应该统一军界的意见吧？”
黎元洪的话激起了段祺瑞心头的无名之火，他顶撞道：“军界的事，无须总统操心，大总统只要盖印即可，其余的事自有祺瑞应付。”
黎元洪则无论段祺瑞怎么说，仿佛泥菩萨一般，死活不吭声。
黎元洪不盖印，段祺瑞便使出杀手锏，撂下挑子乘专车出走天津。协约国公使纷纷表示关切，北洋军人也来凑热闹，要求挽留段祺瑞。黎元洪无计可施，叹口气说：“外交上的事就由段总理主持，只要国会通过，我将依法办理，绝不加以干涉。”
３月６日，段祺瑞在副总统冯国璋和众议院议长汤化龙的劝说下，回到北京。３月１４日，北京政府宣布对德绝交。
绝交之后自然是宣战，段祺瑞担心的是军人的态度，急电各省督军进京商讨。各省督军原本有不少人反对宣战，他们害怕让他们派兵作战，损害自己的实力。段祺瑞明白他们的心思，明确告诉他们，宣战无须出兵，中国派遣劳工去欧洲即可。各省督军一听，心上的石头落了地，纷纷表示服从总理的意志。
４月２５日，督军会议在京召开。各省督军和代表一致赞成段内阁外交政策，并在写有“赞成总理外交政策”的纸上签了名，给黎元洪施压。
５月１日，内阁举行会议，督军团居然要求参加。有人说军人干政，傅良佐却辩解道：“军人也是国民的一员，对国事发表意见，怎能说是干政？大总统这么害怕军人的意见，难道是心中有鬼不成？”
参加内阁会议的阁员可怜只有三人：海军总长程璧光、司法总长张耀曾、农商总长谷钟秀，军人倒有一大班，于是宣战案顺利通过。段祺瑞趁热打铁，利用督军团使国会和总统屈服。黎元洪这里顺利通过了，但国会却出了问题。
本来国会通过宣战案问题并不大，汤化龙、梁启超早就在议员中活动支持段祺瑞，但是傅良佐却帮了倒忙。
段祺瑞
５月８日，段祺瑞到国会解释对德政策并接受质询，他矢口否认中国参战背后有着中日幕后交易，声称宣战是本着正义的需要。当两院即将讨论提案的时候，各地人民团体纷纷来电支持宣战，北京城中也出现一些“自发”的群众的代表强烈要求对德宣战，段祺瑞闻之十分满意，殊不知这是傅良佐背着他搞的把戏，一些外地人民团体的电报实际上都是傅良佐派人从北京电报局发出的。
５月１０日下午，成群的“自发公民”包围了众议院大楼，他们或摇旗呐喊，或散发“请愿书”，有的甚至闯进议长办公室，要求汤化龙允许公民代表列席讨论。“公民团”的行径引起了众议员的义愤，大家集体罢会以示抗议，并准备离开会场，于是一场骚乱发生了。
傅良佐急于求成，结果弄巧成拙，反而使段祺瑞的宣战案中途告吹，内阁总长纷纷辞职，只剩下一个光杆总理了。
段祺瑞决定坚持下去，他一面酝酿新的阁员，一面授意滞京的部分督军和代表们，继续对国会施压，企图重开议会通过宣战案。
然而，一个毁灭性的新闻给了段祺瑞致命的打击，英文京报披露中日秘密签订了一亿元的军事借款。段祺瑞在国会所作关于中日之间绝无秘密外交的证词完全是一个谎言！
令人意外的是，一向软弱可欺的黎元洪突然挺直了腰杆，下令免去了段祺瑞国务总理和陆军总长的职务。５月２３日，张国淦听说黎元洪要免段，刚想开口劝说，站在一边的金水炎冲了过去，拔出手枪对准张国淦：“不许开口！开口我就打死你！”
段祺瑞气得鼻子又歪了。他的鼻子惟有盛怒的时候才会歪，这种情况少得很，而像这次鼻子居然向左边歪了二指多则更是少之又少，不但是空前，或许也是绝后的了。
黎元洪的强硬是因为他意外地得到一位实力派人物的支持，这位实力派人物就是大名鼎鼎的定武上将军、长江巡阅使，号称十三省大盟主的辫子大帅张勋。张大帅明确向黎总统表示，随时准备奉召入京，维护治安，黎元洪得此许诺，腰杆顿时硬了，信心大增，觉得可以藉此与段祺瑞斗法，于是出现了上一幕。
段祺瑞没想到黎元洪敢免他的职，怒气冲冲地离开北京去天津，并发表通电表示不承认黎元洪的免职令。一时间，倪嗣冲、陈树藩、张作霖、赵倜、曹锟等各省督军纷纷通电响应，指责黎元洪是个“奸人”，甚至要誓师北伐。
北京局势动荡不安，各国使节纷纷表示“忧虑”，新任命的国务总理李经羲不敢到京上任。黎元洪如坐针毡，无奈之下，急电调张勋入京。
１９１７年６月７日，张勋率六千辫子军向北京进发。在民初军界中，张勋是一大怪物，民国六年了，他依然垂着一条辫子，并且声称：“谁敢碰一碰我的辫子，我就和他同归于尽。”自然，他的定武军也是名符其实的“辫子军”了。张勋一向目空一切，以前辈自居，不将段祺瑞和冯国璋放在眼里，这次支持黎元洪，自然有他的小九九。
张勋是想借带兵入京调停之机，行复辟之实，把溥仪从紫禁城中重新请出来。张勋主张复辟一事，已是众人皆知，但关键是什么时候干这件事。张勋入京经过天津时，曾和段祺瑞有几次会晤。段祺瑞曾不止一次劝他不要搞复辟，并且郑重地表示：“你如复辟，我一定打你。”张勋也表示：“复辟不能变更，但目前还不想办。”但在暗地里，张勋已经是：“虽千万人，吾往矣”的态度，声称即便赴汤蹈火，也在所不辞。
黎元洪没想到自己搬来的救星成了灾星，张勋勒令他三天内解散国会。７月１日，北京的大街小巷飘起了大清国的龙旗。７月２日，黎元洪秘密签署了免去李经羲总理的命令。特任段祺瑞为国务总理，并命其讨伐张勋，同时，签发了请冯国璋代行大总统职务的电报，自己于７月３日躲进了东交民巷。
张勋不听劝告，抬出了溥仪。段祺瑞敲着桌子说：“只有打了，这可是他逼我这样做的。”
７月２日凌晨，段祺瑞来到了驻在马厂的李长泰第八师。下午，梁启超也风尘仆仆地赶到马厂，段祺瑞亲自迎接，寒暄道：“任公上任，军威大振。”７月４日，段祺瑞以讨逆军总司令的名义，发出讨伐张勋的通电和发布讨逆檄文，冯国璋在南京通电响应。７月５日，先头部队向天津进发，梁启超手书一联赠李长泰，联云“上将军段祺瑞讨叛国逆张勋。”
７月５日，战斗打响了。讨逆军以压倒优势猛攻，辫子军仓皇失措，向城里溃败。航空学校的两架飞机也奉命飞到辫子军阵地投掷炸弹，之后又飞临紫禁城上空进行轰炸。据说这是中国军事史上首次使用飞机作战。
到７月１２日晨，全城只剩下南河沿张勋住宅仍在抵抗。这时，一辆插着荷兰国旗的车通过阵地驶进张勋的公馆，这辆汽车是来接张勋的。车上有一德国人，两个荷兰人和一个翻译。张勋家人已经避往荷兰使馆，只剩下张勋和二太太邵夫人。张勋死活不肯上车，几个外国人急了，不由分说架着张勋上了车。
北京城又飘起了五色国旗。
平定张勋复辟是段祺瑞一生颇为自得的事，继他发电威胁清帝退位“一造共和”后，段祺瑞在六年后又“再造共和”了。
