第3章 皖系军阀段祺瑞——『北洋之虎』『三造共和』
“北洋三杰”之“段虎”，本为袁氏江山之功臣，却反对帝制初衷不改；“三造共和”有功，却实行军事独裁一系专治；一心要做北洋派老大，却小看了直系“吴小鬼”；过分宠信徐树铮，却成也萧何败也萧何。一生清正耿介，为官清廉，晚年甘守清贫不落水，颇具人格魅力。
小档案
姓名字号：段祺瑞 原名启瑞 字芝泉 晚号正道老人
祖籍：江西饶州（今江西波阳）
籍贯：安徽六安
生卒年月：1865.3.6—1936.11.2 卒年72岁
毕业院校：柏林军校
军衔：陆军上将
最高官职：北洋临时政府执政
军阀派系：皖系
生辰八字：乙丑 己卯 乙亥 辛巳
属相：牛
命相：波澜重叠，浮沉万壮之英雄运。富狭义正气，秉情敦厚。虽可获得成功及发展于一时，但因基础运劣，以致境遇不稳。若忍耐力不够，恐遭难受伤或伤人。
个人爱好：下围棋
家世：
曾祖父——段友杰，妻子杨氏。
祖父——段佩，系淮军名将刘铭麾下骁将，官至统领，因功被擢提督，记名总兵，授荣禄大夫、振威将军。妻子赵氏、曾氏。
父亲——段从文，粗识文字，当过军中管带。妻子范氏。
兄弟姐妹——弟：段启甫、段启勋。妹：段启英。
妻妾子女：
元配夫人吴氏，生长子段宏业，长女段宏淑。
继室张佩蘅，生四女，分别为段宏彬，段宏巽，段宏筠，段宏荃。
大姨太陈氏，生一儿一女，均夭折。
二姨太边氏，生一女。
三姨太刘氏，生次子段宏范。
四姨太刘氏。
五姨太李氏。
简历
1865年——3月6日，生于安徽六安县。
1868年——随父母迁至寿州。
1879年——祖父段佩去世。
1881年——到山东威海投奔任管带的族叔段从德，被收留在军营中作哨书。
1882年——父亲段从文被人杀害。
1883年——母亲范氏因悲伤过度去世。
1885年——考入武备学堂第一期预备生，被分入炮兵科。
1889年——以官费入德国柏林军校，学习两年炮兵，后独自留在德国克虏伯炮厂实习。
1896年——被调往天津小站，任新建陆军左翼炮队统带。
1899年——随袁世凯的武卫右军开赴济南。
1900年——元配夫人吴氏在济南病故。
1901年——任北洋军政司参谋处总办，后因镇压农民起义升为补用道员，加二品衔，被赏戴花翎，加“勇”号。
同年——娶袁世凯义女——江西巡抚、都察院左副都御史张芾的孙女张佩蘅为继室。
1903年——清政府在北京设立练兵处，任练兵处军令司正使，加副都统衔。
1905年——袁世凯将北洋军扩编为“北洋六镇”，段祺瑞出任第三镇统制，兼督理北洋武备各学堂。
同年——在北洋军第一次秋操中任“北军”总统官。
1906年——兼任“陆军行营军官学堂”督办。
同年——在南北两军第二次秋操中任“北军”总统官。
1908年——任会考陆军留学毕业生主试大臣。
1909年——任陆军第六镇统制。
1910年——调任江北提督。
1911年——辛亥革命爆发，任第二军军统，出兵湖北。
1912年——完成“一造共和”。
同年——任陆军部总长。
1912年——被授予陆军上将。
同年——被特授勋一位，及二等嘉禾章。
1913年——代理国务总理。
简历
同年——代湖北都督。
1914年——袁世凯建立将军府，任建威上将军，管理将军府事务。
同年——被给予一等文虎章。
1915年——辞去陆军总长。
1916年——任参谋总长，后任国务总理。
同年——完成“二造共和”。
同年——任国务总理兼陆军总长。
1917年——完成“三造共和”。
同年——因第一次南伐失败，11月16日递交辞呈。
1918年——把持官僚政客组成的“安福系”。
同年——复任国务总理。
同年——辞去总理职，任督办参战事务处督办，仍把持朝政。
1920年——直皖战争爆发，皖系战败，段祺瑞下野。
1924年——任中华民国临时执政。
1925年——其心腹徐树铮被冯玉祥谋杀。
1933年——受蒋介石之邀，前往南京，后移居上海。
1936年——11月1日突发胃病，2日在上海宏恩医院病逝。
自强不息，暗中贵人相助
人生之路虽然漫长，但关键处只有几步，这几步将决定人的一生。
段祺瑞一生中最最关键的有两步，第一步是武备学堂操练得到同乡前辈李鸿章的赏识，第二步是小站练兵得到袁世凯的青睐。
1886年秋季的一天下午，北洋武备学堂的操练场上，炮科操练正待进行，忽然风雨交加，虽说雨不是很大，但是风很大，海上浊浪翻滚，活动靶子在波浪中起伏不定。这样的天气绝对会影响操练成绩。
可是，所有学员和教官都知道，今天的操练非比寻常，因为有一个大人物——北洋武备学堂的创始人李鸿章，就在山顶上临时搭起的观操棚内，用望远镜观看着这场操练。此时，李鸿章的望远镜已经瞄准了海上漂浮不定的靶子。
学员们的心情异常紧张，可越是紧张越是难以打出好成绩。“轰——轰——轰——”几声炮响之后，水花在距离靶船很远的地方被炸起。接着又是几炮，情况所差无几，靶船依旧在海上飘摇。教官变了脸色。
可想而知，山顶观操的李鸿章早已气得面色铁青：“这等水平拉上战场，岂不是白白送死！”
为了挽回败局，教官拉出最好的学员：“段芝泉，你上！”
随着教员的喊声，一个瘦削青年从队列中走出。只见他表情坚毅，沉着冷静，三发大炮打出去，三发三中。教官笑了，练兵场上响起一片热烈的掌声。接着，青年被带到山顶观操棚。
“你叫什么名字？哪里人？”李鸿章打量着这个略带稚气的年轻人问。
“报告长官，学生叫段祺瑞，合肥人。”段祺瑞先向李鸿章打了个敬礼，腰板挺得笔直，看上去十分精神。
“很好！很好！”李鸿章连连夸赞。
李鸿章一向惜才爱才，段祺瑞炮打得好，又是一副铮铮铁骨的军人模样，自然心生喜爱，一问又是合肥人，地道的老乡，心里更是高兴；再问段祺瑞的家庭情况，原来段祺瑞的祖父段佩是淮军名将刘铭传麾下的一员骁将，最后官至统领，因功被授荣禄大夫、振威将军。旧部子弟，自然又多了一层感情上的亲近。李鸿章接着又问了段祺瑞一些军事上的问题，段祺瑞对答如流，令李鸿章十分满意，当即令手下记下了段祺瑞的名字。
其实，段祺瑞的祖父虽官至统领，但段祺瑞的生活却充满坎坷。段祺瑞15岁那年，祖父病逝于军中，段家家道中落，甚至连段祺瑞读私塾的钱都付不起。段祺瑞17岁时独自步行2000里，从合肥赶到山东威海，投靠任管带的族叔段从德。从军后第二年，其父段从文从合肥来看他，在返回途中，拿出携带不多的银子，买了些生丝和布，准备以后给儿子成亲用。不料，同行的两人见到这点布和银子，竟将段从文这名老实巴交的庄稼汉杀死，将他身上的物品洗劫一空。一年后，段祺瑞的母亲范氏也因伤心过度去世。一连串的打击，让小小年纪的段祺瑞脸上从此失去笑容，取而代之的是与年龄不相称的冷峻与刚毅。1885年，李鸿章创办北洋武备学堂，逆境中的段祺瑞以优异的成绩考入学堂炮科。
李鸿章欣赏的就是这种军人的坚强，当1888年清政府选派武备学堂毕业生赴德留学的时候，李鸿章给了这位小老乡特别的关照。当时赴德学习军事的名额只有五个，名单报上来后，五人中有三名山东人，两名安徽人，李鸿章随手拿起笔，划掉一名山东人，换上了段祺瑞。
段祺瑞并不知道，他的命运就在李鸿章大笔一挥之间改变，使他由一个普通的武备学堂毕业生，变成了留洋德国的高级军事人才。段祺瑞于1889年以官费进入柏林军校，学习两年的炮兵后，李鸿章出于栽培的目的，又让他一人留在欧洲闻名的德国克虏伯炮厂实习深造。学成回国后，段祺瑞被派到威海卫港，担任随军武备学堂的炮兵教官。
应该说，留洋是段祺瑞日后升迁基础，有了这个基础，才得以作为新军骨干被推荐到小站，机缘巧合地得到袁世凯的青睐，从此跟随袁世凯飞黄腾达，青云直上。
常言说三十而立，1895年，30岁的段祺瑞奉长辈之命回家完婚。段祺瑞与元配夫人吴氏早年相识于宿迁，由于他一直忙于求学、深造，追求事业有成，将成家之事一拖再拖，直到女方长辈发出最后通牒，才不得不给女方一个交代。
偏偏事有凑巧，段祺瑞请假回家之时，正是袁世凯就任“新建陆军”督办到处网罗人才之际，段祺瑞到家第二天，便接到天津小站练兵处发来的电报，通知他已被调往小站，参加编练新军，并限期报到。
得此消息，段祺瑞兴奋异常。由于对西方现代军事有了较深的了解，段祺瑞对中国旧军队的落后与腐败深恶痛绝，认为只有建立新式军队，才是强国之本，因此在威海担任武备学堂教官，总觉得抑郁不得志。此前他已得知小站将编练新军，心中十分向往，只是苦于无人引荐。而此次举荐他到小站练兵的，是武备学堂总办荫昌。
如今如愿以偿，段祺瑞恨不能马上赶赴小站报到。但是婚未结倘若一走了之，无法向家族长辈和吴氏家长交代。但不走，又将耽误军期，违反军令，这是作为军人的段祺瑞无论如何不能接受的。
正在为难之际，又一封电报不期而至，这是袁世凯命属下发来的，大意是让段祺瑞妥善办理好婚事，然后再赴小站。袁世凯还特地赠送银票以示祝贺。看罢电报，段祺瑞感激万分，没想到赫赫有名的袁大人竟如此礼贤下士。
办完婚事，段祺瑞一刻不敢停留，立刻起身北上。不料一到小站，早有一群小站将领在此迎接，而大名鼎鼎的袁世凯袁大人竟然也在迎接队伍中。段祺瑞真是惊异万分，诚惶诚恐，急忙行大礼道：“祺瑞不才，怎敢劳大人亲迎！”袁世凯却笑呵呵地拉起段祺瑞，问长问短，没有一点上司长官的架子。
当晚，袁世凯在营中设宴，特地为段祺瑞接风。席间，两人聊起对旧军队的改造，竟然有诸多相同看法，大有相见恨晚之感。几天后，段祺瑞在一家酒楼回请小站将领，待到饭后结账时，酒楼老板却说已经记入袁世凯的账下，让段祺瑞心中更是充满感激。想自己何德何能，竟能得到袁世凯如此青睐，与其他将领相比，无非是多留了几天洋而已。于是暗下决心，一定要尽心尽力效忠袁世凯，以报知遇之恩。
当时小站将领中，许多人出自北洋武备学堂，如曹锟、段芝贵、张怀芝、卢永祥、王占元、陆建章等。而荫昌为袁世凯推荐的四名新军骨干，王士珍、段祺瑞、冯国璋、梁华殿，除梁华殿在一次夜操中失足跌落河中溺死外，其余三人全部成为袁世凯在军事方面的得力干将，就是后来的“北洋三杰”，号称“王龙”、“段虎”、“冯狗”。
段祺瑞凭借自己的军事才干与对袁世凯的忠心不二，很快成为袁世凯的左膀右臂，并跟随袁世凯一路升迁。1899年，段祺瑞跟随袁世凯赶赴山东镇压义和团运动，1901年袁世凯升任直隶总督，段祺瑞随后担任北洋军政司参谋处总办，负责北洋常备军的编练。后因镇压农民起义升为补用道员，加二品衔，被赏戴花翎，加“勇”号。1903年清政府在北京设立练兵处，袁世凯任会办大臣，段祺瑞出任练兵处军令司正使，加副都统衔，成为袁世凯的得力助手。1905年袁世凯将北洋军扩编为“北洋六镇”，段祺瑞出任其王牌军第三镇统制，兼督理北洋各武备学堂。此后，他还担任过保定军官学堂总办，陆军各学堂督理，会考陆军留学毕业生主试大臣等职位，因此，北洋军官多半都是他的门生故吏，他在军中的影响也越来越大。
1900年段祺瑞的元配夫人吴氏病故，一年后，袁世凯将义女——江西巡抚、都察院左副都御史张芾的孙女张佩蘅嫁给段祺瑞为继室，从此，二人除了袍泽之谊又多了一层姻亲关系。
出于对袁世凯的忠心与崇拜，段祺瑞在生活中经常模仿袁世凯的样子，如闭目养神，当睁开眼睛时，让人顿觉双目炯炯有神，或咄咄逼人，威严凛冽。甚至走路姿势、穿衣打扮，段祺瑞也喜欢模仿袁世凯，尤其袁世凯常戴一顶黑色方顶小帽，与他的五短且发胖身材颇为和谐，而段祺瑞身材瘦削，也戴上一顶同样的方顶小帽，看上去便有了些不伦不类，甚至怪异好笑。
知恩图报，制造南苑“兵变”
正所谓树大招风，功高震主，在袁世凯北洋势力迅速膨胀之时，清廷已用明升暗降的方法，开始了对他权力的遏制，尤其对北洋势力的分化与削弱，无论袁世凯还是其他北洋将领，无不感到一种咄咄逼人的态势。
1908年11月，一个看似平常的日子，正在保定北洋陆军各学堂督办公署办公的段祺瑞，突然接到袁世凯的亲笔密函，要他尽快赴京。当段祺瑞赶到北京，进入位于紫禁城东边锡拉胡同袁府后，袁世凯已经被传入宫。
袁世凯的长子袁克定惊慌失措地告诉段祺瑞：“大事不好了，皇上和太后都驾崩了！”
原来，光绪帝驾崩后，袁世凯于当天夜里被召到宫中商量立嗣之事，第二天慈禧也晏驾了。根据慈禧懿旨，立醇亲王载沣之子溥仪为嗣君，由载沣监国摄政。而袁世凯却一直留在宫中未归。
这个消息令段祺瑞大吃一惊，且不说一朝天子一朝臣，仅载沣上台就对袁世凯极为不利！长期以来，以载沣、铁良等人为首的满族排汉派一直对袁世凯耿耿于怀，而当年戊戌变法袁世凯告密导致光绪被囚瀛台一事，载沣作为光绪的胞弟，更不会放过袁世凯。对此，段祺瑞心急如焚。
滴水之恩，当涌泉相报。袁世凯的知遇之恩，段祺瑞没齿难忘，何况袁世凯之于北洋将领，本为一荣俱荣一损俱损的关系。返回保定后，段祺瑞决定以“兵谏”解救袁世凯。当他与手下第一谋士徐树铮商量时，徐树铮却认为不妥。
“贸然进行‘兵谏’，实为大逆不道之举，名不正言不顺，难有取胜把握。”徐树铮分析说，“不如先向朝廷称病开缺，再放出风声，举行冬操，以引起朝廷重视，让他们不敢轻易对袁大人下手。若事后追查起此事，也有退路可寻。”
徐树铮是江苏萧县人，自幼聪颖过人，才华横溢，与段祺瑞相识于袁世凯的山东巡抚任上，两人性情相投。后来徐树铮自日本陆军士官学校毕业归来，直接拜入段祺瑞门下。
段祺瑞觉得徐树铮的主意不错，急忙着手施行。可就在此时，一个实行“兵谏”的更好理由送上门来。驻扎北京南苑北洋第六镇第十一协的协统李纯打来电话，说几个士兵聚赌闹事，发生火并，问该如何处置。段祺瑞一听，在这种时候，居然为这点小事打电话请示，立刻来了火气，刚想训斥几句，突然灵光一闪，大声说：
“秀山啊，这是发生兵变了！”
李纯号秀山，他与段祺瑞同是北洋武备学堂首届毕业生，对光绪帝与西太后相继晏驾、袁世凯滞留宫中虽有耳闻，却不像段祺瑞那么敏感，他一时没有明白过来，坚持说：
“没那么严重，只是几个士兵赌博……”
“是兵变！”段祺瑞厉声打断对方的话，“你那里发生了兵变，立刻派兵弹压，声势越大越好，明白吗？”
“哦，我明白……”李纯有些开窍了。
“我马上派兵增援！”
段祺瑞放下电话，立刻命令出兵南苑。南苑位于北京南城脚下，一时间军号齐鸣，战鼓震天。段祺瑞派出的增援部队赶到后，竟然动用了大炮，隆隆的炮声震动了紫禁城，清廷顿时乱成一片。
与此同时，段祺瑞上报陆军部：北京南苑发生“兵变”，他正率部镇压。载沣原本优柔寡断，缺乏经天纬地之才，虽意欲除掉袁世凯，却又瞻前顾后，担心由此引发动乱，征求荫昌、张之洞等人意见后更不敢轻举妄动，在“兵变”面前，自然会做出让步，最终于1909年1月2日，以袁世凯患“足疾”为由，一道谕旨将其开缺回河南“养疴”。
袁世凯“死里逃生”，随即带着一家老小登车返乡。离京时，不仅往日前呼后拥的风光不再，连送行者都寥寥无几。人们唯恐避之不及，哪里还敢车站送行招惹麻烦呢！车到保定，段祺瑞上车相见。见到段祺瑞，袁世凯感慨万千，连说：“芝泉啊，项城没看错人！项城没看错人！”
段祺瑞见袁世凯往日威风全无，心中颇感凄凉，也动了感情：“大人于我有知遇之恩，纵是赴汤蹈火，也在所不惜。”
袁世凯被开缺后，段祺瑞的命运也随之发生了变化。摄政王载沣下令重新改编全国武装，建立新军三十六镇，各镇高级将领均由满族人担任。1910年12月，段祺瑞被调任江北提督。提督是清朝从一品的官衔，表面上看段祺瑞被提升了，实际上，清廷用明升暗降的办法，夺去了他的兵权，并把他从直隶省调开。
段祺瑞焦急万分，上任途中绕道袁世凯“隐居”的彰德洹上村，袁世凯劝他要沉住气，北洋将领总有咸鱼翻身之日。
果然，1911年10月，辛亥革命爆发，清政府派出陆军大臣荫昌率北洋军队前去镇压，同时派冯国璋为第二军军统增援。由于荫昌指挥不动袁世凯的北洋军，清政府被迫敦请袁世凯出山，袁世凯出山的条件之一，便是在调任冯国璋为第一军军统的同时，任命段祺瑞为第二军军统，前往湖北镇压起义军。
赴京之前，段祺瑞再去彰德洹上村请示机宜，袁世凯对段祺瑞推心置腹：“芝泉啊，我不妨对你直说，尽管南方闹得很凶，但要害之处不在南，而在北！”
“大人的意思是北方不能乱？”
“是的。出兵南方，更要随时准备回师北方，不能让人家把我们的老窝端掉。就让华甫（冯国璋）在前面打吧，你在后边要控制铁路，以便进可以援于武昌，退可以左右直隶和北京。”
后来事实证明，袁世凯此举可谓有先见之明。段祺瑞到信阳尚未坐稳，北方便出了大乱子。山西新军中革命党人首先在北方发动起义，推举新军标统阎锡山为军政府都督，准备进攻北京。清政府急令驻扎滦州的第二十镇统制张绍曾出兵讨伐。岂料这位“士官派”代表联合其他将领，电奏朝廷，宣布实行“兵谏”。清廷情急之下，派出第六镇统制吴禄贞前往滦州说服。吴禄贞与张绍曾、蓝天蔚同为“士官三杰”，三人关系甚笃，清廷原以为吴禄贞的说服工作会大见奇效，岂不知吴禄贞是一位以尽快推翻满清政权为己任的激进革命者。吴禄贞一到滦州，便提出联合阎锡山，合围攻打北京的主张。
此时，清廷刚刚任命袁世凯为内阁总理大臣，由他出面组织责任内阁，清廷军政大权已落入袁世凯的掌控之中，倘若在这个时候清廷被北方革命力量所消灭，则皮之不存毛将焉附？尤其严重的是，袁世凯便有被逐出政治舞台的危险。幸亏他早有防范，已收买张绍曾手下的协统，因此在第一时间内知道了内幕。
北方所发生的事，段祺瑞在信阳已有所耳闻。10月31日，袁世凯赴湖北孝感视察的专车抵达信阳，段祺瑞上车拜见袁世凯，方知事态远比想象的要严重。两人就如何平乱进行了一番商议。由于兵谏将领中许多是段祺瑞的旧部与学生，因此决定由段祺瑞北上以攻心战进行瓦解。
段祺瑞旋即带领数名亲信赶到北京，以发送公开或秘密电报的形式，以同僚或师长身份，劝说兵谏将领们服从袁世凯指挥，率部南下。同时派出徐树铮等得力干将到自己旧部和学生中进行游说。段祺瑞在北洋将领中素有威望，此招一出，将领们纷纷倒戈，张绍曾很快被架空。
与此同时，袁世凯授意军谘府以令吴禄贞率部赴山西镇压起义为名，将吴禄贞从滦州调开。而吴禄贞率部赶到石家庄后便停滞不前，他一面谎报军情麻痹清廷，一面与阎锡山取得联系，约定组成燕晋联军，于11月8日联合举事，围攻北京。
就在吴禄贞与阎锡山密谋举事的同时，袁世凯已采取行动，决定暗杀吴禄贞以除后患。袁世凯的亲信收买了一个叫周符麟的协统，负责暗杀事宜。周符麟先到北京面见段祺瑞，然后遄赴石家庄组织暗杀行动，11月7日深夜，在约定举事的前一天夜里，吴禄贞在石家庄的临时办公处被刺杀身亡。
为了给舆论一个交代，段祺瑞按事先约定传讯周符麟，两人合演了一出双簧，然后便把周符麟放走了。喧嚣一时的北方事件终于风平浪静，段祺瑞为袁世凯又立一功。在接下来对南方的用兵中，段祺瑞由于吃透了袁世凯的意图，屡屡为袁世凯排忧解难，再建功绩。
此时，担任前敌主将的冯国璋打得十分卖力，先攻克汉口，又攻克汉阳，接着要一鼓作气拿下武昌。这下急坏了袁世凯。袁世凯的策略是“养敌自重”，无奈他连发七道急令，并三次派员南下让冯国璋停战，冯国璋都不得要领。而袁世凯“借敌自重”要挟清廷的目的又不便明说。情急之下，袁世凯走马换将，命段祺瑞为湖广总督，兼办剿抚事宜，同时以第二军军统兼任第一军军统，将冯国璋调回北京。
段祺瑞果然不负厚望，他深知袁世凯早已无意于清廷，更不会安心于内阁总理大臣，他追求的是大总统的宝座，于是，与袁世凯一南一北，一唱一和，配合默契，既利用革命军胁迫清廷谈条件，又利用清廷向革命军“讨价还价”。
在“南北议和”进行中，南方革命党领袖黎元洪等人与袁世凯基本达成默契，黎元洪等人表示，“如袁反正，将拥其为总统”。
然而，就在袁世凯做着大总统美梦的时候，孙中山自海外归来，于1912年1月1日在南京就任中华民国临时大总统。
这一变化令袁世凯与段祺瑞万分震惊与愤怒，因为正是袁世凯试图借敌自重，汉阳战役之后停止进攻，才使武昌民军化险为夷。如今孙中山做了总统，袁世凯岂能善罢甘休，立刻电令段祺瑞炮击武昌。
在各方面的压力下，孙中山作出让步，南方代表以“清帝退位和保证共和”作为袁世凯出任大总统的先决条件。袁世凯对民主共和不以为然，不过是想借机压迫清廷，达到上台的目的。但是，清室少壮亲贵对清帝退位一事反应激烈，而袁世凯本人不愿承担背叛清廷的骂名，逼宫的重任便落到了段祺瑞肩上。
1月下旬，段祺瑞振臂一呼，率前线北洋将领46人，先后两次联名致电朝廷，吁请清帝退位，称“人民进步非共和不可”，必须“立定共和政体”，否则“即率全体将士入京”，并随即将司令部从湖北孝感迁往河北保定，作出一副进京逼宫的样子，对清廷造成咄咄逼人的态势。
1912年2月12日，清隆裕太后迫于压力，终于以宣统的名义下诏清帝退位，在中国延续两千多年的封建帝制自此寿终正寝。
3月10日，袁世凯在北京就任临时大总统。段祺瑞也因逼宫有功，被视为“一造共和”的英雄，不久被任命为陆军总长，执掌戎机。
反对帝制，与小舅子叫板
正所谓共患难容易共富贵难，升任陆军总长之后，段祺瑞蓦然发现，当了大总统的袁世凯对原先的肱骨干将却不那么信任了。矛盾首先在陆军次长人选上暴露出来，段祺瑞圈定的陆军次长是他最信任最得力的助手徐树铮，名单递上去之后，袁世凯却沉下了脸。
“又铮（徐树铮字）面带煞气，不是个安分守己的人物，还是换个人吧。”袁世凯看着那份名单说。
“又铮对大总统很忠心，人也能干，这陆军次长最适合他。”段祺瑞立刻回应。
但是段祺瑞没有想到，袁世凯不同意徐树铮出任陆军次长，正是因为徐树铮能干！徐树铮不仅才干超群，而且对段祺瑞忠贞不二，被视为段祺瑞的灵魂。且徐树铮敢想敢干，胆量过人，段祺瑞身边有这么个重量级人物，令袁世凯心中很不舒服。早前“北洋三杰”势力相当，能够相互制约。袁世凯出任大总统后，三足鼎立的局面被打破，王士珍留恋清廷退隐还乡，冯国璋外调南京，中央军事大权落到段祺瑞一人手中，袁世凯深知枪杆子里出政权的道理，怎能将这军事大权放心地交给别人掌管呢？又怎能让“段祺瑞的灵魂”出任陆军次长任由段祺瑞如虎添翼呢？
而段祺瑞一向是军人做派，性格直率，刚愎自用，职权范围之内不愿受他人掣肘，因此，有关军队的编制、调遣、军官的提拔与降黜，除个别重大事件向袁世凯报告外，一般都擅做主张。而他所提拔之人，大多是亲信、部属和学生，这就更加重了袁世凯对他的猜忌与疑虑。于是，两人之间有了裂痕。
尤其令袁世凯耿耿于怀的是，徐树铮一直在陆军次长的位子上安之若素，他一直想借故将其开缺，却始终没找到机会。有次段祺瑞到中南海公干，与袁世凯一起沿着湖边散步。当时气氛融洽，两人心情大好，袁世凯认为时机已到，趁机说：
“很多人对陆军部有意见，都说又铮目高于顶，受不了他那个做派，还是给他换个地方吧？”
一听袁世凯旧话重提，段祺瑞不由得心头蹿火。段祺瑞历来脾气火爆，说一不二，其部下与家人都深有体会。但在袁世凯面前，他不得不有所收敛，但也仅仅是控制着大为光火的程度而已。
“又铮是有些个性，可这个人有能力，给我做助手我放心，省心。若是换个用着不顺手的，倒不如连我一起撤了。”
甩出这几句硬邦邦的话后，段祺瑞转身走了。袁世凯被晾在湖边，心里恨得直咬牙：“好！终究有一天，我会连你一起撤掉的！”
其实在当时，这不过是袁世凯的气话，他一心要削弱段祺瑞的兵权，但在民初政局不稳的情况下，在很多方面还离不开段祺瑞这个北洋军中的老大。后来随着袁世凯称帝步伐的加快，两人的矛盾开始激化，尤其是段祺瑞反对恢复帝制，得罪了一心想当太子的袁克定，段祺瑞的命运很快发生了逆转。
1913年秋，在袁世凯镇压“二次革命”后，京城中复辟帝制的舆论开始甚嚣尘上。为此，段祺瑞曾当面询问袁世凯，此事是否属实。在段祺瑞看来，袁世凯不至如此糊涂，毕竟复辟不得人心，倒行逆施必然会招来千古骂名，尤其会引发动乱，成为众矢之的。在得到袁世凯的断然否定后，段祺瑞才稍稍放下心来。
可是时隔不久，袁世凯的心腹幕僚长阮忠枢便找上门来，他是受袁世凯的长子袁克定指派，专为袁世凯称帝寻求奥援而来。阮忠枢与段祺瑞素称莫逆，袁克定以为，由阮忠枢出面，段祺瑞定然不会反对。而他要段祺瑞做的，是段祺瑞做梦都不曾想到的：联络北洋将领，再来一次全国通电，拥护袁世凯称帝。
“真是滑天下之大稽！”不等阮忠枢说完，段祺瑞便愤愤地打断他的话：“我段某人只知通电共和，岂能通电复辟？大总统早就说过不当皇帝，你们还敢胡闹！”
其实，对于复辟帝制，袁克定远比袁世凯热衷得多，毕竟袁世凯做了皇帝，他便是皇太子，理所当然的皇位继承人。为了促成复辟帝制，袁克定甚至捏造政治谎言欺骗袁世凯。当时列强忙于第一次世界大战，无暇东顾，袁世凯十分关注日本人对其称帝的态度。而他揣测日本人态度的重要信息来源，便是日本人在北京办的报纸《顺天时报》。由于该报经常刊登一些对恢复帝制不利的文字，为了坚定袁世凯称帝的决心，促成袁世凯称帝，袁克定竟别出心裁，自己出资找人编造了盗版的《顺天时报》，经常刊登一些日本人赞成中国恢复帝制的文章。袁世凯看了信以为真，加快了称帝的步伐。后来袁世凯称帝失败，始知事情真相，不禁仰天悲呼：“克定误我！克定误我！”
而此时，段祺瑞的不予配合，令袁克定火冒三丈，从此经常在袁世凯耳边聒噪，说段祺瑞坏话，挑拨离间，以达到剥夺段祺瑞兵权的目的。
1914年5月，袁世凯宣布在总统府成立陆海军大元帅统率办事处，袁世凯亲自任大元帅，由“北洋之龙”王士珍任办事处坐办，陆军总长、海军总长、参谋总长，以及大元帅所派高级官员全部降为办事员。
看着摆在办公桌上的这份公文，徐树铮愤愤地说：“看来老头子要卸磨杀驴了！”
段祺瑞摇摇头：“怕是没那么容易，老头子有多大本事能把所有事都亲自抓起来！”
“不管怎么说，这是一个夺权信号！”徐树铮甚至认为，这个“夺权”，其实只是冲着段祺瑞这个陆军总长来的，其他人手中的“兵权”，对袁世凯以及袁克定来说，实在构不成威胁，大可不必如此费尽心机。
两人不曾料到的是，这个“夺权”的点子，正是袁克定所献计策。袁克定甚至亲自前往河北正定，恭请王士珍出山。王士珍以善操权谋于腹中而被推为“北洋三杰”之首，由于忠于清廷，他对袁世凯的高看并不买账，以岁数已大不愿再参政为由拒绝出山。无奈袁克定软磨硬泡，最终以看望其父为名将王士珍拉到北京。王士珍一到，袁世凯立即授为陆军上将，委以统率办事处坐办。
如此一来，陆军部等于名存实亡，掌控陆军部的段祺瑞兵权尽失。从此，退居办事员的段祺瑞开始了消极怠工。段祺瑞居住的府学胡同私宅，是袁世凯被开缺回原籍时，为感谢段祺瑞的鼎力相助拱手相送的，价值30万元。该宅有侧门与陆军部相通，此前段祺瑞去陆军部常由此门出入。如今，段祺瑞将一切部务交给陆军次长徐树铮代行，自己整日在家里下围棋，打麻将，不仅极少去部里，甚至统率办的会议也常借故缺席。
段祺瑞消极怠工，倒给袁世凯独揽兵权减少了许多麻烦。只是段祺瑞羽翼已丰，在陆军中隐然形成一种强大势力。为了尽快将段祺瑞的势力排挤出去，加强军事集权，同时培植“太子”袁克定的军事实力，1914年10月，袁世凯在军事上又采取了一项重大举措——建立模范团。
所谓模范团，其实是类似军事教导团式的军事学校，以其在军队中的模范作用，对北洋军进行逐步改造。段祺瑞对这个方案持否定意见，但段祺瑞越是反对，袁世凯越是认为这项举措是对的。关于团长人选，袁世凯宣布由袁克定担任。段祺瑞也毫不留情，在统率办会议上当众顶撞袁世凯，语出惊人：
“云台（袁克定字）没带过兵，我看他不行！”
“你看我行不行？”袁世凯肺都快气炸了，立刻针锋相对。
段祺瑞无话可说，只好偃旗息鼓。后来模范团成立，袁世凯做了一期团长，便把位子让给了袁克定。
袁克定如愿以偿做了模范团团长，对段祺瑞更是怀恨在心，伺机报复。1915年初，袁世凯为取得日本对其称帝的支持，与日本酝酿签订卖国条约“二十一条”。5月2日，袁世凯亲自主持会议讨论签约事宜。会议名曰讨论，实际不过是通知大家而已，因为所有人都看得出袁世凯的意向，因此，即使反对也无人敢拿着鸡蛋往石头上碰。唯有段祺瑞拍案而起，慷慨陈词：
“小日本欺人太甚，如此条件过于苛刻，绝对不能接受！”
在劝阻不起作用的情况下，为了阻止签约，阻止袁世凯称帝，会后，段祺瑞以陆军总长名义，领衔19省将军通电请缨，称“天下兴亡，匹夫有责”，表示坚决反对签订“二十一条”，甚至不惜与日本人决一死战。
令段祺瑞不曾想到的是，袁世凯不顾北洋将领以及全国各方面的强烈反对，于5月下旬与日本签订了“二十一条”；更有甚者，袁克定竟混淆视听，将一盆污水泼到段祺瑞头上，公开对外宣称：
“政府之所以向日本屈服，是因为陆军不能打仗，段总长亲口说，一旦打仗，三天之内便可亡国。陆军如此无用，政府能不接受日本的条件吗？”
明明是为了称帝邀宠于日本，出卖国家主权，却说成是陆军无用被迫接受日本不平等条约，段祺瑞气得鼻子都歪了。
尽管如此，段祺瑞仍坚持反对复辟帝制。后来随着复辟帝制的升级，许多反对袁世凯称帝的官员、将领都违心地改变了态度，进入“劝进”的行列。即使不愿意违心“劝进”的也都闭上了嘴巴，唯独段祺瑞仍然坚持反对袁世凯称帝。有人好心劝他，哪怕违心地表示一下“劝进”，也可改善他与袁世凯的关系，否则他的日子会越来越不好过。段祺瑞则公开宣称：
“当年我领衔通电主张共和，如今要我领衔通电取消共和，拥项城称帝，这种出尔反尔的事我是绝对不会干的！”
段祺瑞的态度令袁世凯大为光火，决定搬开这块绊脚石，他对段祺瑞说：“你脸色不好，是不是有病，要注意休息。”随后又特地托人给段祺瑞捎话，告诉他要少操劳，多休息，注意身体。这明显是逼段祺瑞辞职。
段祺瑞对这个办事员级别的陆军总长也干够了，索性于5月31日以身体不适请辞。袁世凯假意挽留，没有立即批准辞职，只是批准休息两个月，但在段祺瑞辞职当天，便任命王士珍为陆军总长；而两个月期限一到，便迫不及待地正式免除了段祺瑞陆军总长的职务。
还是在段祺瑞刚刚请假时，袁世凯就以徐树铮订购军火虚报40万元为由，指使肃政厅弹劾徐树铮，撤了徐树铮陆军次长的职务，终于消除了他心头的一大宿疾。
段祺瑞被免职回家养疴后，袁世凯一边派人暗中监视，一边派医送药，并经常派人给段祺瑞送去鸡肝、参汤之类补养品。段祺瑞不敢食用，全部悄悄倒掉。但袁克定行起事来比他的老子直接多了，由于段祺瑞在北洋军中的威信无人可替代，倘若段祺瑞对袁世凯称帝一直不肯“劝进”，显然对恢复帝制极为不利，袁克定急于当太子，岂容段祺瑞如此执拗，于是，他派人在段公馆里安放了一枚炸弹。
这颗炸弹很快被发现，虽没有爆炸，却给段公馆带来一片恐慌。段祺瑞的夫人张佩蘅将这件事告诉了她的干娘、袁世凯的发妻于夫人，于夫人转告了袁世凯，袁世凯知道事出袁克定之手，将袁克定训斥一番，说：
“你姐夫反对恢复帝制，只是口头上的劝阻，并没有采取过激行动。如今事情未定，这个时候内部不能出事，尤其你姐夫在北洋军中威信极高，弄出事来不好收场！”
袁克定不得不承认，姜还是老的辣，到底是老头子考虑事情周全。尽管他对段祺瑞阻碍恢复帝制恨之入骨，此时也只好收手。
横遭贬黜，笑看护国战起
1915年12月12日，袁世凯正式宣布接受帝制，随后进行大封爵，在获得爵位的128人中，唯独没有跟随袁世凯多年出生入死打江山的段祺瑞。
段祺瑞躲在自己的府上，对轰轰烈烈的称帝活动了解得一清二楚，他不稀罕什么封爵，但对袁世凯果真大逆不道当了皇帝，以及围在他身边撺掇其称帝的那帮小人深恶痛绝，整天像坐在火山口上，对其大加指责。有一天在餐桌上，段祺瑞又指责袁世凯称帝，气愤地说：
“项城称帝之日，就是走向灭亡之时！”
这在他的夫人张佩蘅听来，似乎是在诅咒袁世凯。于是张夫人说：“不要忘了你今天的一切从何而来，人不能如此没有良心！”
段祺瑞勃然大怒，照着张夫人的脸左右开弓，“啪啪”就是两个耳光，同时怒斥道：“妇道人家，这里也有你说话的地方！”
在一起生活多年，张夫人素知段祺瑞脾气大，但也没想到他竟当众对自己连打带斥责，让她在姨太太和晚辈面前颜面尽失。但段祺瑞对帝制的诅咒却“应验”了，几乎在袁世凯宣布称帝的同时，护国运动便率先在云南发起，爱国将领蔡锷联络各派反袁力量，组成“护国军”，宣布云南独立。接着，贵州、广西相继宣布独立，反袁斗争风起云涌，在全国各地迅速发展。面对中国人民反对帝制的怒潮，帝国主义也纷纷转变态度，表示反对袁世凯称帝。
段祺瑞闭门家中坐，全知天下事。他知道袁世凯在公府丰泽园成立了“征滇临时军务处”，亲自处理军事，并军事、外交、内政事必躬亲，且身边没有得力助手，撺掇他称帝的那帮亲信见势不妙，一个个都在另做打算。而战局对袁世凯极为不利，开始时北洋军与护国军在四川泸州一带形成拉锯战，但不久双方竟信使往来，协议停火了。尤其是云贵独立后，又有广西宣布独立，湖南陷入孤立之中。冯国璋拥兵静观，袁世凯无可奈何。北洋军已不再听其调动，袁世凯内心深受重创，其焦头烂额程度可想而知。想到袁世凯不听劝阻咎由自取，段祺瑞总算出了一口恶气。
正在心情好转之时，徐树铮带来一个匪夷所思的消息：被剥夺了陆军次长职务的徐树铮，突然被袁世凯任命为将军府事务厅厅长！
“项城对你恨之入骨，今日请你出山，太阳是打哪边出来的？”
“还用说，当然是为了讨好你！”
徐树铮说的没错，面对内外混乱的局面，袁世凯自然想到请段祺瑞出山稳定局势。这不仅因为段祺瑞是北洋元老，在北洋军中下属、学生众多，还在于他人缘好，自身清廉，虽刚愎自用，却心地善良，不易树敌。但唯恐段祺瑞不给面子，只好先从任命徐树铮入手，希望通过徐树铮打动段祺瑞。
随后，袁世凯又走夫人路线，让发妻于氏通过段祺瑞的夫人张佩蘅，转达他的意思：请段祺瑞出山，共济时艰。只是张夫人话未说完，便被段祺瑞一声怒吼所打断：
“宿疾未愈，何以出山？”
张夫人赶紧闭嘴。此后不久，又传来袁世凯病重的消息。原来早在南方讨袁运动兴起之时，袁世凯便在忧急之中病倒。3月19日，袁世凯获得一份五将军秘密通电。五将军即江苏将军冯国璋、山东将军靳云鹏、江西将军李纯、浙江将军朱瑞、湖南将军汤芗铭，这五人于3月18日联名发密电致各省将军，就“迅速取消帝制，以安人心”，同时“惩办祸首”，征求各省将军同意。袁世凯没想到他一手培养起来的北洋将领会成为他的敌人，而领衔者竟是他多年的左膀右臂冯国璋。受此打击，病情骤然加重。在走投无路的情况下，袁世凯只得再次请发妻于氏出面，给他们的干女儿张佩蘅打电话，希望段祺瑞摒弃前嫌，去中南海探视。
这次连张夫人都慌了，她结结巴巴地向段祺瑞叙述了袁世凯的病情。听说袁世凯病得很重，段祺瑞动了恻隐之心，他摆了摆手，表示已经知晓，什么都没说。张夫人一看段祺瑞没有明确表示反对，立刻告知于氏。袁世凯听后非常高兴，第二天便写了亲笔信派人送到段府，交到段祺瑞手中，信中言辞恳切，希望段祺瑞看在两人多年的交情上，能去中南海一叙。
段祺瑞看完信，觉得袁世凯可能是真的想取消帝制了，便不再推辞，如约来到中南海。见到病榻上的袁世凯，段祺瑞顿生一种凄凉之感，对袁世凯的怨恨也平复了许多。
袁世凯充满歉意地说：“芝泉，你能来真是太好了，都怪我当初不听你的劝阻，闹到今天这个局面。我老了，身体也不好，还是请你出山，再帮我一次……”
“若取消帝制，我愿全力相助。”段祺瑞答道。
“好，取消帝制。”袁世凯不再犹豫。
3月21日下午，袁世凯在公府召开紧急会议，参加会议的除段祺瑞、徐世昌外，还有黎元洪，此三人皆为袁世凯称帝前一脚踢开的大员。会上，袁世凯首先宣布取消帝制，复任大总统，随后任命段祺瑞为参谋总长、徐世昌为国务卿，黎元洪仍为副总统，责成三人稳定局势。
但是，袁世凯并非真心想下放权力，不过是想借用三人在北洋军以及对西南的影响，挽回败局，继续其专制统治。3月22日通电取消帝制后，便催促三人尽快向西南方面电劝和谈。3月24日，段祺瑞、徐世昌、黎元洪决定以三人名义向护国军首领陆荣廷、梁启超、蔡锷等人通电，但电文拟定好后，觉得应该再等一等，看看西南方面有什么动向，然后再将电报发出。
可是，袁世凯却等不及了，在没有知会任何人的情况下，私自以黎、徐、段三人名义将电稿发出。
段祺瑞听说后勃然大怒，他算彻底看明白了，袁世凯费尽心机把他请出来，却根本没把他放在眼里，不过是把他当做了稳定局势的工具，危机一过，他仍然难逃鸟尽弓藏的命运。他当即怒冲冲找到袁世凯，明确表示：“既然你仍然事事抓在手里，那你就一个人去处理吧！”说罢，转身离去。
段祺瑞说到做到，4月1日，当袁世凯将亲拟的关于议和条件的电稿拿给段祺瑞征求意见时，段祺瑞将电稿原封不动退回，并再次表示，从今往后再不过问袁世凯的事情。
袁世凯以为，有了三个人的电劝和谈，他可以根据自己的愿望与西南方面谈条件，却不料，西南方面非但不买账，而且坚决要求袁世凯下野，称袁世凯复辟帝制，已经背叛了民国，没有资格再任民国大总统。
袁世凯万分失望，此时他已经看出，黎元洪与他仍貌合神离，徐世昌对南北双方都不起作用，只有段祺瑞，既在北洋军中有威望，又对西南方面有影响。特别是他反对签订卖国的二十一条，又是反对复辟帝制的急先锋，深得南方的认可，且他与蔡锷等人交情匪浅，进可以讲和，退可以付诸武力，此时非段祺瑞不能稳定局势。恰逢徐世昌请辞，袁世凯便再次向段祺瑞示好，任命段祺瑞为国务卿兼陆军总长。
段祺瑞接受了任命，但不甘心做傀儡，直接提出将政事堂制改为责任内阁制，全权处理国事；同时要求裁撤大元帅府统率办事处，将其权力归还陆军部；并要求将模范团与拱卫军交陆军部接管。但袁世凯只是将政事堂改为了国务院，走了一下形式。其所谓责任内阁，不过是个名称而已。至于其他条件，则采取口头答应实际拖延搪塞的办法，不仅自己独揽军权，连人事权都不肯放手。
段祺瑞出任国务总理后，提出由徐树铮出任国务院秘书长。袁世凯听后脸色陡变，恨恨地对带话的张国淦说：“又是徐树铮！军人总理，军人秘书长，真是天大的笑话！”但他想到众叛亲离的处境，又缓和了口气，对张国淦说：“你告诉芝泉，徐树铮是军人，还是当陆军次长吧。”
段祺瑞听后勃然大怒：“没想到落到了这个地步，他还是一点都不肯放权！”这次，段祺瑞又气歪了鼻子，经过按摩才得以恢复。
袁世凯直接任命他的机要秘书王式通为国务院秘书长，其用意十分明显，他担心段祺瑞走他的老路，与西南方面联手逼宫，令王式通在秘书长的位子上对段祺瑞实施监督。段祺瑞只得让徐树铮退居副秘书长之职。本来段祺瑞组阁后曾想有所作为，替袁世凯摆平时局，但由于袁世凯处处掣肘，根本不让他“负完全责任”，因此很快心灰意冷，作壁上观。
段祺瑞主张和平解决时局问题，但西南方面和谈的首要条件便是要求袁世凯退位，而且全国各地要求袁世凯退位的呼声也越来越高。段祺瑞虽不会像当年袁世凯对清廷一样逼宫，但他仍然主张和谈，坚决反对付诸武力。
而袁世凯既然不愿意退位，继续当大总统的出路只有一条，那便是武力解决。到5月上旬，袁世凯对段祺瑞的和谈没有进展已经忍无可忍，直截了当要求段祺瑞对南方用兵。段祺瑞也不含糊，直接回敬袁世凯说：
“既然总统坚持用兵，那就另请高明吧，我辞职！”
“好，你请便！”
袁世凯当时气晕了头，完全没想到段祺瑞会真的辞职。第二天段祺瑞便递交了辞呈，重新开始了对时局的冷眼旁观。他知道袁世凯已经骑虎难下，批准他辞职风险太大，不批准吧君无戏言。结果不出所料，辞职之事不了了之，袁世凯自己披挂上阵，亲自布置对独立各省的军事进攻。
虽然北洋军在军力对比上占优势，但已不听袁世凯指挥调遣。5月下旬，袁世凯最亲近的两名心腹陈宧与汤芗铭，在四川与湖南相继通电独立，袁世凯闻讯如五雷轰顶，从此一病不起。
1916年6月5日，袁世凯病危，表示想见段祺瑞最后一面。段祺瑞也没想到袁世凯身体垮下来的速度比政局还快，当他赶到中南海，见到袁世凯，心中不由得暗暗吃惊。看得出，一直紧紧抓住军权不放的袁世凯，已经走到了生命的尽头。
“芝泉，我不行了，今后一切……都要靠你了……”袁世凯说完，大口大口地喘着气。“人之将死其言也善”，段祺瑞两眼发热，重重地点了点头。
次日，袁世凯病逝。
段祺瑞摒弃前嫌，拨巨资为袁世凯举行隆重国葬，先是按照袁世凯生前遗愿在河南彰德为其修建陵墓，又代表总统为袁世凯主祭，6月28日出殡，段祺瑞亲率全体内阁成员执绋，与袁世凯的亲属一道扶柩还乡。
袁克定再三向段祺瑞表示感谢，称此次操持国葬，多亏了“姐夫”。
再造共和，段氏出掌中枢
按照袁世凯本人制定的《修正大总统选举法》规定，总统候选人由现任总统推荐。袁世凯去世前，已将三名候选人的名字写在“嘉禾金简”上，藏在“金匮石屋”中。袁世凯去世后，众人从金匮石屋中取出“嘉禾金简”，只见上面写着黎元洪、徐世昌、段祺瑞三人的名字。
据说这候选人名单中本来有袁克定的名字，可袁世凯在逝世前终于想通，自己在世时尚不能保全皇位，死后又如何能指望别人辅佐自己的儿子？所以在去世前几天，他瞒着袁克定，将其名字改成了段祺瑞。
那么，三人中由谁继任总统呢？最后由徐世昌提议，段祺瑞拍板，由黎元洪出任总统。段祺瑞自然也想做总统，他之所以将总统的位子让给黎元洪，自然有自己的打算。由于黎元洪是副总统，又是“金简”名单中的第一号人物，无论按南方承认的“旧约法”，还是按袁世凯制定的“新约法”，他都是理所当然的法定继承人。而黎元洪又是武昌首义的革命元勋，是护国军拥护的领袖，由他出任总统，还可以笼络南方的护国军和国民党。
而段祺瑞本身是内阁总理，按南方承认的“旧约法”，做总统可谓名不正言不顺，尤其西南方面反对北洋系继续独霸中央政权，希望一个与南方有关的人物出任总统，因此若由他出任总统，势必会带来南北大动干戈。而北洋军内部并不团结，冯国璋对北洋派领袖的位置虎视眈眈，此时若打起仗来，很难说最终鹿死谁手。反不如把总统的位子让出去，一可以团结北洋军内部，二可以保持和平。而黎元洪无一兵一卒，可任意摆布，段祺瑞可以内阁总理身份实行军事独裁统治。
6月7日，黎元洪在东厂胡同私宅举行就职典礼，继任大总统，段祺瑞因反对帝制并在取消帝制过程中立有头功，被称为“二造共和”的功臣。29日，段祺瑞就任内阁总理，负责组织新内阁，同时兼任陆军总长。黎元洪自然明白他这个总统是要看总理的眼色行事的，因此对段祺瑞言听计从，处处忍让，唯独在讨论内阁班子时，黎元洪提出了一个条件：
“谁干秘书长都可以，只有徐树铮不能干。”
“为什么？”段祺瑞颇为好奇。因为黎元洪完全没有必要像袁世凯一样担心他如虎添翼。
“我，我害怕他。”黎元洪不好意思地说。
段祺瑞听后哈哈大笑。
原来，早在1913年袁世凯当权时，黎元洪就任副总统，却迟迟不肯北上就职。任凭袁世凯怎样催促，黎元洪自有一定之规：绝不就范。他滞留武汉，控制着湖北地区，让袁世凯寝食难安。为了帮袁世凯排忧解难，段祺瑞主动请命，决定劫持黎元洪北上。
段祺瑞以看望黎元洪为名，带着徐树铮几人来到武汉，渡江前往黎元洪的住处。段祺瑞时任陆军总长，按照官场的规矩，告辞时黎元洪需要亲自送行。他将段祺瑞送至江边，然后挥手告别。不料就在这时，徐树铮迅速走到黎元洪身边，附在他的耳边说：“黎副总统知道又铮的脾气吧，又铮历来说一不二！”同时将手枪抵住黎元洪的腰部。
黎元洪顿时惊出一身冷汗，颤声说：“好，我跟你们走，千万别开枪……”
就这样，黎元洪被段祺瑞劫到北京，一路上都被徐树铮看管。至今，只要一想到徐树铮那副凶神恶煞的模样，黎元洪就忍不住颤抖。一旦徐树铮做了秘书长，黎元洪就少不了要与他打交道，这是他最最不能忍受的。因此黎元洪一再强调：“我宁愿不做这个总统，也不能和徐树铮共事。”
但段祺瑞任国务总理，就必定要让徐树铮出任国务院秘书长，袁世凯在位时未能如愿，如今段祺瑞主持国政，岂能再受他人掣肘。段祺瑞好言相劝，说尽徐树铮的好处，后来又搬出徐世昌说项。黎元洪对徐世昌说：
“请你转告总理，一万件事我都可以同意，唯独这件事不行。”
“一万件事你都可以不同意，唯独这件事不行！”徐世昌也不含糊，他对段祺瑞的了解远在黎元洪之上。
事实正是如此，不管黎元洪同不同意，段祺瑞都会让徐树铮做秘书长的。段祺瑞征求黎元洪的同意，也算是对他的尊重。而他的一再反对，只能加深他与徐树铮之间的隔阂。徐树铮对黎元洪阻挠自己出任秘书长了如指掌，上任后便对黎元洪颐指气使，没有一点尊重的意思。有一次，徐树铮拿着一份文件去总统府盖章，那是一份对几位外省厅长的委任令，黎元洪看了一下上面的任命，疑惑地问：“咦，这是谁，还有这个，我没有听说过这几人的名字……”
“这些与你何干？”徐树铮毫无情面地顶撞道，“我忙得很，没时间陪你啰唆！你赶快盖章，闲话少说。”
黎元洪气得涨红了脸，却又不敢与徐树铮理论，只好忍气吞声。对于徐树铮的专横霸道，黎元洪能忍，他的亲信、幕僚却忍不住了，尤其是内务部长孙洪伊。孙洪伊是在反对袁世凯称帝中脱颖而出的，在政治上相当活跃。黎元洪之所以将他提名入阁，是看中了他在国会中的影响，以及与直系冯国璋的特殊关系。由于他一贯主张以直排皖，黎元洪一方面把他当做对付段祺瑞的武器，一方面通过他进而讨好直系冯国璋。一旦得到冯国璋的支持，黎元洪便可挺直腰杆，用不着再怕段祺瑞了。
孙洪伊果然出手不凡，他以黎元洪为靠山，联合国会中的反段力量，联直排皖，联冯排段，与徐树铮针锋相对，频频引发冲突。段祺瑞见孙洪伊处处与皖系作对，一怒之下签署了对孙洪伊的罢免令。岂料，总统府秘书长丁世峄主张拒绝盖章，黎元洪也以为孙洪伊有冯国璋做奥援，开始与段祺瑞叫板，使府院之争升级。
就在双方剑拔弩张之时，黎元洪请出北洋元老徐世昌进行调解，徐世昌提出各打五十大板的方案，将徐树铮、孙洪伊二人一起免职，但段祺瑞犹嫌不够，指定再加一个总统府秘书长丁世峄。总统府本来对“一比一”的方案都不愿接受，如今变成了“一比二”，岂能善罢甘休。
为了给黎元洪壮胆，使其顶住这次不公正的罢免，孙洪伊请冯国璋出面说话。殊料，冯国璋的回电却是对段祺瑞的支持。尽管在北洋内部段、冯一直互争上下，但对外方面还是会一致考虑共同利益的。
黎元洪失去靠山，只好同意“二比一”罢免方案。孙洪伊被罢免后，原想利用国会继续与段祺瑞抗争，不料其住宅突然遭到警察搜查，只好连夜出逃。而徐树铮被罢免国务院秘书长一职后，仍然任陆军次长。第一轮的府院之争以黎元洪败北而告终。
但府院之争远远没有结束，不久，更大的风波再次发生。1917年2月3日，美国宣布与德国绝交。开始时，府院一致赞成对德宣战。但当内阁会议顺利通过对德绝交案，请黎元洪在对德绝交咨文上盖章时，黎元洪却变卦了。
由于段祺瑞是亲日派，黎元洪走的是亲美路线。美、日双方都想通过中国对德宣战取得在华的最大利益。但美国很快发现，如果中国对德宣战，将有利于日本乘虚而入，扩大在华影响，严重影响美国的在华利益，于是改变主意，不再支持中国参战，黎元洪便跟着改变了态度。但黎元洪不敢与段祺瑞硬顶，只好委婉地说：“我认为不能操之过急，毕竟绝交之后就是宣战，我们应该先征求一下军界的意见再做决定。”
段祺瑞立刻反唇相讥：“军界意见用不着总统操心，我自然会处理好的，总统只需盖章便可！”
但无论段祺瑞如何气势汹汹，黎元洪主意已定，支支吾吾地拖延时间就是不肯盖章，段祺瑞一气之下使出杀手锏——干脆辞职去了天津。这一招对黎元洪果然奏效，黎元洪立刻转变态度，派人前往天津请回段祺瑞，3月6日段祺瑞回到北京，黎元洪乖乖地在咨文上盖章，3月14日，北京政府正式照会德国公使，宣布对德绝交。
但接下来是否参战，成为府院之争的新焦点。为了达到参战目的，段祺瑞将下属十几个督军请到北京，组成“督军团”，以“督军团”为工具，对黎元洪施加压力。黎元洪则以国会为外援，与之对抗。尽管后来黎元洪做出让步，在段祺瑞的“对德宣战书”上，勉强加盖了总统大印，但段祺瑞犹嫌不足，又在国会开会讨论时以一支支“公民团”、“请愿团”大肆干涉，终于招致众怒，内阁成员纷纷辞职，最后只剩下段祺瑞一个光杆总理。
恰在此时，英文《京报》披露了段祺瑞与日本签订一亿元军事借款的秘密，使段祺瑞在国会所做“中日之间绝无秘密外交”的证词被揭穿，段祺瑞陷入被动之中。尽管如此，段祺瑞也没有想到黎元洪会挺起腰杆，一改往日唯唯诺诺的柔弱作风，于5月23日果断下令，免除了段祺瑞国务总理与陆军总长的职务。
段祺瑞万分震惊与震怒，鼻子气歪足有二指之多，可谓空前绝后，请来医生按摩良久才得以复原。从愤怒之中回过神来，段祺瑞指责黎元洪滥用职权，根据临时约法，总统无权撤销总理职务，因此不承认黎元洪的免职令。
与此同时，段祺瑞离京赴津，在天津的住所很快便车水马龙，门庭若市。段祺瑞也很快弄清了黎元洪挺直腰杆的原因，他得到了一位实力派人物的支持，这位实力派人物便是大名鼎鼎的“辫子大帅”、驻扎徐州的长江巡阅使张勋。
在民初的军界中，张勋可谓一大“怪物”。民国六年了，他依旧垂着一条大辫子，人称“辫帅”。他的定武军全体将士，也人人拖着一条大辫子，被称为“辫子军”。张勋拥有58个营，2万多兵力。而张勋愿向黎元洪伸出橄榄枝，不过是想借机出兵，行复辟清廷之实。
在段祺瑞电召各省督军进京参加军事会议的时候，张勋仅派了一名代表进京，他本人坐镇徐州，静观北京政局变化，随后电召督军代表20多人到徐州开会。段祺瑞派徐树铮参加了徐州会议。此间，张勋想从徐树铮口中窥探段祺瑞对复辟清廷的态度。
徐树铮见张勋明确表示要“还大政于今上”，决定促成张勋复辟，以假张勋之手赶走黎元洪，解散国会，然后让段祺瑞以拥护共和为名，攻打张勋，重掌政权。于是，徐树铮对张勋说：“芝老只希望赶走黎元洪，至于采取什么措施全不在意。”这就给张勋造成一错觉，即段祺瑞不会反对复辟，最低限度，会保持沉默。
徐树铮回到天津后，对段祺瑞汇报了徐州会议的情况，并讲了自己的连环妙计。段祺瑞不置可否，但表示不会公开支持张勋的复辟活动。
而黎元洪罢免段祺瑞后，陷入内外交困之中，新内阁组不起来，各省督军纷纷宣布独立，北京局势动荡不安，各国使节纷纷表示“忧虑”。在孤立无援的情况下，黎元洪把扭转局面的希望寄托在张勋身上。6月1日，黎元洪以总统令急调张勋火速入京。
6月7日，张勋亲率4000精锐辫子兵，以拱卫京师、武装调停为名，北上“勤王”。途经天津时，张勋首先拜见段祺瑞，征询段祺瑞对复辟的意见，段祺瑞说：“我反对袁项城搞复辟，自然也会反对你搞复辟。你敢让小皇帝复位，我就敢派兵打你。”
但当时张勋复辟心切，根本听不进段祺瑞的劝告。后来张勋再赴段宅，段祺瑞的态度便模棱两可起来。6月13日，张勋邀请段祺瑞赴京“共筹国是”，段祺瑞婉言谢绝，但对复辟之事不置一词。
而张勋由于抵津后受到徐世昌、段祺瑞等人的劝阻，尤其日本政府的干涉，态度有所动摇，准备将复辟的步子放缓，先扶植李经羲内阁做过渡，然后再寻机复辟。赴京后即通电各省，称“组织内阁万不能缓”。
段祺瑞见此反而着急起来，生怕拖延下去夜长梦多，与徐树铮商议后，决定给张勋复辟烧一把火，促其快速将生米煮成熟饭。于是，段祺瑞先指使各省督军反对李经羲组阁，随后又指使安徽督军倪嗣冲于19日通电取消独立，在各省督军纷纷效仿的情况下，张勋不免飘飘然起来。虽然李经羲于25日通电宣布就职，但各省督军在段祺瑞的授意下，仍采取不合作态度，内阁仍迟迟不能组成。
既然各省督军取消了独立，又反对李经羲组阁，何必再为组阁之事浪费时间；加上康有为等复辟派怂恿，张勋决定直接发动复辟。6月30日晚，张勋入清宫召开“御前会议”；当夜，辫子军占领火车站、邮电局等要地；7月1日凌晨，张勋穿上清代的朝服朝冠，率康有为、王士珍等50余人，拥12岁的溥仪登基。张勋自任议政大臣、直隶总督兼北洋大臣，掌握了军政大权。
黎元洪没想到搬来的救星原来是灾星。7月2日，黎元洪秘密签署了罢免李经羲总理一职的命令，重新任命段祺瑞为国务总理，并下令段祺瑞讨伐张勋；又签发了由副总统冯国璋代理大总统职务的电报，随后躲进了东交民巷。
段祺瑞早在7月1日张勋复辟当天，开始筹划出兵讨伐事宜，7月3日在天津附近的马厂组成“讨逆军”。段祺瑞以讨逆军总司令的名义，发出讨伐张勋的通电，并发布讨逆檄文。讨逆军很快攻入北京，辫子军复辟不得人心，士气大减，一触即溃。7月12日，张勋仓皇逃入荷兰使馆，溥仪再次宣布退位。
段祺瑞赢得了“三造共和”的美誉，于7月14日进京，重掌政府大权。
兄弟阋墙，“虎狗”两败俱伤
张勋复辟失败后，黎元洪自知引狼入室，中断民国，无颜再做总统，只好灰溜溜下台，冯国璋做了代理大总统。
由冯国璋做总统，对段祺瑞来说也是万般无奈之举。两人虽是北洋武备学堂的老同学，又同为小站宿将，也都是袁世凯的心腹，但多年来总是在暗中较劲。袁世凯死后，两人一北一南，实力相当，互不服气，北洋派无法形成一个中心。段祺瑞虽多年没有直接统兵，但在陆军中党羽众多，在政界更有一批支持者；冯国璋占据江苏一省地盘，统兵数万，又有一些南方省份相呼应，两人的势力在北洋中逐渐形成皖、直两系，段、冯两人为了谁执北洋牛耳，明争暗斗，互不相让。
冯国璋进京之初，段、冯二人合作还算愉快，8月14日，即将黎元洪为此下台的导火索——对德宣战案，以总统令顺利发布。但好景不长，新的府院之争在南北统一问题上凸显出来。
由于段祺瑞废除约法拒绝恢复国会，遭到以孙中山为首的国民党的强烈反对。孙中山联合西南各省召开非常国会，成立了与北京政府对峙的护法军政府，掀起轰轰烈烈的护法运动。对此，段祺瑞力主“武力统一”，其公开目的是削平西南地区的陆荣廷、唐继尧两大山头，消灭孙中山领导的武装力量。而背后的目的则是“以皖统直”，借直系力量讨伐护法军，在消灭护法军的同时，削弱直系势力，扩大皖系力量。
冯国璋自然明白段祺瑞的目的，针锋相对地提出了“和平统一”的主张。
冯国璋当初被国会选为副总统，得益于国民党议员的投票，而一些国民党议员也曾得到过冯国璋的保护。且冯国璋与陆荣廷一直保持着秘密盟友的关系。同时，冯国璋认为其副总统是经国会选举而来，代理总统职位法律上有依据，因此南方反对的是段祺瑞，而非冯国璋。
在此背景下，府院之间围绕“主战”还是“主和”展开殊死搏杀，揭开“虎狗之争”的序幕。
段祺瑞的战略计划是攻湘以占领两广，入川以进攻云贵。8月初，段祺瑞任命其亲信傅良佐为湖南督军，王汝贤、范国璋为攻湘各军正、副司令，开始了第一次南伐。然而，当北洋军刚刚攻占衡山、宝庆，准备由此进军两广时，遭遇战局突变。10月20日，冯国璋授命其亲信“长江三督”李纯、陈光远、王占元通电主和，发出“倒段”先声。接着，又由“长江三督”鼓动处于湖南前线的攻湘总司令王汝贤、副司令范国璋公开背叛段祺瑞，通电“停战主和”！
冯国璋这一釜底抽薪之计，使湖南战事急转直下，令段祺瑞腹背受敌。段祺瑞惊异万分，他无论如何不曾料到前方军人竟然公开背叛他，尤其他对王汝贤有提携之恩。他忽略了王、范本身为直隶人，其官兵中又多出于直隶，因此出于乡谊，常为直隶所左右。
这第一个回合的较量，使段祺瑞败下阵来。加上北洋军在四川战场上失利，段祺瑞被迫于11月中旬，先后辞去陆军总长与国务总理之职，返回天津。
段祺瑞下野后，冯国璋的日子并没有想象的那么好过。段祺瑞虽辞职，却“阴魂不散”，不仅日本人出面干涉，来自北洋派内部的劝阻更是不绝于耳。尤其北洋元老徐世昌，早已有了明显拥段排冯的态度，如今更是站在段祺瑞一边；而另一位北洋元老王士珍，深知其中利害，唯恐避之不及，以致冯国璋竟然找不到一个可以接任国务总理的人，最后不得不问计于段祺瑞。段祺瑞出于北洋派内部团结的考虑，说服王士珍出山。
与此同时，段、冯两人的心腹在背后展开了较量，较量的焦点，则是对直隶督军曹锟的争夺。曹锟一向为直、皖两栖将军，直、皖两系哪边都不得罪，而由于其实力强大，偏向任何一边都有着举足轻重的作用。冯国璋的亲信“长江三督”率先出击，拉拢曹锟发“巧电”停战议和，一下子使“长江三督”变为“直系四督”，给段祺瑞以更沉重打击。哪曾想，曹锟根本就不想得罪段祺瑞，发“巧电”后即矢口否认此事，使“长江三督”弄巧成拙。
而段祺瑞的心腹徐树铮，远比“长江三督”棋高一招，他用一个“副总统”的允诺，便将曹锟拉向了皖系，使持中立立场的曹锟，摇身一变成为了主战派急先锋。接着，在徐树铮的活动下，“督军团”迅速复活，以曹锟为首的七省三区督军、都统、护军使会议于12月2日在天津隆重召开，会议除“长江三督”外，囊括了北洋控制的各个省区。其中心议题便是主战和对西南用兵，决定由各省出兵，集六万之众南征。
在天津会议的压力下，12月15日，冯国璋不得不下达对西南的讨伐令。三天后，再次对皖系做出让步，任命段祺瑞为“参战督办”，段芝贵为陆军总长，使皖系完全控制了北京政府的兵权。这第二个回合，段祺瑞扳回一局。
在接下来的较量中，段祺瑞虽处于优势，但依然无法控制前方战局。冯国璋在南方的压力下曾一度下令停战，并于1918年1月25日突然通电宣布南巡阅兵，26日晚即乘车南下，令段祺瑞顿生疑窦。
当时的前线在湖南湖北，冯国璋南巡阅兵应走京汉线，而他走的是京浦线；其次，既是南巡，却挑选一个旅重兵护卫，并携带子弹200箱，辎重数十车，一路上行色匆匆，徐树铮当即便提醒段祺瑞说：“总统该不是借机溜回南京吧？”
“完全有可能！”段祺瑞早已意识到问题的严重性，一旦冯国璋回到南京，另立中央，说不定会下达对皖系的讨伐令，到那时局面将不可收拾，“马上给倪嗣冲发电报，要他无论如何在蚌埠将总统截回！”
1月28日，冯国璋的专车抵达蚌埠，倪嗣冲登车拜谒，请总统下车视察。在此前，专车抵达天津时，曹锟上车拜谒；抵达济南时，张怀芝上车拜谒并随行；车到徐州，张敬尧也登车拜谒随同南下。唯独在蚌埠，车站重兵把守，令冯国璋颇感意外。
“怎么车站有这么多部队？”
“特地调来保卫总统安全的。”
倪嗣冲回答得十分恭顺。冯国璋明知并非如此，却也无话可说。但在接下来的接风宴中，倪嗣冲的部下奉命将总统专车的车头卸了，冯国璋心里暗暗吃惊，表面上却不敢发作，只好隐忍着用半开玩笑的口吻说：
“丹忱你这是什么意思啊，不是想让我长期住在蚌埠吧？”
“岂敢？总统既然到了蚌埠，我就要为总统的安全负责。南方战火纷飞，总统若南下，恕我不能从命。总统若回京，我立刻挂车头。”
倪嗣冲口口声声为总统安全着想，并且口气软中带硬，冯国璋自然明白是受段祺瑞指使，只好乖乖返回北京。1月30日，在皖系强大力量的压迫下，冯国璋再次被迫下达了对西南的讨伐令。
紧接着，北洋军在两湖前线连连取得胜利，段祺瑞欢欣鼓舞，终于看到了武力统一全国的希望。偏偏在此时，第十六混成旅开到湖北武穴，其旅长冯玉祥立即与“长江三督”相呼应，于2月14日发表主和通电。
冯玉祥的主和通电激怒了段祺瑞。由于冯玉祥的舅父陆建章是总统府顾问，段祺瑞认为冯玉祥是受其舅父指使，因此迁怒于冯国璋，认为冯国璋言而无信，表里不一，决定逐冯国璋下台。但由于京津没有足够兵力支持其这一计划，情急之中，段祺瑞决定铤而走险，借助奉军势力赶走冯国璋。
其实早在年初的时候，徐树铮就向段祺瑞建议，请奉军入关以震慑冯国璋，但段祺瑞深知“请神容易送神难”的道理，迟迟未予采纳。在段祺瑞看来，土匪出身的张作霖并非北洋嫡系，他与冯国璋作为正统北洋元老，其争斗显然是北洋内部的争斗，让一个局外人插手岂不贻笑大方。可如今段祺瑞被冯国璋气昏了头，一想到自己好不容易建立起的讨伐局面很可能再次被冯国璋击毁，便毫不犹豫地采纳了徐树铮的建议。
而徐树铮对拉拢奉系早有策划，在段祺瑞任总理时曾和日本签订秘密协定，其中一项是从日本购买27000支新式步枪及弹药。这些军械弹药除准备给晋、陕两省调拨一部分外，其余由中央支配，冯国璋决定利用这批军械扩充其嫡系部队。徐树铮得知这一情报后，做出一个大胆决定——利用奉军截夺军械，既使冯国璋扩充计划落空，又可拉拢奉系为皖系效力。
得知徐树铮要送如此一份丰厚“大礼”，张作霖立刻派参谋长杨宇霆和旅长张景惠，率两个步兵营、一个机枪连，前往秦皇岛劫收武器。杨宇霆等人抵达秦皇岛时，冯国璋派出接收军械的政府军官员已同时到达。按照徐树铮的部署，杨宇霆一行特地与政府军官员住进同一客栈，并天天约请这些官员吃喝玩乐，取得其信任。
日本载运军械的货船抵达秦皇岛港口时，杨宇霆等人装作好心，帮政府军卸货。待军械全部装上火车，政府军官员与日方办理完交接手续后，杨宇霆等人立刻率兵将政府军官员包围，拿出徐树铮开具的接收军械证明，说明这批军械已经得到中央允许，调拨奉天。与此同时，早有部属倒挂火车头，载着满车军械扬长而去。
1918年2月23日，在段祺瑞决定引奉军入关的时候，截械一事已在徐、张运作之中。在截械当日，奉军已有部队开进滦州、秦皇岛。
冯国璋闻讯，既震惊，又大为恐慌。而劫收军械令段祺瑞也大吃一惊，气得对徐树铮大加训斥：“胡闹！你是在教猱升木，总有一天你会坏我大事！”段祺瑞所言没错，徐树铮此举虽在眼下帮了大忙，但却埋下了永久祸根。
张作霖拿到2.7万支新式步枪后，一口气扩编了六个旅。3月5日，奉军前队抵达廊坊；3月7日冯国璋通电辞职；3月9日，内阁总理王士珍挂冠而去；3月12日，奉军在军粮城设立总司令部，张作霖为总司令，徐树铮为副总司令代行总司令职权；3月23日，段祺瑞重新出山，再任内阁总理。
为了缓和局势，段祺瑞没有同意冯国璋辞职，而是决定“合法驱冯”。此时京津一带已完全控制在皖系与奉军手中，湖南前线北洋军也接连取得胜利，助长了主战派的声势。
同年9月，段祺瑞操纵安福国会选举徐世昌继任大总统，冯国璋于10月10日届满卸任，随后返回直隶河间老家，从此不问政事，“虎狗之争”终于以冯国璋的失败而闭幕。
没有了权力之争，作为多年的老同学、老朋友，段祺瑞与冯国璋很快和好如初。1919年9月，冯国璋重返北京，从此两人经常聚在一起，把盏小酌，无话不谈。10月1日，段祺瑞又设家宴招待冯国璋。席间，二人谈起北洋军内部派系林立，难以统一，深感痛心不已。直皖本是同根并蒂，非弄到煮豆燃萁的地步，是冯、段两人都不愿接受的。回想当年小站练兵的情景，以及此前的“虎狗之争”，两人感慨良多。
冯国璋语重心长地劝段祺瑞说：“芝泉，不要再那么偏信徐树铮，他树敌太多，早晚会害了你！”
段祺瑞何尝不知道徐树铮的个性，但徐树铮对他忠心耿耿，又才干超群，对他的信任谁都无力动摇。冯国璋见段祺瑞对自己的话听不进去，也只能悻悻地住嘴，但心中不免担忧。
然而，让段祺瑞万万没有想到的是，两个月后，冯国璋突然病危，12月28日竟溘然长逝！段祺瑞闻讯赶到冯府，当众失声痛哭。1920年1月12日，段祺瑞再次到冯府吊唁，回想与冯国璋几十年的交往，以及其中的争争斗斗，无不让段祺瑞悲痛不已，泪流不止。
事后，段祺瑞曾对亲信感慨道：“我和华甫斗来斗去许多年，结果谁也没得到什么好处，反倒弄得两败俱伤，想想真感到无地自容……”
直皖战败，小瞧了吴小鬼
其实，早在10月10日冯国璋下台的同时，段祺瑞已通电辞去国务总理的职务，只是保留了参战督办一职。
段祺瑞之所以辞职，主要是借机摆脱来自前方的军事压力和来自后方的舆论压力。在前线，主战派吴佩孚突然通电倒戈，打乱了段祺瑞的整个军事部署；在后方，由于“西原借款”被披露，群情哗然，而安福系包办选举也遭到舆论抨击，段祺瑞为了摆脱困境，不得不再次以退为进。
辞去国务总理后，由于内阁全是安福系的人，段祺瑞依然把持着北京政府。但在前线段祺瑞却力不从心了。直系的后起之秀吴佩孚青出于蓝，段祺瑞完全没想到会败倒在这个不起眼的晚辈手下。
吴佩孚是曹锟手下的头号大将，毕业于保定陆军学堂，说起来还是段祺瑞的学生。而早在吴佩孚崭露头角时，便有山东隐士郭绪栋向段祺瑞举荐过吴佩孚，当时郭绪栋说：
“吴子玉是潜龙在渊，总有一天会一飞冲天。”
“与又铮比如何？”段祺瑞急问。
“各有长短。论手腕、心计、纵横捭阖，当属又铮。若论带兵打仗，进退攻守，北洋后起将领中无出吴子玉之右者。”
郭绪栋素有识人之能，经常为北洋中上层人士举荐人才，段祺瑞对其所言深信不疑，随后便找到曹锟，以军火为交换条件，借走了吴佩孚。
曹锟对吴佩孚一向纵容，敬重有加，但吴佩孚对曹锟的贪婪非常不齿，所以并不以追随曹锟为荣。对段祺瑞的清廉和自律，吴佩孚早有耳闻，心中敬仰之极，听说段祺瑞请他过去帮忙，自然喜不自禁。
然而，两人的第一次见面并不愉快。那天段祺瑞刚刚与冯国璋大吵了一通，冯国璋前脚走，吴佩孚后脚就来了。段祺瑞一向不擅隐藏情绪，喜怒都挂在脸上，对吴佩孚的态度便显得冷淡而不耐烦，甚至没看吴佩孚一眼，只是淡淡地交代了一句：“这份演习计划，限你一周完成。”
吴佩孚何曾受过如此冷落，心里十分窝火，回敬道：“何须一周，一日便可完成！”
吴佩孚的狂妄口气，让段祺瑞忍不住抬起头来，看到吴佩孚不屑的眼神，段祺瑞立刻怒火中烧，恨恨地说：“好，就一天，完不成休来见我！”
吴佩孚心高气傲，不擅巴结上司，习惯被人敬重，见段祺瑞对自己如此不屑，不再说话，而是转身离去。看着吴佩孚的背影，段祺瑞的心情更加败坏。
第一次见面，两人对彼此都没有留下好印象。但是，印象毕竟是可以改变的，或许相处久了，就会发现彼此的优点。到那时，说不定吴佩孚会成为段祺瑞的心腹，那么，历史说不定会重新改写。可是，徐树铮亦非等闲之辈，他怎会眼睁睁看着别人跟自己“争宠”？于是，当吴佩孚回到住所，开始着手做演习计划之时，徐树铮笑呵呵地登门拜访。
“吴兄，久仰大名。今日相见，真是三生有幸。”
徐树铮对吴佩孚一副万分敬重的样子，令吴佩孚心中顿生好感。吴佩孚热情地将徐树铮迎到室内，两人隔桌而坐，畅谈时事，竟越谈越投机。吴佩孚惊异地发现，徐树铮在许多问题上见解高深，比自己有过之而无不及，立刻心生敬仰。吴佩孚生性豪爽，见今日得一知己，兴致高涨，便吩咐人定了一桌酒席，邀徐树铮外出喝酒，不醉不归，完全将段祺瑞布置的任务抛到了脑后。
吴佩孚向来贪杯，这顿酒席直吃到半夜，与徐树铮分别时，吴佩孚已烂醉如泥，话都说不清了，不可能再去完成什么演习计划。看到吴佩孚这种状态，徐树铮得意地笑了。
第二天一早，徐树铮就找到段祺瑞，装作不经意地提起吴佩孚，段祺瑞想起给吴佩孚布置的演习计划，应当今早交上的，一打听，吴佩孚这会儿根本没在差上。在徐树铮的挑拨下，段祺瑞以为吴佩孚妄自尊大，不将自己放在眼里，立刻备车，前往吴佩孚的住所。
令段祺瑞吃惊的是，吴佩孚竟然宿醉未醒。段祺瑞登时火冒三丈，指着吴佩孚的鼻子就是一顿臭骂。吴佩孚吃软不吃硬，既不解释也不认错，当天就返回曹锟军中，两人至此不欢而散。
段祺瑞没有想到，1918年初二次征湘时，在湖南前线连打胜仗的竟然是吴佩孚。当时曹锟为第一路总司令，吴佩孚率部打前阵，很快脱颖而出，晋升第三师师长。3月上中旬，他先克临湘又克岳阳，接着夺取长沙、湘阴，可谓战功赫赫。直到这时，段祺瑞仍然没把吴佩孚放在眼里。在吴佩孚攻下长沙之后，段祺瑞任命其亲信张敬尧为湖南督军兼省长，而张敬尧入湘后连吃败仗，这让卖命苦战连打胜仗的吴佩孚愤愤不平。
但段祺瑞完全没有注意到吴佩孚的反应，而是急电曹锟饬令吴佩孚继续追击湘粤桂联军，直捣两广。吴佩孚撤出长沙后，于4月末一举攻克衡阳。捷报传来，段祺瑞欣喜若狂，再次命令吴佩孚继续南下，扫平两广。
这时，段祺瑞第一次感到武力统一全国已稳操胜券。岂料，吴佩孚在这个时候却不买账了！徐树铮带来的一封电报将段祺瑞从天堂推向了地狱，电报云：吴佩孚按兵不动，第三师全体大罢兵！
段祺瑞盯着电文足有一刻钟，然后“啪”地拍了桌子，一声怒吼：“他为什么要罢兵？”吼过之后，段祺瑞颓然坐在椅子上，直到这时他才意识到，慢待了吴佩孚这个武力统一的关键人物。徐树铮似乎也明白过来，两人赶紧商量补救措施。但是为时已晚，无论段祺瑞如何安抚曹锟、吴佩孚，吴佩孚均不买账，而且很快与南军达成停战协议，气得段祺瑞暴跳如雷。
冯国璋下台后，曹锟、吴佩孚成为直系领袖，开始酝酿反皖倒段战争，矛头直指徐树铮及安福系。1920年5月，吴佩孚开始撤防北上，6月中旬，直军全部抵达中原，并在郑州到保定的京汉铁路沿线部署兵力。吴佩孚此举不仅宣告段祺瑞的“武力统一”政策彻底破产，同时预示着直皖大战不可避免。
段祺瑞对此早有准备，其心腹徐树铮早在徐世昌上台之初便出任西北筹边使、西北边防军总司令，在西北地区大练“边防军”，如今已重兵在握，成为名副其实的“西北王”。其边防军无论在数量上还是在装备上，都远远胜过直军，倘若直、皖一对一较量，段祺瑞自信稳操胜券。
在此情况下，被请入关的奉军便成为了直皖战争的关键砝码，奉军偏向任何一方，都有可能导致另一方的失败。6月下旬，张作霖翩然入京，前往团河拜访段祺瑞，信誓旦旦地表示：严守中立。段祺瑞对此深信不疑，因为他知道张作霖素与曹锟不和，但是他万万没有想到，张作霖与徐树铮有着更深的嫌隙。
秦皇岛截械之后，张作霖与徐树铮的关系曾一度十分热络。为了感谢徐树铮，张作霖任命徐为关内奉军副司令代行总司令职务。然而好景并不长，在对西南方面的作战中，徐树铮将奉军放到最前线充当替死鬼，引起张作霖的不满。后来张作霖调查到徐树铮以奉军名义代领军费335万元，用来编练自己的军队，气得破口大骂，当即下令免去徐树铮的副司令一职，两人从此势同水火。
直皖战争爆发前，张作霖再次来到北京。7月5日，徐树铮专程拜访张作霖，不仅态度异常诚恳，而且对张作霖反省了自己以前的所作所为，重新取得了张作霖的信任。随后，徐树铮邀请张作霖到团河开会，指导皖系下一步军事行动，张作霖欣然答应。
7月7日，就在张作霖到达团河之前，徐树铮告诉段祺瑞一个惊人的计划：在宴席上行刺张作霖！段祺瑞听后大吃一惊，立刻严厉劝阻：
“又铮，不能胡来，会引发事变的！”
“顾不了那么多了，万一直奉联手，皖系就是死路一条，不能坐以待毙！”
“不行，我们应该从长计议……”
“你若是不忍心，一会儿躲别处去，我一个人应付得来。”
段祺瑞知道徐树铮对自己一片忠心，不想与他争执。而且张作霖就要进门，争论下去无益。但段祺瑞实在不忍心杀掉张作霖，尤其是把人家引到自己府邸，然后杀掉，传出去舆论上都不好交代，何况段祺瑞最厌恶这种背后捅刀子的事，在他看来不符合军人的做派。
宴席开始后，徐树铮对张作霖热情招待，执礼甚恭。段祺瑞为了提醒张作霖，一直铁青着脸，一言不发，冷冷地瞪着张作霖，张作霖震惊之余顿时明白过来，随后便故意大口地喝酒，然后由侍卫搀扶着到外边呕吐，借机逃走了。徐树铮得知张作霖已逃，顿足长叹：“完了！放虎归山，后患无穷。妇人之仁会坏了大事！”
7月14日，直皖战争在京津一带爆发。皖系以五个师四个混成旅组成定国军，段祺瑞任总司令，徐树铮任副总司令兼参谋长。直系以一个师九个混成旅组成讨逆军，以曹锟为总司令，吴佩孚为前敌总司令兼西路总指挥。尽管皖军在人数与武器装备上优于直军，但徐树铮完全不是吴佩孚的对手，吴佩孚不仅作战勇猛，且战术多变，使皖军连吃败仗。
17日，严守中立的奉系张作霖果然对皖系宣战，直奉联合攻皖，使得皖军腹背受敌，失败已成定局。
19日，直皖战争旋即结束。徐树铮被悬赏10万元通缉，走上四处流亡之路。边防军在如此短的时间内一败涂地，令段祺瑞痛心疾首。家人和亲信下属劝他去天津避避风头，他暴躁地大喊：“我哪里也不去！我倒要看看他们能把我怎么样！”
曹锟、张作霖自然不能把段祺瑞怎么样，而且两人都先后派代表到段府慰问，吴佩孚也摒弃前嫌，亲自登门拜见段祺瑞，并以“老师”相称。此后段祺瑞一直住在北京，直到1922年2月才返回天津居住。
傀儡执政，最后一点辉煌
直皖大战使皖系根基动摇，元气大伤。段祺瑞时年55岁，有人断言他从此将以在野之身终老此生。岂料几年后，段祺瑞再次咸鱼翻身，走上政坛。
直奉联合倒皖后，很快因利益之争决裂，并于1921年4月爆发直奉战争，结果奉军大败，退出关外。吴佩孚控制北京政府后，重走段祺瑞的老路：武力统一。如此一来，直系的对手除了皖系、奉系以外，又增加了西南方面的势力。
段祺瑞虽然在直皖战争中元气大伤，但受损的主要是徐树铮的边防军和安福系，皖系在沪、浙、皖、鲁等地尚有一定势力，所以作为北洋元老的段祺瑞，在军中仍有很大影响。于是，逃亡中的徐树铮又开始为段祺瑞重掌政权四处奔走，很快与南方的孙中山、东北的张作霖组成“反直三角同盟”。
1924年9月，第二次直奉战争爆发，双方出兵达40余万，为北洋军内战史上用兵数量之最。战争一开始直军便处于劣势，而直军第三军司令冯玉祥战场倒戈，班师回京发动北京政变，囚禁贿选总统曹锟，给了吴佩孚致命一击。
然而，吴佩孚在回救北京失败，前线亦因主帅离去迅速溃败之后仍不死心，一面率残部固守杨村、北仓等地，一面等候江苏督军齐燮元、湖北督军萧耀南驰援。岂知，段祺瑞早已指使山东、安徽等地皖军，切断了江苏援兵通往京津的道路；湖北通往京津之路也被阎锡山所部与冯玉祥所部封锁。而此时，冯玉祥正在调集军队向杨村、北仓等地包抄而来，准备一举歼灭吴佩孚残部。
值此危急时刻，段祺瑞动了恻隐之心。吴佩孚所率直军主力第三师乃袁世凯的精锐部队北洋第三镇，段祺瑞曾任第三镇统制。于是，段祺瑞以第三师老师长的身份给吴佩孚修书一封，劝吴佩孚放弃抵抗，“速离去，否则被擒耳”。
当时很多人认为，段祺瑞此举是为回报皖系战败后吴佩孚的礼遇之恩，也有人认为段祺瑞吃斋念佛慈悲为怀，其实也是性格使然，段祺瑞脾气暴躁刚愎自用，但却心地善良，犹如当初放走张作霖，这也是他在北洋集团中落下好人缘的重要原因。
吴佩孚到天津后曾给段祺瑞打过一个电话，说准备将部队开进租界以引起外国插手干涉。段祺瑞说：“你是中国最优秀的军人，为什么要引起国际问题呢？”吴佩孚听了连称“是”，当即由塘沽乘船逃走。
直系倒台后，张作霖与冯玉祥请段祺瑞出山。1924年11月24日，段祺瑞在北京铁狮子胡同陆军部宣誓就任中华民国临时总执政。这是段祺瑞在国务总理任上三上三下之后，又一次登上北京政府最高领导者之位。
中华民国执政，这个职位是民国开国以来从未有过的，集总统与总理于一身，因此段祺瑞似乎比以前更加威风。但事实上，此时北洋内部的分裂和军阀割据的状况比以往任何时候都更为严重，而段祺瑞作为北洋前辈，与各地军阀都有因缘，加上皖系尚有一定的潜在实力，他这个执政不过是在几派军阀相持不下的情况下，作为平衡关系被请上台的，因此他不得不看张、冯的眼色行事。正如冯玉祥在段祺瑞入京之日对其重要将领所说：“……就是段芝泉出山，也是个木头人”。
张作霖的形容更加贴切：“就像只北京烤鸭。”意即段祺瑞夹在冯、张矛盾之中，前后受煎烤，左右不是人。
1925年12月，面对内忧外患以及学潮的困境，段祺瑞为了减轻自身的压力，在执政府下增设国务院，以把针对执政府的示威游行转向内阁。而在新组的内阁中，大部分总长都是亲近冯玉祥的人物。
恰在此时，徐树铮自国外考察回到上海，提出直皖奉大联合，北洋派大团结，拥护段祺瑞为唯一领袖的主张。并与直系孙传芳、齐燮元等督军会晤，商议联合对抗冯玉祥和准备北伐的革命军。
此间，段祺瑞以京津局面混乱对徐树铮极为不利，电嘱徐树铮暂缓进京。但徐树铮不以为然，自觉肩负使命，一定要尽快进京，依照礼法复命。12月19日，徐树铮由上海乘船北上。一路上，段祺瑞又数次发电并派员阻止他进京，徐树铮仍不为所动。
12月23日，徐树铮来到北京。见到徐树铮，段祺瑞虽然满心欢喜，但担忧更甚，他责备徐树铮：“说了不让你来，你为何如此任性？这里是冯玉祥的地盘，他现在对你恨之入骨，你竟如此大胆，硬要往火坑里跳！”
段祺瑞所言，是指徐树铮杀害冯玉祥的舅舅陆建章的一笔旧账。早在段祺瑞与冯国璋为主战还是主和明争暗斗时，陆建章悄然前往天津，准备说服曹锟重回直系。徐树铮为避免不利于段祺瑞的局面发生，盛情邀请陆建章到奉军驻津司令部做客。在电话中，平日目高于顶的徐树铮，一口一个前辈，态度极尽恭谨。第二天陆建章如约前往，徐树铮亲自在门口迎候，席间亲自为陆建章斟酒，饭后又邀陆建章到后花园密谈。陆建章毫无戒备地欣然前往，岂料，当两人在后花园中边走边谈的时候，卫士从后面向陆建章开了枪。
徐树铮如此不顾后果、明目张胆地枪杀了陆建章，自然遭到冯玉祥的记恨，加上徐树铮联合直奉倒冯，段祺瑞担心他会遭到冯玉祥的暗算，所以一再告诉他不要进京。可徐树铮还是来了，他说：
“年关将至，无论多危险，也得来看望一下芝老。”
徐树铮说着，眼圈红了。徐树铮向来以处事干练果断心狠手辣而著称，但对段祺瑞却是忠心耿耿，感情至深。段祺瑞深受感染，想到目前境遇，心情无比沉重。此后，两人就联合直、奉打击冯玉祥，重建皖系势力做了详细商议。
既然来了，段祺瑞就劝徐树铮住些时日，过了风头再走。可徐树铮是个急性子，只在北京待了5天就要匆匆南下，段祺瑞只好通过交通总长为徐树铮安排了专车。12月29日，也就是徐树铮离开北京的当天，段祺瑞在书桌上发现一张字条，上面写着：“徐树铮不可行，行必死。”
段祺瑞赶紧把字条拿给徐树铮，阻止他南下。但徐树铮看到字条后，只是淡淡一笑，根本没当回事，他认为枪杀陆建章那笔旧账已过去多年，冯玉祥未必会对他报复，而当时国民军四面楚歌，冯玉祥不能不顾及影响，执意当日离去。
然而，徐树铮的入京早已给冯玉祥敲响警钟，尤其他在上海报馆发表谈话，公开提出直皖奉大联合，令冯玉祥感到严重威胁，值此冯奉大战爆发在即，为防止段祺瑞倒向奉系，冯玉祥已做好刺杀徐树铮的准备。
徐树铮的专列从北京开出后，冯玉祥立即对驻廊坊的张之江下达了行刺命令。当天夜里车到廊坊，张之江的手下强行将徐树铮拖到车下枪毙。随后，冯玉祥派人连夜将陆建章的儿子陆承武送到廊坊，第二天便在各报刊出陆承武为父报仇的新闻，以此掩盖徐树铮被国民军枪杀的事实。
段祺瑞与徐树铮的感情，远远胜过袍泽之情，甚至胜过父子之情。徐树铮的死讯犹如晴天霹雳，令段祺瑞呆若木鸡，继而失声痛哭：“断我股肱！断我股肱！”都说徐树铮是段祺瑞的灵魂，如今“灵魂”不在，段祺瑞一夜之间苍老了许多，他为此恨透了冯玉祥，从此与冯玉祥的关系彻底破裂。
1926年2月，冯奉战争拉开序幕。3月12日，日本军舰驶入大沽口，炮击国民军；16日，日本以国民军破坏《辛丑条约》为由，与签订《辛丑条约》的八国公使，向段祺瑞执政府发出最后通牒，要求拆除大沽口国防设施，并集各国军舰于大沽口，以武力威胁北洋政府。
八国的最后通牒激怒了中国人民，3月13日起，北京开始爆发大规模学潮。3月18日，众多学生聚集在执政府门前广场列队请愿，广大市民也纷纷加入其中。在这次请愿中，执政府卫队开枪射杀请愿群众，造成46人死亡，150余人受伤，酿成历史上著名的“三一八惨案”。
当时段祺瑞在家中养病，没有去执政府，究竟是谁下令开枪，不得而知。段祺瑞得知惨案发生后，异常震惊，立刻下令严惩凶手，接着赶到事故现场，面对死者，长跪不起。他哽咽着宣布自己将终身食素，以示忏悔。
“三一八”惨案发生后，执政府已丧尽民心。1926年4月20日，段祺瑞通电下野，自此，他在民国舞台上的表演彻底结束。
段祺瑞下野后回到天津，在租界做起寓公，表面上不问政事，每日埋首棋局，而他的目光却一直没有离开过政局。
两个多月后，蒋介石就职国民革命军总司令，誓师北伐。当时，北洋政府被奉系军阀所控制，东山再起的直系军阀吴佩孚占据两湖、河南、河北、陕西，控制京汉铁路，直系军阀后起之秀孙传芳占据长江中下游。北伐军一路势如破竹，北洋军阀很快败下阵来。1928年6月，张作霖撤离北京，乘专列在皇姑屯被日本关东军预埋的炸药炸成重伤，随即死亡。12月末，张学良宣布东北易帜，中国大陆地区在形式上统一在了蒋介石的国民政府之下。
1930年，冯玉祥、阎锡山、李宗仁等联合反蒋，日本人认为有机可乘，打出“北洋派大同盟”旗号，推举段祺瑞主政，吴佩孚主军，试图在北京组织政府。段祺瑞对时局看得很清，知道反蒋成功之希望甚微，因此一口回绝，而“北洋派大同盟”果然很快土崩瓦解。
但日本人仍不死心，日本特务头子土肥原四处活动，想要拉拢段祺瑞和溥仪，还安排两人在载沣家中会晤。然而这次会晤进展并不顺利，溥仪端着皇帝的架子让段祺瑞十分不屑，而段祺瑞一副执政的架势，溥仪也看不顺眼，于是两人不欢而散。段祺瑞曾对身边人愤怒地说：
“鄙人不才，忝为国家元首，……这小子到今天还摆皇帝的臭架子，真是岂有此理！”
“九一八”事变发生后，日本人扶持溥仪在东北建立了伪满洲国，随后又将矛头指向华北地区，企图利用段祺瑞在北洋军人中的影响，建立华北伪政权，由段祺瑞做华北伪政府首脑。但无论日本人如何拉拢利诱，均被段祺瑞一口回绝。
虽然段祺瑞坚决不为日本人做有损中国利益的事，坚决不下水做汉奸，但日本人的一次次拉拢让蒋介石非常不安。蒋介石生怕段祺瑞与日本人合作，号召北洋军人对抗南京政府，所以对段祺瑞极力拉拢。由于蒋介石是保定陆军学堂的学生，所以他以段祺瑞学生的身份会见段祺瑞的侄子段宏纲，请他帮忙说服段祺瑞南下。
随后，蒋介石又派国民党要员、合肥人吴忠信北上看望段祺瑞，并为他送去二万元生活费。蒋介石知道段祺瑞下野后生活拮据，以后每过一段时间，就会为段祺瑞送去一笔生活费。1933年初，蒋介石又亲笔致书段祺瑞，恳请他“南下颐养”，段祺瑞为避免日本人“骚扰”，决定答应蒋介石的请求。
他对前来送信的交通银行董事长钱永铭说：“我已经老不中用了，如中正认为我南下于国事有益，我可以随时上路。”
1月21日，段祺瑞悄悄离开天津南下。抵达南京时，南京所有少将以上的军官早已过江在南京浦口车站等候迎接，迎接队列达600多人，大家高举“欢迎抗日救国元老段老先生”、“欢迎三造共和的段老先生”等横幅，簇拥着段祺瑞登上长江轮渡。
蒋介石一身戎装，亲自前往下关码头迎接段祺瑞。远远看到段祺瑞乘坐的船朝岸边驶来，蒋介石便吩咐乐手奏起军乐。船一靠岸，蒋介石率先登船，先是向段祺瑞敬礼问好，接着恭敬地将段祺瑞搀扶下船。这天晚上，蒋介石率南京军政要员设宴款待段祺瑞，第二天，又陪同段祺瑞拜谒了中山陵。
由于段祺瑞的女儿在上海，于是段祺瑞决定去上海居住。1月23日晚，段祺瑞结束了在南京两天一夜的旅程，乘火车来到上海，住在法租界霞飞路1487号陈调元的公馆里，蒋介石每月赠送一万元生活费，将段祺瑞供养起来。
二妻五妾，原来执政不风流
段祺瑞先后娶了两房太太和五房姨太太，第一位太太吴氏去世后，留下一儿一女。第二位太太张佩蘅，也就是袁世凯的干女儿，生了四个女儿。而他的五房姨太太，都是张夫人先后为段祺瑞讨进门的。张夫人因为没有儿子，生怕别人说她不够贤惠，不得已而为之。
大姨太陈氏，早在1914年便过世了，留下一儿一女均不幸早折；二姨太边氏只生了一个女儿；三姨太和四姨太都姓刘，仆人们称她们为刘三、刘四。五姨太姓李，便顺着称为李五。这三个姨太太出身都很低，都是花钱买进门的。
段祺瑞脾气很大，在家中说一不二，对夫人、姨太太要求很严，但从某种角度来说，他的治家却很失败。他本人素有“六不沾总理”之称，即不贪污肥己，不卖官鬻爵，不抽大烟，不酗酒，不嫖娼，不赌钱。他尤其痛恨抽大烟，没想到他的夫人、姨太太个个背着他抽大烟。
段祺瑞下野之初，住在天津日租界须磨街他的部下魏宗翰的公馆里，第二年应皖系下属田中玉之邀赴大连疗养，随行的有张夫人和二姨太，留在家里的几个姨太太没了管束，常常打扮得花枝招展偷偷溜出去看电影、听戏、划船、逛市场，四处招蜂引蝶，常常半夜三更才回公馆。
段祺瑞返回天津后，突然发现家里有什么不对劲。下人们在窃窃私语，三姨太和四姨太说话总是躲躲闪闪。有天夜里段祺瑞睡不着，一个人起来到院子里散步，正好撞到三姨太从外面归来。当时段祺瑞的惊愕无异于见到了外星人，他完全没有想到自己的女人竟然打扮得像歌女，而且夜半归来！
三姨太也惊呆了，吓坏了。她了解段祺瑞的脾气，知道等待自己的是凶多吉少。段祺瑞注视着三姨太，照着三姨太的脸一掌打过去，喝斥道：“不要脸的东西！”
第二天，段祺瑞吩咐张夫人将三姨太送回在北京的娘家。张夫人早已听说了三姨太和四姨太的风流韵事，只是一直瞒着段祺瑞。以段祺瑞的脾气，她担心会闹出什么大事。如今见段祺瑞如此冷静，倒也放下心来。只是三姨太哭着闹着不肯离去，让她有些于心不忍。
送走了三姨太，不久四姨太的风流韵事又传了出来，段祺瑞一怒之下又将四姨太休掉，打发回了娘家。
对于子女，段祺瑞更是要求严格，而且从不给什么特殊照顾。吴夫人所生长子段宏业，从小寄养在亲戚家，十几岁才回到段祺瑞身边，虽然没有受过良好教育，但与段祺瑞一样，十分喜爱围棋，是当时围棋界里响当当的人物。正因为如此，段祺瑞对段宏业十分喜爱。但仍没有为他的前途铺平道路，而是教育他从最低层做起，靠自己的能力一步步向高处攀登。
段祺瑞治家严明，夫人姨太子女都不得干预公事。有一次一个姨太太想替一位老妈子的亲戚谋个差事，在段祺瑞面前求情，段祺瑞一听气得鼻子都歪了，怒斥道：“你想买官吗？得了人家多少钱，快说！”
这位姨太太委屈得当场就流下了眼泪，但段祺瑞毫无怜香惜玉之情，又将她狠狠训斥一番才罢休。从此，家中再也没有人敢向段祺瑞求情。
段祺瑞当官以后，合肥老家经常来人拜访，目的是想求他给谋个好差使，段祺瑞一概不予办理，只是好吃好喝地招待这些亲戚几日，然后给些钱将他们打发走。就连他的胞弟段启甫上门，他也是毫无情面。当时他已任国务总理，安排个差使是一件很简单的事，但段祺瑞认为段启甫不是做官的料，对他说：“你不适合做官，还是给你一笔钱，回家做个买卖吧。”
因此，段祺瑞的亲朋好友中很少有做官和发大财的，这在当时的军政要员中极为罕见。
唯一的一次破例，是段祺瑞为他的一个远房侄子安排了事由。他见那个侄子能吃苦，是个可造之材，就给他谋了个军校的勤杂工。令段祺瑞意外的是，这个侄子没当几天勤杂工，很快被升为军需采办。这不是因为他个人有什么能力，而是因为他是段祺瑞的亲戚，军校负责人处处巴结他，心甘情愿把这个肥缺送给他。
这个侄子当上军需采办后，异常高兴，决心尽职尽责做好这份工作，可每天看着从自己手中流过的白花花的银子，他很快便把持不住，手脚变得不干净起来。直到捞足了油水，他才想到这一切都是沾了族叔的光，于是决定登门拜访段祺瑞。
一进段府，这位侄子看到一位妇女正和一个米贩子讨价还价，妇女虽衣着普通，但言谈举止很不一般，一看就是段府女主人。这位侄子不由得暗暗吃惊，想不到族叔做了那么大的官，家里买米还要如此算计。
这位侄子没有进去拜见族叔，而是转身离开了段府。第二天，他带着一辆大车来到段府，车上装满了米面油盐、鸡鸭鱼肉等食物。他向段祺瑞的续弦夫人张佩蘅做了自我介绍，然后说：“以后我每月都来送食物，您再也不用和那些小贩子讨价还价了！”临走前，他还特意嘱咐张夫人，不要将此事告知族叔，他早就听说段祺瑞不收礼，担心这些东西被送回。
可是段祺瑞治家甚严，张夫人岂敢隐瞒，当天晚上便将此事告诉了段祺瑞，段祺瑞听后立即火冒三丈：“这小子哪来这么多钱？还要每月都送，我倒要看看他这些钱是哪儿来的！”
不久后，段祺瑞到军校视察，特意向学员们打听伙食问题，学员们普遍反映菜种单一，而且不新鲜，米也不好。段祺瑞气呼呼地来到伙房一看，果然如学员们所说，他立刻叫来军需主任，劈头就是一顿臭骂。军需主任哆哆嗦嗦，只是嗫嚅道：“这不关我的事，这不关我的事……”再问他，他又说不知道，气得段祺瑞吼道：“不知道是吧，那就给我拖出去打50军棍！”
这话果然见效，军需主任立刻口齿清晰地供出段祺瑞的侄子，并拿出账本给段祺瑞过目。段祺瑞早就对他侄子有所怀疑，如今人证物证俱在，立刻叫人把他侄子绑了来，“赏”了他100军棍。100军棍足以要人性命，幸亏执行人手下留情，这个侄子才保住性命，但也因此落下终身残疾。
打完侄子，段祺瑞又做出一项惊人之举，他不顾别人劝阻，主动走进禁闭室，不吃不喝地在里面待了整整两天，以惩罚自己任用私人。
而段祺瑞本人也从不收礼。有一次，江苏督军齐燮元送给他一个精致的围屏，围屏上镶有各种宝石，五颜六色，光彩夺目，一看就知价值不菲。段家的人看了都爱不释手，甚至半夜里偷偷起来玩赏。可第二天早上，段祺瑞见到围屏，只是淡淡地扫了一眼，就叫人给齐燮元送回去了。
还有一次，张作霖给段祺瑞送来一些东北特产，并不是多么值钱的东西，但段祺瑞死活不肯收，最后在张作霖副官一再恳求下，才收下两条江鱼。唯独有一次冯玉祥送来一个大南瓜，段祺瑞非常喜欢，破例没有送回。逢年过节时，按照习俗，给段祺瑞送礼的人更是络绎不绝，但段祺瑞只是在每人的礼品中挑一样最不值钱的留下，其余的一概退回。
段祺瑞一生清廉，没有购置过一处房产和地产，甚至连合肥老家也没有一处住房，在北京住的房子是袁世凯赠送的，到天津之初，住的是他的部下魏宗翰的公馆。后来搬出日租界，租住在英租界47号一套房租较低的住宅中。
段祺瑞在位时，尽管经常要接济老家的亲戚和夫人姨太太们的家属，但政府的拨给还是可以满足这些开支的。由于没有财产与积蓄，段祺瑞下野后，生活一下子便没了着落，所幸他的部下、学生众多，这时候不得不依靠他们的接济。
到天津后，段祺瑞想方设法节省开支，家里的每一笔开支他都要亲自过问。他的每日三餐基本都是米粥、馒头、素菜，四季衣着全是布制，仆人的数量也一降再降。由于人手不足，他和夫人姨太太们经常要亲自做些简单的家务。
移居上海后，有了蒋介石每月赠送的生活费，段祺瑞不再为开销担忧，每日在公馆里下一盘棋，其余时间不是诵经便是读书。每当有朋友来访，谈及日军向华北扩张，沦陷区一天天扩大，段祺瑞总是伤感良久。
1934年春天，段祺瑞胃溃疡发作，引起胃部出血，被送到医院治疗。由于段祺瑞身体虚弱，医生家人纷纷劝他开荤，以加强营养，段祺瑞断然拒绝：“人可死，荤绝不能开！”
1936年11月1日，段祺瑞胃病复发，胃部出血不止，11月2日晚即在上海宏恩医院去世，时年72岁。
在遗嘱中，段祺瑞就国家之复兴，之转弱为强，向政府提出了“八勿”：“勿因我见而轻启政争，勿空谈而不顾实践，勿行不急之务而浪用民财，勿信过激之说而自摇邦本，讲外交者勿忘巩固国防，司教育者勿忘保存国粹，治家者勿弃固有之礼教，求学者勿趋时尚之纷华。”此“八勿”体现了段祺瑞的政见与忧国忧民之切。
11月5日，国民政府明令褒扬段祺瑞一生功勋，予以国葬，按佛教礼仪大殓。上海市长吴铁城代表国民政府主席林森、军事委员会委员长蒋介石前往吊唁，军政要员于右任、张群、居正及段祺瑞旧部、生前友好，以及各国驻沪领事纷纷前往致祭，上海下半旗致哀。
蒋介石的唁电称：“老夫子令德考终，薄海永悼。”
吴佩孚的唁电称：“追念师门恩义，感涕难忘，遥望海天，悲痛不已。”
南京国民政府本想将段祺瑞安葬在南京，但段祺瑞由于一生事业都在北方，临终前特意叮嘱儿子段宏业，死后一定将他葬于北平，最好葬于西山。按照段祺瑞的遗嘱，其灵柩于12月7日由上海启程，运往北平，暂厝于西山卧佛寺，等候段宏业请人卜地建墓后入土为安。然而这一等就是半年多，所看中的土地，不是风水不佳，便是地主不愿出让。1937年北平沦陷后，日军强征卧佛寺，迫使段宏业将段祺瑞的灵柩移出，匆匆埋葬于西郊其三叔段子猷墓旁的一小块空地上，仓促地举行了葬礼。所到之人，见段祺瑞被如此“随意”地安葬，无不感到悲痛。
直到1963年秋，段祺瑞的侄子段宏纲及章士钊才将段祺瑞移葬西郊万安公墓，章士钊在墓碑上题写了：“合肥段公芝泉之墓。”
历史评说
在很多人的眼中，段祺瑞作为北洋时期皖系军阀的首领，作为鲁迅先生《纪念刘和珍》一文中被鞭挞的对象，一定是独裁、腐败的，实际上，段祺瑞一生中可圈可点之处颇多。
段祺瑞一生中“三造共和”功不可没。1911年，段祺瑞率前线北洋将领46人联名致电清政府吁请清帝退位，结束了中国延续两千多年的封建帝制；袁世凯蓄意称帝时，段祺瑞不惜惹怒袁世凯，以致不断被贬被黜，仍然坚决反对帝制；1917年张勋复辟，段祺瑞率兵讨伐，使复辟破产。但我们也要看到，段祺瑞“三造共和”的目的是为自己争权，在推翻袁世凯和张勋帝制后，仍实行独裁统治，实际是换汤不换药。
段祺瑞派心腹徐树铮收复外蒙居功至伟。辛亥革命后，外蒙古因沙俄扶植脱离中国，当时的中国根本无力与沙俄对抗，然而段祺瑞瞅准俄国爆发十月革命，无暇顾及外蒙古，派徐树铮一举收复外蒙古，举国人民欢欣鼓舞。外蒙古的回归，不仅打击了民族分裂势力，更保证了中华民国的领土完整与主权统一。在这一点上，作为当时的政府首脑，段祺瑞值得称颂。
段祺瑞虽然亲日，并且多次同日本秘密签订借款合同，但在日本请他出面建立伪政权时，他态度坚决，绝不落水做汉奸。在这一点上可以看出，段祺瑞是爱国的，他的亲日是有底线的。
段祺瑞一生中最大的争议，莫过于“制造”“三·一八”惨案，说他“制造”并不公允，因为当时他在家中养病，不在执政府，并非他下令枪杀游行示威者。但作为执政，他又无法推卸责任，这件事成为他一生的污点。段祺瑞在得知惨案发生后，曾面对死者长跪不起，并立誓终身食素以赎罪，而这个誓言，在他病危时医生一再劝他开荤增加营养，他都不曾动摇，直到去世。
段祺瑞性格耿直，为人坦诚，不逢迎，不谄媚，虽脾气暴躁，但心地善良，尤以为官清廉而闻名，素有“六不总理”之称，即不贪污肥己，不卖官鬻爵，不抽大烟，不酗酒，不嫖娼，不赌钱，一生没有购置房产，死后没有余财，尽显其人格魅力，这对于一个多年处于中国政权巅峰的官员来说，实属不易，值得后人称颂、学习。
参考文献
《文史资料选辑》第26辑 中国人民政治协商会议全国委员会文史资料研究委员会编 中华书局 1962年
《安徽文史资料》 安徽省政协文史资料研究委员会组编 安徽人民出版社 1985年
《合肥文史资料》第5辑 中国人民政治协商会议合肥市委员会文史资料研究委员会 1988年
《洪宪遗闻》 张国淦（《文史资料选辑》第1辑） 中国人民政治协商会议全国委员会文史资料研究委员会编 中华书局 1960年
《中华民国史资料丛编》 中国科学院近代史研究所中华民国史组编 中华书局 1973年
《中华民国史事纪要》 中华民国史事纪要编委会 中华民国史料研究中心 1983年
《中国近代史料丛刊段祺瑞》 费敬仲著 文海出版社
《辛亥革命史料》 张国淦编 龙门联合书局 1958年
《北洋军阀统治时期史话》 陶菊隐著 生活·读书·新知三联书店 1978年
《段祺瑞传》 章君谷著 中外图书出版社 1978年
《段祺瑞全传》 程舒伟 侯建明著 黑龙江人民出版社 2001年
《段祺瑞传》 季宇著 安徽人民出版社 1992年
《段祺瑞年谱》 胡晓编著 安徽大学出版社 2007年
《段祺瑞真传》 周俊旗 汪丹著 辽宁古籍出版社 1997年