1896年，袁世凯奉命到天津小站督练新军。一天，他发现少了一个人，那就是段祺瑞。他连忙问道：“段祺瑞怎么没来？”一旁的唐绍仪告诉他，段祺瑞赶回家完婚去了，但已经发电报催他尽快来报到。段祺瑞回家之前，并不知道被调往小站协助袁世凯练兵。接到电报后颇感为难，一边是人生大事，一边是军令如山。正在为难之际，忽然接到袁世凯的电报，一是说婚姻大事要先办，去小站之事，可延几日；二是贺喜，并有银票一张，作为贺礼。
段祺瑞办完婚事，赶回小站，袁世凯率领一批将官，亲自迎接，并邀段祺瑞同上一辆车回到军营。几天后，段祺瑞在一家饭店举行婚宴，招待小站同僚。婚宴结束后，饭店老板告诉段祺瑞：“袁大人已经吩咐了，所有花销全记在他的名下。”从此，段祺瑞对袁世凯忠心不贰，成为袁世凯的左膀右臂。
可左膀右臂并不等于心腹，对心腹交代的事情，左膀右臂并不一定知道。就像袁世凯要当皇帝，外面传得沸沸扬扬，段祺瑞一开始还为之辩护。后来段祺瑞的叔叔问他：“老头子有此意思，你的看法如何？”“万万使不得！”段祺瑞毫不犹豫地说，“此种事必遭天下人反对。”他还就传闻问过袁世凯，而袁世凯矢口否认。
等帝制活动逐渐公开时，段祺瑞基于当年的知遇之恩，依然苦口相劝：“祺瑞自小站跟随总统鞍前马后，将近20年，总统知遇之恩，祺瑞没齿难忘。如今，国势危殆，倘有变动，后果不堪设想。祺瑞无知，亦诚可鉴，望大总统三思。”
袁世凯也装作推心置腹的样子说：“芝泉，你是我的老部下，难道还不了解我吗？我可以告诉你，我绝不会做皇帝。如今我这个大总统与皇帝有什么不同，如为儿孙计则更不可。克定是个残废，其他几个也无此才能。你尽可放心，不要胡思乱想。”段祺瑞一片忠心，袁世凯却在考虑由谁来接替他任陆军总长。
袁世凯要当皇帝一时走火入魔，段祺瑞还是要劝阻，别人怕他遭嫉恨，就劝他别去，他说：“个人进退得失事小，国家安危事大。”他不能眼看袁世凯自取灭亡而不顾。
段祺瑞的虔诚，被袁世凯认为是背叛。人有了不满，总会被人看出。老段也不是一般人物，哪能一点变化看不出来。于是，1915年5月31日，段祺瑞称病请假。袁世凯正愁没有借口赶走他，便连忙答应。假期一满，老袁就把段祺瑞的职务给撸掉了。袁世凯登基，老段也没去参加，在公馆里对自己的亲信徐树铮叹息：“项城作孽啊！”
后来，叔叔劝段祺瑞说：“老头子向来器重你，可你在帝制问题上却一直顶牛，他怎能不生气呢？何况，总统、皇帝还不是一回事，你何必太认真？”段祺瑞皱着眉说：“那可不是一回事。项城做总统，见面只要敬礼、握手就可以了，如果做了皇帝，见他就得磕头，话也得跪着说。我最恨这种长子变矮子的把戏。”他还说，“我不是为个人计较，老头子对我个人怎样，都无关紧要，恢复帝制，必将弄出大乱子来！如果真心为总统好，就应直言相劝，切不可推波助澜。”
事情总是这样阴差阳错，真正忠诚的人，却常常因忠而见疑；而把他往绝路上引的，却总是受到重用。段祺瑞反对袁世凯称帝，本是对袁世凯忠诚和负责的表现，可袁世凯不但不领情，反倒算计他，真是让人叹息。