关税会议的召开，令段祺瑞大为振奋，但是正如曾毓隽所言，与外交及加税相比，裁厘和解决国内纠纷才是真正让人头疼的难题。
在当时国内的政治版图上，虽然南北方的军政实力已呈现出明显的彼长此消之状，但国民党人还未能占据政治中心位置，加之民众有着尊崇正统的心理，作为段祺瑞执政基础的北洋系仍是解决中国政治问题的重心所在，即所谓“北洋为世所重，民党为俗所轻”。
如果北洋足够团结，其实占据两广的国民党和僻处西南一隅的滇唐蜀刘都不难对付。问题就在于北洋早已四分五裂，几次政治摩擦和军事冲突，说来说去削弱的都是北洋自身实力，特别是第二次直奉战争的爆发，对北洋内部而言可谓大伤元气。
站在执政的位置上，段祺瑞不可能有“杯碎时由我全之”的自由和从容，他要确保“杯暂不碎”，便只能使出浑身解数，尽力对北洋系进行整合。具体来说就是取消“安福系”，以“天下共主”的身份来平衡各派势力，避免北洋内部继续发生冲突。
各派之中，最感棘手的自然还是如何摆平冯玉祥和张作霖。作为当时最有实力的两个北洋派别，冯、奉两派不仅均力图左右中央政治，而且彼此之间矛盾尖锐——冯玉祥鄙视张作霖是“胡子”，张作霖则认定冯玉祥是个有野心、难相处的吕布之徒，双方争来夺去，互不相让。
如何对待冯、奉两派，段幕有两种截然不同的意见，而且也分成泾渭分明的两个派别，即所谓的“国舅派”和“太子派”。
“国舅”吴光新是段祺瑞的内弟，段公馆的家人称他为“吴小舅子”。“吴小舅子”性格蛮横、脾气大是有名的，嘴里经常不干不净，骂骂咧咧。俗话说，外甥多似舅，段宏业的脾气也很臭，家人们常说段宏业“跟他舅舅似的”。
段宏业是吴光新唯一的嫡亲外甥，可是说来也怪，舅老爷和大少爷的感情却极其恶劣，一对坏脾气更是针尖对麦芒，往往戳在那里互不相让，最后简直形同水火，二人见了面连话都不说。
段祺瑞虽然早年对段宏业这个宝贝儿子深恶痛绝，一向不给好脸色看，但年纪大了以后，不免也产生了常人的舐犊之情，隐隐然已视段宏业为自己的接班人。自天津筹备入京起，他授命段宏业在段幕中负起责任，便有加以培养之意。
被钦定为“太子”的段宏业也渐渐变得跋扈起来。在段幕内，一般人都称他为“大爷”，一般公事都要先向“大爷”请示，“大爷”同意之后，才能请示“执政”。
一位舅老爷，一位大爷，都是段祺瑞的至亲，手中都握有一定权力，偏偏又水火不容，于是段幕人员也无形中分成两派：一派以吴光新出面，称为“国舅派”，主张拉紧张作霖，打击冯玉祥；另一派拥护段宏业，称为“太子派”，主张联络冯玉祥，抑制张作霖。
两派都主张靠拢一方，排斥另一方，彼此观点极端对立，经常一见面就吵。有人觉得这种现象不太好，就请执政拿个主意，但段祺瑞却听之任之，对哪一派都不支持、不反对、不干涉。
段祺瑞自己对张作霖、冯玉祥的态度也很微妙。在张、冯之间，段祺瑞和张作霖的私人交情要更好一些。有一次，段宏业向他请示，说张学良要同他拜把子，结为盟兄弟，应如何回复。段祺瑞说：“他的兵可以同你拜把子，他的儿子却不能同你拜把子。”
段祺瑞极重尊卑长幼之分，他自认比张作霖及其部下要大一辈，所以才让小儿女称张作霖为“张大哥”。按照他的观念，段宏业应与张作霖同辈，比张学良又大一辈，是不能拜把子的。不管段宏业在回复张学良时如何措辞，都有些伤感情，张家父子的脸色也极可能不太好看。有人分析，这与段宏业后来主张抑制张作霖不无关系。
换个角度想想，老段虽讲原则，但绝非食古不化，何况如果段宏业和张学良真的拜了把子，也不至于就会引起什么闲话，这只能说明段祺瑞对与张家距离过近本身就存在顾虑。
实际上，段祺瑞采取的是一种“平衡木”的办法——奉军实力最强，所以不能无冯，否则无以制张；国民军控制着京汉线，所以又不能无张，否则冯将无法驾驭，并对自己构成威胁。
倘若像“国舅派”或“太子派”所主张的那样，完全倾向于冯、张中的任何一方，则段祺瑞所苦心维持的这种平衡势必就要被打破，那对执政府而言可不是什么好事。段祺瑞深知其中玄机，所以他才会站在“不偏不倚”的立场之上，有意无意地利用“国舅派”、“太子派”达成目的，即以“国舅派”拉张，以“太子派”拉冯。
玩“平衡木”并不轻松，执政不到两个月，就有人拿段祺瑞与徐世昌对比，称他“已入十年东海境地”。冯玉祥曾在日记中写道：“段公上台对军事不敢以命令式指挥……凡事均不好办。”连张作霖也讥讽段祺瑞的处境是“北京烤鸭”，两面受到烟熏火炙。
好在段祺瑞政治经验丰富，即便在如此艰难的处境之下，他仍得以把北洋各派放入自己的棋盘，并利用它们之间的矛盾进行制衡，从而促成或维持了各派的“均势”——甚至于长江、西南都成为段祺瑞的砝码，被他用来搞政治平衡。
一名奉军将领这样解释段祺瑞何以能做到这一点：“段以北洋元老的资格，对于北洋军阀，无论哪一个，虽然都吸不住，却都罩得下。”所谓“吸不住”，自然是指段祺瑞缺乏派系实力，无法随心所欲地指挥调度各路兵马。所谓“罩得下”，是说在北洋这个圈子里，无论自居北洋正统的长江直系、从直系中分离出的冯玉祥，抑或力量强大但非北洋嫡系的奉张，还是向被视为“北洋远亲”的西南诸侯，暂时都只能接受段祺瑞，或至少是口头拥段。