十二月一日，张作霖由于孙传芳领衔，阎锡山等十六人联名通电拥护之下，在天津就任安国军总司令，同日发表命令：以孙传芳、张宗昌、阎锡山为副总司令；至于参谋长，不用说，当然是杨宇霆。
张宗昌受命回到济南，亦召开了一次军事会议，要求部下核实陈报兵力，一人一枪，究有多少？清查以来，有十七万多支，这就可以大加扩充了，一口气委出十几名军长；第八军军长毕庶澄并兼海军司令。前敌总司令褚玉璞，参谋长是李藻麟。大军分三路南下，褚玉璞到南京；张宗昌到安徽；毕庶澄则循海道至上海。奉军则由张学良、韩麟春率领第三、第四方面联合军团，进入河南支援吴佩孚。
名为支援，其实是来接收地盘；原来吴佩孚由于孙传芳的坐观成败，以致处境日蹙，由湖北退入河南，先至信阳，后到郑州，而且与他手下的大将靳云鹗失和，驻军河南中部，司令部设在郾城的靳云鹗，将吴佩孚的卫队都缴了械。他的另一员大将寇英杰，亦不大合作。为此，依附直系的官僚如夏寿田、张廷愕等人，特地将直系的“家长”曹锟，撮弄到郑州，来挽救直系的分裂。
曹锟到得郑州，住在旅馆里，患了重感冒；偏偏吴佩孚忙得一时没有工夫去看他，以致曹锟大为不悦。两天以后，方始晋见，吴佩孚探问病情，问了两遍，曹锟才答非所问地说：“今天的风好大！”
吴佩孚没有听出他弦外有音，天真地答说：“今天天气很好，没有风。”
“没有风，怎么把你吴大帅吹来了？”曹锟即时板起脸来：“你是大帅，我从前也是大帅。当年有了功劳都是你们的；我不把功劳分给你们，你哪里去当大帅？如今你呢，有功劳都是自己的，不能容人，也不能开诚布公，自大狂妄，以致于大家离心离德，你得好好想一想！”
这一顿声色俱厉的训斥，将吴佩孚说得哑口无言，夏寿田与张廷锷赶紧把话扯了开去，以免吴佩孚过分难堪。不过训斥归训斥，回护归回护，曹锟还是将靳云鹗找了来，好言安慰之外，嘱咐他要顾全“团体的利益”，尊重吴佩孚的地位。
当曹锟由郑州回保定后，局势已经有了变化；保定是在吴佩孚。讨赤时攻下来的。特派齐燮元坐镇，这一带的税收，是吴佩孚的重要响源。但直隶督军褚玉璞认为保定是直隶的疆界，应该收回；在曹锟离开保定到郑州时，派了一师人开入保定，接收了防务；等住在天津的齐燮元得知消息，已无可挽救了。
但是，吴佩孚最大的打击，是来自奉张。本来吴佩孚南抚孙传芳，北联张作霖，这个三角关系，以他为中心，怎奈孙传芳私心忒重，坐山看虎斗的结果，使得革命军能用个别击破的策略，造成吴、孙的两败俱伤；在这样的态势之下，张作霖面临了一个必须作出抉择的局面，如果不甘于坐守关外，便须入关有所作为。结果是张作霖选择了后者，也就是担当起对抗革命军，挽救北洋军阀的主要责任。
其时国民革命军对大局有一个极其精当的分析与判断，认为张作霖组织安国军，是孙传芳全力策动的结果。但张作霖目前对迫近潼关的西北军，较之对革命军，更为紧张；因为潼关一下，西北军开入河南，北方便大受威胁，所以奉军必先全力对付西北军，一定要待到河南稳定后，才会对革命军采取行动。
因此，革命军当前的战略是，第一、先肃清湖北西部；等西北军经营陕南告一段落，两军在鄂北取得联络，再定攻河南的计划；第二、乘此奉军无暇南顾时，革命军在东南方面，先定闽浙，再图苏皖，暂定划江而守，以待时局的变化；第三、上海势在必得，否则长江闭塞，海外交通亦难自如，一得上海，全面皆活，可立于不败之地；第四、南京及皖南收复后，进军河南，逐鹿中原，此时不但西北军可以取得联络，山西亦必响应，然后北定燕云，统一全国。
果然，初步显示，局势的发展，悉如预料，张作霖以孙传芳的主力守淞沪；直鲁联军守南京，而以入河南防西北军，作为奉军的主要目标。这一来，就非将挡道的吴佩孚请开不可了。
尽管张作霖函电交驰，表面询问吴佩孚的动向，实际上是请他让路，甚至表示入豫的奉军，可以归吴佩孚指挥。但有南口的经验在，吴佩孚颇具戒心，所以一再表示，自己的实力足以挡得住革命军，还不需要奉军。
但是，他的实力在哪里呢？寇英杰、靳云鹗两军，都指挥不动，而且靳云鹗反奉的态度十分强烈，甚至自行组织了“保豫军”，准备对抗张学良、韩麟春的部队。
张作霖忍无可忍，下令三、四方面军，肃清黄河北岸，渡河进占郑州。于是奉军先头部队于一月底进驻河南彰德；全部兵力五万人，由京汉、陇海两路陆续南下，前敌总指挥是第十军军长于珍，而张学良则不时往来于前线与北京之间。
三月五日，张学良到达河南卫辉，此地南滨大河，西控上党，号称天下之中，他与韩麟春召集第十军军长于珍、第十七军军长荣臻、第五军军长赵恩臻及炮兵司令邹作华等高级将领会议，决定分三路前进，于珍指挥中路、赵恩臻指挥西路、荣臻指挥东路，限一星期内渡过黄河，进逼郑州。
在会议中，张学良下了极严厉的命令：严守军纪，不碍害民扰民。原来张学良虽未正式受过西方教育，但从青年会到京奉铁路，他的外国朋友很多，颇为向往西方文明；革命军出师以来，只为部下恪守军纪，到处受到百姓的欢迎与支持，以致所向无敌，对他是个极大的启示。再细想一想，冯玉祥的部队打不散，亦是由于纪律严明；此外孙传芳的部队，军纪比较好，战斗力就比较强。奉军的装备、训练、士气都是第一流的，就是军纪太坏，以致于杨宇霆在江苏，地方上一声号召，群起而攻，不须有什么行动，就垮下来了。因此，他这一回决心要洗刷“奉军纪律最坏”的名声。
因此，这一回奉军由于黄河铁桥已断，不得不用船只渡河时，破天荒地是用相当合理的价格，雇用民船，而非蛮不讲理的征用；同时亦停止了拉伕，出价雇用伕子来运输辎重，使得河南老乡，大感惊奇。
三路泰军，由于珍所指挥的中路开始，分别在邹作华的重炮部队支援之下，强行渡河，直扑郑州，还发动了飞机助攻。同时张作霖给了吴佩孚一封电报，指责他“敌来犯境，则退让不遑；友来假道，则屏绝不许”，措词很不客气。见此光景，吴佩孚黯然退出郑州，转往豫西巩县，暂时歇足。
哪知冯玉祥的部队，已由陕西出动，而潼关守将张治公则投降了奉军；但在洛阳的所谓“镇嵩军”刘镇华部，却又响应冯玉祥。双方部队一层夹一层，形势搞得非常复杂，如果吴佩孚未离豫西，奉军不能自郑州攻洛阳的镇嵩军，张治公便有为冯玉祥、刘镇华夹击之危。因此，张学良派人持专函去见吴佩孚，信中很客气地请“吴老伯移居郑州”，实际上是要他让路。吴佩孚置之不理，韩麟春等人便老实不客气要动武了；以关云长自许的吴佩孚，变成了兵败的“刘皇叔”，栖栖皇皇地遁往南阳。
其时国民革命军的发展，真所谓“顺天应人”，大军所到，无不欢迎，以致孙传芳一败于江西，再败于福建，三败于浙江，四败于安徽，五败于江苏，三月什三日国民革命军克复南京后，于四月十八日由国民党正式发表文告，国民政府决定奠都南京；军事方面继续北伐，肃清了黄河以南，而山西的阎锡山，亦已决定与国民革命军合作。在这样的情况下，奉军不能不放弃陇海退守河北。
北洋军阀，如今只剩下一个张作霖了。时移势转，他只有在两条路中挑一条走，不是退守关外，便是独挑大梁。张作霖挑了后面的一条路。
挑这一条路，是由于张宗昌的慷慨陈词。六月十六日下午，张作霖在顺承王府召集会议，商讨“最高问题”，亦就是否自封“海陆军大元帅”组织军政府？张宗昌站起来发表议论：“现在的敌人，跟以前不一样了，似前不管是哪一系，打来打去都是北洋自己人。吃了败仗的，过一阵子照样再起来：现在败给革命军，可真是把命都革掉了。与其坐着等死，不如痛痛快快大干一番，干不过人家，再回关外也不迟。老帅有了“大元帅”这个衔头，就算出关，也跟孙中山在广东一样，仍旧可以撑起一个场面来。”
张作霖连连点头，“最高问题”便这样决定了。当天张作霖发表通电，表示讨赤到底；但对反共者，暗示可以妥协。同一天由孙传芳、张宗昌领衔，会同奉军将领通电拥护张作霖。北洋政客梁大诏、曹汝霖等亦支持张作霖为北洋最高领袖。
两天以后，张作霖在西苑怀仁堂就任“陆海军大元帅”，当天发表两道命令，一道是“制定中华民国军政府组织今”；一道是特任潘复为国务总理，负责组阁。
其时冯玉祥、阎锡山已先后加入革命阵营。但冯玉祥与蒋介石，在意见上有严重的歧异；原来国民党内部正在闹“宁汉分裂”。
蒋介石与冯玉祥在徐州初次会晤，虽经李烈钧等人极力沟通，一而冯玉祥始终拒绝蒋介石的要求，即是不愿率军沿京汉铁路肃清武汉。最后闹到冯玉祥不辞而别，径回开封。
因此冯玉祥之加入国民革命军，对奉军并不构成新的威胁，但阎锡山加入国民革命军，便成了奉军的肘腋心腹之患。张作霖几次派代表劝阎锡山回头，不得要领之后，终于在十月初“明令讨伐”。
阎锡山亦知晋奉之战势不可免，在军事上早有部署，但晋军自民国以来，一贯采取守势，备多力分，加上力量原不及奉军，所以一经接触，首先在京汉路上，为张学良、韩麟春杀得“军资遍野，骸骨积山”；接着京绥路亦告失利。
但正当张学良在保定发出捷报时，晋军第四师师长傅作义，突袭涿州得手；北京与保定之间的交通，被拦腰切断，张学良急派三十军军长于芷山，率兵赶往琢州，一战成功，但得而复失；再度进入涿州的傅作义，就不好相与了。
傅作义的兵力，共计三个步兵团、一个炮兵团，以及工兵营、机枪营各一，连同涿州城内的百姓，共计军民八万之众。自古以来，守城以粮食为先，所以傅作义实施粮食管理，预计可以供应一个月。他构筑的防御工事，周密坚固。守一个月亦并不困难。
奉军由张学良指挥，五次猛攻，不能得手，乃采取长期围困的策略。战火殃及人民，最苦的还不是道路流离，而是困在孤城中挨饿。
一个月以后，粮食不继，改以杂粮充饥，士兵吃的是黑窝窝头，到了十二月初连杂粮都吃完了，只能吃酒糟。十二月十四日，也就是被围整整两个月的那天。琢州妇孺数百人环跪在司令部外面泣诉，说他们肚子已经空了三天，要求结束战争，以维残生。但傅作义不为所动。
到了一月，傅作义实在撑不下去，派人向奉军谈判停战条件，二月四日达成协议，共计五条：第一、即日起停战；第二、涿州人民在战事中的一切损失，由奉军清偿；第三、涿州守城军改称“国防军”，永不参加内战，一切军械粮响，由奉方补充发放；第四、“国防军”驻地为军粮城；第五、奉方付现大洋二十万，作为开拔费。
这二十万元的一部分，落入若干老名士的荷包中，一个是樊增祥，湖北恩施人，他的父亲叫樊燮，在湖南当提督。这个职位是“绿营”——八旗以外，汉人兵营，使用绿旗，所以称为绿营——中最高的，掌管一省兵马，正一品。其时湖南巡抚是洪秀全的小同乡骆秉章，重用幕友左宗棠，独断独行，跋扈非凡，外号“左都御史“；一次召见樊燮，谈论军务，话不投机，左宗棠举起手来，就摔了樊燮一个耳光；接着以“目不识丁”的考语，参劾樊燮，竟致革职。
樊燮以一品大员，受辱于仅仅举人的左宗棠，认为奇耻大辱，回到恩施老家，对他的独子樊增祥说：“你将来如果不中进士，就不是我的儿子。”同时延聘宿学老儒，教樊增祥读书；对西席的礼遇甚隆，感于东主的雅意及苦心，悉心教导；樊增祥亦能不负父志。光绪三年中进士、点翰林，但散馆以后，改官知县，以后一直当外官。辛亥革命时，以江宁藩司署理两江总督，入民国后，一直保持着遗老的身分。
樊增祥诗才甚美，且以诗篇丰富著称，与易顺鼎齐名，傅作义为了沽名，特意托人致送大洋五千，请樊增祥写一首诗来榆扬，樊增祥最擅长的是梅村体的长歌，代表作是咏赛金花的前后彩云曲，以傅作义守琢州的艰苦，本可大大铺叙一番，但他心轻武夫，只做了一首七绝：“新收琢州七千人，百日燕南集大勋，十六年来千古战，英雄我爱傅将军。”
对于这首赠诗，傅作义自然应该称谢，于是另一位名士夏寿田亦收到了五千元。此人字午诒，是王湘绮的门生，他的科名比樊增祥高，是光绪二十四年的榜眼，但没有做过什么官，而且命运多乖，先入端方幕府，而端方在四川遇难；入民国后，入袁世凯幕府，结果一场洪宪春梦。袁世凯一死，夏寿田也失意了。只以奔走于皖系军阀门下，靠周济度日。受了傅作义五千大洋，为他写了一封谢函，骄四俪六，文采可观；但流传得广的，还是樊增祥的那首诗。
其时，有一项重大挫折，便是南北枢纽的重镇徐州，为国民革命军第一路总指挥何应钦部下所攻克。
本来当安国军成立，张作霖就任总司令时，商定的战略，除由张学良、韩麟春入河南，接替吴佩孚反攻湖北以外，三名副总司令的任务是：阎锡山固守晋绥，以防冯玉祥；孙传芳坐镇南京；张宗昌的直鲁联军，沿津浦线南下，进出南京、上海，协助孙传芳，抵抗北伐的国民革命军。
张宗昌兵分三路，自己往安徽去解决当地的小军阀；褚玉璞往南京；毕庶澄往上海，他的衔头是直鲁联军第八军军长兼海军司令。
其时国民革命军已策定了肃清长江上下游的作战计划，首先攻取杭州，其次占领上海，然后会师南京。当毕庶澄于二月甘四日抵达上海时，杭州已在六天以前，为国民革命军前敌总指挥白崇禧、东路总指挥何应钦分别自浙东、闽北进兵，顺利克复。毕庶澄当前的主要任务，便是防守松江三十一号铁桥，准备阻拦自嘉兴方面前进的革命军，所以司令部设在上海北火车站；像吴佩孚一样，在数节车厢中办公。
但没有两三天，毕庶澄一跤跌进温柔乡，只在富春楼老六的香闺中盘桓——原来当时上海的情况极其混乱，共产党领导的总工会，到处发动罢工，甚至夺取警察局的枪械，准备武装暴动。加以直鲁联军与革命军有在上海大战之可能；租界当局为恐波及，都加强了戒备：英、法两国并派兵增援。上海工商界的有力人士，为求自保，必须多方疏通，以求免于战祸；而“三大亨”众望所归，尤其是杜月笙，正崭露头角，他与各方面都结有香火因缘，虽在阛闺而得“政通人和”之妙，所以自保之计，多向他求教。
当时黄金荣、杜月笙、张啸林取得共识，国民革命军纪律最好，而且白崇禧、何应钦都有表示，希望上海不致糜烂；因此只要策动毕庶澄投向革命军，上海即可避免战火。至于总工会，以三大亨在上海的社会势力，自有收拾他们的办法，不足为忧。
将毕庶澄诱入脂粉阵，便是预定的计划；除了富春楼老六以外，北里四小金刚张素云、芳卿、云兰芳，轮番周旋，毕庶澄一掷万金，毫无吝啬，北站的司令部早已置诸脑后。北洋海军总司令杨树庄，想跟他见一面，竟不可得。不久，杨村庄归入革命阵营，受任为国民革命军的海军总司令，并派军舰三艘，驶往九江，归北伐军指挥。
在富春楼的香闺中，枕边腻语，她劝毕庶澄投降革命军，这一来便可留在上海不走，双宿双飞，直到天荒地老。”毕庶澄不免心动，正在谈判投降条件时，不道革命军第一军第一师师长薛岳所部，已攻占沪南龙华，随即开赴闸北；毕庶澄得报，狠一狠心，丢下富春楼老六，赶到北站，下令开车，经南京转往江北。他的第八军，为革命军包围缴械，一部分想冲入租界，为英、法军队以机枪扫射，死数百人之多；另有两千人缴械以后，为租界所收容，此外日本在上海的驻军，亦缴械收容了第八军的一团人。
国民革命军在南京方面，亦颇有进展，东路军由宜兴向常州、无锡方面直攻；江右军的湖南部队，则由袜陵直追江宁，在南京的孙传芳，一看势头不妙，通往扬州。接着蒋介石乘楚同军舰，由江西至采石矾江面督战，直鲁联军由浦口仓皇退却，革命军一面渡江追击；一面向南京进攻，终于在三月甘三日由中华门冲入，当晚光复全城。
直鲁联军这一回南下的任务，彻底失败，褚玉璞由浦口退保徐州；张宗昌久攻合肥不下，退回济南；毕庶澄自上海逃出后，不敢去见张宗昌，一直躲在青岛。
憋了一肚子闷气的张宗昌，认为最可恶的是毕庶澄，有两件事坏在他手里，第一、三月初，张宗昌、孙传芳在上海发行库券一千万元，以江海关二五附税作抵，令上海各银行、钱庄、商会摊认；那时上海是在毕庶澄控制之下，加一点压力，不难勒索；而结果是江苏各团体纷纷表示反对，而且要求免征各县军粮。
第二件是当南京危急时，张宗昌电令毕庶澄派兵支援，而毕庶澄置之不理。张宗昌认为，这一切都是毕庶澄私通革命军，准备叛变的证据，非杀他不可。
到了四月里，张宗昌打电话到徐州，将褚玉璞召至济南，开口说道：“俺有一件很要紧的事，你能给俺办一办吗？”
“只要督办有命令，我都能办。”
“好！”张宗昌说：“毕庶澄这个免崽子，在上海让富春楼迷昏了，误了俺的大事，也让咱们的团体，受害不浅。你想，三月初，上海全在他手里，俺跟孙馨远发一千万库券，有海关的税作抵；毕庶澄这个小子只要发个帖子，把上海有势力的人请了来吃饭，当场叫他们认数目，谁敢不认？不认就拿机关枪扫他个娘的。你想，有了一千万，咱们什么事不好办？”
褚玉璞觉得他说得太容易了，但无论如何硬逼软商，一千万没有，两三百万应该是有的。结果弄得一文不名，毕庶澄多少是有责任的。
“你看，”张宗昌拿一个卷夹，使劲往桌上一摔，“这都是那兔崽子跟蒋介石来往的电报。”他问：“你说，阵前通敌，该当何罪？”
“督办吩咐吧！”
“你把这免崽子毙了！”
褚王璞不免迟疑。原来他跟毕庶澄以前的交情很深，自关外五站时期开始，便是形影不离的，但自二次直奉战争以后，情形不同了，毕庶澄自以为任何条件皆比褚玉璞优越，但地位却不如褚玉璞；尤其是褚玉璞当上了直隶督军，毕庶澄心里最不舒服。此外跟褚玉璞在赔钱、玩女人这两件事上，也常有摩擦；但无论如何，要叫他下手去杀毕庶澄，实在强人所难。
但他一想到自己，感觉就不同了。他在想，张宗昌知道他跟毕庶澄交情不浅，有意出这么一个难题给他，极可能就是试试他的忠心；如果设词推托这个任务，可能毕庶澄未死，他先送命了。
转念到此，褚王璞将心一横，“督办交代，我一定办妥当。不过，督办得给我一道正式命令。”他解释理由：“我可以正式宣布他的罪状，让他死而无怨，别人也知道督办是整顿纪律。”
“说得不错。俺马上给你办。”
收到了书面的正式命令，褚玉璞略略作了一番部署，随即打电话到青岛，约毕庶澄第二天上午到济南，有要事面商。毕庶澄答应当晚由胶济铁路专车酉去，预计第二天一早可到济南。
褚玉璞特为亲自到车站去迎接，他在济南有个留守司令部；但接到毕庶澄后，同车到他的私宅。毕庶澄下车到客厅一看，知道事情坏了，因为枪兵环立，还有个军法官坐在写字台后面，仿佛等着记录口供似的。
“华舫，”褚玉璞说。“我是奉命办事。”
接着军法官便宣读张宗昌的命令，写得非常详细，毕庶澄迈敌的证据，都刊在上面。毕庶澄面如死灰，一言不发；等到军法官读完命令，褚玉璞的干儿子刘振邦，在毕庶澄脑后开了一枪。
这个自命周公瑾复出的毕庶澄，终于唱了一出“周瑜归天”。但虽死于非命，却有个红粉知己——富春楼老六特为赶到济南去为他收尸。
张宗昌连番失利，退守济南后，地方上的有力人士，主要的是张怀芝的弟弟，当过烟台镇守使的张怀斌，联络在河南失败的靳云鹗，以及一班士绅，劝告张宗昌组织山东省保安司令部，意思是要求张宗昌，脱离安国军政府，宣布独立，保境安民。张宗昌不肯背叛张作霖，事实上亦不敢与奉军为敌；恰好南京国民政府发表，以陈调元为山东省主席，张宗昌认为以他跟陈调元的交情，此举等于代他看管地方，只要整个局势有利于北方，山东随时可以回来，陈调元亦必拱手相让。因此，决定将直鲁联军撤到直隶，屯扎京奉线的滦东一带。
张宗昌虽仍是直鲁联军的统帅，但直隶在名义上是褚玉璞的地盘，所以他不无奇人篱下之感。有一回对褚玉璞说：“俺把山东赔光了，来到你们直隶，俺是在这里吃‘劳金’。”所谓“劳金”是山东商场的术语，作伙计的以劳力换取酬金之意。这虽是牢骚，但亦包含着对褚玉璞不满的意味在内；因而张、褚之间，逐渐形成矛盾。
民国十六年四月十八日，国民政府正式宣布奠都南京，两天以后，日本田中内阁成立。
田中义一出身于日本陆军最大派系的长州，原为陆军大将，退役后加入日本最大的政党政友会。当政友会总裁横田病殁后，公推田中继任；但政友会的实权，握在一个与军部有密切关系的野心分子森恪手中，在田中被选后，他公然表示：“此后阁下居党魁之名，我任党务之实。”田中同意了。
因此，田中组阁后，自兼外相，而以森恪担任外务省次官，掌握对华外交政策。田中内阁的使命有二：一是谋求金融恐慌的紧急对策；二是改变对华政策。日本的军阀，一直认为政府的对华政策太软弱，如要转变，当然是转往强硬方面。
于是，在一个多月以后，正当国民革命军，将直鲁联军撵回山东，安徽、河南方面着着进展之际，田中派出第十师团两千人，借口保侨侵入山东，接着田中自六月下旬至七月上旬，在东京外相官邸，召集驻华公使芳泽谦吉、沈阳总领事吉田茂，以及陆海军及参谋本部首脑举行了五次“东方会议”。
此会实际上由森恪一手主持，会中通过了他所提出的四点建议，作为“对华政策纲领”：第一、田中内阁为保护在华利益，不论在中国本部，或满蒙均应出兵；第二、东三省、内蒙古为日本国防安全线、各该地的治安秩序，日本必须确保；第三、东三省本地人的政权，如能保障日本的特殊利益，日本应予支持；第四、国民政府如变更东北政治组织，日本应不惜满蒙与中国分离，另行制造傀儡政权。
到了七月下旬，田中将此“对华政策纲领”，上奏于继位才只一年的昭和天皇。同时积极展开在中国争取特殊利益的活动。
十月间，田中派新任满铁总裁山本条太郎及张作霖的顾问町野武马到达北京，通过杨宇霆的关系，向张作霖提出包办“满蒙新五路”的要求。这五条铁路是：敦化至图门江的敦图路；长春至大连的长大路；吉林至五常的吉五路；延吉至海林的延海路；眺甫至索伦的洮索路。其中敦图路对于日本由长春经大连至大皈的航路，有节省三十五小时行程的重大军事、经济价值，更是志在必得。
由于杨宇霆的全力干旋，张作霖对于缔结“奉日政治经济同盟”，以及五路地价一千万日金先付五百万这两个条件，已有应允之意。但谈到订立文件却触了礁；张作霖识字不多，也会写自己的名字，但日本人如果要他签署什么文件，他会故意发怒，指责对方，明知他不认识字，故意要出他的丑。其实是避免有笔迹流落，成为把柄。这时杨宇霆就会出来转圆，说一句：“大帅说了算！”事实上是不是说了算呢？他对朋友与部下，确是如此；但对日本人就不一定了，如果只是他个人吃小亏，当然会守诺言；但如遇到丧权辱国的事，他就不承认了。话当然是说过的，但只是逼到无法时的缓兵之计；到要他履行承诺时，再由杨宇霆设法来搪塞。
不过山本条太郎，这回着急的倒不是怕张作霖不肯签约，因为他现在是军政府的领袖，将来可以由军政府与日本政府签订正式文书，张作霖是无法以不识字来推托的；他着急的是，森烙在他所主持的大连会议中，不知道田中另有计划，因而决定采取急进的手段。山本条太郎怕功败垂成，急急赶到东京，说知原委；森格承诺，暂缓行动，但日本军部并不知道这件事。
山本条太郎从十一月回到北京后，继续交涉到第二年，也就是民国十七年的二月间，条件大致就绪；地价五百万元，由奉天以兴筑吉会路最后一段，也就是敦图路为由，为满铁借款五百万元的方式来支付。
但其时中国的局势，正在酝酿大的变化，国民革命军的积极筹划北伐，张作霖亦金调兵遣将，分头防御。同时国民政府代理外交部长郭泰棋，正式发表声明，不承认向满铁借款一事。由于这两个原因，新五路签约之事，便搁了下来。
日本军阀，当然不愿见国民革命军顺利完成北伐，因而早有计划，便是在革命军北伐途中，拦腰截断，当革命军于四月间在津浦线发动猛攻，直鲁联军望风而溃时，驻济南的日本武官酒井隆，及领事藤井，以保侨为名，连电东京增兵，于是四月十九日，日本派出第六师团五千人，指挥官福田彦助奉到的命令，是驻扎青岛，是一种示威性质。哪知酒井隆蓄意要制造事端，拔弄福田移兵济南。而其时第二集团军孙良诚已抵达济南，直鲁联军业已撤退，革命军变成与日军形成对峙之势。
于是，包藏祸心的酒井隆，命日本特务机关，在中日对峙中间开枪，引起双方误会，以致发生冲突。中国的军队及官员备受屈辱，但蒋介石洞悉日本的阴谋，在阻挠北伐；所以在忍辱负重的原则下，采取了出敌不意的战略，绕过济南，直指北京，三个集团军，全面猛扑，张作霖的大势去矣。
日本知道奉张的政权，朝不保夕；趁火打劫的机会，稍纵即逝，因此满铁代表江藤丰三，于五月十二日赶到北京，逼签五路协定。交通部长也是杨宇霆心腹的常荫槐，故意避往天津；路政司长刘景山则临时辞职，为的是不愿意作日本人的工具，有意杯葛。但江藤丰三岂肯干休，拉了杨宇霆向“大元帅”坐逼。以不准奉军通过南满路相威胁，张作霖无奈，只好命航政司长赵镇兼次长，再兼代部务的名义，于五月十三日深夜到部，在“敦图”、“长大”两路包办合同上，盖用了交通部的大印。
但这份合同，颇有暇疵，第一，命赵镇兼代部务的生效日期是五月十五日；第二，签约日期的五月十三日是星期日，因而提出要求，更改为五月十五日。
但田中对张作霖的逼迫，还不止此；五月十七日那天，芳泽谦吉去看张作霖，提出忠告，也是警告，督促张作霖全师撤出关外，否则战败时，日军将在山海关一带，解除奉军的武装。
第二天，日本向中国南北政府，及欧美列强，发出一件“党书”，略谓如果动乱波及满蒙，日本即将在该地采取维持治安秩序之有效措施。接着，东京参谋本部，下令秘密动员，命驻屯满洲各地部队，以及由济南撤至大连的“外山旅团”，向奉天移动；并派劲旅在锦州、山海关、热河朝阳等地，担任奉军警戒。关东军司令部亦移入沈阳。所谓“担任奉军警戒”，实际上便是占领上述各重要地点。预定五月甘二日发布东京大本营的“奉敕命令”、当日午夜开始行动。
结果奉敕命令未到，主要原因是美国仗义执言，认为东三省的主权，属于中国政府，日本此举“未免大胆”。美国国务院要求日本在实际行动以前，须告知美国。因此日本外务省邀集陆海军有关部门会商对策，代表外务省的森俗及陆军都主张按照原定计划进行，但海军极力反对。最后取决于首相田中，他在别庄的游廊中，彻夜沉思，终于作了保留奉张地位的决定。关东军大感失望。
其时在奉军看，情势已经非常明显，一唯一的上策便是三十六计中的第一计，退保关外。但棘手的是直鲁联军，张宗昌已拉着队伍，退到滦河以东，白崇禧指挥的革命军，亦已追到，隔滦河而对峙，白崇禧要求张宗昌投降遭拒绝后，准备渡河追击，这样且战且走，就会把战火带到山海关外。因此张学良电请革命军暂勿渡河，由他负责来解除直鲁联军的武装。白崇禧同意了。
由于有张学良、杨宇霆负责善后，张作霖决定尽快退回关外。话虽如此，他走得还是很从容，电召在保定的张学良、杨宇霆、孙传芳，在大元帅府举行入关以后最后的一次军事会议，发出前线总退却的命令后，随即邀请北洋元老王士珍，商量临时维持北京治安的办法。
原来此时的局势，非常复杂，也非常微妙，张作霖虽有意退让，但日本军阀却正在想尽花招，阻止革命军进入北京，日本天津驻屯军司令新井，邀集各国驻军司令，举行联席会议，提议划天津周围二十里为“联军警备区”，不许华军侵入；但英美等国司令，都认为应以防守租界为限。及至得悉张作霖决定一总退却”时，又提议由各国联军分别把守北京各城门，不准任何军队进入；这完全是庚子年八国联军攻北京的办法，侵略的形迹，更为明显，自然越发不能为各国驻军司令所同意。
另一方面，革命军因应的措施，颇为谨慎，蒋介石与冯玉祥、阎锡山在徐州、石家庄等地会晤后，一致同意由日本军阀及政府并无任何重大冲突的阎锡山接收北京，以期减少日军的敌意。于是阎锡山释放以前扣留的奉军高级将领于珍，赋与他一项与张作霖接洽和平接收北京的办法，终于达成了协议。
当然在这一个龙蛇混杂的时期，总还有人打着乘机崛起的如意算盘，其中最热衷的两个人，都住在天津租界，一个是齐燮元，向革命军输诚，希望收编孙传芳及直鲁联军的残部，成立第五集团军；一个是段祺瑞，派安福系政客姚震，五度密访芳泽谦吉，希望在此政权将成真空之际，由日军保护他到北京组织临时政府。当然，这是妄想。
六月一日，张作霖在居仁堂以茶会招待外交使节团话别；接着又传见北京商会会长，表示他即将离开北京，政务交国务院代行，北京的秩序，请王士珍负责。各国使节及北京商会会长，提出同样的要求，希望张作霖派他的卫队鲍毓麟旅，暂驻北京，维持治安。使节团并且提出保证，鲍旅将来可以安全退出关外。张作霖也同意了。
日本自然不甘心他们的种种阴谋落空，因此芳泽谦吉奉令作最后的挣扎。原来自森烙主持的大连会议结束后，即由芳泽代表日本向张作霖提出一份“满蒙党书”，除了新五路问题以外，另外还提出四项要求：第一，所有东三省境内中国铁路与日本利益相抵触者，一律不许建筑；第二，日方有权开发东北矿产及建立大型铁厂；第三，由奉方委托日本银团代为整理奉票；第四，日侨在东北与本地人杂居。
张作霖对这项“觉书”自然不能接受，但亦不愿明显拒绝，以致引起严重冲突。因此，仍旧使出与杨宇霆合作惯了的“太极推手”，你推我，我推你，一味敷衍；在交涉过程中，消息外泄，以致东北各地展开了风起云涌的反日浪潮。张作霖一方面利用此种情势，作为拖延对日交涉的借口；一方面撤换了对日态度强硬的奉天省长莫德惠，代之以较为缓和的刘尚清来敷衍日本。
敷衍拖延到张作霖正式宣布自我解除政权，便到了图穷而匕首见的日子，所以劳泽在居仁堂的茶会以后，秘密拜访张作霖，劝他接受“满蒙觉书”中的条件，否则对他不利；但如接受，则日本可以保护他由大连返回沈阳。张作霖一口拒绝，态度非常坚定。不管芳泽如何以暗示方式作威胁，他仍是那句话：“我姓张的不会卖国，也不怕死。”
等芳泽黯然而去以后，张作霖立即召集亲信密商，大家都认为芳泽所说由大连回沈阳，是坐南满铁路的火车；这是否意味着京奉路会出问题呢？于是分别电询负责北京至山海关警戒责任的第五方面军团军团长张作相，及作为看守后方的第六方面军团军团长吴俊升，有何情况。
张作相及吴俊升相继电复，保证北京至山海关及山海关至沈阳的安全；张作霖决定仍循京奉路出关。虽然也有人建议，坐汽车取道古北口出关，但这条路坎坷险峻，不但颠簸之苦，难以忍受，而且在山路中有倾覆之虞，并不安全，因此，说过也就算了。
不过，为了防备万一起见，决定了两项行车的原则，第一，起程日期及时间保密；第二，行车途中，或快或慢，机动调度。专车是早就预备好的，一共两列，停在前门东站，都在升火待发的状态之下，六月二日傍晚，京奉路局接到电话通知，专车要出发了。七点多钟人到了，但不是张作霖，而是当家的“五夫人”。张作霖是在半夜一点钟，已是六月三日了，方始乘车离开顺承王府，十分钟后便已到达前门东站，张学良、杨宇霆、孙传芳等着在送行。一时十五分开车，专车共十八辆，同行人员有北洋政府“送终内阁”的总理潘复、莫德惠、刘哲、于国翰，以及日本顾问町野武马、嵯峨诚世。
清晨到达天津，潘复及町野武马下车，而上车的是杨宇霆的心腹，总管东北交通的常荫槐。当天下午车到山海关；在沈阳的吴俊升，特地赶来迎接，列车经过重组，张作霖的座车改在第四辆。
吴俊升虽是山东历城人，但在张作霖的一班“老弟兄”中，两人的感情特厚；郭松龄倒戈，兵迫沈阳时，吴俊升的黑龙江骑兵，星夜急驰，及时赶到，活捉了“郭鬼子”更是奇功一件。从张作霖进京以后，他们有半年多未见了；从订交以来，从未有这么长的日子的睽隔，所以一见了面，亲热异常，吴俊升一直在张作霖的车厢中，抽大烟、聊天，还来了一场牌九，在这欢然叙旧，浑不觉漫漫长夜的气氛中，他们怎么样也想不到，离鬼门关是越来越近了。
暗杀张作霖的阴谋，是军部的主张；甚至可说是关东军司令官村冈长太郎的主张，日本政府及田中义一，事前丝毫不知。
这个阴谋的策划及执行者，是第九师团司令部附员陆军步兵大住河本大作。最初是由村冈派驻哈尔滨的武官竹下义晴，赴北京执行，但河本大作认为北京耳目众多，暗杀的责任不易掩饰，因而建议改在张作霖回奉天途中实行，同时这件事也就归河本接手了。
首先是地点问题，初步选定在巨流河的铁桥上，但以中国的军警监视甚严，颇难下手；几经研究，终于找到一个相当理想的地点。
这个地点是沈阳以西的皇姑屯。京奉路东西向，南满路南北向，两路交会的十字路口，便在皇姑屯。南满路是架设吊桥，京奉路便在吊桥之下穿过。行动计划的第一步是派爆破专家的工兵队长菅野，花了六个小时，在吊桥下面装上两百磅黄色炸药的药包，通以电流，由那里的独立守备队东宫大尉下手。
侦察行车时刻，亦有专人，是两名武官建川美次与竹下义晴；此外在山海关、锦州、新民等地都派有密探，所以张作霖的专车，虽说时快时慢，行踪仿佛难以捉摸，事实上在河本是能够充分掌握的。
另一方面为了嫁祸起见，由河本所派的浪人安达理盛，找到一个失业军人刘戴明，此人是吉林督军孟思远的旧部，孟恩远在民国八年为张作霖所驱逐，刘戴明既然能为故主复仇，又有两万元日金的奖赏可得，所以在安达来找他时，一拍即合，先收定金一千元，余数事成以后补足。
于是刘戴明弄到三个吸毒的乞儿，在六月三日晚上，让他们过足了瘾，带到一家澡塘子洗澡换衣服，其中一个颇为机警，在澡塘子中溜走；另外两个于深夜带到吊桥附近，用刺刀刺杀，弃尸而去。