河内郡太守张杨提出迅速护送献帝到洛阳，但得不到其他人的响应，张杨一怒之下回到了河内郡野王（今河南沁阳）。
对于天子下一步的行动，大家其实都没有更好的办法。过了年，正月初七，献帝下诏改年号为建安。
建安元年（196年）春天，内部矛盾终于爆发，韩暹攻击董承，董承不敌，逃到野王找张杨去了。白波军另外一个首领胡才联合杨奉要攻击韩暹，被献帝劝阻。
献帝周围的这几路人马，面对下一步的行动计划，面面相觑，不知如何是好。正在这时，他们迎来了袁绍派来的使者。
此时的袁绍正面临南北两线同时作战的艰难局面，前不久曹操围住雍丘，城破后把张超杀了，袁绍不理臧洪发兵相救的请求，激起臧洪的严重不满，臧洪于东武阳起兵反抗袁绍，袁绍亲自带兵攻打。袁绍现在就在东武阳前线。
而北线的公孙瓒也频频给袁绍制造麻烦，他大修易水防线。袁绍不敢等闲视之，命令义配合刘虞的儿子刘和以及刘虞的旧部鲜于辅等攻击公孙瓒。袁绍的主力全部压在这两条战线上，没有力量前来护驾。
由于众所周知的原因，袁绍对当今天子有所不恭，不仅多次试图另立他人，而且扬言天子的血统有问题，不是合法继承人。对于这些，刘协肯定早有耳闻，所以对郭图一行态度也较为冷淡。
双方没有商谈下一步如何行动，郭图到大阳看了看就走了。
但是，在郭图看来，献帝此时已走投无路，如果得不到妥善安置，就有可能落于他人之手，比如袁术，或者刘表，甚至是吕布和刘备，到那时候将对袁绍集团更加不利。据《三国志》记载，郭图回到东武阳前线，向袁绍报告此行情况，建议把献帝一行迎接到邺县来。但是，袁绍没有接受这个建议。
《献帝传》一书的记载与此有所不同，该书提出迎接献帝来邺县建议的是冀州本土派代表沮授，而持反对意见的是郭图和淳于琼等人。郭图、淳于琼认为：“汉室陵迟，为日已久，现在要重新振兴，那是多么困难的（今欲兴之，不亦难乎）！现在各路英雄据有州郡，个个人多势众，正所谓秦失其鹿先得者为王。如果迎接天子到自己身边来，以后干什么事都要先请示报告（动辄表闻），如果听天子的就削弱了自身的权力，不听天子的就是违命，这实在不是什么好主意。”
以往论者多以为郭图、淳于琼此番谈论实属目光短浅，只看到眼前的一点，没有着眼于长远，结果让袁绍错失了一次“挟天子以令诸侯”的好机会。但是，如果从更长远的发展来看，他们此番谈论也未必全无道理。
不管怎样，袁绍集团内部对是否迎接天子的问题产生了分歧，加上袁绍对献帝刘协潜意识里不大接受，又有当前南北两线战事的困扰，于是，目前距离天子最近、实力最强的袁绍集团暂时放弃了迎接天子的打算。
献帝一行在河东郡一直待到了六月份，天气已经很热了，才在张杨的建议下，杨奉、韩暹重新和好，一块护送天子到洛阳。
七月一日，献帝一行终于进了洛阳，此时距上一次离开共五年四个月零十五天。至此，天子一行算是彻底摆脱了凉州军的控制。
李、郭汜等凉州军阀的最后结局这里也作以简单交待。三年后，已经迎接献帝定都许昌的曹操开始经营关中，派裴茂到长安，联络当地将领攻击李，把他杀了，夷灭三族。郭汜一直退守在坞，实现着老领导董卓当年制定的踞守坞以观天下的宿愿，他的部将五习背叛了他，把他杀死。
张济率所部辗转到了南阳郡，他在转战途中被杀，所部由他侄子张绣率领。张绣在贾诩的建议下南投刘表，刘表让张绣驻防在南阳郡一带，成为自己的北部屏障。
此外，李乐和胡才留在河东郡，胡才以后被仇家杀死，李乐病死。
现在，呈现在刘协眼中的洛阳已是满目疮痍，这个当年世界上首屈一指的大都市实际上已经成为一片废墟。南北二宫多成瓦砾，罕有人迹。城里只有已故宦官赵忠的住宅可住，献帝一行把这个地方作为临时行宫。
赵忠这个人好像特别热衷于投资房地产项目，当初韩馥让位于袁绍后，搬离位于邺县的州政府，住的也是赵忠的住宅。
献帝下诏，大赦天下。张杨等人在南、北二宫里寻找相对完整的宫殿，最后在南宫里找到了一处，经过一番整修，献帝搬了进去。张杨认为自己在迎接献帝重返洛阳一事上功劳最大，于是将这座宫殿命名为杨安殿。
根据制度，除了北军、中央禁卫军、守护皇城的卫尉、执金吾等部队外，其余武装力量不得常驻京师。张杨带头执行这个制度，主动撤退至他的大本营，位于黄河北岸的野王，另一个实力派杨奉无奈，只好跟着撤了出去，驻扎在洛阳以南的梁县（今河南临汝）。董承和韩暹负责京师的守卫。献帝下诏，擢升张杨为大司马，这是一个很崇高的职务，此前刘虞曾担任过。擢升韩暹为大将军，同时兼任司隶校尉。擢升杨奉为车骑将军。以上各位，都享受“持节”的殊荣，即可以代表天子视察工作，任命一定级别的官职，代表天子发布一些命令。
张杨和杨奉之所以愿意撤出洛阳，并不是他们高风亮节，而是看到了一个现实问题已经摆在面前：洛阳城中粮食极度短缺。
此时的洛阳，除了天子、百官及守卫部队之外，已经没有什么百姓，也找不到吃的东西。献帝不得不下令尚书台的秘书（尚书郎）以下的公职人员到洛阳郊外挖野菜充饥。献帝也想到了向周围手握重兵的实力派们求助。起先，他第一个想到的是吕布，对于这个亲手杀了董卓的人，献帝深有好感，听说吕布在兖州、徐州一带发展得挺快，献帝对他寄予了厚望。
早在河东郡的时候，献帝就给吕布亲笔在一块木板上写了封信，让吕布来迎驾。献帝的使臣也见到了吕布，但吕布当时正被曹操打得灰头土脸，有心报效却没有这个能力，于是派人向献帝说明情况。献帝下诏擢升吕布为平东将军，封平陶侯。此时吕布已经到了徐州，献帝派的使臣必须穿过“曹统区”山阳郡，一不小心，把任命书及封侯的凭证都弄丢了。
除了吕布以外，献帝最信任的人是袁术，相较于袁绍，献帝对袁术更有好感。还有刘表和刘璋，虽然路途远一些，但献帝相信他们会来迎驾的。
献帝想了一大圈，就是没有想起曹操来。说起来，曹操的兖州牧也是献帝亲自颁发的，但他知道曹操是袁绍集团的人，献帝向来对袁绍很排斥，他觉得袁绍很不可靠，也很有野心，难保不会成为董卓第二，所以献帝接连派出去了多路使臣，就是没有到冀州和兖州的。
但让献帝深感失望的是，这几位接到诏书后都没有什么实际行动。袁术此时正在寿春，天子一行在曹阳被追杀的事当时传遍了全国，很多人都认为天子已经遇难了。当这个消息传到袁术那里时，袁术的第一个反应是机会来了，因为他一直以来就想自己当皇帝。
后来虽然知道天子并没有遇难，可袁术的皇帝瘾一旦被勾出来就再压不回去了，在这个当口就是献帝本人亲自来求他，他也不会前去迎驾的。还有刘表和刘璋，也没有把天子接到他们那里住住的打算，都以路途遥远为借口作推辞。
被献帝寄予厚望的这些人要么来不了，要么不愿意来。
但是，有一个他没有打招呼的人却主动来了。