自从三月二十三日开封百姓喊出那一句“公无归洛，留相天子，活百姓”，司马光必将入相已经成为一个公开的秘密，不满新法的人盼之如甘霖，新法的支持者畏之如洪水，却也无法阻挡太皇太后的心意。
四月十四日，在太皇太后的坚持下，朝廷发布了司马光知陈州的任命。四月下旬，司马光上书朝廷表示接受任命，同时发函要求陈州派衙役前来迎接上任。司马光摆出了积极的姿态，而陈州方面的动作却似乎有些不够迅速，一直到五月中，还不见人影。
五月十五日“平明”，洛阳的司马府上响起了敲门声。这敲门声在清晨的静寂中显得格外响亮。这么早，是谁呢？难道是陈州的衙役？看门人揉着惺忪的睡眼开门一看，顿时醒了，来人竟是宫中内臣打扮，原来是太皇太后的特使！使者送来太皇太后御前札子一道，内容很简单，命令司马光赴任陈州之前，先往开封“过阙觐见”，太皇太后嘱咐司马光要“早至阙庭”。太皇太后的殷切期望之情，让司马光不胜感激。可是“早”还能“早”到哪里去呢？无论如何，也是要等到陈州的迎接队伍来了才能出发的。显然，太皇太后是迫不及待了。
本朝惯例，老臣高官调任之际，奉旨“过阙觐见”，往往是入相的前奏。也有前任宰相千方百计谋求赴阙面君，以便营求复相的。太皇太后的心意已经十分明朗。郑州知州、司马光的老朋友孙固就已经把司马光看作是候任宰相。司马光途经郑州，孙固殷勤送迎。二人促膝长谈，纵论天下事。临别之际，孙固长揖到底，郑重地拜托司马光，言道：“大人眼看着就要拜相了，请务必斟酌轻重缓急，审慎处置天下之事。”孙固的政治观点与司马光十分接近，是最初反对王安石参政的少数几个人之一，并且自始至终对新法持保留态度，但他是神宗的潜邸旧人，所以神宗对他宠遇不替。孙固官至枢密院长官，在神宗晚年和司马光一样称病退居，哲宗即位之后才又出来担任郑州知州。
太皇太后在等待机会。五月十七日，首相王珪薨逝。王珪“自辅政至宰相凡十六年，无所建明，守成而已”，是神宗朝服务时间最长、最听话的宰相。斯人已逝，宰相府空出了一个宝贵的位置，对于太皇太后来说，简直是天赐良机。五月二十三日，司马光抵京，三天之后，五月二十六日，司马光被任命为门下侍郎，也就是副宰相。
天下人千呼万唤的“司马相公”终于要出场了！司马光官僚生涯中最辉煌也是最富有争议的最后时光即将展开—如果没有这一段，那么司马光就只是一个被迫“在野”的批评者，是一个遭受排斥打击“而不改其乐”的贤良士大夫，铮铮其骨，磊落其心，通体透亮，没有任何瑕疵可供指摘。政治实践错综复杂，思想交锋、利益争斗、人事纠缠、风气浸染，可能是这世界上最复杂、最难以黑白分明的事情。而司马光脱离政治实践已经整整十五年了，他又是一个有道德洁癖的人，自知“禀赋愚暗，不闲吏事，临繁处剧，实非所长”，此番重返政坛，出任宰相，无异于以皎皎如明月之身投浊流而欲其清，他的内心深处，是否也有过犹豫、动摇？
苏轼在《司马光行状》中说：太皇太后下诏任命司马光知陈州，并请他到首都来面谈。一路之上，太皇太后不断派出“使者劳问，相望于道”。司马光一到首都，就被任命为门下侍郎，官拜副宰相。司马光极力推辞。太皇太后不允许，几次颁下亲笔诏书，最后说：“先帝刚刚驾崩，皇帝是个小孩子，这是什么时候啊，您还要推辞吗？！”司马光这才不敢再辞了。照苏轼的记载，司马光本来是不打算接受门下侍郎任命的，要不是太皇太后极力相请，责以天下大义，司马光也许会推辞到底。
持类似说法的，还有司马光的哥哥司马旦的传，《宋史·司马旦传》描述了一个耐人寻味的细节：
司马光得到门下侍郎的任命，坚决不肯接受。司马旦晓之以大义，说：“你平生称颂尧舜之道，希望让咱们的皇帝达到那个高度。如今时机允许，而你却要逃避，这可不是进退的正道啊！”司马光闻听，幡然醒悟，随即接受任命。在那个时候，天下人都担心司马光会坚持不复出，听到这件事，都感到庆幸。人们称赞司马旦说：“老人家说的真是长者之言啊！”
司马旦与文彦博同庚，比司马光年长十三岁。司马光住洛阳，司马旦在老家夏县，司马光每年回一趟夏县给哥哥问安，有时候司马旦也到洛阳来看弟弟，兄友弟恭，始终无间。《司马旦传》说：“凡司马光平时所讨论的天下事，司马旦都有帮助。”从《司马旦传》的记载来看，司马光在是否出任宰相的问题上是相当纠结的，如果没有哥哥这一“推”，他也许就真的不会接受门下侍郎的任命了。
然而，这两条记载，却恐怕都有夸张的嫌疑。朝廷发表司马光为门下侍郎是在五月二十六日，二十七日司马光打了第一道辞让报告，太皇太后接获之后，于二十八日派宦官吴靖方前来，敦促司马光接受任命。吴靖方的传信，并未打消司马光的辞职念头。他随即拟好了第二道辞让报告。正在司马光誊抄辞让报告的当口，太皇太后的特使宦官梁惟简送来了太皇太后的手诏。拜读手诏，司马光打消了辞让念头，所以这第二道辞让报告并未发出。应当是在三十日，司马光接受任命，正式出任副宰相。也就是说，从任命发布到司马光就职，前后最多四天，司马光只提交了一份辞让报告，而太皇太后那边，前后来了两拨特使，一传口谕，一送手诏。时间如此之短，远在夏县（或者洛阳）的司马旦怎么可能有机会劝说司马光？《司马旦传》的记载不免失真，而苏轼的文字文学色彩也未免过于浓厚了。
在司马光的心中，官职意味着责任，官职愈崇高，责任愈重大。他决定是否接受任命的标准，一是是否志同道合，最高统治者要认同自己的施政理念；二是是否德配于位，自己的能力要符合职务要求。仁宗朝，他先被任命为知制诰，后又得到谏官一职。知制诰人人羡慕，司马光自忖文采稍逊，才思不敏，无论如何也不肯迁就；谏官以批评为职业，而司马光自认无人能出其右，曾无一辞。神宗曾许以枢密副使的高官，要换取他对王安石新法的沉默，司马光坚拒，神宗无奈，只得收回成命—二府大臣的任命覆水重收，这在宋朝历史上是“破天荒”的。如今，能够得到太皇太后的信任，出掌国政，拨乱反正，救民出水火，司马光义不容辞。至于成败，那要看老天的意思，非所逆料。既然如此，身为儒者，司马光所能做的就是遵循“道”的指引，努力尽人事，鞠躬尽瘁，死而后已，又何辞焉？！这段心曲，他在元丰八年（1085）正月写就的《无为赞》中早已明白道出：“治心以正，保躬以静。进退有义，得失有命。守道在己，成功则天。夫复何为，莫非自然。”可惜苏轼并不了解这些，却非要绕了那么大的弯子去编故事，竭力表白司马光的谦冲。
司马光是当仁不让的，他从来如此；然而，面对天降大任，他的内心又是充满忧惧的。司马光曾经用了一个比喻来描述自己刚刚就任门下侍郎时的心情。这个比喻，在千载之后读来，仍觉惊心动魄。
司马光把自己比作什么？“如一黄叶在烈风中，几何其不危坠也？”烈风中的黄叶，离开枝头、坠入尘埃是它不可避免的命运。司马光所感慨担忧的，是生命的行将终结，还是使命的无法着落？！他在内心深处所畏惧的究竟是什么？
这个比喻出现了两次，一次是在给涑水亲人的家信中，这封家信作于六月三日，收信人应当是他负责主持家务的侄子司马育。家信的主要目的是告诫家人，切勿因为自己荣任宰相而骄傲，“不可仰仗我的声势，做不公不法的事情，打扰地方政府，侵凌小民”。南宋的汪应辰（1118～1176）认为，此信是高级官员约束家人的典范，“对家人的训诫约束峻厉严密，凛凛然不可侵犯，这才是最真挚的爱”。在家信中，司马光表示，荣任宰相是“出人意表”的事情，对于前路，他“有惧而无喜”。为什么会这样？“放眼朝廷，看不见一个老朋友，而那些对我心怀忌恨的人，不知道有多少！像我这样性格愚蠢刚直的人，孤零零地处身于陌生的充满忌恨的官场，就像是一枚枝头的黄叶在烈风中，怎么可能不岌岌可危，摇摇欲坠呢？”
同样的文字、同样的比喻又出现在给范纯仁的信中，这封信的写作时间应当也是在六月初。范纯仁（字尧夫）深得乃父范仲淹风范，正直敢言，不畏强权，不贪权势。他比司马光小八岁，二人政见相近，平辈相交，私谊甚笃；私谊之外，又为姻戚，范纯仁有一个女儿嫁给了司马光的侄子司马宏。范纯仁也曾在洛阳御史台赋闲，那时，他常在司马光家留宿，他们秉烛夜谈，彼此不时在心内惊叹，两个人的心意竟然可以如此相通。离开洛阳之后，范纯仁寄诗给司马光，表达思念之情：“何情堪久别，无翼不能飞。愚直相知少，非公谁与归！”玉壶冰心，肝胆相照。
此时，范纯仁正在陕西前线，担任的是范仲淹曾经担任过的边帅之职。司马光的动向，范纯仁一直在关注。在从洛阳到京师的路上，司马光两次接到范纯仁寄来的书信。敦促司马光复出，应当是范纯仁写信的最主要目的。司马光回信给范纯仁，一方面希望范纯仁回朝跟自己共济艰难，另一方面则希望得到范纯仁的帮助，“望深赐教，有不足之处，不吝督责”，听说我有什么短处、错误，随时相告，千万不要客气。这一点，我唯独敢寄希望于尧夫，不敢寄希望于其他人。
司马光与范纯仁都自认“愚直”，心意相通。因此，在给范纯仁的信中，司马光有更为深刻的自我剖白，他说：“我一向愚蠢笨拙，看事情不够敏锐，待人太实诚，对任何人说话都不懂得要有所保留—这是个人才能和品性上的短处，我自己知道。”“我这样的一个人，又在洛阳闲居了十五年，本来想混到七十就按制度退休的，早就没有了上进心，不再管朝廷的事情；更何况这几年以来，又越来越糊涂健忘，实在没想到有一天会被抬上这样的高位。然而，太皇太后和皇帝的赏识待遇超出一般，我义难力辞，只得黾勉就职。只是，旧制度我都忘得差不多了，新法度我也全然不懂。朝廷官员，一百个人当中，我认得的不过三四人。我就像是一枚枝头的黄叶在烈风之中，怎能不岌岌可危，摇摇欲坠呢？世俗虚妄地把浮名加在我身上，他们不知道这里面其实空空如也。上上下下对我寄予了极高的期待，我该怎样才能应付得来呢？！尧夫，教我，鞭策我！”
“上下责望不轻，如何应副得及？”这是司马光内心最深处的担忧与畏惧，他深知责任的重大与形势的复杂，也知道自己在政治经验与政治资源方面的双重不足。他因清醒而畏惧，因责任而畏惧，他“有惧而无喜”。在他的心里，高位只是意味着更重的责任。在闲居中，他担忧国家的命运，如今得上高位，他担忧自己德不配位，无法给国家一个更好的未来。这两封信中所展现的，是一个心怀畏惧的政治领袖，他战战兢兢、如履薄冰。然而，畏惧并不等于软弱，有所畏惧而不惮前行，这才是理性的勇敢。
忧心殷殷，却不惮迎难而上，这应当就是司马光当日心情的写照。他知道有多难，可是他义无反顾。
然而，在接到副宰相的任命之后，司马光还是写了两封辞让报告。他究竟为何而辞？他的第一封辞让报告是否属于礼仪性推辞？又为什么收回了第二道辞让报告？
机不可失时不再来，新旧间暗斗激烈，虽然许多人在呼唤司马相公，但也有很多人不想让司马光回来，在这种情形之下，任何过分的扭捏作态都恐怕要授人以柄。这一点，司马光很清楚。他没有推辞陈州知州的任命，太皇太后请他“过阙觐见”，他也很干脆地来了。太皇太后好不容易抓住王珪过世的机会，发表他出任副宰相，这一点，他十分清楚，可他还是老实不客气地打了第一份辞职报告。这一份辞职报告，措辞简单极了，寥寥数语，只说是年老多病，不堪重任，恳请朝廷收回成命，让自己依旧“赴陈州本任”，与之前所表达的积极态度全然相悖，令人费解。在短短的几天之内，司马光的态度为何发生如此变化？
这个答案就存在于那第二封没有发出的辞职信中。在这封辞职信中，司马光再度提到了五月五日那份“名为求谏，其实拒谏”的求言诏，他说“言路不通，新法为患，皆当今切务”，又说：“如果陛下觉得我的建议是对的，就请亲自拿主意，予以推行，那么，我可以竭尽疲驽之躯，为陛下提供微薄的帮助；如果陛下认为我的建议没有任何可取之处，那就是我狂妄愚蠢，没有见识，不懂得政治，如果是这样，我又怎么可以窃据高位，让朝廷蒙羞呢？”
简单地说，司马光给太皇太后出了一道选择题：要么接受我的建议，力排众议，真正打开言路；要么我离开，不做这个宰相也罢；总之，不能再拿那种“六个必罚无赦”的伪求言诏来糊弄事儿了！类似的选择题，熙宁四年，司马光曾经把它摆在神宗皇帝的面前，神宗皇帝以枢密副使的高位诱惑司马光向新法屈服，而司马光则说，要么陛下听我一言，重新思考新法，要么我离开。那一次，神宗皇帝选择了让司马光离开。这一次，太皇太后又会做出怎样的选择？
就在司马光在家中奋笔疾书、抄写第二道辞职报告的时候，宦官梁惟简送来了太皇太后的亲笔手诏。太皇太后写的是：“我将再次降诏大开言路，但要等大人就任之后亲自来执行。”
得君如此，司马光自觉可以为政了。五月底，新的中央领导班子正式亮相，宰相府这边两名宰相—首相蔡确，次相韩缜（1019～1097），三名副宰相张璪（？～1093）、司马光、李清臣（1032～1102）；原副宰相章惇升任枢密院长官，枢密院这边除章惇外，还有副长官安焘（1034～1108）。太皇太后对司马光的倚重，是明眼人都看得见的。按照正常的排位顺序，宰相、枢密院长官之外，副宰相、枢密院副长官级别基本相同，应当“以除拜先后为序”，按照任命顺序排位。四位副宰相、枢密院副长官，司马光入职最晚，应当排在最后。六月四日，中央领导班子集体在延和殿觐见，张璪等人却共同请求让司马光排第一，而太皇太后竟然就允许了。
升任首相十天之后，蔡确接任神宗的山陵使，暂时离开了中枢。六月十四日，司马光再上札子，以副宰相的身份建议开言路，强调求言诏书必须“遍颁天下，首都开封要在尚书省衙门前面还有最热闹的马行街张榜；外地，各州级单位都要在最热闹的通衢大道上张榜；允许一切官民人等讨论朝政缺失、民间疾苦，密封上报朝廷”。六月二十五日，朝廷终于颁布诏书，下令“中外臣庶许直言朝政缺失、民间疾苦”。此时，上距司马光三月二十三日建言太皇太后请求开放言路，已经过去了三个月。
一个新的时代终于拉开了序幕。司马光心怀忧惧、战战兢兢地走上政治舞台的中央。