嘉靖三十九年(公元1560年)，张居正升任詹事府右春坊右中允(正六品)，兼国子监司业(副长官)。三年后，严嵩被罢官，徐阶出任首辅(内阁长官)。世宗深知将来只有张居正能担负起辅佐皇太子治国安邦的重任。于是，令张居正任右春坊右谕德(从五品)，为裕王朱载垕讲读经史。张居正仪容峻整，每次讲习，必引经据典，以其渊博的学识，广譬曲喻，裕王深受启迪。接着，张居正迁任侍读学士，掌管翰林院事。从此，他在朝廷开始显露头角。
嘉靖四十五年(公元1566年)十二月，世宗朱厚熜病死。裕王载垕即位，改元隆庆，是为穆宗。首辅徐阶同张居正商议，草拟了遗诏，宣布凡世宗时因谏言而被治罪的大臣，一律平冤昭雪，死者给予抚恤；废除一切斋醮(道士设坛祭祀)及不利的政令。从中可以反映出张居正变革弊政的坚定决心。隆庆元年(公元1567年)正月，穆宗将恩师张居正晋升为礼部右侍郎，兼翰林院学士，又升吏部左侍郎，兼东阁大学士。四月，卷帙浩翰的《永乐大典》复本抄录竣工，他又升任礼部尚书、武英殿大学士。20年前的“储相”张居正，入阁参政的理想终于实现了。
隆庆二年(公元1568年)七月，失宠的首辅徐阶告老还乡。继任首辅的李春芳以清静无事迎合穆宗心意。张居正因此很鄙视他。一天，李春芳叹息道：“徐公(阶)尚以人言罢，我安能久？容旦夕乞身耳。”张居正竟说：“如此庶保令名！”(《明纪》卷三十七)李春芳闻此言，大吃一惊，而后三次上疏，请求休致(退休)。张居正入阁以来，日夜思索如何变易弊政。八月，他上呈《陈六事疏》，提出六项施政主张，即省议论，振纪纲，重诏令，核名实，固邦本，饬武备。因张居正在内阁中座次在后，权位不显，他的建议又未能付诸实践。但是，这份奏疏却成为张居正日后施政纲领的一个蓝本。
隆庆六年(公元1572年)五月二十五日，穆宗病重，弥留之际，在乾清宫召见阁臣高拱、张居正、高仪三人，委以顾问要职。次日，穆宗死去。10岁的皇太子朱翊钧即位，年号万历，即神宗。六月，在司礼监秉笔太监冯保的策划下，性情暴躁的首辅高拱被迫下台，回原籍闲住。未久，高仪也病逝了。自然“大柄悉以委居正”。张居正出任首辅，“慨然以天下为己任，中外想望丰(风)采”(《明史·张居正传》)。
在20多年的政治生涯中，张居正深感封建统治已危机四伏。他曾将明王朝比作一座“将圮〔pi匹〕而未圮”的大厦，“其外窿然，丹青赭垩〔e恶〕，未易其旧，而中则蠹矣”。亟待“振而举之”(《张太岳文集》卷九《京师重建贡院记》)。不然，“元末之事，可为殷鉴”，“衰宋之祸，殆将不远”(《张江陵书牍》—《答督学曾确庵》)。面对这种岌岌可危的形势，张居正坚持进行改革，宗旨是要“富国强兵”，拯救明王朝摇摇欲坠的统治。
张居正的改革主要是从政治、经济和军事三个方面进行的。
(1)政治上，纠正“纲纪不肃，法度不行”的不良风气，改革弊政，整顿吏治，加强中央集权。
张居正的从政方针是“尊主权，课吏治，信赏罚，一号令”(《明史·张居正传》)。他针对朝纲法令弛坏、上下诸事推诿的腐败现象，采取措施整顿吏治。1.除冗滥，任人为贤。裁汰冗官冗员，犯罪的给予惩罚，同时奖励急公进取的官吏。他强调用人唯才，“能办国家事，有礼于君者，即举而录之”(《张江陵书牍》五《答冏〔jiong窘〕卿李渐庵论用人才》)。官吏的任免“一以功实为准”，不拘资格，不论亲疏。用他的话说，法有当加，亲故不启；才有可用，疏远不遗。时人评论道：“江陵当国，号能用人，一时才臣，无不乐为之用，用必尽其才。”(《国榷》卷七十一)2.综核名实，设立考成法。就是去掉一切名实不符的东西，加强督责，提高实际效益。考成法就是考核办事成效。凡六部、都察院等章奏奉旨，皆酌量事情的轻重缓急，道路的远近，定期签署册簿，催督查核。各级官吏如有迟延，严格纠察。此法颁布后，朝纲振兴，提高了职能部门的办事效率。政令一下，“虽万里外，朝下而夕奉行”。
实行法制，设立保甲法，稳定统治秩序。张居正改革中始终坚持法制，严肃纲纪。隆庆六年(公元1572年)秋天，张居正下令将屡犯法令的黔国公沐朝弼捉拿归案。这使王公贵戚的不法行为有所收敛，也使改革措施得以较顺利地推行。同时，设置保甲法，让民人互保；加强城防、江防和海防，防范农民起义和城镇民变。张居正素以执法严明著称。他曾说：“盗者必获，获而必诛，则人自不敢为矣。”(《张江陵书牍》八《答总宪吴公》)张居正这样做，目的是维护和巩固封建统治。
(2)经济上，调整政策，发展生产，促进国家富强。这是张居正改革的重点。
治理黄河，兴修水利。明代中期，黄河仍时常决口泛滥，南下流入淮河，阻断运河。明代统治者担心黄水横流会冲毁凤阳皇陵，影响漕运，北方经济受到损失。更可怕的是黄泛使百姓走投无路，聚众哗变。万历三年(公元1575年)，黄河又一次大肆漫溢。张居正推荐从前曾任河道都御史的潘季训主持治河。潘季训是明朝著名的水利学家，有着丰富的治水经验。从万历六年到八年(公元1578—1580年)，他亲临治黄工地，根据黄河的特点，提出“以堤束水，以水攻沙”的治水原则，即借水势将淤泥冲刷入海。他还将多年的治河经验，编为一书，名曰《河防一览》。潘季训治黄取得了一定的成绩，水灾减少了，人们重建家园，“田庐皆尽己出，数十年弃地转为耕桑，而河上万艘得捷于灌输入大司农(指京仓)矣”(《张文忠公行实》)。
清丈土地，条理赋役。张居正理财的指导方针是“强公室，杜私门”。他认为，国家财政匮乏的根源在于官僚贵族、豪强地主隐占土地和人口。“豪民有田不赋，贫民曲输为累。民穷逃亡，故额顿减”(《明史纪事本末》卷六十一《江陵柄政》)。为了解决赋役悬殊不均的问题，万历六年(公元1578年)，张居正力排众议，下令清丈土地。由户部尚书张学颜主持颁布了《清丈条例》。当年先对两京、山东、陕西勋戚庄田进行丈量，然后对全国府、州、县的庄田、民田、职田、屯田、牧地、荡地，重新清丈，到万历九年(公元1581年)，清丈结束，总计全国田地为700余万顷。尽管其中有些官吏逢迎谎报，数字有不实之处，但毕竟清查出许多被豪强地主隐匿的土地。张居正又下令改革赋役制度，推广一条鞭法，将明初以来的赋役分征改为合征，重新编排赋役。这是一项役法的革新。上述两项措施实施几年后，“帑〔tang倘〕藏充盈，国最完富”(《明通鉴》卷七十六)。“太仓粟可支十年，冏寺(太仆寺)积金，至四百余万”(《明史纪事本末》卷六十一《江陵柄政》)。《明史·张学颜传》也记载，明朝自从正德、嘉靖年间虚耗以后，到万历十年间，这一时期最称富庶。
(3)军事上，整饬武备，训练士卒，安抚边区少数民族。
张居正入阁后，重视加强边务。命大将李成梁坐镇辽东，把在东南沿海抗倭的名将谭纶、戚继光调到北方镇守蓟州、永平、山海关。张居正经常同谭、戚商讨军务(图5)。在谭、戚的主持下，修筑了居庸关至山海关一段长城，建起敌台1200座，使“边备修饬，蓟门宴然”(《明史·戚继光传》)。
图5 戚继光(公元1528—1587年)
隆庆五年(公元1571年)，在张居正的大力支持下，王崇古、方逢时在宣化、大同与鞑靼土默特部首领俺答汗议和通贡，化干戈为玉帛。明政府册封俺答汗为“顺义王”，封其妻三娘子为“忠顺夫人”，并授大小首领56人以不同的官号。同时，复开大同、甘州马市，互相贸易。当时有不少人公开反对这一作法。张居正批驳道，通贡既不是汉朝和匈奴的和亲，也不是宋代与辽金的所谓献纳，主动权在朝廷。他坚持蒙汉两族和睦相处。在尔后的30—40年中，东起延永，西抵嘉峪七镇，数千里边防，烽火不惊，三军晏眠，塞内外水陆屯田都得以开垦整治，如同内地一样。蒙汉人民“合为一家，永享太平”。