经过长达十年的折返跑，张说终于重登相位，此时朝中共有三名宰相，排名如下：源乾曜、张嘉贞、张说。
从排名看，张说只是第三宰相，但这个第三宰相很快就做了几件大事。
第一件大事，兵制改革。
张说前后镇守幽州、并州时，唐朝边境的驻军达到了六十万人，而此时东突厥已经式微，无法对唐朝构成真正威胁，六十万人就显得多了。
张说担任宰相后便给李隆基提出建议：裁军二十万，让这些人回乡务农。
李隆基当时就惊了，裁军二十万？一旦边境有事怎么办？
张说说：“臣久在边塞，知道其中的内幕，现在这些驻军，很多都被当官的用来担任护卫或者办事的杂役，根本没有用在国防上。况且想御敌制胜，兵在精而不在多，根本用不了那么多人，还耽误正常的农业生产。如果陛下还有忧虑的话，臣愿意以全家一百来口的性命作为担保。”
李隆基仔细一想，张说说的不无道理，六十万的边防军规模确实有些过大，还妨碍农业生产，张说久在边塞，说的应该是实情。李隆基同意了，这样唐朝边境的士兵数量就从六十万削减到四十万，精简掉的二十万全部投入农业生产，从而增加了国家租赋。
削减完边防军，张说又把目光投向了拱卫长安的卫军（类似于现在的中央卫戍区部队）。
按照唐朝惯例，男子二十岁开始服兵役，六十岁才能免除兵役，在二十岁到六十岁这段时间里，每年都要有几个月为国家服兵役，生命不息，服兵役不止。需要指出的，服兵役都是义务的，饮食、铠甲甚至武器都需要自备（薛仁贵跟随李世民东征高句丽就是自费出征），而且所在家庭并不因此减免其他劳役。
这个惯例从北周的府兵制而来，即农忙时正常进行生产，农闲时进行军事训练，国家有事时紧急集结出征打仗，实行的是“兵农合一”。这种制度对于生活在草原的民族很容易实现，对于以农耕为主的社会，当国家规模较小时也可以实现，而当国家规模很大、战争比较频繁时，府兵制的弊端就显现出来。
到李隆基开元年间，府兵制已经到了崩溃边缘，服兵役的家庭要么渐渐贫困（主要劳动力服兵役经常会耽误农耕），要么服兵役的人身体渐渐贫弱。渐渐地，“逃兵役”的现象越来越普遍，正值壮年的男子纷纷远走他乡，逃避服兵役。
这下就到了“无兵可征”的地步。
面对这个现象，张说提出了改革：
招募壮士充当宿卫，所在家庭不再承担其他劳役，同时给予这些壮士优厚待遇。
卤水点豆腐，一点就灵。
张说这一招果然奏响，招募令发出，青壮男子从四面八方云集而来，很多是原来逃避兵役的，现在看到招募令，便火速地加入到宿卫的行列中来。
几天时间，便募集了十二万人，都是当打之年的青年男子。
其实，想加入这十二万人行列，难度也不小，首先要求身高五尺七寸以上，唐代一尺相当于现在的30.7厘米，五尺七寸相当于现在的1.75米，这个要求可不低。
在这之后，张说对这十二万人加以训练，训练结束，将这十二万人分属十二卫，每个卫一万人，这十二万人分成六个批次，轮流担任宿卫，这样困扰李隆基数年的“征兵难”问题在张说手中彻底解决。
从此，唐朝“兵”“农”分离，军队逐步走向职业化，这是一件好事，然而好事的背后也隐藏着危机。（到安禄山时再细说）
改革完兵制，张说又把精力放到文化上，在他的推动下，李隆基设立了丽正书院。丽正书院的功能相当于皇家编译院，用来网络当代知名的文学人士。
被丽正书院网络的都有哪些人呢？
“少小离家老大回”的著名诗人贺知章，此时的身份是太常博士；秘书监（皇家图书院长）徐坚；监察御史赵冬曦。
他们的具体职责是什么呢？
一、校勘文章；
二、为李隆基伴读，随时解答李隆基的疑问；
三、享受国家提供的丰厚待遇。
对于文化人来说，这是一份美差。
张说就是这帮人的领导，李隆基命他兼任丽正书院院长。
公平地说，丽正书院的设立是一件好事，对于唐朝的文化发展有极大的促动作用。中国的社会传统就是这样，上行下效，上面喜欢什么流行什么，下面也就会跟风。唐朝为什么会成为诗的国度，一是文化发达到一定程度，二是唐朝的很多皇帝都喜欢诗，本身就是诗人，李世民、李治都是不错的诗人。
因此，丽正书院的设立，对于文化而言是好事。
然而，这样的好事也有人反对，中书舍人陆坚便提出了反对意见：丽正书院无益于国，白白浪费，恳请陛下将之取消。
砸场子的人来了，张说也不含糊：
自古帝王在国家无事时，不是建造宫殿，就是追求女色，当今皇上却偏偏喜欢文学。聘请知识分子，阐释各家经典，这么做对国家贡献很大，花费又很少。陆先生的话，是何等地没有见识！
就这样，张说理直气壮地将陆坚驳了回去，同时又赢得了李隆基的又一层认同。