隋朝的建立虽然是杨坚搞宫廷政变、欺负孤儿寡妇的成果，但是，它也是中原地区近三百年民族融合的产物，是一个新时代的开端。
杨坚上台伊始，做了三件大事，非常引人瞩目。
第一件大事是改革中央官制，确立三省六部制。这可是对北周官制的一个重大改变。
北周中央官制的核心是什么？六官制。这六官分别是大冢宰，也就是天官；大司徒，也就是地官；大宗伯，又叫春官；大司马，又叫夏官；大司寇，又叫秋官；大司空，又叫冬官。六官分别掌管各类行政事务，而由大冢宰统领。这都是宇文泰当西魏权臣的时候制定的制度，后来一直沿用到北周。
西魏之所以实行六官制，有两个原因。
第一，寻找政治合法性。当初西魏刚刚建立的时候，真是处处不如人。在军事实力上远不及东边的东魏，在文化上更比不过以汉文化正统自居的南朝。
怎样来维持这种东、西、南三足鼎立的局面？宇文泰一方面加强军事力量，另一方面则打出了文化复古的旗号，利用自己地处关中的地缘优势，宣称自己是西周的嫡系继承者。
怎么表现自己是西周的继承者？根据《周礼》的记载，西周的制度就是天、地、春、夏、秋、冬六官，那西魏也就实行六官制度，这叫继承西周政治传统。中国人好古，又爱家乡，宇文泰拉起这么一面立足关中地区、追随西周古制的大旗，既团结了关中地区的汉人，也给自己找到了立足中原的政治合法性，一举两得。
第二，突出宇文泰的专权地位。六官制度中，大冢宰统领其他五官，居于主导地位，而宇文泰就担任大冢宰。这就给他把持西魏朝政提供了制度依据，有利于宇文泰专权。这两点对西魏政权的成长都非常有利，所以，六官制度也就一直沿用下来，到北周还继续使用。
但是，事物总是向前发展的，再好的制度总有时效性。六官制度也越来越显现出不利的一面。
首先，六官制度毕竟是西周制度，而西周距离当时已经有一千多年的历史，用一千多年前的制度去规范一千多年后的生活，难免会显得格格不入。怎么办？只能是对制度进行断章取义的改造，以适应现实政治需要。
所以，宇文泰就把好多适应鲜卑社会的制度塞进了六官制里。古代的制度外壳再加上少数民族的一些政治原则，这就更四不像了。史学大师陈寅恪曾说：这是“虚饰周官旧文以适鲜卑野俗，非驴非马”，肯定不能维持长久。
其次，当初宇文泰制定这套制度，是为了方便他当权臣。可是后来，无论是宇文泰的子孙篡了西魏，建立北周，还是北周的权臣杨坚篡权建立隋朝，当然都希望维护君主集权，不能容忍权臣再度出现。这样一来，以大冢宰为核心的六官制度就显得非常讨厌。
如果仍然是东、西、南三家鼎立，鲜卑人当皇帝也就罢了，再不方便，也不敢轻易丢掉这面大旗。可是，现在既然中原地区已经统一，而且新皇帝杨坚还是个汉人，那么，争夺文化正统性，收服关中民心就显得不那么重要了。在这种情况下，杨坚决定，废除六官制度，实行汉魏官制！
不过，这个所谓的汉魏官制，既不是汉朝的制度，也不是曹魏的制度，而是把南北朝时期经过历代政权改革的中央官制整合起来，形成的一套新官制。
这个新官制什么样子？按照《资治通鉴》的记载，开皇元年（581），隋文帝“置三师、三公及尚书、门下、内史、秘书、内侍五省，御史、都水二台，太常等十一寺，左右卫等十二府，以分司统职”。
这段记载涉及内容很多，其中，核心就是后来为人所熟知的三省六部制。
所谓三省，就是尚书、门下、内史三省。其中，内史省负责起草诏令，长官叫内史令；门下省负责审核诏令，长官叫纳言；而尚书省则负责执行，长官叫尚书令。当然，因为尚书令位高权重，一般情况下都空缺，所以，实际的领导就是尚书省的副长官，左右仆射。
所谓六部，则是尚书省下设的吏、礼、兵、都官、度支和工部六个行政部门。从三省的职能分工不难看出，门下省和内史省是最高权力机构，类似于如今的全国人大；而尚书省则是最高行政机构，类似于如今的国务院。六部则类似于国务院各部委。三省之间互相配合，共同构成了国家最主要的部门，而中国古代最重要的官职宰相则由三省长官共同担任。
这可是中国宰相制度的一大变化。要知道，中国宰相制度的发展，从大的方面说，一共分为三个阶段。第一个阶段是秦汉时期的三公九卿制；第二个阶段则是隋唐时期的三省六部制；第三个阶段是明清时期废除宰相，实行内阁或者是军机处的替代体制。
那么，三省六部制和三公九卿制相比，有什么不同？有三个特点值得注意。
第一，宰相由具体的个人变成了机构负责人。在原来的三公体制之下，太尉、司徒、司空这三公是宰相。皇帝先任命他们做宰相，再让他们组建丞相府，管理全国政事。这样一来，就是先有宰相个人，再有宰相机构。在这种情况下，宰相真是名副其实的一人之下，万人之上，当然气焰熏天，经常和皇帝发生冲突。最典型的就是汉武帝时期，田蚡当宰相，不停地安插亲信。武帝看了当然恼火，问他：“君除吏已尽未？吾亦欲除吏。”你任命官员任命够了吗？我也想任命几个自己人当官，行不行啊？可见君相冲突有多严重。
为了对抗宰相，皇帝只好不断发展内廷势力，提拔身边人。三省的长官，尚书令也好，纳言也好，内史令也好，最初都是皇帝身边的随从。可是，到三省体制之下就不一样了。三省长官共同构成宰相集团，这就意味着，先有宰相机构，再有宰相个人。这样一来，突出的就不是宰相个人，而是整个宰相机构的权力。
把对个人的依赖转变为对机构的依赖，这有助于防止宰相专权。
第二，三省制还意味着决策和行政的分离。在三省体制之下，内史省和门下省是最高决策部门，主管诏令的起草和出台，但是不管执行；而尚书省是最高行政部门，主管诏令的执行，但是不管决策。这种决策权和行政权的分离，其实也是在分割宰相权力，同样有助于提高皇权。
第三，三省制还意味着决策的程序分工。任何一个诏令，都是在皇帝的领导下，经过宰相，也就是三省长官的集思广益而成。而且，在宰相形成基本意见后，还需要经过内史省起草、门下省审核和尚书省执行这三个步骤才能真正生效，这种程序分工其实就意味着决策的审慎化。这当然可以最大限度地避免拍脑门决定，也就减少了行政失误。
把这三个特点综合起来看，就会发现，三省六部制贯彻的是君主集权、宰相分权以及行政理性化这样一些基本原则，符合中国社会的发展方向，所以生命力特别旺盛，影响力一直到清朝，真可以说是为万世法了。