初创于隋朝的三省六部制，三省指的就是门下省、尚书省、中书省，六部就是指吏部、兵部、礼部、都官（后改为刑部）、度支（后改为户部）和工部。三省六部制是隋文帝统治时期正式确立下来的。
在隋文帝正式将三省六部制确立下来之前，这种制度经过了漫长的发展、演化过程。尚书省起源于秦朝。秦朝的统治者在少府下设置主管典籍的尚书，从此之后，尚书这一官职被沿用下来。
西汉时，汉武帝废除了以丞相为主的外朝的部分权力，设立以大将军为首的内朝，代替外朝掌管处理军国大事的权力。沟通内外朝的事宜由原属少府的尚书以及中书谒者负责。东汉时，朝廷设置了统领百官政事的尚书台，尚书台的长官被称作尚书令。但此时尚书台仍然归少府管辖，权力有限。
东汉末年的曹操自己担任丞相，把原来属于少府的尚书吏部曹、选部曹等移为丞相手下的官员，又将汉武帝建立的内朝转到外朝，尚书省的建立便由此开始。曹丕当权后，他觉得尚书等官职权力过大，就以曹操设立的专门负责处理机要文书的秘书省作为基础，设置了负责掌管机要，起草和发布诏令的中书省，中书省的最高行政长官为中书监。
曹丕还把秦朝的散骑和汉朝的中常侍合并起来，称为“散骑常侍”，并设置散骑省。散骑省与禁省负责保卫皇帝，同时制约中书省的权力。东晋司马丕执政时，把禁省和中书省合并为门下省，设置侍中、给事黄门郎、给事中、散骑常侍等官职。北朝时期，门下省负责参与决断军国大事，是最为重要的行政部门。
直到南北朝后期，门下、中书、尚书这三个省仍然各自负责自己的事情，并没有有机地结合起来。这三个省的长官都称为“宰相”，只是随着朝代的变更，权力的范围有所不同而已。
隋文帝杨坚建立隋朝后，将北周所设置的六官废除，恢复汉魏旧制，设置了太保、太傅、太师三师，司空、司徒、太尉三公，及中书省、门下省、尚书省、秘书省、内侍省五省。三师只是一种象征性的官职，并不掌握实权，只有那些德高望重的老臣才能够获得三师的职位。
三公也没有实权，只负责参与国家大事，起到顾问的作用。国家真正的最高权力机关为五省。在五省之中，秘书省只负责掌管图书历法，没有实权，而内侍省则是一个宦官机构，主要负责宫中的日常事务，同样没有实权。因此，门下省、中书省和尚书省才是真正掌握实权的机构。
门下省是谏议机关，负责审查政令、封还皇帝失宜诏令、驳正臣下奏章违误等事务。门下省的长官为纳言，共两人，次官有负责纠正奏章得失的给事黄门侍郎、谏议大夫、直散骑常侍、散骑常侍等。中书省是中枢的制令机关，主要负责起草皇帝的诏书。中书省的长官为监和令，后来将监废除，只设置令。
中书省的属官有负责掌管宣奏的通事舍人及负责起草制令的舍人。尚书省是主持日常政务的最高行政机关，长官为尚书令和左、右仆射。尚书省下设吏、兵、户、都官、度支、礼等六部。都官后改为刑部；度支后改为民部，李世民执政时期，因为避讳又改为户部。
这六部各有其职责范围，吏部负责掌管全国官员的任免、考核、升调以及调动等事务；兵部负责掌管全国武官选用及各种兵器战马等事务；度支负责掌管全国的赋税、户籍、土地等事务；都官负责掌管全国的司法，处理刑事案件；工部负责掌管全国的工程建造事务；礼部负责掌管祭祀、礼仪以及接待四方宾客等事务。
隋文帝将三省六部制确立下来，具有诸多好处。首先，门下省、中书省、尚书省三省之间相互配合，同共构成了国家最主要的政务部门。三省长官的职责，相当于以前宰相的职责。这是中国宰相制度的一个非常明显的变化，使得宰相由一个人变成了三个人，这就避免了宰相集大权于一身，不把皇帝放在眼里的现象出现。
其次，三省六部制使得决策出现分工的局面。皇帝所下的诏令，都是在与三省长官商量之后做出的决定，可谓集中了三省长官的智慧。形成决策之后，要想正式生效，还需要经过中书省起草、门下省审核和尚书省执行这三个步骤。这就保证了决策的审慎性，最大化地避免了出现决策失误的事情发生。
第三，三省六部制使得决策权和行政权分离。中书省和门下省负责诏令的起草和出台，执行则由尚书省负责。这样做可以分割权利，对提高皇权有很大的帮助。
三省六部制可以提高皇帝的权利，分化宰相的权利，有利于行政的合理化，符合封建统治者的利益。因此，三省六部制在隋文帝确立之后，一直为后世历代封建统治者所沿用。