为了长期贯彻精简官僚机构的方针，唐太宗将简政省官作为一项制度固定下来。例如，贞观初年“省内外官，定制为七百三十员”。在唐律中对乱置机构、私设官员的人，规定了明确的惩罚条款。唐太宗又规定主管行政事务的官员，年龄到了七十必须离职让位，以提高办事效率，加强各级行政机构的职能。对精简后继续任职的官员，唐太宗还通过各种形式，择优汰劣，力求为官者人人称职。他制定了专门的考核制度，每年都对各级各类官员进行考核，以此决定升迁降免。唐太宗还亲自过问地方刺史的选用，并把全国各州刺史的姓名都写在屏风上，随时记下他们的善恶事迹，以备赏罚。643年（贞观八年）又派得力大臣李靖等十三人为黜陟（zhi质，提升）大使，到全国各地巡查，升迁廉洁有功的官员，惩处贫劣失职的恶吏。

唐太宗李世民采取一系列措施简政省官，精简了机构，整饬了吏治，大大提高了国家各级机构的效能。同时减少了国家对冗官余吏不必要的开支，相应地减轻了人民负担。这样, 就为唐朝初期出现“贞观之治”的繁荣盛世，打下了重要基础。