其次，理顺组成部门与所管理国家行政机构之间的关系。组成部门管理的国家行政机构是1993年才出现的一种机构类型，一定程度上适应了执行专业化的需要。根据1997年《国务院行政机构设置与编制管理条例》，组成部门管理的国家行政机构主管特定业务，行使行政管理职能。目前，当务之急是按决策权、执行权、监督权既相互制约又相互协调的要求，理顺工业和信息化部与国防科技工业局、人力资源和社会保障部与国家公务员局、交通运输部与中国民用航空局、卫生部与国家食品药品监督管理局之间的关系。如果“换汤不换药”，则有悖于2008年大部门体制改革的初衷。
再次，按照政事分开、事企分开的原则，理顺组成部门与下属事业单位之间的关系。对具有经营性质的事业单位，则坚决予以企业化转制，实现彻底脱钩。对具有公益性质的事业单位，则尽量以合同授权、委托关系代替行政隶属关系。对具有行政职能的事业单位，则尽量归还行政职能于机关。
最后，清理整顿改革组成部门自行设置的下属机构。根据审计署公布的调查数据，截止2005年底，31个中央部门拥有下属机构(不含经国务院批准的职能司局等内设机构和派出、分支机构)共5074个，人员164.12万人，也就是说平均每个部委拥有自行设置的单位163个，每个单位325人。长期不清理政府组成部门的下属机构，容易吞噬行政体制改革前期成果。
二、大部门体系应采取决策权、执行权、监督权既相互制约又相互协调的运行机制
十七大报告指出，“建立健全决策权、执行权、监督权既相互制约又相互协调的权力结构与运行机制。”2008年3月《国务院机构改革方案说明》指出，“按照精简统一效能的原则和决策权、执行权、监督权既相互制约又相互协调的要求，着力优化组织机构，规范运行机制，为全面建设小康社会提供组织保障。”2008年3月11日，中央编制部门进一步明确，“决策权、执行权、监督权既相互制约又相互协调，指的是政府内部的职权配置形式和相互关系。”按照本文前述，决策权、执行权、监督权指的是行政决策中枢及其办事机构、组成部门、执行机构之间的职权配置与相互关系。可见，此处的权力三分绝不是国家权力结构的“三分”，只是指行政权“三分”。
决策重在科学民主，执行重在效率，监督重在有效，因此大部门体系中的决策权、执行权、监督权各有自己的价值侧重。在一定意义上，利益的划分取决于决策，利益的实现取决于执行，利益的矫正取决于监督。利益划分重在公平正义，利益的实现重在效率效能，利益的矫正重在有力有效。决策权、执行权、监督权高度合一，容易形成部门利益(特殊群体利益)实现的“一条龙”，容易导致公共决策(公共管理)偏离公共利益。因此，推动决策集中化、执行专门化、监督独立化，探索建立决策权、执行权、监督权既相互制约又相互协调的运行机制。关键是，在大部门体系中如何实现决策权、执行权、监督权的既相互制约又相互协调？
