第二，从法的效力看，我国已有的行政问责制主要体现在规章制度、政策层面，没有上升为法律，已有的专门的行政问责法只是地方性的政府规章而不是全国性的法律或法规。我国涉及问责方面的制度不少，但就全国范围而言，无论是《中国共产党党内监督条例（试行）》、《中国共产党纪律处分条例》，还是《全面推进依法行政实施纲要》、《党政领导干部辞职暂行规定》，或是温家宝总理在十届全国人大二次、三次会议上的《政府工作报告》，都是中央的政策而不是法律，无法发挥法律的效力。不可否认，推行行政问责制离不开中央和国家的政策指导，然而，要切实规范行政管理活动中的违法、失职、渎职等行为，没有相应的法律制度作支撑，而仅仅依靠政府的政策和命令，也许一时会奏效，但不能长远地根本地解决问题。需要通过立法的形式完善行政问责制度。虽然许多地方发布了行政问责规章制度，但地方政府规章在法的效力上处于较低的地位，仅在本地区有效力，适用范围有限，更何况并不是所有的省市都已经制定了问责规章。另外，行政权力地方化、地方权力利益化、地方利益法制化使我国行政立法中“立法割据”现象严重。一些地方政府在制定行政问责的规定和办法时照抄照搬，内容过于笼统，缺乏针对性和实用性，在实践中难以操作，往往流于形式。所以，完善行政问责制，统一的中央立法司法体制必须到位、有为，必须颁布统一的法律效力更高的法律法规。
第三，从法的内容看，现有的行政问责制度设计不完善，冲突严重，主要体现在问责不明、问责不公、问责不准、问责不全、问责不透明、救济途径不完善等方面。
（1）问责不明。拥有清晰的权、责、利是问责的前提。在我国的传统体制之下，政府、党组织、权力机关、司法机关、第三部门的权力行为边界还不够清晰；中央政府与地方政府的职责权限存在重叠多变的现象；政府部门内部权力范围不明、正副职之间的责任模糊，政府部门及其官员的责权利不平衡，个人责任与集体责任难以界定。不清晰的权责关系常常使得问责主体出现权力冲突、利益冲突，给行政问责有效实施和发挥作用设置了体制性的障碍。有的地方规定行政问责是异体问责，如《四川省党政领导干部引咎辞职暂行办法》等：有的地方规定行政问责是同体问责，如《长沙市人民政府行政问责制暂行办法》等；有的地方规定行政问责则是双重问责，如《吉林省行政问责暂行办法》等。
（2）问责不公。缺乏一个全国范围内普遍适用的问责法律制度，而各地自行制定的行政问责规章、规定的内容又不尽相同，没有统一的问责标准，必然导致针对同一行为，是否问责以及问什么责，各地处理不一。有的地方规定行政问责制的对象限于行政首长(行政机关主要负责人），如《哈尔滨市行政机关领导问责暂行办法》；有的地方则规定行政问责制的对象限于所有公务员，如《甘肃省人民政府办公厅首问责任制（试行）》等。没有明确责任体系的问责制度不仅是一种摆设，而且为权力斗争和铲除异己增加了新的工具。“问责对象局限于政府机关及其公务人员会影响到体制内人员的公平，问责机关的自由裁量权过大，势必导致某些官员为逃避问责而采取非法手段，跑官要官，调动职位，甚至不排除个别人欲借问责打击异己的可能。”[10]所以，问责应当公平，即执行标准一视同仁，调查机构要具有公信力，要接受社会舆论和方方面面的监督，尽量做到不枉不纵。
