其次，问责的责任对象必须以宪法依据。中华人民共和国的国家机构实行民主集中制的原则[23]国务院实行总理负责制。各部、各委员会实行部长、主任负责制[24]地方各级人民政府实行省长、市长、县长、区长、乡长、镇长负责制。[25]这些宪法规定是确定责任主体的基本依据，对行政负责人员追究责任应遵循宪法原则。在完善行政问责制度时，应当依法正确处理好民主决策和个人责任的关系。对以政府名义作出的行为需要追究责任时，行政首长是第一问责对象；对行政人员的个人违纪违法行为追究责任时，行为人是第一问责对象，对任用、提拔该人员有过错或违法违纪情形的，应当一并问责。前者体现宪法确立的首长负责制，后者是个人责任原则和过错原则的要求。
再次，相关法律是行政问责的具体法律依据。近年来，我国相继制定或修改了《地方各级人民代表大会和地方各级人民政府组织法》、《各级人民代表大会常务委员会监督法》、《公务员法》、《行政监察法》，这些法律是建立我国行政问责制度的重要法律依据。其中，《地方各级人民代表大会和地方各级人民政府组织法》、《各级人民代表大会常务委员会监督法》是建立人民代表大会及其其常务委员会问责（简称人大问责）的法律依据。目前各级人民代表大会及其常务委员会的监督仍比较薄弱，因此要强化国家权力机关的异体问责。《公务员法》规定了行政人员的义务和惩戒，行政问责应当立足于该法规定的公务员义务和惩戒的内容，根据行政部门工作的不同特点进行细化。如《公务员法》第十二条第（七）项规定：“遵守纪律，恪守职业道德，模范遵守社会公德。，有关部门应对“纪律”、“职业道德”提出具体要求，并规定相应的责任。《行政监察法》和国务院根据该法制定的《行政监察法实施条例》是对国家行政机关、国家公务员和国家行政机关任命的其他人员实施监察的一部重要法律，是行政机关内部实施行政问责的重要程序性规定，和《公务员法》一起构成我国行政问责法律制度主要程序和实体性内容。总之，建立行政问责制度不能与上述法律相冲突，并应当在上位法规范的范围内予以细化和完善。
（二）行政问责事由和责任形式法制化
目前行政问责存在的一个主要问题是问责范围和责任形式缺乏合理归类配置和法律原则指引，这样造成问责容易受领导人主观意志和群众集体情绪的影响，产生有失公平的结果。按责任性质划分，行政问责事由一般可分为违反职业道德、违法违纪和损害政治信任三类。违反行政职业道德，是指违反从事政府行政管理工作的国家公职人员在行使公共权力、管理公共事务的活动中，处理自身与工作对象之间、上下级之间、同事之间的各种关系时所应遵循的道德规范；违法违纪是指违反法律法规和行政纪律明确规定的义务；政治信任是指公民和政府之间的信任关系。政治信任本身涉及权威的存在，人们承认政治权威，服从政治权威，从而建立起一种民众与权威之间的信任关系。[26]政治信任不仅对于经济发展、政治稳定、社会和谐具有功能性作用，政治信任也是民主国家的构成性条件，本身对于现代政治具有重要价值。损害政治信任是对政治权威的损害。
