在法治国家，对公职人员的监督有利于保证法治的统一，保障公民个人的自由，也有利于保护公职人员自身的安全。法律监督应有一个健全的监督体系来实施。在我国，首先是全国人大及其常委会对公职人员的监督。
宪法规定，国家行政机关、审判机关、检察机关都由人民代表大会选举产生，对它负责，受它监督。监督归根到底是对人的监督。政府、法院、检察院主要负责人每年在人代会上，都要面向人大代表报告工作，面对面地听取代表们的批评、意见和建议。其次是检察院对公职人员的监督。我国宪法规定，人民检察院是国家的法律监督机关，依法独立行使监督权。为了保证检察院依法独立行使监督权，国家和社会应保持检察官的独立地位，排除一切非法干涉检察官同社会上违法犯罪行为作斗争职责的行为，对违法者必须依法追究其法律责任。如果没有其独立性，其监督权就会形同虚设。同时，还应保持检察官秉公执法的地位。这不仅是检察官履行职责时的法定义务，而且也是对检察官在执法中地位的要求。检察官依法履行法律监督职能，有利于纠正公职人员的违法行为和不当行为，维护公民和社会组织的合法权益。再次是法院的审判监督，这种监督主要表现为法院通过审判公职人员的违法犯罪案件和行政诉讼案件对公职人员所进行的监督。再其次是行政机构的监督。它分为一般行政监督和专门行政监督。一般行政监督主要通过上下级行政机关对公职人员的监督。专门行政监督主要是通过行政监察机关、审计机关和复议机关对公职人员的违法违纪行为、行政争议的处理进行监督。它们依法独立行使监督权，不受其他行政机关、社会团体和个人的干涉。另外是通过由各政党、各社会组织、新闻机构和人民群众依照
宪法和法律对公职人员所进行的监督。通过法律监督体系，确保公职人员遵纪守法，依法行事。
在我国，腐败现象的存在不容忽视。加强廉政建设，反对腐败是建设社会主义市场经济体制的必要条件和重要保证，也是关系改革事业成败，关系党和国家命运的大事。腐败破坏了公共管理秩序和权力行使的公正性，导致了民众对公共管理机构的不信任，影响了社会稳定，使国家受损失，群众增加负担，损害了社会的公平与公正。腐败不但削弱了国家政策的效果，而且影响外国投资者的投资，成了中国深化改革的最大障碍。防治腐败首先应当加强廉政建设，实行政务公开，避免暗想操作，使权力的行使置于民众的监督之下，使权力行使规范化、制度化，使动机不纯的人无法律漏洞可钻，使得逞者受到法律的制裁，从道德、法律和制度上确保公职人员守法。
建立严密的公务员守法监督网络，完善奖惩制度。奖惩制度具有激励公职人员努力工作的功能。它是对公职人员管理的一项重要措施。通过奖惩制度，发挥公职人员的进取心理和羞怯心理，给周围人树立正面和反面形象，从而对整个群体产生正负面影响，调动公职人员的工作积极性，努力工作，廉洁奉公，遵纪守法，提高工作效率。从各国的公务员立法看，许多国家的公务员基本法中只有公务员惩戒的规定，而无公务员奖励的规定，尤其在一些资本主义国家，其公务员法中无任何奖励的条文，但对公务员的惩戒规定则很多，像英国、法国、德国等。只有日本等少数国家的公务员法中有奖励规定。而社会主义国家中的一些人事管理的法规中，一般都有奖励和惩戒两方面的规定。依我看，对公务员的奖励和惩罚，应当是强调惩罚性，只对特殊情况考虑奖励。因为公务员的工作具有职责性，优质高效完成其工作是其本职要求，也是大众的基本要求和公务员选拔的竞争性所决定的。如果完不成本职工作或完成得不好，办事拖拉，就应加以惩治或淘汰。
另外，从实际情况看，奖励工作在实践中容易被滥用，个别地方出现该奖励的没奖励，不该奖励的奖励了，年年评先进，年年工作效率提不高，甚至评选不当导致消极影响。因此，法律应当明确规定对本职工作不应当奖励，而应加强对违法违纪的惩治，只对那些特殊情况产生的重大事故给予奖励，如抗洪救灾、火灾等自然灾害。我国颁布了国家行政机关工作人员奖惩规定，对奖励和惩罚的种类、奖惩的条件作了规定，但由于缺乏具体的法律法规导致奖励和惩罚的条件太原则、太抽象，难以把握，使评选工作流于形式，使惩罚变得形同虚设（除非是涉及到严重的违法犯罪）。对此，我们应完善公务员奖惩制度，根据公职人员的分类管理要求，尽快制定不同层次的奖惩法律、法规和规章，加强宣传，树立公务员奖惩的法律意识，强化奖惩执法工作，完善公务员申诉制度，使奖惩工作经常化、制度化，使那些违反公职人员纪律，经商办企业或参与其他营利性经营活动；参与赌博、迷信、色情等活动，打架斗殴，酗酒闹事，严重违反公共道德；贪污、受贿、行贿、偷盗等行为或利用职权和职务上的便利，为自己或他人谋取不当利益，造成不良影响等不称职行为受到惩罚，使特殊贡献者受到奖励，切实保障公务员的合法权益不受侵犯，使法律能够得到很好的遵守。
