接下来的问题是，如何在我国对抗模式的背景下，构建我国的调解制度? 根据我国调解的经验，借鉴美国调解制度发展中的一些思路，可从以下几个方面完善我国调解制度。
(一)关于调解机构的设置
目前，我国调解机构主要分为法院和人民调解委员会。[59]而对法院调解机构的设立争议最大。目前，我国理论界和实务界主要有三种不同的方案：第一种是纯法官型的调解机构，即调解机构的成员由清一色的法官担任；第二种是以法官为主导的混合型调解机构，即由法官和调解委员会共同组成调解机构，法官任调解机构的主任，这种方案也是目前日本和我国台湾地区采取的调解机构模式；第三种是将法院调解与人民调解并轨，由法官和人民调解员共同组成调解机构，法官任调解机构的主任。[60]对以上方案，我们都不大赞同。笔者主张，在诉讼已经逐渐成为对抗理念主宰的领域时，应该将调解机构从法院中剥离出来，以人民调解委员会为基础，构筑一套非司法性的调解机构体系，负责调解所有纠纷，包括法院转交过来和当事人直接提起的。在这套体系中，法官不应该再参与进来。理由有三：其一，我们认为，在目前的情况下，许多民众对法官强烈的不信任甚至很抵触，法官参加调解可能降低调解利用率；其二，法官是一个接受 专业的法律教育、有着顽固的法律思维定势的职业群体，其所接受的训练以及养成的职业习惯，使他们比不上那些受过专业培训的调解员“专业对口”；其三，法官介入可能会给调解带来诉讼的阴影，使当事人及其代理人心理容易发生微妙的波动，从而将调解演变为另一种对抗的手段。
在这套体系中，现有的人民调解委员会也需要重构。据统计，我国共有800多万名人民调解员，每年调解的民事纠纷却仅有约600万件，平均每个调解员一年调解的案件不足一件，工作效率极为低下。这种局面的形成，很大程度上是因为目前我国人民调解面临着承载的功能过多、资金严重短缺、调解人员素质偏低以及调解方法僵化单一等问题。对于后两个问题的解决之道，笔者将在下文论述，此处主要讨论前两个问题。
对于人民调解承载功能过多问题，我们认为应该纯化人民调解的功能，将其严格定位于纠纷解决上，至于目前人民调解承担的宣传法律、政策功能、教育公民遵纪守法功能、预防犯罪和纠纷功能以及参与社会治安综合治理功能等，则可由分流一部分人民调解员组成的新机构来承担。
对于人民调解经费短缺的问题，各地人民调解委员会面临着一种困境：不收费难以保证正常运作和发展；收费则限制了当事人的利用，使民众难以从中受益，当事人宁可直接进入诉讼而不愿利用调解，同时，收费还极易成为权力寻租和不公正的契机。[61]要消解这种尴尬，我们认为，一方面政府要在坚持人民调解不收费的前提下，加大对人民调解的资金投入；另一方面则应该鼓励一些市场化调解组织的发展。这些可以收费的调解组织，可以通过其更加专业的调解服务来满足一部分有经济实力的当事人的需要。对一些发展较好的市场化调解组织，政府还可以在必要的时候，通过购买的方式让其为民众提供免费的调解服务，如上海市长宁区江苏街道购买“人民调解李琴工作室”就取得了很好的社会效果。[62]
