第三，即使某个法律文本的含义可以被确定，它的有效性也不是绝对的。在法规、规章和其他规范性文件效力上，主流观点就遇到了首尾不能相顾的难题。规章作为行政法渊源基本上没有争议[27]，但我国《
行政诉讼法》含蓄地承认法院对规章效力的保留态度。这对法律渊源理论产生了冲击：有一种法不是法院必须遵循的，或者说有一种不是法的规定却是法院必须考虑的。如果说一个措辞含混的“参照”暂时解决了规章地位给法律渊源理论带来的尴尬，那么把这一点推演开，“参照”就不仅仅是行政规章。《
行政诉讼法》把法律、法规列为法律审理案件必须遵循的“依据”，按通常见解，就是它怎么规定法院就怎么判决，不能违背。但依照《
宪法》、《
立法法》等确立的我国法律监督体制，法院对于法律、法规也不是必然无条件地适用。虽然通常认为法院无权径自决定不适用或者宣告其无效，但如果法院认为其违法，可以提请法定监督机关予以撤销或改变。这种程序设置赋予法院对法律、法规含蓄的保留。法律、法规实际上是否也只是一种“参照”？至于规章以下的规范性文件，主流观点认为根本算不得法律，然而它仍对法院具有一定的约束。如果我们承认规章以外的其他规范性文件不应被视若无物，完全不加考虑，那么它们是否也获得“参照”的地位？最后，也更为复杂的是，假如我们把法律原则、习惯、判例、学说等非成文因素也引进到法律渊源中来，我们更无法把它当作必须遵循的规定来对待。主流观点从法律效力角度理解和限定法律渊源，本身不能自圆其说。
（二）作为论据的法律渊源
把法律渊源看成对行政执法和法院判决有约束力的“法律依据”，导致理论与事实的脱节。那些被奉为法律渊源的制定法条文，并非在任何情况下都有约束力；而那些没有被承认为法律渊源的材料，对行政执法和司法活动有着实际的影响力。在许多情况下，后者比依循有约束力但没有说服力的法律更有实效，甚至取代有约束力的法律而成为判案根据。主流的法律渊源理论不能解释这些现象，反而令自己陷入自相矛盾的尴尬。为此，我们需要重新定义法律渊源，为它确立一个统一的逻辑基础。
美国法学家格雷（John C. Grey）提出，区别使用“法律”和“法律渊源”这一组概念。格雷认为，制定法和判例白纸黑字的东西，以及道德、政策、法律原则、习惯、法律专家的意见，都不是法律本身，而是法律的渊源。法律适用者结合这些渊源和案件事实得出的适用于具体案件的规则，才是真正的法律。[28]格雷对法律渊源和规范的区分是一个重要观点，也是本文探讨法律渊源的逻辑起点。我国的法学教科书一般也提到法律与法律渊源的区分，并往往用专门章节阐述我国的法律渊源。但是，法律和法律渊源的区分在不断的转述过程中变得模糊，乃至被忽略。在主流的行政法学中，那些本来被作为法律渊源的法律、法规文本似乎成了法律本身。“法律”这个术语，既指法律渊源（法律文本），也指法律规范。[29]
在格雷区别法律与法律渊源后，英国法学家哈特（H. L. A. Hart）提出，哪些属于法律渊源，可以根据一套“承认规则”，即指明哪些形式具有“法的资格”的权威性标准，来加以确认。[30]承认规则很少明文制定出来，而是“通过法院或者其他官员、私人或者私人顾问确认的方式显示出来”。哈特的理论，从逻辑上区分了法律规则的不同层次，为理解法律渊源提供了一个有意义的视角。但它仍具有某些缺陷。首先，哈特把法律规则视为由某个“承认规则”所确立或者引入的，他暗示了一种本体意义上的法律规则固定地存在于某种形式的法律渊源中，只是需要予以“引入”而已。其次，尽管哈特强调在现代社会里确认法的标准的多样性，但在他的叙述中，法的渊源仍是有限的。比较典型的是，他几乎没有提到法律原则这一重要的法律渊源。正是基于“承认规则”的复杂性，德沃金批评道，在美国和英国这样有着复杂法律制度的国家中，不存在哈特所说的辨识哪些是法律规则、哪些不是法律规则的基本检验标准。[31]
