💻 计算机科学

RuleConEx: an intrinsically interpretable neural network unifying logical rules and counterfactual explanations for data access control

RuleConEx 是一种本质可解释的神经网络，它在单次前向传播中统一了访问决策、符合 ABAC 标准的 IF-THEN 规则以及有效的反事实解释，在实现与最先进模型相当的准确率的同时，提供了用户导向型与审计员导向型可解释性之间的可调权衡。

原作者： Benoît Martin Azanguezet Quimatio, Erick Tsafack Nteudem, Paul Valery Nguezet

发布于 2026-10-23

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Benoît Martin Azanguezet Quimatio, Erick Tsafack Nteudem, Paul Valery Nguezet

原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

在数字世界中，访问控制是守门人。它决定了谁可以进入一栋建筑，谁可以打开一个文件，或者谁可以在账户之间转移资金。几十年来，这些决策是由管理员编写明确的规则列表来完成的，例如“财务部门的经理可以批准发票”。这些列表易于阅读和检查，但它们很僵化；如果环境发生变化，规则必须手动重写，这是一个缓慢且容易出错的过程。最近，科学家们转向了深度学习——一种通过从大量历史数据中学习模式来自动做出这些决策的计算机系统。这些系统非常准确，通常优于人工编写的规则，但它们存在一个致命缺陷：不透明。它们通过人类无法轻易追踪的复杂内部计算来做出决策，使得解释为什么某个特定的人被拒绝访问变得不可能。这种缺乏透明度的现象不仅是一个技术上的麻烦，更是一个法律障碍。诸如《通用数据保护条例》（GDPR）之类的法规要求组织必须能够解释影响个人的自动化决策，而透明度不足的系统无法满足这一要求。

来自喀麦隆查恩大学的研究人员开发了一种名为 RuleConEx 的新系统来解决这个特定问题。他们的目标是构建一个既高度准确又完全透明的智能访问控制系统，该系统能够以两种不同的方式解释其推理过程，以服务于不同的用户需求。他们希望系统既能告诉审计员它遵循的通用规则，同时又能告诉被拒绝的用户，通过做出哪些微小的改变可以获得访问权限。为了实现这一目标，该团队创建了一个神经网络，它不仅仅是猜测答案，而是在做出决策的同时生成两种类型的解释。一种解释是以清晰、逻辑性的“如果-那么”（if-then）陈述的形式呈现，描述整体策略，类似于过去的传统规则列表。另一种是“反事实”（counterfactual）解释，它回答了“如果发生什么变化，我就能被允许进入？”的问题，通过建议用户属性的具体、有效的改变来提供解答。

研究人员在代表各种访问控制场景的十一个不同数据集上测试了这一新系统，其中包括来自亚马逊的真实数据以及旨在模拟复杂组织结构的合成数据。他们将 RuleConEx 与其他几种方法进行了对比，包括现有的最佳深度学习模型和传统的机器学习工具。结果显示，RuleConEx 达到了极高的准确度，其表现与最先进的不透明系统不相上下，仅略低于一个不提供任何解释的标准深度学习模型。更重要的是，该系统成功生成了其设计的双重解释。它产生的逻辑规则涵盖了约 80% 的访问请求，并且被发现忠实于系统的实际决策，这意味着这些规则真实地反映了系统的思考方式。反事实解释也非常有效；在 96% 的案例中，建议的更改是有效的，并且确实会导致访问被授予，通常只需要用户改变两个属性即可。

这项工作的一个关键发现是研究人员如何处理这两种解释之间的张力。通常，如果一个系统向用户提供非常简短、简单的建议，可能会导致生成的规则对审计员来说过于宽泛，反之亦然。团队发现，他们可以通过一个设置来调节系统，从而改变这种平衡。通过调整这个设置，他们可以优先考虑为用户提供一条非常简短、易于实现的访问路径，或者优先考虑为审计员提供一套完美匹配用户具体情况的规则。他们证明了他们可以在不损失系统整体准确性的情况下，连续地移动这种平衡。这意味着系统并不会受困于固定的权衡；管理员可以根据情况选择详细程度和解释类型，无论是应对一位沮于事端的用户的询问，还是进行正式的审计。

研究还表明，系统“观察”数据的方式至关重要。研究人员发现，为了使这些规则具有可读性和准确性，系统需要理解用户与资源之间的关系（例如，他们是否属于同一个部门），而不仅仅是孤立地看待他们的个人特征。如果没有这种识别连接的能力，规则会变得冗长、混乱且不准确。此外，团队还解决了一项关键的安全担忧：如果一个系统解释其决策，恶意行为者是否会利用这些解释来摸清如何破解系统？他们认为，虽然这是一种风险，但他们的设计限制了损害。系统仅揭示针对特定拒绝请求所需的具体更改，而不是暴露整个规则库，并且将建议限制在用户实际可以改变的属性上，从而防止了关于资源本身的敏感信息泄露。

最终，这项工作代表了在高度敏感环境中使强大的人工智能变得值得信赖的重要一步。它证明了一个系统不必成为黑箱也能保持准确。通过将逻辑规则和可操作的建议统一到一个单一的可训练模型中，研究人员创造了一个既能满足透明度法律需求，又能保持现代深度学习性能的工具。该系统提供了一种实用的方法来审计自动化决策，并帮助用户理解为何被拒绝访问，从而弥合了机器学习的复杂性与人类对清晰度需求之间的鸿沟。研究结果表明，通过正确的设计，我们可以拥有不仅聪明而且对自己的思考方式保持诚实的智能系统。

技术摘要：RuleConEx

问题陈述

基于深度学习的访问控制（DLBAC）模型（如 Nobi 等人提出的模型）虽然在预测访问决策方面具有极高的准确性，但存在完全不透明的问题。这种缺乏可解释性的现象造成了显著的法律和运营障碍，特别是针对诸如 GDPR（第 22 条）等法规中关于必须能够解释自动化决策的要求。

现有的可解释性解决方案在该领域仍显不足：

事后方法（如 SHAP、LIME）提供的是局部近似，无法真实反映实际的决策机制，且容易被操纵。
独立的自解释模型仅能解决可解释性的某一方面。HyperLogic 生成全局 IF-THEN 规则，但无法为被拒绝的用户提供可操作的反事实解释。HyConEx 生成局部反事实解释，但无法为管理员提供全局可审计的规则。
当前局限性： 目前尚无现有架构能在单次前向传播中，将全局符号规则与局部可操作的反事实进行内在统一，也无法确保反事实在构建上即为有效的类别元组。

方法论

作者提出了 RuleConEx（基于规则的反事实解释器），这是一种将逻辑规则与反事实解释相统一的本质可解释神经网络。

架构

RuleConEx 构建于一个**共享超网络（shared hypernetwork）**之上，该超网络参数化了两个不同的分支，并将它们的输出融合为单一决策：

共享超网络： 一个 TabResNet 主干网络，用于生成分支的参数。它通过以下方式进行查询：
- 全局查询（学习到的向量 + 高斯噪声）来参数化规则分支，从而确保所有请求都遵循单一且一致的规则集。
- 局部查询（输入实例的潜编码）来参数化反事实分支。
规则分支（全局）： 一个具有 $K=48$ 个规则神经元的二值化 DR-Net（可微规则网络）。它产生一组直接从网络权重中解码出的 IF-THEN 规则。这些规则使用特定的**关系文字（relational literals）**词汇表（例如 $user\_attr_i = resource\_attr_j$ ）和否定形式，与 Xu 和 Stoller 的 ABAC 策略语言保持一致。
反事实分支（局部）： 一个由超网络参数化的局部线性分类器。它通过计算修改类别属性以达到目标类别的增益来生成反事实。至关重要的是，它通过构造确保有效性，确保输出是一个有效的类别元组，并遵循不可变属性（如资源属性）的掩码。
融合： 通过带有学习到的、经 Softmax 归一化的权重（ $\alpha_r$ 和 $\alpha_h$ ）对两个分支的 Logits 进行加权求和，从而产生最终的访问决策。

训练与损失函数

模型通过最小化复合损失函数进行联合训练：
$\mathcal{L} = \mathcal{L}_{CE} + \lambda_r \mathcal{L}_{rule} + \lambda_h \mathcal{L}_{loc} + \lambda_{cf} \mathcal{L}_{cf} + \lambda_{sp} \mathcal{L}_{sparsity} + \lambda_{len} \mathcal{L}_{length} + \lambda_{ent} \mathcal{L}_{entropy}$
关键组成部分包括：

反事实损失 ( $\lambda_{cf}$ )：鼓励模型将修改后的元组（反事实）分类为目标类。
规则约束：惩罚规则长度（最大 8 个文字）并鼓励单类投票（熵）。
忠实度测量：不同于以往假设忠实度的研究，RuleConEx 测量了解码规则与最终融合决策之间的严格且加权的符合程度。

核心贡献

统一架构： RuleConEx 是第一个能在单次前向传播中同时产生访问决策、全局 IF-THEN 规则和局部反事实的模型。
本质有效性与忠实度：
- 规则是精确的：规则分支计算的函数是完全可解码的，且其忠实度是通过测量而非假设得出的。
- 反事实在构造上是有效的类别元组，能够处理离散属性而无需事后投影。
关系文字： 模型将关系约束（用户与资源属性之间的相等关系）明确纳入输入空间和规则词汇表中。作者证明，若缺少这些关系，符号模型（如决策树）将无法有效捕捉策略结构。
可调权衡： 论文确定了单个系数 $\lambda_{cf}$ $λ_{c f}$ （反事实损失的权重）作为控制机制。通过对该系数进行扫描，可以在以下两者之间实现连续切换：
- 面向用户的可解释性：更短的反事实（修改更少的属性）。
- 面向审计者的可解释性：更高的规则与反事实之间的一致性（更多的反事实由全局规则所解释）。
- 这种权衡是在统计学上无显著差异的准确率下实现的。

实验结果

该模型在 11 个 DLBAC 基准数据集（包含 3 个真实的 Amazon 数据集和 8 个合成数据集）上进行了评估，使用了 5 个随机种子。

准确率： RuleConEx 达到了 92.1% 的平均准确率。这与 HyConEx、随机森林和线性 SVM 在统计上是不可区分的，且仅比不透明的 MLP 基准低 0.6 个百分点。
规则质量：
- 规则覆盖了平均 80% 的请求。
- 严格忠实度（规则与最终决策的一致性）为 0.80。
- 规则简洁（平均长度约为 4.5 个文字）且主要基于关系。
反事实质量：
- 96% 的反事实是有效的类别元组。
- 它们平均修改 2 个属性。
- 翻转成功率为 100%。
一致性： 规则与反事实之间的一致性（由目标类规则所解释的有效反事实比例）范围从 0.18（默认设置）到 0.43（当 $\lambda_{cf}$ 放宽时）。这明显高于将 HyperLogic 和 HyConEx 分别训练并并置后的实现的一致性（0.22）。
消融实验：
- 共享超网络本身是中性的；收益来自于联合训练。
- 全局查询中的 高斯噪声 是多余的。
- 关系文字 至关重要；移除它们会导致规则准确率和覆盖率大幅下降。

重要性与主张

论文声称其主要贡献不在于提升预测准确率，而在于在单个可调模型中统一了两种互补形式的可解释性。

显式控制： RuleConEx 提供了一个显式的调节机制 ( $\lambda_{cf}$ )，用于平衡被拒绝用户（需要一条通往访问权限的简短、可操作路径）与审计者（需要全局、一致的规则）的需求。两个并置的模型无法提供这种连续的权衡。
安全影响： 作者认为，同时暴露规则和反事实会创造一个新的攻击面。他们提出了一种特权分离模型：
- 审计者接收全局规则和分支 Logits。
- 请求者在被拒绝时，仅接收决策信息和一个受限的、单一的反事实（仅限于可变属性）。
- 与返回所有类别的完整反事实集的系统相比，这限制了关于策略边界的信息泄露。

作者总结道，虽然该模型实现了高准确率和高可解释性，但规则与反事实之间的一致性是一个可调属性而非结构性保证，未来的工作需要量化政策泄露情况并验证这些解释对人类审计者的效用。