🤖 machine learning

Concise and Logically Consistent Conformal Sets for Neuro-Symbolic Concept-Based Models

本文介绍了 COCOCO，这是一种事后共形预测框架，它通过单一的演绎 - 溯因修正步骤协调概念预测与标签预测，从而为神经符号概念模型生成简洁、逻辑一致且具有覆盖率保证的集合。

原作者： Samuele Bortolotti, Emanuele Marconato, Andrea Pugnana, Andrea Passerini, Stefano Teso

发布于 2026-05-19

📖 1 分钟阅读☕ 轻松阅读

原作者： Samuele Bortolotti, Emanuele Marconato, Andrea Pugnana, Andrea Passerini, Stefano Teso

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象你有一个非常聪明的、由两部分组成的机器人助手，专门设计用于解决复杂谜题。这个机器人是一个神经符号概念模型（NeSy-CBM）。

它的工作原理如下：

** “眼睛”（神经网络）：首先，机器人观察一张杂乱的图片（例如街道照片或医学扫描图），并尝试识别其中的高层对象。它说：“我看到了一辆车、一只狗和一棵树。”这些就是它的概念**。
“大脑”（符号逻辑）：然后，机器人使用一套严格的规则（例如“汽车有轮子”或“如果你将 7 和 6 相加，结果是 13"）来推导出最终答案。它说：“根据我所看到的，答案必须是 13。”

问题：过度自信的机器人
问题在于，这个机器人常常过度自信。即使它错了，它也会以 100% 的确定性说话。

示例：想象机器人看到一张狗和马的图片。由于训练中的故障，它自信地断定狗实际上是“猫”，马是“牛”。然后它利用其逻辑规则得出结论，答案是“农场动物”。它碰巧得到了正确答案，但其推理过程完全错误。
在高风险情境中（如医疗诊断或自动驾驶汽车），我们需要知道机器人何时不确定，以便我们能复查其工作。但目前，机器人并不知道自己在猜测；它只是认为自己是对的。

解决方案：COCOCO
作者引入了一种新方法，称为COCOCO（代表Conformality 一致性、Consistency 一致性、Conciseness 简洁性）。将 COCOCO 想象成你套在机器人头上的一张安全网和逻辑检查器。

COCOCO 不是给你一个单一的答案，而是给你一个可能答案的列表（一个“预测集”）。它承诺：“我保证真实答案以 90% 的确定性包含在这个列表中。”

但 COCOCO 做了其他安全网没有做的特殊事情。它确保了两点：

一致性（逻辑检查）：它确保机器人“看到”的对象列表与其给出的答案列表相匹配。
- 类比：如果机器人的答案列表中包含"13"，但它看到的对象列表（7 和 5）只能得出"12"，COCOCO 会说：“等等，这加起来不对！”它将"13"从列表中移除，并修正对象列表以匹配数学结果。它迫使机器人的“眼睛”和“大脑”相互达成一致。
简洁性（大小限制）：一张说“答案可能是 0 到 100 之间的任何值”的安全网是无用的。COCOCO 试图在保持安全的同时，尽可能缩短列表长度。它剔除不可能的选项，使列表短到人类实际可以阅读。

工作原理（“修订”步骤）
COCOCO 使用一个巧妙的技巧，称为修订步骤。

它从机器人“大脑”给出的可能答案列表开始。
它从机器人“眼睛”给出的可能对象列表开始。
它询问：“哪些对象实际上能生成第一个列表中的答案？”以及“哪些答案实际上能由第二个列表中的对象生成？”
它交叉引用它们，并剔除任何不匹配的内容。它只做一次，并且数学上已证明这是清理列表最完美、最高效的方式。

为什么这很重要
该论文在 8 个不同的数据集上测试了这种方法（包括医疗 X 光片、餐厅评论和带数字的数学问题）。

结果：COCOCO 成功保持了机器人预测的诚实性。它确保了机器人的“眼睛”和“大脑”始终一致（一致性），将可能性列表保持得足够小以具有实用性（简洁性），并且仍然保证真实答案包含在列表中（覆盖率）。
比较：其他方法试图只修复“大脑”或只修复“眼睛”，但它们失败了。它们要么给出了太长而无法阅读的列表，要么给出了对象与答案不匹配的列表。COCOCO 是唯一同时解决这两个问题的方法。

简而言之
COCOCO 是一个工具，它接手一个聪明但过度自信的 AI，用一张安全网将其包裹，并迫使其复查自己的工作。它确保如果 AI 说“答案是 X"，它也会承认“我看到了 Y 和 Z，它们使 X 成为可能”，并且它将可能性列表保持得足够短，以便人类可以信任并使用。

技术摘要：面向神经符号概念模型的简洁且逻辑一致的一致性集合

问题陈述

神经符号概念模型（NeSy-CBMs）将用于概念提取的神经网络与用于任务推理的符号推理相结合，旨在为高风险应用生成可靠的 AI 系统。然而，这些模型往往存在过度自信和校准不良的问题，使得利益相关者难以评估其预测的可靠性。此外，即使量化了不确定性，生成的概率对最终用户而言也可能难以直观理解。

现有的神经符号概念模型不确定性量化方法通常无法同时满足以下三个关键需求：

一致性：预测的概念和标签必须与用户指定的先验知识（ $K$ ）在逻辑上保持一致。
覆盖率：预测集合必须为概念和标签提供分布无关的、有限样本的边缘覆盖率保证。
简洁性：预测集合必须尽可能小，以保持可解释性和实际操作性。

当前的“单向”一致性预测（CP）策略（例如，仅对标签或仅对概念应用 CP）或非对称修正方法无法满足所有三个标准，往往导致生成的集合要么不一致，要么在一侧缺乏覆盖率保证，要么大得无法实用。

方法论：COCOCO

作者提出了COCOCO（COnformality, COnsistency, COnciseness，即一致性、逻辑一致性、简洁性），这是一个事后框架，旨在将任何训练好的神经符号概念模型转化为满足上述三个需求的一致性预测器。

核心机制

COCOCO 分两个阶段运行：

联合一致性化：它使用标准的一致性预测技术，独立构建标签的一致性预测集合（ $\Upsilon_\alpha(x)$ ）和概念的一致性预测集合（ $\Gamma_\beta(x)$ ）。对于概念，它利用概念提取器的条件独立性来构建乘积集合，或者利用e 值来避免邦费罗尼校正并控制集合大小。
演绎 - 溯因修正：该框架应用单一的联合修正步骤来协调这两个集合。该步骤包括：
- 演绎：过滤标签集合，仅保留由概念集合所蕴含的标签（ $\Upsilon_{rev} = \Upsilon_\alpha \cap g^\dagger(\Gamma_\beta)$ ）。
- 溯因：过滤概念集合，仅保留至少蕴含标签集合中一个标签的概念（ $\Gamma_{rev} = \Gamma_\beta \cap g^{-\dagger}(\Upsilon_\alpha)$ ）。

理论保证

单步不动点：作者证明，单次应用该联合修正算子足以达到不动点。无需迭代该过程，从而确保了计算效率。
最优性：生成的对 $(\Gamma_{rev}, \Upsilon_{rev})$ 是原始集合中保持相互逻辑一致性的最大可能子集。
不完美知识下的覆盖率：该框架保留了分布无关的覆盖率保证。在推理层不完美（例如，由于知识不完整或推理捷径）的情况下，覆盖率下界会根据推理层的可靠性（ $\delta_{ab}$ 和 $\delta_{de}$ ）呈线性下降。
用户指定的大小预算：通过整合一致性 e 预测（使用 e 值而非分位数），COCOCO 允许用户指定最大集合大小（预算），同时自适应地选择误覆盖率水平（ $\tilde{\alpha}, \tilde{\beta}$ ）以在期望上保持覆盖率保证。这种方法避免了随着概念数量增加而导致的保证退化。

主要贡献

需求的形式化：本文定义并将一致性、覆盖率和简洁性形式化为一致性神经符号方法的必要条件。
COCOCO 框架：一种新颖的事后框架，联合对概念和标签进行一致性化，并通过单一的演绎 - 溯因步骤对其进行协调。
理论证明：
- 证明 COCOCO 通过构造满足所有三个需求。
- 证明修正步骤在一次迭代中即可达到不动点。
- 推导了考虑不完美知识和联合失败概率的覆盖率界限。
大小控制：展示了 e 值如何在保持覆盖率保证的同时实现用户指定的大小预算。
广泛的实证评估：在 8 个数据集（包括医学影像、文本和图像分类）上使用两种最先进的神经符号架构（DeepProbLog 和逻辑张量网络）进行了评估。

实验结果

在 8 个数据集（CHX, CEB, RIV10, MN-Add 变体，CIF10）上的实验表明，COCOCO 优于自然基线和最强的竞争对手（RPB）：

一致性：COCOCO 在所有数据集上实现了1.00 的概念和标签一致性。相比之下，RPB 等竞争对手在概念侧往往表现出显著的不一致性（例如，在 MN-EO 数据集上降至 0.12）。
简洁性：与基线相比，COCOCO 显著减小了预测集合的大小。例如，在 CEB 数据集上，它将概念集合大小从 75.06（RPB）减少到 53.49；在 MN-EO 数据集上，将大小从 100.00（RPB）减少到 12.13，同时保持了完全的一致性。
覆盖率：虽然 COCOCO 为了确保持续性和简洁性而牺牲了一小部分覆盖率（在概念侧通常比 RPB 低 7–10 个百分点），但它在名义上的 0.9 目标下仍保持了高标签覆盖率（通常 $\ge 0.87$ ）和概念覆盖率（ $\ge 0.83$ ）。
鲁棒性：即使在知识不完整（RIV10）和存在推理捷径（MN-EO）的情况下，该方法也表现稳健，理论界限正确地预测了覆盖率的下降。
运行时间：COCOCO 的计算开销适中（约为基线运行时间的 1.2 倍至 1.6 倍），因为修正步骤仅需一次溯因和演绎图像计算过程。

意义与主张

本文声称，COCOCO 是第一种方法，能够同时利用符号知识来缩小一致性预测集合，强制标签 - 概念一致性，同时保留分布无关的覆盖率。

作者将 COCOCO 定位为迈向使神经符号概念模型适用于高风险领域（如医学诊断）的决策支持系统的关键一步。在这些领域，利益相关者需要的不仅仅是一个预测，而是一组具有严格统计保证的、合理的、逻辑一致的替代方案。该框架通过提供尊重领域约束的可解释集合，解决了神经符号模型中不确定性的“黑盒”性质，从而在不重新训练底层神经符号模型的情况下增强了信任和可靠性。