🤖 machine learning

GEM-FI: Gated Evidential Mixtures with Fisher Modulation

GEM-FI 引入了一类单次通过证据深度学习模型，该模型利用门控能量信号和费舍尔信息正则化，有效抑制过度自信、捕捉多模态认知不确定性，并相较于现有方法显著提升了校准与分布外检测性能。

原作者： Marco Mustafa Mohammed, Fatemeh Daneshfar, Pietro Liò

发布于 2026-05-06

📖 1 分钟阅读☕ 轻松阅读

原作者： Marco Mustafa Mohammed, Fatemeh Daneshfar, Pietro Liò

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在聘请一个专家团队来识别照片中的物体。有时，照片清晰明了（比如一张猫的照片）；而有时，照片模糊不清、光线怪异，或者展示了专家们从未见过的东西（比如一张看起来像猫的烤面包机照片）。

许多当前的人工智能“专家”存在的问题是它们过于自信。即使面对怪异、未知的物体，它们也可能说：“我有 99% 的把握这是一只猫！”这是危险的，因为人工智能并不知道自己所不知道的东西。

本文介绍了一种名为GEM-FI（基于 Fisher 调制的门控证据混合模型）的新系统，旨在解决这一问题。你可以将其理解为通过三种特定工具对专家团队进行升级，使其更加谦逊、准确，并意识到自身的局限性。

以下是其工作原理，使用简单的类比说明：

1. “信心门控”（GEM-CORE）

问题所在：想象一位专家，即使证据薄弱，也会兴奋起来并大声喊出答案。
解决方案：GEM-FI 为团队增加了一位智能守门人。

在专家给出最终答案之前，这位守门人会检查输入的“能量”。
如果输入看起来怪异或不熟悉（支持度低），守门人会调低专家答案的音量。它不会阻止答案，但会让 AI 表示：“我没有那么确定。”
如果输入看起来熟悉且清晰（支持度高），守门人则允许专家大声且自信地发言。
结果：当 AI 不确定时，它会变得安静且谨慎，而不是自信地犯错。

2. “专家小组”（GEM-MIX）

问题所在：有时，单个专家可能会固守一种想法。例如，如果一张图片一半像猫、一半像狗，单个专家可能只会猜测“猫”，而忽略“狗”的可能性。
解决方案：GEM-FI 不使用单个专家，而是使用一个由三位专家组成的小组，他们都观察同一张图片。

他们不仅仅是投票；他们有一位路由器（管理者），负责决定听取每位专家意见的程度。
如果图片令人困惑，管理者会平等地听取所有三位专家的意见，意识到存在多种可能性。
如果图片清晰，管理者会主要听取那位最自信的专家的意见。
结果：系统能够处理“模糊”情况，即一个物体可能是两种不同事物的情况，无需多次运行整个流程（这会很慢）即可捕捉复杂性。

3. “稳定性教练”（GEM-FI）

问题所在：在专家小组中，有时一位专家会变成“霸凌者”，主导对话，使其他两位变得无用。这被称为“头部坍塌”。
解决方案：GEM-FI 增加了一位教练，在训练期间监督专家们。

教练使用一种称为Fisher 信息的工具（将其视为“敏感度计”），来观察哪位专家变得过于紧张或不稳定。
如果某位专家过于敏感或试图主导，教练会温和地引导团队进行平衡。
结果：团队保持平衡。没有哪位专家会占据主导地位，小组能产生更平滑、更可靠的答案，特别是在类别重叠的棘手边缘区域。

他们证明了什么？

作者在标准图像数据集（如识别数字或常见物体如汽车和动物）上测试了该系统。他们将新系统与旧的、"过于自信”的系统进行了比较。

更好的校准：当 GEM-FI 表示它有 90% 的把握时，它实际上有 90% 的时间是正确的。旧系统即使声称确定，也常常出错。
更擅长发现未知：当展示完全新的事物（分布外数据）的图片时，GEM-FI 能以比先前方法高得多的准确率正确表示：“我不认识这个。”
速度：尽管拥有守门人、小组和教练，该系统仍能在单次通过中完成工作。它不需要将图片多次输入计算机以获得好答案，从而保持足够快的速度以适用于现实世界。

核心结论

GEM-FI 就像是将一个自信但有时鲁莽的 AI，配备了一位守门人来检查其信心，一个小组来考虑多种可能性，以及一位教练来保持团队平衡。其结果是，AI 知道何时该自信，更重要的是，知道何时该说“我不确定”，从而使其更安全、更可靠。

技术摘要：GEM-FI：基于费雪调制的门控证据混合模型

问题陈述

可靠的预测不确定性估计对于模型在训练分布之外运行的安全关键应用至关重要。虽然贝叶斯神经网络（BNN）和深度集成方法提供了原则性的不确定性量化方案，但由于需要多次前向传播，它们往往会产生高昂的训练或推理成本。证据深度学习（EDL）通过预测狄利克雷参数来表示“证据”，提供了一种单次前向传播的替代方案。然而，标准的 EDL 模型在分布偏移下经常保持过度自信，无法在复杂决策边界附近表示多模态认知不确定性，且缺乏鲁棒的校准能力。

现有的密度感知变体，如密度感知证据深度学习（DAEDL），试图利用离线特征空间似然（例如高斯判别分析）重新缩放证据输出。虽然这改善了校准，但它造成了一种解耦：密度线索是静态的，并未与证据机制联合优化。这导致当特征表示发生漂移时模型变得脆弱，且无法解决认知多模态问题，通常导致模型在复杂边界附近坍缩为过度自信的分配。此外，通常能产生更好分布外（OOD）可分性的基于能量的方法，通常是事后应用的，并未在证据置信度生成过程中进行干预。

方法论

作者引入了GEM（门控证据混合），这是一类将数据依赖的表示“支持”概念直接集成到证据机制中的单次前向传播模型。该框架包含三个渐进式组件：

1. GEM-CORE：能量至门控证据学习

GEM-CORE 用可学习的、模型内的能量信号取代了静态密度代理。

特征级能量：一个轻量级多层感知机（MLP）， $E_\psi$ ，从骨干特征 $z$ 中学习标量能量 $E(x)$ 。较高的能量对应于较低的特征级支持（与特征密度负相关）。
有界积分门：能量通过 Sigmoid 函数映射为中间标量 $\hat{s}(x)$ 。该标量与特征 $z$ 拼接，并输入到“积分门”网络 $G_\eta$ 中。该网络输出每类门控值 $s(x) \in [s_{min}, s_{max}]^C$ 。
概率空间门控：门控值 $s(x)$ 在概率空间中以乘法方式应用于预测均值 $p(x)$ ，随后进行重新归一化。关键在于，网络学习了一种逆映射：较高的能量（较低的支持）导致较小的门控值，从而抑制 OOD 或异常输入的证据。
密度缩放：一个源自预拟合高斯混合模型（GMM）的补充轻量级密度缩放器 $\rho(z)$ ，充当“硬”安全护栏，以在极低密度区域抑制证据，而学习到的门控则处理细粒度的调制。

2. GEM-MIX：信念混合（单次前向传播）

为了在不进行多次前向传播集成的情况下捕捉多模态认知结构，GEM-MIX 通过 $K$ 个共享骨干网络的证据头扩展了 GEM-CORE。

可学习路由：路由网络 $h_\omega$ 接收特征和能量信号，生成混合权重 $\pi(x) = \text{softmax}(h_\omega([z, \hat{s}(x)]))$ 。
混合预测均值：最终预测是 $K$ 个头预测均值的加权平均。这使得模型能够在复杂决策边界附近表示多个模式的不确定性。

3. GEM-FI：费雪信息引导的正则化

GEM-FI 稳定混合分配以防止“头坍缩”（即路由将所有权重分配给单个头），并确保边界不确定性更加平滑。

费雪代理：计算每个头的对数似然关于 logits 的梯度的 $L_2$ 范数平方，作为费雪敏感性的轻量级代理 $\tilde{FI}_k(x)$ 。
费雪正则化：损失项 $L_{FI}$ 惩罚那些频繁被选中的头具有高敏感性（不稳定）的分配情况。
基于费雪的调制：在训练期间，混合权重被重新加权，以提升费雪敏感性较低（预测更稳定）的头的权重。这种调制仅在训练期间应用；推理时使用原始路由输出。
辅助损失：该框架包含一个基于能量的项（通过虚拟异常合成 VOS 鼓励合成负样本具有高能量）和一个不确定性分解项（对比损失，旨在最小化分布内（ID）的熵并最大化分布外（OOD）的熵）。

主要贡献

可学习的模型内门控：作者提出学习特征级能量并将其映射为有界门控，直接调制狄利克雷证据。这减少了对异常特征的过度自信，同时保留了自信的 ID 预测，取代了静态且解耦的密度代理。
单次前向传播的多模态认知：他们引入了一种轻量级的证据头混合模型，带有可学习的路由权重，在不产生集成或多重前向传播计算成本的情况下捕捉多模态认知结构。
费雪信息引导的稳定性：添加了一种新颖的费雪信息引导的正则化器和调制方案，以稳定混合分配，防止头坍缩并产生更平滑的边界不确定性。
实证验证：该论文展示了在标准图像分类和 OOD 检测基准测试中校准和 ID/OOD 分离能力的提升，并提供了消融研究以隔离能量门、混合大小和费雪正则化的作用。

实验结果

作者在 MNIST、CIFAR-10 以及各种 OOD 配对（SVHN、CIFAR-100、KMNIST、FMNIST）上评估了 GEM。

校准与准确率：在 CIFAR-10 上，GEM-FI 将测试准确率从 91.11%（DAEDL）提升至 93.75%。它显著降低了 Brier 分数（从 14.27 降至 6.81），并提高了误分类检测的 AUPR（从 99.08 提升至 99.94）。
OOD 检测：GEM-FI 在多种设置中实现了最先进的性能。
- CIFAR-10 $\to$ SVHN：认知 AUPR 从 85.54%（DAEDL）提升至 92.59%。
- CIFAR-10 $\to$ CIFAR-100：认知 AUPR 从 88.19%（DAEDL）提升至 90.20%。
- 该模型在偶然不确定性和认知不确定性评分方面，始终优于 EDL、DAEDL 以及其他近期基线（如 Re-EDL、I-EDL）。
消融研究：作者证实，谱归一化（SN）、能量门控模块（CORE）、混合（MIX）以及费雪正则化/调制（FI-Reg, FI-Mod）的组合对于实现最佳性能是必要的。具体而言，基于费雪的组件在与基于能量的机制和不确定性分解配对时最有效，而非作为独立模块运行。

意义与主张

该论文声称，GEM-FI 成功地将可学习的支持信号直接集成到证据机制中，解决了静态密度感知方法的局限性以及集成的计算成本。通过学习基于距离的置信度信号，并通过费雪信息稳定多头混合，该模型实现了：

改进的校准：模型仅在支持良好的区域保持自信，并在其他地方适当推迟判断。
鲁棒的 OOD 分离：该方法有效区分 ID 和 OOD 输入，特别是在存在语义重叠的具有挑战性的近 OOD 场景中。
效率：该方法保持单次前向传播推理，使其适用于延迟受限的环境，同时提供类似集成的多样性。

作者承认局限性，指出学习到的能量与支持代理之间的对齐是经验性的而非保证的，并且该方法需要仔细调整与混合相关的超参数。他们强调，其主张仅限于标准基准测试（MNIST/CIFAR），在没有进一步验证的情况下，不能扩展到 ImageNet 规模的评估。这项工作表明，改进的校准和可靠的 OOD 检测可以通过使系统在输入缺乏支持时放弃预测，从而对安全关键部署产生积极影响。