🤖 machine learning

Know Yourself Better: Diverse Object-Related Features Improve Open Set Recognition

本文分析了特征多样性在开集识别中的作用，揭示了其与性能之间的强相关性，并提出了一种利用多样化判别性特征的新方法，该方法显著优于现有的最先进方法。

原作者： Jiawen Xu, Margret Keuper

发布于 2026-06-05

📖 1 分钟阅读☕ 轻松阅读

原作者： Jiawen Xu, Margret Keuper

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是关于论文《了解你自己：多样化的物体相关特征提升开集识别能力》（Know Yourself Better: Diverse Object-Related Features Improve Open Set Recognition）的解释，使用了通俗易懂的语言和日常类比。

核心问题：过度自信的“瞎猜”

想象你是一名夜店保安。你有一份经过训练的 VIP 名单（即“已知”类别）：爱丽丝（Alice）、鲍勃（Bob）和查理（Charlie）。

一天晚上，一个长得有点像爱丽丝的陌生人走了进来。因为你的训练只涵盖了爱丽丝、鲍勃和查理，你的大脑试图强行进行匹配。你非常自信地宣布：“那是爱丽丝！”尽管那其实是一个陌生人。在 AI 世界中，这被称为开集识别（Open Set Recognition, OSR）。问题在于，标准的 AI 模型非常不擅长表达“我不知道这是谁”。它们只会猜一个最接近已知目标的选项，而且往往带着 100% 的信心，这在现实生活中是非常危险的。

核心思想：不要只盯着一个地方看

这篇论文的作者提出了一个简单的问题：为什么这些模型无法识别出陌生人？

他们发现这些模型太“懒”了。它们学习识别事物时，仅仅利用一个显眼的特征。

类比： 想象你在教一个孩子识别猫。如果你只给他们看橘色毛发的猫，这个孩子可能会学到“橘色 = 猫”。
失败案例： 如果一只豹子（陌生人）穿着一件橘色的外套走进来，孩子会大喊：“它是猫！”因为他们只看了颜色，而忽略了耳朵、尾巴和斑点。

论文指出，为了识别陌生人（离群值），模型需要同时学习许多不同的特征（颜色、形状、纹理、大小），而不仅仅是最简单的那个。这被称为特征多样性（Feature Diversity）。

实验： “形状 vs 颜色”测试

为了证明这一点，研究人员让计算机进行了一个简单的游戏：

场景 A： 他们向计算机展示蓝色的圆圈和红色的矩形。计算机很容易通过观察颜色（蓝色 vs 红色）来区分它们。
场景 B： 他们在组合中加入了一个红色的圆圈。现在，仅靠颜色已经不够了。为了区分红圆圈和红矩形，计算机必须同时也学习关于形状的知识。

结果： 在场景 B 中（学会了颜色和形状两种特征）的计算机，比场景 A 中（只知道颜色）的计算机更能有效地识别出“陌生人”（蓝色的矩形）。

教训： 当模型被强制要求学习更多样化的特征来完成任务时，它识别未知事物的能力也会变得更强。

秘密武器：“温度”旋钮

研究人员随后观察了一个用于训练 AI 的特定工具，叫做监督对比学习（Supervised Contrastive Learning, SupCon）。这个工具可以帮助 AI 将相似的事物归为一类，并将不同的事物推开。

在这个工具内部，有一个被称为**温度（Temperature）**的设置（你可以把它想象成一个音量旋钮或辣度等级）。

低温度： AI 会变得非常严苛。它会极度专注于那些最难区分的配对。它会说：“我必须找出这两个之间极其微小的差异！”
高温度： AI 会变得比较宽松。它会关注那些容易辨别的差异。

发现： 研究人员发现，不同的“温度”设置会让 AI 以完全不同的方式观察数据。

一个模型可能会专注于猫毛的纹理。
另一个模型（在不同温度下训练）可能会专注于它的耳朵形状。

它们就像是观察同一个犯罪现场的两名侦探。侦探 A 看脚印；侦探 B 看指纹。单独看其中一个都无法掌握全貌，但两者结合在一起，就能破案。

解决方案：“团队协作”法

由于仅用一种温度训练的模型只能看到局部画面，作者提出了一个简单的解决方案：集成法（Ensemble）。

他们不是只训练一个 AI 模型，而是训练三个模型，每个模型使用不同的“温度”设置。

模型 1（低温）观察精细的细节。
模型 2（中温）观察中等程度的细节。
模型 3（高温）观察宏观的大局。

当一张新图像进来时，我们会询问所有三个模型的意见，并将答案结合起来。因为它们是从不同的角度（利用不同的特征）观察物体的，所以它们能更好地识别出那些会被单个模型漏掉的“陌生人”。

实验结果

团队在标准图像数据集（如 CIFAR-100 和 TinyImageNet）上测试了该方法。

结果： 他们的“团队协作”方法始终优于其他顶尖方法。
原因： 这并不是因为他们使用了更高级的算法，而是因为他们通过使用不同的温度，迫使模型学习更广泛的特征，从而使最终的决策更加稳健。

总结

这篇论文告诉我们，要让 AI 在识别未知事物时更安全、更出色，我们不应该只训练它成为某种单一技巧的大师。我们应该训练它成为一个能够注意到许多不同细节的通才。通过结合不同设置下训练出的模型的“意见”，我们得到的是一个了解自身局限性的系统，它不太可能自信满满地给出一个错误的答案。

技术摘要：更好地了解自己：多样化的对象相关特征提升开集识别性能

问题陈述

传统的神经分类器在“闭集”假设下运行，即它们是在固定的类别集上进行训练的，因此难以识别来自先前未见类别的样本。在实际部署场景中，这会导致模型对“开集”样本（离群值）产生过度自信的预测，从而将其错误地分类为已知的“内集”类别。开集识别（OSR）旨在解决这一问题，使模型能够在推理阶段检测出新类别。虽然目前已存在多种方法，但驱动成功 OSR 的底层表示学习机制仍未得到充分理解。具体而言，特征多样性（feature diversity）——即表示空间在多大程度上捕捉了多个具有语义意义的对象属性，而非仅仅依赖于有限的判别性线索——受到了广泛关注但研究较少。

研究方法

1. 特征多样性的调查

作者首先通过受控实验建立了特征多样性与 OSR 性能之间的联系：

合成实验： 使用一个包含圆形和矩形的数据集，他们在要求仅进行颜色判别（E1）或结合颜色与形状判别（E2）的场景下训练模型。在更复杂的 E2 场景（需要形状特征）下训练的模型，在面对与内集共享颜色线索但形状不同的离群值（蓝色矩形）时，表现出了更优越的 OSR 性能。
CIFAR-100 实验： 通过在增加的类别数量（从粗粒度的宏观类到细粒度类）上训练分类器，作者观察到需要区分更多细粒度类的模型学习到了更具多样性的特征。与训练类别较少的模型相比，这些模型始终实现了更高的 OSR 性能（以 AUROC 衡量）以及更好的对离群类别的泛化能力。

2. 有监督对比学习（SupCon）分析

本文研究了有监督对比学习（SupCon）中的温度参数 ( $\tau$ )。

梯度分析： 作者分析了 SupCon 损失函数相对于正负样本对相似度的梯度。他们证明了温度参数显著影响优化动力学：
- 低温度会对正样本对施加更强的吸引力，并为“硬”负样本对（具有高相似度但标签不同的样本）分配更大的梯度。这迫使模型学习更具不变性和判别性的特征。
- 高温度则为较容易和中等难度的负样本分配相对较大的梯度。
互补表示： 实证分析表明，使用不同温度训练的模型所学习到的表示具有较低的预测一致性（对齐程度较低），并且捕捉到了数据的互补方面。聚合来自不同温度训练模型的表示，比使用单个模型能获得更高的分布内数据分类准确率。

3. 提出的方法：基于温度的集成

受“不同温度会诱导互补特征学习”这一发现的启发，作者提出了一个简单的集成框架：

训练： 独立训练多个使用不同温度值（从对数分布中采样： $\{1, 0.5, 0.1, 0.05, 0.01, 0.005\}$ ）的 SupCon 模型。
推理： 在 OSR 推理期间，模型生成分数（例如特征范数或距离）。这些分数被聚合（研究发现，在拼接、求和与分数求和之间，分数求和 (Score Summation) 是最有效的策略）以产生最终的离群值检测分数。
架构： 该方法使用标准的 ResNet-18 骨干网络，不使用预训练或基础模型，完全依赖于由温度超参数诱导的多样性。

关键结果

在六个标准的 OSR 基准测试（MNIST, SVHN, CIFAR-10, CIFAR+10, CIFAR+50, 和 TinyImageNet）上进行了广泛实验。

性能： 所提方法一致优于强基线模型，包括 OpenMax, C2AE, APRL, 和 GeoEnsemble。
最先进水平（SOTA）： 该方法在大多数协议中达到了最佳或相当的结果。值得注意的是，它在复杂的 TinyImageNet 数据集上达到了 81.0% 的 AUROC，超过了之前的 SupCon-ST (80.9%) 和 MEDAF (80.0%)。
消融研究：
- 聚合来自三种不同温度的表示可以获得最佳性能（例如，在 CIFAR-10 上达到 93.12%），优于单表示或双表示。
- 温度组合的选择显著影响性能，证实了不同温度捕捉了不同的特征子集。
- 分数求和 (SocSum) 被证明比表示拼接或表示求和更为稳健。

意义与主张

论文声称其主要贡献是从特定的离群值检测策略转向了表示学习过程本身。

特征多样性假设： 本研究提供了经验证据，证明编码更广泛的对象相关特征（多样性）与提升 OSR 性能呈正相关。
温度作为控制旋钮： 作者证明了 SupCon 中的温度参数不仅是一个用于收敛的超参数，更是一种控制对硬样本对与易样本对强调程度的机制，从而塑造了学习到的表示的多样性。
简单且有效： 所提出的方案是现有 SupCon 模型通过不同温度进行简单集成的结果。它对标准框架的修改极小，却能实现竞争性甚至更优越的性能，这表明利用表示多样性是一种非常有效且尚未被充分利用的 OSR 策略。
更广泛的影响： 虽然研究重点是 OSR，但作者指出，通过表示学习诱导特征多样性的原则可能使迁移学习、模型鲁棒性和领域自适应等其他任务受益。

论文总结道，尽管基础模型提供了广泛的能力，但通过塑造表示学习来捕捉多样化、互补特征的具体原则，仍然是一个对于可靠的不确定性量化和离群值检测至关重要且具有互补性的研究方向。