🤖 machine learning

Discovering Latent Groups for Robust Classification

本文提出了神经分类树（Neural Classification Trees, NCT），这是一个可解释的框架，它通过根据预测正确性将样本动态路由至“简单”或“困难”节点，以迭代地解构潜在的子群结构，从而在无需子群监督的情况下实现鲁棒分类。

原作者： Ankur Garg, Ulrich Aïvodji, Samira Ebrahimi Kahou, Vincent Michalski

发布于 2026-06-23

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Ankur Garg, Ulrich Aïvodji, Samira Ebrahimi Kahou, Vincent Michalski

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是关于论文《发现潜在群体以实现鲁棒分类》（Discovering Latent Groups for Robust Classification）的解释，采用了通俗易懂的语言和创意类比。

核心问题：那个走“捷径”的学习者

想象你正在教一个孩子识别动物。你给他们看水鸟（在水里的鸟）和陆鸟（在陆地上的鸟）的照片。

标准的 AI 模型就像一个非常聪明但偷懒的孩子。它很快就发现：如果背景是蓝色的（水），那它就是水鸟；如果背景是棕色的（土地），那它就是陆鸟。它不再观察鸟本身，而是只盯着水面或泥土看。这被称为**“伪相关”（spurious correlation）或“捷径”**（shortcut）。

这种情况在 95% 的时间里表现得很好。但当你给这个孩子看一张站在干涸土地上的水鸟照片时，会发生什么？孩子会因为看到了泥土而惊慌失措，并猜它是“陆鸟”，尽管它显然是一只水鸟。模型会在这些罕见的、棘手的例子（即“少数群体”）上失败。

旧的解决方案：调整“配方”

科学家们尝试通过改变 AI 内部的“配方”（数学公式）来修复这个问题。

“Group DRO”方法： 他们告诉 AI，“嘿，多注意一下那些棘手的陆地/水面鸟类照片！”但为了做到这一点，他们需要人工预先标注每一个棘手的照片。这既昂贵又缓慢。
“伪标签”（Pseudo-Label）方法： 他们让 AI 自己猜哪些照片是棘手的，然后进行重新训练。但到最后，AI 仍然是一个“黑盒”。它给了你一个答案，但你完全不知道它为什么认为那只鸟是在陆地上还是在水里。它无法向你展示它发现的那些群体。

新的解决方案：NCT（神经分类树）

作者提出了一种名为 NCT（Neural Classification Trees，神经分类树） 的新框架。他们不只是在调整数学公式，而是改变了 AI 本身的结构。

把 NCT 想象成在计算机内部构建一棵决策树或一个流程图。

它是如何工作的：“简单 vs 困难”的游戏

AI 在若干轮次中与自己玩一场游戏：

第一轮： AI 查看所有的照片。它做对了简单的题目（例如：水里的鸟），但做错了棘手的题目（例如：陆地上的鸟）。
拆分： AI 为下一轮创建了两个新的“房间”（分支）：
- 简单房间： 存放它做对的照片。
- 困难房间： 存放它做错的照片。
第二轮： AI 将“简单”的照片送入简单房间，将“困难”的照片送入困难房间。然后，它在每个房间里训练一位专门的专家。
- 简单房间的专家不需要太努力；它只需要确认它已经掌握的知识即可。
- 困难房间的专家则被迫观察得更仔细。因为它只看到那些棘手的照片，所以它必须学会观察鸟的羽毛，而不是背景，才能得到正确答案。
重复： 这个过程不断发生。“困难”的照片会被再次拆分为“更难”和“困难中的容易”部分。

魔法技巧：树本身就是答案

在其他方法中，AI 在给出最终答案后会忘记这张照片属于哪个组。
但在 NCT 中，照片在树中经过的路径本身就是答案。

如果一张照片最终落入了一个“困难”叶子节点，AI 实际上是在说：“我知道这是一只水鸟，但我知道它是一个棘手的案例，因为它是在陆地上。”
树的结构本身揭示了隐藏的群体。你不需要要求 AI 解释自己；它的架构本身就是它的解释。

为什么这很重要

该论文声称了三点主要贡献：

它能自动发现隐藏的群体。 你不需要告诉 AI“这些是棘手的鸟类”。AI 通过注意到哪些照片它一直做错，从而自动识别出它们。
它具有透明度。 你可以观察这棵树并说：“啊，这个分支处理的是背景具有误导性的棘手情况。”你可以清楚地看到数据是如何拆分的。
它的表现与专家一样出色。 即使没有人类标签来告诉它存在哪些群体，NCT 的表现也达到了与那些使用了标签的最先进方法相当的水平。

实战类比：侦探小组

想象一家正在试图破案的侦探机构。

标准 AI： 一名侦探，通过观察嫌疑人的衣服来快速解决 99% 的案件。但如果衣服是伪装，他们就会被骗。
NCT： 这家机构建立了一个等级制度。
- 第一级： 一名新手侦探负责处理显而易见的案件。
- 第二级： 新手搞错的案件会被送到“专家小组”。
- 第三级： 专家小组搞错的案件会被送到“大师侦探”手中。

NCT 的精妙之处在于，专家小组自然而然地会处理那些“伪装”的罪犯（少数群体），因为他们是唯一新手抓不住的人。通过观察大师侦探正在处理哪些案件，你立刻就能知道哪些案件是最难且最具欺骗性的，而无需一名经理来进行标注。

实验结果

研究人员在五个不同的数据集（鸟类、人脸、皮肤病变和数字）上测试了该模型。

“困难”分支始终捕捉到了少数群体（例如，82% 的棘手“陆地上的鸟”都进入了困难分支）。
“简单”分支处理了多数群体。
AI 变得更强了，在解决这些棘手案例方面，它几乎超越了所有未使用人类标签的其他方法。

局限性（不足之处）

论文承认了两点可能出现的问题：

如果“困难”的东西其实很简单： 如果少数群体（棘手的鸟类）对于 AI 来说其实很容易学习，那么这个系统就无法将它们分离出来。它依赖于 AI 首先失败来吸取教训。
停止过早： 系统有一个规则来决定何时停止拆分树。如果数学逻辑产生了混乱，它可能会在还没找全所有棘手群体之前就停止拆分。

总结

NCT 是一种让 AI 通过自身的错误进行学习的方法。它会自动将数据分类为“简单”和“困难”堆，为“困难”堆构建专门的专家，并留下清晰的痕迹，展示每一件数据属于哪个组。它让 AI 的“秘密逻辑”变得可见且透明。

技术摘要：通过神经分类树（NCT）发现潜在群体以实现鲁棒分类

1. 问题陈述

深度神经网络经常利用伪相关性（即与标签在训练集中相关但在因果上无效的特征）来实现高平均准确率。这种行为导致当这些相关性在测试时发生偏移时（例如，根据背景而非鸟类特征来对鸟类进行分类），模型在代表性不足的子群上的性能会出现不成比例的下降。

现有的方法，如组分布鲁棒优化（Group DRO）或伪组推理技术（如 JTT、GEORGE），虽然提高了最差组准确率，但存在一个关键局限性：缺乏可解释性。这些方法通过调整网络参数来减轻偏差，但在推理阶段，它们仅产生类别预测。它们既不能揭示特定样本属于哪个潜在子群，也不能在结构上隔离冲突的特征。此外，许多鲁棒方法依赖于昂贵的细粒度群体标注或验证组标签，而这在现实场景中往往是无法获取的。

2. 方法论：神经分类树 (NCT)

作者提出了 神经分类树 (NCT)，这是一个将子群结构直接编码进模型树状架构中的框架。NCT 不再是瞬时地使用难度信号进行重加权，而是将数据的划分过程作为推理时的架构本身予以保留。

核心机制

该方法基于以下观察：训练难度是语义群体身份的可靠代理。与伪相关性对齐的样本是“容易”学习的，而反例（少数派群体）则是“困难”的。

迭代路由：
- 过程始于一个标准的分类头。
- 在每次迭代 $t$ ，样本根据其相对于分配节点的预测正确性被路由到子节点。
- 易路径分支 (Easy Branch)： 被正确分类的样本进入偶数索引的子节点 ( $2j$ )。
- 难路径分支 (Hard Branch)： 被错误分类的样本进入奇数索引的子节点 ( $2j+1$ )。
- 这种路由是确定性的，并由训练动态驱动。路由决策的二进制字符串 ( $d^{(1)}_i d^{(2)}_i \dots$ ) 编码了样本的训练难度历史。
层级特征架构：
- NCT 使用共享骨干网络 $f_\theta$ 和一系列层级化的分类头。
- 特征流： 与丢弃前层信息的标准树不同，NCT 保留了之前迭代中的所有分类头。第 $t$ 次迭代的子头接收来自其父节点在 $t-1$ 时刻的表示，从而确保专门的分类头在受父节点语义调节的特征上进行操作。
- 非对称容量： 为了处理“困难”划分的复杂性，困难子节点使用线性–ReLU–dropout 模块，而易路径子节点则使用更简单的线性层。
优化与稳定性：
- 辅助损失： 为了防止在训练子节点时发生父节点表示的灾难性遗忘，在训练子节点期间会对父节点实施辅助损失。
- 两阶段训练： 每次迭代都包括冻结骨干网络以适配新头，随后微调整个网络以解决先前无法分离的困难节点。
深度控制（无监督）：
- 由于没有群体标签，NCT 使用 伪最差组准确率 (pWGA) 标准来决定何时停止增加树的深度。
- 它根据迭代-2 的祖先节点对验证样本进行分组，并追踪这些组中的最小准确率。
- Wilson-tolerance 提前停止界限确保当 pWGA 不再显著提升时，树会停止生长，从而防止对噪声的过拟合。
- 稀疏节点合并： 样本量极少的困难子节点会被合并到其对应的易路径兄弟节点中，以保持统计可靠性。

3. 主要贡献

本文概述了四项主要贡献：

架构即划分： 不同于以往使用正确性信号进行瞬时重权的方法，NCT 将基于难度的划分保留为推理时的架构。每个叶节点都编码了预测类别和难度路径，提供了架构与潜在数据结构之间的透明映射。
无监督深度选择： 引入了带有 Wilson-tolerance 界限的 pWGA 标准，使模型能够自主确定最佳树深，而无需群体标注。
理论动机：
- 少数派恢复： 作者证明（定理 4.2），在“简单性偏差”假设下（神经网络先学习简单特征），第一次迭代中的误分类样本富集了少数派子群样本。
- 结构化分离： 他们证明（定理 4.4），当存在特征冲突时（易组和难组的最优假设不同），通过独立的分类器进行结构化分离，与单一统一分类器相比，会产生正向的极小极大风险差距（minimax-risk gap）。
实证证据： 在五个基准测试上的实验表明，NCT 在实现具有竞争力的最差组准确率方面，表现优于或等同于最先进的基准方法。

4. 实验结果

作者在五个基准测试上评估了 NCT：Waterbirds（背景偏差）、CelebA（人口统计偏差）、ISIC（采集伪影）、UMNIST（数字身份偏差）和 CMNIST（颜色偏差）。

鲁棒性： NCT 实现了具有竞争力的或优于强基准方法的最差组准确率 (WGA)。值得注意的是，在 ISIC 数据集上，尽管未使用任何训练组标签，NCT 在所有监督层级（包括 Group DRO）中均处于领先地位。在 Waterbirds 和 CelebA 上，它达到了或略微超过了经过验证监督的方法，如 JTT 和 DFR。
潜在群体发现： 对“迭代-2 捕获率”的定量分析显示，NCT 成功地将少数派子群路由到了困难分支。例如：
- Waterbirds： 82% 的少数派“水面上的陆鸟”子群被路由到困难分支。
- CelebA： 73% 的“金发男性”子群被路由到困难分支。
- ISIC： 47% 的“良性-无斑块”子群被隔离在困难分支中。
可解释性： 使用 LayerGradCAM 的定性分析证实，“易路径”叶节点依赖于伪相关线索（如背景水域、颜色斑块），而“难路径”叶节点则转向语义特征（如鸟体、病变边界）。

5. 重要性与主张

本文将 NCT 定位为迈向透明鲁棒性的重要一步。其核心主张是：数据集的潜在群体结构可以作为模型的架构本身被恢复，这种结构是在无监督的情况下发现的，并在推理时变得可见。

可解释性： 与“黑盒”鲁棒优化器不同，NCT 为其预测提供了结构化解释。通往叶节点的路径明确指示了样本是“容易”的（可能与伪相关对齐）还是“困难”的（可能是少数派或反例）。
对局限性的审慎说明： 作者承认路由依赖于“简单性偏差”假设；如果少数派特征本身也易于学习，则路由可能会失败，无法隔离它们。此外，深度选择规则依赖于 pWGA 作为真实 WGA 的代理，而在严重的类别不平衡情况下，该代理可能并不完美。
未来方向： 本文建议将 NCT 扩展到语言领域，并探索超越简单正确性（例如基于梯度或归因标准）的更丰富的路由信号。

总之，NCT 提供了一个框架，通过将数据在架构层面分解为子群，不仅实现了通过调整权重来获得鲁棒性，还使模型处理潜在偏差的方式变得显式且可解释。