🤖 machine learning

CI-CBM: Class-Incremental Concept Bottleneck Model for Interpretable Continual Learning

本文提出了 CI-CBM（类增量概念瓶颈模型），通过引入概念正则化和伪概念生成技术，在类增量学习场景中有效缓解了灾难性遗忘问题，在保持模型可解释性的同时显著提升了准确率，使其性能媲美黑盒模型并优于现有可解释方法。

原作者： Amirhosein Javadi, Tuomas Oikarinen, Tara Javidi, Tsui-Wei Weng

发布于 2026-04-17

📖 1 分钟阅读☕ 轻松阅读

原作者： Amirhosein Javadi, Tuomas Oikarinen, Tara Javidi, Tsui-Wei Weng

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

这篇论文介绍了一种名为 CI-CBM 的新人工智能模型。为了让你轻松理解，我们可以把训练 AI 的过程想象成教一个学生不断学习新知识，同时不忘掉旧知识的故事。

1. 核心问题：AI 的“健忘症”与“黑盒子”

想象你正在教一个学生（AI 模型）认动物：

第一阶段：你教他认“猫”和“狗”。他学得很棒。
第二阶段：你开始教他认“老虎”和“狮子”。
灾难发生了：当他学会新动物后，他好像突然把“猫”和“狗”给忘了，或者把“猫”认成了“老虎”。这在 AI 领域叫灾难性遗忘（Catastrophic Forgetting）。

更糟糕的是，传统的 AI 就像一个黑盒子。它虽然能认出“猫”，但你问它：“你为什么觉得这是猫？”它回答不上来，因为它内部是一堆复杂的数学运算，人类看不懂。

现有的解决方案通常有两种缺点：

死记硬背：把以前学过的所有书（数据）都背下来，但这太占地方，而且涉及隐私问题（不能把以前的数据都存着）。
牺牲理解力：为了不让它忘，强行让它变“笨”一点，或者让它变得不可解释。

2. 我们的新方案：CI-CBM（带“概念清单”的聪明学生）

这篇论文提出的 CI-CBM 就像是一个自带“概念清单”的超级学生。

核心比喻：概念瓶颈（Concept Bottleneck）

传统的 AI 是直接看图猜答案（黑盒子）。
CI-CBM 则强迫自己先描述图片，再猜答案。

传统 AI：看图 -> 直接输出“这是树燕”。
CI-CBM：看图 -> 先列出特征（“蓝色的头”、“分叉的尾巴”、“不是红色的身体”） -> 根据这些特征 -> 输出“这是树燕”。

这些特征（如“蓝色的头”）就是概念。因为是人类能听懂的语言，所以这个模型是可解释的（Interpretable）。

3. 它是如何解决“遗忘”问题的？（三大法宝）

当新阶段（比如开始学“麻雀”）到来时，CI-CBM 用了三个聪明的招数：

法宝一：概念正则化（Concept Regularization）——“老朋友的约定”

比喻：想象学生以前学会了“蓝色的头”代表树燕。现在来了新任务，他可能会为了适应新任务，把“蓝色的头”的含义偷偷改成“像麻雀”。
CI-CBM 的做法：它给旧概念加了一个“紧箍咒”（正则化）。它告诉学生：“你可以学新东西，但‘蓝色的头’在以前代表树燕这个含义，绝对不能变！”这保证了旧知识的核心逻辑不被破坏。

法宝二：伪概念生成（Pseudo-Concept Generation）——“无中生有的回忆”

难点：在“无样本持续学习”（Exemplar-Free）模式下，学生手里没有以前学过的“猫”和“狗”的图片，只有新来的“老虎”图片。怎么复习旧知识呢？
CI-CBM 的做法：它玩了一个“移花接木”的游戏。
1. 它找到新学的“老虎”图片。
2. 它知道“猫”和“老虎”在特征空间里离得很近（都是猫科动物）。
3. 它把“老虎”的特征稍微平移一下，模拟出“猫”的特征（这就叫伪特征）。
4. 然后，它把这些模拟出来的“假猫”特征，转化成“假概念”（伪概念）。
结果：虽然手里没有真猫，但它通过“假猫”来复习，告诉分类器：“看，即使没有真猫，这些特征依然能代表猫。”这样就不会把旧知识彻底忘掉。

法宝三：稀疏预测层（Sparse Prediction Layer）——“做减法”

比喻：如果学生每学一个新词，就把以前所有的笔记都重新写一遍，脑子会乱。
CI-CBM 的做法：它只保留最关键的几个概念来做决定。比如判断“树燕”，它可能只需要“蓝头”和“分叉尾”这两个概念，而忽略其他几百个无关的概念。这种“做减法”让模型更专注，也更不容易混淆。

4. 实验结果：既聪明又透明

论文在 7 个不同的数据集上做了测试（从简单的图片到复杂的鸟类识别）：

成绩优异：它的准确率比之前那些“可解释”的模型高出了 36%，甚至接近那些不可解释的“黑盒子”模型。
真正可解释：它不仅能告诉你“这是树燕”，还能告诉你“因为它是蓝色的，尾巴分叉，而且不是红色的”。
通用性强：不管你是用现成的强大模型（预训练）从头开始，还是从零开始训练，它都能工作得很好。

总结

CI-CBM 就像是一个既聪明又诚实的学生：

不遗忘：通过“移花接木”（伪概念）和“紧箍咒”（正则化），在没有旧书的情况下也能复习旧知识。
可解释：它不靠直觉猜谜，而是靠列出具体的特征（概念清单）来推理，让人类能看懂它的思考过程。
高效：它学会了做减法，只关注最重要的特征。

这项研究证明了，我们不需要在“高准确率”和“可解释性”之间做选择。我们可以拥有一个既像黑盒子一样强大，又像白盒子一样透明的 AI 模型。

1. 研究背景与问题 (Problem)

核心挑战：灾难性遗忘 (Catastrophic Forgetting)
在持续学习（Continual Learning, CL）中，模型在学习新任务时往往会遗忘旧知识。这一问题在类增量学习 (Class Incremental Learning, CIL) 设置下尤为严重，因为模型需要在没有旧类数据的情况下，仅通过新数据更新模型，同时保持对所有已见类的分类能力。

现有方法的局限性：

可解释性与准确性的权衡： 现有的 CIL 方法（如基于重放、正则化或提示学习的方法）通常将模型视为“黑盒”，牺牲了可解释性以换取性能。而现有的可解释模型（如概念瓶颈模型 CBM）在 CIL 设置下表现不佳，准确率远低于黑盒模型。
对预训练的依赖： 许多先进的 CIL 方法严重依赖在大规模数据集（如 ImageNet）上预训练的骨干网络。当骨干网络仅在第一阶段数据上训练（非预训练场景）时，性能会显著下降。
缺乏样本的困难 (Exemplar-Free)： 为了隐私和存储限制，许多场景要求无样本类增量学习 (EFCIL)，即不能存储旧类数据。现有的可解释 EFCIL 方法（如 ICICLE, IN2, CONCIL, CLG-CBM）要么受限于特定架构，要么依赖强预训练骨干，要么在概念扩展效率上存在缺陷。

目标： 开发一种内在可解释的 CIL 模型，能够在无样本 (Exemplar-Free) 设置下，在预训练和非预训练两种场景下均实现高性能，同时保持决策过程对人类透明。

2. 方法论 (Methodology)

作者提出了 CI-CBM (Class-Incremental Concept Bottleneck Model)，该模型扩展了无标签概念瓶颈模型 (LF-CBM)，通过三个核心模块解决 CIL 中的概念漂移和分类器偏差问题。

2.1 核心架构

CI-CBM 包含三个主要阶段：

骨干网络 (Backbone)： 提取图像特征（可以是 ResNet 或 ViT）。
概念瓶颈层 (Concept Bottleneck Layer, CBL)： 将特征映射到人类可理解的概念空间（如“蓝色头部”、“红色羽毛”）。
稀疏预测层 (Sparse Prediction Layer)： 基于概念激活值进行线性分类。

2.2 关键创新模块

模块 I：增量概念集扩展 (Incremental Concept Set Expansion)

机制： 当新类出现时，利用大语言模型 (LLM, 如 GPT-3) 自动生成新类的相关概念。
去重与过滤： 使用文本编码器 (Sentence-Transformer/CLIP) 计算新候选概念与现有概念及类名的余弦相似度。如果相似度超过阈值（如 0.9 或 0.85），则视为冗余并剔除，确保概念集的唯一性。
优势： 避免了 IN2 等方法中概念集膨胀导致的效率低下问题。

模块 II：基于蒸馏的概念漂移抑制 (Knowledge-Preserving Concept Learning)

问题： 直接微调概念瓶颈层权重 ( $W_C$ ) 会导致旧概念的功能发生漂移（即旧概念对新数据的响应发生变化），从而遗忘旧知识。
解决方案： 引入概念正则化 (Concept Regularization) 和知识蒸馏 (Distillation)。
- 在训练新阶段的 $W_C^t$ 时，不仅最小化当前数据的对齐损失，还加入蒸馏损失项，强制新模型的旧概念输出与旧模型 ( $W_C^{t-1}$ ) 的输出保持一致。
- 损失函数公式： $L(W_C^t) = \text{Alignment Loss} + \beta \cdot \text{Distillation Loss}$ 。
- 这确保了已学习概念的功能在增量过程中保持稳定。

模块 III：伪概念生成与动态适应 (Pseudo-Concept Generation & Dynamic Adaptation)

问题： 在无样本设置下，训练稀疏预测层 ( $W_F$ ) 时缺乏旧类数据，导致模型无法区分旧类和新类。
解决方案： 生成伪特征 (Pseudo-features) 和 伪概念 (Pseudo-concepts)。
1. 伪特征生成： 对于每个旧类 $c_p$ ，找到与其最相似的新类 $c_n$ （基于骨干特征空间的质心距离）。通过平移新类的特征分布来模拟旧类： $\hat{f}(c_p) = f(c_n) - \mu(c_n) + \mu(c_p)$ 。
2. 伪概念生成： 将生成的伪特征通过当前的概念瓶颈层 $W_C^t$ 投影，得到伪概念 $\hat{f}_c(c_p)$ 。
3. 联合训练： 使用新类的真实概念和旧类的伪概念共同训练稀疏预测层 $W_F^t$ 。
理论依据： 几何视角分析表明，这种特征平移能保持类间方差的相似性，从而在特征空间中形成近似线性的决策边界，接近贝叶斯最优边界。

3. 主要贡献 (Key Contributions)

首个通用且高性能的可解释 CIL 模型： CI-CBM 是首个在预训练和非预训练（从头训练）场景下均表现鲁棒的可解释 CIL 模型。
显著的性能提升： 在多个基准数据集上，CI-CBM 比现有的可解释 CIL 方法（如 ICICLE, IN2, CONCIL）平均提高了 36% 的准确率，且与无限制的黑盒模型性能差距极小。
创新的技术组件：
- 提出了概念正则化以防止概念功能漂移。
- 提出了伪概念生成机制，利用几何平移在无样本情况下重建旧类分布，解决了 EFCIL 中的分类器偏差问题。
全面的评估与可解释性验证： 在 7 个数据集（CIFAR-10/100, CUB, TinyImageNet, ImageNet, Places365）上进行了广泛实验，并通过可视化展示了模型如何保留正概念并学习判别性负概念（"NOT" 概念）。

4. 实验结果 (Results)

与可解释方法对比 (Table 1)：
- 在 CIFAR-100 (T=20) 上，CI-CBM 达到 67.8%，而次优的 IN2 仅为 14.3%。
- 在 CUB 数据集上，CI-CBM 比之前的可解释基线平均高出 43.13%。
- 在 ImageNet 子集上，CI-CBM 表现稳健，而对比方法性能急剧下降。
与非预训练/无限制方法对比 (Table 2 & 3)：
- 在非预训练场景下（骨干网络仅在第一阶段训练），CI-CBM 的性能仅比 SOTA 黑盒方法（如 FeTrIL, TASS）低约 7.5%，证明了其在不依赖强先验知识下的有效性。
- 在预训练 ViT 场景下 (Table 4)，CI-CBM 在 CIFAR-100 上达到 85.6%，优于可解释基线 CLG-CBM (84.5%)，且与 SOTA 黑盒模型 (如 SAFE 92.8%) 差距可控。
消融实验 (Ablation Study)：
- 伪概念生成是关键：移除它会导致旧类准确率降至 0。
- 概念正则化：单独使用不足以防止旧类权重被推至零，必须与伪概念结合。
- 蒸馏权重 ( $\beta$ )： 实验表明 $\beta=1$ 时效果最佳。
- VLM 选择： 使用 SigLIP 替代 CLIP 计算概念激活矩阵能进一步提升准确率和概念保真度。

5. 意义与影响 (Significance)

打破可解释性与性能的权衡： 传统观点认为可解释模型在复杂任务（如 CIL）中性能较差。CI-CBM 证明了通过精心设计（概念正则化 + 伪概念），可以在保持人类可理解决策过程的同时，达到接近黑盒模型的性能。
推动无样本持续学习的发展： 该方法为隐私敏感或存储受限场景（如医疗、边缘设备）提供了一种无需存储旧数据即可持续学习且可解释的解决方案。
降低对预训练的依赖： 许多 CIL 方法依赖 ImageNet 预训练，限制了其在特定领域的应用。CI-CBM 在非预训练设置下的成功，使其更具通用性和实际落地潜力。
可解释性洞察： 论文通过可视化（如 Sankey 图和概念贡献图）展示了模型如何随着新类引入，动态调整概念权重（保留核心正概念，增加判别性负概念），为理解持续学习中的知识演化提供了新视角。

总结： CI-CBM 通过结合概念瓶颈模型的内在可解释性与针对持续学习设计的正则化和伪样本生成技术，成功解决了类增量学习中“遗忘”与“可解释性”难以兼得的难题，为构建透明、可靠且高效的持续学习系统提供了新的范式。