💻 computer science

Interpretability Transfer from Language to Vision via Sparse Autoencoders

本文介绍了 VISTA，这是一个通过将视觉令牌与视觉语言模型中已有的、带标签的文本稀疏自编码器空间对齐，从而将可解释性从语言迁移到视觉的框架，进而能够在不训练专用视觉稀疏自编码器的情况下实现精确的视觉概念定位和有效的跨模态干预。

原作者： Alexey Kravets, Da Li, Chuan Li, Da Chen, Vinay P. Namboodiri

发布于 2026-05-26

📖 1 分钟阅读☕ 轻松阅读

原作者： Alexey Kravets, Da Li, Chuan Li, Da Chen, Vinay P. Namboodiri

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象你有一个非常聪明的机器人，它能看见图片并谈论它们。这个机器人拥有一个“大脑”（一个大语言模型），它极其擅长理解文字，但它究竟如何“看见”世界却有些神秘。通常，当我们试图窥探这个机器人的大脑，看看它对一张图片在想什么时，这就像试图阅读一本用无人知晓的语言写成的书。

本文介绍了一种名为VISTA（通过 SAE 迁移对齐实现视觉可解释性）的新方法来解决这个问题。以下是其工作原理的简单解释：

1. 问题：“字典”不匹配

想象机器人的大脑里有一本预先写好的、庞大的概念“字典”（如“狗”、“奔跑”、“快乐”）。这本字典是通过阅读数百万本书籍构建的，组织得井井有条。然而，当机器人看一张图片时，它从眼睛（视觉数据）接收到的信号与这本字典中的单词并不匹配。它们就像两种不同的语言。

为了理解机器人看到了什么，科学家们通常尝试为图片构建一本新的字典。但这很困难，因为标注视觉概念令人困惑。一个“狗”的特征仅仅是一只狗，还是特定品种，或者是一只正在奔跑的狗？这很模糊，且标注工作需要大量人力。

2. 解决方案：VISTA（通用适配器）

VISTA 不像构建一本新的图片字典，它更像一个通用翻译适配器。

设置：机器人拥有一个冻结的“大脑”（语言模型），带有其现有的、已标注的字典。它还有一个“相机”（视觉编码器）来观察世界。
技巧：VISTA 在相机和大脑之间训练一个小型、简单的连接器（投影器）。
目标：目标是迫使相机的信号完美地融入大脑现有的字典中。研究人员通过在训练中添加一条特殊规则来实现这一点：“你发送给大脑的图片信号，必须能够利用大脑自己的单词字典进行重构。”

这就像强行将一个方形的木桩（图片）塞进一个圆形的孔（单词字典）里，方法是重塑木桩，而不是试图建造一个全新的方形孔。

3. 结果：看见即理解

由于 VISTA 迫使图片信号与单词字典对齐，我们现在可以用机器人已经知道的单词来“阅读”它看到了什么。

“神经元百科”连接：本文使用了一个名为 Neuronpedia 的公共数据库，它充当机器人大脑的图例。它告诉我们，特定的信号意味着“猫”或“曲奇”。
突破：有了 VISTA，当机器人看一张猫的图片时，它发送给大脑的信号会点亮字典中完全相同的“猫”概念，就像有人刚刚输入了单词“猫”一样。这无需重新标注任何内容或训练新的字典。

4. 相机很重要：DINOv2 与 CLIP

本文还测试了不同的“相机”（视觉编码器），以查看哪种与这种翻译器配合得最好。

CLIP（全局思考者）：想象一台相机，它观察整张图片并说：“这是一个有猫的场景。”它擅长把握大局，但不擅长细节。如果你让它指出猫的确切位置，它可能会感到困惑并指向背景。
DINOv2（局部侦探）：这台相机就像一个侦探，观察图像的小块区域。它确切地知道哪个微小的像素方块包含猫的耳朵，哪个包含尾巴。
发现：VISTA 与DINOv2配合效果最好。因为 DINOv2 保持了物体位置的精确性，VISTA 可以对机器人的视觉进行“手术”。

5. 魔法技巧：视觉引导

由于图片信号现在与单词字典完美对齐，研究人员可以执行“视觉引导”。这就像用数学编辑机器人对现实的感知。

实验：他们取了一张“女孩吃巧克力曲奇”的图片。
操作：他们找到了代表“巧克力”的特定信号并将其减去，或者添加了代表“面包”的信号。
结果：机器人的描述从“吃巧克力曲奇”变成了“吃三明治”或“吃面包”，但仅限于图像的特定部分。场景的其余部分（女孩、椅子）保持完全不变。

如果没有 VISTA（特别是配合 DINOv2 相机），机器人要么无法改变物体，要么开始产生奇怪的幻觉（例如凭空出现一个人），因为它无法精确定位在哪里进行改变。

总结

简而言之，这篇论文表明，我们不需要教机器人一门新语言来理解它的视觉。相反，我们可以教它的“眼睛”说与它的“大脑”相同的语言。通过使用特定类型的相机（DINOv2）和一个巧妙的训练技巧，我们可以使机器人的视觉变得如此清晰和精确，以至于我们不仅可以理解它看到了什么，还可以编辑它对图片中特定物体的感知，同时保持世界其余部分完好无损。

技术摘要：通过稀疏自编码器实现从语言到视觉的可解释性迁移

1. 问题陈述

大型多模态模型（LMMs）的可解释性仍然是一个重大挑战。虽然稀疏自编码器（SAEs）已成功将大型语言模型（LLMs）中的多义语言特征分解为单义、可解释的概念，但将这一成功应用于视觉领域受到两个主要限制：

标注歧义：在视觉编码器上训练特定领域的 SAE 会产生单义视觉特征，但标注这些特征十分困难。区分一个特征代表特定物体、品种还是动作存在歧义。此外，仅基于视觉的 SAE 无法揭示视觉特征进入 LLM 残差流后是如何被解读的。
计算成本：微调现有的基于 LLM 的 SAE 以纳入视觉信息，其成本高昂得令人望而却步。例如，适配像 Gemma Scope 这样的模型需要巨大的计算资源以及大量的重新标注工作（例如数十万次的 LLM 请求），以应对潜在空间的偏移。

本文探讨的核心问题是：能否在不训练新的特定视觉 SAE 的情况下，复用语言稀疏自编码器来解释视觉概念？

2. 方法论：VISTA 框架

作者提出了 VISTA（通过 SAE 转移对齐实现视觉可解释性），这是一个旨在 LLaVA 风格的视觉 - 语言模型内部将可解释性从语言迁移至视觉的框架。其核心创新在于约束视觉投影器，将视觉令牌直接映射到 LLM 预先存在且已标注的文本 SAE 空间中。

架构与训练目标

设置：该框架使用冻结的视觉编码器（如 DINOv2、CLIP）和冻结的 LLM。一个可训练的线性投影器（ $P_\theta$ ）将视觉令牌（ $v$ ）映射到 LLM 的嵌入空间（ $e_v$ ）。
损失函数：与仅在目标文本上最小化交叉熵（ $L_{CE}$ $L_{C E}$ ）的标准训练不同，VISTA 引入了辅助的 SAE 重建损失（ $L_{SAE}$ $L_{S A E}$ ）。
- 使用一个仅在文本数据上于 LLM 残差流中预训练的 SAE 作为约束。
- 该损失最小化投影后的视觉令牌与其由文本 SAE 重建结果之间的均方误差： $L_{SAE} = \frac{1}{|M|} \sum_{l \in M} ||SAE_l(e^l_v) - e^l_v||^2_2$ 。
- 总目标为 $L_{total} = L_{CE} + L_{SAE}$ 。
机制：这迫使视觉令牌落在由文本 SAE 定义的流形上。因此，视觉输入可以通过预标注的语言 SAE 概念进行解释，且几乎无需额外的计算成本，从而绕过了训练特定视觉 SAE 的需求。

细粒度操控

一旦对齐，视觉操控便成为语言流形内的算术运算。该框架通过向特定视觉令牌位置（ $v_{source}$ ）添加或减去文本 SAE 的解码器方向（概念），实现了 局部操控：

移除： $v_{steered} = v_{source} - \beta \cdot v_{remove}$
替换： $v_{steered} = v_{source} + \alpha \cdot v_{add}$
这使得能够在保留周围场景上下文的同时，移除或替换模型感知中的特定物体。

3. 主要贡献

可解释性迁移：引入了一种训练目标，将视觉令牌与 LLM SAE 特征对齐，促进了跨模态可解释性迁移，同时避免了训练或标注特定视觉 SAE 的计算负担。
编码器分析：VISTA 实现了对视觉编码器的严格比较，揭示了 DINOv2 实现了更优越且架构稳定的空间定位。与优先关注全局摘要且易受空间混淆影响的对比模型（如 CLIP）不同，DINOv2 的自监督局部到全局目标保留了实现补丁级精度所需的细粒度局部信息。
因果验证：证明了使用文本 SAE 方向对视觉令牌进行算术干预，能在模型输出中产生连贯的、局部的变化。这提供了因果证据，表明视觉令牌栖息于文本 SAE 流形之中。

4. 结果与发现

对齐与匹配率

匹配率：与无约束的基线相比，VISTA 约束使匹配率（激活的文本概念与图像中语义元素对应的准确率）提高了三倍。
延迟对齐：本文挑战了“延迟对齐”（即视觉令牌仅在深层自然对齐文本特征）的概念。虽然在没有约束的情况下在 Gemma 模型中观察到了这种现象，但它并非普遍存在（例如在 LLaMA-3.1-8B 中未发生）。VISTA 约束迫使所有架构和层级实现即时对齐。
重建与稀疏性：在 SAE 约束下，视觉令牌在重建误差和稀疏性上实现即时收敛，从第一层起即匹配文本令牌的分布，而无约束令牌在整个网络中往往保持高密度和高误差。

空间定位

DINOv2 与 CLIP 对比：DINOv2 展示了 0.927 的空间定位准确率（SLA）（使用 Gemma-2-2B），显著优于 CLIP（0.201）和 I-JEPA（0.702）。
CLIP 的局限性：CLIP 激活表现出空间混淆，经常在与相关物体相距甚远的地方激活概念，使得细粒度操控不稳定。
鲁棒性：DINOv2 在不同的 LLM 骨干网络（Gemma-2-2B、Gemma-2-9B、LLaMA-3.1-8B）上保持了高定位准确率，而 CLIP 的性能波动较大且始终较低。

操控性能

定量增益：利用 DINOv2 的精度，VISTA 在物体移除任务中实现了 35% 的改进，在物体替换任务中实现了 47% 的改进，超越了最佳纯视觉基线（VisionSAE 和 PatchSAE）。
定性结果：使用 DINOv2 进行操控允许进行精确修改（例如将“奔跑的狗”改为“奔跑的猫”，或从沙发上移除猫），同时保留全局场景上下文。相比之下，基于 CLIP 的操控往往导致幻觉或全局上下文的改变。
因果证据：受控比较证实，VISTA 修改了模型对特定视觉补丁的感知，而非劫持语言生成路径。仅基于文本的操控或提示操控无法保持场景连贯性。

性能影响

小模型：在较小模型（如 Gemma-2-2B）中，SAE 约束导致在某些基准测试上出现轻微的准确率回退，这可能是由于表示能力有限所致。
大模型：在较大架构（如 LLaMA-3.1-8B）中，SAE 约束充当有益的正则化器，提高了大多数基准测试的性能。
分布外（OOD）鲁棒性：VISTA 的对齐泛化到了分布外数据（DomainNet），保持了连贯的重建、稀疏性和匹配率，表明这种对齐是一种结构性属性，而非训练集伪影。

5. 意义与主张

本文主张 可解释性是跨模态可迁移的属性。通过在视觉编码器与 LLM 对齐期间强制执行 SAE 约束，VISTA 将视觉令牌映射到预先存在且已标注的语言特征空间中。这消除了训练特定视觉 SAE 所需的计算和标注成本。

作者强调，局部可解释性和操控的成功与 视觉骨干的空间保真度 内在耦合。他们证明，DINOv2 的局部目标为这种迁移提供了必要的精度，显著优于 CLIP 等对比模型。这种“可解释性迁移”范式为理解和控制复杂多模态系统提供了一条可扩展的路径，使得无需付出重新训练基础模型的高昂成本，即可实现细粒度的因果干预和特征电路分析。

该工作在多种 LLM 架构（Gemma、LLaMA）和视觉编码器（CLIP、DINOv2、I-JEPA）上得到了验证，并公开了代码以支持进一步研究多模态系统中的机械可解释性。