技术摘要：视觉语言模型中表示失效的几何学

1. 问题陈述

视觉语言模型（VLMs）在多目标视觉任务中表现出系统性的失效，包括物体计数错误、属性-物体绑定混淆（例如，将错误的颜色归于错误的形状）以及生成“错觉结合”（illusory conjunctions）。虽然这些错误反映了人类的认知局限性（如“绑定问题”），但驱动这些人工系统的内部机制在现有研究中仍未得到充分理解。

本文认为，这些失效不仅仅是行为上的伪影，而是源于几何表示干涉（geometric representational interference）。在 VLM 共享的高维潜在空间中，编码不同概念（如“红色”和“正方形”）的向量在同时处理多个物体时可能会发生重叠或冲突。与通过串行注意力机制来缓解这一问题的生物视觉不同，当前的 VLM 必须在单次前馈传递中解析所有概念，这导致当表示不够正交时，不可避免地会出现特征融合。

2. 研究方法

作者提出了一个框架，用于提取、验证和分析开源权重 VLM（具体为 Qwen2.5-VL、InternVL2.5 和 Gemma 3）的表示几何结构。

A. 概念向量提取

研究比较了两种主要的“概念向量”（$v_c$）提取方法，用于编码视觉特征（颜色、形状及其结合）：

1. 基于探针的方法（Probe-Based Method）： 训练线性分类器（注意力探针）来区分某一概念的存在或缺失。学习到的注意力向量即作为候选概念向量。
2. 基于质心的方法（Centroid-Based Method）： 计算包含特定概念的图像的标记嵌入（token embeddings）的质心，然后将该质心投影到与全局激活均值正交的子空间上，以隔离特定概念的信号。
3. 结构正则化（PCA-Probe）： 为了解决探针可能学习到“判别性捷径”的问题，作者对探针向量应用了主成分分析（PCA）。这强制向量与假设的概念因子结构（例如，分离颜色轴和形状轴）保持一致，起到几何正则化的作用。

B. 通过激活转向进行因果验证

为了验证提取的向量是因果活跃的而非仅仅是相关性的，作者采用了**激活转向（activation steering）**技术。

• 机制： 对于包含概念 $A$ 的图像，减去与 $A$ 对齐的激活向量分量，并注入一个与概念 $B$ 对齐的分量。
• 干预： $h'_t = h_t - (h_t^\top \hat{v}_A)\hat{v}_A + (h_t^\top \hat{v}_A)\hat{v}_B$。
• 指标： 成功衡量标准在于模型的输出是否从描述 $A$ 转向描述 $B$（例如，将红色的花感知为蓝色的花），且不破坏无关的视觉信息。

C. 几何分析

作者通过分析概念向量之间的余弦相似度来绘制表示流形。他们研究了：

• 组合结构（Compositional Structure）： 颜色-形状结合是否分解为独立的颜色轴和形状轴。
• 语义结构（Semantic Structure）： 连续颜色空间的几何结构（100 种色调），以识别“手风琴效应”（类内压缩与类间分离）。
• 与误差的相关性： 将目标向量与干扰向量之间的几何重叠（余弦相似度）与模型在视觉搜索和相似性估计任务中的准确率联系起来。

3. 关键结果

A. 提取方法的有效性

• 质心法的优越性： 在因果转向任务中，基于质心的提取方法始终优于朴素探针法。在自然图像颜色转向任务中，质心法在各模型中实现了 84.7%–95.7% 的准确率，而朴素探针在 Qwen/Gemma 上往往表现不佳（<4%）。
• 正则化的作用： PCA 正则化显著提高了某些模型（如 InternVL 达到 92.0%）的探针性能，但在不同架构之间表现仍不一致。
• 组合绑定： 对于颜色-形状结合，质心向量实现了最高的转向成功率（Qwen 为 78.1%，Gemma 为 75.3%），这表明其内部绑定机制是加性的，并与激活的算术平均值对齐。

B. 表示几何

• 组合流形： 颜色-形状对的概念向量形成了结构化流形，其相似度严格取决于共享特征。共享颜色或形状的物体会形成明显的聚类，证实了颜色和形状是沿着独立轴编码的。
• 语义扭曲： 连续颜色空间并非忠实的物理映射，而是由 LLM 的离散标记空间扭曲后的语义映射。它表现出“类别知觉”（categorical perception）：同一语言类别（如“绿色”）内的色调被压缩，而类别之间的边界则被扩大。
• “墨西哥帽”轮廓（The "Mexican Hat" Profile）： 语义相似度剖面显示，局部距离呈单调衰减，但远端色调的相似度会有所上升（远端干涉），这表明存在有限的表示分辨率和潜在的非局部干涉。
• 普遍性： 表示相似性分析（RSA）显示，Qwen、InternVL 和 Gemma 具有几乎相同的几何结构（$r > 0.93$），这表明这些约束是 VLM 范式的基本特征，而非特定架构的产物。

C. 与行为失效的相关性

• 视觉搜索： 随着目标与干扰概念向量之间余弦相似度的增加，模型在视觉搜索任务中的准确率单调下降。高几何重叠预示着更高的错误率（目标存在时出现假阴性；目标不存在时出现假阳性/错觉结合）。
• 相似性判断： 在颜色相似性任务中，模型置信度（Logit 分离度）由概念向量的余弦相似度预测的效果优于由感知 HSV 距离预测。这表明模型的确定性受表示几何而非感知距离的支配。

4. 意义与主张

本文声称提供了一种机械论洞察（mechanistic insight），将 VLM 的失效归因于将丰富的视觉信息压缩为可重用、可泛化表示时所付出的数学代价。

• “泛化之咒”： 作者认为，正是那些实现灵活泛化的几何结构（例如，将“红色”与连续的光谱联系起来）引入了对概念间干涉的易感性。这种权衡对于像 VLM 这样的并行处理系统尤为严重，因为它们缺乏生物视觉中的串行注意力机制。
• 预测能力： 概念向量的几何结构不仅是描述性的，也是预测性的。概念向量之间的余弦相似度与模型置信度（$r > 0.77$）和下游多目标任务准确率（$|r| > 0.83$）强相关。
• 因果有效性： 研究表明，从合成数据中提取的概念向量具有因果活性，能够可靠地操纵自然图像中的模型感知。
• 认知平行性： 研究结果将 VLM 的失效与人类的“错觉结合”联系起来，表明当在没有串行注意力的情况下将连续光谱映射到离散类别时，两个系统都面临类似的约束。

作者总结道，理解这些几何特征提供了一个量化框架，可以预见模型失效，从而为开发更鲁棒的系统以及在安全关键型应用中更好地校准模型置信度提供理论依据。