In-Context Collapse in Vision-Language Models and How to Mitigate it?
本文揭示了视觉语言模型中的多样本上下文学习（many-shot in-context learning）会导致灾难性的“上下文崩溃”（in-context collapse），即准确率随着示例的累积而剧烈下降，并将此失效识别为视觉-语言整合路径中的特定崩溃，同时提出了一种名为 CircA 的轻量级、可迁移的干预方法来恢复鲁棒的学习能力。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
背景设定：当示例过多反而适得其反
想象一下，你正在教一个超级聪明的机器人玩一种新游戏。为了避免缓慢且具有风险的重写机器人的整个大脑，你只是在它轮到它行动之前，向它展示几个如何玩游戏的例子。这被称为上下文学习（In-Context Learning）。这就像是在机器人玩游戏时，在你耳边低语规则，希望它能即时掌握模式。对于基于文本的 AI 来说，这效果极佳；你给出的示例越多，它的表现就越好。
现在，想象一下给同一个机器人一叠图片来学习。你可能会想：“图片越多，学习得越多！”但转折在于：在**视觉语言模型（Vision-Language Models，能够看图并读文的 AI）**的世界里，给出过多的示例有时会让机器人突然忘掉它所知道的一切。这就像是你给一个学生展示了一百道数学题，结果他不但没有变得更聪明，反而开始根据看到的最后一个问题来瞎猜答案，完全忽略了实际的问题。这篇论文深入探讨了为什么会发生这种情况，故障究竟发生在机器人的“大脑”哪个位置，以及如何在不破坏其他功能的前提下修复它。
伟大的“上下文崩溃”
作者发现了一个他们称之为**“上下文崩溃”（In-Context Collapse）**的奇怪故障。通常情况下，当你向 AI 展示更多示例时，它会变得更好。但对于许多视觉语言模型来说，增加图像和标签反而会让它们表现得更差。在某些情况下，它们的准确率会降得极低，甚至比随机猜测的表现还要差。
把它想象成一个学生在考试。在没有任何帮助的情况下，学生掌握了知识，得分 94%。但一旦你递给他一张带有十个正确示例的参考页，他的大脑就短路了。他不再阅读实际的问题，而是直接抄袭参考页上最后一个示例的答案。如果参考页上写着“答案是蓝色”，而问题是关于一辆红色的车，这个学生会自信满满地写下“蓝色”。你添加的示例越多，他就越会忽略真实的问题，而仅仅是模仿最近的一个。
论文表明，这不仅仅是一个格式错误（比如机器人吐出乱码）。机器人依然在编写完美的句子，它只是做出了糟糕的判断。这种现象出现在许多不同的模型中，从小型模型到大家都在关注的庞大、尖端的“前沿”模型。这是一个渐进式的问题：有些模型具有免疫力，有些会严重崩溃，而有些则崩溃得如此厉害，以至于表现甚至低于随机水平。
两种不同的超能力
最酷的发现之一是，论文将“学习”拆分为两个我们通常认为相同的独立技能：
- 鲁棒性（Robustness）： 模型能否在看到更多示例而不崩溃的情况下处理信息？
- 学习能力（Learning）： 模型能否通过这些示例真正学到一个新规则？
作者发现，一个模型可以具备完美的鲁棒性（它不会崩溃），但仍然完全无法学习新规则。这就像一个学生在看到参考页时保持冷静，但却完全忽略了它，只坚持自己已有的知识。相反，一个模型可能会尝试学习，但会立即崩溃。论文证明了这是两回事，模型可以拥有其中之一而没有另一个。
故障所在地：“集成”站
那么，漏洞在哪里？作者并没有仅仅靠猜测，而是对 AI 的大脑进行了一场“手术”。他们将模型的层分成了三个区域：
- 连接器（The Connector）： 图像被翻译成 AI 能理解的语言的地方。
- 早期/中期层（The Early/Mid Layers）： AI 尝试将图像与文本示例混合在一起的地方。
- 后期层（The Late Layers）： AI 决定最终答案的地方。
他们发现，崩溃专门发生在连接器和早期/中期层。这就是“集成站”。当过多的示例堆积起来时，这个站点就会过载。AI 不再将新信息与当前问题结合，而是变得混乱，直接复制它看到的最近一个示例。
至关重要的是，他们证明了修复后期层（即选择答案的地方）并不能提供帮助。事实上，试图在那里进行修复反而会让情况变得更糟！这就像是在试图修复交通拥堵时，却去修出口匝道，而问题实际上发生在汇合点。修复必须发生在图像和文本首次相遇的地方。
疗法：“集成疫苗”
论文提出了一种被称为 CircA（集成电路自适应）的巧妙修复方法。其中的明星是疫苗（Vaccine）。
想象你有一个容易产生这种“复制”故障的机器人。与其重新训练整个机器人（这既昂贵又缓慢），作者仅针对集成站训练了一个微小的、专门的“适配器”（一个小型附加模块）。他们教会了这个适配器一个简单的任务：“当你看到示例时，要利用它们来弄清楚规则，不要只是复制最后一个。”
神奇之处在于：一旦这个微型适配器在一个特定任务上训练完成，它就像疫苗一样。它不仅能修复那一个特定任务，还能保护机器人免受在全新的、从未见过的任务上的崩溃影响。机器人突然变得对“示例越多 = 表现越差”的陷阱产生了免疫力。
论文还为工具箱提供了另外两个工具：
- 门控（The Gate）： 如果你无法更改机器人的大脑（比如你使用的是闭源 API），那就只需在机器人开始崩溃之前停止添加示例。观察机器人开始复制最后答案的信号，并在那里切断示例。
- 注入（The Inject）： 如果你有一个能够学习但示例太长无法放入内存的机器人，你可以将示例压缩成一个单一的“任务向量”，并将其直接注入大脑，从而跳过展示所有图片的需求。
核心启示
最令人惊讶的转折是，你修复“快速”学习（集成站）的地方，与你应该存储“慢速”、永久记忆的地方是不同的。
如果你想通过更新权重来永久教机器人一项新技能，你应该在后期层进行。但如果你想让它通过几个示例快速学习而不崩溃，你需要修复集成站。这是两个不同部分的两个不同工作。
简而言之，论文表明，给 AI 更多示例并不总是免费的午餐。有时，它是一个陷阱。但通过理解陷阱究竟设置在哪里，我们可以构建一个微小、廉价的修复方案，让这些模型在不丧失理智的情况下，从数百个示例中学习。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。