🤖 AI

In-Context Credit Assignment via the Core

本文提出了一种基于合作博弈论最小核心解的上下文信用分配激励相容机制，并引入了高效算法，以显著少于现有方法的LLM调用次数，近似实现内容创作者之间的公平价值分配。

原作者： Keegan Harris, Siddharth Prasad, Asher Trockman

发布于 2026-05-11

📖 1 分钟阅读☕ 轻松阅读

原作者： Keegan Harris, Siddharth Prasad, Asher Trockman

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你和一群朋友决定共同烘焙一个巨大而复杂的蛋糕。你们各自带来不同的食材：一人带来面粉，另一人带来鸡蛋，第三人带来一个秘密家族食谱，第四人带来精致的糖霜。当蛋糕完成并售出后，赚了一大笔钱。

核心问题是：如何分配这笔钱？

如果简单地平均分配，带来秘密食谱的人可能会觉得被亏待。如果按谁喊得最响来分配，带来鸡蛋的人可能会感到被忽视。这就是“信用分配”问题。

本文探讨的是这个蛋糕问题的现代版本，但主角不再是朋友，而是人工智能与互联网。

问题：AI“冰沙”

如今，人工智能模型（例如那些编写代码或制作视频的模型）常常像一个搅拌机。你提出一个问题，AI 便从众多不同的网站、文章和创作者那里抓取信息，混合成一杯“冰沙”式的答案。

创作者：撰写原始文章或代码的人。
AI：混合他们作品的搅拌机。
回报：AI 因最终答案所获得的金钱或关注。

问题在于：谁最应得这份功劳？ 如果 AI 利用 10 个不同网站来回答问题，而其中只有一个网站包含了唯一的关键事实，那么该网站理应获得最多的功劳。但如果 AI 只是抓取了随机噪声，那么任何人都不应获得太多功劳。

解决方案：“最小核心”（公平规则）

作者提出了一种名为“最小核心”的数学规则来解决这一问题。

将“核心”想象为一套分钱规则，在这套规则下，没有任何一群朋友可以说：“嘿，没有你我们也能独自烤出更好的蛋糕，所以我们应该分得更多！”

目标：找到一种分配方式，使得每一个可能的创作者群体（哪怕只有两个人）都感到，他们获得的份额至少等于他们若撇开其他人、仅彼此合作所能获得的份额。
“最小”部分：有时，从数学上讲，让每个人都完全满意是不可能的。因此，“最小核心”寻找的是一种分配方式，使得最不满的群体尽可能满意。它将任何人感受到的最大“不公平”程度降至最低。

挑战：组合数量过多

数学变得棘手，因为对于 N 个创作者，可以组成的群体数量高达 2^N。如果你有 30 个网站，就需要检查超过十亿个可能的群体。你无法让 AI 检查每一个群体；那将耗时无穷，并耗费巨额计算资源。

创新：“智能侦探”

作者发明了一种新方法，无需检查每一个群体即可解决此问题。他们使用了一种称为“约束生成”的技术，并用两个主要工具来描述：

“种子”（预热启动）：他们不是从零开始，而是询问 AI：“嘿，你认为哪些小规模的网站群体对回答这个问题最为重要？”这让他们有了起步优势，就像在调查所有人之前先推测出最可能的嫌疑人。
“分离预言机”（侦探）：这是一个巧妙的技巧。他们不是检查每一个群体，而是问 AI：“是否存在任何一个网站群体，其当前获得的报酬少于他们独自合作所能获得的？”
- 如果 AI 回答“没有”，那就完成了！他们找到了公平的分配方案。
- 如果 AI 回答“有，那个群体不满意”，他们就将该特定群体加入列表，并重新计算分配方案。

他们发现，利用 AI 本身作为“侦探”（来发现不满的群体）速度极快。这就像拥有一位对城市了如指掌的侦探，能瞬间发现犯罪，而不是逐条街道寻找线索。

结果：快速且公平

该团队在 AI 需利用众多网页信息回答问题的任务上测试了这种方法。

旧方法（随机采样）：之前的方法试图通过随机检查群体来猜测答案。这种方法速度慢，且需要成千上万次昂贵的 AI 检查。
新方法（“侦探”方法）：他们的新方法仅需10 到 100 倍更少的 AI 检查次数，就能找到公平的分配方案。

他们还发现，如果在开始时利用 AI 来推测“最重要”的群体（种子），系统会变得更快，尽管有时精度略有下降。但总体而言，这对速度而言是一次巨大的胜利。

为何这很重要

这篇论文不仅解决了一个数学谜题，更提供了一种在 AI 时代公平支付创作者的方法。如果 AI 使用你的文章来回答问题，该系统提供了一种计算你应得的确切功劳（以及潜在金钱）的方式，而无需检查互联网上的每一种可能组合。它确保“搅拌机”（AI）不会独占整个蛋糕的功劳，而食材提供者却一无所获。

简而言之：他们构建了一种快速、公平且数学上严谨的方法，用于在所有为 AI 答案做出贡献的人之间分配收益，并利用 AI 本身来帮助找到最公平的分配方案。

技术摘要：基于核心的上下文信用分配

问题陈述

本文解决了针对 AI 生成内容的上下文信用分配挑战。随着生成式 AI 工具（例如用于网络搜索的大语言模型、文本转视频模型）日益在模型的上下文窗口内综合多位创作者的知识产权（IP），需要在原始创作者之间经济地分配最终输出所产生的价值。

核心问题是：对于出现在模型上下文窗口中的一组创作者，如何以符合经济学原理且计算可行的方式，在 AI 生成内容中分配信用？

作者将此建模为一个合作博弈，其中创作者结成联盟以产生价值。目标是找到一种尊重创作者激励的价值共享方案（分配）。具体而言，本文旨在最小化“赤字”——即任何创作者子群体相对于其独立生成价值所获得的补偿不足额。

方法论

1. 博弈论形式化

该问题被表述为合作博弈论语言，包含一组创作者 $N$ 和一个价值函数 $v: 2^N \to [0, 1]$ 。

核心（The Core）： 理想情况下，分配应位于“核心”内，即没有任何联盟获得的收益少于其独立价值。然而，核心往往为空。
最小核心（The Least Core）： 作者提出最小核心作为解概念。这是指最小化所有可能联盟最大补偿不足额（ $\epsilon$ ）的分配集合。
估计最小核心（Estimated Least Core）： 由于真实奖励函数 $v$ 不可观测，作者使用估计价值函数 $\hat{v}$ （例如通过“大语言模型作为裁判”或人类反馈得出）。他们基于 $\hat{v}$ 计算最小估计核心。
平等主义最小核心（Egalitarian Least Core）： 为了打破最小核心集合中分配方案的平局，作者最小化分配向量的 $\ell_2$ 范数，以促进更公平的分配。

2. 敏感性分析

本文建立了真实最小核心赤字（ $\epsilon^*$ ）与估计最小核心赤字（ $\hat{\epsilon}$ ）之间差异的理论界限。

一般情况： 敏感性受 $v$ 与 $\hat{v}$ 之间最大加权偏差的约束，其中权重源自平衡分布（一种每个创作者在联盟中具有相等边际包含概率的分布）。该结果被表述为 Bondareva-Shapley 定理的定量类比。
二元奖励： 在奖励为二元（0 或 1）的设置中，作者表明，一小部分误分类可能导致巨大的赤字。然而，敏感性受平衡分布下最坏情况误分类概率的约束。

3. 近似算法

计算最小核心涉及求解具有指数级约束数量（ $2^N$ ）的线性规划（LP），使得直接求解对于中等规模的 $N$ 不可行。作者开发了迭代式**约束生成（CG）**算法：

分离预言机（Separation Oracles）： 算法不枚举所有约束，而是迭代识别“不满”联盟（即违反核心约束的联盟）并将其添加到 LP 中。
基于采样的预言机： 随机采样联盟以发现违规情况。作者提供了概率保证，证明该方法能以多项式样本复杂度找到近似的最小核心分配。
基于 LLM 的预言机： 利用大语言模型充当“对抗性测试器”。给定候选分配，LLM 提出其认为补偿不足的联盟。这种启发式方法引导搜索向信息丰富的约束方向进行，而无需 exhaustive 采样。
联盟种子（Coalition Seeding）： 对于二元价值函数，作者利用**最小获胜联盟（MWCs）**作为初始约束集。他们证明，如果分离预言机识别出高度违规的联盟，算法可以高效地恢复缺失的 MWC。

主要贡献

概念框架： 将上下文信用分配建模为合作博弈，并选择最小核心作为解概念，通过最小化最坏情况下的补偿不足来确保激励相容。
敏感性界限： 提供了关于估计奖励函数中的误差如何传播到最小核心分配的理论界限，利用联盟上的平衡分布。
可扩展算法： 开发了实用的约束生成方法，使用比基线采样方法低几个数量级的价值函数查询次数来近似最小核心。这包括基于采样和基于 LLM 的分离预言机。
实证验证： 在半合成网络检索任务上的演示表明，所提出的 CG 方法在实现与基线相当或更好的稳定性（ $\epsilon$ ）的同时，将 LLM 调用次数减少了 3–17 倍。

实验结果

作者在两个数据集上评估了他们的方法：BrowseComp-Plus（多跳问答基准）和一个旨在确保文档间产生真实交互效应的合成数据集。

效率： CG 算法（特别是使用 LLM 预言机的算法）使用显著更少的 LLM 调用（对于 $n=10$ 通常少于 100 次，对于 $n=32$ 约为 1,000 次）收敛到稳定分配，而基线采样方法（YP）则需要数千次调用（高达 8,192 次）。
准确性： CG 方法实现的保留集赤字（ $\hat{\epsilon}_H$ ）得分与基线相当或更好。在某些情况下，LLM 预言机变体甚至通过找到赤字更低的分配而优于基线。
平等主义： 平等主义变体（最小化 $\ell_2$ 范数）成功更广泛地重新分配了信用（减少了稀疏性），而稳定性指标 $\epsilon$ 仅出现轻微下降。
零样本基线： 零样本方法（要求 LLM 直接输出分配）表现令人惊讶地好，但缺乏 CG 方法的迭代细化和形式化保证。

意义与主张

本文声称提供了一种用于生成式 AI 中信用分配的计算可行且符合经济学原理的机制。

经济对齐： 与以往关注可解释性或归因的工作不同，该方法明确优先考虑创作者激励，确保没有任何创作者群体被系统性补偿不足。
实用性： 通过在约束生成框架内利用 LLM 作为分离预言机，作者证明了复杂的合作博弈解（最小核心）可以在价值函数查询昂贵的现实场景中高效近似。
未来方向： 作者指出，虽然他们假设对价值函数估计具有黑盒访问权限，但改进价值函数本身的估计仍然是一个重要的未来方向。他们还建议探索其他核心变体（例如最接近 Shapley 值的变体），并将这些方法集成到现实世界的平台设计中。

这项工作将最小核心不仅仅定位为一种理论构造，而是作为管理生成式 AI 时代新兴创作者经济学的可行、可扩展的工具。