Tracing the Data Trail: A Survey of Data Provenance, Transparency and Traceability in LLMs
本综述通过提出一种新的分类法并分析 95 篇出版物，对大型语言模型在数据溯源、透明度和可追溯性方面的十年研究进行了综合，旨在解决偏见、隐私以及不透明度与透明度之间权衡的关键挑战。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
大局观： “黑盒”问题
想象一台巨大的、神奇的果昔机（即大语言模型，LLM）。你放入大量的水果、蔬菜和冰块（训练数据），并将它们搅拌在一起。当你想要一杯果昔时，它就会倒出美味的饮品（答案）。
问题在于？你不知道机器里面到底装了什么。
这些机器的创造者通常会对配方保密。他们不会告诉你用了哪些水果，水果是在哪里种植的，或者其中是否有变质的。因此，这台机器是一个“黑盒”。如果果昔味道奇怪或者让你生病，你无法将其追溯到某一个坏掉的苹果，因为机器已经把所有东西都搅拌成了一团无法辨认的浆糊。
这篇论文是对试图解决这一问题的研究进行的一项综述（大型回顾）。作者想知道：我们能追踪这些原料吗？我们能看到机器是如何运作的吗？我们能证明这种风味是从哪里来的吗？
他们将这一目标分解为三个主要目标和三个支撑支柱。
三个主要目标（“三大件”）
1. 数据溯源： “成分标签”
溯源（Provenance） 只是一个高级词汇，意为“起源故事”。
- 类比： 想想一瓶葡萄酒。好的标签会告诉你葡萄品种、产地和年份。在 AI 世界中，“溯源”意味着准确知道 AI 学习了哪些文本、网站或书籍。
- 问题： 目前，AI 模型是在互联网上数十亿个词汇的基础上进行训练的。一旦 AI 完成训练，它就会忘记具体的来源。这就像把一万种不同的葡萄酒混合进一个桶里；你无法再分辨出哪颗葡萄来自哪个庄园。
- 论文发现： 研究人员正试图为 AI 构建“标签”。有些人尝试为每一条使用的数据保留一份数字收据；另一些人则尝试通过“逆向工程”来推测果昔中使用了哪些水果。
2. 透明度： 打开“厨房门”
透明度（Transparency） 意味着在机器工作时能够看到内部情况。
- 类比： 想象一家有两种类型厨房的餐厅。
- 开源权重模型（玻璃厨房）： 你可以走进去，看到厨师，观察切菜过程，并看到配方。你确切知道这道菜是如何做出来的。
- 闭源权重模型（秘密厨房）： 门是锁着的。你只能得到最终的成品。你必须信任厨师，但你无法验证他们使用的是新鲜食材还是陈年剩菜。
- 论文发现： “开放式厨房”对于安全性和理解力来说要好得多。虽然“封闭式厨房”建造和销售的速度更快，但它们具有风险，因为没有人知道内部发生了什么。
3. 可追溯性： “面包屑路径”
可追溯性（Traceability） 是指能够从最终答案回溯到原始来源的能力。
- 类比： 想象你在地板上发现了一粒面包屑。可追溯性 是指能够顺着这粒面包屑，穿过厨房，穿过储藏室，一直追踪到种植那粒小麦的具体农场。
- 问题： 在 AI 中，“面包屑”是 AI 生成的一个词。而“农场”是它训练时使用的原始文本。由于 AI 将词语转化为数学数字（权重），这条路径通常会中断。
- 论文发现： 研究人员正试图在 AI 的输出中留下“面包屑”（如水印或特殊代码），以便我们可以将其追溯到来源。
三个支撑支柱（“安全网”）
为了让“三大件”发挥作用，论文指出我们需要处理另外三件事：
1. 偏见与不确定性：“烂水果”与“猜谜游戏”
- 偏见： 如果 AI 向互联网学习，它也会学习人类的偏见（例如认为只有男性才是医生）。这就像在果昔里放入了烂水果。如果我们无法追踪原料（溯源），我们就无法剔除烂水果。
- 不确定性： 有时 AI 只是在瞎猜。它可能会非常自信地表达一些完全错误的内容（即“幻觉”）。论文指出，我们需要知道 AI 何时是不确定的，就像人类厨师承认：“我不确定这种香料是否新鲜。”
2. 数据隐私：“秘密配方”
- 问题： 有时“原料”会包含私人信息，比如某人的医疗记录或家庭住址。如果 AI 学习了这些，它以后可能会无意中将其吐出来。
- 挑战： 存在着溯源（我们需要知道混合物中有什么）与隐私（我们需要隐藏个人细节）之间的冲突。论文指出，目前还没有完美的方法能在 AI “吃掉”特定信息后将其“忘掉”。
3. 工具与技术：“侦探工具包”
- 论文回顾了研究人员用来解决这些问题的实际工具。
- 示例：
- 水印技术： 在 AI 文本中隐藏不可见的编码，以证明其来源。
- 日志记录： 记录 AI 在思考过程中采取的每一个步骤。
- 归因： 自动标记 AI 回答中的每一句话来自于哪本书。
论文的主要结论
- 我们在盲目飞行： 目前，大多数大型 AI 模型都是不透明的。我们不知道它们的完整成分表，也无法将它们的回答追溯到原始来源。
- 开源 vs 闭源： 允许我们查看其“权重”（内部数学逻辑）的模型更容易进行审计和信任。闭源模型则是黑盒。
- “模型汤”风险： 如果我们开始使用由旧 AI 模型生成的资料来训练新的 AI 模型（而不检查来源），我们可能会面临一种“反馈循环”的风险，即错误和偏见会被放大，就像麦克风捕捉到自身声音时产生的刺耳啸叫。
- 没有“魔术橡皮擦”： 如果私人数据进入了 AI，想要将其剔除是非常困难的。我们需要更好的方法来让 AI “忘记”特定信息。
- 未来方向： 作者提出了一个新的“分类法”（分类系统）来帮助研究人员组织这些想法。他们认为，为了让 AI 安全且值得信赖，我们必须解开由溯源（它从哪里来？）、透明度（我们能看到内部吗？）和可追溯性（我们能追踪路径吗？）组成的谜题。
简而言之： 论文认为，在能够看清原料、理解配方，并能从最终答案追踪回最初学习的第一个词之前，我们无法信任这些强大的机器。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。