On the impact of retrieved content representations in RAG Pipelines
本文表明,在检索增强生成流水线中,决定问答准确性的主要因素是文档转换过程中对含答信息内容(答案保留)的保留,这表明当保留率较高时,诸如措辞或结构之类的其他表示因素影响有限。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象一下你是一位大厨(即大语言模型),正试图烹饪一道完美的菜肴(即答案)。通常情况下,你会从一位图书管理员(即检索系统)那里得到一份食材清单。在过去,这些图书管理员是为人类厨师进行培训的,因此他们会以人类喜欢的方式来组织食材:突出关键词、删减长段落,或根据人类的问题来总结部分内容。
但这篇文章提出了一个问题:机器人厨师(AI)是否也需要像人类厨师那样对食材进行组织?
研究人员设计了一个大规模的厨房实验来寻找答案。他们保持了图书管理员的工作职责完全不变(始终寻找正确的食材),但改变了向机器人厨师呈现这些食材的方式。他们尝试了 1 让数据呈现的 14 种不同方式:
- 原始版本: 直接提供原始文档。
- 筛选(Selection): 只剪切出最相关的句子(就像一段精彩集锦)。
- 摘要(Summarization): 将整个内容重写为一个简短的摘要。
- 改写(Reformulation): 在不丢失任何事实的前提下,改变措辞或将段落转换为要点列表。
他们测试了这些方法在四种不同的机器人厨师身上的表现,以观察哪种方式能让机器人做出最好的答案。
重大发现:一切都关乎“金票”
该论文的主要发现非常简单,但它改变了我们思考 AI 的方式。
研究人员发现,最重要的并不是食材看起来如何、闻起来如何或如何排列。 唯一真正重要的事情是,“金票”(实际的答案)是否仍然存在于这堆食材之中。
他们称之为 “答案保留”(Answer Retention)。
- 类比: 想象你正在寻找藏在一袋沙子里的特定硬币。
- 如果你用一个筛子过滤沙子,既留住了硬币又去掉了 99% 的沙子(即摘要),机器人能轻松找到硬币。
- 如果你的筛子在过滤沙子的同时不小心把硬币也扔掉了(即糟糕的筛选方法),那么无论剩下的沙子排列得多么精美,机器人都会失败。
- 如果你留住了硬币,只是把沙子重新排列成整齐的金字塔、乱堆或一列颗粒(即改写),机器人寻找硬币的难易程度并不会改变。
结论: 只要机器人厨师手里还有“金票”(答案),它并不在乎食材是:
- 用华丽的词汇还是简单的词汇编写。
- 组织成段落还是要点列表。
- 长篇大论还是短小精悍。
- 由人类编写还是由另一台 AI 编写。
只要答案还在,机器人就能表现出色。如果答案丢失了,无论你把文本优化得多么“完美”,机器人都会失败。
什么并不重要?
这项研究拆穿了一些关于如何喂养 AI 的普遍认知:
- “依赖查询”(Query-Dependent)并非魔法: 许多系统试图根据用户的问题来专门重写食材(例如,“针对一个关于苹果的问题来总结这段文字”)。研究发现,这种做法并不会让机器人厨师比仅仅给它一个好的摘要做得更好。事实上,试图做得过于具体有时反而会丢掉有用的上下文。
- “AI 编写”并不更好: 有人认为机器人更喜欢阅读由其他机器人编写的文本。研究发现这并非事实。机器人厨师并不在乎食材是由人类还是由另一台 AI 编写的;它们只在乎答案是否仍然存在。
- “结构”并不重要: 改变格式(例如将一个故事变成一系列事实列表)既不会带来帮助也不会造成伤害,只要事实保持完整即可。
“聪明”的代价
论文还考察了时间与金钱(延迟)。
- “聪明”的方法: 一些方法试图通过阅读整个文档和问题,然后即时编写一个定制化的摘要,显得非常聪明。这需要很长时间(就像厨师停下手头的工作,去逐一处理每一颗蔬菜)。
- “简单”的方法: 其他方法只是直接剪切文本片段,或者在不看问题的情况下进行摘要。这要快得多。
研究发现,只要简单的办法能保留住答案,那些“聪明”的定制化摘要并不能提供比快速的简单方法更好的答案。因此,花费额外的时间去做“依赖查询”的操作,往往只是增加了成本而没有增加价值。
核心启示
该论文认为,长期以来,研究人员一直试图发明复杂的新方法来为 AI 格式化文本,并将糟糕的结果归咎于“格式”。但这项研究表明,真正的罪魁祸首通常是格式化过程不小心把答案给丢掉了。
如果你想让你的 AI 正确回答问题,不要过度担心让文本看起来多么漂亮、简洁或结构完美。只要确保答案确实还在文本中。 如果答案在转换过程中幸存了下来,无论你如何呈现它,AI 都能很好地找到它。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。