🤖 AI

LERA: LLM-Enhanced RAG for Ad Auction in Generative Chatbots

本文提出了 LERA，一种两阶段的检索后生成拍卖框架，该框架利用大语言模型超越简单的文本嵌入来优化广告相关性评分，从而在确保生成式聊天机器人环境中支付真实性的同时，提升选择准确性与多样性。

原作者： Haoran Sun, Xinrui Song, Xinyu Zhang, Zhaohua Chen, Xu Chu, Zhilin Zhang, Chuan Yu, Jian Xu, Bo Zheng, Xiaotie Deng

发布于 2026-05-19

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Haoran Sun, Xinrui Song, Xinyu Zhang, Zhaohua Chen, Xu Chu, Zhilin Zhang, Chuan Yu, Jian Xu, Bo Zheng, Xiaotie Deng

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正在与一位非常聪明、友好的机器人助手聊天。你向它提了一个问题，它开始键入一个有帮助的回答。但突然间，你想到：“这个机器人也能向我展示一个我可能真正想购买的产品广告吗？”

这正是论文 LERA 试图解决的问题。这就像试图在电影中插入一则广告，而不破坏故事情节。如果广告显得生硬、令人厌烦或无关紧要（比如在你谈论节食时展示披萨广告），它就会破坏体验。如果广告恰到好处，则人人受益：你获得有用的建议，公司赚取收入，而机器人依然保持乐于助人。

以下是论文如何用简单的类比来解释其解决方案：

问题：“太快”与“太慢”的两难困境

作者指出，当前在聊天机器人中展示广告的方法存在两大缺陷：

“极速搜索”方法：这就像一位图书管理员，仅根据书的封面或前几个字迅速抓取书籍。它速度极快，但管理员可能会在你实际询问“苹果”（科技公司）时，却递给你一本关于“苹果”（水果）的书。它忽略了细微差别。
“深度思考”方法：这就像要求图书管理员阅读图书馆里的每一本书，以找到最完美的匹配。它能找到最佳广告，但耗时太长，导致用户在等待中感到无聊。对每一次对话都这样做，成本太高且速度太慢。

解决方案：LERA（两阶段过滤器）

论文提出了 LERA，它就像一个针对广告的智能两步筛选流程。它并非立即选出优胜者，而是采用“漏斗”式方法。

第一阶段：“初稿”过滤器（极速搜索）

首先，系统使用一种快速、低成本的方法（称为“嵌入”）来扫描成千上万的广告商。

类比：想象你在寻找特定类型的鞋子。与其试穿店里所有的鞋子，不如先请一位快速助手从后台只拿出“跑鞋”。此时你并不关心颜色或品牌，只想将范围缩小到正确的鞋子“类型”。
发生的情况：系统迅速过滤掉 99% 不相关的广告，仅保留一个小型“候选名单”（可能是 5 到 10 个候选者）。

第二阶段：“专家评委”（深度思考）

现在，系统利用这个极小的候选名单，请超级智能的 AI（大语言模型）做出最终决定。

类比：既然桌上只剩下 5 双跑鞋，你便请一位时尚专家仔细审视它们。专家阅读你的聊天记录，理解你是否讨厌“鲜艳的颜色”，或者是否需要“额外缓冲”，然后选出那“唯一”完美的一双。
神奇之处：因为专家只需查看 5 双鞋而非 5000 双，他们可以非常迅速地完成任务。他们运用“大脑”（AI 的逻辑）来理解复杂的情况，例如“我说过不想吃辣”或“我正在从咖啡转向喝茶”。

付费规则：“公平价格”门票

论文还引入了一种向广告商收费的特殊方式。

类比：想象一场演唱会门票的竞价战。通常，获胜者支付其出价。但在 LERA 中，获胜者支付的是赢得胜利所需的最低出价。
原因：这确保了广告商的诚实。如果出价过低，他们会输掉；如果出价过高，他们就会支付超过必要的金额。这鼓励他们按照广告对他们而言的实际价值进行出价。系统通过考察两件事来计算这个“最低获胜价格”：进入“候选名单”（第一阶段）所需的价格，以及击败其他决赛选手（第二阶段）所需的价格。

结果：为何有效

作者在由 100 个虚构广告商和许多用户问题组成的模拟数据集上测试了该方法。

更高的准确性：与单独使用“极速搜索”方法相比，LERA 在挑选正确广告方面表现优异得多。它能理解棘手的问题，例如当用户说“我过去喜欢咖啡，但现在讨厌它，给我推荐茶”时。旧方法仍会展示咖啡广告，而 LERA 则展示茶。
更多样性：当用户请求三种不同的东西（例如零食、饮料和台灯）时，LERA 成功地为每种挑选了一个。旧方法往往因为三者看起来相似而陷入困境，只挑选了三种零食。
速度：即使包含“专家评委”步骤，该系统的速度也足以用于实时场景。它不会让用户等待太久。

一句话总结

LERA 就像俱乐部里一位精明的门卫。

首先，门卫快速检查身份证件，只让正确的一群人进入（第一阶段：快速过滤）。
然后，门卫审视这个小群体，选出那个与派对氛围完美契合的人（第二阶段：智能选择）。
最后，获准进入的人只需支付刚好足以覆盖通过门卫检查的成本，从而确保系统保持公平和诚实。

这种方法让聊天机器人能够展示感觉有帮助且自然的广告，而不是令人厌烦的干扰，同时不会拖慢对话速度。

技术摘要：LERA——面向生成式聊天机器人的广告拍卖的 LLM 增强型 RAG

问题陈述

将广告集成到基于大语言模型（LLM）的聊天机器人中，带来了独特的商业化挑战。与传统赞助搜索中广告占据预定义位置不同，聊天机器人广告需要决定是否以及如何将广告编织进生成的回复中。这需要一种机制来平衡三个相互竞争的因素：

相关性：广告必须与细微的用户意图、商业背景和动态对话流保持一致。
效率：拍卖和选择过程必须产生最小的延迟，以保持聊天交互的实时性。
真实性：该机制必须支持激励相容的竞价，确保广告商有动力按其真实的每次点击价值进行竞价。

现有方法面临显著的权衡。**“检索后生成”方法（例如 Hajiaghayi 等人 [9]）效率高，但仅依赖文本嵌入相似度，往往无法捕捉复杂的商业意图，导致重复插入或商业意图误判。“生成后检索”**方法利用 LLM 的上下文理解能力，但通常需要对每个查询进行多次推理传递，或对所有广告商进行评分，导致不可接受的延迟和推理成本。此外，在高吞吐量引擎（如 SGLang）中直接使用 LLM 的 logits 对所有候选者进行排序，由于需要对大量候选集进行并行预填充，会形成巨大的瓶颈。

方法论：LERA 框架

本文提出了LERA（用于广告拍卖的 LLM 增强型 RAG），这是一个两阶段的“检索后生成”拍卖框架，旨在将效率与语义深度解耦。

1. 两阶段分配过程

核心创新是一种混合评分机制，将昂贵的 LLM 计算限制在一个小的、经过预过滤的候选集中。

第一阶段：基于嵌入的粗略过滤
- 不使用原始用户查询，而是首先由 LLM 生成一组简洁的意图关键词（ $w$ ），总结用户的潜在需求。
- 将这些关键词进行嵌入，并使用归一化余弦相似度与广告商描述（ $d_i$ ）进行比较。
- 相关性得分由广告商的出价（ $b_i$ ）加权： $Score^{(1)}_i = \text{Norm}(\text{Similarity}(\text{Emb}(w), \text{Emb}(d_i))) \cdot b_i$ 。
- 前 $K$ 名广告商（ $K \ll N$ ）构成候选集 $S$ 。此阶段通过轻量级嵌入操作过滤掉绝大多数不相关的广告商，从而确保高吞吐量。
第二阶段：基于 LLM Logits 的精细排序
- 将原始查询 $x$ 、候选集 $S$ 和“不插入”选项（ $\phi$ ）呈现给 LLM。
- 提示 LLM 识别最合适的广告。系统不生成文本，而是提取候选标签（包括“不插入”选项）的logits。
- 这些 logits 通过 softmax 归一化，生成细化的有机相关性得分（ $s^{(2)}_j$ ）。
- 最终拍卖得分为 $Score^{(2)}_j = s^{(2)}_j \cdot b_j$ 。得分最高的候选者获胜。如果“不插入”选项获胜，则不显示广告。

2. 支付规则与激励相容性

为确保真实性，LERA 采用临界值支付规则。与标准第二价格拍卖不同，获胜者必须满足两个约束：进入第一阶段的前 $K$ 名候选集，并赢得第二阶段的排序。

获胜广告商 $i^*$ 的支付 $p_{i^*}$ 定义为：
$p_{i^*} = \max \left( \frac{Score^{(1)}_{(K+1)}}{s^{(1)}_{i^*}}, \frac{Score^{(2)}_{(2)}}{s^{(2)}_{i^*}} \right)$
其中：

$Score^{(1)}_{(K+1)}$ 是进入候选集所需的阈值得分。
$Score^{(2)}_{(2)}$ 是最终排序中的第二高分。
支付额是必须通过两个阶段的临界值中的最大值。

本文证明（命题 4.1），在点击结果与实现价值之间相互独立且先验估计无偏的假设下，该机制对效用最大化的广告商是激励相容的。

3. 扩展到多广告插入

该框架通过将回复划分为片段，扩展到动态对话流中。对于每个片段，拍卖以查询和回复前缀为条件。系统重新评估是否插入广告以及选择哪一个，从而确保多样性并避免重复类别的插入。

主要贡献

LERA 框架：一种新颖的两阶段拍卖机制，结合了基于嵌入检索的效率与基于 LLM 精细排序的语义深度，专门针对聊天机器人广告插入的约束进行了定制。
临界值支付规则：一种专为两阶段选择过程设计的支付机制，同时考虑了候选集进入阈值和最终阶段竞争，以确保真实性。
实证验证：全面的实验表明，LERA 在选择准确性和插入多样性方面优于仅基于嵌入和仅基于 LLM 的基线，同时保持了可控的延迟。

实验结果

实验在包含 100 个广告商和 8 个类别的合成基准上进行，使用了 Qwen 模型（4B、30B、235B）和 SGLang 进行高吞吐量推理。

选择准确性：在涉及复杂意图分析、自然意图转变和负面产品细化的单广告插入任务中，LERA 始终优于仅基于嵌入的基线。例如，使用 30B 模型时，LERA 实现了98.73%的整体准确率，而仅基于嵌入的基线仅为56.3%。
多广告多样性：在动态多广告场景中，LERA 显著提高了“查询满意度”（即满足请求类别的比例）。使用 235B 模型时，LERA 的满意度达到80.67%，而仅基于嵌入的基线仅为45.33%。
效率与准确性的权衡：
- LERA（仅 LLM），即使用 LLM logits 对所有广告商进行评分，虽然实现了高准确性，但由于并行预填充的要求，遭受了严重的吞吐量瓶颈。
- LERA 在保持高准确性的同时，与仅基于嵌入的基线相比，仅产生了可控的延迟开销，特别是在较低并发水平下。
- 消融研究表明，粗略过滤阶段（第一阶段）不仅对速度至关重要，而且通过减少 LLM 的噪声，提高了细粒度排序任务的效果。

意义与主张

本文将 LERA 定位为在 LLM 驱动的聊天机器人中部署基于拍卖的广告插入的实用步骤。其意义在于解决了语义相关性与系统吞吐量之间的紧张关系。

实用性：通过将 LLM 评分嵌入到吞吐量感知的两阶段机制中，LERA 使得在实时应用中使用 LLM logits 进行排序成为可能，避免了为所有候选者评分所带来的高昂成本。
商业可行性：该框架解决了生成式广告的具体挑战，例如避免重复插入和处理负面约束（例如“我不想要 X"），而这些往往是嵌入模型所忽略的。
理论依据：所提出的支付规则将外部性感知拍卖设计扩展到生成式设置中，确保即使广告的价值取决于生成回复的动态上下文，该机制仍能保持真实性。

作者承认局限性，指出结果依赖于合成数据集以及关于点击概率与实现价值之间独立性的理论假设。然而，他们断言 LERA 代表了一种可行的架构，能够在生成式 AI 新兴格局中平衡商业目标与用户体验。