🤖 AI

Position: Generative Engine Optimization Creates Underexamined Risks, Governance Must Target Concentration, Disclosure, and Academic Blind Spots

本立场文件认为，从传统搜索向生成式答案引擎的转变引入了尚未得到充分研究的风险，包括影响力的集中、未披露的商业偏见以及学术与工业界的盲点，因此有必要建立一种侧重于可争辩性、透明披露和部署对齐审计的新型治理机制。

原作者： Yizhu Wen, Nan Zhang, Haohan Yuan, Xun Chen, Haopeng Zhang, Hanqing Guo

发布于 2026-06-12

📖 1 分钟阅读☕ 轻松阅读

原作者： Yizhu Wen, Nan Zhang, Haohan Yuan, Xun Chen, Haopeng Zhang, Hanqing Guo

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

以下是该论文的解释，采用了简单的语言和日常类比。

大局观：从“搜索列表”到“智能摘要”

想象一下，你以前会问图书管理员：“关于园艺最好的书有哪些？”管理员会递给你一叠卡片（搜索引擎结果页面）。你会翻看这叠卡片，看看哪些贴着“赞助”标签，然后由你自己决定读什么。

现在，想象这位图书管理员变成了一位超级聪明的 AI 助手。AI 不再给你一叠卡片，而是阅读了几本书，思考了一下，然后递给你一份完美的单一摘要，其中包含了三本特定的书籍推荐。你信任这份摘要，因为它听起来如此自信且乐于助人。

这种转变是这篇论文的核心。我们正在从查看列表（传统搜索）转向信任合成答案（生成式 AI）。

什么是“GEO”？（新的游戏规则）

在过去，公司玩的是 SEO（搜索引擎优化）。他们试图让自己的网站看起来很出色，以便出现在那叠卡片的顶部。

现在，公司正在玩 GEO（生成式引擎优化）。他们不仅仅是想出现在列表中，他们还试图**“黑进” AI 的大脑**。他们希望确保当 AI 阅读其“证据”时，会选中他们的书，并将其放入最后给你的摘要中。

论文指出，已经出现了一个专门从事这项工作的全新行业，并为此收取费用。像 AirOps 和 ProFound 这样的公司正在销售服务，帮助品牌获得 AI 的提及。

三个隐藏的危险

作者表示，这个新系统创造了三个我们尚未充分思考的特定风险：

1. “临界点”问题（影响力的集中化）

类比： 想象一座巨大的水坝挡住了河流。如果你只是轻微地、几乎察觉不到地推了一下大坝，整个河流可能会突然改变方向，淹没另一座城镇。
风险： AI 回答引擎非常敏感。AI 发现的“证据”中哪怕是一个微小的变化（比如在博客文章中添加几个特定的词），都可能导致 AI 完全改变其推荐。因为数百万人都在使用同一个 AI，一家公司的微小手段可能会突然让所有人都看到同样的推荐，从而淹没了所有其他选项。这个系统非常脆弱，微小的变化会产生巨大的、集中的效应。

2. “隐形广告”问题（未披露的商业影响）

类比： 想象你问一位朋友，“有什么好的餐厅吗？”朋友说，“我听说那里很棒。”你认为这是一个真诚的意见。但实际上，你的朋友收了 50 美元来这么说，而且他并没有告诉你。
风险： 在传统搜索中，广告会被清晰地标记为“赞助”。但在 GEO 中，“广告”被隐藏在 AI 使用的证据之中。AI 可能会说，“最好的保湿霜是品牌 X”，因为它读到了一篇由品牌 X 为了欺骗 AI 而秘密撰写的博客文章。AI 认为自己是在提供中立的建议，但它实际上是在阅读一篇隐蔽的广告。在“有用的事实”与“付费推广”之间的界限已经消失了。

3. “实验室 vs 现实”的盲点（学术与工业的差距）

类比： 想象科学家们正在一个安静、空旷的停车场（学术界）测试一辆新车。他们测量车速和刹车性能。与此同时，汽车公司正驾驶着同一辆车在混乱、多雨且交通拥堵的城市（工业界）中行驶。
风险：

学术界（实验室）： 研究人员使用受控计算机实验室中的虚假、静态数据来研究 GEO。他们检查 AI 是否在测试中选择了正确答案。
工业界（城市）： 真实的 GEO 公司在实时、混乱的互联网上运作。他们根据 AI 在现实世界中的实际表现，不断调整自己的策略。
盲点： 因为研究人员观察的是“停车场”版本，所以他们错过了在“城市”中发生的真实危险。他们看不到公司如何随着时间的推移操纵 AI，也看不到当 AI 真正被数百万人使用时，其行为是如何变化的。

这篇论文希望我们做什么？

作者并不是说我们要禁止 AI 或 GEO。他们是在说我们需要新的规则来解决这些特定的问题：

展示你的过程： AI 应该被迫向我们展示它为什么选择了特定的答案。如果它推荐了一款产品，我们应该能够看到它使用的证据列表，并知道这些证据是否是付费购买的。
清晰的标签： 如果一个答案受到了商业交易的影响，AI 应该在答案上直接标注“赞助”或“付费”，而不仅仅是在链接上标注。
现实世界测试： 研究人员不能只在实验室里测试。他们需要在 AI 实际运行的现实世界中对其进行审计，以观察它的真实行为。
“黑箱”审计： 监管机构和独立团体需要拥有“探测” AI 的权力，通过提问来观察它是否正在被操纵，即使他们看不见 AI 的内部代码。

总结

论文警告说，随着我们越来越依赖 AI 来提供答案，一种新型的“隐形广告”正在出现。公司正在悄悄地训练 AI 推荐他们的产品，由于 AI 隐藏了其来源，我们并不知道这是在发生。作者呼吁加强透明度、明确标签以及现实世界测试，以保持系统的公平与可信。

技术摘要：生成式引擎优化带来的未被充分研究的风险

1. 问题陈述

本文探讨了生成式引擎优化（Generative Engine Optimization, GEO）的兴起，这是一种旨在通过优化内容来影响大语言模型（LLM）答案引擎所生成的合成答案的行为。与针对排名链接列表的传统搜索引擎优化（SEO）不同，GEO 针对的是检索增强生成（RAG）系统的证据池和生成过程。

作者指出一个关键性的差距：现有的治理框架和学术评估指标是为传统的搜索或静态 RAG 基准设计的。它们未能考虑到 LLM 答案引擎的独特动态性——在这些系统中，可见度是由合成答案而非排名列表决定的。这种不透明性造成了三个未被充分研究的风险：

集中的影响力： 由于系统的敏感性和低可争辩性，检索过程中的微小变化可能会大规模地重新引导注意力。
未披露的商业影响： 商业推广被嵌入在检索到的证据和模型的推理之中，而非被标记为广告。
学术与工业的盲点： 线下学术评估与已部署的工业实践之间存在分歧，导致无法检测到现实世界的优化效应。

2. 研究方法

本文采用了形式化与对比分析的方法：

2.1. GEO 流程的形式化

作者定义了一个通用的 GEO 流程，由三个模块组成：

LLM 模块： 根据用户查询生成建议。
搜索流模块： 通过预索引的语料库（通过爬虫/索引）检索证据，利用候选检索（如关键词匹配）和细粒度排序（如嵌入相似度）来选择前 $k$ 个文档作为上下文。
GEO 模块： 分发优化后的内容以影响检索和排序。这涉及两种机制：
- 检索增强消息 ( $b$ )： 设计旨在增加与潜在用户查询语义相似度的内容，以确保被纳入候选集。
- 排序偏移消息 ( $c$ )： 一旦被纳入上下文，旨在影响 LLM 对目标话题的排序或框架描述的内容。

作者将 GEO 建模为一个联合优化问题：

目标： 最大化效用 $U(q, t; C(q))$ ，其中 $t$ 是目标话题， $q$ 是查询， $C(q)$ 是前 $k$ 个上下文。
约束： 内容长度和与用户查询的语义相似度。

2.2. 对比分析

本文从多个维度对比了学术界与工业界的 GEO 实践：

假设： 学术界通常假设优化后的内容已存在于候选检索集中（仅关注排序偏移器），而工业界则在需要检索增强器和排序偏移器进行联合优化的动态环境中运行。
优化方法： 学术界使用诸如贪婪坐标梯度（GCG）、带剪枝的攻击树（TAP）以及基于 LLM 的静态数据集重写技术。工业界则使用 LLM 引导的内容生成、查询覆盖扩展以及在实时系统上的多平台分发（如 Reddit、论坛）。
评估： 学术界依赖于基于合成或静态语料库的线下指标（Recall@k, nDCG@k）。工业界则使用源自已部署系统重复查询的在线、结果导向型指标（答案可见度、引用频率、排名位置）。

2.3. 通过不对称性识别风险

通过分析学术模型与工业现实之间的分歧，作者识别了特定的风险向量。他们还引用了一项小规模敏感性测试（附录 B），证明了在已部署模型（如 Gemini）中，查询措辞的微小变化会导致完全不同的引用集，从而凸显了系统级的敏感性。

3. 核心贡献

GEO 的形式化： 本文提供了第一个通用的 GEO 流程，将 GEO 形式化为检索能力与排序影响的联合优化，并区分了检索增强器与排序偏移器。
识别三大风险集群：
- 集中的影响力： 本文认为，由于流程不透明和“算法单调性”，检索层面的微小变化可能导致整个生态系统可见度的剧烈波动，从而削弱用户的可争辩性。
- 未披露的商业影响： 文中强调了 GEO 如何通过将商业意图嵌入看似中立的证据和推理中，绕过传统的广告披露机制（如 FTC 的“广告”标签），从而创造出一种逆向选择动态。
- 学术与工业的盲点： 本文证明了线下基准测试无法捕捉跨平台的内容注入、查询覆盖扩展以及在实时系统中持续存在的曝光。
治理框架： 作者提出了一套治理与审计行动，包括：
- 答案级披露： 当引用的证据反映了实质性的商业关联时，要求进行标注。
- 黑盒审计： 通过重复查询和日志记录来衡量曝光的持久性和敏感性。
- 评估改革： 更新基准测试，使其包含与部署对齐的指标，如引用份额和随时间变化的曝光度。

4. 结果与观察

行为转变： 数据显示，信息寻求和产品研究正迅速从传统搜索转向 LLM 答案引擎（例如，60% 的美国成年人使用 AI 进行信息查找）。
实践分歧： 工业界的 GEO 系统比学术模型更为复杂，利用动态、多平台的策略，而学术界的静态基准无法模拟这些策略。
敏感性： 实证观察表明，LLM 答案引擎对查询改写高度敏感，对于语义等价的查询，不同模型（及版本）会检索出完全不同的证据。
市场现状： 存在着商业化的 GEO 市场（如 AirOps, ProFound），并获得了大量资金支持，但在实现细节方面透明度极低。

5. 重要性与主张

本文将自己定位为对答案级治理与测量的呼吁。其重要性在于：

重构风险： 将关注点从“排名操纵”（SEO）转向“合成操纵”（GEO），即风险在于将商业影响嵌入到推理过程本身之中。
弥合差距： 强调由于“线下 vs. 已部署”的不对称性，目前的学术研究不足以理解现实世界的 GEO 风险。
政策启示： 认为现有的透明度规范（如链接归因）对于 LLM 而言是不够的。本文声称，如果没有特定的干预措施——例如对合成答案中商业影响的高精度披露以及对实质性影响的黑盒审计——用户和监管机构将无法有效地对 LLM 的推荐进行质疑或理解。

作者保持了克制的语气，指出虽然存在良性的 GEO（提高事实清晰度），但缺乏约束的情况允许恶意行为者破坏信任。他们并非提出一种特定的技术防御手段（如新的 RAG 架构），而是倡导通过治理框架（审计、披露和更新指标）来管理当前 LLM 答案引擎发展轨迹所带来的风险。