← 最新论文
💻 computer science

Category-Conditioned Web Exposure Tracks Brand Presence in ChatGPT Fanout Queries

这项研究揭示,ChatGPT 在选择初始网络搜索展开查询的品牌时,是由一种受特定类别网络存在感影响的有限排名过程所驱动,而非仅仅取决于品牌知名度,这一点从尽管模型已知某些知名品牌但它们却经常被忽略的事实中得到了证实。

原作者: Antony Deroshan

发布于 2026-09-28
📖 1 分钟阅读☕ 轻松阅读

原作者: Antony Deroshan

原始论文采用 CC BY 4.0 许可(https://creativecommons.org/licenses/by/4.0/)。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明

当你向一个现代的、联网的人工智能询问最好的相机或顶尖的项目管理工具时,这台机器并不仅仅是扫描网页并挑选出它找到的前几个结果。在它查看任何网页之前,AI 就会先写出自己的搜索查询语句。这个在瞬间生成的初稿,通常会包含像佳能(Canon)或索尼(Sony)这样特定的品牌名称。这一过程发生在任何人类或计算机看到实际搜索结果之前。机器本质上是在预先决定它愿意讨论哪些公司。这个早期的决定至关重要,因为搜索引擎随后会寻找关于这些特定品牌的页面,从而使它们更有可能出现在最终答案中。如果一个品牌被遗漏在第一份草稿中,那么它几乎是隐形的,即使机器知道这个品牌的存在。

这引发了一个让任何试图理解这些系统运作方式的人都感到困惑的问题:如果 AI 知道某个品牌,为什么它有时会在第一份草稿中将其遗漏?是机器忘记了这个品牌,还是它做出了刻意的选择?独立研究员安东尼·德罗尚(Antony Dernechan)的一项新研究调查了这一确切的决策时刻。该研究专注于一种可以搜索网络的特定类型人工智能,观察它如何选择在其初始搜索请求中包含哪些公司名称。这项研究探讨了机器是仅仅不知道某些品牌,还是根据某种隐藏规则主动过滤掉了它们。研究结果表明,机器非常清楚这些品牌,但由于它在列举名称时受到严格限制,被迫将其遗漏。

为了理解其中的机制,研究人员首先需要将机器“知道什么”与它“选择说什么”区分开来。他要求 AI 在关闭互联网访问的情况下,列出电子邮件营销、客户服务软件和相机等领域的领先品牌。机器能够说出许多品牌,包括一些在实际搜索网络时很少提及的品牌。例如,当被问及电子邮件营销领域有哪些品牌时,机器在 50 次尝试中有 49 次提到了“Campaign Monitor”。然而,当同一台机器被要求进行关于最佳电子邮件营销工具的实时搜索时,它在初始搜索查询中仅有 1 次在 50 次中包含了“Campaign Monitor”。机器显然知道这个品牌,但它却一致地在搜索请求中忽略了它。这种知识与行动之间的差距证明了遗漏并非记忆失败。

研究人员随后建立了一个模拟实验来弄清楚为什么会发生这种情况。他创建了一个可以编写搜索查询但不能查看任何真实网站的 AI 模拟器。他通过要求模拟器在不同的约束条件下列出品牌来测试这个模拟器。当他告诉模拟器写一个非常短的查询时,它丢弃了与真实机器相同的品牌。但当他告诉模拟器尽可能多地列出品牌时,它包含了所有品牌,包括那些通常被遗漏的品牌。这揭示了机器排除品牌并不是因为它不喜欢它们或不知道它们;而是因为它有一个紧凑的预算,即在单个句子中可以容纳多少个名称。这台机器本质上是一个只有一份很短清单要写的图书管理员。如果清单只能容纳三个名字,它就会挑选前三个,而第四好的品牌,无论多么有名,都会被完全从名单中剔除。

研究还观察了哪些因素决定了哪些品牌能进入这份短名单。研究人员发现,一个品牌在互联网上出现的频率与其特定类别之间的关系,与其在机器内部列表中的排名之间存在强关联。例如,如果一个相机品牌经常出现在同时讨论相机的网站上,那么它就更有可能被包含在搜索查询中。然而,这只有在计数是针对特定类别时才有效。一家生产多种不同产品的公司(如一家既卖相机又卖手机和电脑的巨头科技公司)可能会出现在数百万个网站上。如果计算每一次提及,这家公司看起来可能就是最受欢迎的相机品牌。但如果你只计算那些专门提到相机的网站,另一个品牌可能实际上更为突出。研究表明,机器关注的是这种特定于类别的流行度。它根据品牌在特定领域内的可见度而非仅仅是公司的整体知名度来进行排名。

为了测试这种模式是否适用于新类别,研究人员将同样的方法应用于电子签名软件,这是一组他之前未研究过的品牌。他测量了每个品牌在与签署文件相关的网站上出现的频率,并将其与机器在模拟搜索列表中包含这些品牌的频率进行了比较。结果几乎完全吻le。在相关网站上出现次数最多的品牌,正是机器在短名单中选择包含的品牌。这表明机器的内部排名与品牌在网络上的呈现方式有着深刻的联系,特别是针对所提出的问题的语境。机器并不是在凭空创造这些偏好;它是在反映它从互联网学到的信息结构。

研究还排除了其他几种可能的解释。研究人员测试了机器在阅读文本时是否简单地更偏好某些品牌,而不考虑搜索查询。在一项测试中,机器看到了三个描述完全相同的虚构公司,只是品牌名称不同。它一致地选择了其中一个品牌,显示出轻微的偏好。然而,这种偏好并不符合它为搜索查询所选的品牌。机器在阅读描述时可能会喜欢某个品牌,但在决定搜索什么时会选择不同的品牌。这证明了将品牌纳入搜索查询的决策是一个独立的流程,而非仅仅是对品牌名称的喜爱。研究还检查了删除低质量或重复网站是否会改变结果。结果并没有。即便在清理数据后,网络可见性与机器选择之间的联系依然保持强劲。

最后,这项研究清晰地描绘了这些具备搜索功能的机器是如何运作的。它们不是随机生成文本的生成器,也不是简单地列出所发现一切内容的搜索引擎。它们是进行一系列受限选择的系统。它们拥有海量的知识,但当需要向互联网提问时,必须将这些知识压缩成一份极短的清单。那些脱颖而出的品牌不仅要广为人知,还要在特定问题的语境下具有高度的可见性。对于一个品牌而言,要被这些系统看到,仅仅存在是不够的;它必须在正确的对话中占据显著地位。机器的第一份草稿是一个守门人,而通过这道门的钥匙不仅在于知名度,更在于成为针对特定话题的最具相关性的选项。这一洞察改变了我们看待人工智能时代可见度的方式,将重点从仅仅在网上“存在”转向了如何“明确且具体地与人们提出的问题相关联”。

您所在领域的论文太多了?

获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。

试用 Digest →