Who Anchors AI Overviews in Health? Baidu, Google, and the Geography of Authority
这项研究审计了谷歌（Google）和百度在12个国家及四种语言中的AI概览（AI Overviews），揭示了这两个平台都优先考虑自身的生态系统而非多样化的来源，在本地引用方面表现出地理和语言偏见，并且对健康免责声明的应用并不一致，从而凸显了在健康语境下对生成式搜索进行具备文化意识的监管的紧迫性。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
每天，数十亿人通过搜索引擎寻找答案，但当这些答案涉及健康时，其后果关乎生死。几十年来，搜索结果看起来就像是一系列链接，要求用户点击进入以寻找真相。然而，最近出现了一种由人工智能驱动的新型搜索。这些系统不再仅仅提供列表，而是在屏幕顶端生成一个综合性的单一答案，通过整合网络上的信息，用通俗易懂的语言来解释一个主题。这种转变有望节省时间，但也把巨大的权力集中在了构建这些工具的公司手中。如果人工智能决定强调哪些事实以及忽略哪些事实，它就能微妙地塑造人们对自身身体、治疗方法及选择的理解。问题不再仅仅是寻找信息，而是谁有权决定这些信息的呈现方式。
达特茅斯学院的一个研究小组致力于调查这些新型 AI 摘要如何处理健康问题，特别关注了互联网上的两大巨头：统治全球的大多数地区的谷歌（Google），以及作为中国主要搜索引擎的百度（Baidu）。他们想看看一个人接收到的答案是否取决于他们使用哪家公司、居住在哪里或使用哪种语言。为此，他们在 12 个不同国家和 4 种语言环境下运行了近两千个健康查询。他们提出的问题涵盖了从糖尿病等常见疾病到更复杂或具有文化特定性的主题，如中医。通过对结果进行并排对比，他们绘制出了信息的来源路径，以及这些系统是如何决定展示哪些内容的。
研究人员发现，谷歌和百度都倾向于将用户引导至各自的企业生态系统，而非多样化的独立来源。在谷歌上，被频繁引用的健康答案来源是 YouTube——这是一个由谷歌母公司拥有的视频平台。这令人惊讶，因为像梅奥医学中心（Mayo Clinic）或世界卫生组织（WHO）这样权威的医疗机构在这些摘要中出现的频率较低。在百度上，顶级来源是其自身的百科全书和健康平台，以及一个名为“包括”的特定独立医疗网站。在这两种情况下，AI 并不是从互联网广泛且中立的最佳医疗建议库中提取信息，而是严重依赖于存在于公司自身数字围墙内的内容。这造成了一种情况：答案的权威性不再取决于来源的医学资历，而更多取决于决定展示哪些视频或文章的算法。
地理位置在人们接收到的信息方面起到了巨大的作用。当研究人员在不同国家使用英语提出相同的健康问题时，结果因地理位置的不同而大相径庭。在美、英、澳、加等大型成熟市场，用户收到的答案会引用当地的医疗机构。然而，在尼日利亚、印度或新加坡等规模较小或本地化程度较低的市场，即使是在询问当地健康问题时，用户也更有可能收到引用美国或国际组织信息的答案。研究表明，较小的国家收到的来自其国内医疗系统的引用显著减少。对于这些地区而言，AI 似乎默认采用全球标准，从而可能忽视了对当地居民至关重要的本土专家、法规或文化细微差别。
语言被证明是一个比地理位置更强的切换开关。当研究人员使用一个国家的官方语言而非英语提问时，答案发生了剧烈变化。在日、韩、马等国，从英语切换到当地语言，会导致引用本地来源的比例增加三到十三倍。这意味着，一个人使用母语搜索健康建议时，更有可能获得来自其本国医疗系统的信息；而使用英语搜索时，则往往会被引导远离本地资源。这表明，一个人选择使用的语言可能会在无意中决定其看到的是当地医生的建议，还是远方国际权威机构的观点。
该研究还观察了这些系统如何处理敏感或具有文化特定性的主题，并以中医作为测试案例。在此案例中，两个平台采取了不同的方式。谷歌不太可能针对这些查询生成 AI 摘要，或许是对医学共识存在争议的主题表现出谨慎。当它生成回答时，提供的引用较多。百度则更愿意生成答案，并且对中医实践持支持态度，但同时也包含了更明确的安全警告。这表明，AI 的“谨慎”并非单一的设置，而是结合了语气、引用来源数量以及生成答案意愿的复杂混合体。研究人员指出，虽然百度更支持这些文化实践，但它也抽时间向用户发出安全警告，显示出支持与谨慎可以在这些系统中并存。
最终，这项研究揭示了引导我们健康决策的人工智能并非中立的观察者。它受到构建它的公司、它所服务的国家以及提问时所用语言的影响。它所信任的来源通常是它所拥有的，或者是那些在英语环境下最为显眼的来源。对于数百万人来说，这意味着获取健康信息的路径对每个人并不相同。随着这些工具变得越来越普遍，研究表明，我们需要意识到这些隐藏的偏见。搜索引擎的构建方式可以决定一个人看到的是当地专家还是远方的企业，而在健康问题上，这种差异可能是深远的。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。