Who Anchors AI Overviews in Health? Baidu, Google, and the Geography of Authority
この研究は、12カ国と4つの言語にわたってGoogleとBaiduのAI Overviewsを監査し、両プラットフォームが多様な情報源よりも自らのエコシステムを優先し、現地の引用において地理的および言語的なバイアスを示し、かつ健康に関する免責事項を不整合に適用していることを明らかにしており、それによって、健康に関連する文脈における生成型検索に対する、文化的に配慮した監視の緊急性を浮き彫りにしている。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
毎日、何十億もの人々が答えを見つけるために検索エンジンを利用していますが、その答えが健康に関するものである場合、その成否は生死に関わる問題となります。数十年の間、検索結果はリンクのリストのような形式であり、ユーザーは真実を見つけるためにクリックしてサイトを巡る必要がありました。しかし最近、人工知能によって駆動される新しい形の検索が登場しました。リスト形式ではなく、これらのシステムは、ウェブ全体から情報を集約し、トピックを平易な言葉で説明する、単一の合成された回答を画面の最上部に生成します。この変化は時間の節約を約束する一方で、これらのツールを構築する企業の手に、計り知れない力を集中させることにもなります。もし人工知能が、どの事実を強調し、どの事実を無視するかを決定するとしたら、それは人々が自分の体や治療、そして選択肢をどのように理解するかを、密かに形作ってしまう可能性があります。問いはもはや、単に情報を探すことではなく、「その情報がどのような姿になるかを誰が決めるのか」という点に移っているのです。
ダートマス大学の研究チームは、これらの新しいAI要約が健康に関する質問をどのように扱うかを調査するために、インターネットの二大巨頭、すなわち世界の大半を支配するGoogleと、中国の主要な検索エンジンであるBaidu（百度）に焦点を当てて調査を行いました。彼らは、ユーザーが受け取る回答が、どの企業を使用するか、どこに住んでいるか、あるいはどの言語を話すかによって依存するのかどうかを調べたいと考えました。これを行うために、彼らは12カ国4言語にわたって、2,000件近い健康に関するクエリを実行しました。糖尿病のような一般的な疾患から、中医学（伝統的な中国医学）のような、より複雑で文化的に特有なトピックまで、あらゆる質問を投げかけました。結果をサイドバイサイドで比較することで、情報の出所を特定し、システムが何を提示するかをどのように決定しているのかを明らかにしました。
研究者たちは、GoogleとBaiduの両方が、多様な独立したソースよりも、自社のコーポレート・エコシステムへとユーザーを誘導する傾向があることを発見しました。Googleでは、健康に関する回答の最も頻繁に引用されるソースは、Googleの親会社が所有する動画プラットフォームであるYouTubeでした。これは、メイヨー・クリニックや世界保健機関（WHO）のような確立された医学的権威が、これらの要約にはあまり登場しないことを考えると驚くべきことでした。Baiduでは、自社の百科事典やヘルスケア・プラットフォーム、および「Bohe」と呼ばれる特定の独立した医療サイトが主なソースとなっていました。どちらの場合も、AIはインターネット上の最良の医学的助言という広範で中立的なプールから情報を引き出しているのではなく、その企業のデジタル的な壁の中に存在するコンテンツに強く依存していました。これにより、回答の権威は、ソースの医学的な資格よりも、どの動画や記事を表面化させるかを決定するアルゴリズムに依存するという状況が生じています。
地理的な要因は、人々が受け取る情報に極めて大きな役割を果たしていました。研究者が英語で同じ健康に関する質問を行った際、場所によって結果は大きく異なりました。アメリカ、イギリス、オーストラリア、カナダといった確立された大規模市場のユーザーは、地元の保健機関を引用する回答を受け取りました。しかし、ナイジェリア、インド、シンガポールのような、より小規模またはローカライズされていない市場の人々は、地元の健康問題について尋ねている場合でも、アメリカや国際的な組織を引用する回答を受け取る可能性がはるかに高くなっていました。研究は、これらの地域において、国内の保健システムからの参照が著しく少ないことを示しました。これらの地域に対して、AIはグローバルな標準をデフォルトとして採用しており、そこに住む人々にとって重要な地元の専門家、規制、あるいは文化的ニュアンスを見落としている可能性があるようです。
言語は、地理よりもさらに強力な切り替えスイッチであることが判明しました。研究者が、その国の公用語で同じ質問を行ったとき、回答は劇的に変化しました。日本、韓国、マレーシアなどの国々では、英語から現地の言語に切り替えることで、現地に由来する引用の割合が3倍から13倍に増加しました。これは、母国語で健康に関するアドバイスを検索している人は、自国の保健システムからの情報を得る可能性がはるかに高い一方で、英語で検索すると、地元のリソースから遠ざけられることが多いことを意味しています。このことは、人が選ぶ言語が、意図せずして、地元の医師からの助言を見るか、遠く離れた国際的な権威からの助言を見るかを決定してしまう可能性があることを示唆しています。
また、この研究は、中医学をテストケースとして用い、これらのシステムがどのように機微な、あるいは文化的に特有なトピックを扱うかについても調査しました。ここで、両プラットフォームのアプローチは分かれました。Googleは、医学的な合意形成が議論されているトピックに対しては、AI要約を生成すること自体を控える傾向があり、おそらく慎重な姿勢を示しました。要約を生成した場合でも、より多くの引用を提供しました。一方、Baiduは、回答を生成することにより積極的であり、中医学の慣習をより支持していましたが、同時に明確な安全警告も含んでいました。これは、AIの「慎重さ」が単一の設定ではなく、トーン、引用されるソースの数、そしてそもそも回答を生成しようとする意志といった、複雑な混合物であることを示しています。研究者は、Baiduがこれらの文化的慣習を支持しながらも、ユーザーに対して安全に関する警告を行う時間を設けており、支持と慎重さがこれらのシステムの中で共存できることを指摘しました。
結局のところ、この研究は、私たちの健康上の決定を導いている人工知能が、中立的な観察者ではないことを明らかにしています。それは、それを構築した企業、それがサービスを提供している国、そして質問に使用される言語によって形作られています。AIが信頼するソースは、多くの場合、その企業が所有しているもの、あるいは英語において最も目立つものです。何百万もの人々にとって、これは、健康への情報の経路が全員に対して同一ではないことを意味します。これらのツールが一般的になるにつれ、この研究は、私たちにこうした隠れたバイアスを認識する必要があると示唆しています。検索エンジンがどのように構築されているかが、人が地元の専門家を見るか、遠く離れた企業を見るかを決定することになり、健康の問題においては、その違いが重大な影響を及ぼし得るのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。