Who Anchors AI Overviews in Health? Baidu, Google, and the Geography of Authority
Diese Studie prüft die KI-Übersichten von Google und Baidu in 12 Ländern und vier Sprachen und zeigt auf, dass beide Plattformen ihre eigenen Ökosysteme gegenüber vielfältigen Quellen priorisieren, geografische und linguistische Verzerrungen bei lokalen Zitaten aufweisen und Gesundheits-Disclaimer inkonsistent anwenden, wodurch die dringende Notwendigkeit einer kulturell bewussten Aufsicht über generative Suche in Gesundheitskontexten hervorgehoben wird.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Jeden Tag wenden sich Milliarden von Menschen an Suchmaschinen, um Antworten zu finden, doch wenn diese Antworten den Gesundheitszustand betreffen, geht es um Leben und Tod. Jahrzehntelang sahen Suchergebnisse wie eine Liste von Links aus, die den Nutzer dazu zwangen, sich durchzuklicken, um die Wahrheit zu finden. Vor Kurzem ist jedoch eine neue Art der Suche entstanden, die von künstlicher Intelligenz angetrieben wird. Anstatt einer Liste generieren diese Systeme direkt am oberen Bildschirmrand eine einzige, synthetisierte Antwort, indem sie Informationen aus dem gesamten Web zusammenführen, um ein Thema in einfacher Sprache zu erklären. Dieser Wandel verspricht zwar Zeitersparnis, konzentriert aber auch immense Macht in den Händen der Unternehmen, die diese Werkzeuge bauen. Wenn eine künstliche Intelligenz entscheidet, welche Fakten hervorgehoben und welche ignoriert werden, kann sie subtil beeinflussen, wie Menschen ihren Körper, ihre Behandlungen und ihre Entscheidungen verstehen. Die Frage ist nicht mehr nur, wie man Informationen findet, sondern wer darüber entscheidet, wie diese Informationen aussehen.
Ein Forscherteam des Dartmouth College machte sich daran zu untersuchen, wie diese neuen KI-Zusammenfassungen mit Gesundheitsfragen umgehen, wobei es sich speziell die zwei Giganten des Internets ansah: Google, das den Großteil der Welt dominiert, und Baidu, die primäre Suchmaschine für China. Sie wollten herausfinden, ob die Antworten, die eine Person erhält, davon abhängen, welches Unternehmen sie nutzt, wo sie lebt oder welche Sprache sie spricht. Zu diesem Zweck führten sie fast zweitausend Gesundheitsanfragen in zwölf verschiedenen Ländern und vier Sprachen durch. Sie stellten Fragen zu allem Möglichen, von häufigen Erkrankungen wie Diabetes bis hin zu komplexeren oder kulturell spezifischeren Themen wie der Traditionellen Chinesischen Medizin. Durch den direkten Vergleich der Ergebnisse kartierten sie, woher die Informationen stammten und wie die Systeme entschieden, was angezeigt wurde.
Die Forscher fanden heraus, dass sowohl Google als auch Baidu dazu neigen, Nutzer in ihre eigenen Unternehmensökosysteme zu leiten, anstatt eine vielfältige Mischung aus unabhängigen Quellen zu bieten. Bei Google war die am häufigsten zitierte Quelle für Gesundheitsfragen YouTube, eine Videoplattform, die dem Mutterkonzern von Google gehört. Dies war überraschend, da etablierte medizinische Autoritäten wie die Mayo Clinic oder die Weltgesundheitsorganisation in diesen Zusammenfassungen seltener auftauchten. Bei Baidu waren die wichtigsten Quellen die eigene Enzyklopädie und Gesundheitsplattformen des Unternehmens sowie eine spezifische unabhängige medizinische Seite namens Bohe. In beiden Fällen bezog die KI nicht aus einem breiten, neutralen Pool der besten medizinischen Ratschläge des Internets. Stattdessen stützte sie sich stark auf Inhalte, die innerhalb der digitalen Mauern des jeweiligen Unternehmens existierten. Dies schafft eine Situation, in der die Autorität der Antwort weniger von der medizinischen Qualifikation der Quelle abhängt, sondern vielmehr von den Algorithmen, die entscheiden, welche Videos oder Artikel aufgerufen werden.
Die Geografie spielte eine massive Rolle dabei, welche Informationen die Menschen erhielten. Wenn die Forscher dieselben Gesundheitsfragen auf Englisch aus verschiedenen Ländern stellten, variierten die Ergebnisse je nach Standort erheblich. Nutzer in großen, etablierten Märkten wie den USA, dem Vereinigten Königreich, Australien und Kanada erhielten Antworten, die lokale Gesundheitseinrichtungen zitierten. Personen in kleineren oder weniger lokalisierten Märkten, wie etwa in Nigeria, Indien oder Singapur, erhielten jedoch weitaftergehend Antworten, die amerikanische oder internationale Organisationen zitierten, selbst wenn sie nach lokalen Gesundheitsthemen fragten. Die Studie zeigte, dass kleinere Länder signifikant weniger Verweise auf ihre eigenen inländischen Gesundheitssysteme erhielten. Es scheint, dass die KI für diese Regionen auf einen globalen Standard zurückgreift und dabei potenziell lokale Experten, Regulierungen oder kulturelle Nuancen übersieht, die für die dort lebenden Menschen von Bedeutung sind.
Die Sprache erwies sich als ein noch stärkerer Schalter als die Geografie. Wenn die Forscher dieselben Fragen in der Amtssprache eines Landes statt auf Englisch stellten, änderten sich die Antworten drastisch. In Ländern wie Japan, Südkorea und Malaysia erhöhte der Wechsel von Englisch zur Lokalsprache den Anteil der lokal bezogenen Zitate um das Drei- bis Dreizehnfache. Das bedeutet, dass eine Person, die Gesundheitsratschläge in ihrer Muttersprache sucht, viel wahrscheinlicher Informationen aus ihrem eigenen Land erhält, während die Suche auf Englisch sie oft weg von lokalen Ressourcen führt. Dies deutet darauf an, dass die Sprache, die eine Person zu tippen wählt, unbeabsichtigt bestimmen kann, ob sie den Rat ihres örtlichen Arztes oder die einer fernen internationalen Autorität sieht.
Die Studie untersuchte auch, wie diese Systeme mit sensiblen oder kulturell spezifischen Themen umgehen, wobei die Traditionelle Chinesische Medizin als Testfall diente. Hier gingen die beiden Plattformen in ihrem Ansatz auseinander. Google war weniger geneigt, für diese Anfragen überhaupt eine KI-Zusammenfassung zu generieren, was möglicherweise auf Vorsicht bei Themen hindeutet, bei denen der medizinische Konsens umstritten ist. Wenn es dennoch eine Antwort lieferte, gab es mehr Zitate an. Baidu hingegen war eher bereit, eine Antwort zu generieren, und unterstützte die Praktiken der Traditionellen Chinesischen Medizin stärker, enthielt jedoch gleichzeitig deutlichere Sicherheitshinweise. Dies zeigt, dass die „Vorsicht“ einer KI keine einzelne Einstellung ist, sondern eine komplexe Mischung aus Tonfall, der Anzahl der zitierten Quellen und der Bereitschaft, überhaupt eine Antwort zu generieren. Die Forscher merkten an, dass Baidu zwar diese kulturellen Praktiken stärker unterstützte, aber auch die Zeit nahm, die Nutzer vor Sicherheitsrisiken zu warnen, was zeigt, dass Befürwortung und Vorsicht in diesen Systemen koexistieren können.
Letztendlich zeigt diese Forschung, dass die künstliche Intelligenz, die unsere Gesundheitsentscheidungen leitet, kein neutraler Beobachter ist. Sie wird durch das Unternehmen geformt, das sie gebaut hat, durch das Land, das sie bedient, und durch die Sprache, die bei der Fragestellung verwendet wird. Die Quellen, denen sie vertraut, sind oft jene, die sie selbst besitzt oder die im Englischen am sichtbarsten sind. Für Millionen von Menschen bedeutet dies, dass der Weg zu Gesundheitsinformationen nicht für jeden derselbe ist. Da diese Werkzeuge immer häufiger zum Einsatz kommen, legt die Studie nahe, dass wir uns dieser verborgenen Voreingenommenheiten bewusst sein müssen. Die Art und Weise, wie eine Suchmaschine aufgebaut ist, kann darüber entscheiden, ob eine Person einen lokalen Experten oder ein fernes Unternehmen sieht – und in Gesundheitsfragen kann dieser Unterschied tiefgreifend sein.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.