Who Anchors AI Overviews in Health? Baidu, Google, and the Geography of Authority
Deze studie auditeert de AI-overzichten van Google en Baidu in 12 landen en vier talen, waarbij wordt onthuld dat beide platforms hun eigen ecosystemen boven diverse bronnen prioriteren, geografische en taalkundige vooroordelen vertonen in lokale citaties en gezondheidsmededelingen inconsistent toepassen, wat daarmee de dringende behoefte aan cultureel bewuste controle van generatieve zoekopdrachten in gezondheidscontexten onderstreept.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Elke dag wenden miljarden mensen zich tot zoekmachines om antwoorden te vinden, maar wanneer die antwoorden over gezondheid gaan, zijn de belangen van leven of dood. Decennialang zagen zoekresultaten eruit als een lijst met links, waarbij een gebruiker moest doorklikken om de waarheid te vinden. Onlangs is er echter een nieuw soort zoeken ontstaan, aangedreven door kunstmatige intelligentie. In plaats van een lijst genereert dit soort systemen een enkel, gesynthetiseerd antwoord direct bovenaan het scherm, waarbij informatie van over het hele web wordt samengevoegd om een onderwerp in begrijpelijke taal uit te leggen. Deze verschuiving belooft tijd te besparen, maar concentreert ook enorme macht in de handen van de bedrijven die deze tools bouwen. Als een kunstmatige intelligentie bepaalt welke feiten worden benadrukt en welke worden genegeerd, kan het subtiel vormgeven aan hoe mensen hun lichaam, hun behandelingen en hun keuzes begrijpen. De vraag gaat niet langer alleen over het vinden van informatie, maar over wie mag beslissen hoe die informatie eruitziet.
Een team onderzoekers aan Dartmouth College begon een onderzoek naar de vraag hoe deze nieuwe AI-samenvattingen omgaan met gezondheidsvragen, waarbij ze specifiek keken naar de twee reuzen van het internet: Google, dat een groot deel van de wereld domineert, en Baidu, de primaire zoekmachine voor China. Ze wilden zien of de antwoorden die iemand ontvangt afhangen van welk bedrijf ze gebruiken, waar ze wonen of welke taal ze spreken. Hiervoor voerden ze bijna tweeduizend gezondheidsgerelateerde zoekopdrachten uit in twaalf verschillende landen en vier talen. Ze stelden vragen over alles, van veelvoorkomende aandoeningen zoals diabetes tot complexere of cultureel specifieke onderwerpen zoals Traditionele Chinese Geneeskunde. Door de resultaten zij aan zij te vergelijken, brachten ze in kaart waar de informatie vandaan kwam en hoe de systemen besloten wat ze zouden tonen.
De onderzoekers ontdekten dat zowel Google als Baidu de neiging hebben gebruikers naar hun eigen bedrijfsecosystemen te leiden in plaats van naar een diverse mix van onafhankelijke bronnen. Bij Google was de meest frequent geciteerde bron voor gezondheidsantwoorden YouTube, een videoplatform dat eigendom is van de moederorganisatie van Google. Dit was verrassend omdat gevestigde medische autoriteiten zoals de Mayo Clinic of de Wereldgezondheidsorganisatie minder vaak in deze samenvattingen verschenen. Bij Baidu waren de belangrijkste bronnen de eigen encyclopedie en gezondheidsplatforms, samen met een specifieke onafhankelijke medische site genaamd Bohe. In beide gevallen haalde de AI niet uit een brede, neutrale poel van de beste medische adviezen van het internet. In plaats daarvan leunde het zwaar op content die binnen de eigen digitale muren van het bedrijf huisvest was. Dit creëert een situatie waarin de autoriteit van het antwoord minder afhangt van de medische kwalificaties van de bron en meer van de algoritmen die beslissen welke video's of artikelen ze naar voren brengen.
Geografie speelde een enorme rol in de informatie die mensen ontvingen. Wanneer de onderzoekers dezelfde gezondheidsvragen in het Engels stelden vanuit verschillende landen, varieerden de resultaten enorm op basis van locatie. Gebruikers in grote, gevestigde markten zoals de Verenigde Staten, het Verenigd Koninkrijk, Australië en Canada ontvingen antwoorden die lokale gezondheidsinstellingen citeerden. Echter, mensen in kleinere of minder gelokaliseerde markten, zoals Nigeria, India of Singapore, ontvingen veel vaker antwoorden die Amerikaanse of internationale organisaties citeerden, zelfs wanneer ze naar lokale gezondheidskwesties vroegen. De studie toonde aan dat kleinere landen aanzienlijk minder verwijzingen ontvingen van hun eigen binnenlandse gezondheidssystemen. Het lijkt erop dat de AI voor deze regio's terugvalt op een wereldwijde standaard, waarbij lokale experts, regelgeving of culturele nuances die belangrijk zijn voor de mensen die er wonen, potentieel worden over het hoofd gezien.
Taal bleek een nog sterkere schakelaar te zijn dan geografie. Wanneer de onderzoekers dezelfde vragen in de officiële taal van een land stelden in plaats van in het Engels, veranderden de antwoorden drastisch. In landen als Japan, Zuid-Korea en Maleisië zorgde het overschakelen van Engels naar de lokale taal ervoor dat het aandeel lokaal bronmateriaal met een factor drie tot dertien toenam. Dit betekent dat iemand die gezondheidsadvies zoekt in de eigen moedertaal, veel grotere kans heeft om informatie te krijgen van het eigen gezondheidssysteem, terwijl zoeken in het Engels hen vaak wegstuurt van lokale bronnen. Dit suggereert dat de taal die iemand kiest om te typen, onbedoeld kan bepalen of men advies ziet van de lokale arts of van een verre internationale autoriteit.
De studie keek ook naar hoe deze systemen omgaan met gevoelige of cultureel specifieke onderwerpen, waarbij Traditionele Chinese Geneeskunde als testgeval werd gebruikt. Hierin verschilden de twee platforms in hun aanpak. Google was minder geneigd om überhaupt een AI-samenvatting te genereren voor deze zoekopdrachten, mogelijk uit voorzichtigheid bij onderwerpen waarbij de medische consensus wordt betwist. Wanneer het wel antwoord gaf, leverde het meer citaties. Baidu daarentegen was meer bereid om een antwoord te genereren en was meer ondersteunend aan de praktijken van de Traditionele Chinese Geneeskunde, maar voegde ook duidelijkere veiligheidswaarschuwingen toe. Dit geeft aan dat de "voorzichtigheid" van de AI geen enkele instelling is, maar een complexe mix van toon, het aantal geciteerde bronnen en de bereidheid om überhaupt een antwoord te genereren. De onderzoekers merkten op dat hoewel Baidu meer ondersteunend was aan deze culturele praktijken, het ook de tijd nam om gebruikers te waarschuwen voor de veiligheid, wat aantoont dat goedkeuring en voorzichtigheid naast elkaar kunnen bestaan in deze systemen.
Uiteindelijk onthult dit onderzoek dat de kunstmatige intelligentie die onze gezondheidsbeslissingen stuurt, geen neutrale waarnemer is. Het wordt gevormd door het bedrijf dat het heeft gebouwd, het land dat het bedient en de taal die wordt gebruikt om de vraag te stellen. De bronnen die het vertrouwt zijn vaak de bronnen die het zelf bezit of de bronnen die het meest zichtbaar zijn in het Engels. Voor miljoenen mensen betekent dit dat het pad naar gezondheidsinformatie niet voor iedereen hetzelfde is. Nu deze tools gebruikelijker worden, suggereert de studie dat we ons bewust moeten zijn van deze verborgen vooroordelen. De manier waarop een zoekmachine is gebouwd, kan bepalen of iemand een lokale expert ziet of een verre corporatie, en in zaken van gezondheid kan dat verschil diepgaand zijn.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.