Who Anchors AI Overviews in Health? Baidu, Google, and the Geography of Authority
Questo studio esamina le AI Overviews di Google e Baidu in 12 paesi e quattro lingue, rivelando che entrambe le piattaforme danno priorità ai propri ecosistemi rispetto a fonti diversificate, mostrano pregiudizi geografici e linguistici nelle citazioni locali e applicano i disclaimer sanitari in modo incoerente, evidenziando così l'urgente necessità di una supervisione culturalmente consapevole della ricerca generativa nei contesti sanitari.
Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo
Ogni giorno, miliardi di persone si rivolgono ai motori di ricerca per trovare risposte, ma quando queste risposte riguardano la salute, la posta in gioco è la vita o la morte. Per decenni, i risultati di ricerca sono sembrati un elenco di link, richiedendo all'utente di cliccare per trovare la verità. Recentemente, tuttavia, è emerso un nuovo tipo di ricerca, alimentato dall'intelligenza artificiale. Invece di un elenco, questi sistemi generano una singola risposta sintetizzata proprio in cima allo schermo, attingendo informazioni da tutto il web per spiegare un argomento in un linguaggio semplice. Questo cambiamento promette di risparmiare tempo, ma concentra anche un potere immenso nelle mani delle aziende che costruiscono questi strumenti. Se un'intelligenza artificiale decide quali fatti evidenziare e quali ignorare, può influenzare sottilmente il modo in cui le persone comprendono il proprio corpo, i propri trattamenti e le proprie scelte. La domanda non riguarda più solo come trovare l'informazione, ma su chi spetti decidere che aspetto debba avere quell'informazione.
Un team di ricercatori del Dartmouth College ha intrapreso un'indagine su come questi nuovi riassunti IA gestiscono le domande sulla salute, guardando specificamente ai due giganti di internet: Google, che domina la maggior parte del mondo, e Baidu, il principale motore di ricerca in Cina. Volevano vedere se le risposte che una persona riceve dipendano dall'azienda che utilizza, da dove vive o dalla lingua che parla. Per farlo, hanno eseguito quasi duemila query sanitarie in dodici paesi diversi e quattro lingue. Hanno posto domande su tutto, dalle condizioni comuni come il diabete a temi più complessi o culturalmente specifici come la Medicina Tradizionale Cinese. Confrontando i risultati fianco a fianco, hanno mappato la provenienza delle informazioni e il modo in cui i sistemi decidevano cosa mostrare.
I ricercatori hanno scoperto che sia Google che Baidu tendono a indirizzare gli utenti verso i propri ecosistemi aziendali piuttosto che verso un mix diversificato di fonti indipendenti. Su Google, la fonte citata più frequentemente per le risposte sulla salute era YouTube, una piattaforma video di proprietà della società madre di Google. Questo è stato sorprendente perché autorità mediche consolidate come la Mayo Clinic o l'Organizzazione Mondiale della Sanità apparivano meno spesso in questi riassunti. Su Baidu, le fonti principali erano la propria enciclopedia e le piattaforme sanitarie, insieme a un sito medico indipendente chiamato Bohe. In entrambi i casi, l'IA non stava attingendo da un pool ampio e neutrale dei migliori consigli medici di internet. Al contrario, si stava appoggiando pesantemente a contenuti che risiedevano all'interno delle mura digitali dell'azienda stessa. Ciò crea una situazione in cui l'autorità della risposta dipende meno dai titoli medici della fonte e più dagli algoritmi che decidono quali video o articoli mettere in superficie.
La geografia ha giocato un ruolo massiccio in ciò che le persone ricevevano. Quando i ricercatori hanno posto le stesse domande sulla salute in inglese da diversi paesi, i risultati variavano enormemente in base alla posizione. Gli utenti in mercati grandi ed consolidati come Stati Uniti, Regno Unito, Australia e Canada ricevevano risposte che citavano istituzioni sanitarie locali. Tuttavia, le persone in mercati più piccoli o meno localizzati, come Nigeria, India o Singapore, ricevevano molto più spesso risposte che citavano organizzazioni americane o internazionali, anche quando ponevano domande su problemi sanitari locali. Lo studio ha dimostrato che i paesi più piccoli ricevevano significativamente meno riferimenti dai propri sistemi sanitari nazionali. Sembra che per queste regioni l'IA scelga di default uno standard globale, potenzialmente trascurando esperti locali, regolamentazioni o sfumature culturali che sono importanti per le persone che vi vivono.
La lingua si è rivelata un interruttore ancora più forte della geografia. Quando i ricercatori hanno posto le stesse domande nella lingua ufficiale di un paese invece che in inglese, le risposte sono cambiate drasticamente. In paesi come Giappone, Corea del Sud e Malesia, passare dall'inglese alla lingua locale ha aumentato la quota di citazioni di origine locale di un fattore da tre a tredici. Ciò significa che una persona che cerca consigli sulla salute nella propria lingua madre ha molte più probabilità di ricevere informazioni dal proprio sistema sanitario nazionale, mentre cercare in inglese spesso la allontana dalle risorse locali. Questo suggerisce che la lingua che una persona sceglie di digitare può determinare involontariamente se vedrà un consiglio dal proprio medico locale o da un'autorità internazionale distante.
Lo studio ha anche esaminato come questi sistemi gestiscono argomenti sensibili o culturalmente specifici, utilizzando la Medicina Tradizionale Cinese come caso di prova. In questo ambito, le due piattaforme hanno diverguto nel loro approccio. Google era meno propenso a generare un riassunto IA per queste query, forse mostrando cautela su argomenti in cui il consenso medico è dibattuto. Quando forniva una risposta, includeva più citazioni. Baidu, d'altro canto, era più disposto a generare una risposta ed era più favorevole alle pratiche della Medicina Tradizionale Cinese, pur includendo avvertenze di sicurezza più chiare. Ciò indica che la "cautela" dell'IA non è un'impostazione singola, ma un complesso mix di tono, numero di fonti citate e volontà di generare la risposta stessa. I ricercatori hanno osservato che, sebbene Baidu fosse più favorevole a queste pratiche culturali, prendeva anche tempo per avvertire gli utenti sulla sicurezza, dimostrando che l'approvazione e la cautela possono coesistere in questi sistemi.
In definitiva, questa ricerca rivela che l'intelligenza artificiale che guida le nostre decisioni sulla salute non è un osservatore neutrale. È plasmata dall'azienda che l'ha costruita, dal paese che sta servendo e dalla lingua utilizzata per porre la domanda. Le fonti di cui si fida sono spesso quelle che possiede o quelle che sono più visibili in inglese. Per milioni di persone, questo significa che il percorso verso l'informazione sanitaria non è lo stesso per tutti. Con l'aumentare della diffusione di questi strumenti, lo studio suggerisce che dobbiamo essere consapevoli di questi pregiudizi nascosti. Il modo in cui un motore di ricerca è costruito può determinare se una persona vedrà un esperto locale o una lontana corporazione, e in questioni di salute, questa differenza può essere profonda.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.