From Wikipedia to AI: Measuring 25 years of synthesis of human genetics research in the public-facing information ecosystem
Questo studio analizza 25 anni di revisioni di Wikipedia e le uscite emergenti dell'IA per rivelare che la ricerca sulla genetica umana viene frequentemente sintetizzata in informazioni pubbliche sull'etnia e la nazionalità, con le enciclopedie generate dall'IA che esibiscono una frequenza maggiore di riferimenti genetici e una maggiore tendenza a allucinare o travisare tale ricerca rispetto alle fonti tradizionali.
Articolo originale sotto licenza CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Questa è una spiegazione generata dall'IA di un preprint non sottoposto a revisione paritaria. Non è un consiglio medico. Non prendere decisioni sulla salute basandoti su questo contenuto. Leggi il disclaimer completo
Immagina il genoma umano come l'ultimo manuale di istruzioni per costruire una persona, una massiccia biblioteca di codici che gli scienziati hanno impiegato decenni a decifrare. Ma ecco la parte complicata: questo manuale non parla solo di occhi azzurri o capelli ricci; spesso si intreccia con il modo in cui definiamo i gruppi di persone, come nazioni, etnie o razze. Pensalo come a un libro di ricette che accidentalmente si è mescolato con un libro di storia. Poiché questi argomenti sono così personali e politici, è molto facile che la scienza venga distorta o fraintesa quando le persone comuni leggono a riguardo. Tutti noi facciamo affidamento sulle informazioni pubbliche — come i siti web che visitiamo o i chatbot a cui chiediamo aiuto per i compiti — per dare un senso a questa scienza complessa. Ma se l'informazione disponibile è un po' confusa, o se inventa fatti che non esistono, potrebbe portarci a credere cose sulla nostra stessa biologia che semplicemente non sono vere. Ecco perché è importante controllare cosa è effettivamente scritto in questi spazi pubblici e vedere se la scienza viene raccontata correttamente.
Questo articolo agisce come un gigantesco racconto investigativo di un detective che viaggia nel tempo, guardando indietro a 25 anni per vedere come la ricerca sulla genetica umana si sia mescolata nell'ecosistema delle informazioni pubbliche. I ricercatori hanno deciso di scattare un'istantanea massiccia di Wikipedia, la più popolare enciclopedia online al mondo, che trattano come un enorme murale vivente che viene ridipinto milioni di volte. Non hanno guardato solo poche pagine; hanno analizzato la strabiliante cifra di 3.050.422 revisioni storiche da 6.738 diverse pagine riguardanti etnia, nazionalità e razza.
Ciò che hanno scoperto è che la terminologia genetica è scivolata silenziosamente nel 14,8% di queste pagine, ma se si fa uno zoom sulle prime 1.000 pagine più popolari, quel numero balza al 55,5%. È come se più della metà delle storie più famose sui gruppi nazionali includesse ora un capitolo biologico. Nello specifico, il 67,8% delle pagine sulle nazionalità menziona la genetica, suggerendo che la ricerca venga sintetizzata per presentare un elemento biologico all'idea di etnia e nazionalità. Gli autori hanno anche sbirciato dietro le quinte nelle "pagine di discussione", dove gli editori discutono su cosa debba essere scritto, e hanno scoperto che il 10,1% delle 56.908 discussioni lì presenti conteneva terminologia genetica.
La storia non si ferma a Wikipedia. Il team ha anche posto tre popolari chatbot domande sulle nazionalità, e ha scoperto che questi assistenti IA spesso rimandano sia alla genetica che a Wikipedia come loro fonti. Ma il colpo di scena più sorprendente arriva da una nuova enciclopedia generata dall'IA, chiamata Grokipedia. Quando i ricercatori hanno esaminato 133 pagine di questa nuova fonte, hanno scoperto che menzionava la genetica ancora più frequentemente di Wikipedia. Tuttavia, a differenza degli editori umani che cercano di essere prudenti, questa enciclopedia generata dall'IA è stata trovata a "allucinare" o a travisare la ricerca sulla genetica umana, sostanzialmente inventando fatti o sbagliando la scienza. L'articolo suggerisce che, mentre stiamo sintetizzando più scienza nelle nostre storie pubbliche, dobbiamo fare attenzione che i nuovi narratori artificiali non inventino una realtà biologica che non esiste.
Sommerso dagli articoli nel tuo campo?
Ricevi digest giornalieri degli articoli più recenti corrispondenti alle tue parole chiave di ricerca — con riassunti tecnici, nella tua lingua.