From Wikipedia to AI: Measuring 25 years of synthesis of human genetics research in the public-facing information ecosystem
Deze studie analyseert 25 jaar aan Wikipedia-revisies en opkomende AI-outputs om te onthullen dat menselijk genetisch onderzoek frequent wordt gesynthetiseerd in publieke informatie over etniciteit en nationaliteit, waarbij door AI gegenereerde encyclopedieën een hogere frequentie van genetische referenties en een grotere neiging tot hallucinaties of misrepresentaties van dit onderzoek vertonen vergeleken met traditionele bronnen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van een preprint die niet peer-reviewed is. Dit is geen medisch advies. Neem geen gezondheidsbeslissingen op basis van deze inhoud. Lees de volledige disclaimer
Stel je het menselijk genoom voor als de ultieme handleiding voor het bouwen van een persoon, een enorme bibliotheek aan code die wetenschappers decennia lang hebben ontcijferd. Maar hier komt het lastige gedeelte: deze handleiding gaat niet alleen over blauwe ogen of krullend haar; het raakt vaak verstrengeld met hoe we groepen mensen definiëren, zoals naties, etniciteiten of rassen. Denk erbij als een kookboek dat per ongels is vermengd met een geschiedenisboek. Omdat deze onderwerpen zo persoonlijk en politiek zijn, is het heel gemakkelijk dat de wetenschap verdraaid of verkeerd begrepen wordt wanneer gewone mensen erover lezen. We vertrouwen allemaal op publieke informatie—zoals de websites die we bezoeken of de chatbots waar we chatbots om hulp vragen bij huiswerk—om deze complexe wetenschap te begrijpen. Maar als de informatie die daar aanwezig is een beetje door elkaar staat, of als het feiten verzint die niet bestaan, zou dit ertoe kunnen leiden dat we dingen over onze eigen biologie geloven die simpelweg niet waar zijn. Daarom is het belangrijk om te controleren wat er daadwerkelijk in deze publieke ruimtes wordt geschreven en te zien of de wetenschap correct wordt verteld.
Dit artikel fungeert als een gigantisch tijdreizend detectives verhaal, waarbij het 25 jaar terugkijkt om te zien hoe menselijk genetisch onderzoek in het publieke informatie-ecosysteem is gemengd. De onderzoekers besloten een enorme momentopname te maken van Wikipedia, de meest populaire online encyclopedie ter wereld, die zij behandelen als een gigantische, levende muurschildering die miljoenen keren opnieuw wordt geschilderd. Ze keken niet alleen naar een paar pagina's; ze analyseerden een verbluffend aantal van 3.050.422 historische revisies van 6.738 verschillende pagina's over etniciteit, nationaliteit en ras.
Wat ze vonden, is dat genetische terminologie stilletjes in 14,8% van deze pagina's is geslopen, maar als je inzoomt op de top 1.000 populairste pagina's, springt dat getal naar 55,5%. Het is alsof meer dan de helft van de beroemdste verhalen over nationale groepen nu een biologisch hoofdstuk bevat. Specifiek vermeldt 67,8% van de pagina's over nationaliteiten genetica, wat suggereert dat onderzoek wordt gesynthetiseerd om een biologisch element aan het idee van etniciteit en nationaliteit te presenteren. De auteurs wierpen ook een blik achter de schermen op de "overlegpagina's", waar redacteuren discussiëren over wat er geschreven moet worden, en ontdekten dat 10,1% van de 56.908 discussies daar genetische terminologie bevatte.
Het verhaal stopt niet bij Wikipedia. Het team heeft ook drie populaire chatbots vragen gesteld over nationaliteiten, en ze ontdekten dat deze AI-assistenten vaak terugverwijzen naar zowel genetica als Wikipedia als hun bronnen. Maar de meest verrassende wending komt van een nieuwe, door AI gegenereerde encyclopedie genaamd Grokipedia. Toen de onderzoekers naar 133 pagina's uit deze nieuwe bron keken, vonden ze dat deze genetica nog vaker noemde dan Wikipedia. Echter, in tegenstelling tot de menselijke redacteuren die proberen voorzichtig te zijn, bleek deze door AI gegenereerde encyclopedie te hallucineren of menselijk genetisch onderzoek te misrepresenteren, waarbij ze in essentie feiten verzint of de wetenschap verkeerd begrijpt. Het artikel suggereert dat terwijl we meer wetenschap synthetiseren in onze publieke verhalen, we voorzichtig moeten zijn dat de nieuwe AI-verhalenvertellers geen biologische realiteit verzinnen die niet bestaat.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.