From Wikipedia to AI: Measuring 25 years of synthesis of human genetics research in the public-facing information ecosystem
Cette étude analyse 25 ans de révisions de Wikipédia et de productions émergentes de l'IA pour révéler que la recherche en génétique humaine est fréquemment synthétisée dans l'information publique concernant l'ethnicité et la nationalité, les encyclopédies générées par l'IA présentant une fréquence plus élevée de références génétiques et une plus grande tendance à halluciner ou à dénaturer ces recherches par rapport aux sources traditionnelles.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA d'un preprint qui n'a pas été évalué par des pairs. Ce n'est pas un avis médical. Ne prenez pas de décisions de santé basées sur ce contenu. Lire la clause de non-responsabilité complète
Imaginez le génome humain comme l'ultime manuel d'instructions pour construire une personne, une immense bibliothèque de codes que les scientifiques ont mis des décennies à décoder. Mais voici la partie délicate : ce manuel ne parle pas seulement des yeux bleus ou des cheveux bouclés ; il s'emmêle souvent avec la façon dont nous définissons les groupes de personnes, comme les nations, les ethnies ou les races. Voyez cela comme un livre de recettes qui se retrouverait accidentellement mélangé à un livre d'histoire. Parce que ces sujets sont si personnels et politiques, il est très facile que la science soit déformée ou mal comprise lorsque le grand public la lit. Nous dépendons tous des informations publiques — comme les sites web que nous visitons ou les chatbots auxquels nous demandons de l'aide pour nos devoirs — pour donner un sens à cette science complexe. Mais si les informations disponibles sont un peu brouillonnes, ou si elles inventent des faits qui n'existent pas, cela pourrait nous amener à croire des choses sur notre propre biologie qui ne sont tout simplement pas vraies. C'est pourquoi il est important de vérifier ce qui est réellement écrit dans ces espaces publics et de voir si la science est racontée correctement.
Ce document agit comme une grande histoire de détective voyageant dans le temps, regardant en arrière sur 25 ans pour voir comment la recherche en génétique humaine s'est mêlée à l'écosystème de l'information publique. Les chercheurs ont décidé de prendre un instantané massif de Wikipédia, la plus populaire encyclopédie en ligne au monde, qu'ils traitent comme une immense fresque vivante qui est repeinte des millions de fois. Ils n'ont pas seulement examiné quelques pages ; ils ont analysé un nombre stupéfiant de 3 050 422 révisions historiques provenant de 6 738 pages différentes portant sur l'ethnicité, la nationalité et la race.
Ils ont découvert que la terminologie génétique s'est discrètement glissée dans 14,8 % de ces pages, mais si l'on zoome sur les 1 000 pages les plus populaires, ce chiffre grimpe à 55,5 %. C'est comme si plus de la moitié des récits les plus célèbres sur les groupes nationaux incluaient désormais un chapitre biologique. Plus précisément, 67,8 % des pages sur les nationalités mentionnent la génétique, suggérant que la recherche est synthétisée pour présenter un élément biologique à l'idée d'ethnicité et de nationalité. Les auteurs ont également jeté un coup d'œil dans les coulisses, sur les « pages de discussion », où les éditeurs débattent de ce qui doit être écrit, et ont découvert que 10,1 % des 56 908 discussions y contenaient de la terminologie génétique.
L'histoire ne s'arrête pas à Wikipédia. L'équipe a également posé des questions sur les nationalités à trois chatbots populaires, et elle a découvert que ces assistants IA renvoient souvent à la fois la génétique et Wikipédia comme sources. Mais le rebondissement le plus surprenant vient d'une nouvelle encyclopédie générée par l'IA appelée Grokipedia. Lorsque les chercheurs ont examiné 133 pages de cette nouvelle source, ils ont constaté qu'elle mentionnait la génétique encore plus fréquemment que Wikipédia. Cependant, contrairement aux éditeurs humains qui essaient d'être prudents, cette encyclopédie générée par l'IA a été trouvée en train d'halluciner ou de dénaturer la recherche en génétique humaine, inventant essentiellement des faits ou se trompant sur la science. Le document suggère que, bien que nous synthétisions davantage de science dans nos récits publics, nous devons veiller à ce que les nouveaux conteurs d'IA n'inventent pas une réalité biologique qui n'existe pas.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.