From Wikipedia to AI: Measuring 25 years of synthesis of human genetics research in the public-facing information ecosystem
Diese Studie analysiert 25 Jahre Wikipedia-Revisionen und neu aufkommende KI-Outputs, um aufzuzeigen, dass die Forschung zur menschlichen Genetik häufig in öffentliche Informationen über Ethnizität und Nationalität synthetisiert wird, wobei KI-generierte Enzyklopädien eine höhere Frequenz genetischer Referenzen sowie eine größere Tendenz zu Halluzinationen oder Fehlinterpretationen dieser Forschung im Vergleich zu traditionellen Quellen aufweisen.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung eines Preprints, das nicht peer-reviewed wurde. Dies ist kein medizinischer Rat. Treffen Sie keine Gesundheitsentscheidungen auf Grundlage dieses Inhalts. Vollständigen Haftungsausschluss lesen
Stellen Sie sich das menschliche Genom als die ultimative Bedienungsanleitung für den Bau eines Menschen vor, eine riesige Bibliothek aus Code, die Wissenschaftler Jahrzehnte lang entziffert haben. Aber hier ist der knifflige Teil: Diese Anleitung spricht nicht nur über blaue Augen oder lockiges Haar; sie verstrickt sich oft mit der Art und Weise, wie wir Gruppen von Menschen definieren, wie etwa Nationen, Ethnien oder Rassen. Stellen Sie es sich wie ein Rezeptbuch vor, das versehentlich mit einem Geschichtsbuch vermischt wurde. Da diese Themen so persönlich und politisch sind, kann die Wissenschaft sehr leicht verdreht oder missverstanden werden, wenn Laien darüber lesen. Wir alle verlassen uns auf öffentliche Informationen – wie die Websites, die wir besuchen, oder die Chatbots, die wir um Hilfe bei den Hausaufgaben bitten –, um diese komplexe Wissenschaft zu verstehen. Aber wenn die Informationen da draußen etwas durcheinander sind oder Fakten erfinden, die gar nicht existieren, könnte dies dazu führen, dass wir Dinge über unsere eigene Biologie glauben, die schlichtweg nicht wahr sind. Deshalb ist es wichtig zu überprüfen, was in diesen öffentlichen Räumen tatsächlich geschrieben steht und ob die Wissenschaft korrekt erzählt wird.
Dieses Paper fungiert wie eine gigantische, zeitreisende Detektivgeschichte, die über 25 Jahre zurückblickt, um zu sehen, wie die Humangenetikforschung in das öffentliche Informationsökosystem eingeflossen ist. Die Forscher entschieden sich für eine massive Momentaufnahme von Wikipedia, der weltweit populärsten Online-Enzyklopädie, die sie wie ein riesiges, lebendiges Wandgemälde behandeln, das Millionen von Malen neu bemalt wird. Sie betrachteten nicht nur ein paar Seiten; sie analysierten eine atemberaubende Zahl von 3.050.422 historischen Revisionen aus 6.738 verschiedenen Seiten über Ethnizität, Nationalität und Rasse.
Was sie fanden, war, dass genetische Terminologie leise in 14,8 % dieser Seiten geschlüpft ist, aber wenn man die Top-1.000-beliebtesten Seiten betrachtet, springt dieser Wert auf 55,5 %. Es ist, als ob mehr als die Hälfte der berühmtesten Geschichten über nationale Gruppen nun ein biologisches Kapitel enthält. Speziell erwähnen 67,8 % der Seiten über Nationalitäten Genetik, was darauf hindeutet, dass Forschung synthetisiert wird, um ein biologisches Element in die Vorstellung von Ethnizität und Nationalität einzubringen. Die Autoren warfen auch einen Blick hinter die Kulissen auf die „Diskussionsseiten“, auf denen Redakteure darüber streiten, was geschrieben werden sollte, und fanden, dass 10,1 % der 56.908 Diskussionen dort genetische Terminologie enthielten.
Die Geschichte endet nicht bei Wikipedia. Das Team fragte auch drei populäre Chatbots Fragen zu Nationalitäten und stellte fest, dass diese KI-Assistenten oft sowohl auf Genetik als auch auf Wikipedia als ihre Quellen verweisen. Aber die überraschendste Wendung kommt von einer neuen, KI-generierten Enzyklopädie namens Grokipedia. Als die Forscher 133 Seiten aus dieser neuen Quelle untersuchten, stellten sie fest, dass diese Genetik noch häufiger erwähnte als Wikipedia. Doch im Gegensatz zu den menschlichen Redakteuren, die versuchen, vorsichtig zu sein, wurde festgestellt, dass diese KI-generierte Enzyklopädie die Humangenetikforschung halluzinierte oder falsch darstellte – sie erfand im Wesentlichen Fakten oder gab die Wissenschaft falsch wieder. Das Paper legt nahe, dass wir, während wir immer mehr Wissenschaft in unsere öffentlichen Erzählungen integrieren, vorsichtig sein müssen, dass die neuen KI-Geschichtenerzähler keine biologische Realität erfinden, die gar nicht existiert.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.