When AI Writes, Who Gets Cited? Evidence of Citation Monoculture Across Language Models
Diese Studie zeigt auf, dass diverse Sprachmodelle eine „Zitations-Monokultur“ aufweisen, indem sie überproportional dieselbe schmale Teilmenge realer Arbeiten auswählen, was auf gemeinsame inhaltliche Präferenzfilter zurückzuführen ist – ein systemischer Bias, der bestehen bleibt, selbst wenn Halluzinationen eliminiert werden und nicht bloß durch die Angleichung von Retrieval-Prozessen oder das Mischen verschiedener Anbieter behoben werden kann.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Seit Jahrzehnten beruht die Art und Weise, wie die Wissenschaft voranschreitet, auf einer einfachen, menschlichen Gewohnheit: Forscher lesen die Arbeiten anderer und entscheiden, welche Arbeiten sie in ihren eigenen Texten erwähnen. Dieser Akt der Zitierung ist mehr als nur eine Formalität; er ist die Währung wissenschaftlicher Anerkennung. Wenn eine Arbeit oft zitiert wird, gewinnt sie an Sichtbarkeit, was zu weiteren Zitaten führt – ein Zyklus, der als Matthew-Effekt bekannt ist, bei dem die Reichen reicher werden. Diese Dynamik hing schon immer von menschlichen Lesern ab, die in der Lage sind, den Ruf eines Autors, das Prestige einer Fachzeitschrift oder den vergangenen Erfolg einer Arbeit zu erkennen und diese Signale als Leitfaden für ihre Entscheidungen zu nutzen. Doch eine neue Kraft tritt in den Raum. Künstliche Intelligenz geht über das bloße Überprüfen der Grammatik hinaus und entwirft nun ganze Literaturübersichten sowie die Auswahl der Referenzen, die bestimmen, was die wissenschaftliche Gemeinschaft sieht. Die Frage ist nicht mehr nur, ob diese Maschinen schreiben können, sondern was sie zu lesen wählen. Wenn eine KI gebeten wird, die wichtigste Arbeit zu einem Thema zu finden, ahmt sie dann einfach die menschliche Voreingenommenheit nach, oder erschafft sie eine ganz eigene Art von Bias?
Ein Forschungsteam ging diese Frage an, indem es ein kontrolliertes Experiment aufbagte, das alles entfernte, was normalerweise die Zitation beeinflusst. Sie sammelten 120 echte wissenschaftliche Arbeiten zu einem bestimmten Thema, aber bevor sie diese der KI zeigten, verbargen sie alle üblichen Status-Signale. Die Namen der Autoren wurden durch fiktive ersetzt, die Publikationsjahre wurden vertauscht und die Anzahl der Zitate jeder Arbeit wurde vollständig entfernt. Die KI-Modelle wurden dann angewiesen, kurze Rezensionen oder Positionspapiere zu schreiben, jedoch unter einer strengen Regel: Sie durften maximal zehn der dreißig ihnen gezeigten Arbeiten pro Runde erwähnen. Diese Knappheit zwang die Modelle dazu, echte Entscheidungen zu treffen, anstatt einfach alles aufzulisten, was sie sahen. Um sicherzustellen, dass die Ergebnisse kein Zufall waren, verglichen die Forscher die Entscheidungen der KI mit einer Baseline, bei der ein Computer die Arbeiten zufällig aus derselben Liste auswählte, und sie baten zudem acht menschliche Experten, unter exakt denselben Bedingungen die gleichen Entscheidungen zu treffen.
Die Ergebnisse zeigten ein bemerkenswertes und einheitliches Muster. Während die menschlichen Experten ihre Zitate relativ gleichmäßig verteilten und die Arbeiten ähnlich wie ein Zufallsgenerator behandelten, konzentrierte sich jedes getestete KI-Modell auf eine winzige, enge Teilmenge der Arbeiten. In der Gruppe der Menschen erhielten die obersten zehn Prozent der Arbeiten etwa 19 Prozent der Zitate, was nahe an dem liegt, was man durch Zufall erwarten würde. Im Gegensatz dazu vergaben die KI-Modelle zwischen 23 und 30 Prozent ihrer Zitate an eben jene obersten zehn Prozent der Arbeiten. Wichtiger noch: Die Modelle ignorierten konsequent eine signifikante Anzahl der ihnen gezeigten Arbeiten und ließen einige selbst dann völlig unzitiert, wenn diese bereits dutzendfach angezeigt worden waren. Dies war kein Fall von Halluzinationen, bei denen die Maschinen gefälschte Referenzen erfanden; jede zitierte Arbeit war echt, und jede ignorierte Arbeit war ebenfalls echt. Das Versagen lag nicht in der Halluzination, sondern in einem gemeinsamen, unsichtbaren Filter, der entschied, welche echten Arbeiten es wert waren, gelesen zu werden.
Die vielleicht beunruhigendste Entdeckung war, dass dieser Filter für alle Modelle gleich war, unabhängig davon, welches Unternehmen sie entwickelt hatte. Ob die KI nun von OpenAI, Google oder Anthropic stammte, sie alle bevorzugten exakt dieselben Arbeiten und ignorierten exakt dieselben. Die Forscher fanden heraus, dass die Präferenzen dieser elf verschiedenen Modelle so ähnlich waren, dass sie als eine einzige, gemeinsame Karte dessen beschrieben werden konnten, was eine „zitierwürdige“ Arbeit ausmacht. Diese Karte basierte nicht auf den Namen der Autoren oder der Fachzeitschrift, da diese verborgen waren. Stattdessen wurde sie vollständig durch den Text der Abstracts getrieben. Die Modelle schienen sich auf einen spezifischen Stil oder einen bestimmten Typ von Inhalt zu einigen, der Aufmerksamkeit verdient, wobei sie Arbeiten bevorzugten, die wie theoretische Kernarbeiten klangen, während sie angewandte Forschung systematisch übersahen, selbst wenn die angewandten Arbeiten ebenso real und relevant waren.
Um zu verstehen, ob es sich um ein erlerntes Gedächtnis vergangener Zitate oder um ein echtes Qualitätsurteil handelte, testeten die Forscher die Modelle erneut, nachdem sie die Titel und Abstracts der Arbeiten umgeschrieben hatten. Sie änderten die Wörter komplett, sodass die Modelle die Arbeiten anhand ihres Oberflächentextes nicht mehr erkennen konnten, während die zugrunde liegende Bedeutung erhalten blieb. Die Entscheidungen der Modelle änderten sich nicht. Sie wählten weiterhin dieselben Arbeiten basierend auf der neuen Formulierung aus, was bewies, dass ihre Präferenz in der Bedeutung des Inhalts verwurzelt war und nicht in einer auswendig gelernten Liste berühmter Titel. Dies deutet darauf hin, dass die Modelle eine konvergente, gemeinsame Intuition darüber entwickelt haben, was eine gute Arbeit ausmacht – eine Intuition, die sich von der Art und Weise unterscheidet, wie menschliche Experten dieselbe Arbeit tatsächlich bewerten.
Die Studie untersuchte auch, was passiert, wenn diese Modelle wiederholt über einen längeren Zeitraum eingesetzt werden. Da die KI-Modelle neue Arbeiten verfassten und diese neuen Arbeiten wiederum in den Pool für zukünftige Selektionen aufgenommen wurden, wurden die ursprünglichen echten Arbeiten seltener. Die Forscher stellten fest, dass die KI-Modelle die echten Arbeiten noch intensiver zitierten, sobald diese seltener wurden, fast so, als würden sie um die wenigen verbleibenden „guten“ Optionen konkurrieren. Dies bedeutete jedoch nicht, dass die Modelle der gesamten realen Literatur mehr Aufmerksamkeit schenkten; tatsächlich sank der Anteil der Zitate, die auf die reale Literatur entfielen, signifikant. Die Modelle konzentrierten ihre begrenzte Aufmerksamkeit lediglich auf eine schrumpfende Gruppe von Überlebenden und schufen so eine Rückkopplungsschleife, in der eine feste Präferenz auf einen ausdünnenden Katalog trifft.
Diese Forschung zeigt, dass die Gefahr der Künstlichen Intelligenz in der Wissenschaft nicht nur darin besteht, dass sie gefälschte Fakten erfindet, sondern dass sie im Stillen einem engen Satz von „korrekten“ Antworten zustimmt, während sie den Rest des Feldes ignoriert. Selbst wenn alle Optionen real und jede Arbeit gleichermaßen sichtbar ist, legen diese Systeme einen gemeinsamen Filter auf die wissenschaftliche Aufmerksamkeit. Das Zusammenführen verschiedener Modelle löst das Problem nicht, da sie alle denselben zugrunde liegenden Bias teilen. Die Lösung, so schlagen die Autoren vor, erfordert eine Änderung der gemeinsamen Präferenzkarte selbst, statt nur zu versuchen, die Informationsquellen zu diversifizieren. Die Maschinen lesen nicht nur die Literatur; sie beginnen zu entscheiden, was die Literatur ist – und sie entscheiden sich alle für dasselbe.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.