Computer-generated content and the AI/ML retraction record, 2018– 2026: a characterization study
Diese Charakterisierung von 13.502 KI/ML-bezogenen Rückzugsbefunden aus den Jahren 2018 bis 2026 zeigt, dass computergenerierte Inhalte die am häufigsten abgeleitete Ursache für Rückzüge sind, was 34,8 % der Fälle ausmacht und vorwiegend Arbeiten betrifft, die zwischen 2021 und 2023 veröffentlicht wurden.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich die Welt der wissenschaftlichen Publikationen wie eine riesige, geschäftige Bibliothek vor. Jahrelang haben Bibliothekare (Herausgeber und Fachgutachter) die Bücher geprüft, bevor sie in die Regale gestellt wurden, um sicherzustellen, dass die Geschichten wahr sind und die Autoren die Arbeit selbst geleistet haben.
Dieses Papier ist wie ein Zeugnis für den Stapel „Zurück an den Absender“ dieser Bibliothek zwischen 2018 und 2026. Speziell betrachtet es den Abschnitt, der der Künstlichen Intelligenz (KI) und dem Maschinellen Lernen gewidmet ist.
Hier ist die Geschichte dessen, was der Autor, Anton Sokolov, herausgefunden hat, einfach erklärt:
1. Das neue Problem: „Geisterautoren“
Vor 2022 wurde ein Buch in diesem Abschnitt normalerweise zurückgegeben, wenn der Autor die Geschichte eines anderen kopiert hatte (Plagiat), über die Daten gelogen hatte oder eine „Paper Mill“ (eine Fabrik, die gefälschte Arbeiten schreibt) dafür bezahlt hatte, die Arbeit zu erledigen.
Doch ab 2022 passierte etwas Neues. Große Sprachmodelle (wie die KI, mit der Sie vielleicht chatten) wurden sehr gut darin, flüssige, wissenschaftlich klingende Texte zu schreiben. Plötzlich wurde die Bibliothek von Büchern überschwemmt, die von diesen „Geisterautoren“ geschrieben wurden.
Die Studie untersuchte 13.502 Arbeiten im KI-Abschnitt, die aus den Regalen entfernt wurden (zurückgezogen). Die Frage war: Warum wurden diese Bücher zurückgegeben?
2. Die große Entdeckung
Die überraschendste Erkenntnis ist, dass der Hauptgrund für das Zurückziehen dieser KI-Arbeiten computergenerierter Inhalt war.
- Die Zahlen: Von jeweils 100 zurückgezogenen KI-Papieren wurden etwa 35 speziell deshalb zurückgezogen, weil der Text von einer KI (wie einem Chatbot) generiert wurde.
- Der Vergleich: Dies ist höher als „Beeinträchtigte Peer-Review“ (22 %), „Plagiat“ (18 %) oder „Redaktionelle Fehler“ (13 %).
Stellen Sie sich das wie eine Bäckerei vor. Jahrelang war der Hauptgrund, warum Brot weggeworfen wurde, dass es verbrannt oder altbacken war. Aber plötzlich fand die Bäckerei heraus, dass der Teig selbst von einem Roboter gemacht wurde, der nicht wusste, wie man backt. Das wurde der häufigste Grund, warum Brot weggeworfen wurde.
3. Der „Präzisions“-Filter (Das Sicherheitsnetz)
Der Autor war vorsichtig, nicht einfach alles lose zu zählen. Er erstellte ein „Sicherheitsnetz“ mit verschiedenen Genauigkeitsstufen:
- Hohe Präzision: Arbeiten, in denen der Titel eindeutig „KI“ oder „Maschinelles Lernen“ sagte (3.243 Arbeiten).
- Breites Netz: Arbeiten, die allgemein über „Informatik“ handelten (13.502 Arbeiten).
Selbst wenn man nur die Gruppe der „hohen Präzision“ betrachtete (diejenigen, die definitiv über KI handelten), wurden 41,8 % wegen KI-generierter Texte zurückgezogen. Das Problem ist also nicht nur ein Zufall durch lockere Kennzeichnungen; es ist ein echtes, dominantes Problem in diesem speziellen Bereich.
4. Die Zeitlinie: Eine plötzliche Welle
Das Papier verfolgt die Jahre wie ein Wetterbericht:
- 2018–2021: Es gab sehr wenige gefasste KI-generierte Arbeiten.
- 2022: Die Welle begann.
- 2023: Die Welle erreichte ihren Höhepunkt. Dies war ein „Tsunami“-Jahr, hauptsächlich, weil ein großer Verlag (Hindawi/Wiley) eine massive Aufräumaktion durchführte und tausende Arbeiten auf einmal zurückzog.
- 2024–2025: Die Zahlen sanken vom Höhepunkt aus, blieben aber zehnmal höher als vor 2022.
Die meisten dieser schlechten Arbeiten wurden zwischen 2021 und 2023 geschrieben und veröffentlicht. Sie wurden schnell entdeckt, meist innerhalb eines Jahres nach ihrer Veröffentlichung.
5. Wer war beteiligt?
Die Studie listet die Verlage und Fachzeitschriften mit den meisten zurückgezogenen Arbeiten auf.
- Hindawi (ein Verlag) hatte die meisten, was über ein Drittel aller in dieser Liste enthaltenen zurückgezogenen Arbeiten ausmachte.
- Der Autor warnt jedoch: Dies ist nicht unbedingt eine „Schande-Liste“. Manchmal hat ein Verlag viele Rücknahmen, weil er aktiv seine Regale aufräumt und schlechte Arbeiten erwisft, anstatt dass er die „schlechtesten“ Verleger ist. Es ist wie ein Geschäft mit einem „Retouren“-Schalter: Eine hohe Anzahl an Rücksendungen kann bedeuten, dass das Geschäft sehr streng auf Qualität achtet, und nicht nur, dass es schlechte Produkte verkauft.
6. Was diese Studie NICHT ist
Der Autor ist sehr klar darüber, was dieser Bericht nicht aussagt:
- Er sagt uns nicht, wie viele KI-geschriebene Arbeiten noch immer in den Regalen stehen und noch nicht entdeckt wurden.
- Er beweist nicht, dass KI-Forscher „schlechte“ Menschen sind.
- Er sagt nicht, dass die KI-Forschung häufiger scheitert als andere Felder (wie Biologie oder Physik). Wir haben dazu noch keine Daten zum Vergleich.
Das Fazit
Dieses Papier ist eine „Charakterisierungsstudie“. Es ist wie eine Momentaufnahme des „Zurück an den Absender“-Behälters für KI-Arbeiten.
Die wichtigste Erkenntnis ist einfach: Die Ära der KI-generierten Texte ist in der Wissenschaft angekommen, und das erste große Anzeichen dafür ist ein massiver Anstieg der Rücknahmen, bei denen der Text selbst von einer Maschine geschrieben wurde.
Die Studie kommt zu dem Schluss, dass wir für die Wissenschaft, um dies zu lösen, klare, maschinenlesbare Kennzeichnungen benötigen, die besagen: „Dies wurde von einer KI geschrieben.“ Ohne diese klaren Kennzeichnungen können wir das Problem weder messen noch richtig beheben. Das „Substrat“ (das Fundament) für zukünftige Lösungen ist schlichtweg das Vorhandensein ehrlicher, klarer Aufzeichnungen darüber, was schiefgelaufen ist.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.