The Ghost Couple: Correlated LLM Name Priors and Their Haunting of the Web and Academic Publishing
Diese Arbeit zeigt auf, dass große Sprachmodelle konsistente, korrelierte „Geister“-Namenspaare und -trios über diverse fiktionale und akademische Kontexte hinweg generieren, was zur Massenerstellung betrügerischer wissenschaftlicher Datensätze mit echten DOIs führt, die unbeabsichtigt modellspezifische Verhaltensfingerabdrücke und Einsatzzeitpunkte offenlegen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie bitten eine Gruppe von sehr fortgeschrittenen, aber etwas exzentrischen KI-Schreibern, ein Team von Experten für eine Geschichte zu erfinden. Sie geben ihnen keine spezifischen Namen vor, sondern sagen nur: „Erfinde ein paar Wissenschaftler.“
Man würde erwarten, dass die KI zufällige Namen wählt, wie ein Mensch es tun würde. Aber dieses Paper offenbart etwas Seltsames: Die KI wählt nicht zufällig. Sie wählt immer wieder dieselbe spezifische Besetzung von Charakteren, wie ein Regisseur, der besessen davon ist, für jeden Film dieselben drei Schauspieler zu besetzen, völlig ungeachtet der Handlung.
Hier ist die Aufschlüsselung dieses „Ghost Couple“-Phänomens, einfach erklärt:
1. Die „Geisterbesetzung“ (The Ghost Cast)
Die Forscher entdeckten, dass verschiedene KI-Modelle ihre eigenen bevorzugten „Standard-Charaktere“ haben. Dies sind nicht nur zufällige Namen; es sind korrelierte Paare oder Gruppen, die immer zusammen auftauchen.
- Das Claude-Modell: Es liebt ein bestimmtes Duo: Elena Vasquez und Marcus Chen. Manchmal gesellt sich eine dritte Figur namens Amara zu ihnen. Egal, ob die Geschichte von Vulkanen, Weltraumreisen oder Therapie handelt – wenn man Claude bittet, Experten zu erfinden, tauchen diese Namen immer wieder gemeinsam auf.
- Das Gemini-Modell: Es hat sein eigenes Lieblingspaar: Aris Thorne und Lena Petrova.
- Das GPT-Modell: Es hat einen Solokünstler, Elara Voss, aber sie hat keinen festen Partner; ihr Sidekick wechselt jedes Mal.
Die Analogie: Stellen Sie sich diese KI-Modelle wie einen Charakter-Editor in einem Videospiel vor. Wenn Sie bei einem bestimmten Spiel auf „Zufallswahl“ drücken, erhalten Sie vielleicht immer dieselben drei Charaktere, weil der Code des Spiels in einer Schleife steckt. Diese KI-Modelle machen genau dasselbe mit Namen.
2. Die „Digitale Heimsuchung“ (The Digital Haunting)
Das Beängstigende ist nicht nur, dass die KI diese Namen verwendet; es ist, dass diese Namen aus der KI entkommen sind und nun das echte Internet heimsuchen.
Da ein Großteil der Inhalte im Web von KI geschrieben wird, tauchen diese „Geistercharaktere“ nun auf in:
- Gefälschten Fakultätsseiten von Universitäten.
- Belletristik-Büchern auf Amazon.
- Podcast-Beschreibungen.
- Sogar in gefälschten Nachrichtenartikeln.
Die Analogie: Stellen Sie sich vor, ein Geist würde immer wieder in jedem Foto auftauchen, das in einer bestimmten Stadt aufgenommen wird. Sie sehen „Elena Vasquez“ als Vulkanexpertin in einem spanischen Blog, dann als Therapeutin in einer kanadischen Klinik und dann als Wissenschaftlerin in einem Tech-Startup. Keiner dieser Menschen existiert. Es sind digitale Geister, die verschiedene Websites heimsuchen, erstellt durch densenelben KI-„Glitch“.
3. Das Problem der „Akademischen Zombies“ (The Academic Zombie Problem)
Das Paper fand heraus, dass dieses Geisterproblem in die ernsthafte Welt der Wissenschaft und der akademischen Publikation vorgedrungen ist.
- Das Setup: Forscher fanden eine massive Menge gefälschter akademischer Arbeiten, die auf Zenodo (einem legitimen wissenschaftlichen Repository) hochgeladen wurden.
- Der Trick: Diese Arbeiten behaupteten, in Fachzeitschriften veröffentlicht worden zu sein, die es nicht gibt.
- Die Daten: Die Arbeiten behaupteten, vor Jahren veröffentlicht worden zu sein (rückdatierte Veröffentlichung), aber die digitalen Zeitstempel bewiesen, dass sie alle in einem massiven Schub im März und April 2026 hochgeladen wurden.
- Die Autoren: Die Autoren waren die „Geistercharaktere“ (wie Elena Vasquez und Marcus Chen), die zusammen mit anderen gefälschten Namen arbeiteten.
Die Analogie: Stellen Sie sich eine Fabrik vor, die gefälschte Diplome druckt und sie in einen echten Bibliothekskatalog einfügt. Das Computersystem der Bibliothek (DataCite) vergibt eine gültige ID-Nummer (einen DOI) für diese gefälschten Arbeiten, wodurch sie für andere Computer echt aussehen. Nun wird jede Suchmaschine, die nach wissenschaftlichen Arbeiten sucht, diese gefälschten Datensätze „ernten“, im Glauben, sie seien echt.
4. Wie die Forscher es herausfanden
Die Autoren haben nicht nur geraten; sie gingen wie bei einer forensischen Untersuchung vor.
- Der „Diff“-Test: Sie verglichen verschiedene Versionen der KI-Modelle. Sie sahen, dass in älteren Versionen die KI einen anderen Geisternamen verwendete (Elena Rodriguez). In neueren Versionen wechselte sie zu Elena Vasquez. Durch das Beobachten dieses Wechsels konnten sie genau bestimmen, wann die KI aktualisiert wurde.
- Der „Unterdrückungs“-Hinweis: Die KI-Unternehmen bemerkten schließlich diese seltsamen Muster und versuchten, sie zu „beheben“ (zu unterdrücken). Die Forscher beobachteten, wie die Geisternamen mit den Modell-Updates aus dem Output der KI verschwanden, was bewies, dass die Unternehmen wussten, dass das Problem existiert.
5. Warum es wichtig ist (laut dem Paper)
Das Paper kommt zu dem Schluss, dass das Internet zu einem unbeabsichtigten Archiv dieser KI-„Verhaltensfingerabdrücke“ geworden ist.
- Gefälschte Gruppen: Auf Seiten wie ResearchGate bilden diese Geister „synthetische Forschungsgruppen“. Man sieht dort vielleicht das Profil einer real klingenden Professorin (Mei-Lin Zhang), die mit 35 Papern zusammen mit Geistern aus verschiedenen KI-Modellen (Elena von Claude, Aris von Gemini) koautoriert hat.
- Die Zeitlinie: Durch die Betrachtung des Zeitpunkts, an dem diese gefälschten Arbeiten hochgeladen wurden, können die Forscher tatsächlich erraten, wann die KI-Modelle veröffentlicht wurden. Die gefälschten Arbeiten fungieren wie ein Kalender für die Entwicklung der KI.
Zusammenfassung
Das Paper behauptet, dass Large Language Models die seltsame Angewohnheit entwickelt haben, immer wieder dieselben gefälschten Personen zu erfinden. Diese „Ghost Couples“ sind aus der KI herausgeleckt, haben das Web mit gefälschten Experten bevölkert und sogar eine massive Welle gefälschter wissenschaftlicher Arbeiten mit echten digitalen IDs erzeugt. Das Internet ist nun erfüllt von einer „Heimsuchung“ durch nicht existierende Menschen, denen die Urheberschaft an Arbeiten zugeschrieben wird, die sie nie verfasst haben.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.