BibTeX Citation Hallucinations in Scientific Publishing Agents: Evaluation and Mitigation
Die Studie zeigt, dass KI-Agenten bei der Erstellung von BibTeX-Zitationen trotz Web-Suche häufig Halluzinationen produzieren, und demonstriert, dass eine zweistufige Architektur mit einer nachgelagerten, deterministischen Korrektur durch das Open-Source-Tool `clibib` die Genauigkeit signifikant verbessert.
Originalarbeit unter CC0 1.0 der Gemeinfreiheit gewidmet (http://creativecommons.org/publicdomain/zero/1.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Titel: Wenn KI beim Zitieren halluziniert – Ein Bericht über Lügen, Suchmaschinen und einen digitalen Korrekturleser
Stellen Sie sich vor, Sie bitten einen sehr intelligenten, aber manchmal etwas vergesslichen Assistenten, Ihnen die genauen Daten eines Buches zu nennen: Wer hat es geschrieben? Wann erschien es? Auf welcher Seite steht die wichtigste Passage?
In der wissenschaftlichen Welt ist das „BibTeX" so etwas wie der perfekte, maschinenlesbare Steckbrief für ein Forschungs-paper. Aber hier kommt das Problem: Die aktuellen KI-Modelle (die „Großen Sprachmodelle") sind zwar brillant im Schreiben von Texten, aber sie sind katastrophal im Erinnern von Details.
Diese Studie untersucht genau dieses Problem und bietet eine Lösung. Hier ist die Geschichte, einfach erklärt:
1. Das Problem: Der „Halluzinierende Bibliothekar"
Stellen Sie sich die KI als einen Bibliothekar vor, der alles gelesen hat, aber nichts mehr genau im Kopf hat. Wenn Sie ihn nach einem berühmten, alten Bestseller fragen (ein „populäres" Papier), kann er sich oft noch an die groben Umrisse erinnern. Aber wenn Sie ihn nach einem ganz neuen Buch fragen, das erst letzte Woche erschienen ist, oder nach einem sehr speziellen, wenig zitierten Werk, fängt er an zu träumen.
- Die Lüge: Er erfindet Autoren, die es gar nicht gibt.
- Die Verwechslung: Er nimmt die Daten von Buch A und klebt sie auf das Cover von Buch B.
- Die Zahlen: Er errät die Seitenzahlen oder das Jahrgangsdatum.
Die Studie hat gezeigt: Selbst wenn man der KI erlaubt, im Internet zu suchen (wie ein Bibliothekar, der in den Katalog schaut), macht sie immer noch Fehler. Bei bekannten Büchern ist sie gut, aber bei neuen oder unbekannten Büchern sinkt ihre Zuverlässigkeit drastisch. Sie verlässt sich zu sehr auf ihr „Gedächtnis" und zu wenig auf das, was sie gerade gefunden hat.
2. Der Test: Ein riesiges Quiz
Die Forscher haben ein riesiges Quiz mit 931 wissenschaftlichen Papieren aus vier Bereichen (Künstliche Intelligenz, Medizin, Materialwissenschaft und Quantencomputing) erstellt. Sie haben drei der besten KI-Modelle der Welt (GPT-5, Claude, Gemini) getestet.
- Das Ergebnis: Die KIs haben etwa 83 % der einzelnen Datenpunkte (wie Titel oder Jahr) richtig. Das klingt gut!
- Das böse Erwachen: Aber nur 51 % der gesamten Steckbriefe waren komplett korrekt. Das bedeutet: Bei fast jedem zweiten Papier gab es mindestens einen Fehler. Und bei den ganz neuen Papieren war die Fehlerquote noch viel höher.
Es gab zwei Hauptfehlerarten:
- Der „Gesamttausch": Die KI findet das falsche Buch und gibt dann alle Daten dieses falschen Buches aus (Autor, Titel, Verlag – alles falsch). Das ist wie wenn Sie jemanden mit einem Doppelgänger verwechseln.
- Der „Kleinkram-Fehler": Die KI findet das richtige Buch, aber erfindet die Seitenzahl oder vergisst ein Komma im Namen.
3. Die Lösung: „clibib" – Der digitale Korrekturleser
Da KIs beim Erfinden von Daten schlecht sind, aber gut darin, Anweisungen zu befolgen, haben die Forscher ein kleines Werkzeug namens clibib entwickelt.
Stellen Sie sich clibib wie einen unabhängigen, strengen Bibliothekar vor, der direkt mit dem offiziellen Verlagskatalog verbunden ist. Er lügt nicht. Er weiß genau, was auf dem Papier steht.
Die Forscher haben zwei Wege getestet, wie man diesen Bibliothekar nutzt:
- Weg A (Der chaotische Weg): Die KI sucht im Internet, findet vielleicht einen Link, ruft dann den Bibliothekar an und versucht, alles selbst zusammenzufügen.
- Ergebnis: Besser als ohne, aber die KI macht immer noch Fehler beim Zusammenfügen.
- Weg B (Der zweistufige Weg – Die Gewinner-Strategie):
- Die KI macht ihren ersten Entwurf (wie immer).
- DANN greift das Tool clibib zu, holt die wahren Daten aus dem offiziellen Katalog.
- Die KI bekommt diese echten Daten und wird gebeten: „Vergleiche deinen Entwurf mit diesen echten Daten und korrigiere deine Fehler."
- Ergebnis: Das war der Durchbruch! Die Genauigkeit stieg auf über 91 %. Fast 80 % der Steckbriefe waren nun komplett fehlerfrei.
4. Die Moral der Geschichte
Die wichtigste Erkenntnis dieser Studie ist nicht nur, dass KIs Fehler machen, sondern wie wir sie nutzen müssen:
- Vertraue nicht dem Gedächtnis: KIs können keine wissenschaftlichen Zitate aus dem Gedächtnis erstellen. Sie müssen immer auf eine externe, wahre Quelle zurückgreifen.
- Trenne die Aufgaben: Es ist besser, wenn eine KI die Suche macht und ein anderes (oder dasselbe) System die Daten holt, und dann eine dritte Phase die Korrektur übernimmt. Wenn man alles in einem Schritt versucht, scheitert es öfter.
- Der „Identitäts-Check": Um zu prüfen, ob eine KI lügt, reicht es oft, nur drei Dinge zu prüfen: Wer ist der Autor? Wo wurde es veröffentlicht? In welchem Jahr? Wenn diese drei stimmen, ist der Rest meist auch korrekt. Wenn diese drei falsch sind, ist das ganze Papier ein Fake.
Zusammenfassend:
KIs sind tolle Schreibmaschinen, aber sie sind keine verlässlichen Bibliothekare. Wenn Sie wissenschaftlich schreiben, sollten Sie die KI nie allein entscheiden lassen. Nutzen Sie Tools wie clibib, um die Daten gegen eine echte Datenbank zu prüfen. Nur so verhindern Sie, dass Ihre Arbeit voller „Halluzinationen" steckt, die andere Wissenschaftler verwirren könnten.
Die Botschaft ist klar: Suchen ist gut, aber Verifizieren ist unverzichtbar.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.