Authority, Truth, and Citation Bias: A Large-Scale Multi-Domain Benchmark for Studying Epistemic Susceptibility in Large Language Models
Dieses Paper führt AuthorityBench ein, einen groß angelegten Multi-Domain-Benchmark, der zeigt, dass allein die Anwesenheit von Zitaten – unabhängig von deren faktischer Richtigkeit – die Halluzinationsraten bei großen Sprachmodellen signifikant erhöht, wobei die ausgeprägtesten Effekte beobachtet werden, wenn fabrikierte Zitate wahre Behauptungen begleiten.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie nehmen an einem Quiz teil. Sie wissen, dass die Antwort „Paris“ lautet, weil Sie schon einmal dort waren. Doch dann kommt ein Lehrer herein, zeigt auf ein schick aussehendes Buch im Regal und sagt: „Eigentlich ist die Hauptstadt London. Ich habe es in diesem prestigeträchtigen Journal gelesen.“
Würden Sie Ihre Antwort ändern? Die meisten Menschen würden innehalten und denken: „Warte, dieses Buch sieht wichtig aus. Vielleicht liege ich ja falsch.“
Dieses Paper, AuthorityBench, stellt eine ähnliche Frage an Künstliche Intelligenz (KI). Es will wissen: Wenn eine KI die Wahrheit kennt, aber jemand ihr eine „Zitation“ (einen Verweis auf eine Quelle) gibt, die das Gegenteil behauptet, wird die KI dieser Zitation blind vertrauen und die Wahrheit vergessen?
Hier ist die Aufschlüsselung ihrer Ergebnisse, unter Verwendung einfacher Analogien.
Das Experiment: Ein „Fake News“-Test für KI
Die Forscher entwickelten einen massiven Test namens AuthorityBench. Betrachten Sie dies als ein riesiges, 220.000-Fragen umfassendes Quiz, das darauf ausgelegt ist, KI-Modelle in die Irre zu führen.
Sie stellten ein „2x2“-Spiel mit vier Szenarien auf:
- Wahre Behauptung + Echte Zitation: Die KI hat recht, und die Quelle ist echt. (Der einfache Modus).
- Falsche Behauptung + Falsche Zitation: Die KI liegt falsch, und die Quelle ist gefälscht. (Die offensichtliche Falle).
- Falsche Behauptung + Echte Zitation: Die KI liegt falsch, aber die Quelle ist echt. (Die knifflige Falle).
- Wahre Behauptung + Falsche Zitation: Dies ist die große Entdeckung. Die KI hat recht, aber man gibt ihr eine falsche Quelle, die behauptet, sie liege falsch.
Sie testeten dies in vier Bereichen: Allgemeinwissen, Wissenschaft, Recht und Medizin. Sie änderten auch die „Geschmacksrichtung“ der gefälschten Quellen: Einige sahen so aus, als stammten sie von Nobelpreisträgern (hohes Prestige), andere von unbekannten Blogs (niedriges Prestige), und einige hatten Namen aus verschiedenen Ländern.
Die große Überrasung: Die „Autoritätsfalle“
Das schockierendste Ergebnis ist, dass Zitationen wie ein „Zauberspruch“ wirken, der die KI halluzinieren (lügen) lässt.
- Der „Falsche Quelle“-Effekt: Wenn die KI die korrekte Antwort kannte (z. B. „Paris ist die Hauptstadt“), aber eine falsche Zitation erschien, die besagte „London ist die Hauptstadt“, änderte die KI ihre Antwort oft zu London.
- Die Zahlen: In der Kategorie „Allgemeinwissen“ geschah dies 35 % bis 77 % der Zeit. Das bedeutet, wenn man einer KI eine wahre Tatsache gab und einen falschen Verweis hinzufügte, war sie eher bereit, die Wahrheit zu leugnen, als an ihr festzuhalten.
- Der „Echte Quelle“-Effekt: Selbst wenn die Zitation echt war, aber die Behauptung falsch, war die KI immer noch eher geneigt zu halluzinieren, als wenn es gar keine Zitation gegeben hätte.
Die Analogie: Stellen Sie sich einen Schüler vor, der weiß, dass „2+2=4“ ist. Wenn Sie ihm dann ein Blatt Papier reichen, auf dem steht: „Laut dem berühmten Professor Smith ist 2+2=5“, dann hört der Schüler auf, seinem eigenen Gehirn zu vertrauen, und schreibt „5“ auf. Das Papier (die Zitation) überlagerte die Mathematik.
Was nicht wichtig war?
Die Forscher glaubten, dass bestimmte Dinge die KI dazu bringen könnten, der Zitation mehr zu vertrauen, waren aber überrascht festzustellen, dass diese Faktoren fast keinen Einfluss hatten:
- Prestige: Es spielte keine Rolle, ob die falsche Zitation so aussah, als käme sie von einer Spitzenuniversität oder einem zufälligen Blog. Die KI war von beiden gleichermaßen verwirrt.
- Identität des Autors: Es spielte keine Rolle, ob der falsche Autor einen Namen hatte, der mit einem bestimmten Land oder einer Demografie assoziiert wurde. Die KI schien sich nicht dafür zu interessieren, wer es geschrieben hatte, sondern nur, dass etwas geschrieben wurde.
- Modellgröße: Man könnte denken, dass eine „klügere“ oder größere KI weniger leicht zu täuschen wäre. Aber die Studie fand heraus, dass die größten, fortschrittlichsten Modelle genauso anfällig für die Falle waren wie die kleineren.
Die eine Ausnahme: Die „Anwalts“-KI
Es gab einen Bereich, in dem die KI nicht so leicht getäuscht wurde: das Recht.
- Warum? Die Forscher vermuten, dass Rechtstexte eine sehr spezifische, formale „Sprache“ (wie einen Geheimcode) haben. Wenn die KI eine juristische Zitation sieht, scheint sie in einen „Prüfmodus“ zu schalten und prüft die Fakten genauer, anstatt der Autorität blind zu folgen.
- Allgemeinwissen war die schwächste Stelle, wo die KI am leichtesten auszutäuschen war.
Der „Falsche Behauptung“-Twist
Die Studie untersuchte auch, was passiert, wenn die KI bereits falsch liegt (eine falsche Behauptung).
- Einige KIs wurden schlauer: Bei Modellen wie Llama und Claude führte das Sehen einer Zitation (selbst einer falschen) dazu, dass sie weniger wahrscheinlich bei falschen Behauptungen halluzinierten. Es war, als ob die Zitation sie dazu brachte zu sagen: „Hm, ich muss das doppelt prüfen“, und sie sich selbst korrigierten.
- Einige KIs wurden dümmer: Bei Modellen wie Gemma und Phi-4 machte die Zitation sie wahrscheinlicher anfällig für Halluzinationen bei falschen Behauptungen. Sie akzeptierten die falschen Informationen blind.
Das Fazit
Das Paper kommt zu dem Schluss, dass das Hinzufügen einer Zitation eine KI nicht automatisch zuverlässiger macht. Tatsächlich macht es sie oft weniger zuverlässig.
Wenn Sie eine KI nutzen, um bei Fakten zu helfen, und Sie sehen, dass sie eine Quelle zitiert, gehen Sie nicht davon aus, dass sie die Wahrheit sagt. Die KI könnte so beeindruckt von der „Autorität“ der Zitation sein, dass sie bereitwillig die tatsächliche Wahrheit wegwirft. Die Studie warnt davor, dass wir für hochsensiblen Bereichen (wie Medizin oder Recht) nicht davon ausgehen können, dass die Fundierung der Antworten einer KI in Zitationen deren Fehler behebt; manchmal werden die Zitationen selbst zur Quelle des Fehlers.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.