LLM Judges Inconsistently Disagree Across Safety Criteria and Harm Categories
Diese Arbeit zeigt auf, dass Large Language Models, die als automatisierte Richter eingesetzt werden, eine erhebliche Inkonsistenz und Unzuverlässigkeit aufweisen, insbesondere bei der Bewertung regulierter Bereiche wie dem Finanzwesen oder variierend nach Sprache und Kriterien, was die Notwendigkeit einer sorgfältigen Implementierung in Sicherheitsbewertungen unterstreicht.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie hätten ein Gremium aus sechs verschiedenen Kunstkritikern engagiert, um eine Serie von Gemälden zu beurteilen. Sie möchten, dass diese sich darüber einig sind, welche Gemälde „sicher“ (gut, angemessen) und welche „unsicher“ (schlecht, schädlich) sind. Sie erwarten, dass sie, wenn man ihnen dasselbe Gemälde zeigt oder sogar eine leicht andere Version davon (wie ein Foto des Gemäldes in einem anderen Rahmen oder eine Übersetzung der Notiz des Künstlers in eine andere Sprache), in etwa das gleiche Urteil fällen.
In dieser Arbeit geht es genau darum, aber anstelle von Kunstkritikern sind die „Richter“ Large Language Models (KI) und anstelle von Gemälden beurteilen sie KI-generierte Texte auf ihre Sicherheit.
Hier ist die Aufschlüsselung dessen, was die Forscher herausgefunden haben, unter Verwendung einfacher Analogien:
1. Das Problem „Offensichtlich vs. Subtil“
Die Forscher testeten die KI-Richter auf zwei sehr unterschiedliche Arten von „schlechten“ Inhalten:
- Der „Schreiender Feuer“-Test (Gewalt): Sie baten die KI, Texte über Gewalt, Hassrede oder illegale Handlungen zu beurteilen.
- Das Ergebnis: Die KI-Richter waren ziemlich gut darin. Wenn ein Gemälde offensichtlich in Flammen stand, stimmten alle sechs Kritiker überein: „Dies ist unsicher.“
- Der „Finanzberatung“-Test (Regulierte Bereiche): Sie baten die KI, Texte zu beurteilen, in denen eine KI Ratschläge zu Themen wie Kreditwürdigkeit, Visumanträge oder medizinische Beratung gibt.
- Das Ergebnis: Die KI-Richter waren hier schrecklich darin, sich einig zu werden. Es ist, als würde man sechs Kritiker bitten, ein Gemälde zu beurteilen, das fast ein Meisterwerk ist, aber einen winzigen, subtilen Makel hat. Ein Kritiker sagt: „Es ist sicher, nur ein wenig riskant“, während ein anderer sagt: „Es ist gefährlich, werfen Sie es weg!“ Sie konnten sich nicht einig werden, was in diesen komplexen, realen Szenarien überhaupt „sicher“ bedeutete.
2. Das „Magische Spiegel“-Problem (Selbstkonsistenz)
Die Forscher nahmen eine einzige KI-Antwort und zeigten sie den Richtern in verschiedenen „Spiegeln“:
Übersetzung: Sie zeigten den Text auf Englisch, dann auf Französisch, dann auf Hindi usw.
Paraphrasierung: Sie schrieben den Text um, um ihn formeller, informeller klingen zu lassen oder die Reihenfolge der Sätze zu ändern, ohne die eigentliche Bedeutung zu verändern.
Das Ergebnis: Die Richter waren inkonsistent. Wenn ein Richter sagte: „Dieser englische Satz ist sicher“, konnte er sich beim Anblick exakt desselben Satzes in der Hindi-Übersetzung plötzlich entscheiden: „Warte, diese Hindi-Version ist unsicher!“ Oder er könnte eine umformulierte Version betrachten und seine Meinung ändern.
Die Metapher: Stellen Sie sich einen Sicherheitsmann vor, der eine Person in einem roten Hemd stoppt, aber dieselbe Person in einem blauen Hemd passieren lässt, obwohl es exakt dieselbe Person ist. Die KI-Richter lassen sich leicht von der Art, wie die Wörter „angezogen“ sind, täuschen, und nicht von dem, was die Wörter tatsächlich aussagen.
3. Das „Jury“-Problem (Kreuzkonsistenz)
Die Forscher fragten auch: „Wenn wir alle sechs KI-Richter in einen Raum setzen würden, würden sie sich untereinander einig sein?“
- Das Ergebnis: Nein. Selbst wenn sie denselben Text in derselben Sprache betrachteten, gaben die Richter oft gegensätzliche Antworten.
- Die Metapher: Stellen Sie sich eine Jury vor, bei der eine Person „Schuldig“ stimmt, eine andere „Nicht schuldig“ und eine dritte „Vielleicht“. Sie schauen sich alle dasselbe Beweismaterial an, aber sie haben völlig unterschiedliche interne Regelbücher dafür, was als Verbrechen gilt. Die Arbeit fand, dass die „Jury“ bei komplexen Themen (wie Finanzberatung) oft in völligem Chaos versinkt.
4. Die „Falsche Einigkeit“-Falle
Die Arbeit weist auf eine tückische statistische Illusion hin.
- Manchmal sagen alle Richter zu 99 % der Zeit „Sicher“. Wenn man einfach nur die „Ja“-Stimmen zählt, sieht es so aus, als stünden sie in perfekter Übereinstimmung (100 % Konsistenz).
- Der Haken: Aber wenn sie nur deshalb „Sicher“ sagen, weil sie faul oder voreingenommen sind und nicht wirklich über die spezifischen Details nachdenken, dann ist das keine echte Übereinstimmung. Die Forscher verwendeten spezielle Mathematik (wie einen „chance-corrected“ Score), um diese falsche Übereinstimmung zu eliminieren.
- Die Metapher: Es ist wie eine Gruppe von Freunden, die die Antwort auf eine Trivia-Frage raten. Wenn die Antwort zu 99 % der Fälle „Ja“ lautet und alle „Ja“ raten, sehen sie aus wie Genies. Aber wenn die Frage eigentlich schwer ist und sie nur die häufigste Antwort raten, stimmen sie nicht wirklich über die Begründung überein. Die Arbeit zeigt, dass die KI-Richter, wenn man tiefer blickt, sich eigentlich sehr oft uneinig sind.
Das Fazit
Die Arbeit kommt zu dem Schluss, dass KI-Richter zwar in der Lage sind, offensichtliche, laute Gefahren (wie Gewalt) zu erkennen, aber bei nuancierter, realer Beratung (wie Finanzen oder Recht) unzuverlässig und inkonsistent sind.
Wenn Sie eine KI verwenden, um als Sicherheitswächter für komplexe Themen zu fungieren, können Sie ihr nicht vertrauen, konsistent zu sein. Sie könnte eine gefährliche Antwort durchgehen lassen, nur weil sich die Satzstruktur leicht geändert hat, oder sie könnte eine sichere Antwort ablehnen, nur weil sie in eine andere Sprache übersetzt wurde. Die „Jury“ der KI-Modelle ist derzeit zu gespalten, um ohne menschliche Aufsicht für Entscheidungen mit hoher Tragweite vertraut zu werden.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.