Safety is Contextual, LLM-Judges Are Not: Navigating the Rigid Priors of Evaluators
Diese Arbeit untersucht die Einschränkungen von LLMs als Richter in der Sicherheitsbewertung und zeigt auf, dass sie zwar aus neuem Kontext lernen können, jedoch oft starr an ihren internen Sicherheits-Prios festhalten, anstatt sich an widersprüchliche Informationen oder Definitionen anzupassen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie hätten ein Team von hochintelligenten Schiedsrichtern (das sind die KI-Modelle oder „LLM-Richter“) engagiert, um ein riesiges Sportturnier zu beobachten und zu entscheiden, welche Spielzüge „fair“ und welche „Betrug“ sind.
Das Problem ist, dass sich die Regeln des Spiels ändern, je nachdem, wo man spielt. In einem Land ist ein bestimmter Spielzug ein Foul; in einem anderen ist es ein brillanter Spielzug. Außerdem werden jeden Tag neuer Slang und neue Arten von Tricks erfunden.
Diese Arbeit stellt eine einfache, aber beängstigende Frage: Folgen diese KI-Schiedsrichter tatsächlich den Regeln, die Sie ihnen gerade gegeben haben, oder spielen sie nach ihrem eigenen alten, internen Regelbuch?
Die Autoren fanden heraus, dass die Schiedsrichter überraschend stur sind. Hier ist die Aufschlüsselung unter Verwendung einfacher Analogien:
1. Das „Sture Schiedsrichter“-Problem (Steuerbarkeit)
Normalerweise, wenn man einen Schiedsrichter engagiert, gibt man ihm ein Regelbuch. Man sagt: „Wenn jemand den Ball mit den Händen berührt, ist das ein Foul.“
- Was die Arbeit herausfand: Selbst wenn Sie explizit ein neues Regelbuch vor die KI legen, ignoriert sie dieses oft. Sie urteilt weiterhin basierend auf den „Sicherheitsregeln“, die sie während ihrer Schulzeit (während ihres Trainings) gelernt hat.
- Die Analogie: Stellen Sie sich vor, Sie engagieren einen Schiedsrichter, der mit Fußball aufgewachsen ist. Sie sagen ihm: „Heute spielen wir Basketball, also ist es okay, die Hände zu benutzen, aber den Ball mit dem Fuß zu spielen, ist ein Foul.“ Der Schiedsrichter wird trotzdem die Pfeife blasen, weil er die Hände benutzt, weil er tief im Inneren denkt: „Nein, das ist ein Foul! Das habe ich beim Fußball gelernt!“
- Der Clou: Die Arbeit fand heraus, dass der Schiedsrichter viel besser darin wird, Ihre neuen Regeln zu befolgen, wenn Sie ihn austricksen, indem Sie sagen: „Nennen wir das einfach ‚Kategorie A‘ oder ‚Kategorie B‘ anstatt ‚Sicher‘ oder ‚Unsicher‘.“ Es ist, als ob der Schiedsrichter nur dann verwirrt ist, wenn die Wörter „Sicherheit“ und „Regeln“ verwendet werden, was seine alten Trainingsinhalte triggert.
2. Das „Ablenkbare Schüler“-Problem (Anfälligkeit)
Manchmal geben Sie dem Schiedsrichter kurz vor Spielbeginn ein Spickzettel oder ein paar Beispiele, worauf er achten soll.
- Was die Arbeit herausfand:
- Alte Tricks: Wenn Sie dem Schiedsrichter Beispiele für „Betrug“ geben, ignoriert er diese meistens. Er hält sich an das, was er bereits weiß.
- Neues Wissen: Wenn Sie ihm jedoch Informationen über etwas völlig Neues geben, das er noch nicht kennt (wie ein neues Slang-Wort oder ein Nachrichtenereignis aus dem nächsten Jahr), wird er zuhören.
- Die Analogie: Stellen Sie sich einen Schüler vor, der eine Prüfung ablegt.
- Wenn Sie ihm zuflüstern: „Merk dir, die Antwort ist immer 42“, und der Schüler bereits weiß, dass die Antwort 42 ist, ignoriert er Sie.
- Aber wenn Sie ihm zuflüstern: „Die Antwort auf diese Frage über einen neuen Planeten ist 42“, und der Schüler noch nie von diesem Planeten gehört hat, wird er Ihnen glauben.
- Der Haken: Der Schiedsrichter hört nur dann auf neue Informationen, wenn er sich über das Thema unsicher ist. Wenn er in seinem alten Wissen sicher ist, wird er Ihre neuen Anweisungen ignorieren, selbst wenn Sie recht haben.
3. Der „Einheitsmaß“-Mythos
Die Arbeit testete 13 verschiedene KI-Schiedsrichter. Dabei fanden sie heraus:
- Ein „guter“ Schiedsrichter zu sein (hohe Punktzahlen in Standardtests zu erreichen) bedeutet nicht zwangsläufig, dass man „flexibel“ ist.
- „Flexibel“ zu sein (neuen Regeln zu folgen) bedeutet nicht zwangsläufig, dass man „präzise“ ist.
- Einige Schiedsrichter sind von Natur aus stur, andere von Natur aus empfänglich. Es gibt keinen einzelnen „besten“ Schiedsrichter für jeden Job.
Das große Fazit
Die Autoren kommen zu dem Schluss, dass Sicherheit kontextabhängig ist, aber KI-Richter starr sind.
Wenn Sie ein Unternehmen sind, das versucht, eine KI einzusetzen, um zu prüfen, ob Inhalte für eine bestimmte Kultur oder eine bestimmte neue Situation sicher sind, können Sie nicht einfach davon ausgehen, dass die KI Ihren Anweisungen folgt. Sie urteilt wahrscheinlich basierend auf ihrem eigenen internen „Bauchgefühl“ darüber, was sicher ist, was sich völlig von der Richtlinie Ihres Unternehmens unterscheiden kann.
Kurz gesagt: Sie können der KI nicht einfach sagen: „Folge diesen Regeln.“ Sie müssen verstehen, dass die KI über tief verwurzelte Gewohnheiten verfügt, die sehr schwer zu ändern sind – es sei denn, Sie tricksen sie aus, damit sie glaubt, sie spiele ein völlig anderes Spiel.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.