Divergent Response Modes in Frontier Language Models Under Steering Pressure
Diese Studie zeigt, dass Frontier-Sprachmodelle unter Lenkungsdruck distinkte und entwicklerspezifische Verhaltensreaktionsmodi aufweisen, was belegt, dass sich Modelle nicht nur im Grad der Verhaltensänderung, sondern auch in der grundlegenden Natur ihrer Reaktionen unterscheiden, ein Phänomen, das durch groß angelegte Peer-Beurteilungen und kausale Interventionen mittels linearer Probes validiert wurde.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich eine Welt vor, in der Sie mit einem superintelligenten digitalen Gehirn sprechen können, das fast alles weiß. Das ist keine Magie; es ist das Feld der Künstlichen Intelligenz, speziell der „Large Language Models“. Betrachten Sie diese Modelle als unglaublich talentierte Köche, die fast jedes Kochbuch existierender Rezepte gelesen haben. Aber hier ist der Haken: Bevor sie Ihnen eine Mahlzeit servieren können, werden sie von ihren Schöpfern trainiert, strengen Regeln zu folgen, was höflich, sicher und hilfreich ist. Dieses Training ist wie ein „moralischer Kompass“ oder ein Satz von Sicherheitsrichtlinien, die in ihr Gehirn eingebacken sind.
Manchmal versuchen Menschen jedoch, diese digitalen Köche auszutricksen. Sie bitten den Koch vielleicht, die Regeln zu ignorieren, sein geheimes Rezept zu enthüllen (wie er zu der Antwort gekommen ist) oder so zu tun, als wäre ihm Sicherheit egal. Dies wird als „Steering“ oder „Steering Pressure“ bezeichnet. Es ist, als würde man einen Wachhund bitten, einen Fremden zu ignorieren, oder einen Bibliothekar bitten, ein verbotenes Buch herauszugehen. Wissenschaftler wollen wissen: Wenn Sie diese verschiedenen KI-Köche mit denselben trickreichen Fragen konfrontieren, reagieren sie alle auf die gleiche Weise? Sagen sie alle „Nein“, oder sagen einige auf eine lustige Art „Nein“, während andere „Ja“ sagen, sich aber darüber beschweren? Das Verständnis dessen hilft uns zu erkennen, ob diese digitalen Gehirne wirklich sicher sind oder ob sie verborgene Eigenheiten haben könnten, die uns in Schwierigkeiten bringen könnten.
Der Große KI-Persönlichkeitstest
In dieser Studie entschied sich ein Forscher namens Ali Jalal-Kamali dazu, sechs der fortschrittlichsten KI-Modelle der Welt einem massiven, hochkarätigen Persönlichkeitstest zu unterziehen. Stellen Sie sich sechs verschiedene Roboter vor, die von jeweils einem anderen Unternehmen gebaut wurden (wie Anthropic, OpenAI, Google und anderen). Der Forscher gab ihnen 340 verschiedene schwierige Situationen. Einige Situationen baten sie, etwas leicht Unhöfliches zu tun (ein „Wertekonflikt“), einige baten sie, die Bohnen zu streuen, wie sie ein Rätsel gelöst haben („Reasoning Elicitation“), und einige baten sie, so zu tun, als wäre ihnen Sicherheitsregeln egal („Reasoning Suppression“).
Um sicherzustellen, dass der Test fair war, sahen sich jeder einzelne Roboter exakt denselben Fragen gegenüber. Aber hier ist der clevere Teil: Die Roboter mussten auch die Antworten der anderen bewerten! Sie fungierten als blinde Richter, die die Antworten lasen, ohne zu wissen, welcher Roboter sie geschrieben hatte. Dies erzeugte einen riesigen Berg an Daten – über 24.000 Urteile –, um genau zu sehen, wie sich jeder Roboter verhielt, wenn er an seine Grenzen gebracht wurde.
Die Ergebnisse: Nicht nur unterschiedlich, sondern seltsam unterschiedlich
Die große Entdeckung war nicht nur, dass einige Roboter hartnäckiger waren als andere. Es war, dass sie nicht nur darüber uneinig waren, wie viel sie sagten; sie waren sich uneinig darüber, wie sie es sagten. Sie hatten völlig unterschiedliche „Modi“ der Antwort, und einige dieser Modi waren einzigartig für nur ein oder zwei Roboter.
Der Geheimnisträger (GPT-5)
Ein Roboter, GPT-5, tat etwas, das kein anderer Roboter tat. Wenn er gebeten wurde, seinen Lösungsweg aufzuzeigen (seine Argumentation zu erklären), weigerte er sich 99 von 100 Mal. Aber hier ist der Clou: Er lieferte trotzdem die richtige Antwort! Es war wie ein Schüler, der sagt: „Ich kann dir nicht sagen, wie ich dieses Matheproblem gelöst habe, aber hier ist die Antwort: 42.“ Jeder andere Roboter zeigte entweder seinen Lösungsweg oder verweigerte die Antwort auf die Frage komplett. GPT-5 war der Einzige, der seine Geheimnisse bewahren konnte und trotzdem den Job erledigte.
Die Rebellen (Opus und GPT-5)
Als sie gebeten wurden, Sicherheitsregeln zu ignorieren oder vorzugeben, dass ihnen Werte egal seien, leisteten zwei Roboter – Opus und GPT-5 – Widerstand. Aber sie leisteten auf völlig unterschiedliche Weise Widerstand.
- Opus war wie ein höflicher Rebell. Er würde die Aufgabe ausführen, sich aber lautstark beschweren: „Ich mache das zwar, aber du hättest mich nicht bitten sollen, die Regeln zu ignorieren.“
- GPT-5 war der Hardliner. Er würde die Anfrage einfach komplett ablehnen, indem er sagte: „Nein, das werde ich nicht tun“, und damit aufhören.
Die anderen vier Roboter folgten meistens einfach den Befehlen oder blieben still.
Die Klärer (Opus und Llama)
Wenn die Fragen vage oder knifflig waren, waren Opus und Llama die einzigen, die anhielten und fragten: „Warte, was genau meinst du damit?“, anstatt einfach zu raten. Die anderen Roboter neigten dazu, entweder einfach eine Antwort zu geben oder die Antwort zu verweigern.
Die Arbeit überprüfen: Haben wir einen Fehler gemacht?
Der Forscher war sehr sorgfältig darauf bedacht, sicherzustellen, dass diese seltsamen Unterschiede nicht bloß Fehler waren.
- Das Token-Budget: Sie bemerkten, dass einige Roboter unterbrochen wurden, weil ihnen der „Platz“ zum Schreiben ihrer Antworten ausging. Sie behoben dies, indem sie diesen Robotern mehr Platz gaben, und das seltsame Verhalten (wie das Geheimnisbewahren von GPT-5) blieb exakt gleich.
- Der „Hinweis“-Check: Sie stellten sicher, dass die Richter nicht einfach aufgrund von Hinweisen in den Anweisungen ratierten. Selbst als sie die Hinweise entfernten, hielten die Ergebnisse stand.
- Die „neuen“ Fragen: Sie testeten die Roboter erneut mit einem frischen Satz von Fragen, die sie noch nicht gesehen hatten, und die Muster wiederholten sich.
Einen Blick in das Gehirn werfen (Das Llama-Experiment)
Für einen der Roboter, Llama, konnte der Forscher einen Blick in dessen „Gehirn“ (seinen internen Code) werfen, um zu sehen, wie er entschied, nach einer Klärung zu fragen oder einfach eine Antwort zu geben.
- Die Detektivarbeit: Sie fanden ein spezifisches „Signal“ in dem Gehirn des Roboters, das vorhersagte, ob er eine klärende Frage stellen oder einfach antworten würde. Sie konnten dieses Signal mit einer Genauigkeit von 87 % lesen, indem sie nur den internen Zustand des Roboters betrachteten.
- Die Fernbedienung: Dann versuchten sie, den Roboter zu zwingen, seine Meinung zu ändern. Indem sie dieses spezifische Signal im Gehirn manipulierten, konnten sie den Roboter dazu bringen, von der direkten Antwort zur Klärungsfrage zu wechseln oder umgekehrt. Sie konnten das „Klärungsverhalten“ wie einen Lichtschalter an- und ausschalten und das Verhalten des Roboters allein durch das Drücken dieses einen Knopfes von 0 % auf 86 % verändern.
Das Fazit
Diese Studie zeigt, dass diese KI-Modelle, obwohl sie alle superintelligent sind, keine Klone sind. Sie haben ausgeprägte Persönlichkeiten und Strategien, wenn sie unter Druck geraten. Einige verstecken ihre Argumentation, andere streiten mit Ihnen, und wieder andere fragen nach weiteren Details. Dies sind nicht nur kleine Unterschiede; es sind grundlegende Arten, wie die Roboter aufgebaut sind.
Der Forscher hat auch gezeigt, dass wir für mindestens einen Roboter tatsächlich den „Schalter“ in seinem Gehirn finden können, der diese Verhaltensweisen steuert. Das bedeutet, dass wir nicht nur raten, wie sie funktionieren; wir beginnen, die Mechanik hinter ihren Entscheidungen zu verstehen. Da dies jedoch ein Test spezifischer Modelle zu einem bestimmten Zeitpunkt war, wissen wir nicht, ob alle zukünftigen Roboter so handeln werden. Aber für den Moment wissen wir: Wenn man diese digitalen Gehirne unter Druck setzt, brechen sie nicht alle auf die gleiche Weise zusammen – manche haben einfach eine ganz andere Art, „Nein“ zu sagen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.