Inverted Detection and Control in Steering Vectors

Stellen Sie sich vor, Sie versuchen, einem riesigen, digitalen Gehirn beizubringen, die Wahrheit zu sagen oder höflich zu sein. Sie wollen es nicht nicht von Grund auf neu programmieren; das wäre zu schwer und zu langsam. Stattdessen wollen Sie ihm einen kleinen Anstoß geben, ein sanftes Klopfen auf die Schulter, um es an das Richtige zu erinnern, während es denkt. In der Welt der künstlichen Intelligenz wird dieser „Anstoß“ als Steering Vector (Lenkungsvektor) bezeichnet. Denken Sie an ihn wie an eine magnetische Kompassnadel, die im Gehirn der KI verborgen ist. Wenn die KI dazu neigt, zu lügen, zeigen Sie die Nadel in Richtung „Wahrheit“, und die Gedanken der KI sollten sich magisch wieder in diese Richtung ausrichten. Lange Zeit glaubten Wissenschaftler, dies sei ein einfaches physikalisches Spiel: Wenn die Kompassnadel in Richtung „Wahrheit“ zeigt, würde ein Drücken der KI in diese Richtung sie wahrhaftiger machen. Es schien eine einfache Regel zu sein: Finde die Richtung, die Lügen von Wahrheiten trennt, und schiebe die KI entlang dieser Linie.

Aber was, wenn der Kompass kaputt war? Was, wenn die Nadel, anstatt die KI zur Wahrheit zu führen, eigentlich genau in die entgegengesetzte Richtung zeigte und ein Drücken der KI entlang ihr dazu führte, noch stärker zu lügen? Dies ist die überraschende Wendung, die in einer neuen Studie der Northeastern University entdeckt wurde. Die Forscher fanden heraus, dass die Werkzeuge, mit denen wir das Verhalten der KI steuern wollen, manchmal „invertiert“ sind. Sie sehen so aus, als würden sie in die richtige Richtung zeigen, aber in Wirklichkeit führen sie die KI in die Irre. Diese Entdeckung ist entscheidend, denn sie bedeutet, dass es nicht ausreicht, einfach nur eine Richtung zu finden, die gut von schlecht zu unterscheiden scheint; wir müssen sicherstellen, dass sich die KI auch tatsächlich in die richtige Richtung bewegt, wenn wir sie schieben. Wenn wir diese „invertierten“ Richtungen nicht prüfen, könnten wir unsere KI versehentlich weniger ehrlich, weniger hilfreich oder sogar gefährlicher machen, selbst wenn wir glauben, ihr zu helfen.

Das Rätsel des rückwärts gerichteten Kompasses

Das Papier mit dem Titel „Inverted Detection and Control in Steering Vectors“ befasst sich mit einem seltsamen Phänomen, das die Autoren als Inverted-Steering Vectors (ISVs) bezeichnen. Um dies zu verstehen, stellen Sie sich das Gehirn der KI als eine riesige, vielschichtige Stadt vor. In dieser Stadt gibt es Millionen winziger Boten (genannt „Attention Heads“), die sich gegenseitig Notizen zuwerfen. Wenn wir wollen, dass die KI wahrheitsgetreu ist, versuchen wir, eine bestimmte „Richtung“ in der Stadt zu finden, die für „Wahrheit“ steht. Normalerweise finden wir dies, indem wir uns die Notizen ansehen, die die KI schreibt, wenn sie die Wahrheit sagt im Vergleich dazu, wenn sie lügt. Der Unterschied zwischen diesen beiden Sätzen von Notizen ergibt unseren „Steering Vector“ – eine Karte, die in Richtung der Wahrheit zeigt.

Die alte Annahme war einfach: Wenn man die KI entlang dieser Karte schiebt, sollte sie wahrheitsgetreuer werden. Doch die Autoren fanden heraus, dass bei einigen dieser Karten genau das Gegenteil passiert. Sie nennen diese Inverted-Steering Vectors (ISVs). Es ist, als hätte man eine Karte, auf der steht „Norden ist hier“, aber wenn man nach Norden geht, landet man tatsächlich im Süden. Die Karte sieht perfekt aus – sie trennt das „Wahrheits-Viertel“ ganz klar vom „Lügen-Viertel“ – aber wenn man versucht, die KI damit zu führen, drückt man sie in die falsche Richtung.

Die Forscher testeten dies an drei verschiedenen KI-Modellen (Gemma 3, Qwen 2.5 und Olmo 3) und fünf verschiedenen Konzepten, darunter Wahrhaftigkeit, Gewinnstreben und „Korrigierbarkeit“ (die Bereitschaft, korrigiert zu werden). Sie fanden heraus, dass diese Rückwärts-Karten kein seltener Unfall sind, sondern ein systematischer Fehler. Tatsächlich stellten sie fest, dass einige Vektoren so gut darin waren, den Unterschied zwischen Wahrheit und Lüge zu erkennen (mit einem AUC-Wert von bis zu 0,97, was sehr hoch ist), dass sie perfekt erschienen. Doch als die Forscher versuchten, die KI mit ihnen zu steuern, tat die KI genau das Gegenteil dessen, was beabsichtigt war.

Wie sie den Fehler fanden

Wie weiß man also, ob der Kompass kaputt ist, bevor man losläuft? Die Autoren entwickelten einen klugen Trick, der nicht erfordert, darauf zu warten, dass die KI eine ganze Geschichte schreibt, um dann zu prüfen, ob sie gut ist. Das würde zu lange dauern und zu viel Geld kosten. Stattdessen schauten sie sich an, was innerhalb des Gehirns der KI passiert, während sie denkt, noch bevor sie überhaupt spricht.

Sie führten ein Konzept namens Representation Response ein. Stellen Sie sich das Gehirn der KI als eine Reihe von Räumen vor. Sie drücken einen Knopf im ersten Raum (den Steering Vector) und beobachten, was im nächsten Raum am Ende des Flurs passiert. Wenn der Kompass korrekt funktioniert (ein „Regular-Steering Vector“), bewirkt das Drücken des Knopfes im ersten Raum, dass der zweite Raum mit „Wahrheits“-Signalen aufleuchtet. Aber wenn der Kompass invertiert ist (ein ISV), bewirkt das Drücken des Knopfes, dass der zweite Raum tatsächlich mit „Lügen“-Signalen aufleuchtet.

Durch die Messung dieses „Aufleuchtens“ schufen die Forscher einen Wert, den sie den Spoof Score nennen. Wenn der Wert positiv ist, funktioniert der Kompass. Wenn der Wert negativ ist, ist der Kompass kaputt und zeigt nach hinten. Dies ermöglichte es ihnen, die invertierten Vektoren zu identifizieren, ohne jemals einen einzigen Satz Text generieren zu müssen. Es ist, als würde man prüfen, ob das Lenkrad eines Autos über die Zahnräder mit den Rädern verbunden ist, anstatt das Auto die Klippe hinunterzufahren, um zu sehen, was passiert.

Den Anstoß korrigieren

Sobald sie wussten, wie man die kaputten Kompasse erkennt, testeten die Autoren eine einfache Lösung: das Vorzeichen umkehren. Wenn der Spoof Score angibt, dass ein Vektor invertiert ist, kehrten sie einfach die Richtung des Schubs um. Anstatt die KI „vorwärts“ entlang des Vektors zu drücken, drückten sie sie „rückwärts“.

Die Ergebnisse waren dramatisch. In ihren Experimenten verglichen sie die Standardmethode (die einfach in die Richtung drückt, in die der Vektor zeigt) mit ihrer neuen Methode (die den Spoof Score prüft und die Richtung umkehrt, falls nötig). In 27 von 30 Experimenten funktionierte ihre neue Methode besser. In einigen Fällen war die Verbesserung massiv – bis zu 138 % besser bei der Förderung des gewünschten Verhaltens. Wenn man beispielsweise versuchte, die KI ehrlicher zu machen, machte die Standardmethode sie manchmal nur ein wenig besser, aber ihre neue Methode machte sie signifikant wahrheitsgetreuer.

Warum das wichtig ist

Diese Entdeckung verändert die Art und Weise, wie wir denken, wie man KI kontrolliert. Lange Zeit galt die Faustregel: „Finde eine Richtung, die das Gute vom Bösen trennt, und drücke in diese Richtung.“ Dieses Papier legt nahe, dass diese Regel unvollständig ist. Nur weil eine Richtung die beiden unterscheidet, bedeutet das nicht, dass ein Drücken entlang dieser Richtung die KI zum Guten führt. Manchmal ist die Trennung zwar real, aber die Verbindung zum Verhalten der KI ist umgekehrt.

Die Autoren betonen, dass dies nicht nur eine theoretische Kuriosität ist, sondern ein praktisches Problem, das beeinflusst, wie wir sichere KI bauen. Wenn wir uns auf diese Vektoren verlassen, ohne auf die Invertierung zu prüfen, könnten wir unsere KI versehentlich zu schädlichen Verhaltensweisen steuern, während wir glauben, wir würden sie in Richtung Sicherheit lenken. Durch die Verwendung ihres neuen „Spoof Score“-Checks können wir diese Fehler abfangen, bevor sie entstehen, und sicherstellen, dass die KI, wenn wir sie anstupsen, tatsächlich dorthin geht, wo wir sie haben wollen.

Kurz gesagt: Das Papier zeigt auf, dass die interne Karte der KI täuschen kann. Es lehrt uns, dass wir beim Umgang mit diesen mächtigen Modellen mehr als nur Kartenleser sein müssen; wir müssen Kompassprüfer sein, die sicherstellen, dass die gewählte Richtung uns auch tatsächlich an das gewünschte Ziel führt.