💻 computer science

MENTIS: What Belief Changes Under Alignment? Measuring Multi-Scale Latent Torsion in Language Models

Dieses Paper führt MENTIS ein, ein geometrie-fokussiertes Framework, das aufzeigt, dass die Präferenz-Ausrichtung eine selektive, tiefenlokalisierte geometrische Reorganisation in Sprachmodellen induziert, welche durch größere Torsionsverschiebungen bei normativen Konzepten und negative Korrelationen mit der kontextuellen Entropie gekennzeichnet ist, anstatt durch uniforme interne Veränderungen.

Ursprüngliche Autoren: Partha Pratim Saha, Samarth Raina, Mayur Parvatikar, Amit Dhanda, Vinija Jain, Aman Chadha, Amitava Das

Veröffentlicht 2026-06-02

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Partha Pratim Saha, Samarth Raina, Mayur Parvatikar, Amit Dhanda, Vinija Jain, Aman Chadha, Amitava Das

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie haben zwei Versionen eines sehr intelligenten Roboter-Assistenten.

Version A (Der „Schüler“): Dieser Roboter hat viele Bücher gelesen und gelernt, wie man Anweisungen befolgt. Er ist klug, aber wenn man ihn mit einer hinterlistigen Frage austrickst, könnte er versehentlich etwas Unhöfliches oder Gefährliches sagen.
Version B (Der „Absolvent“): Dies ist derselbe Roboter nach einem speziellen Trainingslager namens „Alignment“. Ihm wurde beigebracht, hilfreich, harmlos und ehrlich zu sein. Er weigert sich, schlechte Fragen zu beantworten und verhält sich viel besser.

Wir wissen, dass Version B nach außen hin besser agiert. Aber das große Rätsel ist: Was hat sich im Inneren seines Gehirns tatsächlich verändert? Hat es nur ein paar neue „Stopp-Wörter“ gelernt? Oder wurde seine gesamte Art zu denken neu strukturiert?

Dieses Paper stellt ein neues Werkzeug namens MENTIS vor, um in das Gehirn des Roboters zu schauen und diese Frage zu beantworten.

Die Kernidee: „Überzeugung“ als eine Richtung

Die Autoren betrachten die „Überzeugung“ eines Roboters nicht wie eine menschliche Überzeugung (z. B. „Ich glaube, der Himmel ist blau“). Stattdessen sehen sie sie als einen Kompass.

Stellen Sie sich vor, für jede Frage, die Sie stellen, hat der Roboter eine winzige Kompassnadel, die in die Richtung der Antwort zeigt, die er geben möchte.

In der Schüler-Version, wenn man ihm eine knifflige Frage stellt, könnte diese Nadel wackeln oder in Richtung einer unhöflichen Antwort zeigen.
In der Absolvent-Version wurde diese Nadel physisch gedreht, um in Richtung einer hilfreichen, sicheren Antwort zu zeigen.

MENTIS ist ein Werkzeug, das misst, wie sehr sich diese Nadel dreht und wendet, während der Roboter Ihre Frage von der ersten Schicht seines Gehirns bis zur letzten verarbeitet.

Die drei großen Entdeckungen

Die Forscher nutzten MENTIS, um den Schüler- und den Absolventen-Roboter zu vergleichen. Hier ist, was sie herausgefunden haben, erklärt mit einfachen Analogien:

1. Die Veränderung ist selektiv, nicht einheitlich

Die Analogie: Stellen Sie sich vor, Sie streichen ein Haus. Sie könnten denken, dass „Alignment“ wie das Streichen des gesamten Hauses in einer neuen Farbe ist (eine einheitliche Veränderung).
Die Realität: MENTIS fand heraus, dass der Anstrich tatsächlich sehr spezifisch ist.

Wenn der Roboter über Werte (wie „Gerechtigkeit“ oder „Frieden“) nachdenkt, drehen und wenden sich seine internen Kompassnadeln sehr viel. Der Roboter reorganisiert sein Denken erheblich, um diese Themen zu bearbeiten.
Wenn der Roboter über Fakten nachdenkt (wie „Was ist die Hauptstadt von Frankreich?“), bewegen sich die Nadeln kaum.
Fazschluss: Das Training hat nicht einfach nur einen generischen „Sicherheitsfilter“ hinzugefügt. Es hat gezielt die Art und Weise umprogrammiert, wie der Roboter mit moralischen und wertebasierten Konzepten umgeht.

2. Die Veränderung geschieht in „ruhigen“ Momenten, nicht im Chaos

Die Analogy: Sie würden vielleicht vermuten, dass ein Roboter seine Meinung am meisten ändert, wenn er verwirrt oder unsicher ist (hohe Entropie).
Die Realität: Die Forscher fanden das Gegenteil heraus. Die größten „Drehungen“ im internen Kompass des Roboters passierten, wenn der Kontext klar und strukturiert war.

Wenn der Roboter verwirrt war oder die Situation chaotisch war, waren die internen Veränderungen klein.
Wenn der Roboter genau wusste, welche Art von Antwort erwartet wurde, hatte das Trainingslager den größten Effekt darauf, wie er seine Gedanken ausrichtete.
Fazschluss: Alignment funktioniert am besten, wenn der Roboter vertrauensvoll genug ist, um eine klare Richtung zu haben, und dann diese Richtung sanft in Richtung Sicherheit steuert.

3. Der „Twist“ geschieht in bestimmten Stockwerken

Die Analogy: Stellen Sie sich vor, das Gehirn des Roboters ist ein 30-stöckiges Gebäude. Sie könnten denken, dass das Sicherheitstraining im Erdgeschoss (wo es beginnt) oder auf dem Dach (wo es endet) stattfindet.
Die Realität: Der „Twist“ geschieht auf unterschiedlichen Stockwerken für verschiedene Robotermodelle.

Für ein Modell (OLMo) geschah die größte Veränderung im 29. oder 30. Stockwerk.
Für ein anderes Modell (Mistral) geschah die größte Veränderung im 14. Stockwerk.
Fazschluss: Es gibt keine einzelne „Sicherheitsschicht“. Jede Roboter-Architektur hat ihr eigenes, spezifisches „Stockwerk“, in dem das Trainingslager die meiste Arbeit geleistet hat.

Eine überraschende Wendung: Sichere Prompts verändern mehr

Normalerweise denken wir, dass Sicherheitstraining vor allem darin besteht, schlechte Dinge zu stoppen. Man würde erwarten, dass sich das Gehirn des Roboters am meisten ändert, wenn er einen „schlechten“ (unsicheren) Prompt sieht.

Die Überraschung: Das Gehirn des Roboters veränderte sich tatsächlich mehr, wenn er sichere, hilfreiche Prompts beantwortete.

Warum? Die Forscher vermuten, dass es einfach und automatisch ist (wie ein Reflex), „Nein“ zu einer schlechten Frage zu sagen. Aber „Ja“ zu einer guten Frage zu sagen, während man gleichzeitig höflich, hilfreich und sicher bleibt, erfordert einen viel komplexeren internen Tanz. Der Roboter muss die Balance halten, hilfreich zu sein, ohne die Grenze zu überschreuchen, was eine größere Reorganisation seines internen Kompasses verursacht.

Was dies bedeutet (und was es nicht bedeutet)

Was es bedeutet: Alignment ist nicht nur eine oberflächliche Korrektur. Es hinterlässt eine spezifische, messbare „geometrische Signatur“ tief im Gehirn des Roboters. Es verändert, wie der Roboter seine Gedanken dreht, aber tut dies selektiv (hauptsächlich für Werte) und an spezifischen Orten (unterschiedliche Stockwerke für verschiedene Modelle).
Was es nicht bedeutet: Dieses Paper ist ein Diagnosewerkzeug, wie ein Röntgenbild. Es zeigt uns, wo die Knochen gebrochen oder verändert sind, aber es beweist nicht, dass die Reparatur dieses spezifischen Knochens der einzige Grund ist, warum der Roboter besser agiert. Es sagt uns auch noch nicht, wie wir dies nutzen können, um bessere Roboter zu bauen; es zeigt uns nur, wie die aktuellen auf der Innenseite aussehen.

Kurz gesagt: MENTIS zeigt uns, dass wir, wenn wir einem Roboter beibringen, „gut“ zu sein, nicht nur ein Stoppschild hinzufügen. Wir formen seinen internen Kompass sanft um, insbesondere wenn er über Werte nachdenkt, und wir tun dies auf sehr spezifische, einzigartige Weise für jedes verschiedene Robotermodell.

Technisches Resümee: MENTIS – Messung der Multi-Scale Latent Torsion in Sprachmodellen

1. Problemstellung

Obwohl die Präferenzausrichtung (Preference Alignment, PA) das beobachtbare Verhalten von Large Language Models (LLMs) signifikant verbessert hat, bleiben die internen geometrischen Veränderungen, die durch die Transformation eines instruktionsgesteuerten (Instruction-Tuned, IT) Modells in ein PA-Modell induziert werden, unklar. Bestehende Bewertungen auf Verhaltensebene (z. B. Resistenz gegen Jailbreaks, Ablehnungsraten) sind unzureichend, da ausgerichtte Systeme unter adversen Bedingungen wie Prompt-Injection weiterhin versagen.

Das adressierte Kernproblem ist das Fehlen eines diagnostischen Rahmens, um zu messen, wie die Ausrichtung die interne Komputation reorganisiert. Speziell stellt das Paper die Fragen:

Welche geometrischen Strukturen verändern sich, wenn ein IT-Modell zu einem PA-Modell wird?
Wo konzentrieren sich diese Veränderungen über die Tiefe (Layer) hinweg?
Wie selektiv variieren diese Veränderungen über Konzepte, Prompts und Modellfamilien hinweg?

Die Autoren argumentieren, dass das Post-Training messbare Spuren in der internen Komputation hinterlassen muss, wobei der Fokus über statische Hidden-State-Sonden oder Behavior-Audits hinausgeht, um die aufgabe-konditionierte gerichtete Reorientierung des Modells zu verstehen.

2. Methodik: Das MENTIS-Framework

MENTIS (Measuring Multi-Scale Latent Torsion in Language Models) ist ein geometrie-fokussiertes Framework, das darauf ausgelegt ist, gepaarte IT- und PA-Checkpoints zu vergleichen. Es definiert „Glauben“ (Belief) nicht als symbolischen Proposition, sondern als eine aufgabe-konditionierte interne Richtung – die lokale Richtung im Hidden-State-Raum, welche die Unterstützung für eine Ziel-Fortsetzung unter einem spezifischen Prompt erhöht.

2.1 Kerndefinitionen

Layerweise Richtungsfeld ( $v_\ell$ ): Definiert als der Gradient der Log-Wahrscheinlichkeit eines Ziel-Tokens $y$ bezüglich des Hidden-States $h_\ell$ in Layer $\ell$ . Dies repräsentiert die steilste lokale Richtung, die die Unterstützung für das Ziel-Token erhöht.
Ausrichtungs-induzierter Shift: Der Unterschied zwischen den Richtungsfeldern des PA-Modells ( $v^{(1)}$ ) und des IT-Modells ( $v^{(0)}$ ), gemessen nach Magnitude ( $\Delta mag$ ) und Winkel ( $\Delta ang$ ).

2.2 Torsions-Metriken

MENTIS quantifiziert das „Drehen“ dieser Richtungsfelder über die Tiefe des Netzwerks:

Winkel-Torsion (Angular Torsion, $T$ ): Die kumulative Summe der benachbarter Layer-Drehwinkel ( $\omega_\ell$ ) entlang der Tiefen-Trajektorie. Der durch Ausrichtung induzierte Shift ist $\Delta T = T^{(PA)} - T^{(IT)}$ .
Matrix-Torsion ( $T_1$ ): Eine layerweise kovarianzbasierte Norm, die aus der antisymmetrischen Komponente der Cross-Layer-Hidden-State-Kovarianzmatrix abgeleitet ist. Sie misst die gesamte Rotationsenergie in einem Layer.
Spektrale Torsion ( $T_2$ ): Eine sekundäre Diagnose, welche die Varianz in der Verteilung des Rotationssignals über die spektralen Modi misst.
Energy-Radiance-Activation (ERA): Eine Lokalisationsmetrik, die das layerweise Differenzprofil ( $\Delta \tau_\ell$ ) normalisiert, um den Peak-Layer ( $\ell^\star$ ) zu identifizieren, in dem die durch Ausrichtung induzierte Torsion am stärksten konzentriert ist.

2.3 Multi-Scale Messung

Das Framework operiert auf drei Skalen:

Wort-Ebene: Analyse von konzept-konditionierten Torsions-Shifts, um zu bestimmen, welche semantischen Konzepte die größte Reorientierung erfahren.
Prompt-Ebene: Vergleich von Torsions-Shifts zwischen sicheren und unsicheren Prompt-Familien.
Modell-Ebene: Untersuchung von Layer-Profilen, um zu bestimmen, ob Effekte flach, in mittleren Layern, in späten Layern oder verteilt auftreten.

2.4 Experimentelles Setup

Modelle: Vier 7–8B Parameter Modell-Paare (OLMo-2-1124-7B, Mistral-7B-v0.3, Llama-3.1-8B, Tülu-3-8B).
Benchmark: LITMUS, ein konzept-strukturiertes Alignment-Benchmark mit 20.439 Prompts, 18 repräsentativen Konzepten und expliziten Safe/Unsafe-Labels.
Baselines: Vergleich mit CKA (Repräsentationsähnlichkeit), Cosine Distance (Checkpoint-Drift) und RepE (lineare Steering-Richtungen).

3. Kernergebnisse

3.1 Torsion trennt Alignment von generischem Drift

MENTIS demonstriert eine überlegene Diskriminierungsfähigkeit im Vergleich zu Standard-Baselines.

Konzept-Diskriminierung: MENTIS erreicht einen Variationskoeffizienten (CV) von 0,64 über Konzepte hinweg und übertrifft damit signifikant CKA (0,08) und RepE (0,21).
Safe/Unsafe-Diskriminierung: MENTIS erreicht einen AUC von 0,89 bei der Unterscheidung zwischen sicheren und unsicheren Prompts, verglichen mit 0,64 bei der Cosine Distance.
Null-Verifikation: Vergleiche desselben Modells (IT $\rightarrow$ IT) ergeben Torsions-Shifts unter $10^{-4}$ , was bestätigt, dass die beobachteten IT $\rightarrow$ PA Shifts keine numerischen Artefakte sind.

3.2 Semantische Selektivität

Die durch Ausrichtung induzierte Reorganisation ist selektiv, nicht uniform.

Normativ vs. Faktisch: Normative Konzepte zeigen signifikant größere Torsions-Shifts ( $\Delta T_1 = 1,74$ ) als faktische Konzepte ( $\Delta T_1 = 1,47$ ).
Feingranulare Variation: Selbst innerhalb verwandter normativer Konzepte (z. B. JUSTICE, PEACE, PROTEST) variieren die Torsions-Shifts, was zeigt, dass MENTIS die gerichtete Reorganisation über grobe semantische Partitionen hinaus erfasst.
Framing-Sensitivität: Die Metrik verfolgt das für das Alignment relevante Framing statt lediglich die Datensatz-Labels zu reproduzieren (z. B. zeigt das Konzept „WAR“, das als faktisch gelabelt ist, den größten Einzelkonzept-Shift).

3.3 Entropie-Korrelation

Torsion ist negativ korreliert mit der kontextuellen Entropie.

Kontexte mit höherer Entropie (größere Unsicherheit) sind mit niedrigeren Torsions-Normen assoziiert.
Die stärksten durch Ausrichtung induzierten Reorganisationen treten in semantisch strukturierten, niedriger- bis mittel-entropischen Kontexten auf, was darauf hindeutet, dass Alignment stabile, aufgaben-konditionierte Richtungen modifiziert, anstatt die Unsicherheit zu verstärken.

3.4 Tiefen-Lokalisierung (ERA)

Alignment-Effekte lokalisieren sich in architekturspezifischen Tiefenbändern, nicht in universellen Layern.

OLMo-2-1124-7B & Tülu-3-8B: Peak bei Layern 29–30.
Llama-3.1-8B: Peak bei Layer 20.
Mistral-7B-v0.3: Peak bei Layer 14.
Dies deutet darauf hin, dass das IT $\rightarrow$ PA Update mit der spezifischen Repräsentationsorganisation jeder Modellfamilie interagiert.

3.5 Safe vs. Unsafe Prompts

Entgegen der Hypothese, dass unsichere Prompts die stärksten internen Veränderungen treiben (via Refusal-Mechanismen), induzieren sichere Prompts größere Torsions-Shifts über alle vier Architekturen hinweg.

Die Autoren interpretieren dies so, dass sichere Prompts das Modell dazu zwingen, Hilfsbereitschaft und normkonforme Strukturen beizubehalten, ohne in totale Ablehnung zu verfallen, was eine breitere interne Reorganisation induziert als die stereotypen Pfade, die durch unsichere Prompts getriggert werden.

4. Signifikanz und Ansprüche

Das Paper behaupten, dass MENTIS die erste strukturierte, tiefen-lokalisierte geometrische Signatur der Präferenzausrichtung liefert.

Jenseits von Verhalten: Die Ergebnisse legen nahe, dass Alignment interne geometrische Spuren hinterlässt, die durch reine Verhaltensebene-Evaluierungen nicht sichtbar gemacht werden können.
Operationale Definition von Glauben: Durch die Definition von Glauben als eine aufgabe-konditionierte interne Richtung bietet das Paper einen messbaren Weg, um „Glaubensänderung“ als Reorientierung des Richtungsfeldes zu verfolgen, unterscheidbar von philosophischer Überzeugung.
Diagnostischer Nutzen: Das Framework identifiziert, dass Alignment keine globale Verschiebung, sondern eine selektive Reorganisation ist, die in wertesentiblen Konzepten und spezifischen architektonischen Layern konzentriert ist.
Limitierungen: Die Autoren betonen explizit, dass MENTIS ein diagnostisches Framework und keine kausale Theorie ist. Es identifiziert geometrische Korrelate der Ausrichtung, beweist aber nicht, dass hoch-torsionale Layer oder Konzepte kausal notwendig für ausgerichtetes Verhalten sind. Die absoluten Effektgrößen sind klein ( $\Delta \tau \in [0.002, 0.008]$ ), was unterstreicht, dass der Beitrag in der Struktur des Shifts liegt (Selektivität, Entropie-Korrelation, Tiefen-Lokalisierung) und nicht in der bloßen Magnitude der Bewegung.

Das Paper schließt mit der Schlussfolgerung, dass die Präferenzausrichtung die interne Komputation auf eine Weise reorganisiert, die selektiv über Konzepte hinweg ist, durch Entropie strukturiert wird und in architekturspezifischen Tiefen lokalisiert ist, was eine neue Perspektive auf die internen Mechanismen ausgerichteter LLMs eröffnet.