💻 computer science

MENTIS: What Belief Changes Under Alignment? Measuring Multi-Scale Latent Torsion in Language Models

Dit artikel introduceert MENTIS, een geometrie-georiënteerd framework dat onthult dat voorkeursalignering selectieve, dieplokale geometrische reorganisatie in taalmodellen induceert, gekenmerkt door grotere torsieverschuivingen in normatieve concepten en negatieve correlaties met contextuele entropie, in plaats van uniforme interne veranderingen.

Oorspronkelijke auteurs: Partha Pratim Saha, Samarth Raina, Mayur Parvatikar, Amit Dhanda, Vinija Jain, Aman Chadha, Amitava Das

Gepubliceerd 2026-06-02

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Partha Pratim Saha, Samarth Raina, Mayur Parvatikar, Amit Dhanda, Vinija Jain, Aman Chadha, Amitava Das

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je twee versies hebt van een zeer slimme robotassistent.

Versie A (De "Student"): Deze robot heeft veel boeken gelezen en heeft geleerd hoe hij instructies moet opvolgen. Hij is slim, maar als je hem met een listige vraag probeert te foppen, kan hij per ongeluk iets onbeleefds of gevaarlijks zeggen.
Versie B (De "Afgestudeerde"): Dit is dezelfde robot na een speciale trainingskamp genaamd "Alignment" (afstemming). Hij heeft geleerd om behulpzaam, ongevaarlijk en eerlijk te zijn. Hij weigert slechte vragen te beantwoorden en gedraagt zich veel beter.

We weten dat Versie B zich aan de buitenkant beter gedraagt. Maar het grote mysterie is: Wat is er eigenlijk veranderd in zijn brein? Heeft hij gewoon een paar nieuwe "stop"-woorden geleerd? Of is zijn hele manier van denken volledig herschikt?

Dit paper introduceert een nieuwe tool genaamd MENTIS om in het brein van de robot te kijken en die vraag te beantwoorden.

Het Kernidee: "Overtuiging" als een Richting

De auteurs zien de "overtuiging" van een robot niet als een menselijke overtuiging (bijv. "Ik geloof dat de lucht blauw is"). In plaats daarvan zien ze het als een kompasnaald.

Stel je voor dat voor elke vraag die je stelt, de robot een kleine kompasnaald heeft die wijst in de richting van het antwoord dat hij wil geven.

In de Student-versie, als je een listige vraag stelt, kan die naald wiebelen of wijzen naar een onbeleefd antwoord.
In de Afgestudeerde-versie is die naald fysiek gedraaid om naar een behulpzaam, veilig antwoord te wijzen.

MENTIS is een tool die meet hoeveel die naald draait en wendt terwijl de robot jouw vraag verwerkt, van de eerste laag van zijn brein tot de laatste.

De Drie Grote Ontdekkingen

De onderzoekers gebruikten MENTIS om de Student en de Afgestudeerde robots te vergelijken. Dit is wat ze vonden, uitgelegd met eenvoudige analogieën:

1. De Verandering is Selectief, Niet Uniform

De Analogie: Stel je voor dat je een huis aan het schilderen bent. Je zou kunnen denken dat "Alignment" is als het schilderen van het hele huis in een nieuwe kleur (een uniforme verandering).
De Realiteit: MENTIS vond dat de schilderbeurt eigenlijk heel specifiek is.

Wanneer de robot nadenkt over waarden (zoals "Rechtvaardigheid" of "Vrede"), draaien en wendt zijn interne kompasnaalden veel. De robot reorganiseert zijn denken aanzienlijk om deze onderwerpen aan te pakken.
Wanneer de robot nadenkt over feiten (zoals "Wat is de hoofdstad van Frankrijk?"), bewegen de naalden nauwelijks.
Conclusie: De training heeft niet alleen een generieke "veiligheidsfilter" toegevoegd. Het heeft specifiek de manier waarop de robot morele en waardegebaseerde concepten afhandelt, opnieuw bedraad.

2. De Verandering Gebeurt in "Stille" Momenten, Niet in Chaos

De Analogie: Je zou kunnen raden dat een robot zijn mening het meest verandert wanneer hij verward of onzeker is (hoge entropie).
De Realiteit: De onderzoekers vonden het tegenovergestelde. De grootste "draaiingen" in de interne kompas van de robot vonden plaats wanneer de context helder en gestructureerd was.

Wanneer de robot verward was of de situatie chaotisch was, waren de interne veranderingen klein.
Wanneer de robot precies wist welk soort antwoord werd verwacht, had de training het grootste effect op hoe hij zijn gedachten oriënteerde.
Conclusie: Alignment werkt het best wanneer de robot zelfverzekerd genoeg is om een duidelijke richting te hebben, en dan die richting voorzichtig naar veiligheid stuurt.

3. De "Draai" Gebeurt op Specifieke Verdiepingen

De Analogie: Stel je voor dat het brein van de robot een gebouw van 30 verdiepingen is. Je zou kunnen denken dat de veiligheidstraining plaatsvindt op de begane grond (waar het begint) of op het dak (waar het eindigt).
De Realiteit: De "draai" vindt plaats op verschillende verdiepingen voor verschillende robotmodellen.

Voor één model (OLMo) vond de grootste verandering plaats op de 29e of 30e verdieping.
Voor een ander model (Mistral) vond de grootste verandering plaats op de 14e verdieping.
Conclusie: Er is geen enkele "veiligheidslaag". Elk robotarchitectuur heeft zijn eigen specifieke "verdieping" waar het trainingskamp het meeste werk heeft verricht.

Een Verrassende Wending: Veilige Prompts Veranderen Meer

Normaal gesproken denken we dat veiligheidstraining vooral gaat over het stoppen van slechte dingen. Je zou verwachten dat het brein van de robot het meest verandert wanneer het een "slecht" (onveilig) prompt ziet.

De Verrassing: Het brein van de robot veranderde eigenlijk meer wanneer het veilige, behulpzame prompts beantwoordde.

Waarom? De onderzoekers suggereren dat "nee" zeggen tegen een slechte vraag makkelijk en automatisch is (zoals een reflex). Maar "ja" zeggen tegen een goede vraag terwijl je beleefd, behulpzaam en veilig blijft, vereist een veel complexere interne dans. De robot moet een zorgvuldige balans vinden tussen behulpzaam zijn zonder de grens over te gaan, wat zorgt voor een grotere reorganisatie van zijn interne kompas.

Wat Dit Betekent (en Wat Het Niet Betekent)

Wat het betekent: Alignment is niet alleen een oppervlakkige pleister. Het laat een specifieke, meetbare "geometrische handtekening" achter diep in het brein van de robot. Het verandert hoe de robot zijn gedachten draait, maar doet dit selectief (vooral voor waarden) en op specifieke locaties (verschillende verdiepingen voor verschillende robotmodellen).
Wat het niet betekent: Dit paper is een diagnostisch hulpmiddel, zoals een röntgenfoto. Het laat ons zien waar de botten gebroken of veranderd zijn, maar het bewijst niet dat het repareren van dat specifieke bot de enige reden is dat de robot zich beter gedraagt. Het vertelt ons ook nog niet hoe we dit kunnen gebruiken om betere robots te bouwen; het vertelt ons alleen hoe de huidige robots er aan de binnenkant uitzien.

Kortom: MENTIS laat ons zien dat wanneer we een robot leren om "goed" te zijn, we niet alleen een stopbord toevoegen. We geven de interne kompas van de robot voorzichtig een nieuwe vorm, vooral wanneer hij over waarden nadenkt, en we doen dat op zeer specifieke, unieke manieren voor elk verschillend robotmodel.

Technisch Overzicht: MENTIS – Het meten van multi-schaal latente torsie in taalmodellen

1. Probleemstelling

Hoewel voorkeursafstemming (preference alignment, PA) de observeerbare gedragingen van Large Language Models (LLM's) aanzienlijk heeft verbeteren, blijven de interne geometrische veranderingen die worden veroorzaakt door de transformatie van een instructie-getunede (IT) model naar een PA-model onduidelijk. Bestaande evaluaties op gedragsniveau (bijv. weerstand tegen jailbreaking, weigeringspercentages) zijn onvoldoende omdat afgestemde systemen nog steeds falen onder adversariële condities zoals prompt injection.

Het kernprobleem dat wordt aangepakt, is het gebrek aan een diagnostisch kader om te meten hoe afstemming de interne berekening reorganiseert. Specifiek vraagt het onderzoek:

Welke geometrische structuren veranderen wanneer een IT-model een PA-model wordt?
Waar concentreren deze veranderingen zich over de diepte (lagen)?
Hoe selectief variëren deze veranderingen over concepten, prompts en modelfamilies?

De auteurs stellen dat post-training meetbare sporen moet achterlaten in de interne berekening, waarbij men verder moet kijken dan statische verborgen-toestand probes of gedragsaudits om de taakgeconditioneerde directionele heroriëntatie van het model te begrijpen.

2. Methodologie: Het MENTIS-kader

MENTIS (Measuring Multi-Scale Latent Torsion in Language Models) is een geometrie-georiënteerd kader ontworpen om gepaarde IT- en PA-checkpoints te vergelijken. Het definieert "overtuiging" niet als een symbolische propositie, maar als een taakgeconditioneerde interne richting—de lokale richting in de verborgen-toestandruimte die de steun voor een doel-continuatie onder een specifieke prompt vergroot.

2.1 Kerndefinities

Laaggebonden directioneel veld ( $v_\ell$ ): Gedefinieerd als de gradiënt van de log-waarschijnlijkheid van een doel-token $y$ met betrekking tot de verborgen toestand $h_\ell$ op laag $\ell$ . Dit vertegenwoordigt de steilste lokale richting die de steun voor het doel vergroot.
Afstemmings-geïnduceerde verschuiving: Het verschil tussen de directionele velden van het PA-model ( $v^{(1)}$ ) en het IT-model ( $v^{(0)}$ ), gemeten in grootte ( $\Delta mag$ ) en hoek ( $\Delta ang$ ).

2.2 Torsie-metrieken

MENTIS kwantificeert het "draaien" van deze directionele velden over de diepte van het netwerk:

Angulaire Torsie ( $T$ ): De cumulatieve som van aangrenzende laag-draaihoeken ( $\omega_\ell$ ) langs het dieptetraject. De afstemmings-geïnduceerde verschuiving is $\Delta T = T^{(PA)} - T^{(IT)}$ .
Matrix Torsie ( $T_1$ ): Een laaggebonden covariantie-gebaseerde norm afgeleid van het scheef-symmetrische component van de cross-laag verborgen-toestand covariantie-matrix. Het meet de totale rotationele energie op een laag.
Spectrale Torsie ( $T_2$ ): Een secundaire diagnostische meting die de variantie in de distributie van het rotationele signaal over spectrale modi meet.
Energy-Radiance-Activation (ERA): Een lokalisatiemetriek die het laaggebonden verschilprofiel ( $\Delta \tau_\ell$ ) normaliseert om de pieklaag ( $\ell^\star$ ) te identificeren waar de afstemmings-geïnduceerde torsie het meest geconcentreerd is.

2.3 Multi-schaal Meting

Het kader werkt op drie schalen:

Woordniveau: Het analyseren van concept-geconditioneerde torsieverschuivingen om te bepalen welke semantische concepten de grootste heroriëntatie ondergaan.
Promptniveau: Het vergelijken van torsieverschuivingen tussen veilige en onveilige promptfamilies.
Modelniveau: Het onderzoeken van laaggebonden profielen om te bepalen of effecten ondiep, mid-layer, laat-layer of verspreid zijn.

2.4 Experimentele Opzet

Modellen: Vier 7–8B parameter modelparen (OLMo-2-1124-7B, Mistral-7B-v0.3, Llama-3.1-8B, Tülu-3-8B).
Benchmark: LITMUS, een concept-gestructureerde afstemmingsbenchmark met 20.439 prompts, 18 representatieve concepten en expliciete safe/unsafe labels.
Baselines: Vergeleken met CKA (representatieve gelijkenis), Cosine Distance (checkpoint drift) en RepE (lineaire stuurrichtingen).

3. Belangrijkste Resultaten

3.1 Torsie onderscheidt afstemming van generieke drift

MENTIS vertoont superieure discriminatie vergeleken met standaard baselines.

Concept Discriminatie: MENTIS bereikt een Coëfficiënt van Variatie (CV) van 0,64 over concepten, wat significant beter presteert dan CKA (0,08) en RepE (0,21).
Safe/Unsafe Discriminatie: MENTIS bereikt een AUC van 0,89 voor het onderscheiden van veilige versus onveilige prompts, vergeleken met 0,64 voor cosinusafstand.
Null Verificatie: Vergelijkingen binnen hetzelfde model (IT→IT) leveren torsieverschuivingen op onder $10^{-4}$ , wat bevestigt dat de geobserveerde IT→PA verschuivingen geen numerieke artefacten zijn.

3.2 Semantische Selectiviteit

Afstemmings-geïnduceerde reorganisatie is selectief, niet uniform.

Normatief vs. Factueel: Normatieve concepten vertonen aanzienlijk grotere torsieverschuivingen ( $\Delta T_1 = 1,74$ ) dan factuele concepten ( $\Delta T_1 = 1,47$ ).
Fijnmazige Variatie: Zelfs binnen gerelateerde normatieve concepten (bijv. JUSTICE, PEACE, PROTEST) variëren de torsieverschuivingen, wat aangeeft dat MENTIS directionele reorganisatie vastlegt die verder gaat dan grove semantische partities.
Framing Gevoeligheid: De metriek volgt afstemmings-relevante framing in plaats van simpelweg de dataset-labels te reproduceren (bijv. het concept "WAR", gelabeld als factueel, vertoont de grootste enkele-concept verschuiving).

3.3 Entropie Correlatie

Torsie is negatief gecorreleerd met contextuele entropie.

Contexten met hogere entropie (grotere onzekerheid) zijn geassocieerd met lagere torsienormen.
De sterkste afstemmings-geïnduceerde reorganisaties vinden plaats in semantisch gestructureerde, lager-tot-mid-entropie contexten, wat suggereert dat afstemming stabiele taakgeconditioneerde richtingen wijzigt in plaats van onzekerheid te versterken.

3.4 Diepte Lokalisatie (ERA)

Afstemmingseffecten lokaliseren zich tot architectuur-specifieke dieptebanden, niet universele lagen.

OLMo-2-1124-7B & Tülu-3-8B: Pieken bij lagen 29–30.
Llama-3.1-8B: Piekt bij laag 20.
Mistral-7B-v0.3: Piekt bij laag 14.
Dit geeft aan dat de IT→PA update interageert met de specifieke representationele organisatie van elk modelgezin.

3.5 Veilige vs. Onveilige Prompts

In tegenstelling tot de hypothese dat onveilige prompts de meeste interne verandering drijven (via weigeringsmechanismen), induceren veilige prompts grotere torsieverschuivingen in alle vier de architecturen.

De auteurs interpreteren dit als het feit dat veilige prompts vereisen dat het model behulpzaamheid en norm-consistente structuur behoudt zonder te vervallen in weigering, wat een bredere interne reorganisatie induceert dan de gestandaardiseerde paden die door onveilige prompts worden getriggerd.

4. Betekenis en Claims

Het artikel claimt dat MENTIS het eerste gestructureerde, diepte-gelokaliseerde geometrische signatuur van voorkeursafstemming biedt.

Voorbij Gedrag: De resultaten suggereren dat afstemming interne geometrische sporen achterlaat die alleen door gedragsniveau evaluatie niet zichtbaar zijn.
Operationele Definitie van Overtuiging: Door overtuiging te definiëren als een taakgeconditioneerde interne richting, biedt het artikel een meetbare manier om "verandering in overtuiging" te volgen als een heroriëntatie van het directionele veld, verschillend van filosofische herziening van overtuigingen.
Diagnostisch Nut: Het kader identificeert dat afstemming geen globale offset is, maar een selectieve reorganisatie die geconcentreerd is in waarde-relevante concepten en specifieke architecturale lagen.
Beperkingen: De auteurs stellen expliciet dat MENTIS een diagnostisch kader is, geen causale theorie. Het identificeert geometrische correlaten van afstemming, maar bewijst niet dat hoog-torsie lagen of concepten causaal noodzakelijk zijn voor afgestemd gedrag. De absolute effectgroottes zijn klein ( $\Delta \tau \in [0,002, 0,008]$ ), wat benadrukt dat de bijdrage ligt in de structuur van de verschuiving (selectiviteit, entropie correlatie, diepte lokalisatie) in plaats van de magnitude van de ruwe beweging.

Het artikel concludeert dat voorkeursafstemming de interne berekening reorganiseert op een manier die selectief is over concepten, gestructureerd door entropie, en gelokaliseerd naar architectuur-specifieke dieptes, wat een nieuw perspectief biedt voor het begrijpen van de interne mechanica van afgestemde LLM's.