Frame-Conditioned Moral Computation in LLaMA 3.1-8B-Instruct: A Mechanistic Interpretability Audit of Ethical Reasoning
Dit artikel maakt gebruik van mechanistische interpreteerbaarheidstools om aan te tonen dat het morele redeneren van LLaMA 3.1-8B-Instruct niet wordt gedreven door een intrinsieke ethische kern, maar door een "frame-geconditioneerde morele computatie" waarbij de oppervlaktevocabulaire van de prompt specifieke feature-manifolds selecteert die de interne activatie van het model domineren, wat suggereert dat ware afstemming het verifiëren van de causale privilege van ethische features vereist in plaats van enkel het observeren van gedragsmatige outputs.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Het Grote Idee: De "Regisseur" versus de "Acteur"
Stel je een groot taalmodel (zoals LLaMA 3.1) voor als een zeer getalenteerde acteur op een podium. Wanneer je het een morele vraag stelt (zoals "Moet ik een dikke man van een brug duwen om vijf mensen te redden?"), geeft de acteur een zeer beleefde, doordachte en ethische speech. Het klinkt als een wijze filosoof.
Het Probleel: De meeste mensen gaan ervan uit dat omdat de speech moreel klinkt, de hersenen van de acteur ook daadwerkelijk moreel nadenken.
De Ontdekking van het Papier: De auteurs gebruikten een speciale "röntgenmachine" (genaamd Transluce) om in het brein van het model te kijken terwijl het sprak. Ze ontdekten dat de acteur eigenlijk niet eerst nadenkt over "goed en kwaad". In plaats daarvan denkt de acteur over de rekwisieten en de setting van de scène.
Als het script een "trein" vermeldt, lichten de hersenen op met treinsporen en techniek. Als het script een "sportteam" vermeldt, lichten de hersenen op met scoreborden en competitie. Het "morele" deel van de hersenen is eigenlijk vrij klein en stil; het verschijnt pas nadat het model al heeft besloten in wat voor soort scène het zich bevindt.
Kernbevindingen Uitgelegd
1. Het "Situationele Anker"-effect (De Decorontwerper)
Het papier stelde vast dat, ongeacht welke morele vraag je stelt, het brein van het model wordt gedomineerd door niet-morele onderwerpen.
- De Analogie: Stel je voor dat je een chef vraagt: "Is het juist om een hongerig persoon te voeden?"
- Wat we verwachten: De chef denkt aan honger, vriendelijkheid en ethiek.
- Wat het model doet: Het brein van de chef licht onmiddellijk op met afbeeldingen van keukenmessen, recepten en ingrediënten. De "ethische" gedachte is slechts een klein gefluister op de achtergrond.
- Het Resultaat: Het model is in essentie "verankerd" aan de oppervlakkige woorden (de situatie) in plaats van aan de diepe morele betekenis. Het behandelt een moreel dilemma als een wiskundig probleem of een sportwedstrijd, en niet als een vraag van leven of dood.
2. "Constante Capaciteit, Variabele Salientie" (De Volumeknop)
De onderzoekers testten het model met 54 verschillende prompts. Ze vonden iets verrassends:
- De Capaciteit (De Grootte van het Brein): De hoeveelheid "moreel denken" waar het model over beschikt, is altijd hetzelfde (ongeveer 5% van de hersenactiviteit). Het wordt niet groter simpelweg omdat je een moeilijkere morele vraag stelt.
- De Salientie (Het Volume): Wat wél verandert, is hoe hard dat morele denken klinkt.
- Als je een algemene beleidsvraag stelt, is het morele deel erg zacht (volume 1).
- Als je een klassieke "Trolley Problem" stelt (het aan een hendel trekken), wordt het morele deel luider (volume 7), maar het wordt nog steeds overstemd door de gedachten over "treinsporen" en de "mechanische hendel".
De Les: Het model wordt niet moreler wanneer je een morele vraag stelt; het zet alleen het volume van het morele deel iets harder, maar het "situatie"-gedeelte is nog steeds het luidste in de kamer.
3. De "Vocabulaire-val" (Het Magische Woord)
Het model is gemakkelijk te misleiden door specifieke woorden.
- De Sport-val: Als je woorden gebruikt als "spel", "competitie" of "strategie", schakelt het brein van het model over naar de sportmodus. Het begint na te denken over winnen en verliezen, in plaats van over goed en kwaad.
- De Wiskunde-val: Als je het model vraagt om dingen te "rangschikken" of te "vergelijken", schakelt het over naar de wiskundemodus. Het begint berekeningen uit te voeren (5 is groter dan 1) in plaats van na te denken over mensenrechten.
- Het Resultaat: Het model redeneert niet; het volgt gewoon het "genre" van de prompt.
4. De "Trolley Problem" Test (De Schakelaar Veranderen vs. De Mensen Veranderen)
De onderzoekers voerden een slim experiment uit met het beroemde "Trolley Problem" (vijf mensen redden door één persoon op te offeren).
- Experiment A (Het Mechanisme Veranderen): Ze hielden de mensen hetzelfde maar veranderden hoe de schakelaar werkte (een hendel, een knop, een laser, een hypnotische spreuk).
- Resultaat: Het brein van het model veranderde volledig. Als het een laser was, dacht het brein over optica. Als het een hypnotische spreuk was, dacht het over psychologie. Het "morele" deel bleef hetzelfde, maar het "afleidende" deel veranderde.
- Experiment B (De Mensen Veranderen): Ze hielden de schakelaar (hendel) hetzelfde maar veranderden wie er op het spoor stond (je familie versus vreemden, jouw religie versus een andere).
- Resultaat: Het brein van het model bleef gefocust op de "hendel" (het mechanisme). Echter, het model werd minder zelfverzekerd in zijn antwoord wanneer de betrokkenen "wij" versus "zij" waren.
- De Conclusie: Het model let op welk oppervlakkig detail je ook verandert. Als je het gereedschap verandert, denkt het aan het gereedschap. Als je de mensen verandert, raakt het in de war over de sociale regels, maar het vertrouwt nog steeds op het gereeld om de beslissing te nemen.
5. De "Alignment Wrapper" (Het PR-Team)
Het papier keek naar twee andere bekende AI-modellen (Claude en Gemini) en stelde hen dezelfde vragen.
- De Verrassing: Het ene model (Claude) zei: "Ik denk eerst aan ethiek!" Het andere (Gemini) zei: "Ik denk eerst aan de treinsporen!"
- De Theorie: De auteurs suggereren dat deze modellen intern waarschijnlijk op dezelfde manier denken (eerst focussen op de situatie), maar dat ze een "PR-team" hebben (RLHF-training) dat de uiteindelijke speech herschrijft.
- Claude's PR-team zet de morele woorden vooraan in de speech om het goed te laten klinken.
- Gemini's PR-team laat de technische woorden vooraan staan.
- De Realiteit: Beiden kunnen "juist zijn om de verkeerde redenen". Ze geven het juiste antwoord (red 5, dood 1), maar komen daar terecht door getallen te tellen, niet door een morele plicht te voelen.
De Kernconclusie
Het papier betoogt dat we het morele gedrag van een AI niet kunnen vertrouwen enkel door te luisteren naar wat het zegt.
- Huidige Audits: We controleren of de AI een "goed" antwoord geeft.
- De Waarschuwing van het Papier: De AI kan een "goed" antwoord geven simpelweg omdat het goed is in wiskunde of het volgen van het genre van de prompt, niet omdat het moraal begrijpt.
De Voorgestelde Oplossing: We moeten stoppen met alleen naar de "speech" te luisteren en beginnen met het kijken naar het "brein". We moeten controleren of het morele deel van de AI daadwerkelijk de leiding heeft, of dat het slechts een kleine stem is die schreeuwt boven een veel luidere stem die over treinen, sport en wiskunde nadenkt.
Kortom: De AI is een zeer goede acteur die een moreel script kan opzeggen, maar de regisseur van het stuk (de oppervlakkige woorden van de prompt) bepaalt eigenlijk het plot, niet het geweten van de acteur.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.