💬 NLP

Circuit Fingerprints: How Answer Tokens Encode Their Geometrical Path

Dit onderzoek stelt de "Circuit Fingerprint"-hypothese voor, die aantoont dat antwoordtokens de geometrische richting van hun eigen computatiepad coderen, waardoor het mogelijk is om transformer-circuits te ontdekken en te sturen via geometrische uitlijning in plaats van gradiënten of interventies.

Oorspronkelijke auteurs: Andres Saurez, Neha Sengar, Dongsoo Har

Gepubliceerd 2026-02-11

📖 3 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Andres Saurez, Neha Sengar, Dongsoo Har

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat een AI-model (zoals ChatGPT) een gigantisch, hypermodern kantoorgebouw is. In dit gebouw werken duizenden kleine "medewerkers" (de neuronen en circuits) samen om vragen te beantwoorden.

Tot nu toe dachten wetenschappers dat er twee verschillende manieren waren om dit kantoor te begrijpen:

De Inspecteur (Circuit Discovery): Deze gaat met een checklist door het gebouw om te kijken welke afdelingen precies verantwoordelijk zijn voor het berekenen van bijvoorbeeld de hoofdstad van Frankrijk. Dit is een heel traag en ingewikkeld proces.
De Afstandsbediening (Activation Steering): Dit is een methode waarbij je de medewerkers simpelweg een opdracht geeft ("Praat nu vrolijker!") om het gedrag van het kantoor te veranderen.

Dit nieuwe onderzoek, "Circuit Fingerprints", zegt eigenlijk: "Wacht eens even, we kijken naar twee kanten van dezelfde medaille!"

De Kern: De "Digitale Voetafdruk"

De onderzoekers ontdekten dat het antwoord zelf (bijvoorbeeld het woord "Parijs") een soort geometrische vingerafdruk achterlaat in het systeem.

De Metafoor: De Voetafdruk in het Zand
Stel je voor dat een medewerker door een zandvlakte loopt om naar zijn bureau te gaan. De route die hij neemt, laat een diep spoor achter in het zand.

Lezen (De Inspecteur): Als je de voetafdrukken in het zand ziet, kun je precies zien welke route de medewerker heeft genomen. Je hoeft de medewerker niet eens te volgen; de sporen vertellen je al welk pad hij heeft gebruikt. Zo ontdek je de "route" (het circuit) zonder dat je het hele kantoor hoeft te doorzoeken.
Schrijven (De Afstandsbediening): Omdat je de route nu kent, kun je ook de medewerker dwingen om diezelfde route te nemen. Als je de medewerker in de juiste richting duwt, volgt hij automatisch het pad dat hij normaal gesproken ook zou nemen.

Wat hebben ze hiermee bewezen?

De onderzoekers hebben drie indrukwekkende dingen gedaan:

Sneller de weg vinden: Ze konden de "wegenkaart" van de AI ontdekken (welke onderdelen doen wat?) veel sneller en eenvoudiger dan de oude, ingewikkelde methoden, puur door naar de "voetafdrukken" van de antwoorden te kijken.
De AI sturen als een pro: Ze ontdekten dat ze de AI veel beter konden sturen op emotie (bijvoorbeeld "wees vrolijk") door die geometrische paden te gebruiken. Het werkte veel nauwkeuriger dan wanneer je de AI gewoon vraagt: "Kun je alsjeblieft vrolijk doen?"
De "Persona" ontdekken: Ze ontdekten dat je zelfs de "persoonlijkheid" van de AI kunt vinden door simpelweg een instructie te geven (zoals "Antwoord als een piraat"). De AI laat dan direct een geometrisch spoor achter van de "piraat-afdeling" in zijn brein.

Waarom is dit belangrijk?

In plaats van de AI te zien als een zwarte doos waar we alleen maar tegen kunnen praten, laat dit onderzoek zien dat de AI een geometrische landkaart is.

Het is alsof we ontdekken dat we niet alleen de muziek van een radio kunnen horen, maar dat we door naar de trillingen van de snaren te kijken, precies kunnen zien hoe de radio gebouwd is én hoe we de volumeknop en de toonhoogte kunnen aanpassen. Begrijpen (lezen) en sturen (schrijven) zijn eigenlijk twee kanten van dezelfde medaille.

Technische Samenvatting: Circuit Fingerprints

1. Het Probleem: De kloof tussen Interpretatie en Controle

Binnen de mechanistische interpreteerbaarheid van Transformers bestaan momenteel twee gescheiden onderzoeksstromingen:

Circuit Discovery (Lezen): Het identificeren van de specifieke neurale componenten (attention heads, MLP's) die verantwoordelijk zijn voor een bepaalde taak (bijv. via causale interventie of gradiënten).
Activation Steering (Schrijven): Het controleren van het gedrag van een model door vectoren toe te voegen aan de activaties om een bepaalde richting (bijv. een emotie) te forceren.

Het probleem is dat deze twee benaderingen vaak als losstaande fenomenen worden behandeld, terwijl ze opereren in dezelfde representatieruimte. De onderzoekers vragen zich af: zijn dit twee verschillende processen, of zijn ze slechts twee manieren om naar dezelfde onderliggende geometrische structuur te kijken?

2. Methodologie: De Circuit Fingerprint Hypothese

De kern van het paper is de Circuit Fingerprint Hypothese. Deze stelt dat "antwoord-tokens" (de tokens die een model als output genereert) niet alleen semantische inhoud bevatten, maar ook een geometrische "vingerafdruk" van de computationele paden die tot hen hebben geleid.

De methodologie is opgedeeld in twee complementaire operaties:

A. Reading (Geometric Attribution):
In plaats van dure gradiënt-gebaseerde methoden of complexe causale patching, gebruiken de auteurs geometrische uitlijning (alignment):

Target Directions: Men neemt twee contrastieve antwoorden ( $a^+$ en $a^-$ ), verwerkt deze in isolatie, en berekent het verschil in de laatste laag ( $\Delta r(L)$ ). Dit is de richting die de twee antwoorden onderscheidt.
Component Scoring: Men meet hoe sterk de output van elke component (head of MLP) uitlijnt met deze target-richting in de eigen "native space" van de component.
Edge-Level Discovery: Om de volledige stroom te begrijpen, wordt de bijdrage van component $i$ aan component $j$ berekend. Hiervoor wordt de Shapley-decompositie gebruikt om de relatieve bijdragen van de Query (Q), Key (K) en Value (V) kanalen binnen een attention head eerlijk te verdelen. Dit maakt het mogelijk om de volledige computationele graaf (het circuit) te reconstrueren.

B. Writing (Geometric Steering):
Als de hypothese klopt, moeten de richtingen die een circuit beschrijven ook gebruikt kunnen worden om het gedrag te sturen:

Men extraheert een interventie-subruimte uit de representaties van antwoord-tokens die gerelateerd zijn aan een gewenste eigenschap (bijv. "blijdschap").
Deze richting wordt direct toegevoegd aan de activaties tijdens de generatie om het model te sturen.

3. Belangrijkste Bijdragen

Unificatie: Het bewijst dat circuit discovery en activation steering duale operaties zijn ("read" en "write") op dezelfde geometrische structuur.
Efficiëntie: Het introduceert een methode voor circuit discovery die geen backpropagation of iteratieve optimalisatie vereist, maar enkel werkt met forward passes en geometrische projecties.
Persona Discovery: Het toont aan dat men circuits voor abstracte eigenschappen (zoals een "piraten-persona") kan ontdekken door simpelweg instructies te gebruiken als geometrische bron, zonder dat daar specifieke datasets voor nodig zijn.

4. Resultaten

Circuit Discovery: De methode (Circuit Fingerprint - CF) presteert vergelijkbaar met de huidige state-of-the-art gradiënt-gebaseerde methoden (zoals EAP-IG) op benchmarks zoals IOI (Indirect Object Identification), SVA (Subject-Verb Agreement) en MCQA (Multiple-Choice QA) over verschillende modelfamilies (GPT-2, Qwen, Llama, OPT).
Steering Performance: Bij het sturen van emoties presteerde de geometrische methode significant beter dan traditionele instruction prompting. De nauwkeurigheid van emotie-classificatie steeg van 53,1% naar 69,8%, terwijl de feitelijke nauwkeurigheid (factual accuracy) grotendeels behouden bleef (89,6%).
Consistentie: De resultaten laten zien dat de gevonden richtingen daadwerkelijk causale paden manipuleren in plaats van oppervlakkige correlaties.

5. Betekenis en Conclusie

De implicaties van dit onderzoek zijn fundamenteel voor de interpretatieerbaarheid van AI. Het suggereert dat de interne logica van een Transformer niet alleen een verzameling regels is, maar een fundamenteel geometrische structuur.

Dit biedt een krachtig nieuw instrumentarium: in plaats van te zoeken naar "wat een model doet" en vervolgens te proberen "het model te veranderen" met aparte methoden, kunnen onderzoekers één enkele geometrische analyse gebruiken om zowel de architectuur van een taak te begrijpen als de controle over die taak te verkrijgen.