Technische Samenvatting: Universele Activeringsverbaalizer (UAV)

Probleemstelling

Hoewel Large Language Models (LLM's) aanzienlijk succes hebben behaald via representatieleren, blijft het begrijpen van de specifieke informatie die in hun interne activeringen is gecodeerd een centrale uitdaging. Bestaande methoden voor activeringsverbaalizering—waarbij een model de inhoud van een verborgen toestand in natuurlijke taal beschrijft—zijn voornamelijk beperkt tot zelfverklaring. Bij deze benaderingen wordt een model getraind om alleen zijn eigen activeringen te verklaren. Deze beperking verhindert het hergebruik van verbaalizers over verschillende modelgezinnen, architecturen of schalen, waardoor de analyse van grote "donor"-modellen inefficiënt en niet-generaliseerbaar is. Bovendien falen methoden zonder training (zoals het direct patchen van activeringen in prompts) vaak om fijnmazige feitelijke en semantische informatie te herstellen.

Methodologie: Het UAV-kader

De auteurs stellen de Universele Activeringsverbaalizer (UAV) voor, een unificerend kader dat is ontworpen om activeringen van heterogene donormodellen te verklaren met behulp van een gedeelde decoder. Het kader werkt vanuit de premisse dat een lichtgewicht adapter donoractiveringen kan afbeelden in de inbeddingsruimte van een decodermodel, waardoor verbaalizering over modellen heen mogelijk wordt.

Architectuur

UAV bestaat uit twee hoofdcomponenten:

1. Trainbare Adapter ($\mathcal{A}$): Deze module overbrugt de donoractiveringsruimte en de inbeddingsruimte van de decoder. Het beeldt een specifieke donoractivering $h_i^\ell$ (van laag $\ell$ op positie $i$) af op een reeks van $n$ continue "soft tokens" ($z_{1:n}$). Het artikel onderzoekt twee adapterarchitecturen:
   • MLP-stijl: Een projectienetwerk met optionele bottleneck-lagen.
   • Q-Former-stijl: Een op aandacht gebaseerd ontwerp dat leerbare query-tokens gebruikt om informatie te extraheren uit contextslots die zijn afgeleid van de donoractivering.
2. Decodermodel ($\mathcal{M}_v$): Een bevroren of gedeeltelijk fijngetuned taalmodel (bijvoorbeeld de Qwen-familie) dat natuurlijke taalverklaringen genereert. De door de adapter gegenereerde soft tokens worden voorafgeplakt aan de tekstuele prompt als een door activatie geconditioneerde prefix.

Trainingsstrategie

UAV hanteert een tweefasig trainingsproces:

1. Activering-naar-tekst-uitlijning (Fase 1): De adapter wordt getraind om de invoer-tekstprefix $\langle t_0, \dots, t_i \rangle$ te reconstrueren vanuit de donoractivering $h_i^\ell$ met behulp van teacher forcing. De decoder is tijdens deze fase bevroren. Dit dient als een warm-up om de activeringsruimte uit te lijnen met de inbeddingsruimte van de decoder.
2. Opdrachtvolgende uitlijning (Fase 2): Het model wordt fijngetuned om vragen over de invoer-tekst te beantwoorden (bijvoorbeeld "Wat is de samenvatting?" of "Wat was het beroep?"). Deze fase omvat gezamenlijke training van de adapter en parameters aan de decoderzijde (specifiek LoRA) om het vermogen van het model om opdrachten gericht op verklaringen te volgen, te verbeteren.

Alleen-Adapter Transfer

Een belangrijke innovatie is de Alleen-Adapter Transfer-strategie. Na het uitvoeren van volledige tweefasige adaptatie op een bron-donor, wordt de LoRA aan de decoderzijde bevroren. Voor een nieuw donormodel wordt alleen een nieuwe adapter vanaf nul getraind, terwijl de decoder-ruggegraat en de geleerde LoRA vastgehouden worden. Dit maakt het hergebruik van het door de decoder georiënteerde verklarende gedrag mogelijk over verschillende donormodellen heen, zonder het hele systeem opnieuw te hoeven trainen.

Belangrijkste Bijdragen

1. Unificerend Kader: Het voorstellen van UAV, een adapter-decoderkader dat verbaalizering van activeringen over modellen heen mogelijk maakt voor heterogene modelgezinnen (bijvoorbeeld Llama, Gemma, Yi, Qwen) en schalen.
2. Alleen-Adapter Transfer: Het introduceren van een transfermechanisme dat de LoRA aan de decoderzijde bevriest, waardoor efficiënte adaptatie aan nieuwe donors mogelijk is door alleen de adapter te trainen.
3. Systematische Analyse: Uitgebreide experimenten en ablaties die aantonen dat UAV activeringsverklaring over modelgezinnen heen ondersteunt, terwijl het concurrerend blijft met sterke zelfverklarende baselines.

Experimentele Resultaten

De auteurs hebben UAV geëvalueerd op generatieve, op activeringen gebaseerde QA-taken die classificatie, feitenopvraging en samenvatting van de kerninhoud omvatten.

• Prestaties versus Baselines: UAV presteert aanzienlijk beter dan methoden zonder training (SelfIE, PatchScope), met name bij feitenopvraging waar patch-methoden moeite hebben met fijnmazige informatie. In vergelijking met trainingsgebaseerde zelfverklarende baselines (LatentQA, Activation Oracle) blijft UAV concurrerend, waarbij het vaak de beste algehele ROUGE-L en BERTScore behaalt in zelfverklarende settings.
• Kruis-model Capaciteit: Een gedeelde decoder (bijvoorbeeld Qwen3-4B) verbaalizeriseert succesvol activeringen van diverse donors (Llama-3.1-8B, Gemma-3, Yi-1.5-34B). Hoewel zelfdecodering (het gebruik van de donor als zijn eigen decoder) over het algemeen iets betere resultaten oplevert, is de prestatiekloof bij kruis-model verbaalizering gematigd, wat de universaliteit van het kader aantoont.
• Decodergrootte: Grotere decoders (tot 14B) verbeteren over het algemeen de prestaties, wat wijst op een betere conversie van uitgelijnde activeringssignalen naar natuurlijke taal, hoewel het patroon niet strikt monotoon is.
• Componentanalyse (Ablaties):
  • Aanpassing aan decoderzijde: Verbeterd primair het taalniveau-gedrag en het volgen van instructies (bijvoorbeeld classificatiepatronen).
  • Adapter: Essentieel voor het herstellen van invoerspecifieke feitelijke en semantische informatie. Zonder de getrainde adapter kan het model geen fijnmazige details betrouwbaar uit activeringen extraheren.
  • Fase-1 Warm-up: De activering-naar-tekst-uitlijningsfase is een kritische voorwaarde; het verwijderen ervan verslechtert de prestaties consequent.

Betekenis en Beweringen

Het artikel beweert dat UAV de inefficiëntie en het gebrek aan generaliseerbaarheid in huidige methoden voor activeringsverklaring aanpakt. Door de activeringsafbeelding (adapter) te ontkoppelen van het generatievermogen (decoder), maakt UAV het volgende mogelijk:

• Hergebruikbaarheid: Een enkele door verklaringen georiënteerde decoder kan worden aangepast aan meerdere donormodellen.
• Efficiëntie: De alleen-adapter transfer-strategie verlaagt de rekencosten bij het analyseren van nieuwe modellen.
• Betrouwbaarheid: Het kader biedt een mechanisme om feitelijke en semantische informatie uit activeringen te herstellen die vaak verloren gaat bij methoden zonder training.

De auteurs erkennen beperkingen, waarbij zij opmerken dat UAV nog steeds uitdagingen kent bij het herstellen van fijnmazige attributen uit enkele activeringen en momenteel beperkt is tot invoer met een korte context. Er wordt voorgesteld om toekomstig werk te richten op het verbeteren van feitenopvraging en begrip van de kerninhoud door sterkere uitlijning en rijkere supervisie.