Riepilogo Tecnico: Verbalizzatore di Attivazione Universale (UAV)

Enunciato del Problema

Sebbene i Modelli Linguistici su Larga Scala (LLM) abbiano ottenuto successi significativi grazie all'apprendimento di rappresentazioni, la comprensione delle informazioni specifiche codificate nelle loro attivazioni interne rimane una sfida centrale. I metodi esistenti di verbalizzazione delle attivazioni, in cui un modello descrive il contenuto di uno stato nascosto in linguaggio naturale, sono prevalentemente limitati all'auto-spiegazione. In questi approcci, un modello viene addestrato a spiegare solo le proprie attivazioni. Tale restrizione impedisce il riutilizzo dei verbalizzatori tra diverse famiglie di modelli, architetture o scale, rendendo l'analisi di grandi modelli "donatori" inefficiente e non generalizzabile. Inoltre, i metodi privi di addestramento (ad esempio, l'inserimento diretto delle attivazioni nei prompt) spesso non riescono a recuperare informazioni fattuali e semantiche a grana fine.

Metodologia: Il Framework UAV

Gli autori propongono il Verbalizzatore di Attivazione Universale (UAV), un framework unificato progettato per spiegare le attivazioni provenienti da modelli donatori eterogenei utilizzando un decoder condiviso. Il framework opera sulla premessa che un adattatore leggero possa mappare le attivazioni del donatore nello spazio di embedding di un modello decoder, abilitando la verbalizzazione cross-modello.

Architettura

UAV è composto da due componenti principali:

1. Adattatore Addestrabile ($\mathcal{A}$): Questo modulo funge da ponte tra lo spazio delle attivazioni del donatore e lo spazio di embedding del decoder. Mappa una specifica attivazione del donatore $h_i^\ell$ (dal livello $\ell$ alla posizione $i$) in una sequenza di $n$ "soft token" continui ($z_{1:n}$). Il documento esamina due architetture di adattatore:
   • Stile MLP: Una rete di proiezione con eventuali livelli di collo di bottiglia.
   • Stile Q-Former: Un design basato sull'attenzione che utilizza token di query apprendibili per estrarre informazioni dagli slot di contesto derivati dall'attivazione del donatore.
2. Modello Decoder ($\mathcal{M}_v$): Un modello linguistico congelato o parzialmente fine-tuned (ad esempio, della famiglia Qwen) che genera spiegazioni in linguaggio naturale. I soft token generati dall'adattatore vengono anteposti al prompt testuale come un prefisso condizionato dall'attivazione.

Strategia di Addestramento

UAV impiega un processo di addestramento in due fasi:

1. Allineamento Attivazione-Testo (Fase 1): L'adattatore viene addestrato per ricostruire il prefisso di testo di input $\langle t_0, \dots, t_i \rangle$ a partire dall'attivazione del donatore $h_i^\ell$ utilizzando il teacher forcing. Il decoder rimane congelato durante questa fase. Questo funge da warm-up per allineare lo spazio delle attivazioni con lo spazio di embedding del decoder.
2. Allineamento al Seguito di Istruzioni (Fase 2): Il modello viene fine-tuned per rispondere a domande sul testo di input (ad esempio, "Qual è il succo?" o "Qual era la professione?"). Questa fase comporta l'addestramento congiunto dell'adattatore e dei parametri lato decoder (specificamente LoRA) per migliorare la capacità del modello di seguire istruzioni orientate alla spiegazione.

Transfer Solo Adattatore

Un'innovazione chiave è la strategia di Transfer Solo Adattatore. Dopo aver eseguito l'adattamento completo in due fasi su un donatore sorgente, il LoRA lato decoder viene congelato. Per un nuovo modello donatore, viene addestrato un nuovo adattatore da zero, mantenendo fissi il backbone del decoder e il LoRA appreso. Questo permette il riutilizzo del comportamento orientato alla spiegazione del decoder su diversi modelli donatori senza riaddestrare l'intero sistema.

Contributi Chiave

1. Framework Unificato: La proposta di UAV, un framework adattatore-decoder che abilita la verbalizzazione delle attivazioni cross-modello tra famiglie di modelli eterogenee (ad esempio, Llama, Gemma, Yi, Qwen) e scale.
2. Transfer Solo Adattatore: L'introduzione di un meccanismo di transfer che congela il LoRA lato decoder, consentendo un adattamento efficiente a nuovi donatori addestrando solo l'adattatore.
3. Analisi Sistematica: Esperimenti e ablationi completi che dimostrano come UAV supporti la spiegazione delle attivazioni tra famiglie di modelli, rimanendo competitivo rispetto a forti baseline di auto-spiegazione.

Risultati Sperimentali

Gli autori hanno valutato UAV su compiti di QA generativi basati su attivazioni, coprendo classificazione, recupero di fatti e riassunto del succo.

• Prestazioni vs Baseline: UAV supera significativamente i metodi privi di addestramento (SelfIE, PatchScope), in particolare nel recupero di fatti, dove i metodi di patching faticano con le informazioni a grana fine. Rispetto alle baseline di auto-spiegazione basate sull'addestramento (LatentQA, Activation Oracle), UAV rimane competitivo, ottenendo spesso il miglior ROUGE-L e BERTScore complessivi negli scenari di auto-spiegazione.
• Capacità Cross-Modello: Un decoder condiviso (ad esempio, Qwen3-4B) verbalizza con successo le attivazioni da donatori diversi (Llama-3.1-8B, Gemma-3, Yi-1.5-34B). Sebbene il self-decoding (usare il donatore come proprio decoder) produca generalmente risultati leggermente migliori, il divario di prestazioni nella verbalizzazione cross-modello è moderato, dimostrando l'universalità del framework.
• Dimensione del Decoder: Decoder più grandi (fino a 14B) migliorano generalmente le prestazioni, suggerendo una migliore conversione dei segnali di attivazione allineati in linguaggio naturale, sebbene la tendenza non sia strettamente monotona.
• Analisi dei Componenti (Ablazioni):
  • Fine-tuning lato Decoder: Migliora principalmente il comportamento a livello di compito e il seguito delle istruzioni (ad esempio, pattern di classificazione).
  • Adattatore: Essenziale per recuperare informazioni fattuali e semantiche specifiche dell'input. Senza l'adattatore addestrato, il modello non può estrarre in modo affidabile dettagli a grana fine dalle attivazioni.
  • Warmup di Fase 1: La fase di allineamento attivazione-testo è un prerequisito critico; la sua rimozione degrada costantemente le prestazioni.

Significato e Affermazioni

Il documento afferma che UAV affronta l'inefficienza e la mancanza di generalizzabilità nei metodi attuali di spiegazione delle attivazioni. Disaccoppiando la mappatura delle attivazioni (adattatore) dalla capacità di generazione (decoder), UAV abilita:

• Riutilizzabilità: Un singolo decoder orientato alla spiegazione può essere adattato a più modelli donatori.
• Efficienza: La strategia di transfer solo adattatore riduce i costi computazionali quando si analizzano nuovi modelli.
• Fedeltà: Il framework fornisce un meccanismo per recuperare informazioni fattuali e semantiche dalle attivazioni che spesso vanno perse negli approcci privi di addestramento.

Gli autori riconoscono le limitazioni, notando che UAV affronta ancora sfide nel recuperare attributi a grana fine da singole attivazioni e che è attualmente limitato a input con contesto breve. Viene proposta un'attività futura per migliorare il recupero di fatti e la comprensione del succo attraverso un allineamento più forte e supervisione più ricca.