Riepilogo Tecnico: Trasmutare i Prompt in Pesi

Definizione del Problema

Gli attuali metodi per il controllo dei Large Language Models (LLM) durante l'inferenza rientrano generalmente in due categorie empiriche: steering delle attivazioni (aggiunta di "vettori di steering" agli stati nascosti) e editing del modello (applicazione di modifiche a basso rango alle matrici dei pesi). Sebbene efficaci, queste tecniche si affidano pesantemente a euristiche empiriche, come la media delle attivazioni contrastive, mancando di una giustificazione teorica unificata radicata nell'architettura transformer. Inoltre, gli approcci esistenti spesso trattano l'informazione del prompt come transitoria o richiedono modifiche architettoniche per codificare permanentemente le istruzioni nei pesi. La sfida centrale è stabilire un metodo basato sui primi principi per condensare l'input testuale transitorio (prompt) in aggiornamenti di peso riutilizzabili e indipendenti dai token, capaci di codificare in modo duraturo istruzioni o nuova conoscenza senza dover rieseguire il prompt.

Metodologia

Il lavoro si basa sulla teoria fondamentale di Dherin et al. (2025), che ha dimostrato come l'effetto computazionale di un prompt di input $I$ su un blocco transformer possa essere replicato perfettamente applicando specifici aggiornamenti di rango uno dipendenti dal token (terminati "minimal token-patches") ai pesi e al bias del feed-forward.

Gli autori propongono un framework per generalizzare questi aggiornamenti transitori e specifici per il token in costrutti statici e riutilizzabili chiamati Thought Vectors ($\delta(I)$) e Thought Matrices ($\Delta(I)$).

1. Derivazione Teorica

• Patch Dipendenti dal Token: Per un prompt $C = [I, x_1, \dots, x_n]$, l'effetto del contesto $I$ sul token $x$ è replicato dagli aggiornamenti $\delta_x(I)$ e $\Delta_x(I)$.
• Thought Vector: Per creare un vettore indipendente dal token, gli autori minimizzano l'errore quadratico tra i vettori ottimali dei token e un singolo vettore. La soluzione è la media aritmetica dei vettori specifici per token:
  $$\delta(I) := \frac{1}{n} \sum_{i=1}^n \delta_i = \frac{1}{n} \sum_{i=1}^n (A(C, x_i) - A(C \setminus I, x_i))$$
  Questo fornisce una giustificazione teorica alla pratica euristica della media delle attivazioni contrastive.
• Thought Matrix: La matrice ottimale è derivata minimizzando l'errore su tutti gli esempi. Il Teorema 2.1 dimostra che se la matrice $Z = \sum a_i a_i^T$ è invertibile, il minimo globale è raggiunto tramite:
  $$\Delta(I) = \left( \sum_{i=1}^n W \delta_i a_i^T \right) Z^{-1}$$
  Ciò dimostra che la matrice di pensiero ottimale emerge naturalmente come una somma di aggiornamenti di rango uno.

2. L'Algoritmo di Thought Patching

Gli autori introducono una procedura di allineamento iterativa per livello (Algoritmo 1) per trasmutare le istruzioni in pesi:

1. Passaggio Contestuale: Eseguire il modello vanilla sul prompt completo $[I, x]$ per raccogliere le uscite dell'attenzione "ground truth" $A_l$.
2. Passaggio Non-Contestuale: Eseguire il modello su $[x]$ utilizzando i pesi attualmente patchati per raccogliere le uscite approssimate $a_l$.
3. Calcolo della Discrepanza: Calcolare i residui $dz_l = A_l - a_l$.
4. Calcolo dell'Aggiornamento:
   • L'aggiornamento del Thought Vector è la media delle discrepanze.
   • L'aggiornamento del Thought Matrix è calcolato tramite minimizzazione dei minimi quadrati (con opzione di regolarizzazione Ridge) per risolvere l'aggiornamento dei pesi che minimizza l'errore residuo.
5. Applicazione: Gli aggiornamenti sono scalati da un tasso di apprendimento $\eta$ e applicati ai pesi.

3. Adattamenti Architetturali

Il metodo è adattato per architetture moderne come Gemma 3, che utilizzano RMSNorm e attivazioni Gated GeLU:

• Gated GeLU: L'ottimizzazione della matrice di pensiero è scissa in due stime indipendenti di minimi quadrati per le proiezioni $W_{up}$ e $W_{gate}$.
• Assenza di Bias: Poiché Gemma manca di parametri di bias espliciti nella proiezione MLP in uscita, lo spostamento del thought vector viene assorbito direttamente nella matrice di proiezione $W_{down}$, regolata per i fattori di scala RMSNorm per mantenere le distribuzioni delle attivazioni.

Contributi Chiave

1. Unificazione Teorica: Il documento fornisce una spiegazione basata sui primi principi del perché lo steering delle attivazioni (media delle attivazioni contrastive) e l'editing del modello a basso rango hanno successo. Dimostra che queste euristiche sono equivalenti all'approssimazione dei minimi quadrati dei vettori di pensiero ottimali e delle matrici di pensiero.
2. Framework di Trasmutazione: Eleva il concetto di "thought patch" da uno strumento teorico per la compressione dei prompt a un algoritmo pratico per il controllo diretto del modello e l'iniezione permanente di conoscenza.
3. Indipendenza dal Token: Il metodo condensa con successo informazioni transitorie e dipendenti dal token in vettori e matrici riutilizzabili e indipendenti dal token, adatti a architetture complesse e non lineari.
4. Implementazione Algoritmica: Gli autori forniscono un algoritmo concreto (Algoritmo 1) e modifiche specifiche per l'applicazione a modelli moderni come Gemma.

Risultati Sperimentali

L'approccio è stato validato sul modello Gemma 3.0 1B Instruction Tuned attraverso diversi compiti:

• Compiti Aritmetici e Linguistici: Su compiti come la somma e la moltiplicazione di numeri, il modello patchato (senza l'istruzione nel contesto) ha raggiunto il 100% di accuratezza, eguagliando perfettamente le prestazioni del modello originale con il prompt completo. Ciò è stato ottenuto utilizzando solo 10 esempi.
• Detossificazione: Applicato al dataset ParaDetox, il modello patchato ha ridotto la tossicità dal 90,53% al 6,22%, avvicinandosi molto alla baseline a contesto completo (6,7%) pur preservando il significato semantico (BERT scores).
• Traduzione e Recupero della Conoscenza: Il metodo ha raggiunto un'alta accuratezza nella traduzione da francese/spagnolo all'inglese e nel recupero delle capitali dei paesi, superando significativamente la baseline non patchata e avvicinandosi alle prestazioni a contesto completo.
• Iniezione di Nuova Conoscenza: Il modello ha assorbito con successo dizionari chiave-valore sintetici. Le prestazioni sono rimaste vicine al 100% per piccoli dizionari ($k \le 8$), ma hanno mostrato un degrado all'aumentare della dimensione del dizionario ($k=32$ è sceso al 91%) o quando le strutture di query differivano dai prompt di addestramento.

Significato e Rivendicazioni

Il documento afferma di aver stabilito un collegamento teorico diretto tra la meccanica transitoria dell'inferenza transformer e la modifica permanente del modello. Aggregando i patch dei token effimeri in vettori e matrici di pensiero riutilizzabili, gli autori forniscono un metodo basato sui principi e data-efficiente per codificare duramente le istruzioni del prompt nei pesi.

La significatività risiede nel confermare che la media contrastiva e gli aggiornamenti a basso rango non sono solo trucchi empirici, ma sono meccanismi nativi di codifica delle istruzioni nei transformer. Il lavoro colma il divario tra le teorie del "continuum parametrico" e l'implementazione pratica, offrendo una spiegazione matematica unificata per i metodi di controllo esistenti.

Gli autori rimangono modesti riguardo ai limiti, notando che l'attuale formulazione dei minimi quadrati è suscettibile di overfitting su specifiche strutture di prompt (evidente nel compito di iniezione della conoscenza, dove la divergenza delle query ha causato cali di prestazioni) e che il lavoro futuro si concentrerà su una regolarizzazione avanzata per prevenire l'overfitting strutturale durante l'iniezione della conoscenza.