From Profiles to Steering Vectors: Global Sparse Priors and Local Semantic Calibration for Personalized Text Generation

Sintesi Tecnica: GLASS – Global Sparse Priors and Local Semantic Calibration for Personalized Text Generation

Problematica
La generazione di testi personalizzati mira a produrre output che riflettano le abitudini di scrittura, le preferenze stilistiche e i modelli comunicativi specifici di un utente, pur rispettando i requisiti del compito. Gli approcci esistenti affrontano scambi significativi:

• I metodi basati sul recupero (es. In-Context Learning, RAG) spesso si affidano alla somiglianza semantica, il che può introdurre contenuti semantici rumorosi anziché segnali puramente stilistici, oltre a comportare latenza di inferenza e overhead di archiviazione.
• Il Fine-Tuning Efficiente nei Parametri (PEFT) richiede l'addestramento e l'archiviazione di parametri specifici per l'utente, ostacolando la scalabilità per grandi popolazioni di utenti.
• L'Activation Steering offre un'alternativa senza addestramento, ma fatica a disaccoppiare i segnali stilistici dal contenuto semantico. I vettori di steering standard spesso mantengono un "residuo semantico", causando l'imitazione di argomenti tratti dai dati storici piuttosto che dallo stile sottostante dell'utente.

Metodologia: GLASS
Gli autori propongono GLASS (Global–Local Activation Steering with Sparse priors), un framework senza addestramento che sfrutta gli Sparse Autoencoders (SAE) per estrarre rappresentazioni stilistiche robuste. Il metodo opera in due fasi: costruzione dei vettori offline e steering durante l'inferenza.

1. Modellazione dello Stile Globale tramite Prior Sparsi:

   • Per catturare tratti invarianti a livello di utente (es. scelta lessicale, tono, lunghezza della frase), GLASS elabora l'intero storico delle interazioni dell'utente.
   • Gli stati nascosti di uno specifico strato vengono proiettati in uno spazio di caratteristiche sparse ad alta dimensionalità utilizzando un encoder SAE pre-addestrato.
   • Le attivazioni sparse vengono mediate su tutti i token di risposta per formare un profilo sparso globale, che viene poi decodificato nuovamente nello spazio del flusso residuo del modello per creare un vettore di stile globale ($v_G$). Questa aggregazione a livello di token smussa le variazioni semantiche specifiche dell'istanza.

2. Modellazione dello Stile Locale tramite Cluster Contrastivi:

   • Per affrontare le variazioni dipendenti dal contesto (es. email formali vs post informali), lo storico dell'utente viene raggruppato in base alla semantica del prompt (usando TF-IDF e K-means).
   • Per ogni cluster, un vettore di stile locale ($v_C$) viene derivato attraverso un processo contrastivo:
     • Priming: Un modello "primed" inietta il vettore globale $v_G$ durante il processo di estrazione per orientare le operazioni successive verso lo stile.
     • Costruzione Positivo-Negativo: Per una query ancora, i contesti positivi sono formati selezionando esempi storici dallo stesso cluster che producono alti punteggi di utilità, mentre i contesti negativi sono campionati da altri utenti.
     • Estrazione Contrastiva: Il modello genera risposte sotto contesti positivi e negativi. Il vettore locale è calcolato come la differenza tra la media degli stati nascosti dei token di risposta positivi e negativi. Questa sottrazione mira a rimuovere il contenuto semantico condiviso, isolando il residuo stilistico specifico per quello scenario.

3. Steering Dual-Stream Adattivo:

   • Durante l'inferenza, una nuova richiesta viene assegnata al cluster più vicino.
   • Il sistema recupera il vettore locale ($v_C$) corrispondente e il vettore globale ($v_G$).
   • Questi vettori vengono iniettati in diversi strati del flusso residuo del modello (il globale negli strati superiori, il locale negli strati intermedi) con intensità regolabili ($\alpha$ e $\beta$), consentendo una personalizzazione consapevole del contesto senza aggiornamenti dei parametri o overhead di recupero.

Contributi Chiave

• Identificazione del Residuo Semantico: Il documento identifica l'incapacità di separare i segnali stilistici dal contenuto semantico come un limite primario dei metodi di activation steering esistenti.
• Disaccoppiamento basato su SAE: Gli autori dimostrano che le rappresentazioni basate su SAE sono più robuste agli spostamenti di distribuzione (specificamente a perturbazioni di lunghezza e argomento) rispetto ai metodi basati su attivazioni dense, suggerendo un superiore disaccoppiamento tra stile e semantica.
• Framework GLASS: Un nuovo framework senza addestramento che modella lo stile dell'utente a molteplici granularità (globale e locale) all'interno dello spazio latente SAE.
• Validazione Empirica: Esperimenti estesi sui benchmark LaMP e LongLaMP mostrano che GLASS supera il recupero, il fine-tuning e altri baselines di steering in termini di metriche ROUGE e valutazioni LLM-as-judge.

Risultati

• Performance: Su LaMP-4 e LaMP-5, GLASS ottiene i migliori risultati in tutte le metriche (ROUGE-1, ROUGE-L e punteggi del Judge), superando i più forti baselines (es. OPPU, Fints). Sui dataset LongLaMP, si posiziona costantemente primo o secondo in 11 delle 12 metriche di valutazione.
• Robustezza: Gli esperimenti di perturbazione (Figura 1) mostano che le caratteristiche di steering basate su SAE degradano significativamente meno rispetto ai metodi basati su contrasto o media quando la lunghezza della cronologia dell'utente o le distribuzioni degli argomenti vengono variate.
• Efficienza: GLASS evita l'espansione del prompt e la latenza di recupero dei metodi RAG/ICL e richiede una memorizzazione minima per utente (<0.01 MB) rispetto ai metodi PEFT (es. LoRA), con un overhead di inferenza comparabile ai modelli base.
• Ablazione: Rimuovere sia il prior globale che la componente di contrasto locale porta a cali di performance, confermando la loro natura complementare. L'estrazione contrastiva si dimostra essenziale per sopprimere i segnali correlati al contenuto.

Significato e Rivendicazioni
Il documento afferma che GLASS stabilisce un paradigma scalabile ed efficace per la generazione di testi personalizzati affrontando la sfida centrale della contaminazione semantica nell'activation steering. Utilizzando rappresentazioni sparse, il metodo riesce a disaccoppiare con successo l'informazione stilistica dal contenuto semantico, permettendo una personalizzazione ad alta fedeltà senza il costo computazionale del fine-tuning o la latenza del recupero. Gli autori pongono GLASS come una soluzione che bilancia efficienza, scalabilità e performance, rendendola adatta all'implementazione nel mondo reale dove l'addestramento specifico per utente è impraticabile. Il lavoro suggerisce che lo steering a livello di rappresentazione sparsa è una direzione promettente per la ricerca futura nell'interpretabilità del modello e nella personalizzazione.