🤖 machine learning

Dynamically Scaled Activation Steering

Questo articolo introduce il Dynamically Scaled Activation Steering (DSAS), un framework indipendente dal modello che modula adattivamente l'intensità degli interventi di attivazione in base al contesto di input per migliorare il compromesso tra mitigazione della tossicità e preservazione dell'utilità nei modelli generativi, introducendo al contempo un carico computazionale minimo.

Autori originali: Alex Ferrando, Xavier Suau, Jordi Gonzàlez, Pau Rodriguez

Pubblicato 2026-07-31

📖 7 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Alex Ferrando, Xavier Suau, Jordi Gonzàlez, Pau Rodriguez

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di essere il direttore di un'orchestra invisibile e massiccia composta da pura matematica. Questa orchestra è un "modello generativo", un tipo di cervello informatico capace di scrivere storie, dipingere quadri o risolvere problemi. Ma come ogni musicista, a volte può suonare una nota stonata o, peggio ancora, una nota dannosa. Per anni, gli scienziati hanno cercato di risolvere questo problema cercando di "guidare" la musica. Considera la guida come un direttore d'orchestra che agita la bacchetta per dire a tutta l'orchestra di suonare più piano, o per evitare uno strumento specifico. Il problema con il vecchio modo di guidare è che è un po' goffo: dice a tutta l'orchestra di suonare piano, anche quando stanno già suonando una melodia bellissima e sicura. Questo rende la musica piatta e noiosa, anche quando nessuno stava facendo nulla di male.

Il documento che stai per leggere introduce un nuovo direttore d'orchestra super intelligente chiamato DSAS (Dynamically Scaled Activation Steering). Invece di agitare la bacchetta verso l'intero gruppo tutto in una volta, DSAS ascolta ogni singolo musicista individualmente. Dice solo ai musicisti specifici che stanno per suonare una nota "tossica" o dannosa di attenuare il volume, lasciando che il resto dell'orchestra suoni esattamente come desidera. È la differenza tra un insegnante che grida "Tutti in silenzio!" quando solo uno studente sta parlando, e un insegnante che dà un colpetto sulla spalla solo a quello studente. Questo articolo dimostra che, essendo così precisi, possiamo fermare il comportamento errato senza rovinare le cose belle, rendendo questi cervelli artificiali più sicuri e utili senza renderli più stupidi.

La grande idea del documento: lo "Smart Dimmer Switch" per l'IA

I ricercatori, Alex Ferrando de las Morenas e il suo team di Apple e dell'Universitat Autònoma de Barcelona, si sono resi conto che il vecchio metodo di "steering delle attivazioni" era troppo sbrigativo. Nel mondo dell'IA, lo "steering delle attivazioni" è una tecnica in cui gli scienziati modificano i segnali interni di un modello per spingerlo verso un comportamento desiderato, come essere educato o dire la verità. Di solito, applicano una "forza globale" (chiamiamola un pomello del volume, o $\lambda$ ) che alza o abbassa la guida per tutto ciò che il modello fa.

Il problema? Se alzi il volume su "sii educato", il modello potrebbe diventare così educato da smettere del tutto di rispondere alle domande, oppure, se lo alzi per fermare le parole "tossiche", potrebbe iniziare a sembrare robotico e perdere la sua creatività. L'articolo sostiene che abbiamo bisogno di sapere quando guidare, non solo come guidare.

Entra in scena DSAS. Gli autori propongono un framework che agisce come un dimmer intelligente per ogni singola parola (o "token") che l'IA genera. Invece di un pomello globale, DSAS utilizza un "gatekeeper" (un guardiano) addestrato per ogni livello del cervello dell'IA. Questo guardiano osserva il contesto di ciò che l'IA sta dicendo e si chiede: "Questa specifica parola è probabilmente tossica o dannosa?".

Se la risposta è no (l'IA sta parlando di una giornata soleggiata o di un problema di matematica), il cancello rimane aperto e l'IA scorre naturalmente.
Se la risposta è sì (l'IA sta per generare un insulto o un'istruzione pericolosa), il cancello si chiude e la guida interviene con forza per reindirizzare quel pensiero specifico.

Il documento dimostra questo con un esempio divertente e non offensivo: guidare l'IA lontano dalla parola "banana". Quando l'IA viene interrogata per scrivere una storia su una scimmia che mangia frutta, DSAS rileva il concetto di "banana" e applica una forza di guida intensa per impedire che pronunci la parola. Ma quando l'IA viene interrogata per scrivere una storia su un gatto o un'auto, DSAS vede che "banana" non è rilevante, quindi lascia stare la guida. Il risultato? L'IA evita con successo il concetto di "banana" quando dovrebbe, ma non perde la capacità di parlare di gatti o auto.

Cosa hanno scoperto: un miglior equilibrio

Il team ha testato DSAS su diversi modelli di IA popolari (come Qwen e Gemma) e lo ha confrontato con altri metodi di steering. Hanno misurato due cose: quanto bene l'IA evitava la tossicità (o il concetto di "banana") e quanto bene manteneva la sua intelligenza generale (come la capacità di rispondere a domande di cultura generale o scrivere frasi fluide).

I risultati sono stati chiari: DSAS ha costantemente migliorato il compromesso.

Nei grafici del documento, che sembrano catene montuose che mostrano il miglior possibile equilibrio tra sicurezza e intelligenza (chiamate "frontiera di Pareto"), le linee di DSAS erano sempre più alte e migliori rispetto ai vecchi metodi.

Per la tossicità: Quando si cercava di impedire all'IA di essere maleducata, DSAS permetteva ai modelli di essere molto più sicuri senza farli sembrare dei robot rotti. I modelli mantenevano la loro fluidità e capacità di rispondere a domande complesse (misurate tramite benchmark come MMLU) molto meglio rispetto all'uso dei vecchi metodi di steering "taglia unica".
Per le immagini: Hanno provato questo anche con i generatori di immagini (modelli che disegnano immagini). Hanno chiesto al modello di sfocare le immagini di banane ma mantenere nitide le altre immagini. Il vecchio metodo sfocava leggermente tutto. DSAS, invece, ha sfocato solo le immagini che contenevano effettivamente banane, lasciando le foto di auto e paesaggi perfettamente chiare.

L'articolo ha esplorato anche una versione chiamata E2E-DSAS, in cui il "guardiano" viene addestrato contemporaneamente allo steering stesso, piuttosto che come un passaggio separato. Questa versione si è dimostrata promettente, talvolta eguagliando o persino superando il DSAS standard, suggerendo che il metodo è abbastanza flessibile da poter essere integrato direttamente nel processo di addestramento.

Cosa non è (e cosa non afferma)

È importante sapere cosa questo articolo non dice. Gli autori sottolineano con cura che DSats non è una bacchetta magica che risolve tutti i problemi di sicurezza dell'IA.

Non è un sostituto del fine-tuning: Il documento non afferma che DSAS sostituisca la necessità di addestrare i modelli su dati di qualità. È uno strumento da utilizzare sopra i modelli esistenti.
Non è una localizzazione perfetta: Negamente esperimenti sulle immagini, sebbene DSAS fosse molto più bravo a mirare a concetti specifici, gli autori ammettono che non sempre sfocava solo la banana nell'immagine. A volte la sfocatura si estendeva un po' anche allo sfondo. È una localizzazione "morbida", non un laser chirurgico.
Si basa sui dati: Il "guardiano" ha bisogno di un piccolo set di esempi (come 32 frasi tossiche e 32 frasi sicure) per imparare cosa cercare. Se i dati sono rumorosi o scadenti, il guardiano potrebbe confondersi, sebbene il documento mostri che anche in quel caso DSAS tende a ricadere in sicurezza verso lo steering standard invece di rompere il modello.

In sintamente

Questo articolo suggerisce che il futuro del controllo dell'IA non consiste nell'alzare il volume della sicurezza per tutti. Si tratta di essere un direttore d'orchestra intelligente e attento, che sa esattamente quando sussurrare "shh" a uno strumento specifico e quando lasciare che la musica scorra liberamente. Scalando dinamicamente la guida in base a ciò che l'IA sta effettivamente dicendo, DSAS offre un modo per rendere questi potenti strumenti più sicuri senza sacrificare proprio l'intelligenza che li rende utili. Gli autori dimostrano che questo approccio funziona sia nel testo che nelle immagini e, sebbene non sia un problema risolto, rappresenta un passo significativo verso un'IA che sa come comportarsi senza perdere la propria personalità.

Riepilogo Tecnico: Dynamically Scaled Activation Steering (DSAS)

Problematica

L'activation steering è emersa come una tecnica potente per guidare i modelli generativi verso comportamenti desiderati (ad esempio, mitigazione della tossicità, editing della conoscenza) manipolando le attivazioni interne senza modificare i pesi del modello. Tuttavia, i metodi esistenti applicano tipicamente gli interventi in modo uniforme su tutti gli input utilizzando un parametro di forza globale ( $\lambda$ ) fisso. Questa applicazione indiscriminata degrada le prestazioni del modello su input che non richiedono l'intervento, come contenuti benigni o non correlati, creando un compromesso subottimale tra sicurezza/allineamento e utilità/fluidità.

Sebbene esistano metodi di steering condizionale per affrontare questo problema, essi spesso si affidano a regole statiche, trigger binari o euristiche a livello di prompt che mancano di precisione. Inoltre, molti metodi adattivi esistenti sono progettati per specifiche famiglie di steering (ad esempio, metodi simili a ITI) e non riescono a generalizzare ad approcci di steering distribuzionali o end-to-end appresi. È necessario un framework universale, indipendente dal metodo, capace di adattare precisamente la forza dello steering su base per-token o per-feature, intervenendo con forza solo quando viene rilevato un comportamento indesiderato.

Metodologia: Dynamically Scaled Activation Steering (DSAS)

DSAS è un framework indipendente dallo steering che scinde la decisione di quando intervenire da quella di come intervenire. Esso modula adattivamente la forza di qualsiasi trasformazione di steering esistente ( $T_\ell$ ) attraverso i layer e gli input.

Meccanismo Core

Per ogni layer intervenuto $\ell$ e ogni token $k$ , DSAS introduce una porta (gate) $h_\ell(t_{\ell,k}) \in [0, 1]$ che interpola tra l'embedding originale e l'embedding guidato:
$T^{DSAS}_\ell(t_{\ell,k}) = (1 - h_\ell(t_{\ell,k})) \cdot t_{\ell,k} + h_\ell(t_{\ell,k}) \cdot T_\ell(t_{\ell,k}; \lambda)$
Qui, $h_\ell \approx 0$ lascia l'embedding invariato, mentre $h_\ell \approx 1$ applica l'intervento completo.

Addestramento della Porta (Gate)

La porta $h_\ell$ viene addestrata come un regressore logistico per layer per distinguere tra:

Set Sorgente ( $S$ ): Campioni che esibiscono comportamenti indesiderati (ad esempio, testo tossico).
Set di Controllo ( $C$ ): Campioni neutrali rispetto al comportamento oggetto della modifica (ad esempio, testo non tossico).

Il processo di addestramento prevede:

Raccolta delle Attivazioni: L'esecuzione del forward pass di input da $S$ e $C$ attraverso il layer $\ell$ per ottenere gli embedding medi.
Riduzione della Dimensionalità: Applicazione della PCA alle attivazioni combinate di sorgente e controllo per mitigare l'overfitting in spazi ad alta dimensionalità e ridurre i tempi di addestramento.
Classificazione: Addestramento di un regressore logistico per predire la probabilità che un embedding appartenga al set sorgente. Questa probabilità funge da coefficiente di forza adattiva.

Ottimizzazione End-to-End (E2E-DSAS)

Il documento introduce anche una variante end-to-end in cui i parametri della porta sono ottimizzati congiuntamente con la trasformazione di steering (specificamente con LinEAS). Ciò comporta la minimizzazione di una perdita della sorgente (spingendo le distribuzioni sorgente verso le distribuzioni target) applicando contemporaneamente un termine di regolarizzazione del controllo per garantire che le attivazioni del set di controllo rimangano simili prima e dopo l'intervento. Questo permette alla porta di essere appresa direttamente tramite backpropagation senza proiezioni PCA statiche.

Contributi Chiave

Proposta di Framework: Introduzione di DSAS, un framework indipendente dallo steering che scala dinamicamente la forza dell'intervento in base alle caratteristiche delle attivazioni, imparando quando intervenire piuttosto che applicare policy fisse.
Miglioramento dei Compromessi: Dimostrazione che DSAS migliora la frontiera di Pareto tra mitigazione della tossicità e ritenzione della capacità (misurata tramite perplexity e accuratezza MMLU) su molteplici Large Language Models (Qwen 2.5, Gemma 2) e metodi di steering (CAA, ITI, LinEAS).
Superiorità rispetto ai Baseline: Evidenza empirica che DSAS supera i recenti metodi di steering condizionale (CAST, MERA, AlphaSteer) nel mantenere l'utilità del modello riducendo al contempo la tossicità.
Integrazione End-to-End: Estensione di DSAS a framework end-to-end (E2E-DSAS), consentendo l'addestramento congiunto con funzioni di steering e supportando varie funzioni di attivazione (es. ReLU, Sigmoid).
Generalizzazione Cross-Modale: Applicazione riuscita di DSAS ai modelli di diffusione text-to-image (DMD2), dimostrando la sua capacità di sfocare selettivamente immagini correlate a un concetto (es. banane) preservando la generazione di immagini non correlate.

Risultati Sperimentali

Mitigazione della Tossicità: Negli esperimenti su Qwen 2.5 (1.5B, 7B) e Gemma 2 (2B), DSAS ha costantemente spostato la frontiera di Pareto, ottenendo punteggi di tossicità inferiori (ToxTET) per lo stesso livello di ritenzione della capacità rispetto allo steering vanilla. Ad esempio, combinare DSAS con LinEAS ha ridotto significativamente la tossicità molto più di quanto faccia LinEAS da solo, senza incorrere nello stesso penalità in termini di perplexity o accuratezza MMLU.
Comportamento Condizionale: Gli studi qualitativi sul caso (steering lontano da "banana") hanno mostrato che i metodi aumentati con DSAS sopprimono efficacemente il concetto target in prompt rilevanti, lasciando i prompt neutrali largamente inalterati, anche quando vengono utilizzati parametri di forza globale elevati ( $\lambda > 1$ ).
Modelli di Diffusione: Negli esperimenti text-to-image, CAA+DSAS ha sfocato con successo immagini contenenti concetti specifici (es. banane, telefoni) mantenendo la chiarezza delle immagini non correlate, mentre il vanilla CAA sfocava indiscriminatamente tutte le immagini.
Efficienza: DSAS introduce un overhead computazionale minimo durante l'inferenza (circa $2d_\ell + 2$ FLOPs per embedding), rendendolo pratico per la generazione in tempo reale.
Robustezza: Il metodo rimane robusto a segnali di addestramento rumorosi; se il classificatore non riesce a distinguere la sorgente dal controllo, DSAS ritorna naturalmente a un regime sicuro (steering uniforme con forza ridotta) senza degradare le prestazioni al di sotto del baseline.

Significato e Rivendicazioni

Il paper sostiene che DSAS rappresenti un avanzamento significativo nello steering delle attivazioni affrontando il limite critico dell'intervento indiscriminato. Decoupling (scindendo) il timing dell'intervento dal meccanismo di steering, DSAS consente:

Allineamento Selettivo: I modelli possono essere guidati lontano da comportamenti dannosi solo quando necessario, preservando la loro fluidità nativa e le capacità generali su input benigni.
Interpretabilità: Il metodo individua esattamente quali token o feature spaziali richiedono lo steering e con quale intensità, offrendo una visione trasparente del processo di intervento.
Generalità: A differenza di altri metodi adattivi, DSAS non è vincolato a uno specifico algoritmo di steering o a una specifica modalità di input, rendendolo applicabile a una vasta gamma di compiti generativi, inclusa la generazione di testo e la sintesi di immagini.

Gli autori concludono che DSAS fornisce una soluzione pratica e a basso overhead per ottenere un migliore allineamento nei modelli generativi, migliorando il compromesso tra sicurezza e utilità senza richiedere un ulteriore addestramento esteso o modifiche ai pesi.