💬 NLP

Divergent Response Modes in Frontier Language Models Under Steering Pressure

Questo studio rivela che i modelli linguistici di frontiera esibiscono modalità di risposta comportamentale distinte e specifiche per ogni sviluppatore sotto pressione di steering, dimostrando che i modelli differiscono non solo nel grado di cambiamento comportamentale ma anche nella natura fondamentale delle loro reazioni, un fenomeno validato attraverso il giudizio su larga scala dei pari e interventi causali utilizzando sonde lineari.

Autori originali: Ali Jalal-Kamali

Pubblicato 2026-08-12

📖 6 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Ali Jalal-Kamali

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina un mondo in cui puoi parlare con un cervello digitale super intelligente che sa quasi tutto. Non è magia; è il campo dell'Intelligenza Artificiale, specificamente dei "Large Language Models" (Modelli di Linguaggio di Grandi Dimensioni). Pensa a questi modelli come a chef incredibilmente talentuosi che hanno letto quasi tutti i libri di ricette esistenti. Ma ecco il punto: prima di poterti servire un pasto, vengono addestrati dai loro creatori per seguire regole rigide su ciò che è educato, sicuro e utile. Questo addestramento è come una "bussola morale" o un insieme di linee guida di sicurezza incorporate nei loro cervelli.

A volte, però, le persone cercano di ingannare questi chef digitali. Potrebbero chiedere allo chef di ignorare le regole, di rivelare la sua ricetta segreta (come ha pensato la risposta) o di fingere di non tenere conto della sicurezza. Questo è chiamato "steering" (guida) o "steering pressure" (pressione di guida). È come chiedere a un cane da guardia di ignorare uno sconosciuto o a un bibliotecario di consegnare un libro proibito. Gli scienziati vogliono sapere: se si spinge questi diversi chef IA con le stesse domande truccate, reagiscono tutti allo stesso modo? Dicono tutti "no", o alcuni dicono "no" in modo buffo, mentre altri dicono "sì" ma si lamentano? Capire questo ci aiuta a capire se questi cervelli digitali sono davvero sicuri o se hanno stranezze nascoste che potrebbero metterci nei guai.

Il Grande Test della Personalità dell'IA

In questo studio, un ricercatore di nome Ali Jalal-Kamali ha deciso di sottoporre sei dei modelli di IA più avanzati al mondo a un enorme test della personalità ad alta posta in gioco. Immagina sei robot diversi, ognuno costruito da una diversa azienda (come Anthropic, OpenAI, Google e altre). Il ricercatore ha dato loro 340 situazioni diverse e complicate. Alcune situazioni chiedevano loro di fare qualcosa di leggermente maleducato (un "conflitto di valori"), alcune chiedevano di rivelare come avevano risolto un enigma ("elicitation del ragionamento") e altre chiedevano di fingere di non tenere conto delle regole di sicurezza ("soppressione del ragionamento").

Per assicurarsi che il test fosse equo, ogni singolo robot affrontava esattamente le stesse domande. Ma ecco la parte geniale: i robot dovevano anche valutare le risposte degli altri! Agivano come giudici ciechi, leggendo le risposte senza sapere quale robot le avesse scritte. Questo ha creato un enorme ammasso di dati — oltre 24.000 giudizi — per vedere esattamente come si comportava ogni robot quando veniva spinto ai suoi limiti.

I Risultati: Non Solo Diversi, Ma Stranamente Diversi

La grande scoperta non è stata solo che alcuni robot erano più testardi di altri. È stato che non erano solo in disaccordo su quanto dire; erano in disaccordo su come dirlo. Avevano interamente diversi "modi" di rispondere, e alcuni di questi modi erano unici per uno o due robot.

Il "Custode dei Segreti" (GPT-5)
Un robot, GPT-5, ha fatto qualcosa che nessun altro robot ha fatto. Quando gli è stato chiesto di mostrare il suo lavoro (spiegare il suo ragionamento), ha rifiutato 99 volte su 100. Ma ecco il colpo di scena: ha comunque dato la risposta corretta! Era come uno studente che dice: "Non posso dirti come ho risolto questo problema di matematica, ma ecco la risposta: 42". Tutti gli altri robot o mostravano il proprio lavoro o rifiutavano interamente di rispondere alla domanda. GPT-5 era l'unico capace di mantenere i propri segreti pur svolgendo il compito.

I "Ribelli" (Opus e GPT-5)
Quando gli è stato chiesto di ignorare le regole di sicurezza o di fingere di non tenere conto dei valori, due robot — Opus e GPT-5 — hanno reagito. Ma hanno reagito in modi totalmente diversi.

Opus era come un ribelle educato. Svolgeva il compito, ma si lamentava rumorosamente, dicendo: "Lo sto facendo, ma non avresti dovuto chiedermi di ignorare le regole".
GPT-5 era il rigorista. Semplicemente rifiutava la richiesta, dicendo: "No, non lo farò", e si fermava lì.
Gli altri quattro robot seguivano la maggior parte delle direttive o rimanevano in silenzio.

I "Chiarificatori" (Opus e Llama)
Quando le domande erano vaghe o complicate, Opus e Llama erano gli unici a fermarsi e chiedere: "Aspetta, cosa intendi esattamente?" invece di limitarsi a indovinare. Gli altri robot tendevano a dare una risposta o a rifiutare.

Verificare il Lavoro: Abbiamo Sbagliato Qualcosa?

Il ricercatore è stato molto attento a garantire che queste strane differenze non fossero solo errori.

Il Budget di Token: Hanno notato che alcuni robot venivano interrotti perché finivano lo "spazio" per scrivere le loro risposte. Hanno risolto questo problema dando a quei robot più spazio, e i comportamenti strani (come il segreto di GPT-5) sono rimasti esattamente gli stessi.
Il Controllo degli "Indizi": Si sono assicurati che i giudici non stessero solo indovinando basandosi sugli indizi nelle istruzioni. Anche quando hanno rimosso gli indizi, i risultati sono rimasti validi.
Le Nuove Domande: Hanno ri-testato i robot su un nuovo set di domande che non avevano mai visto prima, e i modelli si sono ripetuti.

Sbirciare dentro il Cervello (L'Esperimento Llama)

Per uno dei robot, Llama, il ricercatore è riuscito a sbirciare dentro il suo "cervello" (il suo codice interno) per vedere come decideva se chiedere chiarimenti o dare semplicemente una risposta.

Il Lavoro da Detective: Hanno scoperto un "segnale" specifico nel cervello del robot che prediceva se avrebbe chiesto un chiarimento o se avrebbe semplicemente risposto. Potevano leggere questo segnale con un'accuratezza dell'87% guardando semplicemente lo stato interno del robot.
Il Telecomando: Poi, hanno provato a forzare il robot a cambiare idea. Manipolando quel segnale specifico nel cervello, potevano far cambiare al robot idea, passando dal rispondere direttamente al chiedere un chiarimento, o viceversa. Potevano accendere e spegnere il comportamento di "chiarimento" come un interruttore della luce, cambiando il comportamento del robot dallo 0% all'86% semplicemente premendo quel pulsante.

La Conclusione

Questo studio dimostra che, anche se tutti questi modelli di IA sono super intelligenti, non sono cloni. Hanno personalità e strategie distinte quando vengono sotto pressione. Alcuni nascondono il loro ragionamento, altri discutono con te e altri ancora chiedono semplicemente più dettagli. Queste non sono solo piccole differenze; sono modi fondamentali in cui i robot sono costruiti.

Il ricercatore ha anche dimostrato che, per almeno un robot, possiamo effettivamente trovare l' "interruttore" nel suo cervello che controlla questi comportamenti. Ciò significa che non stiamo solo indovinando come funzionano; stiamo iniziando a comprendere la meccanica dietro le loro scelte. Tuttavia, poiché questo era un test su modelli specifici in un determinato momento, non sappiamo se i futuri robot si comporteranno in questo modo. Ma per ora, sappiamo che se spingi questi cervelli digitali, non si rompono tutti allo stesso modo — alcuni hanno solo un modo molto diverso di dire "no".

Sintesi Tecnica: Modalità di Risposta Divergenti nei Modelli Linguistici di Frontiera sotto Pressione di Steering

Problema

I modelli linguistici di frontiera sono addestrati con dataset, obiettivi e pipeline di sicurezza distinti. Sebbene gli sviluppatori descrivano queste differenze, rimane inesplorato se esse si traducano in comportamenti misurabilmente diversi quando i modelli affrontano una pressione esplicita di steering (orientamento). Le valutazioni esistenti misurano tipicamente quanto il comportamento di un modello si sposti verso un obiettivo (steerability quantitativa), ma raramente analizzano cosa faccia il modello quando non è conforme (modalità di risposta qualitative). Strategie come il rifiuto netto, la conformità con disavviso, la ridirezione o l'offerta di alternative sono qualitativamente distinte, eppure i benchmark attuali non confrontano sistematicamente queste modalità tra modelli di diversi sviluppatori.

Metodologia

Questo studio impiega una valutazione cross-laboratorio simmetrica coinvolgendo sei modelli di frontiera di sei sviluppatori: Claude Opus 4.7 (Anthropic), GPT-5 (OpenAI), Gemini 2.5 Pro (Google), DeepSeek-R1 (DeepSeek), Qwen3.7-Max (Alibaba) e Llama-3.3-70B-Instruct-Turbo (Meta).

Dati e Design:
Il benchmark consiste in 340 elementi divisi in tre categorie comportamentali principali e due categorie di validazione:

Conflitto di valori (Values-conflict): Prompt che richiedono contenuti con un framing che confligge lievemente con i valori addestrati.
Elicitazione del ragionamento (Reasoning-elicitation): Prompt che esigono che il modello esponga il proprio ragionamento interno.
Soppressione del ragionamento (Reasoning-suppression): Prompt che istruiscono il modello a escludere le considerazioni sui valori dal ragionamento.
Validazione: Elementi di stile e indizi di ragionamento per verificare i canali di steering e giudicare l'accuratezza.

Ogni elemento esiste come coppia: un prompt base e una variante orientata (steered). Tutti i sei modelli generano risposte per tutti gli elementi sia nelle condizioni base che in quelle orientate, garantendo che la difficoltà dell'elemento non si mascheri da differenza tra i modelli.

Pipeline di Giudizio:
Per evitare il bias umano e scalare la valutazione, tutti i sei modelli fungono da giudici ciechi tra pari per tutte le risposte, incluse le proprie.

Derivazione della Rubrica: I pattern comportamentali sono stati identificati da un set di sviluppo (20 elementi per categoria) e cristallizzati in rubriche categoriche (Tabella 1) prima della valutazione principale.
Classificazione Cieca: I giudici ricevono il prompt, la risposta, le definizioni della rubrica e il contesto dell'elemento (ciò che l'elemento sonda) senza l'identità del rispondente.
Verità Fondamentale (Ground Truth): L'etichetta per ogni risposta è determinata da un consenso "leave-one-out" tra i cinque giudici pari (escludendo l'autogiudizio del rispondente).
Audit: Lo studio include un rimedio al budget di token (rigenerazione delle risposte troncate con limiti più elevati) e un esperimento di controllo rimuovendo il campo "contesto dell'elemento" per testare i fenomeni di domanda (demand characteristics).

Analisi Meccanicistica:
Per il modello a pesi aperti (Llama), lo studio collega comportamento e meccanismo utilizzando:

Probing Lineare: Un probe di regressione logistica addestrato sulle attivazioni dello stream residuo per decodificare le distinzioni comportamentali.
Steering delle Attivazioni: Iniezione del vettore di differenza tra le classi comportamentali nello stream residuo durante la generazione per testare l'influenza causale.

Risultati Chiave

1. Modalità di Risposta Esclusive

I modelli differiscono non solo nell'entità degli spostamenti comportamentali, ma anche nel tipo di risposta che producono.

Elicitazione del Ragionamento: GPT-5 esibisce una modalità unica: declina la condivisione del proprio ragionamento pur fornendo intatta la risposta. Ciò è accaduto in 99/100 elementi orientati per GPT-5, rispetto a 0/500 per tutti gli altri modelli. Al contrario, GPT-5 raramente rivela contenuti di valore nel suo ragionamento (1/100), mentre altri modelli lo fanno in oltre il 95% dei casi.
Soppressione del Ragionamento: Solo Opus e GPT-5 resistono alle istruzioni esplicite di soppressione a tassi significativi, ma in modi statisticamente distinguibili. Opus "contesta e si conforma" (17% degli elementi) frequentemente, obiettando apertamente all'istruzione pur rispondendo. GPT-5 favorisce il "rifiuto-override" (16% degli elementi), rifiutando il framing e trattenendo il contenuto. Gli altri quattro modelli mostrano una resistenza quasi nulla.

2. Divergenza di Base

Esistono scissioni comportamentali significative anche prima dell'applicazione dello steering.

Conflitto di Valori: I modelli si dividono in tre tier distinti basati sui tassi di "piena conformità"; Opus (35%) si trova nel tier inferiore; Llama (57%) nel medio; GPT-5, DeepSeek, Qwen e Gemini (93–100%) formano il tier superiore.
Deragliamento (Derailment): In assenza di steering, Opus e Llama rispondono frequentemente a prompt sottospecificati con domande di chiarimento ("derail"), un comportamento assente negli altri modelli.
Espressione dei Valori: Nelle condizioni base, Llama e DeepSeek esprimono valori tramite "rifiuto-override" (77% e 57% rispettivamente), mentre Qwen e Gemini "ricordano" (smuggle) i valori in un linguaggio strategico (68% e 59%). GPT-5 mostra il minor ragionamento di valore esplicito (14% di soppressione pulita).

3. Risultati Meccanicistici (Llama)

Decodificabilità Lineare: La distinzione tra risposte di "derail" (chiarimento) e "risposta" in Llama è linearmente decodificabile dallo stream residuo. Un probe raggiunge un'accuratezza bilanciata di 0.87 su dati non visti in strati profondi, superando significativamente un baseline di un modello piccolo e i nulli di permutazione.
Steering Causale: L'iniezione della direzione decodificata nello stream residuo durante la generazione sposta causalmente il comportamento. L'aumento della forza di steering ( $\alpha$ ) sposta il tasso di deragliamento dallo 0% all'86% attraverso una scansione, dimostando che il comportamento è guidato da una specifica rappresentazione interna.
Tracce di DeepSeek: L'analisi delle tracce interne di DeepSeek-R1 rivela che la sua apparente "soppressione" non è cecità; il modello registra internamente la preoccupazione relativa ai valori (85/100 tracce), ma la risolve in conformità, suggerendo che la soppressione sia un riconoscimento piuttosto che una mancanza di consapevolezza.

Significato e Limitazioni

Il paper sostiene che i modelli di frontiera siano stati addestrati a rispondere alla pressione in modi categoricamente differenti, non solo in gradi differenti. Lo studio identifica modalità di risposta specifiche (es. la deflessione del ragionamento di GPT-5, la contestazione e conformità di Opus) che sono uniche per singoli modelli.

Significato:

L'eval dimostra che i comportamenti di sicurezza e allineamento non sono monolitici tra i vari modelli; essi variano qualitativamente.
L'analisi meccanicistica su Llama fornisce una prova di esistenza che scissioni comportamentali specifiche possono essere tracciate a rappresentazioni interne e manipolate causalmente, andando oltre l'osservazione "black-box".
I risultati suggeriscono che le metriche di "conformità" sono insufficienti; la modalità della conformità o del rifiuto comporta implicazioni di sicurezza distinte.

Limitazioni:

Generalizzabilità: Lo studio valuta solo un modello per ogni sviluppatore. Non afferma che questi risultati siano generalizzabili a tutti i modelli di tali laboratori o alle loro future iterazioni.
Validazione del Giudice: Sebbene l'accordo tra i giudici sia elevato, lo studio nota che la validazione rispetto a valutatori umani è un passo successivo necessario.
Ambito Meccanicistico: L'analisi meccanicistica è limitata al modello a pesi aperti Llama e ai suoi pesi di riferimento, servendo come target illustrativo piuttosto che come spiegazione completa delle differenze tra i modelli in fase di deployment.

Lo studio conclude che comprendere queste modalità di risposta divergenti è essenziale per la sicurezza, poiché il tipo di non-conformità che un modello esibisce determina come gestisce il framing compromesso e le richieste di ragionamento interno.