SNEAK: Evaluating Strategic Communication and Information Leakage in Large Language Models

1. Il Problema

I Large Language Models (LLM) sono sempre più utilizzati in ambienti multi-agente dove la comunicazione deve bilanciare due obiettivi contrastanti: l'informatività (essere utili a un collaboratore) e il riservatezza (non rivelare dettagli sensibili a un avversario).
Attualmente, i benchmark per gli LLM valutano principalmente capacità come il ragionamento, la conoscenza fattuale o l'aderenza alle istruzioni, ma non misurano la comunicazione strategica in condizioni di informazione asimmetrica. Non esiste un modo standardizzato per valutare se un modello può inviare un messaggio che sia chiaro per chi conosce il "segreto" ma ambiguo per chi non lo conosce. Questo gap è cruciale in scenari reali come l'insegnamento (dare indizi senza svelare la soluzione), la consulenza o la comunicazione finanziaria.

2. Metodologia: Il Benchmark SNEAK

Gli autori introducono SNEAK (Secret-aware Natural language Evaluation for Adversarial Knowledge), un benchmark ispirato al gioco da tavolo The Chameleon.

Definizione del Task

Il task è una comunicazione asimmetrica a turno singolo:

1. Input: Un modello generatore riceve una categoria semantica ($c$), un insieme di parole candidate ($W$) e una parola segreta ($w_s \in W$).
2. Output: Il modello deve generare un messaggio breve ($m$) che indichi di conoscere il segreto senza rivelarlo esplicitamente.
3. Valutazione: Il messaggio viene valutato da due agenti simulati con stati informativi diversi:
   • L'Alleato (Ally): Conosce il segreto e deve identificare quale messaggio corrisponde al segreto tra un insieme di messaggi (inclusi dei "decoy" o messaggi esca).
   • Il Camaleonte (Chameleon/Adversary): Non conosce il segreto e deve tentare di indovinare la parola segreta basandosi solo sul messaggio e sulla categoria.

Metriche

Per quantificare le prestazioni, SNEAK utilizza due metriche normalizzate:

• Utility ($U$): Misura quanto bene l'Alleato identifica il messaggio corretto rispetto al caso casuale.
• Leakage ($L$): Misura quanto il Camaleonte riesce a indovinare la parola segreta rispetto al caso casuale.
• SoftScore: Una metrica composita definita come $Utility \times (1 - Leakage)$. Questo punteggio premia i messaggi che sono sia utili che poco rivelatori, penalizzando i fallimenti in uno dei due obiettivi.
• BinaryScore: Una metrica binaria che considera il messaggio un successo solo se l'Alleato lo classifica al primo posto E il Camaleonte non classifica il segreto al primo posto.

Dataset

Il dataset è composto da 1.394 istanze derivate da norme di produzione di categorie semantiche (117 categorie, concrete e astratte). Per ogni categoria, vengono selezionati i 10-12 membri più frequenti. Vengono generati anche messaggi "decoy" (esche) semanticamente legati alla categoria ma privi della conoscenza del segreto, per testare la capacità dell'Alleato di distinguere il messaggio reale.

3. Contributi Chiave

1. Introduzione di SNEAK: Il primo benchmark progettato specificamente per valutare la condivisione selettiva di informazioni in LLM, coprendo diversi domini semantici.
2. Framework di Valutazione Comportamentale: Un approccio oggettivo e riproducibile che scompone la comunicazione in Utility e Leakage, evitando valutazioni soggettive basate su "LLM-as-a-judge" generici.
3. Analisi del Trade-off: Dimostrazione empirica che i modelli moderni faticano a bilanciare questi obiettivi, tendendo a rivelare troppo quando cercano di essere utili.
4. Confronto Umano vs. AI: Evidenzia un divario significativo tra le prestazioni umane e quelle dei modelli attuali.

4. Risultati Sperimentali

Gli autori hanno valutato una vasta gamma di modelli (GPT-5, Claude Opus, Gemini, DeepSeek, Llama, Qwen, ecc.) e tecniche di inferenza (Chain-of-Thought, Self-Enhanced Test-Time Scaling, Recursive Message Refinement).

• Prestazioni Generali: I modelli moderni raggiungono un'alta Utility (spesso vicina al soffitto), ma a un costo elevato di Leakage. Questo significa che quando un modello riesce a comunicare bene con l'Alleato, rivela quasi sempre il segreto anche al Camaleonte.
• Il Trade-off: Esiste una chiara curva di Pareto tra Utility e Leakage. I modelli si posizionano spesso nella regione superiore destra (alta utility, alta perdita), mentre il comportamento ideale sarebbe nella regione superiore sinistra (alta utility, bassa perdita).
• Prestazioni Umane: I partecipanti umani superano tutti i modelli valutati con un margine significativo, ottenendo punteggi fino a 4 volte superiori rispetto ad alcuni LLM. Gli umani riescono a generare messaggi altamente informativi per gli alleati mantenendo un basso livello di indovinabilità per gli avversari.
• Impatto delle Tecniche di Inferenza: Metodi come Chain-of-Thought (CoT) o la raffinazione ricorsiva (RMR) migliorano leggermente l'equilibrio, ma non colmano il divario con gli umani. In alcuni casi, tecniche di raffinazione riducono drasticamente la Leakage ma compromettono l'Utility.
• Analisi Semantica: I messaggi basati su attributi intrinseci (es. "rosso" per "mela") o associazioni temporali (es. "Ringraziamento" per "tacchino") tendono a funzionare meglio per la comunicazione selettiva rispetto alle relazioni tassonomiche generiche, che sono spesso troppo ambigue o troppo rivelatrici.

5. Significato e Implicazioni

Il lavoro di SNEAK evidenzia che la comunicazione strategica in condizioni di informazione asimmetrica rimane una capacità fondamentale e sottosviluppata per i sistemi attuali.

• Limiti Attuali: Gli LLM attuali sono ottimizzati per essere il più informativi possibile, il che li porta a "sovrarevelare" informazioni quando dovrebbero essere strategici. Non possiedono ancora una teoria della mente sofisticata per calcolare quanto un avversario possa inferire da un dato messaggio.
• Applicazioni Future: Questo benchmark è cruciale per applicazioni che richiedono privacy, sicurezza e comunicazione controllata, come tutoraggio intelligente, comunicazione medica o diplomatica, e sistemi multi-agente collaborativi.
• Direzione di Ricerca: SNEAK fornisce un terreno di prova controllato per sviluppare modelli capaci di gestire il flusso di informazioni tra agenti, un passo necessario verso sistemi di IA più sicuri e socialmente intelligenti.

In sintesi, SNEAK dimostra che, sebbene gli LLM siano eccellenti nel generare contenuti, faticano a comprendere e applicare le sottili dinamiche della comunicazione strategica necessaria per proteggere le informazioni sensibili in presenza di osservatori non autorizzati.