Riepilogo Tecnico: Prompt di Sicurezza e Privacy nel Mondo Reale

Definizione del Problema

Sebbene i Modelli di Linguaggio di Grandi Dimensioni (LLM) siano sempre più utilizzati come fonti quotidiane di informazione, il loro ruolo nella sicurezza e nella privacy digitale (S&P) rimane poco studiato. La ricerca precedente sulla qualità delle risposte degli LLM nei domini S&P si è basata su malintesi scritti da esperti o FAQ, piuttosto che su reali query degli utenti. Di conseguenza, non è chiaro quali siano le domande specifiche di S&P che gli utenti pongono agli LLM, quanto bene i modelli rispondano e se le risposte siano coerenti tra query ripetute. Consigli S&P inaccurati o contraddittori possono portare a conseguenze nel mondo reale, come account compromessi o identità digitali esposte, e la guida conflittuale può minare i comportamenti protettivi degli utenti.

Metodologia

Lo studio ha utilizzato WildChat, un dataset di 3,2 milioni di conversazioni reali tra utenti, per costruire un corpus rappresentativo di interazioni S&P.

1. Curatela e Classificazione dei Dati:

   • Da 1,7 milioni di prompt unici in inglese (dopo aver filtrato tossicità, lunghezza e contenuti non S&P), gli autori hanno identificato 14.727 prompt S&P utilizzando un classificatore basato sulla maggioranza di tre LLM (Qwen 3, Calme 3.2 e GPT 5.2).
   • Questi prompt sono stati categorizzati in nove argomenti S&P (ad es., Account & Auth, Data Privacy, Social Engineering) basandosi su una tassonomia adattata dalla letteratura precedente.

2. Analisi Tematica (RQ1):

   • Un campione stratificato di 450 prompt (50 per categoria) è stato sottoposto ad analisi tematica da parte di due ricercatori. Questo processo ha generato sei temi primari e 22 sottotemi per caratterizzare l'intento dell'utente.

3. Valutazione della Qualità e della Coerenza della Risposta (RQ2 & RQ3):

   • Gli autori hanno curato 270 prompt di "ricerca di consigli" (richieste di raccomandazioni, guida o informazioni specifiche), escludendo compiti di programmazione o scrittura creativa.
   • Modelli Valutati: Sono stati testati cinque LLM: tre commerciali (GPT 5.5, Gemini 3.1, Claude 4.7) e due a pesi aperti (Qwen 3, Llama 4).
   • Procedura: Ogni prompt è stato interrogato 10 volte per modello per generare 2.700 risposte per modello.
   • Metrica di Qualità: Le risposte sono state valutate utilizzando un metodo LLM-as-judge checklist. Per ogni prompt sono state generate checklist binarie che specificavano i componenti della risposta corretta. I punteggi (1–10) sono stati mediati su tre modelli valutatori per mitigare il bias di auto-preferenza.
   • Metrica di Coerenza: La coerenza è stata misurata tramite implicazione bidirezionale sulle citazioni di evidenza estratte dai modelli valutatori. Un prompt era considerato coerente se il punteggio di implicazione tra coppie di risposte attraverso i 10 tentati superava lo 0,5.

Contributi Chiave

• Prima Caratterizzazione Empirica: Questo studio fornisce la prima analisi di prompt S&P reali rivolti agli LLM, andando oltre i dataset sintetici o curati da esperti.
• Tassonomia dell'Intento dell'Utente: La ricerca identifica pattern di interazione unici, inclusi utenti che trattano gli LLM come agenti difensivi, che sondano l'interno del modello e che effettuano richieste avversarie.
• Framework di Valutazione Duale: Il documento dimostra che la qualità della risposta e la coerenza sono dimensioni distinte dell'affidabilità, rendendo necessari parametri di valutazione separati nei contesti S&P.

Risultati

1. Analisi Tematica dei Prompt degli Utenti

L'analisi di 450 prompt ha rivelato sei temi:

• Conoscenza Generale (33,3%): Il tema più prevalente, che include query informative ampie e domande in stile esame.
• Navigazione lato Utente (20,9%): Focalizzata sulla gestione degli incidenti, come la stesura di lettere di appello per ban dell'account.
• Azione Difensiva (11,8%): Utenti che cercano valutazioni protettive (ad es., "Questa app è sicura?") o strategie di contrasto alle frodi (ad es., scam-baiting).
• Inchiesta sull'LLM (10,2%): Utenti che sondano il sistema del modello, i dati di addestramento e le pratiche di privacy (ad es., "Le nostre conversazioni vengono registrate?").
• Richieste Dannose e Offensive (6,9%): Richieste di assistenza in attacchi, inclusi doxxing diretto a persone, sfruttamento di sistemi e elusione di piattaforme.
• Produzione di Task S&P: Richieste di generare contenuti relativi alla sicurezza.

2. Qualità della Risposta

I modelli commerciali hanno superato significativamente i modelli a pesi aperti:

• GPT 5.5 ha ottenuto il punteggio medio più alto (8,67/10), con il 98% dei prompt che riceveva una valutazione "buona" o superiore (punteggio ≥ 7).
• Gemini 3.1 (8,52) e Claude 4.7 (8,47) sono seguiti da vicino.
• Qwen 3 ha ottenuto 7,90, mentre Llama 4 ha ottenuto il punteggio più basso, 6,71, con solo il 47% delle sue risposte che soddisfaceva la soglia "buona".
• Risultati Qualitativi: Le risposte di alta qualità erano fattualmente accurate ed eticamente appropriate. Le risposte di bassa qualità spesso fallivano sulla precisione fattuale (ad es., allucinazioni di funzionalità) o violavano i criteri etici fornendo istruzioni dannose senza avvertenze.

3. Coerenza della Risposta

La coerenza non era strettamente correlata alla qualità:

• Llama 4 ha prodotto le risposte più coerenti (il 97,4% dei prompt aveva esecuzioni non contraddittorie), nonostante avesse la qualità media più bassa.
• GPT 5.5 è stato anch'esso altamente coerente (97,0%).
• Qwen 3 è stato il meno coerente (89,6%).
• Osservazione Critica: Anche i modelli di alta qualità (ad es., Gemini 3.1) hanno occasionalmente prodotto consigli contraddittori sullo stesso prompt tra le varie esecuzioni (ad es., configurazioni di permessi del file system contrastanti), il che pone un rischio di confusione per l'utente.

Significato e Rivendicazioni

Il documento sostiene di colmare una lacuna critica nella comprensione di come gli utenti interagiscono con gli LLM per la sicurezza e la privacy. La sua importanza primaria risiede in:

1. Rivelazione della Dinamica Dual-Use: Lo studio evidenzia che gli LLM funzionano non solo come fonti di informazione ma anche come agenti interattivi per task S&P sia difensivi che offensivi. Ciò crea un "problema di rilevamento a due lati" dove i modelli devono rifiutare le richieste malevole senza rifiutare eccessivamente le legittime indagini difensive.
2. Espansione della Superficie di Attacco: Gli utenti sondano attivamente gli LLM per ottenere informazioni interne (chiavi API, dati di addestramento), spostando parte della superficie di attacco verso il modello stesso.
3. Dimensioni dell'Affidabilità: Gli autori sostengono che la qualità della risposta e la coerenza siano dimensioni complementari. Nei contesti S&P, un modello che fornisce consigli di alta qualità ma contraddittori può essere dannoso quanto un modello di bassa qualità, poiché l'incoerenza erode la fiducia e i comportamenti protettivi dell'utente.
4. Imperativo di Valutazione: Il lavoro futuro e il deployment dei modelli nei domini S&P devono valutare e riportare sia la qualità che la coerenza per caratterizzare pienamente l'affidabilità.

Gli autori riconoscono i limiti, tra cui un potenziale bias verso utenti tecnicamente esperti nel dataset WildChat, un focus sui prompt in lingua inglese e l'analisi di prompt a turno singolo piuttosto che di dialoghi a turni multipli.