🤖 AI

CIDER: A Dataset of Contextual Disclosure Boundaries for Privacy Preference Alignment

Questo articolo introduce CIDER, un dataset su larga scala di confini di divulgazione contestuale derivati da annotazioni umane, per valutare e migliorare l'allineamento dei grandi modelli linguistici con le sfumate preferenze di privacy individuali attraverso la personalizzazione al momento dell'inferenza.

Autori originali: Bingcan Guo, Eryue Xu, Jijie Zhou, Zhiping Zhang, Tianshi Li

Pubblicato 2026-08-11

📖 4 min di lettura☕ Lettura da pausa caffè

CC BY 4.0

Autori originali: Bingcan Guo, Eryue Xu, Jijie Zhou, Zhiping Zhang, Tianshi Li

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di insegnare a un robot come essere un buon amico. Non gli daresti solo un enorme libro di regole che dice "Non rivelare segreti". Sarebbe troppo vago. Se dicessi al robot: "Non parlare del mio compleanno", potrebbe confondersi se ti trovi a una festa a sorpresa dove tutti lo stanno gridando. Ma se sei a una cena tranquilla con uno sconosciuto, quello stesso segreto dovrebbe rimanmente sigillato. Questo è il complicato mondo della privacy. Non è solo un muro che dice "Vietato l'ingresso"; è più simile a un insieme di porte invisibili e mutevoli che si aprono e si chiudono a seconda di chi c'è davanti, di come sia il tempo e di quanto tu ti fidi di loro.

Gli scienziati sanno da tempo che i computer stanno diventando più bravi a seguire regole generali, come "non condividere cartelle cliniche con estranei". Ma c'è un divario tra conoscere la regola generale e comprendere i tuoi sentimenti personali e specifici riguardo ad essa. Tu potresti essere il tipo di persona che ama condividere le foto del proprio pranzo ma si sente nervosa se qualcuno menziona il proprio stipendio. Un'altra persona potrebbe sentirsi esattamente l'opposto. La grande domanda che i ricercatori stanno cercando di risolvere è: possiamo insegnare all'IA a comprendere questi unici e personali "confini della privacy" in modo che non faccia accidentalmente cadere il tuo tè quando preferiresti tenerlo al caldo?

Entra in scena CIDER, un nuovo studio che funge da enorme campo di addestramento per l'IA per imparare questi segreti personali. I ricercatori hanno raccolto 169 persone reali e hanno posto loro una domanda semplice ma difficile: "Ti andrebbe bene se raccontassi questa storia su di te in questi nove modi diversi?". Cambiavano leggermente la storia ogni volta: a volte usando il tuo nome completo, a volte dicendo solo "un amico", a volte fornendo ogni minimo dettaglio e a volte mantenendola vaga. Hanno scoperto che le risposte delle persone non erano casuali; avevano schemi specifici. Alcune persone accettavano dettagli vaghi ma odiavano quando veniva usato il loro nome. Altre non si curavano del nome ma rimanevano sconvolte dai dettagli minuscoli.

Il team ha poi preso questi dati e ha testato 12 diversi modelli di IA, chiedendo loro di indovinare cosa avrebbe detto una specifica persona dopo, basandosi su ciò che quella persona aveva detto in precedenza. È come giocare a un gioco di "Indovina la Regola" dove l'IA deve guardare le tue scelte passate e capire il tuo stile personale di privacy. I risultati sono stati un misto di ottime notizie e di richiami alla realtà. I modelli di IA più grandi e intelligenti (come quelli di Anthropic e OpenAI) sono diventati molto bravi in questo. Quando venivano forniti loro solo sei esempi delle scelte passate di una persona, riuscivano a prevedere le scelte future di quella persona con un'accuratezza molto più alta, fino a 11,41 punti percentuali superiore rispetto a non avere alcuna cronologia. Questi modelli intelligenti sembravano comprendere il vibe della situazione, non solo le parole.

Tuttavia, lo studio ha anche scoperto che non tutte le IA sono uguali. I modelli più piccoli e semplici tendevano a fare affidamento su scorciatoie rigide. Imparavano cose come: "Se c'è il nome, dì NO", oppure "Se i dettagli sono troppi, dì NO", senza comprendere davvero la sfumatura. Erano come studenti che avevano memorizzato la chiave delle risposte ma non avevano capito la lezione. Inoltre, mentre i modelli intelligenti diventavano più bravi a indovinare, a volte diventavano troppo sicuri nella direzione sbagliata. Potevano smettere di dire "No" quando avrebbero dovuto, o dire "Sì" quando non avrebbero dovuto, creando un nuovo tipo di squilibrio. Solo un modello, Claude Sonnet 4.6, è riuscito a migliorare la propria accuratezza senza compromettere il proprio equilibrio di errori.

In definitiva, CIDER suggerisce che ci stiamo avvicinando a un'IA che può davvero rispettare la nostra privacy personale, ma non è ancora un problema risolto. La migliore IA non ha bisogno solo di molti dati, ma della capacità di comprendere il sottile contesto umano dietro le nostre scelte. È un promemoria del fatto che la privacy non riguarda solo il nascondere informazioni; riguarda il sapere esattamente con chi stai condividendo qualcosa, e l'IA deve imparare quel ballo tanto quanto lo facciamo noi.

Sintesi Tecnica: CIDER - Un Dataset di Confini di Divulgazione Contestuale per l'Allineamento delle Preferenze di Privacy

Problematica

Sebbene i Large Language Models (LLM) siano sempre più integrati nella comunicazione quotidiana, la loro capacità di allinearsi alle preferenze di privacy umane rimane inconsistente. La ricerca esistente si basa principalmente sul framework della Contextual Integrity (CI) per valutare i modelli rispetto a norme di privacy generali e di gruppo derivate da regolamenti e letteratura. Tuttavia, tali norme sono intrinsecamente grossolane e non riescono a catturare i comportamenti di privacy dinamici, sfumati e individualizzati che le persone manifestano negli scenari reali.

La sfida centrale risiede nell'elicitazione e nella modellazione dei confini di privacy individuali. A differenza delle norme pubbliche, i confini personali si formano implicitamente attraverso l'esperienza vissuta e la percezione del rischio situazionale, rendendoli difficili da articolare esplicitamente per gli utenti. Gli attuali metodi di valutazione mancano di una sistematica operazionalizzazione per valutare la capacità di un LLM di adattarsi a queste specifiche preferenze di divulgazione dipendenti dal contesto, in particolare in scenari di comunicazione mediata dall'IA.

Metodologia

Il Dataset CIDER

Per affrontare questa lacuna, gli autori introducono CIDER (Contextual Information Disclosure Boundaries Elicited from Real Users), un dataset composto da 14.850 annotazioni umane provenienti da 169 partecipanti attraverso 60 scenari di comunicazione interpersonale.

Costruzione degli Scenari: Gli scenari sono stati derivati dal dataset PrivacyLens, coprendo diverse pratiche di condivisione dei dati che violano le norme di privacy. Ogni scenario è stato istanziato in molteplici contesti variando il ruolo comunicativo (mittente, soggetto, destinatario) e la condizione di mediazione dell'IA (umano vs assistente IA).
Varianti di Divulgazione: Per ogni contesto, gli autori hanno generato 9 varianti di divulgazione che variano sistematicamente lungo due dimensioni:
1. Granularità: Generale (G1), Moderatamente Dettagliata (G2) e Molto Dettagliata (G3).
2. Identificabilità: Non Identificabile (I1), Parzialmente Identificabile (I2) e Completamente Identificabile (I3).
Raccolta Dati: I partecipanti hanno valutato l'accettabilità (Sì/No) di ogni variante all'interno del contesto assegnato. Il dataset forma 1.650 confini di divulgazione contestuale, rappresentando pattern decisionali individualizzati.

Formulazione del Task

Il paper formula un task di predizione delle preferenze di privacy. Dato un insieme storico di confini di divulgazione di un utente ( $B$ ) attraverso $N$ contesti, un modello deve inferire la preferenza di privacy latente dell'utente ( $p$ ) e predire le decisioni di divulgazione ( $\hat{y}$ ) per un nuovo contesto non visto ( $c_{new}$ ).

L'evaluazione si concentra sulla personalizzazione al tempo di inferenza (in-context learning) senza aggiornamenti dei parametri. Gli autori confrontano quattro condizioni:

HC (High Context - Alto Contesto): Confini storici forniti con il contesto semantico completo per scenari e varianti.
HL (Low Context - Basso Contesto): Confini storici forniti con etichette strutturali (granularità/identificabilità) ma con contenuto semantico oscurato.
H (History Only - Solo Cronologia): Confini storici forniti come decisioni binarie senza contesto o etichette.
No-History Baseline (Baseline Senza Cronologia): Predizione basata esclusivamente sullo scenario target senza la cronologia dell'utente.

Gli esperimenti sono stati condotti su 12 LLM open e proprietari (inclusi le famiglie GPT-5.4, Claude Sonnet 4.6, Llama 4 e Qwen3) con diverse lunghezze della cronologia ( $k \in \{1, 4, 5, 6\}$ ).

Contributi Chiave

Dataset CIDER: Il primo dataset personalizzato che cattura il comportamento di divulgazione contestuale individualizzato, andando oltre le norme di gruppo per modellare specifici confini dell'utente.
Operazionalizzazione dei Confini Personali: Un framework strutturato per rappresentare le preferenze di privacy come vettori binari su varianti di divulgazione definite da granularità e identificabilità.
Benchmark di Valutazione: Un protocollo rigoroso per valutare gli LLM sull'allineamento della privacy personalizzata tramite in-context learning, evidenziando i trade-off tra scala del modello, capacità di ragionamento e fedeltà della personalizzazione.
Strumento di Studio (Toolkit): Una pipeline riutilizzabile per generare varianti di divulgazione ed elicitare decisioni da utenti reali, supportando futuri studi longitudinali.

Risultati

Accuratezza della Predizione e Personalizzazione

Miglioramento Generale: La personalizzazione in-context migliora generalmente l'accuratezza della predizione. Utilizzando solo 6 esempi storici ( $k=6$ ), l'accuratezza è migliorata fino a 11,41 punti percentuali rispetto alla baseline senza cronologia.
Scala del Modello e Ragionamento: Modelli più grandi e capaci di ragionamento (es. GPT-5.4 con sforzo di ragionamento medio, Claude Sonnet 4.6) superano significativamente i modelli più piccoli. Questi modelli sfruttano efficacementamente il contesto semantico (condizione HC) per comprendere le preferenze specifiche dell'utente.
- GPT-5.4 ha raggiunto il 72,45% di accuratezza e Claude Sonnet 4.6 ha raggiunto il 71,98% sotto la condizione HC con $k=6$ .
- I modelli più piccoli (es. Llama 3.1 8B, Qwen3-8B) spesso si assestano su accuratezze inferiori (es. ~59,70%) e tendono a fare affidamento su euristiche strutturali (etichette di granularità e identificabilità) piuttosto che sulla comprensione semantica. In alcuni casi, fornire il contesto semantico completo (HC) non ha aiutato, o ha addirittura ostacolato, i modelli più piccoli rispetto alla condizione HL.

Analisi degli Errori e Trade-off

Spostamenti Sbilanciati degli Errori: Sebbene la personalizzazione migliori l'accuratezza complessiva, spesso porta a spostamenti sbilanciati nei Falsi Positivi (FP) e nei Falsi Negativi (FN).
- La maggior parte dei modelli riduce i FN per le varianti "facili" (bassa granularità/identificabilità) ma aumenta i FP.
- Al contrario, per le varianti "difficili" (alta granularità/identificabilità), i modelli spesso riducono i FP ma aumentano i FN.
Performance Bilanciate: Claude Sonnet 4.6 è stato l'unico modello a ottenere miglioramenti bilanciati, riducendo sia i tassi di FP che di FN in tutte le varianti.
Modalità di Fallimento: L'analisi delle predizioni errate ha rivelato quattro tipi di errore:
1. Bias di Auto-divulgazione: I modelli assumono che l'auto-divulgazione sia sempre accettabile.
2. Estrapolazione di Pattern: I modelli estrapolano ciecamente i pattern storici di "Sì" senza ragionamento semantico.
3. Override basato sulle Norme: I modelli danno priorità alle norme etiche generali rispetto alle preferenze specifiche dell'utente.
4. Generalizzazione basata su Regole: I modelli derivano regole semplificate (es. "mittente fidato = Sì") che falliscono in nuovi contesti sfumati.
Personalizzazione vs. Allineamento con Gruppo/Norme: L'analisi comparativa ha mostato che le predizioni a livello individuale eguagliano o superano i confini basati sul gruppo nel 67,92% dei casi e i confini basati sulle norme nel 60,69% dei casi, validando la necessità di una modellazione personalizzata.

Significato e Rivendicazioni

Il paper posiziona CIDER come una risorsa critica per far avanzare l'allineamento della privacy personalizzata. Le scoperte rivelano una doppia realtà nelle attuali capacità degli LLM:

Promessa: I modelli di frontiera con forti capacità di ragionamento possono apprendere ed adattarsi efficacemente ai confini di privacy individuali utilizzando la cronologia in-context, superando significativamente gli approcci statici basati sulle norme.
Limitazioni: Gli attuali modelli, in particolare i modelli più piccoli destinati ai dispositivi (on-device), faticano a sfruttare il contesto semantico per la personalizzazione e spesso mostrano tassi di errore sbilanciati (scambiando falsi positivi per falsi negativi). Inoltre, la dipendenza da infrastrutture centralizzate per i modelli grandi presenta un paradosso della privacy, poiché la trasmissione dei dati dell'utente per la personalizzazione crea i propri rischi per la privacy.

Gli autori concludono che allineare gli LLM alle preferenze di privacy personali richiede non solo una cronologia comportamentale più ricca, ma anche migliori capacità del modello per interpretare e utilizzare tali informazioni, specialmente per l'implementazione su piccola scala e su dispositivi locali. Chiamano a futuri lavori focalizzati su strategie mirate (es. fine-tuning, migliore prompting) per migliorare la fedeltà della personalizzazione nei modelli più piccoli.