Adversarial Evaluation of a Two-Layer Anonymization Pipeline Against Record-Linkage Attacks

Nel mondo moderno, enormi quantità di informazioni personali vengono raccolte ogni giorno, dai sondaggi sanitari alle transazioni finanziarie, fino ai modelli di movimento delle persone attraverso le città. Sebbene questi dati abbiano un immenso valore per la ricerca e la pianificazione pubblica, il loro rilascio comporta un rischio significativo: la possibilità che gli individui possano essere re-identificati. Anche quando i nomi ovvi e i numeri di identificazione vengono rimossi, la combinazione unica di altri dettagli di una persona — come l'età, il codice postale e il genere — può spesso agire come un'impronta digitale, permettendo a un osservatore determinato di ricondurre un record a un essere umano specifico. Per combattere questo fenomeno, i protettori dei dati hanno sviluppato vari metodi per oscurare questi dettagli, come raggruppare record simili o aggiungere rumore statistico ai risultati. Tuttavia, rimane una domanda persistente: questi diversi metodi funzionano bene quando usati insieme, o creano nuove vulnerabilità?

Un ricercatore guidato da Mohammed Sayim Khalil della Haliç University ha affrontato questa domanda costruendo e sottoponendo a stress-test un nuovo sistema progettato per proteggere i dati. Il loro lavoro si concentra su un approccio a "due strati", in cui due tecniche di privacy distinte vengono applicate separatamente a diverse parti dei dati. Il primo strato protegge i singoli record rendendoli più simili tra loro, mentre il secondo strato protegge le statistiche riassuntive derivate dai dati aggiungendo uno strato di incertezza matematica. Il ricercatore non ha sostenuto che questi due strati si combinino per creare uno scudo perfetto e infrangibile. In effetti, ha dimostrato matematicamente che, in certe condizioni, una combinazione perfetta del genere non è possibile se un attaccante possiede abbastanza informazioni esterne. Invece di affidarsi a una promessa teorica di sicurezza, il ricercatore ha costruito una simulazione realistica di un hacker e ha messo il proprio sistema alla prova per vedere quanto resistesse nella pratica.

Il sistema costruito opera come un filtro accurato per i dati. Innanzitutto, suddivide ogni pezzo di informazione in un dataset in una di quattro categorie in base alla sua sensibilità. Gli identificatori diretti, come nomi o codici fiscali, vengono immediatamente rimossi o sostituiti con codici. La categoria successiva include i "quasi-identificatori", ovvero dettagli che sembrano innocui da soli ma diventano pericolosi quando combinati, come una data di nascita specifica o un titolo lavorativo raro. Questi sono i dettagli che il sistema si impegna di più a proteggere. La terza categoria copre le informazioni sensibili, come le condizioni mediche, che devono essere nascoste o generalizzate. L'ultima categoria contiene dati non sensibili che possono essere rilasciati con modifiche minime. Il ricercatore ha poi applicato un insieme di regole a queste categorie. Per i quasi-identificatori, ha raggruppato i record in modo che ogni persona sembrasse simile ad almeno altre alcune, rendendo impossibile isolare il singolo. Per i dati sensibili, ha garantito che la distribuzione dei valori all'interno di questi gruppi corrispondesse alla popolazione generale, impedendo agli attaccanti di indovinare la condizione di una persona solo conoscendo il gruppo di appartenenza. Infine, per le statistiche riassuntive, ha aggiunto una quantità controllata di rumore casuale alle risposte, assicurando che i risultati fossero utili per l'analisi ma impossibili da decodificare per risalire a un individuo specifico.

Per testare se questo sistema funzionasse davvero, il ricercatore ha creato un avversario digitale. Non si trattava di una persona reale, ma di un sofisticato programma informatico progettato per mimare un hacker esperto. Al programma è stato dato accesso ai dati anonimizzati e a un dataset separato e non sovrapponibile che fungeva da conoscenza di base, proprio come un vero attaccante potrebbe usare registri pubblici o social media per indovinare chi sia chi. Il ricercatore ha testato il sistema su tre tipi di dati molto diversi: un grande sondaggio sanitario, milioni di transazioni finanziarie e milioni di traiettorie di movimento che mostrano come le persone si spostano in una città. In ogni caso, ha variato la quantità di conoscenza in possesso dell'attaccante, spaziando dal non conoscere nulla degli individui al conoscere ogni loro dettaglio.

I risultati hanno mostrato che il sistema a due strati era significativamente più efficace nel prevenire la re-identificazione rispetto all'uso di uno solo dei due metodi. Quando il ricercatore ha testato il sistema sui dati del sondaggio sanitario, la probabilità che l'attaccante riuscisse a far corrispondere un record a una persona reale è scesa a meno del due percento, una cifra molto più bassa rispetto ai test effettuati con altri metodi comuni. Nel test sulle transazioni finanziarie, il sistema ha ridotto il tasso di successo dell'attaccante a meno del cinque percento, mantenendo comunque i dati utili per rilevare le frodi. Il test più impegnativo ha riguardato i dati di movimento, dove la natura stessa delle informazioni le rende intrinsecamente più difficili da nascondere. Anche in questo caso, il sistema ha performato meglio delle alternative, sebbene il ricercatore abbia notato che il rischio rimaneva più elevato per questo tipo di dati, riflettendo la difficoltà unica di proteggere le informazioni sulla posizione.

Un risultato chiave dello studio è stata la conferma che questi due strati di privacy non si combinano magicamente per creare una singola garanzia più forte. Il ricercatore ha dimostrato che, se un attaccante possiede abbastanza informazioni esterne, può talvolta rompere la protezione di uno strato anche se l'altro rimane intatto. È per questo che il ricercatore ha scelto di valutare il sistema attraverso il test diretto piuttosto che affidarsi a una prova teorica. Eseguendo il sistema contro un attaccante realistico, è stato possibile misurare esattamente quanto rischio rimaneva e regolare le impostazioni di conseguenza. Ha scoperto che un ordine specifico di operazioni — partendo dal raggruppamento più ampio dei record e poi ammorbidendo le regole solo quando necessario — funzionava meglio in tutti e tre i tipi di dati. Questo approccio ha permesso di mantenere l'utilità dei dati per l'analisi mantenendo basso il rischio di re-identificazione.

Lo studio ha anche evidenziato importanti limitazioni e considerazioni etiche. Il ricercatore ha ammesso che il suo sistema lavora in lotti, il che significa che elabora i dati tutti insieme anziché in flussi in tempo reale, un limite per i dati ad alta velocità. Ha inoltre osservato che il sistema non tiene conto automaticamente dell'equità; i metodi utilizzati per proteggere la privacy possono talvolta distorcere i dati per i gruppi minoritari più di quanto non facciano per la maggioranza. Per affrontare questo problema, ha suggerito che le versioni future del sistema dovrebbero includere controlli per garantire che le protezioni della privacy siano applicate equamente tra le diverse popolazioni. Inoltre, ha sottolineato che, sebbene il suo sistema renda i dati molto più sicuri, non li rende necessariamente "anonimi" nel senso legale stretto richiesto da regolamenti come il GDPR. Invece, i dati rimangono "pseudonimizzati", il che significa che sono protetti ma comportano ancora un certo rischio, e le organizzazioni devono valutare attentamente questo rischio prima di rilasciarli.

In definitiva, questo lavoro fornisce una tabella di marcia pratica per le organizzazioni che devono condividere dati senza compromettere la privacy degli individui che vi sono dietro. Combinando un modo strutturato di classificare i dati con un rigoroso processo di test contro attaccanti realistici, il ricercatore ha dimostrato che è possibile trovare un equilibrio tra utilità e sicurezza. Il sistema non offre uno scudo perfetto, ma offre un livello di protezione misurabile e gestibile che è di gran lunga superiore agli attuali standard di pratica. Il ricercatore ha reso il proprio codice e i propri strumenti pubblicamente disponibili, permettendo ad altri di testare e migliorare i propri metodi, assicurando che il campo della privacy dei dati continui a evolversi in risposta alle nuove minacce.