Privacy in Image Datasets: A Case Study on Pregnancy Ultrasounds

Riassunto Tecnico: Privacy nei Dataset di Immagini – Un Caso di Studio sulle Ecografie in Gravidanza

1. Il Problema (Problem Statement)

Con l'ascesa dei modelli generativi (come Stable Diffusion), la richiesta di dataset di immagini su larga scala è aumentata drasticamente. Questi dataset vengono spesso creati tramite web scraping massivo da fonti non curate (social media, siti web), il che solleva gravi preoccupazioni etiche e di privacy.

Il problema specifico affrontato in questo studio è la presenza di immagini ecografiche di gravidanza all'interno di dataset pubblici come LAION-400M. Queste immagini sono particolarmente sensibili perché:

• Contengono informazioni mediche personali (stato di salute del feto e della madre).
• Spesso includono metadati leggibili (nomi, date, ospedali, numeri di telefono) che possono portare alla re-identificazione degli individui.
• Vengono condivise online in contesti sociali (annunci di gravidanza), ma il loro inserimento in dataset di addestramento viola il principio di integrità contestuale (l'uso dei dati avviene in un contesto diverso da quello per cui sono stati originariamente condivisi).

2. Metodologia (Methodology)

Gli autori hanno sviluppato un framework in due fasi per rispondere a due domande di ricerca: (1) le ecografie sono presenti nei dataset? (2) contengono informazioni private identificabili?

Fase A: Rilevamento delle immagini (Detection)
Per identificare le ecografie nel dataset LAION-400M, sono stati confrontati due approcci:

1. Approccio basato sul retrieval (Ricerca): Utilizzo di query testuali (es. "Prenatal ultrasound") e query di immagini tramite gli encoder di CLIP per calcolare la similarità del coseno.
2. Approccio basato su classificatore (Classificazione): Addestramento di un classificatore dedicato utilizzando un nuovo dataset creato dagli autori, chiamato PIU (Pregnancy Image Ultrasound). Sono stati testati modelli Random Forest, SVM e Neural Networks.

Fase B: Identificazione delle informazioni private (PI Identification)
Una volta isolate le immagini, è stato applicato un processo di estrazione dati in tre step:

1. Pre-processing: Utilizzo di Real-ESRGAN per il super-resolution (miglioramento della risoluzione) e rotazione delle immagini per facilitare la lettura del testo.
2. Riconoscimento del testo (OCR): Utilizzo di Tesseract OCR per l'estrazione iniziale, seguito dal modello visivo-linguistico LLaVa-Next per correggere gli errori di lettura del testo.
3. Estrazione entità: Utilizzo di Microsoft Presidio per categorizzare le informazioni in quattro tipi: Nome, Località, Data/Ora e Numero di telefono.

3. Contributi Chiave (Key Contributions)

• Creazione del dataset PIU: Un dataset bilanciato di 9.900 immagini (positive e negative) per addestrare classificatori specializzati nel riconoscimento di ecografie.
• Framework di auditing della privacy: Un metodo sistematico che combina super-resolution, OCR avanzato e modelli linguistici per estrarre dati sensibili da immagini non strutturate.
• Analisi tematica: Una categorizzazione delle immagini trovate (es. annunci di gravidanza, inviti a baby shower, cure prenatali) che dimostra come la privacy venga violata in contesti sociali diversi.

4. Risultati (Results)

• Efficacia del rilevamento: Il classificatore SVM si è dimostrato il più efficace, con un'accuratezza del 97,27% e un tasso di falsi positivi molto basso (1,41%).
• Presenza in LAION-400M: Sono state identificate 833 immagini uniche di ecografie. L'analisi ha rivelato che queste non sono solo immagini cliniche, ma includono foto di "keepsake" (ricordi) e inviti a eventi.
• Dati sensibili estratti: Sono state trovate 677 istanze di informazioni private. Le categorie più frequenti sono state Data/Ora (513 istanze), seguite da Nome (228) e Località (120).
• Rischio di re-identificazione: È stato osservato un alto tasso di sovrapposizione di dati: il 10,3% delle immagini conteneva più di un tipo di informazione sensibile, e il 2,1% conteneva tutti e quattro i tipi (Nome, Località, Data e Telefono), rendendo la re-identificazione dell'individuo estremamente semplice.

5. Significato e Conclusioni (Significance)

Il lavoro dimostra che i dataset utilizzati per addestrare l'IA moderna sono intrinsecamente rischiosi. La scoperta che una parte significativa dei dati è duplicata (38,9%) suggerisce che le tecniche di protezione come la Differential Privacy potrebbero non essere sufficienti se non accompagnate da una pulizia rigorosa dei dati.

Raccomandazioni degli autori:

1. Implementare protocolli di de-identificazione automatizzata (es. oscuramento di nomi e indirizzi) prima della pubblicazione dei dataset.
2. Adottare pratiche di consenso informato più rigorose.
3. Utilizzare tecniche di Privacy-Preserving Training (come la Differential Privacy o il training distribuito) per evitare che i modelli memorizzino e riproducano dati sensibili durante la generazione.