Privacy in Image Datasets: A Case Study on Pregnancy Ultrasounds

Resumen Técnico: Privacidad en Conjuntos de Datos de Imágenes: Un Estudio de Caso sobre Ultrasonidos de Embarazo

Título original: Privacy in Image Datasets: A Case Study on Pregnancy Ultrasounds

1. El Problema

El auge de los modelos generativos (como Stable Diffusion) ha impulsado la creación de conjuntos de datos masivos mediante técnicas de web scraping (extracción de datos de la web), como el dataset LAION-400M. Estos procesos suelen carecer de una curación ética o técnica rigurosa, lo que conlleva riesgos críticos:

• Violación de la privacidad: Inclusión de información sensible sin consentimiento.
• Riesgo de re-identificación: La capacidad de los modelos para memorizar y reproducir imágenes exactas de entrenamiento.
• Falta de integridad contextual: Imágenes compartidas en redes sociales para fines sociales (anuncios de embarazo) terminan siendo utilizadas para fines técnicos (entrenamiento de IA), rompiendo la expectativa de privacidad del usuario.

El estudio se centra específicamente en los ultrasonidos de embarazo, que son altamente sensibles debido a que pueden revelar información médica (anomalías fetales), datos personales (nombres, hospitales) y detalles de identidad.

2. Metodología

Los autores proponen un marco de trabajo dividido en dos fases principales para responder a dos preguntas de investigación (RQ): ¿Están presentes estos ultrasonidos en los datasets? y ¿Contienen información privada identificable?

A. Detección de imágenes de ultrasonido (RQ1):
Utilizaron dos enfoques para identificar las imágenes en el dataset LAION-400M:

1. Enfoque basado en recuperación (Retrieval-based): Uso de embeddings de CLIP para buscar similitudes semánticas mediante consultas de texto (ej. "Prenatal ultrasound") o imágenes de referencia.
2. Enfoque basado en clasificadores (Classifier-based): Creación de un dataset personalizado llamado PIU (Pregnancy Image Ultrasound) de 9,900 imágenes. Entrenaron tres tipos de modelos sobre los embeddings de CLIP: Random Forest (RF), Support Vector Machine (SVM) y Redes Neuronales (NN).

B. Identificación de información privada (RQ2):
Una vez detectadas las imágenes, aplicaron un pipeline de tres pasos:

1. Preprocesamiento: Uso de Real-ESRGAN para super-resolución (mejorar imágenes borrosas) y rotación para alinear el texto.
2. Reconocimiento de texto (OCR): Uso de Tesseract OCR para la extracción inicial, seguido de un modelo de lenguaje visual LLaVa-Next para corregir errores de lectura del OCR.
3. Extracción de entidades: Uso de la herramienta Presidio para categorizar la información en cuatro tipos: Nombre, Ubicación, Fecha/Hora y Número de teléfono.

3. Contribuciones Clave

• Auditoría de datasets a gran escala: Demostración de que las técnicas de detección pueden identificar contenido altamente sensible en repositorios de cientos de millones de imágenes.
• Desarrollo del dataset PIU: Un conjunto de datos balanceado y curado específicamente para la detección de ultrasonidos en contextos diversos (no solo clínicos, sino también sociales).
• Análisis de la "Integridad Contextual": Aplicación de la teoría de Nissenbaum para explicar cómo el uso de datos fuera de su contexto original constituye una violación de la privacidad.

4. Resultados Principales

• Eficacia de la detección: El clasificador SVM fue el más efectivo, logrando una precisión del 97.27% y una tasa de falsos positivos muy baja (1.41%), superando al método de recuperación simple.
• Hallazgos en LAION-400M: Se identificaron 833 imágenes únicas de ultrasonidos de embarazo.
• Diversidad de contenido: El análisis de clústeres (vía UMAP y HDBSCAN) reveló que las imágenes no son solo médicas; incluyen anuncios de embarazo, invitaciones de baby showers y fotos de recuerdos, lo que aumenta el riesgo de exposición de datos.
• Fuga de información personal: Se detectaron 677 instancias de información privada en las imágenes únicas.
  • Las categorías más frecuentes fueron Fecha/Hora (debido a los metadatos médicos), Nombre y Ubicación.
  • Se encontró una alta correlación: el 10.3% de las imágenes contenían más de un tipo de dato sensible, y un 2.1% contenía los cuatro tipos simultáneamente, facilitando la re-identificación de la persona.

5. Significancia y Recomendaciones

El estudio demuestra que la privacidad en la visión por computadora es un problema urgente. Los autores concluyen que:

1. De-identificación automática: Es necesario implementar herramientas de detección y anonimización (como Presidio o redes neuronales) antes de publicar datasets.
2. Consentimiento informado: Los creadores de datasets deben pasar de un modelo de "asunción de consentimiento" a uno de "opt-out" o consentimiento explícito.
3. Privacidad en el entrenamiento: Se recomienda el uso de Privacidad Diferencial (DP) y métodos de entrenamiento preservadores de la privacidad para evitar que los modelos memoricen datos sensibles.
4. Riesgo de duplicados: El estudio advierte que la presencia de duplicados en los datasets puede invalidar las garantías de seguridad de la Privacidad Diferencial, ya que la información de un individuo puede persistir incluso si se intenta eliminar.