Privacy in Image Datasets: A Case Study on Pregnancy Ultrasounds

Resumo Técnico: Privacidade em Conjuntos de Dados de Imagens: Um Estudo de Caso sobre Ultrassons de Gravidez

1. O Problema

Com o crescimento dos modelos generativos de imagem (como o Stable Diffusion), houve uma demanda massiva por conjuntos de dados de larga escala, frequentemente coletados via web scraping (raspagem de dados da internet) sem curadoria rigorosa. O problema central abordado é o risco de inclusão de informações sensíveis e privadas nesses conjuntos.

Os autores focam especificamente em imagens de ultrassom de gravidez. Estas imagens são particularmente críticas porque:

• Contêm metadados médicos sensíveis (nomes, hospitais, datas, idade gestacional).
• São frequentemente compartilhadas em redes sociais para anúncios de gravidez, o que aumenta a probabilidade de serem coletadas sem consentimento.
• Podem revelar condições de saúde do feto e da gestante, violando a integridade contextual (o dado é compartilhado para fins sociais, mas é usado para fins de treinamento de IA).

2. Metodologia

Os pesquisadores dividiram seu trabalho em duas etapas principais para responder a duas perguntas de pesquisa (RQs):

RQ1: Detecção de Imagens de Ultrassom
Para identificar as imagens no gigantesco dataset LAION-400M, eles desenvolveram duas abordagens:

• Abordagem baseada em Recuperação (Retrieval-based): Utiliza o modelo CLIP para comparar consultas de texto ou imagens de exemplo com o dataset, buscando alta similaridade semântica.
• Abordagem baseada em Classificador (Classifier-based): Treinaram um classificador (destacando-se o SVM - Support Vector Machine) sobre um novo dataset customizado chamado PIU (Pregnancy Image Ultrasound), que contém exemplos positivos (ultrassons) e negativos (outros tipos de imagens).

RQ2: Identificação de Informações Privadas
Uma vez detectadas as imagens, aplicaram um pipeline de três etapas para extrair dados pessoais:

1. Pré-processamento: Uso de super-resolução (Real-ESRGAN) e rotação para melhorar a legibilidade de textos em imagens de baixa qualidade.
2. Reconhecimento de Texto (OCR): Uso do Tesseract para extração inicial, seguido pelo modelo LLaVa-Next para corrigir erros de leitura do OCR através de contexto visual.
3. Extração de Entidades: Uso do kit de desenvolvimento Presidio para identificar quatro categorias de informações: Nome, Localização, Data/Hora e Número de Telefone.

3. Principais Contribuições

• Auditoria de Dataset: Uma investigação sistemática e inédita sobre a presença de dados médicos sensíveis em datasets de escala de centenas de milhões de imagens.
• Criação do Dataset PIU: Um conjunto de dados balanceado e curado para o treinamento de classificadores de ultrassom.
• Pipeline de Detecção de Privacidade: Um método robusto que combina super-resolução, modelos de linguagem visual (VLM) e reconhecimento de entidades para auditar a privacidade em imagens.
• Análise de Agrupamento (Clustering): Uso de técnicas de redução de dimensionalidade (UMAP e t-SNE) e HDBSCAN para categorizar os tipos de imagens encontradas.

4. Resultados

• Detecção: O classificador SVM apresentou o melhor desempenho, com uma precisão de 97,27% e uma taxa de falsos positivos muito baixa (1,41%).
• Descobertas no LAION-400M: Foram identificadas 833 imagens únicas de ultrassom de gravidez.
• Diversidade de Conteúdo: As imagens não eram apenas exames clínicos; incluíam convites de baby shower, fotos de recordação e anúncios de gravidez em redes sociais.
• Vazamento de Dados: Foram detectadas 677 instâncias de informações privadas nas imagens únicas.
  • As categorias mais comuns foram Data/Hora (devido aos carimbos de tempo médicos) e Nomes.
  • Risco de Reidentificação: O estudo revelou que muitas imagens contêm múltiplos tipos de dados sobrepostos (ex: Nome + Localização + Data), o que facilita a identificação inequívoca de indivíduos.

5. Significância e Recomendações

O trabalho demonstra que a "limpeza" de datasets de IA é insuficiente se não houver protocolos de privacidade e consentimento. Os autores concluem que:

1. De-identificação Automática: É necessário implementar ferramentas de detecção e anonimização de dados sensíveis antes da publicação de datasets.
2. Consentimento Informado: A prática de assumir consentimento por padrão ao fazer scraping é eticamente problemática.
3. Privacidade no Treinamento: Recomenda-se o uso de técnicas como Privacidade Diferencial (DP) e métodos de treinamento que protejam a memória de dados individuais para evitar que modelos generativos reproduzam informações privadas.

Em suma, o artigo serve como um alerta crítico para a comunidade de Machine Learning sobre a vulnerabilidade de dados de saúde e a necessidade de auditorias de privacidade mais rigorosas.