AMNESIA: A Large Scale Medical Unlearning Benchmark Suite with Disease-Informed Analysis

Resumo Técnico: AMNESIA

Definição do Problema
O conhecimento médico é dinâmico, exigindo a capacidade de atualizar ou remover seletivamente informações de Grandes Modelos de Linguagem (LLMs) treinados sem o retreinamento completo. Essa capacidade, conhecida como desaprendizado de máquina (machine unlearning), é crítica para a conformidade com regulamentações de privacidade (ex: o "direito ao esquecimento" do GDPR) e para a correção de registros médicos errôneos. Os benchmarks de desaprendizado existentes dependem de dados sintéticos ou tarefas de domínio geral em pequena escala, deixando o desaprendizado clínico subestudado. Os métodos atuais carecem de uma avaliação padronizada para perguntas e respostas (QA) médicas, onde a distinção entre esquecer os dados de um paciente específico e preservar o conhecimento clínico compartilhado é complexa.

Metodologia
Os autores introduzem o AMNESIA, o primeiro benchmark de grande escala e código aberto para desaprendizado médico. A metodologia abrange construção de dataset, design de benchmark e métricas de avaliação:

• Construção do Dataset: O dataset compreende 70.560 pares de perguntas-respostas (QA) derivados de 8.820 notas de pacientes desidentificadas, extraídas do PMC-Patients-v2. Estas notas abrangem 11 categorias de doenças (ex: Câncer, Cardiovascular, Infecciosa/Imunológica).
  • Geração de QA: Para cada paciente, são gerados 8 QAs: 4 perguntas factuais (testando a recuperação direta) e 4 perguntas de raciocínio (testando a inferência clínica através de múltiplos achados).
  • Validação: Uma avaliação com participação humana (human-in-the-loop) utilizando um painel de três LLMs (MedGemma, Qwen, GPT-5-Mini) e um anotador estudante de biologia validou os rótulos de doenças e a qualidade dos QAs, alcançando altas taxas de concordância.
• Particionamento de Dados: O benchmark suporta dois cenários de esquecimento:
  1. Paciente de Nível Aleatório: Subconjuntos aleatórios de pacientes (5% a 25%) são selecionados para esquecimento.
  2. Nível de Doença: Pacientes que compartilham categorias de doenças específicas são selecionados para esquecimento, testando a capacidade do modelo de desaprender condições específicas enquanto retém outras.
  • Um Conjunto de Holdout é criado com QAs não vistos por paciente para avaliar a generalização.
• Modelo Base e Métodos de Desaprendizado: O benchmark utiliza o LLaMA 3-8B como modelo base, pré-treinado em notas de pacientes e ajustado (fine-tuned) nos pares de QA. Quatro métodos representativos de desaprendizado do framework OpenUnlearning são avaliados:
  • RMU: Direciona as representações internas das entradas do conjunto de esquecimento para alvos aleatórios.
  • GradDiff: Maximiza a perda no conjunto de esquecimento enquanto minimiza a perda no conjunto de retenção via ascensão de gradiente.
  • KL-Min: Utiliza ascensão de gradiente no conjunto de esquecimento com regularização de divergência KL para preservar as saídas do conjunto de retenção.
  • SimNPO: Trata amostras esquecidas como preferências negativas sem um modelo de referência.
  • Nota: Para eficiência e consistência com trabalhos anteriores, o desaprendizado é aplicado seletivamente à camada 7 do modelo.
• Métricas de Avaliação:
  • Métricas Padrão: Utilidade do Modelo (MU) nos conjuntos de retenção e Eficácia de Esquecimento de Resposta (AFE) nos conjuntos de esquecimento, calculadas via média harmônica de ROUGE, Correspondência Exata (EM), Similaridade de Cosseno (CS) e Pontuação de Implicação (ES). Entropia de Token (TE) e Pontuação de Degradação (DS) medem o colapso da saída.
  • Métrica Inovadora: Vazamento de Palavra-chave de Doença (LS). Esta métrica quantifica o reaparecimento de terminologia médica específica da doença (extraída via scispaCy e comparada com listas semente) nas saídas do modelo, abordando violações de privacidade onde termos específicos persistem apesar de um alto AFE.

Principais Contribuições

1. Primeiro Benchmark Clínico de Grande Escala: O AMNESIA fornece 70.560 QAs de 8.820 pacientes em 11 categorias de doenças, distinguindo entre recuperação factual e raciocínio clínico.
2. Avaliação de Múltiplos Níveis: Introduz cenários de esquecimento de nível de doença, indo além das divisões aleatórias de pacientes para analisar como o desaprendizado afeta o conhecimento médico compartilhado.
3. Análise Abrangente: O artigo avalia quatro métodos diversos de desaprendizado, revelando suas limitações em contextos clínicos.
4. Métrica de Vazamento de Domínio Específico: A introdução de uma avaliação de palavra-chave focada em doenças para detectar o vazamento de terminologia médica, uma preocupação crítica de privacidade na saúde.
5. Lançamento Aberto: O dataset, o código e os modelos treinados são liberados publicamente sem restrições.

Resultados e Análise

• Desaprendizado de Nível de Paciente Aleatório: Os métodos existentes lutam significativamente.
  • RMU e SimNPO mantêm alta Utilidade do Modelo (MU), mas falham em esquecer efetivamente (baixo AFE), sugerindo que não apagam a informação do paciente.
  • KL-Min e GradDiff alcançam alto AFE, mas ao custo da Utilidade do Modelo, resultando frequentemente em colapso do modelo (saídas repetitivas e incoerentes) em vez de um apagamento seletivo.
  • Avaliação de Holdout: Os modelos tendem a esquecer QAs específicos de treinamento em vez das notas de pacientes subjacentes, pois falham em responder perguntas não vistas sobre o mesmo paciente.
• Desaprendizado de Nível de Doença:
  • O desaprendizado de pacientes com a mesma doença revela um compromisso (trade-off): conforme o conjunto de esquecimento aumenta, o AFE melhora, mas a MU para pacientes retidos com a mesma doença degrada substancialmente. Isso indica que remover uma massa crítica de pacientes com uma condição específica corrói o conhecimento clínico compartilhado para essa condição.
  • KL-Min e GradDiff mostram desaprendizado direcionado à doença (preservando a utilidade para pacientes fora da doença), mas ainda sofrem com perda de utilidade para pacientes retidos da mesma doença.
• Vazamento de Palavras-chave:
  • Métodos como RMU e SimNPO exibem vazamento significativo de termos específicos da doença (taxas de vazamento de 10–25%), mesmo quando o AFE parece moderado.
  • KL-Min e GradDiff alcançam vazamento próximo de zero, mas isso é atribuído à geração de saídas incoerentes (altas pontuações de degradação) em vez de um desaprendizado bem-sucedido e seguro.
  • Em divisões de nível de doença, o vazamento diminui conforme o conjunto de esquecimento cresce, correlacionando-se com a erosão do conhecimento médico compartilhado.

Significância e Alegações
O artigo afirma que o AMNESIA expõe limitações críticas nos métodos atuais de desaprendizado quando aplicados a dados médicos. Os autores afirmam que:

1. Métodos atuais são insuficientes: Eles ou falham em esquecer efetivamente ou alcançam o esquecimento através do colapso do modelo, sendo que nenhum dos dois é aceitável para aplicações clínicas.
2. Separação entre Paciente e Conhecimento: Desaprender pacientes individuais frequentemente corrói o conhecimento de outros com a mesma condição, destacando a dificuldade de separar dados específicos de pacientes do conhecimento clínico compartilhado.
3. Riscos de Privacidade: Um alto AFE não garante privacidade; os modelos ainda podem vazar terminologia médica específica ou permitir a recuperação de informações via consultas parafraseadas.
4. Necessidade de Técnicas Especializadas: As descobertas enfatizam a necessidade de técnicas de desaprendizado médicas específicas que possam apagar informações de pacientes sem comprometer a utilidade do conhecimento médico compartilhado.

Os autores concluem que o AMNESIA serve como um benchmark essencial para avançar o campo, enquanto reconhecem modestamente limitações como a dependência de métricas de nível de resposta, o uso de um único modelo base e a simplificação de comorbidades em categorias de doenças únicas. Eles declaram explicitamente que nenhum dos modelos avaliados é validado para uso clínico.