Hallucination in Medical Imaging AI: A Cross-Modality Analytical Framework for Taxonomy, Detection, and Mitigation under Regulatory Constraints

Resumo Técnico: Alucinação em IA de Imagem Médica

Definição do Problema
A rápida implementação de Modelos de Visão-Linguagem (VLMs) e sistemas de IA em imagem médica superou a compreensão de seus modos de falha. O modo de falha clinicamente mais crítico identificado é a alucinação: saídas que são linguisticamente ou visualmente coerentes, mas factualmente não sustentadas pela imagem de entrada ou pelo contexto do paciente. Em ambientes médicos, esses erros manifestam-se como estruturas anatômicas fabricadas, patologias classificadas incorretamente, lateralidade errônea, medições inventadas ou a omissão de achados significativos. Diferente de artefatos cosméticos, essas alucinações impactam diretamente decisões clínicas de alto risco, incluindo seleção de biópsia, estadiamento de câncer e planejamento de tratamento.

A literatura atual sofre de três lacunas primárias:

1. Falta de uma Taxonomia Unificada: As taxonomias existentes são específicas para modalidades (ex: radiologia vs. medicina nuclear) e não foram validadas em todo o espectro de imagem (TC, RM, PET/SPECT, ultrassom, patologia digital).
2. Premissas de Modelos Não Verificadas: Não há comparação empírica direta entre modelos de fundação de uso geral e modelos especializados em medicina no que diz respeito às taxas de alucinação, apesar da comum suposição de aquisição de que a especialização reduz o risco de alucinação.
3. Validação no Mundo Real Limitada: Estratégias de mitigação são amplamente avaliadas em benchmarks controlados, com evidência insuficiente sobre sua eficácia em fluxos de trabalho clínicos reais e seu alinhamento com marcos regulatórios como o Ciclo de Vida Total do Produto (TPLC) do FDA.

Metodologia
Este estudo emprega uma síntese narrativa estruturada em vez de uma meta-análise formal, devido à heterogeneidade dos desenhos de estudo, métricas de benchmark e medidas de desfecho na literatura existente. A análise integra estudos revisados por pares, conjuntos de dados de benchmark e orientações regulatórias do FDA (especificamente a orientação preliminar de janeiro de 2025 e a finalização do Plano de Controle de Mudanças Pré-determinado [PCCP] de dezembro de 2024).

O framework analítico aborda quatro dimensões:

1. Classificação Taxonômica: Cruzamento de três frameworks distintos (Brooks & Anastasio, DREAM Report e MediHall) para criar uma perspectiva unificada transmodal.
2. Análise Etiológica: Investigação das causas de alucinação, incluindo arquitetura do modelo, qualidade dos dados de treinamento e condições de inferência.
3. Avaliação de Detecção: Avaliação de cinco abordagens de detecção (Quantificação de Incerteza, análise baseada em Atenção, métodos baseados em Reconstrução, verificação Cross-modal e Benchmarking) contra critérios de precisão, universalidade e interpretabilidade.
4. Avaliação de Mitigação: Avaliação de estratégias através de quatro camadas de intervenção: restrições arquiteturais, fundamentação por recuperação aumentada (retrieval-augmented grounding), engenharia de prompt em tempo de inferência e salvaguardas de humano-no-circuito (human-in-the-loop).

Principais Contribuições e Resultados

• Framework Taxonômico Unificado: O estudo demonstra que nenhum taxonomy existente cobre o pipeline de imagem de forma abrangente. Um framework unificado é proposto integrando:

  • Brooks & Anastasio: Origem etiológica (falha de dados vs. confabulação do modelo).
  • DREAM Report: Física específica da modalidade e risco clínico (ex: padrões de captação em PET/SPECT).
  • MediHall: Graduação de severidade clínica (de catastrófica a menor).
    Esta integração permite a caracterização consistente de alucinações em TC, RM, PET/SPECT, ultrassom e patologia digital.

• A Inversão dos Modelos Gerais vs. Especializados: Contrariamente às suposições comuns, modelos de fundação de uso geral superam os modelos especializados em medicina em benchmarks específicos de alucinação.

  • No benchmark Med-HALT (2025), modelos de uso geral alcançaram uma taxa mediana livre de alucinações de 76,6%, comparado a 51,3% para modelos especializados em medicina (p = 0,012).
  • Os autores atribuem isso à rigidez induzida pelo overfitting, onde priors de domínio estreito sobrepõem-se à evidência visual em casos ambíguos. Modelos de uso geral, treinados em dados diversos, mantêm uma melhor calibração de incerteza.
  • Nota: Este achado aplica-se a tarefas de raciocínio mediadas por linguagem; arquiteturas especializadas podem ainda manter vantagens em tarefas puramente baseadas em reconstrução (ex: redução de ruído em TC de baixa dose) onde vieses informados pela física são críticos.

• Efetividade de Detecção e Mitigação:

  • Detecção: Nenhum método é universalmente eficaz. A Quantificação de Incerteza (UQ) oferece alta automação, mas requer retreinamento; a análise baseada em Atenção auxilia na interpretabilidade, mas é dependente da arquitetura; métodos baseados em Reconstrução (ex: sFRC) são essenciais para MRI/CT reconstruídos por IA; a verificação Cross-modal é clinicamente intuitiva, mas intensiva em dados.
  • Mitigação:
    • Restrições Arquiteturais: Restrições informadas pela física (ex: PI-MoCoNet) melhoram a fidelidade da reconstrução (melhora de aprox. 1 dB no PSNR), mas são limitadas à fase de desenvolvimento.
    • Engenharia de Prompt: O prompting de Cadeia de Pensamento (Chain-of-Thought - CoT) reduz alucinações em até 86,4% das comparações avaliadas ao forçar um raciocínio intermediário explícito.
    • Humano-no-Circuito (HITL): A supervisão do radiologista continua sendo a intervenção mais decisiva, reduzindo as taxas de falso-positivo da IA em aproximadamente 83,7%. No entanto, isso introduz custos de recursos e riscos de viés de automação.

• Alinhamento Regulatório: O estudo mapeia todos os achados para os frameworks TPLC e PCCP do FDA. Enfatiza que o gerenciamento de alucinação é uma obrigação de ciclo de vida contínuo, não um checklist pré-implantação. As estratégias devem apoiar a vigilância pós-mercado, gerar trilhas de auditoria e acomodar o refinamento contínuo através de processos de controle de mudanças pré-definidos.

Significância e Alegações
O artigo alega fornecer o primeiro framework analítico transmodal que unifica taxonomia, etiologia, detecção e mitigação sob restrições regulatórias. Sua principal significância reside em desafiar o dogma de aquisição de que "especialização é igual a segurança", demonstrando, em vez disso, que o ajuste fino (fine-tuning) estreito pode introduzir confabulação.

Os autores concluem que:

1. Avaliação Unificada é Necessária: A implantação clínica exige a integração de múltiplas perspectivas taxonômicas para evitar pontos cegos na avaliação de risco.
2. O Benchmarking Deve Ser Específico: Decisões de aquisição devem basear-se em benchmarks específicos de alucinação, em vez de métricas de precisão geral, visto que modelos de uso geral podem oferecer maior robustez contra fabricação.
3. Mitigação em Camadas é Necessária: Nenhuma estratégia de mitigação isolada é suficiente. A implantação eficaz requer uma combinação de restrições arquiteturais (onde possível), raciocínio em tempo de inferência (CoT) e rigorosa supervisão humana, tudo gerenciado dentro de um ciclo de vida em conformidade regulatória.

O estudo reconhece limitações, incluindo a dependência de síntese narrativa estruturada, a escassez de dados para contextos pediátricos e de doenças raras, e o fato de que a maior parte das evidências deriva de benchmarks controlados, não de implantações clínicas prospectivas. O trabalho futuro é direcionado para taxonomias unificadas transmodais, avaliações comparativas diretas em tarefas de reconstrução e a integração do monitoramento de alucinações em fluxos de trabalho clínicos reais sob controle de mudanças em conformidade com o FDA.