Use of What-if Scenarios to Help Explain Artificial Intelligence Models for Neonatal Health

1. Declaração do Problema

O artigo aborda o desafio crítico da detecção precoce de riscos intraparto (riscos durante o trabalho de parto) para prevenir resultados adversos, como paralisia cerebral (PC), encefalopatia neonatal e baixos escores de Apgar.

• Limitações Atuais: Embora o Monitoramento Fetal Eletrônico (EFM) seja o padrão, ele é frequentemente mal interpretado, levando a litígios por má prática. Além disso, o EFM sozinho não leva em conta a complexa interação de mais de 34 fatores de risco (RFs) maternos, fetais, obstétricos e de parto.
• Desafios de Dados: Conjuntos de dados clínicos para saúde neonatal são tipicamente pequenos (por exemplo, 1.457 casos neste estudo) e altamente desbalanceados (apenas ~7,7% são casos "anormais"), tornando difícil para modelos de aprendizado supervisionado generalizar sem sobreajuste.
• Lacuna de Explicabilidade: Modelos de IA existentes frequentemente atuam como "caixas pretas". Os clínicos exigem não apenas uma previsão, mas um raciocínio interpretável (por exemplo, cenários "what-if") para confiar e agir com base na saída da IA.

2. Metodologia: O Framework AIMEN

Os autores propõem o AIMEN (Inteligência Artificial para Modelagem e Explicação da Saúde Neonatal), um framework de aprendizado profundo composto por três componentes principais:

A. Geração e Aumento de Dados

Para abordar o conjunto de dados pequeno e desbalanceado, o AIMEN emprega CTGANs Tabulares Condicionais (CTGAN) para geração de dados sintéticos.

• Estratégia: O sistema gera dados sintéticos para equilibrar as classes e expandir o conjunto de treinamento para pelo menos 5 vezes o tamanho original.
• Inovação (Valores Fora do Intervalo): Diferentemente das abordagens padrão que limitam estritamente os dados sintéticos aos intervalos observados, o AIMEN permite que o CTGAN gere valores fisiológicos ligeiramente fora do intervalo (por exemplo, horas de trabalho de parto negativas). Os autores hipotetizam e demonstram que esses exemplos "desafiadores de fronteira" atuam como regularizadores implícitos, melhorando a robustez da fronteira de decisão.
• Variantes:
  • AIMEN (Padrão): Utiliza CTGAN sem restrições.
  • AIMEN_ADASYN: Utiliza ADASYN para superamostragem.
  • R-AIMEN (Restrito): Aplica filtragem por Pontuação Silhueta aos dados sintéticos para garantir alta separabilidade de clusters. O estudo constatou que, embora isso tenha melhorado as métricas de validação, degradou o desempenho no teste ao tornar a distribuição sintética muito distinta dos dados reais.

B. Pipeline de Classificação

• Arquitetura: A base é um Conjunto de Redes Neurais de Camadas Totalmente Conectadas (MLPs).
• Otimização: Cinco arquiteturas diferentes de MLP (variando em profundidade e largura) foram testadas. A MLP_v5 (uma rede moderadamente profunda e progressivamente estreita) foi selecionada como a base ótima, equilibrando a abstração de características com a mitigação do sobreajuste.
• Estratégia de Conjunto: Um conjunto de 8 modelos MLP_v5 é treinado via validação cruzada de 8 dobras. Um mecanismo de votação ponderada é utilizado, onde apenas os classificadores que alcançam um escore F1 médio macro > 0,7 no conjunto de validação contribuem para a previsão final.

C. Explicações Contrafactuais (CE)

Para fornecer interpretabilidade, o AIMEN gera Explicações Contrafactuais para previsões anormais.

• Mecanismo: Utilizando o algoritmo Instância Mais Próxima, o sistema identifica o conjunto mínimo de alterações necessárias para inverter uma previsão "anormal" para "normal".
• Objetivo: Identificar intervenções acionáveis (por exemplo, "Se as desacelerações da frequência cardíaca fetal fossem reduzidas, o resultado seria normal").
• Métricas: Avaliadas com base em Distância (distância euclidiana no espaço de características) e Esparsidade (número de características alteradas).

3. Principais Contribuições

1. Framework AIMEN: Um sistema novo de ponta a ponta que integra aumento de dados, classificação por conjunto e explicação contrafactual especificamente para risco neonatal.
2. Insight de Aumento de Dados: Demonstrou que permitir que dados sintéticos incluam valores ligeiramente fora do intervalo (regularização implícita) produz melhor generalização do que limitar estritamente os dados aos limites observados.
3. Análise de Pontuação Silhueta: Mostrou que impor alta separabilidade (via Pontuação Silhueta) em dados sintéticos melhora as métricas de validação, mas prejudica a generalização para dados de teste do mundo real, destacando a importância da consistência distribucional sobre a separabilidade artificial.
4. Explicabilidade: Fornecimento de cenários "what-if" clinicamente acionáveis, mostrando que inverter uma previsão frequentemente requer alterar apenas 2–3 atributos em média.

4. Resultados

O sistema foi avaliado em um conjunto de dados de 1.457 casos de parto (112 anormais, 1.345 normais). O conjunto de teste consistiu inteiramente em dados reais não vistos (38 casos: 19 anormais, 19 normais) para garantir uma avaliação rigorosa.

• Métricas de Desempenho:
  • Escore F1 Médio: 0,784 (Média macro).
  • Acurácia: 0,753.
  • Sensibilidade: 0,632 (Crucial para detectar eventos adversos raros).
  • Especificidade: 0,947.
  • AUROC: 0,759.
• Comparação com Baselines: O AIMEN superou modelos tabulares de última geração, incluindo XGBoost, LightGBM, TabNet, DANet e MLPs isolados.
  • Significância Estatística: Os testes de Friedman e Nemenyi confirmaram que o desempenho do AIMEN foi estatisticamente superior ao TabNet e comparável (embora numericamente mais alto) ao XGBoost e LightGBM.
• Qualidade Contrafactual:
  • Esparsidade Média: 2,5 características alteradas (indicando intervenções altamente acionáveis e mínimas).
  • Distância Média: 0,33 (distância euclidiana normalizada).
  • Principais Características: As alterações mais frequentemente sugeridas envolveram padrões anormais de frequência cardíaca fetal (FCF) (acelerações, desacelerações, variabilidade) e atividade uterina excessiva, alinhando-se com a expertise clínica.
• Previsão de Resultados Específicos: O modelo teve melhor desempenho na previsão de Paralisia Cerebral (PC) (F1 = 0,763) em comparação com métricas de curto prazo como escores de Apgar ou níveis de pH, sugerindo que a IA é mais adequada para avaliação de risco neurológico de longo prazo.

5. Significado e Conclusão

• Impacto Clínico: O AIMEN preenche a lacuna entre a previsão de IA e a tomada de decisão clínica, fornecendo insights transparentes e acionáveis. Ele vai além das previsões de "caixa preta" para oferecer cenários específicos "what-if" que os clínicos podem usar para ajustar estratégias de manejo durante o trabalho de parto.
• Avanço Metodológico: O artigo estabelece que, para conjuntos de dados médicos pequenos e desbalanceados, o aumento generativo sem restrições combinado com aprendizado por conjunto é superior a métodos restritos que priorizam a separabilidade artificial de clusters.
• Direções Futuras: Os autores sugerem expandir o sistema para prever outros resultados (admissão em UTI neonatal, hemorragia neonatal) e conduzir estudos de usuários em grande escala para validar a utilidade clínica das explicações contrafactuais em configurações de tempo real.

Em resumo, o AIMEN representa um passo significativo em direção a uma IA confiável e explicável na obstetrícia, aproveitando com sucesso dados sintéticos e métodos de conjunto para prever resultados de trabalho de parto de alto risco com alta precisão, ao mesmo tempo em que fornece o "porquê" e o "como" necessários para a adoção clínica.