Explainable AI for Data-Driven Design of High-Dimensional Predictive Studies

Resumo Técnico: IA Explicável para o Projeto Baseado em Dados de Estudos Preditivos de Alta Dimensionalidade

Declaração do Problema
A modelagem preditiva na área da saúde é essencial para a tomada de decisão clínica, mas o projeto de modelos ótimos para dados de alta dimensionalidade permanece um desafio significativo. Métodos estatísticos tradicionais, como os modelos de Riscos Proporcionais de Cox (CPH), são favorecidos por sua interpretabilidade e rigor matemático, mas frequentemente dependem de suposições restritivas de linearidade que falham em capturar realidades biológicas complexas, como curvas de risco não lineares (por exemplo, relações em forma de U para o IMC) ou interações de ordem superior entre características. Por outro lado, modelos modernos de aprendizado de máquina (ML) destacam-se na captura desses padrões complexos, mas operam como "caixas pretas", carecendo da transparência necessária para a confiança clínica e adoção regulatória. Embora a IA Explicável (XAI) tenha surgido para interpretar modelos de caixa preta, ela é frequentemente utilizada apenas para justificação post-hoc, em vez de como um mecanismo para melhorar ativamente o projeto de modelos estatísticos transparentes e de "caixa branca". Este estudo aborda a lacuna na automação do processo de "engenharia de características" — especificamente seleção de características, identificação de termos não lineares e descoberta de interações — para aprimorar modelos clínicos convencionais sem sacrificar a interpretabilidade.

Metodologia
Os autores propõem um Recomendador de IA Exploratória, um framework projetado para revelar sistematicamente relações nos dados e otimizar o projeto de estudos preditivos por meio de três etapas distintas:

1. Estabelecimento da Linha de Base: Um modelo CPH multivariado padrão, orientado por conhecimento, é ajustado usando um conjunto curado de preditores (por exemplo, demografia, comorbidades, medicamentos) sem engenharia de características avançada (sem interações ou termos não lineares).
2. IA Exploratória e Geração de Recomendações:
   • Modelagem Exploratória: Um modelo "caixa preta" flexível e de alto desempenho, especificamente uma Floresta de Sobrevivência Aleatória (RSF), é treinado nos mesmos dados para capturar padrões e interações complexas e não lineares.
   • Interpretação via XAI: A RSF é interpretada usando SHAP (SHapley Additive exPlanations) para gerar Atribuições de Características (FAs). Para evitar obscurecer riscos específicos de subgrupos, os autores realizam uma análise de FA de grupos extremos, estratificando a população em coortes de baixo risco e alto risco com base nas pontuações de risco previstas.
   • Lógica de Recomendação: As FAs são processadas por meio de três padrões baseados em regras para gerar recomendações acionáveis:
     • Exclusão de Características: Características com médias absolutas de FAs que não excedem um limiar de significância orientado por dados (5% do desvio padrão das médias absolutas de FAs) são recomendadas para remoção.
     • Termos Não Lineares: Características que exibem uma correlação de Pearson fraca ($|r| < 0.1$) entre os valores das características e suas FAs são sinalizadas para modelagem não linear (por exemplo, termos quadráticos ou splines).
     • Interações de Características: Uma análise de estratificação iterativa é realizada. Se a distribuição das FAs para uma característica específica diferir significativamente entre estratos definidos por outra característica (testado via soma de postos de Wilcoxon), um termo de interação de primeira ordem é recomendado.
3. Avaliação: As recomendações são integradas em um modelo CPH aumentado. O desempenho deste modelo aumentado é comparado ao CPH de linha de base e à RSF exploratória usando o Índice de Concordância (C-index) para discriminação e gráficos de calibração (intercepto e inclinação) para calibração.

Principais Resultados
O framework foi avaliado principalmente em um conjunto de dados de alta dimensionalidade de 245.614 pacientes do repositório DataLoch, prevendo o tempo até a primeira queda ou lesão relacionada (FRI).

• Recomendações Geradas: O sistema identificou 23 características para exclusão, recomendou termos não lineares para duas características (status de álcool e idade) e sugeriu 221 termos de interação de primeira ordem. Todas as recomendações foram apoiadas pela literatura médica existente.
• Ganhos de Desempenho:
  • O modelo CPH de linha de base alcançou um C-index de 0,805 (IC 95% 0,798–0,812).
  • A RSF exploratória alcançou um C-index de 0,820.
  • O modelo CPH aumentado final (incorporando todas as recomendações) alcançou um C-index de 0,815 (IC 95% 0,809–0,822), representando uma melhoria estatisticamente significativa ($\Delta$C-index = 0,010, $P < 0,001$) sobre a linha de base.
  • A calibração também melhorou, com a inclinação passando de 1,063 para 0,950 e o intercepto de -0,006 para 0,003.
• Generalizabilidade: O método foi aplicado com sucesso a dois conjuntos de dados públicos adicionais (GBSG2 para câncer de mama e ACT para HIV), demonstrando melhorias consistentes na discriminação (por exemplo, o C-index do GBSG2 melhorou de 0,665 para 0,687; o ACT de 0,725 para 0,770).

Significância e Alegações
O artigo postula que o framework proposto preenche a lacuna entre o poder preditivo da IA complexa e a transparência necessária para a adoção clínica. Ao usar a IA estritamente como um motor exploratório para informar o projeto de modelos estatísticos convencionais, os autores afirmam resolver o compromisso entre precisão e interpretabilidade, sem os problemas de fidelidade associados à XAI post-hoc.

As principais alegações sobre a significância do estudo incluem:

• Projeto de Estudo Orientado por Dados: O framework automatiza a descoberta de exclusões de características, não linearidades e interações, indo além da especificação de modelos puramente orientada pela literatura.
• Insight de Subgrupos: A análise de grupos extremos revela fatores de risco específicos para populações de baixo risco (por exemplo, AINEs em coortes de baixo risco) que são frequentemente negligenciados por modelos tradicionais focados em grupos de alto risco, oferecendo novas oportunidades para prevenção direcionada.
• Auditabilidade: Os modelos aumentados resultantes mantêm a transparência matemática de escores de risco padrão, tornando-os adequados para ambientes clínicos regulamentados onde conjuntos de "caixas pretas" são frequentemente rejeitados.
• Escalabilidade: A abordagem é computacionalmente eficiente em comparação com o treinamento de arquiteturas complexas de aprendizado profundo para previsão final, pois o trabalho pesado é realizado uma única vez durante a fase exploratória.

Os autores mantêm uma postura modesta, reconhecendo que o framework gera hipóteses para investigação adicional, em vez de evidências causais, e que as recomendações dependem do desempenho do modelo exploratório subjacente. Eles enfatizam que a ferramenta apoia, em vez de substituir, o julgamento clínico.