Resumo Técnico: NEURON – Um Sistema Neuro-Simbólico para Explicabilidade Clínica Fundamentada

1. Declaração do Problema

A adoção da Inteligência Artificial (IA) em ambientes clínicos é dificultada pela natureza de "caixa preta" dos modelos de aprendizado de máquina (ML) de alto desempenho. Embora esses modelos ofereçam estimativas de risco precisas, cruciais para a priorização de cuidados e intervenções, seu raciocínio permanece opaco para clínicos com diversas especialidades. Técnicas existentes de IA Explicável (XAI), como SHAP (SHapley Additive exPlanations), fornecem visualizações estáticas de atribuição de características que carecem de fundamentação ontológica e transparência narrativa. Esses métodos frequentemente falham em incorporar conhecimento clínico estabelecido ou apoiar raciocínio causal interativo, limitando sua utilidade para a compreensão profissional e a confiança. Além disso, as abordagens atuais frequentemente tratam a Geração Aumentada por Recuperação (RAG) fundamentada em ontologia e a modelagem neuro-simbólica de forma isolada, sem um quadro unificado que simultaneamente aprimore o desempenho preditivo e gere explicações em linguagem natural fundamentadas clinicamente.

2. Metodologia: O Quadro NEURON

Os autores propõem o NEURON (Compreensão Neuro-Simbólica com Narração Orientada à Recuperação), um quadro unificado neuro-simbólico projetado para preencher a lacuna entre dados brutos, nomenclatura médica e explicação alinhada ao ser humano. O sistema opera por meio de três componentes principais:

A. Modelagem Preditiva Neuro-Simbólica

O NEURON integra representações estruturais informadas pela ontologia SNOMED CT (Sistema de Nomenclatura Sistematizada de Termos Clínicos de Medicina) com modelos de ML sub-simbólicos padrão.

• Fonte de Dados: O quadro foi validado no conjunto de dados MIMIC-IV, focando especificamente na previsão de mortalidade hospitalar de Insuficiência Cardíaca Aguda (ICA).
• Engenharia de Características:
  • Linha de Base Tabular: 18 características clínicas (por exemplo, sinais vitais, resultados de laboratório) selecionadas via regressão LASSO.
  • Integração de Ontologia: Em vez de tratar códigos SNOMED como características one-hot, o sistema constrói um grafo de conhecimento "é-um". Gera embeddings Node2Vec para conceitos SNOMED e os agrega usando agrupamento ponderado por TF-IDF para criar vetores de comprimento fixo por internação.
  • Contagens de Ontologia: Contagens explícitas de categorias de ontologia (Nível 1 e Nível 2) são derivadas para cada internação.
• Arquitetura do Modelo: O quadro foi testado em quatro arquiteturas distintas de ML: XGBoost, Perceptron Multicamadas (MLP), Autoencoder e RBF-SVM. Esses modelos foram treinados sob três configurações: (1) Apenas tabular, (2) Tabular + embeddings SNOMED e (3) Neuro-simbólico completo (Tabular + Embeddings + Contagens de ontologia).

B. Geração de Explicação Fundamentada em RAG

Para traduzir as saídas do modelo em narrativas amigáveis aos clínicos, o NEURON emprega uma camada de Geração Aumentada por Recuperação (RAG) fundamentada em um Modelo de Linguagem de Grande Escala (LLM).

• Fontes de Entrada: A camada RAG sintetiza quatro fluxos distintos de informação:
  1. Drivers SHAP: Pontuações de atribuição de características do modelo preditivo.
  2. Representações de Ontologia: Mapeamentos estruturais do grafo de conhecimento SNOMED.
  3. Notas Clínicas: Notas de UTI não estruturadas e específicas do paciente, recuperadas via filtragem de metadados.
  4. Conhecimento Clínico Curado: Uma base de conhecimento manualmente curada contendo limiares, faixas de referência e diretrizes interpretativas para os 18 preditores.
• Processo de Geração: O sistema utiliza um modelo de prompt restrito para impor uma estrutura estrita (por exemplo, separando drivers do modelo, características tabulares e evidências de ontologia). Utiliza um LLM local (qwen2.5:14b-instruct) para gerar explicações em linguagem natural, garantindo que a saída seja fundamentada em evidências recuperadas para minimizar alucinações.

C. Métricas de Avaliação

O estudo emprega uma estratégia de dupla avaliação:

• Desempenho Preditivo: Medido via AUC, Precisão, Sensibilidade, Especificidade, F1-score e Especificidade.
• Qualidade da Explicação:
  • Métricas Computacionais para SHAP: Completude, Lacuna de Aditividade, Infidelidade, Sensibilidade Máxima e Robustez.
  • Métricas Alinhadas ao Humano para Narrativas: Avaliadas usando uma abordagem de LLM como juiz (utilizando gpt-oss:20b) para avaliar Fidelidade, Plausibilidade, Utilidade, Compreensão e Coerência. A completude narrativa também é medida via cobertura "baseada em Explingo" de nomes de características, valores e direções.

3. Contribuições Principais

1. Quadro Unificado Neuro-Simbólico: O NEURON é o primeiro estudo a apresentar uma comparação controlada de pipelines sub-simbólicos e neuro-simbólicos na mesma coorte clínica, demonstrando que a integração de ontologia melhora o desempenho preditivo em múltiplas famílias de modelos.
2. Pipeline de Explicação Integrado: O sistema acopla exclusivamente a atribuição SHAP diretamente a um LLM fundamentado em RAG, combinando representações de ontologia estruturadas, notas clínicas não estruturadas e conhecimento curado para gerar narrativas holísticas.
3. Avaliação Abrangente: O artigo fornece uma comparação rigorosa entre visualizações SHAP estáticas e explicações narrativas dinâmicas, utilizando tanto métricas computacionais de atribuição quanto critérios alinhados ao ser humano (fidelidade, compreensão).
4. Estratégia de Embedding Consciente de Ontologia: Os autores introduzem um método não trivial para integrar o SNOMED CT, utilizando embeddings Node2Vec e agrupamento TF-IDF em vez de codificação one-hot simples, para capturar melhor as relações clínicas.

4. Resultados

Desempenho Preditivo

A integração de características derivadas de ontologia melhorou consistentemente o desempenho preditivo em todos os quatro modelos de ML.

• Melhoria de AUC: Os modelos de melhor desempenho (XGBoost e RBF-SVM) sob a configuração neuro-simbólica completa alcançaram um AUC de 0,88 (IC 95%: 0,86–0,89), um aumento significativo em relação à linha de base apenas tabular (0,74–0,77).
• Sensibilidade e F1: A configuração neuro-simbólica produziu as maiores melhorias na sensibilidade (por exemplo, XGBoost aumentou de 0,21 para 0,37) e no F1-score (XGBoost aumentou de 0,31 para 0,49), indicando melhor detecção de casos de alto risco.

Qualidade da Explicação

• Desempenho SHAP: As explicações SHAP demonstraram alta completude (0,932) e baixas lacunas de aditividade, tornando-as adequadas para rastreabilidade regulatória. No entanto, pontuaram mal em métricas alinhadas ao ser humano, com uma pontuação geral de 0,504 e uma pontuação de compreensão de 0,307, indicando dificuldade para os clínicos interpretarem visualizações estáticas.
• Desempenho NEURON (RAG): As explicações narrativas geradas pelo NEURON alcançaram pontuações alinhadas ao ser humano substancialmente mais altas (Geral: 0,849; Compreensão: 0,827).
• Cobertura: As narrativas do LLM cobriram com sucesso 76,3% da massa de atribuição SHAP top-K, demonstrando que a saída em linguagem natural sintetizou efetivamente os drivers do modelo.
• Estabilidade: A geração de narrativas mostrou alta estabilidade entre execuções (similaridade de cosseno de 0,999), enquanto as atribuições SHAP mostraram estabilidade moderada (0,777).

5. Significado e Alegações

Os autores afirmam que o NEURON oferece uma solução de engenharia robusta e escalável para implantar aplicações de saúde conectadas confiáveis e centradas no ser humano. O significado do trabalho reside em sua capacidade de:

• Aprimorar a Confiabilidade Preditiva: Ao fundamentar modelos de ML em ontologias clínicas, o sistema melhora a precisão da estratificação de risco sem sacrificar a flexibilidade da aprendizagem sub-simbólica.
• Facilitar a Compreensão Clínica: O sistema vai além da atribuição estática de características para fornecer narrativas coerentes em linguagem natural que se alinham aos fluxos de trabalho e conhecimentos clínicos.
• Preencher a Lacuna: Ele preenche com sucesso a lacuna entre dados brutos e nomenclatura médica, oferecendo um mecanismo para raciocínio interativo e narrativo que atualmente está ausente na XAI padrão.

Os autores reconhecem limitações, incluindo o potencial de sobreposição em nível de sujeito no conjunto de dados, a dependência da qualidade narrativa do LLM específico utilizado (com modelos menores exibindo alucinações) e a necessidade de engenharia de prompts cuidadosa para evitar a geração de alegações clínicas não fundamentadas. Eles concluem que, embora as narrativas do NEURON superem o SHAP em métricas alinhadas ao ser humano, elas devem ser vistas como complementares às técnicas XAI existentes, em vez de uma substituição completa, pois ainda dependem da fidelidade do modelo subjacente.