A Bibliometric Review of Explainable AI in Diabetes Risk Prediction: Trends, Gaps, and Knowledge Graph Opportunities

Este estudo bibliométrico revela um lacuna crítica na intersecção entre aprendizado de máquina, IA explicável e grafos de conhecimento para a previsão de risco de diabetes tipo 2, propondo um novo framework conceitual que integra grafos de conhecimento para superar a desconexão entre explicações estatísticas e raciocínio clínico estruturado.

O essencial

Imagine que você é um médico tentando prever quem pode desenvolver diabetes no futuro. Hoje em dia, temos computadores muito inteligentes (Inteligência Artificial) que conseguem analisar milhares de dados de pacientes e dizer: "Este paciente tem 80% de chance de ficar doente".

O problema é que esses computadores são como caixas pretas. Eles dão a resposta, mas não explicam o "porquê". É como se um oráculo dissesse "você vai chover amanhã" sem explicar se é por causa de nuvens, umidade ou vento. Para os médicos, isso é perigoso; eles precisam entender a lógica para confiar no diagnóstico.

Aqui entra o XAI (Inteligência Artificial Explicável). É como se colocássemos um "tradutor" dentro da caixa preta. O tradutor diz: "O computador achou risco alto porque o paciente tem obesidade e pressão alta".

O que este estudo descobriu?

O autor deste estudo, Thieu Anh Van, fez uma "fotografia" de quase 2.000 artigos científicos sobre esse tema. Ele usou duas grandes bibliotecas digitais (Scopus e PubMed) para ver o que o mundo está pesquisando.

Aqui estão os pontos principais, explicados de forma simples:

1. A Corrida Acelerada

A pesquisa nessa área explodiu recentemente. Em 2020, havia apenas 36 artigos. Em 2025, pulou para 866! É como se, de repente, todo mundo tivesse percebido que precisamos de médicos que entendam como a IA pensa.

2. Os "Heróis" e os "Vilões"

• Os Heróis (Métodos de Explicação): O estudo descobriu que quase todo mundo usa dois "tradutores" principais: SHAP e LIME. Eles são os favoritos porque funcionam bem e são confiáveis.
• Os Modelos (A Caixa Preta): Para fazer a previsão, os cientistas usam principalmente dois tipos de IA: XGBoost e Random Forest. São como motores muito potentes, mas que precisam desses tradutores para serem entendidos.

3. O Grande "Buraco" no Mapa (A Descoberta Principal)

Aqui está a parte mais importante e surpreendente do estudo.

Imagine que a pesquisa sobre diabetes é como uma cidade gigante.

• A maioria das pessoas está construindo casas de concreto (Modelos de IA) e pintando-as de cores vivas (Explicação XAI).
• Mas ninguém está construindo o sistema de esgoto e encanamento que conecta tudo isso à realidade médica.

Esse "sistema" é chamado de Grafos de Conhecimento (Knowledge Graphs - KG).

• O que é? É como um mapa mental gigante que conecta conceitos médicos. Por exemplo: Obesidade → Resistência à Insulina → Diabetes.
• O problema: O estudo mostrou que, enquanto 906 artigos falam sobre "como explicar a IA", apenas 17 (menos de 1%) falam sobre usar esse "mapa mental" para ajudar a IA. É uma diferença gigantesca (mais de 50 vezes a mais de um lado do que do outro).

Por que isso importa?
Hoje, a IA diz: "O peso do paciente contribuiu 0,32 para o risco". Isso é um número frio.
Com o "Mapa Mental" (Grafos de Conhecimento), a IA poderia dizer: "O peso do paciente é alto, o que causa resistência à insulina, o que, por sua vez, leva ao diabetes". Isso é uma explicação que um médico consegue usar para conversar com o paciente e entender a causa, não apenas o número.

4. Quem está fazendo o quê?

• Países: A China, os EUA e a Índia são os maiores produtores de pesquisas. Curiosamente, países da África e do Sudeste Asiático, que têm muitos casos de diabetes, estão quase ausentes dessa conversa científica.
• Dados: Muitos estudos ainda usam dados antigos (de 1988) e pequenos. O mundo real é muito maior e mais complexo.

5. A Solução Proposta: O "Sanduíche" de Três Camadas

O autor propõe uma nova maneira de fazer as coisas, como montar um sanduíche perfeito:

1. Pão de Baixo (Previsão): A IA faz o cálculo do risco.
2. Recheio (Explicação): O "tradutor" (SHAP) diz quais números foram importantes.
3. Pão de Cima (Conhecimento): O "Mapa Mental" (Grafos de Conhecimento) pega esses números e os transforma em uma história médica lógica, conectando os pontos como um médico faria.

Resumo Final

Este estudo é um alerta e um convite. Ele diz: "Nós aprendemos muito a fazer a IA prever doenças e a explicar os números. Mas esquecemos de conectar isso ao conhecimento médico real e estruturado".

O autor sugere que, para a medicina do futuro ser realmente segura e útil, precisamos parar de tratar a IA apenas como uma calculadora mágica e começar a integrá-la com o "mapa do conhecimento" que os médicos já usam há séculos. Só assim a tecnologia deixará de ser uma caixa preta e se tornará uma verdadeira parceira de decisão clínica.

Resumo técnico

1. Problema de Pesquisa e Motivação

O Diabetes Mellitus Tipo 2 (DMT2) representa um desafio global de saúde pública, com milhões de casos e custos econômicos elevados. Embora a Inteligência Artificial (IA) e o Aprendizado de Máquina (ML) tenham demonstrado alta precisão na previsão de risco de DMT2, a maioria dos modelos complexos (como XGBoost e Redes Neurais) opera como "caixas-pretas", dificultando a adoção clínica.
A Inteligência Artificial Explicável (XAI) foi proposta para mitigar esse problema, oferecendo interpretações sobre como os fatores de risco contribuem para as previsões. No entanto, o artigo identifica uma lacuna crítica: as explicações atuais baseadas em XAI (como SHAP e LIME) são puramente estatísticas e correlacionais. Elas respondem ao "o quê" (quais variáveis são importantes), mas falham em responder ao "porquê" e "como" em termos de mecanismos fisiopatológicos clínicos. Não há, na literatura atual, uma integração sistemática entre ML, XAI e Grafos de Conhecimento (KG) para criar pipelines de previsão que alinhem estatísticas a caminhos clínicos estruturados.

2. Metodologia

O estudo adota uma abordagem de Revisão Bibliométrica Sistemática, seguindo as diretrizes PRISMA 2020, adaptadas para síntese baseada em metadados.

• Corpus de Dados: Foram analisados 2.048 documentos deduplicados, provenientes de duas bases de dados independentes: Scopus (foco em ciência da computação/engenharia) e PubMed/MEDLINE (foco biomédico/clínico).
• Estratégia de Busca: Combinação de termos de domínio (diabetes, DMT2, risco) e métodos (XAI, SHAP, LIME, interpretabilidade), excluindo subáreas não relacionadas como retinopatia diabética e feridas no pé.
• Processamento de Dados:
  • Pipeline de deduplicação de três níveis (DOI, PMID, correspondência fuzzy de títulos).
  • Análise quantitativa em Python (bibliometria, frequência de palavras-chave, agrupamento temático baseado em regras).
  • Revisão Seletiva: Análise qualitativa profunda de 15 artigos altamente citados para validar as lacunas quantitativas.
• Análise Comparativa: O estudo compara a prevalência de termos de XAI versus termos de Grafos de Conhecimento (KG) e Redes Neurais em Grafos (GNN).

3. Principais Contribuições

1. Análise Bibliométrica Quantitativa: Primeira revisão que quantifica o estado da arte de XAI para previsão de risco de DMT2 em um corpus de duas bases de dados (2.048 documentos).
2. Identificação e Validação da Lacuna KG/GNN: Demonstra estatisticamente que a integração de Grafos de Conhecimento é quase inexistente neste campo específico (apenas ~0,83% dos documentos), criando uma disparidade de 53,3:1 em relação aos métodos de XAI.
3. Proposta de Framework Conceitual: Desenvolve um modelo de três camadas para integrar ML, XAI e KG:
   • Camada Preditiva: ML para previsão de risco.
   • Camada de Explicabilidade: XAI (SHAP) para atribuição de importância de recursos.
   • Camada de Conhecimento: KG para mapear as previsões estatísticas a caminhos fisiopatológicos estruturados (ontologias médicas), fornecendo raciocínio clínico.
4. Diretrizes Metodológicas: Identifica a necessidade de avaliar a estabilidade temporal das explicações e a concordância entre diferentes métodos de XAI em dados clínicos correlacionados.

4. Resultados Chave

• Crescimento Explosivo: O campo cresceu de 36 documentos em 2020 para 866 em 2025, indicando uma fase de maturação acelerada, impulsionada pela popularização do SHAP (2017) e LIME (2016).
• Dominância de Métodos:
  • XAI: SHAP (152 ocorrências) e LIME dominam amplamente.
  • Modelos ML: XGBoost e Random Forest são os modelos mais utilizados.
  • KG/GNN: Apenas 17 ocorrências de termos relacionados a Grafos de Conhecimento no corpus total.
• Disparidade Geográfica: China (2.287), EUA (793) e Índia (578) lideram as publicações. Países da África, Sudeste Asiático e América do Sul estão sub-representados, apesar de carregarem uma grande carga da doença.
• Fontes de Publicação: PLOS ONE e Scientific Reports são as principais fontes, refletindo uma tendência de acesso aberto.
• Revisão Seletiva (15 Artigos): Nenhum dos 15 artigos mais citados combinou simultaneamente ML, XAI sistemático e uma camada de Grafos de Conhecimento. Além disso, 40% dos artigos revisados utilizaram o conjunto de dados PIMA Indians Diabetes (coletado em 1988, n=768), levantando preocupações sobre a validade externa e a maturidade dos dados em comparação com grandes inquéritos populacionais modernos (como BRFSS).

5. Significado e Implicações

• Ponte entre Estatística e Clínica: O estudo argumenta que a explicabilidade clínica real exige ir além da correlação estatística. A integração de KG permite que as previsões sejam contextualizadas em ontologias médicas (ex: UMLS, ICD-10), transformando "BMI contribui 0,34" em "Obesidade leva à resistência à insulina, exacerbada por hipertensão".
• Suporte à Decisão Clínica (CDSS): O framework proposto visa reduzir a carga cognitiva dos clínicos, fornecendo explicações que seguem a lógica fisiopatológica, o que é essencial para a confiança e adoção de ferramentas de IA em ambientes hospitalares.
• Equidade em Saúde: A lacuna geográfica identificada sugere que os modelos atuais podem não ser generalizáveis para populações sub-representadas, exigindo validação em dados demograficamente diversos.
• Futuro da Pesquisa: O artigo estabelece uma agenda clara para a próxima geração de pesquisas: superar barreiras técnicas (custo de construção de KG, falta de benchmarks) e focar na validação de modelos em grandes conjuntos de dados populacionais contemporâneos, integrando conhecimento estruturado à IA explicável.

Em resumo, o artigo não apenas mapeia o estado atual da arte, mas define um caminho crítico para evoluir a IA em saúde de modelos preditivos "caixa-preta" para sistemas de decisão clínica transparentes, baseados em conhecimento médico estruturado.