A Bibliometric Review of Explainable AI in Diabetes Risk Prediction: Trends, Gaps, and Knowledge Graph Opportunities

Este estudio bibliométrico de 1.933 documentos revela un crecimiento exponencial en la aplicación de la IA explicable para la predicción de riesgo de diabetes tipo 2, pero identifica una brecha crítica en la integración de conocimientos médicos estructurados mediante grafos de conocimiento, proponiendo un nuevo marco conceptual para superar la desconexión entre las explicaciones estadísticas y los razonamientos clínicos.

Lo esencial

¡Claro que sí! Imagina que este artículo es como un mapa del tesoro que nos muestra dónde estamos buscando el "tesoro" de la inteligencia artificial para predecir la diabetes, y, lo más importante, nos señala un agujero gigante en ese mapa que nadie ha reparado todavía.

Aquí tienes la explicación en español, usando analogías sencillas:

1. El Problema: La "Caja Negra" Médica

Imagina que tienes un oráculo mágico (una Inteligencia Artificial) que puede decirte con mucha precisión si vas a desarrollar diabetes en el futuro. Es muy bueno adivinando, pero tiene un defecto: no te explica por qué.

• La analogía: Es como si el oráculo te dijera: "Tienes un 80% de probabilidad de enfermarte".
• El médico pregunta: "¿Por qué? ¿Es por mi peso? ¿Por qué no hago ejercicio? ¿Por qué mi genética?"
• El oráculo responde: "No lo sé, simplemente lo calculé".

Esto es un problema. Los médicos necesitan saber el "por qué" para poder ayudarte a cambiar tu estilo de vida. A esto se le llama IA Explicable (XAI). Es como ponerle una linterna a la caja negra para ver qué hay dentro.

2. Lo que hicieron los autores (El Mapa del Tesoro)

El autor, Thieu Anh Van, decidió hacer un censo gigante. Revisó más de 2,000 estudios científicos (como si revisara miles de recetas de cocina) para ver qué están haciendo los investigadores hoy en día para predecir la diabetes con IA.

• Lo que encontraron:
  • El campo está creciendo a una velocidad increíble (como un cohete).
  • La mayoría de los investigadores están usando herramientas muy populares para "iluminar" la caja negra, como SHAP y LIME. Son como linternas muy potentes que dicen: "El peso es el culpable número 1, la presión arterial es el número 2".
  • Funcionan bien, pero solo te dan una lista de culpas estadísticas.

3. El Gran Descubrimiento: El "Agujero" en el Mapa

Aquí viene la parte más interesante. El autor encontró un agujero enorme en la investigación.

• La analogía: Imagina que estás construyendo un puente para cruzar un río (el río es la diabetes).
  • Todos están construyendo pilares muy fuertes (los modelos de IA).
  • Todos están poniendo luces para ver el camino (la IA Explicable).
  • PERO, nadie está poniendo el mapa de la ciudad que explica cómo se conectan las calles, por qué el tráfico se atasca en un punto y cómo arreglarlo.

Ese "mapa de la ciudad" es lo que se llama Grafo de Conocimiento (Knowledge Graph). Es una base de datos que no solo dice "A causa B", sino que explica la historia completa: "La obesidad causa resistencia a la insulina, lo que a su vez causa niveles altos de azúcar, lo que lleva a la diabetes".

• La estadística impactante: De cada 100 estudios, 99 usan linternas (IA Explicable) pero casi ninguno (menos de 1) usa el mapa de la ciudad (Grafos de Conocimiento). Es como si tuvieras un GPS que te dice "gira a la izquierda", pero no te dice que hay un puente caído dos calles más adelante.

4. ¿Por qué es importante este agujero?

Si solo usamos la linterna (IA Explicable), le decimos al médico: "El paciente tiene riesgo porque su índice de masa corporal es alto".
Si usamos el mapa (Grafo de Conocimiento), le decimos: "El paciente tiene riesgo porque su exceso de peso está bloqueando la capacidad de su cuerpo para procesar el azúcar, y su presión alta está empeorando ese bloqueo".

Esto es mucho más útil para un médico porque le da una historia clínica lógica, no solo números fríos.

5. La Propuesta: Un Nuevo Diseño de Puente

El autor propone un nuevo diseño para estos sistemas, como si fuera una casa de tres pisos:

1. Piso 1 (Predicción): La IA calcula el riesgo (el oráculo).
2. Piso 2 (Explicación): La IA dice qué factores son importantes (la linterna).
3. Piso 3 (Conocimiento): Aquí es donde falta todo. Se propone añadir un mapa de relaciones médicas que conecte los factores con la biología real.

El resultado: En lugar de solo decir "Tienes riesgo", el sistema podría decir: "Tu riesgo es alto porque tu estilo de vida está creando una cadena de eventos biológicos (obesidad -> resistencia a la insulina -> diabetes). Si cambiamos X, rompemos esa cadena".

6. Conclusión: ¿Qué nos dice esto?

El artículo nos dice que la tecnología para predecir la diabetes es muy avanzada, pero le falta un poco de "sentido común médico".

• Lo bueno: Sabemos predecir muy bien y sabemos qué factores son importantes.
• Lo que falta: Necesitamos conectar esos factores con la biología real para que los médicos y pacientes entiendan la historia completa y puedan tomar mejores decisiones.

Es como si tuviéramos un coche de carreras muy rápido (la IA), pero nos faltaba el manual de instrucciones que explica cómo funciona el motor para poder repararlo si se avería. Este artículo nos invita a escribir ese manual.

Resumen técnico

1. Problema de Investigación

La diabetes mellitus tipo 2 (DM2) representa una crisis de salud pública global con un aumento proyectado del 45% para 2050. Aunque el Aprendizaje Automático (ML) ha demostrado alta precisión en la predicción de riesgos de DM2, la mayoría de los modelos avanzados (como XGBoost, Random Forest y redes neuronales) operan como "cajas negras". Esto impide su implementación clínica efectiva, ya que los profesionales de la salud requieren no solo predicciones, sino explicaciones transparentes sobre por qué un paciente se clasifica como de alto riesgo.

Aunque existen revisiones sobre ML en diabetes y sobre IA Explicable (XAI) por separado, no existe un análisis cuantitativo que evalúe la integración de tres componentes críticos simultáneamente:

1. Modelos predictivos de ML.
2. Métodos de XAI (para explicar las predicciones).
3. Grafos de Conocimiento (KG) o Redes Neuronales de Grafos (GNN) para proporcionar un razonamiento semántico y patofisiológico estructurado.

El estudio identifica una brecha crítica: las explicaciones estadísticas actuales (ej. "el IMC contribuye 0.32 puntos") no se alinean con las cadenas de razonamiento clínico ni con el conocimiento médico estructurado.

---

2. Metodología

El estudio emplea un enfoque mixto de revisión bibliométrica sistemática y revisión selectiva cualitativa, siguiendo las directrices PRISMA 2020 adaptadas.

• Fuentes de Datos: Se utilizaron dos bases de datos independientes para garantizar la validez: Scopus (enfoque en ciencias de la computación) y PubMed/MEDLINE (enfoque biomédico).
• Estrategia de Búsqueda:
  • Grupo 1 (Dominio): Términos relacionados con diabetes (DM2, riesgo, predicción).
  • Grupo 2 (Método): Términos de IA Explicable (XAI, SHAP, LIME, interpretabilidad).
  • Exclusión: Se filtraron complicaciones oftálmicas (retinopatía) y heridas (pie diabético) para centrarse exclusivamente en la predicción de riesgo basada en datos clínicos estructurados.
• Procesamiento de Datos:
  • Se recuperaron y deduplicaron registros mediante un pipeline de tres niveles (ID, DOI, coincidencia difusa de títulos).
  • Corpus Final: 2,048 documentos únicos.
  • Análisis Cuantitativo: Realizado con Python (pandas, matplotlib). Se analizaron tendencias temporales, distribución geográfica, fuentes de publicación y frecuencia de palabras clave.
  • Clasificación Temática: Se utilizó un clasificador basado en reglas (no clustering automático) para asignar palabras clave a 5 grupos temáticos, incluyendo "Métodos XAI", "Modelos ML" y "KG/Gráficos".
  • Revisión Selectiva: Se examinó en profundidad un subconjunto de 15 artículos altamente citados para validar cualitativamente las brechas cuantitativas.

---

3. Contribuciones Clave

El artículo aporta cuatro contribuciones principales al campo de la informática médica:

1. Análisis Bibliométrico Riguroso: Proporciona la primera síntesis cuantitativa a gran escala (2,048 documentos) sobre la intersección de XAI y predicción de riesgo de DM2, utilizando una validación multi-base de datos.
2. Cuantificación de la Brecha KG/XAI: Identifica y valida empíricamente una disparidad masiva: mientras que los términos de XAI aparecen en 906 ocasiones, los términos de Grafos de Conocimiento (KG/GNN) aparecen solo en 17 documentos (0.83% del corpus), una relación de 53.3:1. Esta brecha es consistente en ambas bases de datos.
3. Propuesta de Marco Conceptual: Introduce un marco de tres capas para integrar ML, XAI y KG:
   • Capa Predictiva: ML para estimar el riesgo.
   • Capa Explicabilidad: XAI (ej. SHAP) para identificar características contribuyentes.
   • Capa de Conocimiento: KG para mapear las características a patrones patofisiológicos estructurados (ej. Obesidad → Resistencia a la insulina → Hiperglucemia).
4. Identificación de Brechas Clínicas: Señala que las explicaciones actuales carecen de "ground truth" clínico y que la mayoría de los estudios utilizan conjuntos de datos pequeños y antiguos (ej. PIMA Indians, 1988) en lugar de encuestas poblacionales modernas (BRFSS, UK Biobank).

---

4. Resultados Principales

• Tendencias Temporales: El campo ha experimentado un crecimiento explosivo, pasando de 36 documentos en 2020 a 866 en 2025. Esto indica que el campo está en una fase de maduración y diversificación, no saturado.
• Dominancia de Métodos:
  • XAI: SHAP domina claramente (152 menciones), seguido por LIME.
  • Modelos ML: XGBoost y Random Forest son los algoritmos más utilizados.
  • Fuentes: PLOS ONE y Scientific Reports son las revistas líderes.
• Distribución Geográfica: China lidera con 2,287 ocurrencias, seguida por EE. UU. e India. Se observa una ausencia notable de contribuciones de países de ingresos bajos y medios (especialmente África y el Sudeste Asiático), a pesar de la alta carga de diabetes en estas regiones.
• La Brecha de Grafos de Conocimiento (KG):
  • Solo el 0.83% de los documentos integra KG/GNN.
  • Ninguno de los 15 artículos revisados en profundidad combinó ML, XAI y KG simultáneamente.
  • Los pocos estudios que tocan KG se centran en descubrimiento de fármacos o enfermedades diferentes, no en la predicción de riesgo poblacional de DM2.
• Limitaciones de los Estudios Actuales: El 40% de los artículos revisados utilizan el conjunto de datos PIMA (768 registros de 1988), lo que cuestiona la generalizabilidad de los hallazgos a poblaciones modernas y diversas.

---

5. Significado e Implicaciones

• Cierre de la Brecha de Interpretabilidad Clínica: El estudio demuestra que las explicaciones puramente estadísticas (SHAP/LIME) son insuficientes para la toma de decisiones clínicas. La integración de KG permite traducir las contribuciones de características en cadenas de razonamiento patofisiológico comprensibles para los médicos (ej. explicar por qué el IMC es un factor de riesgo basándose en la resistencia a la insulina, no solo en la correlación estadística).
• Hacia Sistemas de Soporte a la Decisión Clínica (CDSS) Robustos: El marco propuesto sugiere que los futuros sistemas de IA en salud deben incluir una capa semántica que vincule las predicciones con ontologías médicas estandarizadas (UMLS, ICD-10). Esto reduciría la carga cognitiva de los clínicos y aumentaría la confianza en la IA.
• Equidad en Salud: La falta de investigación en poblaciones subrepresentadas (Sudeste Asiático, África) representa un riesgo de sesgo en los modelos de IA. El estudio insta a priorizar la validación en datos demográficamente heterogéneos.
• Futuro de la Investigación: Se identifica la necesidad urgente de desarrollar benchmarks que combinen datos de salud poblacional con anotaciones de grafos de conocimiento, y de investigar la estabilidad temporal de las explicaciones de XAI a lo largo de los años.

En conclusión, este trabajo no solo cuantifica una brecha metodológica significativa en la literatura actual, sino que proporciona una hoja de ruta conceptual para evolucionar desde la "explicabilidad estadística" hacia una "explicabilidad basada en conocimiento clínico estructurado".