CORE-Acu: Structured Reasoning Traces and Knowledge Graph Safety Verification for Acupuncture Clinical Decision Support

El artículo presenta CORE-Acu, un marco neuro-simbólico para el soporte de decisiones clínicas en acupuntura que integra trazas de razonamiento estructurado y verificación de seguridad mediante grafos de conocimiento para garantizar la interpretabilidad y eliminar las violaciones de seguridad en la generación de tratamientos.

Lo esencial

Imagina que la medicina tradicional china (acupuntura) es como un juego de ajedrez muy complejo, donde cada movimiento (la aguja en un punto específico) depende de entender profundamente la historia del jugador (los síntomas del paciente) y las reglas invisibles del tablero (la teoría médica).

El problema con las Inteligencias Artificiales actuales (como los modelos de lenguaje grandes o LLMs) es que son como genios del ajedrez que juegan "a ciegas". Pueden mover las piezas muy rápido y hablar con mucha fluidez, pero a veces hacen movimientos peligrosos porque no entienden por qué están moviendo una pieza, solo adivinan cuál podría ser el siguiente paso basado en lo que han leído antes. En medicina, un movimiento "adivinado" puede ser peligroso.

Aquí es donde entra CORE-Acu, la nueva solución propuesta en este artículo. Piensa en CORE-Acu no como un solo cerebro, sino como un equipo de tres expertos trabajando juntos para garantizar que el tratamiento sea seguro y lógico.

1. El "Guion Maestro" (Razonamiento Estructurado)

• El problema: Las IAs normales saltan directamente de "tengo dolor de cabeza" a "ponte esta aguja". Saltan los pasos intermedios. Es como si un chef te diera un plato sin explicarte los ingredientes o el proceso de cocción.
• La solución de CORE-Acu: Han creado un "Guion Maestro" (S-CoT). Obligan a la IA a escribir su pensamiento paso a paso, como un detective:
  1. Primero, identifica el patrón del problema (Diagnóstico).
  2. Luego, explica por qué ocurre (Patología).
  3. Después, decide la estrategia general (Principio de tratamiento).
  4. Finalmente, elige las agujas específicas.
• La analogía: Es como obligar a un estudiante a mostrar todos sus cálculos matemáticos antes de dar la respuesta final. Si el cálculo está mal, el profesor (el sistema) lo ve inmediatamente. Esto hace que la IA sea transparente y no una "caja negra".

2. El "Guardián de las Reglas" (Verificación con Gráfico de Conocimiento)

• El problema: A veces, una IA puede sugerir una aguja que está prohibida para mujeres embarazadas (como el punto "Hegu") o combinar dos agujas que se anulan entre sí. Las IAs normales, al ser probabilísticas, a veces olvidan estas reglas estrictas.
• La solución de CORE-Acu: Han construido un "Guardián de las Reglas" basado en un mapa digital gigante (un Gráfico de Conocimiento) que contiene todas las leyes de seguridad de la acupuntura.
• La analogía: Imagina que la IA es un piloto de avión. El "Guardián" es el control de tráfico aéreo y el sistema de seguridad del avión. Antes de que el piloto (la IA) despegue con su receta, el sistema verifica automáticamente: "¿Hay alguna prohibición de vuelo para esta ruta?". Si hay un conflicto (ej. embarazo), el sistema detiene el despegue inmediatamente y le dice al piloto: "¡Error! Revisa esto".
• El resultado: En las pruebas, mientras otras IAs cometieron errores de seguridad en el 8.5% de los casos, CORE-Acu no cometió ni un solo error.

3. El "Lente de Ajuste Fino" (LMERL)

• El problema: En el lenguaje, las palabras comunes (como "el", "y", "de") aparecen mucho más que las palabras importantes y peligrosas (como los nombres exactos de las agujas). Las IAs suelen aprender mejor las palabras comunes y olvidar las raras pero vitales. Es como si un traductor supiera muy bien decir "hola" pero confundiera los nombres de los medicamentos.
• La solución de CORE-Acu: Han creado una técnica especial llamada LMERL. Es como un lente de aumento que se pone sobre las palabras críticas durante el entrenamiento.
• La analogía: Imagina que estás entrenando a un guardia de seguridad. En lugar de darle la misma importancia a que reconozca una "silla" (palabra común) que a que reconozca un "arma" (palabra crítica), les das doble salario (más atención) si aciertan en el arma. Esto asegura que la IA nunca confunda el nombre de una aguja vital con otra similar, evitando errores por descuido.

En resumen: ¿Qué logra CORE-Acu?

CORE-Acu es como un sistema de seguridad de tres capas para la medicina:

1. Pensamiento claro: Obliga a la IA a explicar su lógica paso a paso (como un estudiante mostrando sus cálculos).
2. Seguridad infalible: Usa un "guardián" digital que bloquea cualquier receta peligrosa antes de que salga (como un control de tráfico aéreo).
3. Precisión quirúrgica: Entrena a la IA para no olvidar los detalles pequeños pero vitales (como un lente de aumento sobre lo importante).

El resultado final: Un sistema que no solo "adivina" un tratamiento, sino que razona como un experto humano, verifica que sea seguro contra reglas estrictas y aprende a no cometer errores en los nombres de las agujas. Esto convierte a la IA en una herramienta confiable y segura para ayudar a los médicos, en lugar de ser un riesgo peligroso.

Resumen técnico

Resumen Técnico: CORE-Acu

1. El Problema

Los Grandes Modelos de Lenguaje (LLM) han mostrado potencial en el soporte de decisiones clínicas (CDS), pero su aplicación en la Medicina Tradicional China (MTC), específicamente en acupuntura, enfrenta barreras críticas:

• Naturaleza de Caja Negra: Los LLMs operan mediante predicción probabilística de tokens, lo que genera razonamientos no trazables y "alucinaciones" (respuestas lingüísticamente plausibles pero clínicamente incorrectas).
• Falta de Trazabilidad Lógica: La práctica de la acupuntura requiere un proceso de razonamiento complejo (Bian Zheng Lun Zhi: diferenciación de síndromes, análisis de patogénesis, principios terapéuticos y selección de puntos). Los modelos actuales suelen saltar estos pasos intermedios, mapeando síntomas directamente a recetas, lo que impide la auditoría clínica.
• Riesgos de Seguridad Críticos: A diferencia de las hierbas, la acupuntura es una intervención física invasiva. Errores en la selección de puntos (ej. usar Hegu en mujeres embarazadas) pueden causar daños graves. Los LLMs estándar carecen de mecanismos deterministas para imponer estas "líneas rojas" de seguridad.
• Desajuste Frecuencia-Importancia: En la optimización estándar (pérdida de entropía cruzada), los tokens de alta frecuencia (palabras funcionales) reciben el mismo peso que entidades críticas de seguridad (nombres de puntos de acupuntura), lo que provoca deriva terminológica y errores en entidades de alto riesgo.

2. Metodología

El autores proponen CORE-Acu (Constrained Ontology Reasoning Engine for Acupuncture), un marco neuro-simbólico que integra razonamiento estructurado con verificación de seguridad basada en grafos de conocimiento. El sistema consta de cuatro componentes principales:

• A. Construcción de Rastros de Razonamiento Estructurado (S-CoT):

  • Se desarrolló el primer dataset de trazas de razonamiento estructurado para acupuntura (Acu-Reasoning, 42,512 muestras).
  • Se impone un esquema estricto que fuerza al modelo a generar una cadena causal explícita: Síntomas $\rightarrow$ Diagnóstico (Bian Zheng) $\rightarrow$ Patología $\rightarrow$ Principio Terapéutico $\rightarrow$ Selección de Puntos.
  • Esto transforma el razonamiento implícito de la MTC en una lógica observable y verificable.

• B. Grafos de Conocimiento (KG) para Gobernanza Simbólica:

  • Se construyó un KG específico de MTC estandarizado (basado en normas ISO y nacionales) que codifica más de 1,200 restricciones de seguridad (contraindicaciones, riesgos anatómicos, incompatibilidades).
  • Este KG actúa como una "verdad simbólica" para un Mecanismo de Veto Simbólico.

• C. Adaptación del Dominio con Pérdida Re-pesada (LMERL):

  • Se introduce la Pérdida Re-pesada de Entidades Coincidentes con el Léxico (Lexicon-Matched Entity-Reweighted Loss - LMERL).
  • Esta función de pérdida reasigna dinámicamente el peso de los gradientes durante el ajuste fino (fine-tuning), amplificando la señal de aprendizaje para entidades críticas de seguridad (nombres de puntos, síndromes) que suelen ser de baja frecuencia pero alta importancia, corrigiendo el desajuste frecuencia-importancia.

• D. Ciclo de Inferencia Neuro-Simbólico Cerrado (Generate-Verify-Revise):

  • Se implementa un bucle de retroalimentación donde el modelo genera una propuesta, un módulo simbólico verifica las violaciones contra el KG, y si se detectan errores (ej. puntos contraindicados), se inyecta una señal de retroalimentación negativa para que el modelo revise la receta.
  • Si el conflicto no se resuelve tras un número máximo de intentos, el sistema activa un "fallback conservador" solicitando confirmación humana, garantizando cero violaciones de seguridad.

3. Contribuciones Clave

1. Dataset S-CoT y Ajuste Fino con Esquema: Creación del primer dataset masivo de trazas de razonamiento estructurado para acupuntura, forzando la explicabilidad de la lógica clínica.
2. Mecanismo de Veto Simbólico: Un módulo de gobernanza que utiliza reglas deterministas (KG) para interceptar y corregir violaciones de seguridad en tiempo real, superando las limitaciones de la generación puramente probabilística.
3. LMERL: Una nueva función de pérdida que mejora la precisión en la generación de entidades críticas de seguridad al re-pesar los gradientes durante el entrenamiento, mitigando la deriva terminológica.

4. Resultados Experimentales

Los experimentos se realizaron en un conjunto de prueba de 1,000 casos ocultos, comparando CORE-Acu con modelos de vanguardia (GPT-4o, Qwen-Max, GLM-4.6) y modelos médicos especializados (HuatuoGPT).

• Calidad de Razonamiento: CORE-Acu superó a todos los baselines en métricas de razonamiento clínico (validez lógica, precisión diagnóstica y lógica patológica) evaluadas por expertos humanos y un juez LLM.
  • Hallazgo crítico: Mientras GPT-4o obtuvo una puntuación perfecta en la receta final (10/10), falló estrepitosamente en la lógica de diagnóstico (2/10), indicando un comportamiento de "respuesta primero, justificación después". CORE-Acu mantuvo coherencia en toda la cadena.
• Precisión de Entidades: CORE-Acu logró la puntuación más alta en Entity-F1 (0.4612), demostrando una menor tasa de alucinación en nombres de puntos y síndromes gracias a LMERL.
• Seguridad (El resultado más destacado):
  • GPT-4o: Tasa de violación de seguridad (SVR) del 8.5%.
  • Qwen-Max: SVR del 4.1%.
  • HuatuoGPT: SVR del 12.0% (lo que indica que la fluidez médica no garantiza seguridad en acupuntura).
  • CORE-Acu: 0/1,000 violaciones observadas (0%). El mecanismo de verificación y corrección (GVR) interceptó y reparó el 100% de las violaciones detectadas en la primera generación.

5. Significado e Impacto

El marco CORE-Acu representa un avance fundamental en la aplicación de IA a la medicina de alto riesgo:

• Auditoría y Confianza: Al hacer explícito el razonamiento causal, permite que los médicos auditen la lógica detrás de una recomendación, cerrando la brecha de confianza de los modelos de caja negra.
• Seguridad Determinista: Demuestra que la combinación de IA neuronal con restricciones simbólicas (KG) es esencial para garantizar la seguridad en intervenciones físicas como la acupuntura, donde la probabilidad no es suficiente.
• Generalización del Método: La estrategia de LMERL y el ciclo de verificación-corrección pueden adaptarse a otras áreas de la medicina donde la precisión terminológica y el cumplimiento de reglas estrictas son vitales.

En conclusión, CORE-Acu establece un nuevo estándar para los sistemas de soporte de decisiones clínicas en MTC, logrando un equilibrio entre la capacidad de generación avanzada de los LLMs y la rigidez de seguridad requerida para la práctica clínica real.