Towards symbolic regression for interpretable clinical decision scores

Título: Hacia la regresión simbólica para puntuaciones de decisión clínica interpretables

1. El Problema

La toma de decisiones médicas a menudo depende de algoritmos que combinan ecuaciones de riesgo con reglas lógicas (p. ej., sistemas de puntuación como CART o MEWS) para definir vías de tratamiento estandarizadas. Sin embargo, existen limitaciones significativas en los enfoques actuales:

• Regresión Simbólica (RS) Tradicional: Los algoritmos de RS clásicos se limitan a funciones matemáticas continuas y sus parámetros. Esto dificulta la modelización de decisiones basadas en reglas (operaciones de división o "split-wise"), que son fundamentales en la práctica clínica.
• Interpretabilidad vs. Complejidad: Aunque la RS ofrece modelos intrínsecamente interpretables, las expresiones puramente matemáticas pueden ser difíciles de entender para profesionales de la salud sin formación matemática avanzada. Por otro lado, los árboles de decisión son preferidos por su claridad, pero a menudo carecen de la capacidad de optimización no lineal de parámetros que mejora la precisión.
• Brecha de Optimización: Los métodos actuales de RS que logran buenos resultados en física y datos reales dependen de la optimización local de parámetros, pero no pueden incorporar operaciones de división (split) de manera eficiente, ya que optimizar estos parámetros discontinuos es un desafío no resuelto adecuadamente.

2. Metodología: El Algoritmo "Brush"

Los autores proponen Brush, un algoritmo de regresión simbólica basado en programación genética (GP) diseñado para cerrar la brecha entre los modelos de predicción simbólica y las operaciones de división (split-wise), integrando además la optimización no lineal de parámetros.

• Nodo de División Especializado: Brush introduce un operador de nodo de división inspirado en los árboles de decisión. Este nodo tiene tres ramas:
  1. Una subárbol condicional ($f_c$) que evalúa una característica.
  2. Una rama para el caso verdadero ($f_T$).
  3. Una rama para el caso falso ($f_F$).
     El algoritmo busca exhaustivamente la combinación de característica y umbral ($\tau$) que minimiza la varianza total de los valores objetivo en las particiones resultantes.
• Optimización Híbrida: A diferencia de métodos anteriores, Brush permite la optimización no lineal de parámetros (usando el método de Levenberg-Marquardt) incluso en presencia de discontinuidades introducidas por los nodos de división. El proceso de optimización sigue un enfoque heurístico en tres pasos:
  1. Optimizar el subárbol condicional.
  2. Encontrar el umbral óptimo ($\tau^*$) que agrupa los datos.
  3. Ajustar el resto de la expresión (las ramas $f_T$ y $f_F$) utilizando solo los subconjuntos de datos correspondientes, manteniendo fijos los parámetros ya optimizados.
• Estrategias de Programación Genética:
  • Selección y Supervivencia: Utiliza selección $\epsilon$-lexicase y ordenamiento no dominado (NSGA-II) para abordar el problema de optimización multiobjetivo (maximizar rendimiento y minimizar complejidad).
  • Simplificación: Aplica una técnica de simplificación inexacta post-procesamiento para comprimir modelos sin perder rendimiento.
  • Modo de Clasificación: Extiende el algoritmo a tareas de clasificación fijando un nodo de regresión logística en la raíz del árbol, permitiendo la optimización de parámetros de offset.

3. Contribuciones Clave

• Integración de Lógica y Matemáticas: Brush es capaz de derivar modelos que combinan reglas lógicas (divisiones) con funciones matemáticas continuas y optimización de parámetros, algo que los algoritmos de RS tradicionales no hacían eficazmente.
• Rendimiento Pareto-Óptimo: El algoritmo logra un equilibrio superior entre la precisión predictiva y la simplicidad del modelo en comparación con otros métodos de última generación (SotA).
• Aplicabilidad Clínica: Demuestra la capacidad de recrear sistemas de puntuación clínica existentes (CART, MEWS) y generar modelos de clasificación de alto riesgo que son tanto precisos como interpretables, superando las limitaciones de los árboles de decisión puros y los modelos de "caja negra".

4. Resultados

Los experimentos se dividieron en dos conjuntos principales:

• Benchmarks de Regresión Simbólica (SRBench):

  • Se probaron 122 problemas del mundo real y 130 problemas de física sintética (ecuaciones de Feynman y sistemas de Strogatz).
  • Rendimiento: Brush alcanzó un rendimiento Pareto-óptimo, logrando un $R^2 > 0.999$ en más del 50% de las ejecuciones, incluso con altos niveles de ruido.
  • Comparación: Generó expresiones significativamente más pequeñas que PS-Tree y Operon, y superó a FEAT en simplicidad y precisión. Fue robusto al ruido, a diferencia de métodos como AIFeynman.

• Aplicación Clínica (Datos MIMIC-IV):

  • Se utilizaron datos de 10,000 pacientes del departamento de emergencias para tareas de regresión (predecir puntuaciones CART y MEWS) y clasificación (identificar deterioro catastrófico).
  • Regresión: Brush logró un $R^2$ de 1.00 para la presión arterial media (MAP) y puntuaciones competitivas para CART y MEWS, con modelos mucho más pequeños que los árboles de decisión (DT) y Random Forests (RF).
  • Clasificación: En la tarea de predecir deterioro, Brush obtuvo un AUPRC (Área bajo la curva de precisión-llamada) de 0.99 para CART y 0.95 para MEWS, superando a la regresión logística (LR L2) y siendo comparable o superior a los árboles de decisión, pero con modelos más compactos.
  • Interpretabilidad: Los modelos generados por Brush replicaron la lógica de los sistemas de puntuación clínicos (p. ej., priorizando la frecuencia respiratoria y la presión diastólica en CART) y descubrieron umbrales consistentes con el conocimiento médico, todo ello a partir de 77 variables de entrada.

5. Significado e Impacto

El trabajo de Brush representa un avance significativo en la inteligencia artificial aplicada a la salud:

• Puente entre Disciplinas: Logra unir la flexibilidad de la regresión simbólica con la lógica de decisión de los árboles, permitiendo modelos que son matemáticamente precisos y clínicamente interpretables.
• Soporte a la Decisión Clínica: Proporciona una herramienta para desarrollar puntuaciones de riesgo basadas en datos que no solo son precisas, sino que también justifican sus recomendaciones mediante reglas claras, cumpliendo con las directrices de software de apoyo a la decisión clínica.
• Eficiencia y Estabilidad: Los modelos resultantes son estables, compactos y requieren menos recursos computacionales para su despliegue que los modelos de caja negra, facilitando su adopción en entornos clínicos reales donde la transparencia es crítica.

En resumen, Brush demuestra que es posible automatizar la creación de heurísticas clínicas interpretables que rivalizan con los sistemas diseñados manualmente, ofreciendo un equilibrio superior entre rendimiento predictivo y simplicidad estructural.