Resumen Técnico: Aprendizaje Centrado en la Decisión mediante Proyección en el Espacio Tangente del Error de Predicción

1. Planteamiento del Problema

En los pipelines de "predecir luego optimizar", un modelo predictivo estima parámetros (por ejemplo, vectores de costos) para un problema de optimización aguas abajo, que luego calcula una decisión final. El Aprendizaje Centrado en la Decisión (DFL) tradicional busca entrenar predictores para minimizar el arrepentimiento (regret)—la suboptimalidad incurrida al actuar sobre parámetros predichos en lugar de los verdaderos—en lugar de simplemente minimizar el error de predicción (por ejemplo, el Error Cuadrático Medio, MSE).

Sin embargo, calcular el gradiente del arrepentimiento con respecto a los parámetros del predictor es un desafío. Los enfoques existentes enfrentan limitaciones significativas:

• Capas de Optimización Diferenciables: Los métodos que diferencian a través de las iteraciones del solver (por ejemplo, mediante condiciones KKT) pueden ser computacionalmente costosos, numéricamente inestables (debido a sistemas lineales mal condicionados) y dependientes del solver.
• Funciones de Pérdida Sustitutas: Los métodos que utilizan sustitutos convexos (por ejemplo, SPO+) o estimadores perturbados a menudo se desvían del objetivo real de arrepentimiento, pueden carecer de generalidad más allá de costos lineales o requerir llamadas adicionales al solver.

El artículo aborda la necesidad de un método que calcule gradientes de arrepentimiento verdaderos de manera eficiente, sin diferenciar a través de iteraciones del solver ni depender de objetivos proxy, manteniendo al mismo tiempo la estabilidad numérica.

2. Metodología: PEAR

Los autores proponen PEAR (Error Proyectado como Gradiente de Arrepentimiento), un método fundamentado en la caracterización geométrica de los gradientes de arrepentimiento bajo condiciones de regularidad estándar.

Fundamento Teórico

Bajo los supuestos de convexidad estricta, Calificación de Independencia Lineal de las Restricciones (LICQ) y Holgura Complementaria Estricta, el conjunto activo de restricciones en la solución óptima permanece localmente estable bajo pequeñas perturbaciones. Dentro de esta región, el artículo establece que el gradiente de arrepentimiento admite una caracterización geométrica en forma cerrada:
$$\nabla_{\hat{c}} R(\hat{c}; c) = P_H (\hat{c} - c) = P_H e$$
donde:

• $e = \hat{c} - c$ es el error de predicción.
• $P_H$ es un operador de sensibilidad definido como $P_H = H^{-1} - H^{-1}J^\top(JH^{-1}J^\top)^{-1}JH^{-1}$.
• $H$ es el Hessiano de la función objetivo (curvatura local).
• $J$ es el Jacobiano de las restricciones activas.

Interpretación Geométrica: El gradiente de arrepentimiento es equivalente al error de predicción proyectado sobre el espacio tangente de las restricciones activas, escalado por la curvatura local. Esto implica que la señal de aprendizaje filtra los componentes "irrelevantes para la decisión" del error (aquellos ortogonales a la región factible) y retiene únicamente los componentes que influyen en la decisión.

Implementación Algorítmica

PEAR calcula este gradiente sin formar explícitamente el operador de proyección denso $P_H$. En su lugar, utiliza un sistema lineal reducido derivado de las restricciones activas:

1. Paso Adelante: Resolver el problema de optimización para obtener la solución primal-dual e identificar el conjunto activo $\mathcal{A}$ mediante holgura complementaria.
2. Paso Atrás:
   • Calcular el error de predicción $e$.
   • Resolver un sistema lineal compacto de $k \times k$ (donde $k$ es el número de restricciones activas) utilizando una reducción de complemento de Schur: $(JH^{-1}J^\top)v = JH^{-1}e$.
   • Reconstruir el gradiente proyectado: $g = H^{-1}e - H^{-1}J^\top v$.

Manejo de Programas Lineales (PL): Dado que los PL carecen de curvatura ($H$ es singular) y tienen mapas de solución constantes por tramos, PEAR añade un pequeño término de regularización cuadrática ($\phi(z) = \frac{\lambda}{2}\|z\|^2$) para garantizar la diferenciabilidad. Para evitar que el gradiente se anule en regiones planas, PEAR emplea inyección normal, añadiendo selectivamente un componente controlado del gradiente del espacio normal a la proyección tangente para estabilizar el aprendizaje.

3. Contribuciones Clave

1. Caracterización Geométrica: El artículo establece una relación geométrica explícita entre el error de predicción y los gradientes de arrepentimiento, mostrando que los gradientes de arrepentimiento son simplemente gradientes de MSE filtrados para eliminar direcciones irrelevantes para la decisión.
2. Cálculo Eficiente (PEAR): El método propuesto calcula gradientes de arrepentimiento mediante un sistema lineal reducido sobre restricciones activas. Esto evita diferenciar a través de iteraciones del solver, elimina la necesidad de funciones de pérdida sustitutas y mejora la estabilidad numérica en comparación con las capas diferenciables existentes.
3. Rendimiento Empírico: PEAR demuestra una calidad de decisión superior y una eficiencia de entrenamiento en benchmarks sintéticos de Programación Lineal (PL) y en una tarea real de optimización de carteras mediante Programación Cuadrática (PC).

4. Resultados Experimentales

Los autores evaluaron PEAR frente a líneas base que incluyen MSE (dos etapas), SPO+, DBB, PFYL y LAVA.

• Benchmarks Sintéticos de PL (Camino Más Corto y Mochila):

  • Arrepentimiento: PEAR logró el arrepentimiento normalizado más bajo a través de diversos grados polinomiales de generación de costos, superando o igualando a todas las líneas base.
  • Eficiencia: PEAR fue consistentemente el más eficiente computacionalmente, entrenando a menudo significativamente más rápido que las capas diferenciables (por ejemplo, 2 veces más rápido que SPO+ en Camino Más Corto) y evitando tiempos de espera que afectaron a otros métodos en instancias complejas de Mochila.
  • Robustez: Bajo ruido multiplicativo en la generación de costos, PEAR mantuvo el arrepentimiento más bajo, demostrando robustez ante la mala especificación del modelo.

• PC del Mundo Real (Optimización de Cartera Media-Varianza):

  • En datos del S&P 100, PEAR logró el arrepentimiento normalizado más bajo y tradujo esto en un rendimiento de cartera realizado superior, incluyendo los mayores rendimientos acumulados/anualizados, la mejor relación de Sharpe y el menor drawdown máximo.
  • PEAR fue más rápido que las capas de PC diferenciables (QPTH, CvxpyLayers) y exhibió gradientes más estables, lo que llevó a un mejor rendimiento fuera de la muestra.

• Desplazamientos de Restricciones:

  • El artículo probó la robustez cuando las restricciones en tiempo de prueba difirieron de las de entrenamiento (por ejemplo, cambiar pares origen-destino en Camino Más Corto, ajustar la capacidad de la Mochila o permitir ventas en corto en carteras).
  • PEAR se degradó consistentemente menos entre los métodos DFL y mantuvo el arrepentimiento más bajo, lo que sugiere que aprende estructuras de costos transferibles en lugar de memorizar rutas óptimas específicas.

5. Significado y Afirmaciones

El artículo afirma que PEAR proporciona una alternativa más simple y directa a los enfoques DFL existentes al revelar que los gradientes de arrepentimiento están estructuralmente relacionados con los errores de predicción mediante proyección en el espacio tangente.

• Interpretabilidad: El método aclara por qué ciertos componentes del error importan para las decisiones (aquellos en el espacio tangente) y cuáles no (aquellos en el espacio normal).
• Eficiencia y Estabilidad: Al desacoplar el solver hacia adelante del cálculo hacia atrás mediante un sistema lineal reducido, PEAR evita la sobrecarga computacional y la inestabilidad numérica asociadas con la diferenciación a través de solvers complejos.
• Generalidad: El enfoque se aplica a problemas de optimización con objetivos lineales o cuadráticos, ofreciendo un gradiente de arrepentimiento determinista sin requerir estimación basada en perturbaciones ni llamadas adicionales al solver.

Los autores concluyen que PEAR logra una calidad de decisión superior con un tiempo de entrenamiento reducido y una mayor robustez bajo desplazamientos de restricciones, ofreciendo un marco principista y eficiente para el Aprendizaje Centrado en la Decisión.