eCP: Equivariant Conformal Prediction with pre-trained models

Resumen Técnico: eCP (Predicción Conformal Equivariante)

1. El Problema

La Predicción Conformal (CP) es un marco post-hoc (después del entrenamiento) y libre de distribuciones para la cuantificación de incertidumbre. Ofrece garantías formales de cobertura (probabilidad de que el valor real esté dentro del conjunto predicho) bajo la suposición de intercambio de datos. Sin embargo, presenta una limitación crítica en aplicaciones de horizonte largo (como la predicción de trayectorias en robótica o navegación autónoma):

• Ineficiencia: A medida que aumenta el horizonte temporal o el nivel de confianza, los conjuntos de predicción (regiones de incertidumbre) se vuelven excesivamente grandes.
• Consecuencia: Las garantías estadísticas se vuelven "poco informativas" porque el conjunto de predicción es tan amplio que no ayuda en la toma de decisiones o planificación segura.
• Causa: Los métodos CP estándar tratan cada muestra de datos de forma aislada, ignorando las simetrías geométricas inherentes al problema (como rotaciones, traslaciones o reflexiones) que podrían reducir la variabilidad de la incertidumbre.

2. Metodología: eCP (Equivariant Conformal Prediction)

Los autores proponen eCP, un procedimiento post-hoc que infunde información geométrica en la CP sin necesidad de reentrenar el modelo ni modificar su arquitectura.

• Concepto Central: En lugar de tratar cada punto de datos como independiente, eCP trata cada muestra como un representante de toda su órbita bajo un grupo de simetría $G$ (ej. grupo de rotaciones planas).
• Procedimiento:
  1. Simetrización de la Puntuación de No Conformidad: Se define un operador de simetrización $\Pi_G$ que promedia la puntuación de no conformidad sobre el grupo de simetría.
  2. Proyección Equivariante: Se construye un predictor "equivariantizado" $f^G_\theta$ promediando las predicciones del modelo preentrenado $f_\theta$ sobre las transformaciones del grupo:
     $$f^G_\theta(x) = \mathbb{E}_{g \sim G} [\psi_g(f_\theta(\phi_{g^{-1}}(x)))]$$
     Donde $\phi$ y $\psi$ son las acciones del grupo en la entrada y salida, respectivamente.
  3. Calibración: Se utilizan las puntuaciones de no conformidad de este predictor simetrizado para calcular los cuantiles de calibración.
• Asumiciones:
  • La distribución de los datos es invariante bajo el grupo $G$ (o aproximadamente invariante).
  • La función de puntuación de no conformidad es convexa en su argumento de predicción.
  • No se requiere que el modelo original sea perfectamente equivariante; la simetría puede ser aproximada o emergente debido al entrenamiento.

3. Contribuciones Clave

1. Propuesta de eCP: Un método general y post-hoc que incorpora simetrías de grupo en la CP mediante la simetrización de las puntuaciones de no conformidad, aplicable a cualquier modelo preentrenado.
2. Análisis Teórico Riguroso:
   • Demuestran que las puntuaciones de no conformidad simetrizadas se contraen en orden convexo creciente ($S^{f^G} \preceq_{icx} S^f$) respecto a las originales.
   • Esto implica una mejora en los límites de cola exponencial (mejores cotas de Chernoff y Hoeffding) y una reducción en la varianza de las puntuaciones.
   • Se prueba que los conjuntos de predicción conformal resultantes son más pequeños (más eficientes) en esperanza, manteniendo las garantías de cobertura finitas.
3. Validación Empírica: Demostración experimental en tareas de predicción de trayectorias de peatones, mostrando reducciones significativas en la incertidumbre, especialmente en niveles de confianza altos.

4. Resultados Experimentales

Los autores evaluaron eCP en benchmarks estándar de predicción de trayectorias (ETH-UCY, Stanford Drone Dataset, SportVU NBA) utilizando dos modelos base muy diferentes:

• SocialVAE: Un modelo estocástico basado en variables latentes.
• TUTR: Un predictor determinista basado en Transformers.

Hallazgos principales:

• Reducción de Incertidumbre: eCP redujo consistentemente el cuantil de calibración (tamaño del conjunto de predicción) en aproximadamente un 28% en comparación con la CP estándar.
• Niveles de Confianza Altos: Las mejoras fueron más pronunciadas en niveles de confianza estrictos (ej. 99%), donde la CP estándar suele ser extremadamente conservadora.
• Mantenimiento de Cobertura: A pesar de los conjuntos más pequeños, la cobertura empírica se mantuvo cerca del nivel nominal (ej. 95% o 99%), validando las garantías teóricas.
• Impacto del Grupo de Simetría: La eficiencia mejoró a medida que aumentaba la riqueza del grupo de simetría ($C_4 < C_8 < SO(2)$), confirmando que una mayor simetrización induce una mayor contracción de la cola de la distribución.
• Independencia del Modelo: El método funcionó igual de bien en modelos estocásticos y deterministas, demostrando su naturaleza agnóstica al modelo.

5. Significado e Impacto

El trabajo de eCP es significativo por varias razones:

• Puente entre Inducción Geométrica y Cuantificación de Incertidumbre: Conecta el sesgo inductivo geométrico (simetrías) con la cuantificación de incertidumbre post-hoc, un área que anteriormente no se había explotado formalmente en CP.
• Eficiencia sin Coste de Entrenamiento: Ofrece una vía para mejorar la utilidad práctica de la CP en sistemas de seguridad crítica (robótica, vehículos autónomos) sin el coste computacional de reentrenar modelos complejos o diseñar arquitecturas equivariantes desde cero.
• Garantías Formales Mejoradas: Proporciona no solo conjuntos más pequeños, sino también mejores garantías teóricas sobre la probabilidad de eventos raros (colas de distribución), lo cual es crucial para la planificación segura a largo plazo.

En conclusión, eCP demuestra que explotar explícitamente las simetrías presentes en los datos puede transformar las estimaciones de incertidumbre de ser "informativas pero vagas" a ser "precisas y formalmente garantizadas", resolviendo uno de los principales cuellos de botella de la predicción conformal en escenarios de horizonte largo.