Autorelevance function and other feature relevance measures for univariate time series

Resumen Técnico: Función de Autorrelevancia y otras Medidas de Relevancia de Características para Series Temporales Univariantes

Planteamiento del Problema
La creciente adopción de modelos de aprendizaje automático para el pronóstico de series temporales ha creado una necesidad crítica de interpretabilidad, particularmente en cuanto a cómo las observaciones rezagadas influyen en las predicciones. Si bien las herramientas estadísticas clásicas como la Función de Autocorrelación (ACF) y la Función de Autocorrelación Parcial (PACF) describen eficazmente las estructuras temporales lineales, son inadecuadas para explicar el comportamiento de los modelos de pronóstico modernos de "caja negra" (por ejemplo, redes neuronales). Los métodos existentes de importancia de características suelen tener dificultades en contextos de series temporales debido a la alta correlación entre los predictores (rezagos o lags) y la falta de estrategias agnósticas al modelo para manejar características "ausentes" en explicaciones basadas en coaliciones. Las técnicas de imputación estándar (por ejemplo, llenado con ceros o medias incondicionales) a menudo fallan al no preservar la dinámica temporal esencial para el pronóstico, lo que conduce a estimaciones de relevancia potencialmente engañosas.

Metodología
Los autores proponen un marco de trabajo agnóstico al modelo para cuantificar la relevancia global de las entradas rezagadas en el pronóstico de series temporales univariantes. La metodología integra dos enfoques primarios: Variables Fantasma y Valores de Shapley, adaptados específicamente para tareas de pronóstico donde las entradas son exclusivamente valores rezagados de la serie.

1. Enfoque de Variables Fantasma (Función de Autorrelevancia - ARF):

   • Adaptado de la metodología de Variables Fantasma, este enfoque evalúa la relevancia de un rezago específico $h$ reemplazando el valor rezagado real $y_{t-h}$ con un valor de imputación "fantasma" $\hat{y}^*_{t-h}$.
   • El valor fantasma es generado por un modelo de imputación auxiliar (específicamente, una regresión lineal múltiple) que predice $y_{t-h}$ utilizando los $p-1$ rezagos restantes.
   • La relevancia se cuantifica comparando el error de predicción del modelo original contra el modelo que utiliza el valor fantasma. Los autores definen dos métricas:
     • ARF$_{MSPD}$: Basada en la Diferencia de Error Cuadrático Medio de Predicción.
     • ARF$_{MSE}$: Basada en el cambio en las contribuciones del Error Cuadrático Medio (MSE).

2. Enfoque de Valores de Shapley (Función de Autorrelevancia Parcial - PARF):

   • Este enfoque trata a los rezagos como jugadores en un juego cooperativo, calculando la contribución marginal promedio de cada rezago a través de todas las coaliciones posibles (subconjuntos de rezagos).
   • Estrategia de Imputación: Una innovación clave es el tratamiento de las características ausentes en una coalición. En lugar de una imputación genérica, los autores proponen reemplazar los rezagos ausentes con un pronóstico de un paso adelante generado por el mismo modelo de pronóstico que se está analizando. Esto preserva la coherencia temporal de la serie.
   • Función de Valor: La función de valor se define basada en la mejora del MSE con respecto a una línea base (media muestral).
   • Métricas:
     • PARF$_{MSE}$: Valores de Shapley estandarizados basados en contribuciones de MSE.
     • PARF$_{MSPD}$: Valores de Shapley estandarizados basados en diferencias de predicción al cuadrado.
   • Eficiencia Computacional: A diferencia de los métodos SHAP locales que requieren análisis de permutación para cada observación, este marco computa la relevancia de forma global promediando sobre la muestra de prueba, lo que reduce significativamente la carga computacional.

Contribuciones Clave

• Nueva Imputación para Series Temporales: El artículo introduce un esquema de imputación de un paso adelante basado en el modelo para manejar características ausentes en métodos de coalición. Esta estrategia alinea el análisis de relevancia con la propia dinámica del modelo de pronóstico, ofreciendo una definición más natural de las coaliciones en entornos secuenciales en comparación con las imputaciones estáticas.
• Relevancia de Rezagos Agnóstica al Modelo: Las medidas ARF y PARF propuestas son aplicables tanto a modelos estadísticos clásicos (por ejemplo, ARMA) como a modelos complejos de caja negra (por ejemplo, Redes Neuronales Recurrentes), proporcionando un marco unificado para la interpretabilidad.
• Integración de Medidas de Importancia Aditivas: El trabajo conecta las necesidades prácticas de la explicabilidad de series temporales con los fundamentos teóricos de las medidas de importancia aditiva (AIM), utilizando específicamente el MSE como la función de pérdida, que es el estándar en el pronóstico.

Resultos
Los autores evaluaron sus propuestas utilizando datos simulados (ARMA lineal, modelos de cambio de régimen no lineales) y un conjunto de datos del mundo real (Pasajeros de Aerolíneas Mensuales).

• Simulaciones Lineales (AR(3) y ARMA(3,3)): En entornos lineales, tanto ARF como PARF identificaron con éxito los rezagos no nulos reales (rezagos 1 y 3), asignando una relevancia insignificante a los rezagos irrelevantes (rezago 2), incluso cuando el modelo ajustado era una red neuronal.
• Simulaciones No Lineales: En un modelo de cambio de régimen no lineal, las medidas de relevancia (particularmente PARF con contribuciones de MSE) identificaron correctamente los rezagos dominantes (1, 12 y 13) que impulsaban el proceso generador de datos, demostando robustez ante la no linealidad.
• Datos Reales (Pasajeros de Aerolíneas): Aplicado al clásico conjunto de datos de pasajeros de aerolíneas, los métodos resaltaron consistentemente los rezagos 1, 12 y 13 como los más relevantes, alineándose con la estructura estacional conocida. Aunque el modelo de red neuronal mostró patrones ligeramente diferentes al SARIMA, las medidas de relevancia capturaron la estructura fundamental de los rezagos.
• Comparación de Imputación: La imputación basada en el modelo de un paso adelante generalmente superó a la imputación lineal en escenarios no lineales y complejos, proporcionando una identificación más clara de las estructuras de rezagos dominantes.

Significancia y Afirmaciones
El artículo afirma que el marco propuesto ofrece una solución práctica y efectiva para interpretar modelos de pronóstico de series temporales. Los autores enfatizan que:

• Los métodos recuperan con éxito las estructuras de rezagos esperadas en casi todos los casos probados, incluyendo redes neuronales de caja negra.
• La estrategia de imputación de un paso adelante proporciona una forma natural de definir coaliciones en entornos secuenciales, evitando la naturaleza heurística de las imputaciones genéricas.
• El enfoque es computacionalmente más eficiente que los métodos SHAP locales estándar, manteniendo la interpretabilidad.
• El marco es particularmente adecuado para series temporales porque respeta el orden temporal y la dinámica de los datos.

Los autores mantienen la modestia respecto a las limitaciones, señalando que la estrategia depende de que el modelo de pronóstico tenga un rendimiento predictivo suficientemente bueno; los modelos deficientes pueden introducir ruido a través del proceso de imputación, lo que lleva a estimaciones de relevancia engañosas. Se sugiere como trabajo futuro explorar formulaciones de relevancia alternativas, la inclusión de predictores exógenos y la extensión a series temporales multivariantes.