Resumen Técnico: STAGformer para la Predicción de la Demanda de Micro-Movilidad

1. Planteamiento del Problema

La predicción precisa de la demanda a nivel de estación es fundamental para la operación eficiente de los sistemas de bicicletas compartidas, particularmente para el reequilibrio de vehículos y la optimización operativa. Sin embargo, esta tarea enfrenta dos desafíos primordiales en redes urbanas a gran escala:

1. Dependencias Espacio-Temporales Complejas: La demanda está influenciada por fluctuaciones periódicas, estructuras de la red vial, Puntos de Interés (POI) y condiciones climáticas en tiempo real, lo que crea interacciones locales y globales intrincadas.
2. Escalabilidad Computacional: Los enfoques de aprendizaje profundo existentes, particularmente aquellos que utilizan mecanismos de auto-atención estándar (Transformers), sufren una complejidad computacional cuadrática $O((NT)^2)$ con respecto al número de estaciones ($N$) y pasos de tiempo ($T$). Esto los hace impracticables para sistemas de escala urbana. Además, muchos modelos no logran integrar eficazmente factores externos de múltiples fuentes (por ejemplo, clima, POIs), lo que limita la precisión de la predicción.

2. Metodología: STAGformer

El artículo propone STAGformer (Spatio-Temporal Agent Graph Transformer), un modelo diseñado para lograr un modelado global eficiente con una complejidad computacional lineal manteniendo una alta precisión predictiva. La arquitectura integra cuatro módulos centrales:

A. Codificador de Características Espacio-Temporales

Este módulo fusiona características dinámicas de los nodos (conteos históricos de alquiler/devolución) con factores externos globales (clima, tiempo, POIs). Emplea proyecciones lineales para mapear las entradas a una dimensión oculta, las concatena e inyecta codificaciones posicionales temporales y espaciales aprendibles para preservar la información de orden.

B. Módulo de Propagación de Grafos

Para modelar explícitamente las dependencias espaciales locales, este módulo agrega información de los vecinos espaciales. Utiliza una matriz de adyacencia externa (basada en distancias de la red vial) o una estructura de grafo aprendida de forma adaptativa. A través de una propagación de $K$ pasos, captura influencias espaces de orden superior, fusionándolas mediante pesos aprendibles.

C. Módulo de Convolución Temporal

Este módulo ligero captura patrones temporales locales para cada estación. Aplica convoluciones 1D (potencialmente separables en profundidad) a lo largo de la dimensión temporal, mejoradas por conexiones residuales, normalización por lotes (batch normalization) y activación GELU, para extraer patrones de variación a corto plazo antes del modelado global.

D. Módulo de Atención de Agentes (Innovación Principal)

Para abordar la complejidad cuadrática de la auto-atención estándar, STAGformer introduce un mecanismo de atención de agentes de dos pasos con ramas espaciales y temporales separadas:

1. Tokens de Agente: Se introduce un pequeño conjunto de "tokens de agente" aprendibles ($n_s$ para el espacio, $n_t$ para el tiempo, donde $n \ll N, T$).
2. Agregación: Los tokens de agente actúan como consultas (queries) para agregar información global de todos los nodos/pasos de tiempo en un contexto comprimido.
3. Difusión (Broadcasting): Los nodos originales atienden a estos tokens de agente para recibir el contexto global agregado.
4. Diversidad Residual: Se añade una rama de Convolución Separable en Profundidad (DWC) a la salida de la atención espacial para recuperar la diversidad de características potencialmente perdida durante el paso de compresión.

Este mecanismo reduce la complejidad computacional de $O((NT)^2)$ a $O(NT)$, permitiendo el modelado de dependencias espacio-temporales de largo alcance sin el costo prohibitivo de la atención estándar.

3. Principales Contribuciones

El artículo describe tres contribuciones principales:

1. Esquema de Codificación Novedoso: Un diseño que fusiona características dinámicas de los nodos con factores externos globales, mejorando la extracción de patrones tanto globales como locales a través de la propagación de grafos y la convolución temporal.
2. Arquitectura STAGformer: La introducción del mecanismo de atención de agentes en la predicción de la demanda de bicicletas compartidas, logrando una complejidad computacional lineal mientras preserva las capacidades de modelado global.
3. Validación Empírica: Experimentos extensos que demuestran que STAGformer supera a las líneas base de vanguardia en precisión (RMSE y MAE) y ofrece una eficiencia computacional superior.

4. Resultados Experimentales

El modelo fue evaluado en dos conjuntos de datos del mundo real: NYC Citi-Bike y Chicago Divvy-Bike.

• Desempeño: STAGformer superó consistentemente a nueve métodos de referencia, incluyendo Regresión Lineal, GRU, Transformer, GAT y modelos especializados como BikeMAN y STAEformer. Logró el RMSE y MAE más bajos en múltiples horizontes de predicción (por ejemplo, en los datos de NYC, un RMSE de 0.4874 frente a 0.5106 del siguiente mejor modelo).
• Estudios de Ablación: Eliminar cualquier módulo central degradó el desempeño.
  • Eliminar la Atención de Agentes causó la caída más significativa (por ejemplo, +37.9% en RMSE en NYC), confirmando su necesidad para el modelado de dependencias globales.
  • Eliminar las Características Externas provocó errores sustanciales, resaltando la importancia de los datos climáticos y de POI.
  • Eliminar la Propagación de Grafos y la Convolución Temporal también resultó en declives de desempeño medibles, validando la necesidad de un modelado local espacial y temporal explícito.
• Eficiencia: El modelo demostró un escalado lineal con respecto a $N$ y $T$, lo que lo hace factible para el despliegue a gran escala donde los Transformers estándar son computacionalmente inviables.
• Estudios de Caso: Las visualizaciones de los patrones de demanda de NYC confirmaron la capacidad del modelo para capturar flujos de marea (patrones de conmutación entre distritos residenciales y comerciales), desequilibrios espaciales y correlaciones de largo alcance entre estaciones distantes.

5. Significado y Reivindicaciones

El artículo afirma que STAGformer proporciona una solución escalable y precisa para la predicción de la demanda de micro-movilidad en sistemas urbanos a gran escala. Su importancia radica en haber logrado cerrar la brecha entre el poder expresivo de la atención Softmax y la eficiencia lineal requerida para redes de escala ciudad. Al combinar el modelado local basado en grafos con el modelado global basado en agentes, ofrece un marco robusto que no sacrifica la precisión predictiva por la velocidad computacional.

Los autores reconocen limitaciones, señalando la dependencia actual de estructuras de grafos fijas y la necesidad de un ajuste empírico de la cantidad de tokens de agente. Se sugiere como trabajo futuro explorar el aprendizaje de grafos dinámicos, la selección de agentes adaptativa y la aplicación a otros sistemas de micro-movilidad (por ejemplo, patinetes eléctricos).