Routing on the Stiefel Manifold: When Does Adaptive Subspace Selection Help for Cross-Domain EEG Decoding?

Resumen Técnico: Enrutamiento en la Variedad de Stiefel para la Decodificación de EEG Transdominio

1. Planteamiento del Problema

La decodificación de EEG transdominio sigue siendo un desafío significativo en las Interfaces Cerebro-Computadora (BCI). Aunque los métodos de aprendizaje profundo riemanniano (por ejemplo, SPDNet) han avanzado en el campo al representar las señales neurales como matrices de covarianza en la variedad de Matrices Positivas Definidas Simétricas (SPD), estos tienen dificultades con la alta variabilidad entre sujetos.

• El problema central: Diferentes sujetos ocupan regiones sistemáticamente distintas en la variedad SPD debido a variaciones en la colocación de los electrodos, la conductividad del cuero cabelludo y los patrones neurales.
• La limitación: Los métodos estándar de adaptación de dominio requieren datos de calibración del dominio objetivo o aprenden componentes específicos de cada sujeto que no logran generalizar.
• El desajuste de diseño: Las redes profundas existentes utilizan una proyección de subespacio fija (un único filtro BiMap $W$) para todas las entradas. Esta arquitectura es geométricamente consciente de la estructura de la variedad intra-sujeto, pero es "ciega" a la estructura inter-sujeto. Una única proyección compartida no puede dar cuenta de la región específica de la variedad SPD que ocupa una entrada, lo que conduce a la saturación del rendimiento.

2. Metodología: Pool de Stiefel de Adaptación de Dominio (DASP)

Los autores proponen el Pool de Stiefel de Adaptación de Dominio (DASP), una capa diseñada para enrutar dinámicamente cada matriz de covarianza de entrada hacia un filtro de proyección específico de la muestra en la variedad de Stiefel $St(n, k)$ sin necesidad de reentrenamiento o calibración.

El enfoque ingenuo y su fracaso:
La idea inicial consistía en un pool de $K$ filtros expertos $\{W_j\}$ y el enrutamiento de las entradas mediante un baricentro riemanniano ponderado. Sin embargo, los autores demuestran que una implementación ingenua colapsa en una solución degenerada:

• Colapso del enrutamiento: Los pesos de enrutamiento $\alpha_i$ se vuelven uniformes ($\approx 1/K$) para todas las muestras.
• Consecuencia: El filtro adaptativo se reduce a un único filtro fijo (la media de Fréchet de los expertos). La ganancia de rendimiento observada se debe únicamente a la diversidad del ensamble, no a la adaptación por muestra.
• Mecanismo: Este es un proceso de degeneración de gradiente autorreforzado. Cuando los expertos son similares, la desviación de cualquier experto individual respecto a la media ponderada es insignificante, lo que no proporciona ninguna señal de gradiente para diferenciarlos. El enrutamiento uniforme impide la especialización, lo que a su vez mantiene la similitud.

La solución: Tres correcciones estructurales
Para romper esta degeneración, los autores introducen tres componentes estructurales, inspirados en Learning to Prompt (L2P) para el aprendizaje continuo:

1. Ancla Simétrica ($W_{base}$):

   • En lugar de anclar la interpolación a un baricentro dinámico o a un experto específico (por ejemplo, $W_1$), se introduce un parámetro aprendible dedicado $W_{base} \in St(n, k)$.
   • Función: Elimina el "sesgo de proximidad", asegurando que ningún experto tenga una ventaja geométrica, permitiendo que todos los expertos reciban señales de gradiente iguales para la especialización.

2. Codificador de Consultas Discriminativo de Dominio Congelado (DSP):

   • Los MLP estándar entrenados de extremo a extremo aprenden características discriminativas de clase, lo cual es el sesgo inductivo incorrecto para el enrutamiento (que requiere discriminación de dominio).
   • Función: Se aplica una matriz de proyección congelada ($P_{DSP}$) al espacio tangente de la log-covarianza. Esta matriz se deriva de la matriz de dispersión entre dominios de los datos de entrenamiento. Actúa como un extractor de características fijo que proporciona información de identidad de dominio al mecanismo de enrutamiento, desacoplando este del proceso de optimización de la tarea.
   • Adaptación: Esto solo se habilita cuando la relación tangente-dominio $\rho = \frac{n(n+1)/2}{D}$ es alta (específicamente $\rho > 50$), donde las señales de dominio están enterradas en el ruido de alta dimensión.

3. Pérdida de Alineación de Claves Desacoplada:

   • Entrenar las claves de los expertos únicamente mediante entropía cruzada crea un problema de "objetivo móvil", donde las claves se desplazan para ayudar a la clasificación en lugar de a la identidad de dominio.
   • Función: Una pérdida de alineación separada ($L_{align}$) entrena las claves de los expertos exclusivamente hacia atractores de dominio estables. Utiliza un mecanismo de "ganador se lleva todo" (actualizando solo la clave con el mayor peso de enrutamiento) y un stop-gradient en la consulta para evitar que las claves se desplacen con la tarea de clasificación.

Metodología de Escalamiento Unificado:
Los autores proponen una regla basada en los datos según la razón $\rho$ (dimensión del tangente vs. número de dominios) para determinar automáticamente los hiperparámetros:

• $\rho$ alto ($>50$): El DSP se habilita y la alineación de claves está activa.
• $\rho$ bajo ($\le 50$): El DSP se deshabilita y las claves se entrenan conjuntamente con la tarea.
• Conteo de Expertos ($K$): Escala de forma sublineal con el número de dominios $D$.

3. Contribuciones Clave

• Prueba Teórica: El artículo demuestra que el enrutamiento adaptativo ingenuo en la variedad de Stiefel colapsa en una solución degenerada indistinguible de un filtro fijo, caracterizando el mecanismo de gradiente responsable.
• Métrica Diagnóstica: Introducción del gap de proximidad $K=1$ ($\Delta_{K=1}$), definido como la diferencia de precisión entre el modelo adaptativo y un único filtro fijo (la media del ensamble). Un $\Delta_{K=1}$ positivo es una condición necesaria para probar que el enrutamiento es genuino, distinguiéndolo de la mera promediación de ensamble.
• Capa DASP: Un reemplazo directo para las capas BiMap estándar que integra las tres correcciones estructurales para lograr un enrutamiento genuino y estructurado por dominio.
• Escalamiento Unificado: Una metodología basada en reglas para la selección de hiperparámetros (DSP, pérdida de alineación, $K$) que no requiere ajuste específico del conjunto de datos y se generaliza a través de geometrías contrastantes.
• Extensión: Se describe una extensión teórica a matrices rectangulares de rango completo, lo que permite el escalado de amplitud además de la rotación de subespacio.

4. Resultados Experimentales

El método fue evaluado en tres conjuntos de datos de imaginación motora con dimensiones y conteos de dominios variables:

• Weibo2014: $\rho$ alto (203).
• BNCI2015001: $\rho$ bajo (3.3).
• BNCI2014001: $\rho$ intermedio (28).

Hallazgos Clave:

• Ganancias de Rendimiento: DASP mejoró la precisión balanceada en todos los conjuntos de datos:
  • Weibo2014: $0.773 \to 0.823$
  • BNCI2015001: $0.757 \to 0.809$
  • BNCI2014001: $0.801 \to 0.839$
• Validación del Enrutamiento: Crucialmente, el modelo adaptativo ingenuo mostró un $\Delta_{K=1} \approx 0$ en Weibo2014, confirmando su fallo en el enrutamiento. En contraste, DASP logró un $\Delta_{K=1}$ positivo en 4/5 pliegues (Weibo) y 5/5 pliegues (datasets BNCI), probando que el enrutamiento es genuino.
• Ablación: Eliminar cualquiera de las tres correcciones estructurales (Ancla Simétrica, DSP Congelado o Alineación Desacoplada) resultó en un retorno a la degeneración o en una reducción del rendimiento, confirmando su necesidad.
• Calidad del Enrutamiento: DASP logró una menor entropía de enrutamiento (enrutamiento más "comprometido") y una mayor razón de alineación de dominio en comparación con las líneas base.

5. Significado y Reivindicaciones

El artículo afirma presentar el primer enrutamiento genuinamente comprometido y estructurado por dominio en variedades SPD.

• Aborda la limitación fundamental de las proyecciones de subespacio fijas en la decodificación de EEG transdominio.
• Proporciona un diagnóstico principista (el gap de proximidad $K=1$) para evitar la malinterpretación de la diversidad del ensamble como enrutamiento adaptativo.
• Demuestra que, al tomar principios estructurales de Learning to Prompt (codificadores congelados, pérdidas desacopladas) y adaptarlos a la geometría riemanniana, se puede lograr una adaptación de dominio robusta y sin calibración.
• Los autores enfatizan que su enfoque no requiere datos de calibración del dominio objetivo y no requiere una búsqueda de hiperparámetros específica del conjunto de datos, basándose en su lugar en una única regla de escalamiento basada en datos.