Efficient Solutions for Mitigating Initialization Bias in Unsupervised Self-Adaptive Auditory Attention Decoding

Resumen Técnico: Soluciones Eficientes para Mitigar el Sesgo de Inicialización en la Decodificación de la Atención Auditiva Auto-adaptativa No Supervisada

Planteamiento del Problema
La Decodificación de la Atención Auditiva (AAD, por sus siglas en inglés) tiene como objetivo identificar al interlocutor al que un usuario presta atención en un entorno de múltiples hablantes utilizando señales de electroencefalografía (EEG), una capacidad crítica para los audífonos neurodirigidos. Los métodos de vanguardia actuales suelen requerir un entrenamiento supervisado con etiquetas de verdad de campo (ground-truth) del interlocutor atendido, lo que requiere sesiones de calibración tediosas para cada usuario y configuración de EEG. Para eliminar esta dependencia, se ha desarrollado una AAD auto-adaptativa no supervisada basada en la reconstrucción de estímulos. Este enfoque inicializa un decodificador con etiquetas de atención aleatorias y refina iterativamente el modelo utilizando las etiquetas predichas recientemente.

Sin embargo, este proceso auto-adaptativo no supervisado sufre de un sesgo de inicialización. Debido a que el modelo entrena y prueba sobre los mismos datos a través de las iteraciones, tiende a reforzar las predicciones iniciales (potencialmente incorrectas), lo que provoca que el sistema se estanque en un estado suboptimal. Aunque una solución previa de Heintz et al. [8] abordó esto implementando una validación cruzada de dejar uno fuera (leave-one-out cross-validation) dentro de cada iteración, este enfoque introduce una complejidad computacional sustancial que escala linealmente con el número de segmentos de datos ($K$), lo que lo hace impracticable para aplicaciones en tiempo real o adaptativas en el tiempo.

Metodología
El artículo propone tres alternativas computacionalmente eficientes basadas en el Análisis de Correlación Canónica (CCA) que mitigan el sesgo de inicialización sin la pesada carga computacional de la validación cruzada. Los métodos operan en un escenario de 2 interlocutores (generalizable a $N$ interlocutores) donde las señales de EEG ($X$) y las características del habla ($S_1, S_2$) se procesan en segmentos.

1. Versión de Dos Codificadores (Two-Encoder):
   A diferencia del modelo base de un solo codificador que solo optimiza las características del interlocutor atendido ($S_a$), esta variante introduce un segundo codificador para las características del interlocutor no atendido ($S_u$). Ambos codificadores comparten un único decodificador de EEG ($W_x$). El objetivo es maximizar conjuntamente la correlación entre el EEG y las características de ambos interlocutores. La hipótesis es que, al forzar al decodificador a contabilizar las respuestas a ambos interlocutores, el modelo se vuelve menos susceptible de ser "atraído" por el habla erróneamente etiquetada como atendida, aumentando así la robustez ante errores de etiqueta y la capacidad de recuperarse de errores iniciales.

2. Versión Suave (Soft Version):
   En lugar de realizar asignaciones binarias estrictas (atender al Interlocutor 1 o 2) para cada segmento, este método asigna pesos probabilísticos ($p_{1k}, p_{2k}$) basados en la incertidumbre de la predicción. Las estadísticas utilizadas para CCA ($R_{xa}$ y $R_{aa}$) se calculan utilizando una suma ponderada de las características de los interlocutores ($p_{1k}S_{1k} + p_{2k}S_{2k}$). Las probabilidades se estiman mediante un enfoque específico para el sujeto, no supervisado, que modela la distribución de las correlaciones canónicas para los interlocutores atendidos y no atendidos como dos distribuciones gaussianas. Esto proporciona un punto medio fundamentado, manteniendo la estructura óptima de un solo codificador e incorporando de manera adaptativa información de ambos interlocutores cuando el modelo presenta incertidumbre.

3. Codificador Único con Inicialización por Suma (Sum-Initialized Single-Encoder):
   Este enfoque aborda el sesgo desde el primer paso. En lugar de inicializar con etiquetas aleatorias, el modelo se entrena en la primera iteración utilizando una señal compuesta formada por la suma de las características de ambos interlocutores. Esto corresponde a establecer las probabilidades iniciales como $p_{1k} = p_{2k} = 0.5$. La hipótesis es que esto proporciona un punto de partida informativo que captura las respuestas neurales comunes a ambos interlocutores, evitando el sesgo de etiqueta autosostenido que surge de una inicialización aleatoria arbitraria.

Contribuciones Clave

• Eficiencia Algorítmica: El artículo presenta tres métodos que logran un rendimiento comparable al modelo base de validación cruzada [8] pero con costos computacionales significativamente menores y constantes.
• Escalabilidad: A diferencia del método de validación cruzada, cuyo tiempo computacional escala linealmente con el tamaño del conjunto de datos (requiriendo $K$ entrenamientos de modelos por iteración), los métodos propuestos requieren un solo entrenamiento de modelo por iteración.
• Mitigación del Sesgo: Las variantes propuestas logran romper el ciclo de sesgo de inicialización inherente a la AAD auto-adaptativa estándar, permitiendo que el modelo converja a soluciones de mayor calidad sin la necesidad de una costosa validación cruzada en el bucle interno.

Resultados Experimentales
Los métodos fueron evaluados en un conjunto de datos público que contiene grabaciones de EEG de 64 canales de 16 sujetos que prestaban atención a uno de dos interlocutores competidores. El rendimiento se midió tanto en entornos transductivos (predicción sobre los datos de entrenamiento) como inductivos (generalización a datos no vistos).

• Precisión (Accuracy):
  • El Codificador Único con Inicialización por Suma superó consistentemente al método de Dos Codificadores y fue particularmente efectivo con datos de entrenamiento limitados (5–15 minutos).
  • La Versión Suave tuvo un rendimiento inferior en conjuntos de datos pequeños, pero se acercó a la precisión de la variante de validación cruzada a medida que aumentaba el tamaño del conjunto de entrenamiento.
  • En general, la eliminación del sesgo de inicialización produjo mejoras más pronunciadas en la decodificación transductiva.
• Costo Computacional:
  • El tiempo de CPU del modelo base de validación cruzada escaló linealmente, alcanzando aproximadamente 30 veces el costo del modelo base para conjuntos de entrenamiento de 45 minutos.
  • Los métodos de Dos Codificadores y Versión Suave mantuvieron un tiempo de CPU normalizado constante de aproximadamente 1.5× respecto al modelo base, independientemente del tamaño de los datos.
  • El método de Inicialización por Suma igualó el costo computacional del modelo base (1.0×).

Significancia y Reivindicaciones
Los autores afirman que estas soluciones hacen que la AAD auto-adaptativa no supervisada sea significativamente más viable para implementaciones en tiempo real o adaptativas en el tiempo [9]. Al eliminar la necesidad de una costosa validación cruzada y mantener la robustez contra el sesgo de inicialización, los métodos propuestos ofrecen una vía práctica para el despliegue de dispositivos de audición neurodirigidos sin la carga de sesiones de calibración frecuentes y etiquetadas. El artículo enfatiza que, para conjuntos de datos más pequeños, el enfoque de Inicialización por Suma es el de mejor rendimiento con un costo computacional mínimo, mientras que el método de etiquetas suaves se vuelve competitivo para conjuntos de datos más grandes, ofreciando una alternativa de bajo costo al estándar de oro de la validación cruzada.