Efficient Solutions for Mitigating Initialization Bias in Unsupervised Self-Adaptive Auditory Attention Decoding

Resumo Técnico: Soluções Eficientes para Mitigar o Viés de Inicialização em Decodificação de Atenção Auditiva Autoadaptativa Não Supervisionada

Definição do Problema
A Decodificação de Atenção Auditiva (AAD - Auditory Attention Decoding) visa identificar o interlocutor ao qual um usuário está prestando atenção em um ambiente com múltiplos falantes, utilizando sinais de eletroencefalografia (EEG), uma capacidade crítica para aparelhos auditivos controlados por neuroestimulação. Os métodos de estado da arte atuais normalmente requerem treinamento supervisionado com rótulos de verdade fundamental (ground-truth) do falante atendido, o que exige sessões de calibração tediosas para cada usuário e configuração de EEG. Para eliminar essa dependência, foi desenvolvido o método de AAD autoadaptativo não supervisionado baseado na reconstrução de estímulos. Esta abordagem inicializa um decodificador com rótulos de atenção aleatórios e refina o modelo iterativamente usando os novos rótulos previstos.

No entanto, este processo autoadaptativo não supervisionado sofre de viés de inicialização. Como o modelo treina e testa nos mesmos dados ao longo das iterações, ele tende a reforçar previsões iniciais (potencialmente incorretas), fazendo com que o sistema fique preso em um estado subótimo. Embora uma solução anterior de Heintz et al. [8] tenha abordado isso implementando a validação cruzada leave-one-out dentro de cada iteração, esta abordagem introduz uma complexidade computacional substancial que escala linearmente com o número de segmentos de dados ($K$), tornando-a impraticável para aplicações em tempo real ou adaptativas ao tempo.

Metodologia
O artigo propõe três alternativas computacionalmente eficientes baseadas em Análise de Correlação Canônica (CCA) que mitigam o viés de inicialização sem o pesado custo computacional da validação cruzada. Os métodos operam em um cenário de 2 falantes (generalizável para $N$ falantes) onde os sinais de EEG ($X$) e as características de fala ($S_1, S_2$) são processados em segmentos.

1. Versão de Dois Codificadores (Two-Encoder Version):
   Ao contrário do modelo de codificador único de linha de base, que otimiza apenas para as características do falante atendido ($S_a$), esta variante introduz um segundo codificador para as características do falante não atendido ($S_u$). Ambos os codificadores compartilham um único decodificador de EEG ($W_x$). O objetivo é maximizar conjuntamente a correlação entre o EEG e as características de ambos os falantes. A hipótese é que, ao forçar o decodificador a considerar as respostas a ambos os falantes, o modelo torna-se menos suscetível a ser "atraído" por fala erroneamente rotulada, aumentando assim a robustez a erros de rótulo e a capacidade de recuperação de erros iniciais.

2. Versão Suave (Soft Version):
   Em vez de fazer atribuições binárias rígidas (atender ao Falante 1 ou 2) para cada segmento, este método atribui pesos probabilísticos ($p_{1k}, p_{2k}$) baseados na incerteza da previsão. As estatísticas usadas para CCA ($R_{xa}$ e $R_{aa}$) são computadas usando uma soma ponderada das características dos falantes ($p_{1k}S_{1k} + p_{2k}S_{2k}$). As probabilidades são estimadas por meio de uma abordagem não supervisionada específica para o sujeito, que modela a distribuição das correlações canônicas para os falantes atendidos e não atendidos como duas distribuições Gaussianas. Isso fornece um meio-termo principiado, mantendo a estrutura de codificador único ideal enquanto incorpora adaptativamente informações de ambos os falantes quando o modelo está incerto.

3. Codificador Único Inicializado por Soma (Sum-Initialized Single-Encoder):
   Esta abordagem aborda o viés logo no primeiro passo. Em vez de inicializar com rótulos aleatórios, o modelo é treinado na primeira iteração usando um sinal composto formado pela soma das características de ambos os falantes. Isso corresponde a definir as probabilidades iniciais como $p_{1k} = p_{2k} = 0,5$. A hipótese é que isso fornece um ponto de partida informativo que captura respostas neurais comuns a ambos os falantes, evitando o ciclo de viés de rótulo autossustentável que surge de uma inicialização aleatória arbitrária.

Principais Contribuições

• Eficiência Algorítmica: O artigo apresenta três métodos que alcançam desempenho comparável à linha de base de validação cruzada [8], mas com custos computacionais significativamente menores e constantes.
• Escalabilidade: Diferente do método de validação cruzada, cujo tempo computacional escala linearmente com o tamanho do conjunto de dados (exigindo $K$ treinamentos de modelo por iteração), os métodos propostos exigem apenas um único treinamento de modelo por iteração.
• Mitigação de Viés: As variantes propostas conseguem quebrar o ciclo de viés de inicialização inerente à AAD autoadaptativa padrão, permitindo que o modelo convirja para soluções de maior qualidade sem a necessidade de uma dispendiosa validação cruzada no loop interno.

Resultados Experimentais
Os métodos foram avaliados em um conjunto de dados público contendo gravações de EEG de 64 canais de 16 sujeitos atendendo a um de dois falantes concorrentes. O desempenho foi medido tanto em configurações transdutivas (prevendo nos dados de treinamento) quanto indutivas (generalizando para dados não vistos).

• Acurácia:
  • O Codificador Único Inicializado por Soma superou consistentemente o método de Dois Codificadores e foi particularmente eficaz com dados de treinamento limitados (5–15 minutos).
  • A Versão Suave teve um desempenho inferior em conjuntos de dados pequenos, mas aproximou-se da acurácia da variante de validação cruzada conforme o tamanho do conjunto de treinamento aumentava.
  • Em geral, a remoção do viés de inicialização gerou melhorias mais pronunciadas na decodificação transdutiva.
• Custo Computacional:
  • O tempo de CPU da linha de base de validação cruzada escalou linearmente, atingindo aproximadamente 30 vezes o custo da linha de base para conjuntos de treinamento de 45 minutos.
  • Os métodos de Dois Codificadores e Suave mantiveram um tempo de CPU normalizado constante de aproximadamente 1,5× em relação à linha de base, independentemente do tamanho dos dados.
  • O método Inicializado por Soma igualou o custo computacional da linha de base (1,0×).

Significância e Alegações
Os autores afirmam que estas soluções tornam a AAD autoadaptativa não supervisionada significativamente mais viável para implementações em tempo real ou adaptativas ao tempo [9]. Ao eliminar a necessidade de validação cruzada dispendiosa e manter a robustez contra o viés de inicialização, os métodos propostos oferecem um caminho prático para o uso de dispositivos de audição controlados por neuroestimulação sem o ônus de sessões frequentes de calibração rotulada. O artigo enfatiza que, para conjuntos de dados menores, a abordagem Inicializada por Soma é a de melhor desempenho com o mínimo de sobrecarga computacional, enquanto o método de rótulos suaves torna-se competitivo para conjuntos de dados maiores, ofereando uma alternativa de baixo custo ao padrão ouro de validação cruzada.