Resumo Técnico: Aprendizado de Representação Hierárquica Autossupervisionada para Detecção de Depressão em Fala

Definição do Problema

A detecção de depressão baseada na fala (SDD - Speech-based Depression Detection) visa fornecer uma alternativa não invasiva e escalável às avaliações clínicas tradicionais. Embora a depressão se manifeste na fala por meio de características sutis, heterogêneas e temporalmente esparsas (ex: redução da variabilidade do tom, articulação mais lenta, conteúdo semântico negativo), os métodos automatizados existentes têm dificuldade em capturar esses indicadores robustos de forma eficaz.

As abordagens atuais enfrentam duas limitações primárias:

1. Utilização Inadequada de Características: A maioria dos métodos depende de modelos de aprendizado autossupervisionado (SSL) (ex: Wav2Vec 2.0, HuBERT, WavLM), mas extrai características de uma única camada. Essa prática trata as camadas de SSL como intercambiáveis, negligenciando a natureza complementar dos padrões acústicos de baixo nível (camadas rasas) e das informações semânticas de alto nível (camadas profundas).
2. Esparsidade Temporal: As pistas relacionadas à depressão são distribuídas irregularmente no tempo. A supervisão padrão em nível de quadro (frame-level) ou de enunciado (utterance-level) frequentemente falha em modelar essa estrutura temporal esparsa sem exigir anotações de nível de quadro dispendiosas.

Metodologia: HAREN-CTC

Os autores propõem o HAREN-CTC, um framework projetado para modelar explicitamente as interações entre representações acústicas e semânticas dentro de um enunciado. A arquitetura consiste em três componentes principais:

1. Codificador de Representação Adaptativa Hierárquica (HAREN)

Este módulo estrutura as representações SSL multicamadas em subespaços distintos e as funde de forma assimétrica.

• Agrupamento Suave Hierárquico Adaptativo (Hierarchical Adaptive Soft Grouping): Em vez de selecionar manualmente uma única camada, o modelo utiliza uma matriz de atribuição aprendível para particionar as camadas de SSL em subespaços "rasos" (focados em acústica) e "profundos" (ricos em semântica). Isso é inicializado com um prior suave (decaimento exponencial), mas permanece totalmente aprendível, permitindo que o modelo pese adaptativamente as camadas com base em sua contribuição para a detecção de depressão.
• Fusão por Atenção Cruzada Condicionada Semanticamente: O modelo emprega um mecanismo de atenção cruzada assimétrica onde as representações semânticas profundas atuam como consultas (queries), e as representações acústicas rasas atuam como chaves (keys) e valores (values). Esse design força o modelo a interpretar pistas acústicas refinadas (ex: prosódia, fluência) dentro do contexto do significado semântico, em vez de fundi-las indiscriminadamente.

2. Geração de Alvos de Pseudo-Tokens

Para permitir a supervisão temporal sem rótulos de nível de quadro, o framework gera pseudo-rótulos:

• Representações ocultas de nível de quadro de um modelo SSL pré-treinado (especificamente a 12ª camada do HuBERT) são agrupadas via $k$-means por enunciado.
• Duplicatas consecutivas são colapsadas para formar uma sequência discreta compacta.
• Um deslocamento condicional à classe (class-conditional offsetting) é aplicado: enunciados não depressivos usam rótulos $\{0, \dots, k-1\}$, enquanto enunciados depressivos usam $\{k, \dots, 2k-1\}$. Isso garante a separação no espaço de alvos, aumentada por um símbolo de preenchimento (blank), criando um vocabulário de $2k+1$ símbolos.

3. Objetivo de Otimização

O modelo é treinado com uma função de perda de objetivo duplo:

• Objetivo Primário: Classificação binária de nível de enunciado usando perda de Entropia Cruzada Binária (BCE).
• Objetivo Auxiliar: Perda de Classificação Temporalmente Conectada (CTC). Isso atua como um regularizador da estrutura temporal, incentivando o modelo a organizar características relacionadas à depressão em eventos temporais estáveis sem a necessidade de anotações explícitas de nível de quadro. A perda total é $L = L_{BCE} + \lambda L_{CTC}$.

Principais Contribuições

1. Modelagem Hierárquica: O artigo introduz uma abordagem principiológica para desconectar e realinhar informações acústicas e semânticas de modelos SSL, indo além da extração de características de camada única para modelar suas interações entre níveis.
2. Fusão Assimétrica: Ao usar representações semânticas para consultar características acústicas, o framework captura como os padrões acústicos se manifestam de forma diferente dependendo do contexto semântico, abordando a heterogeneidade da fala depressiva.
3. Supervisão Temporal Fraca: A integração do CTC com a geração de pseudo-tokens permite que o modelo aprenda estruturas temporais de pistas depressivas esparsas sem o custo laborioso de anotações de nível de quadro.

Resultados Experimentais

O framework foi avaliado em dois conjuntos de dados de referência: DAIC-WOZ (Inglês) e MODMA (Mandarim).

Avaliação do Limite Superior de Desempenho (Upper-Bound)

Usando divisões oficiais fixas (protocolo AVEC 2017 para DAIC-WOZ):

• DAIC-WOZ: O HAREN-CTC alcançou um F1 Macro de 0,81, superando baselines como DepAudioNet (0,61), SpeechFormer (0,69) e DMPF (0,80).
• MODMA: O modelo alcançou um F1 Macro de 0,82, superando o melhor baseline (DMPF com 0,76).

Avaliação de Generalização

Usando validação cruzada de 5 dobras estratificada por sujeito rigorosa (repetida em 5 sementes) para avaliar a robustez:

• DAIC-WOZ: O HAREN-CTC alcançou um F1 Macro de 0,576, superando significativamente o DepAudioNet (0,533) e o SpeechFormer (0,533). Testes estatísticos (testes t pareados e bootstrap) confirmaram melhorias significativas na Precisão Macro e no AUC.
• MODMA: O modelo alcançou um F1 Macro de 0,644, comparado a 0,557 do DepAudioNet.
• Observação: Embora o desempenho tenha caído do cenário de limite superior para o de generalização (um desafio comum em SDD), o HAREN-CTC manteve superioridade em estabilidade e menor variância em comparação aos baselines, sugerindo uma melhor mitigação do sobreajuste (overfitting) a características específicas do sujeito.

Estudos de Ablação

• Importância dos Componentes: Remover o módulo HAREN causou uma queda significativa no desempenho (ex: de 0,58 para 0,50 na generalização no DAIC-WOZ), confirmando a necessidade da desconexão hierárquica. Remover o ramo CTC também reduziu o desempenho, validando a utilidade da regularização temporal.
• Sensibilidade de Camada: Baselines de camada única mostraram alta variância (F1 Macro variando de 0,38 a 0,70 dependendo da camada), enquanto o modelo completo HAREN-CTC superou consistentemente a melhor camada única, provando que nenhuma camada única codifica informação suficiente.

Significância e Alegações

O artigo afirma que o HAREN-CTC oferece uma abordagem mais objetiva e escalável para a avaliação da depressão ao refletir melhor como as características depressivas se manifestam na fala natural. Os autores sustentam que:

• A Interação Hierárquica é Crítica: As pistas relacionadas à depressão não estão confinadas aos domínios acústico ou semântico, mas emergem de sua interação. Modelar explicitamente essa interação produz representações mais robustas do que a simples seleção ou fusão de características.
• Robustez à Variabilidade: O framework demonstra melhor generalização entre diferentes idiomas (Inglês vs. Mandarim) e estilos conversacionais, sugerindo que captura padrões relevantes para a depressão que são invariantes, em vez de vieses específicos de conjuntos de dados.
• Eficiência: O uso de pseudo-rótulos e supervisão auxiliar de CTC permite um treinamento eficaz sem o custo proibitivo de anotações de nível de quadro, tornando a abordagem mais prática para implantação no mundo real.

Os autores concluem que, embora o modelo performe bem sob dados limitados, trabalhos futuros podem explorar estratégias de aumento de dados e estender a modelagem de nível de enunciado para interações de diálogo/sessão de longo contexto para capturar trajetórias emocionais.