Domain-Agnostic Feature Modulation for Semi-Supervised Domain Generalization

Resumo Técnico: Modulação de Características Agnóstica a Domínios para Generalização de Domínio Semi-Supervisionada

Declaração do Problema
A Generalização de Domínio Semi-Supervisionada (SSDG) visa melhorar a generalização do modelo para domínios alvo não vistos, aproveitando uma pequena fração de dados rotulados juntamente com abundantes dados não rotulados. Embora os métodos existentes de SSDG frequentemente dependam de rotulagem pseudo (PL) para dados não rotulados, eles geralmente assumem o acesso a rótulos de domínio durante o treinamento — um privilégio nem sempre disponível em cenários do mundo real. Além disso, as mudanças de domínio introduzem "ruído de domínio", levando a rótulos pseudo inconsistentes que degradam o desempenho do modelo. Métodos derivados de bases de aprendizado semi-supervisionado frequentemente sofrem com baixa precisão de rótulos pseudo, limitando a utilização efetiva de dados não rotulados. Existe um dilema fundamental: reduzir o limiar de confiança para utilizar mais dados não rotulados aumenta o ruído, enquanto manter um limiar alto descarta dados valiosos. Este artigo aborda o cenário de SSDG agnóstica a rótulos de domínio, onde os rótulos de domínio para dados não rotulados não estão disponíveis durante o treinamento.

Metodologia
A abordagem proposta introduz um novo framework composto por quatro componentes-chave: Representações Médias Similares (SAR), um Modulador de Características, Rotulagem Pseudo usando características moduladas e uma função de Escalonamento de Perda com estimativa de incerteza.

1. Representações Médias Similares (SAR):
   Para mitigar o impacto de informações específicas de domínio, os autores definem protótipos de classe ($P_c$) baseados exclusivamente em rótulos de classe, tornando-os agnósticos a domínios. Diferentemente de métodos que calculam médias de características entre domínios usando rótulos de domínio, esta abordagem calcula as SARs ($R_c$) ponderando os protótipos de classe com base em sua similaridade cosseno. Isso cria uma representação que enfatiza sinais específicos da classe enquanto suprime variações relacionadas ao domínio (por exemplo, fundo, textura). As SARs servem como um alvo robusto para modulação de características.

2. Modulação de Características:
   Uma matriz moduladora de características aprendível ($M$) é introduzida para misturar características específicas da instância ($z$) com as SARs ($R$). A característica modulada $Z_m$ é calculada como:
   $$Z_m = M \odot Z + (1 - M) \odot R$$
   A matriz $M$ é inicializada com base na variância das características dentro de cada classe (características com alta variância, provavelmente específicas de domínio, são subponderadas) e é atualizada durante o treinamento via uma função de perda diagonal. Este processo desloca as características em direção às suas SARs, incentivando o extrator de características a formar representações agrupadas e invariantes a domínios, e forçando o classificador a distinguir entre classes intimamente relacionadas, focando em características únicas específicas da classe, em vez de características compartilhadas ou específicas de domínio.

3. Rotulagem Pseudo com Características Moduladas:
   Para gerar rótulos pseudo mais precisos, as características de amostras não rotuladas são moduladas em direção à SAR de cada classe antes de serem passadas pelo classificador. A classe que produz a maior pontuação de confiança nessas características moduladas é atribuída como o rótulo pseudo. Esta estratégia reduz a interferência de domínio durante o processo de rotulagem, resultando em rótulos pseudo de maior qualidade.

4. Estimativa de Incerteza e Escalonamento de Perda:
   Para abordar o trade-off entre utilização de dados e ruído de rótulos, os autores empregam dropout de Monte Carlo (MC) para estimar a incerteza dos rótulos pseudo. Eles introduzem uma função de escalonamento de perda ($l_{scale}$) dinâmica que ajusta a contribuição de cada rótulo pseudo com base em sua confiança ($p_{max}$) e incerteza ($\sigma$). Isso permite que o modelo incorpore rótulos pseudo de menor confiança de maneira controlada, aumentando a "taxa de retenção" (a proporção de dados não rotulados utilizados) sem introduzir ruído significativamente.

Principais Contribuições

• Modulador de Características: Uma estratégia que aprimora características discriminativas de classe e suprime informações específicas de domínio sem depender de rótulos de domínio, levando a rótulos pseudo mais precisos.
• Função de Escalonamento de Perda: Um mecanismo que ajusta dinamicamente a influência dos rótulos pseudo com base na confiança e incerteza, otimizando a utilização de dados não rotulados enquanto mitiga o ruído de rótulos.
• Cenário Agnóstico a Rótulos de Domínio: O método aborda o problema de SSDG em um cenário mais desafiador onde rótulos de domínio não estão disponíveis, demonstrando eficácia em quatro benchmarks principais.

Resultados Experimentais
O método foi avaliado em quatro benchmarks padrão de Generalização de Domínio: PACS, OfficeHome, VLCS e DigitsDG, sob configurações de 5 e 10 rótulos.

• Desempenho: O método proposto (FM) alcançou melhorias consistentes sobre a forte base FixMatch, com aumentos médios de precisão de 3,3% (configuração de 10 rótulos) e 4,3% (configuração de 5 rótulos) entre os conjuntos de dados.
• Ganhos Específicos: Melhorias notáveis foram observadas em OfficeHome (57,2% e 61,0% para 5 e 10 rótulos), VLCS (75,5% e 75,3%) e DigitsDG (73,0% para 10 rótulos).
• Análise de Componentes: Estudos de ablação confirmaram que o modulador de características melhora a precisão dos rótulos pseudo, enquanto a função de escalonamento de perda aumenta significativamente a taxa de retenção. A combinação de ambos os componentes produziu o melhor equilíbrio entre precisão e utilização de dados.
• Comparação: O método superou outros métodos SOTA de SSDG (por exemplo, StyleMatch, FBCSA, DGWM), muitos dos quais dependem de rótulos de domínio e não se saem bem no cenário agnóstico a rótulos de domínio.

Significância
O artigo afirma resolver o dilema fundamental na SSDG entre alcançar rótulos pseudo precisos e maximizar a utilização de dados não rotulados. Ao deslocar características em direção às Representações Médias Similares, o modelo aprende a distinguir classes agrupadas e a formar representações invariantes a domínios sem supervisão explícita de domínio. O escalonamento de perda dinâmico permite ainda o uso efetivo de rótulos pseudo de menor confiança, que são tipicamente descartados. Os autores afirmam que essas inovações permitem que o modelo generalize efetivamente para domínios não vistos, mesmo na ausência de rótulos de domínio, um cenário que reflete melhor as restrições do mundo real.