Resumo Técnico: Fusão Relacional Inter-Amostras (CORF)

1. Formulação do Problema: Aprendizado Incremental de Classes entre Domínios (CDCIL)

O artigo aborda uma lacuna crítica na pesquisa atual de aprendizado contínuo: o desafio simultâneo do Esquecimento Catastrófico e da Mudança de Domínio. Enquanto o Aprendizado Incremental de Classes (CIL) padrão foca em aprender novas classes sem esquecer as antigas, e a Generalização de Domínio (DG) foca na robustez entre domínios, nenhum deles aborda plenamente o cenário onde um modelo deve aprender novas classes sequencialmente enquanto encontra dados de domínios tanto vistos quanto não vistos.

Os autores formulam isso como Aprendizado Incremental de Classes entre Domínios (CDCIL). Neste cenário:

• Treinamento: O modelo recebe um fluxo de tarefas, onde cada tarefa contém amostras de múltiplos domínios "vistos".
• Inferência: O modelo é avaliado em todas as classes aprendidas anteriormente, tanto nos domínios vistos quanto em um domínio completamente "não visto" que foi excluído do treinamento.
• Desafio: Os métodos CIL existentes falham sob mudanças de domínio devido à falta de mecanismos de generalização, enquanto os métodos DG falham em configurações incrementais porque carecem de mecanismos para resistir ao esquecimento quando o espaço de rótulos se expande.

2. Metodologia: Fusão Relacional Inter-Amostras (CORF)

Os autores propõem o CORF, um framework unificado projetado para aprender representações agnósticas ao domínio e incrementalmente estáveis. O CORF integra dois componentes sinérgicos: Refinamento Duplamente Sensível (DSR) para aumento de dados ao nível da amostra e Destilação Baseada em Kernel Hierárquico (HKD) para preservação de conhecimento estrutural.

A. Refinamento Duplamente Sensível (DSR)

O DSR visa construir um espaço de representação agnóstico ao domínio sintetizando estrategicamente um conjunto de dados auxiliar. Ele aproveita mapas de contribuição espacial (via Grad-CAM) e confiança preditiva para orientar a mistura de amostras:

1. Mistura de Alta Confiança:

   • Amostras com alta confiança preditiva são identificadas como âncoras semânticas confiáveis.
   • Para uma amostra de alta confiança $x_H$, um correspondente $\tilde{x}_H$ de um diferente domínio, mas da mesma classe, é recuperado.
   • Um mapa de contribuição espacial identifica regiões críticas para a classificação. O modelo mistura as regiões de baixa contribuição (frequentemente contendo ruído específico do domínio) de $x_H$ e $\tilde{x}_H$, preservando as regiões de alta contribuição de $x_H$.
   • Objetivo: Forçar o modelo a depender de características semanticamente consistentes entre domínios, ignorando artefatos específicos do domínio.

2. Mistura de Baixa Confiança:

   • Amostras com baixa confiança (ambíguas ou ruidosas) são identificadas.
   • Estas são emparelhadas com uma amostra de uma diferente classe dentro do mesmo lote.
   • A mistura ocorre em regiões de alta contribuição para incentivar o desentrelaçamento de características.
   • Objetivo: Estas amostras sintetizadas são atribuídas a classes auxiliares temporárias (disjuntas do espaço de rótulos original) para evitar corromper os limites de classificação originais, enquanto incentivam o modelo a aprender limites de decisão robustos.

B. Destilação Baseada em Kernel Hierárquico (HKD)

Para mitigar o esquecimento catastrófico sem depender de destilação ao nível de logits (que assume consistência distribucional), o CORF emprega o HKD. Este método preserva a topologia relacional das amostras através de múltiplas hierarquias de características.

• Mapas de Kernel Relacionais: Em vez de alinhar logits globais, o HKD constrói mapas de kernel em múltiplas camadas da rede que capturam a similaridade condicional entre pares de amostras dentro de um lote.
• Design de Kernel Híbrido: O método utiliza uma combinação de kernels de Cosseno (para preservar a direção angular/semântica) e kernels de Student-t (para capturar estruturas de vizinhança local e lidar com valores atípicos).
• Divergência Simétrica: O modelo atual é treinado para alinhar suas distribuições de kernel relacional com as do modelo antigo (da tarefa anterior) usando uma perda de divergência simétrica.
• Objetivo: Isso garante que as relações estruturais de granularidade fina e sensíveis ao domínio entre as amostras sejam preservadas, mesmo à medida que o modelo se adapta a novas tarefas e domínios.

C. Objetivo Unificado

O objetivo final de treinamento combina a perda de classificação padrão em amostras originais e sintetizadas com a perda de destilação hierárquica:
$$\min \sum_{(x,y) \in S_n \cup A_n} L_{cls}(h_\Psi(x), y) + L_{reg} + \beta \cdot L_{kernel}$$
Onde $S_n$ é o conjunto de treinamento original, $A_n$ é o conjunto auxiliar gerado pelo DSR, e $L_{kernel}$ é a perda de destilação agregada.

3. Contribuições Principais

1. Formulação do Problema: O artigo define formalmente o CDCIL, destacando as limitações dos métodos CIL e DG existentes quando aplicados a cenários envolvendo aprendizado sequencial de classes e mudanças de domínio.
2. Refinamento Duplamente Sensível (DSR): Uma estratégia inovadora de aumento de dados que utiliza confiança e mapas de contribuição espacial para sintetizar amostras invariantes ao domínio, desacoplando efetivamente pistas semânticas de vieses de domínio.
3. Destilação Baseada em Kernel Hierárquico (HKD): Uma estratégia de mitigação de esquecimento que alinha estruturas relacionais através de hierarquias de características usando kernels híbridos, oferecendo uma alternativa mais robusta à destilação baseada em logits sob mudança de domínio.
4. Framework Unificado: Demonstra que o DSR e o HKF podem ser integrados perfeitamente a algoritmos CIL existentes (por exemplo, iCaRL, DER, Replay) para aprimorar sua generalizabilidade.

4. Resultados Experimentais

Os autores avaliaram o CORF em três conjuntos de dados de referência: OfficeHome, DomainNet e PACS, utilizando ResNet-34 como backbone.

• Ganhos de Desempenho: O CORF superou consistentemente os métodos de base (incluindo FineTune, Replay, iCaRL, DER, MEMO, FOSTER) em todos os conjuntos de dados.
  • No OfficeHome (5 tarefas), a integração do CORF com o DER melhorou a Média Harmônica (HM) dos domínios Vistos e Não Vistos de 42,41% para 46,17%.
  • No PACS, a integração com o FOSTER alcançou uma HM de 60,97%, superando a linha de base por uma margem significativa.
• Estudos de Ablação:
  • A remoção do DSR levou a uma queda na generalização (desempenho no Domínio Não Visto).
  • A remoção do HKD levou a um aumento no esquecimento (degradação do desempenho no Domínio Visto).
  • A combinação de ambos produziu os melhores resultados, confirmando sua natureza complementar.
• Sensibilidade aos Hiperparâmetros: O método mostrou robustez a variações no peso de refinamento ($\alpha$) e no coeficiente de destilação ($\beta$), com desempenho ótimo em $\alpha=0,3$ e $\beta=0,01$.
• Análise de Características: Visualizações de matrizes de similaridade par a par mostraram que o CORF produziu clusters intra-classe mais compactos e limites inter-classe melhor separados em comparação com as bases de referência.
• Compatibilidade: O framework foi adaptado com sucesso para backbones baseados em Transformer (L2P e DualPrompt com ViT), embora os ganhos tenham sido mais modestos devido aos parâmetros de backbone congelados, confirmando sua natureza plug-and-play.

5. Significado e Alegações

O artigo alega que o CORF fornece uma solução unificada para os desafios duplos do esquecimento e da mudança de domínio, que são frequentemente tratados separadamente na literatura. Ao modelar explicitamente as dependências relacionais entre amostras através de domínios e tarefas, o CORF permite a construção de representações que são tanto agnósticas ao domínio quanto incrementalmente estáveis.

Os autores enfatizam que sua abordagem não requer o armazenamento de grandes quantidades de dados passados (além dos orçamentos padrão de exemplares) ou modelos generativos complexos. Em vez disso, baseia-se em refinamento seletivo e alinhamento estrutural para aprimorar a robustez. Os resultados sugerem que abordar a mudança de domínio e o esquecimento catastrófico simultaneamente não é apenas viável, mas necessário para aplicações do mundo real, como direção autônoma, onde ambientes e categorias de objetos evoluem continuamente.

O artigo conclui que, embora o CORF seja atualmente mais eficaz com backbones convolucionais treináveis, ele oferece uma direção promissora para pesquisas futuras em cenários de aprendizado incremental mais diversos e mudanças de domínio complexas.