Residual SODAP: Residual Self-Organizing Domain-Adaptive Prompting with Structural Knowledge Preservation for Continual Learning

O artigo propõe o Residual SODAP, um novo framework de aprendizado contínuo que supera o esquecimento catastrófico em cenários de aprendizado incremental de domínio sem identificadores de tarefa, combinando seleção esparsa de prompts, agregação residual, destilação sem dados e detecção de desvio para alcançar desempenho state-of-the-art em benchmarks de domínio.

O essencial

Imagine que você está aprendendo uma nova língua todos os dias. Hoje você aprende espanhol, amanhã italiano, depois francês. O problema é que, quando você tenta falar italiano, seu cérebro começa a esquecer o espanhol. E quando chega o francês, você esquece o italiano. Isso é o que os cientistas chamam de "Esquecimento Catastrófico" em Inteligência Artificial.

Normalmente, para não esquecer, a IA precisaria guardar todos os livros de todas as línguas que já aprendeu. Mas, na vida real (especialmente com dados médicos ou privados), não podemos guardar tudo por questões de privacidade e espaço.

Aqui entra o Residual SODAP, a solução proposta neste artigo. Vamos explicar como ele funciona usando uma analogia de uma Cozinha de Restaurante de Alta Tecnologia.

O Cenário: A Cozinha em Crise

Imagine um chef (a Inteligência Artificial) que cozinha para clientes de diferentes países (os "domínios" ou tipos de dados).

• O Problema: O chef tem uma cozinha fixa (o "cérebro" ou backbone do modelo) que não pode ser trocada. Ele precisa adaptar a receita para cada novo cliente sem esquecer como cozinhar para os clientes anteriores.
• A Solução Anterior (Prompt-Based Learning): Os chefs anteriores usavam "cartões de receitas" (chamados de prompts). Eles escolhiam um cartão e seguiam a receita. Mas havia dois problemas:
  1. Eles escolhiam os cartões de forma desajeitada (às vezes escolhiam o errado ou misturavam todos, criando confusão).
  2. Eles focavam apenas na receita, mas esqueciam de ajustar o garçom (o classificador) que entrega o prato. O garçom ficava confuso e entregava o prato errado para os clientes antigos.

A Solução: Residual SODAP

O Residual SODAP é como um Gerente de Cozinha Inteligente que resolve esses problemas com quatro truques principais:

1. O Menu de Seleção Esperto (Seleção de Prompts com $\alpha$-Entmax)

Em vez de escolher um único cartão de receita ou misturar todos, o novo sistema usa um "filtro mágico".

• A Analogia: Imagine que você tem 100 receitas. O sistema antigo tentava usar todas ao mesmo tempo (barulho) ou apenas 5 fixas (limitado). O Residual SODAP usa um filtro que diz: "Para este cliente específico, use apenas as 3 receitas mais relevantes e ignore as outras 97 completamente."
• Isso evita confusão e garante que a IA saiba exatamente o que fazer para cada tipo de dado, sem "alucinar" com informações desnecessárias.

2. O Resíduo de Sabedoria (Residual Connection)

O sistema divide os cartões de receita em dois grupos:

• O Grupo Congelado (O Passado): São as receitas antigas que funcionavam muito bem. Elas são "congeladas" para garantir que o sabor original nunca se perca.
• O Grupo Ativo (O Novo): São os novos ajustes que o chef faz para o cliente de hoje.
• A Mágica: O sistema não substitui o antigo. Ele adiciona o novo ajuste por cima do antigo (como um tempero extra). Assim, a IA aprende o novo sem apagar o velho. É como adicionar um novo ingrediente a um prato clássico sem estragar a base.

3. O Fantasma dos Dados (Replay Pseudo-Feature)

Como não podemos guardar os pratos antigos (dados), como o chef lembra do sabor?

• A Analogia: O chef não guarda os pratos, mas guarda uma ficha técnica estatística de cada um. Ele anota: "O prato italiano tinha média de sal X e temperatura Y".
• Quando precisa treinar para um novo cliente, ele cria "pratos fantasmas" (dados sintéticos) baseados nessas fichas. Ele cozinha um prato imaginário que parece o italiano antigo e treina o garçom para reconhecê-lo. Isso mantém a memória viva sem violar a privacidade de guardar os dados reais.

4. O Detector de Mudança de Domínio (PUDD)

Como o chef sabe que chegou um cliente de um país totalmente novo?

• A Analogia: O sistema monitora o "nível de confusão" na escolha das receitas. Se o chef começa a escolher receitas de forma muito diferente do habitual (mudança de padrão), o sistema entende: "Ops, chegou um cliente de um novo país!".
• Automaticamente, ele abre espaço no menu para adicionar novas receitas específicas para esse novo país, sem precisar de um humano dizer "agora vamos aprender chinês".

O Resultado Final

Com essa abordagem, o Residual SODAP consegue:

1. Aprender continuamente sem esquecer o que já aprendeu.
2. Não precisar guardar dados antigos (respeitando a privacidade).
3. Funcionar bem em situações reais, como diagnóstico de câncer de pele ou retinopatia diabética, onde os dados mudam constantemente.

Em resumo: O Residual SODAP é como um chef que nunca esquece as receitas antigas, sabe exatamente qual tempero usar para cada cliente, cria "fantasmas" para lembrar dos sabores passados e sabe quando é hora de adicionar um novo prato ao menu, tudo isso sem precisar de uma despensa gigante para guardar ingredientes.

Os testes mostraram que esse método é o melhor do mundo atual para esse tipo de problema, mantendo alta precisão e esquecendo muito pouco.

Resumo técnico

1. Problema Abordado

O artigo foca no Aprendizado Contínuo (Continual Learning - CL), especificamente no cenário de Aprendizado Incremental de Domínio (Domain-Incremental Learning - DIL). Neste cenário, um modelo deve aprender sequencialmente novos domínios de dados (ex: imagens de retinopatia de diferentes câmeras ou hospitais) sem acesso aos dados anteriores e sem receber identificadores de tarefa (Task-ID) durante a inferência.

Os principais desafios identificados são:

• Esquecimento Catastrófico: A tendência de redes neurais de esquecer conhecimento antigo ao aprender novas tarefas.
• Limitações dos Métodos Atuais Baseados em Prompts (PCL):
  • Seleção de Prompts Subótima: Métodos de seleção "dura" (Top-k) limitam a expressividade e são não diferenciáveis, enquanto métodos "suaves" (Softmax) permitem que prompts irrelevantes introduzam ruído.
  • Instabilidade no Classificador: Mesmo com adaptações de representação no backbone (base do modelo) via prompts, o classificador (a camada final) sofre degradação significativa sob mudanças de domínio, levando ao esquecimento. A maioria dos métodos ignora a preservação da estrutura do classificador.

2. Metodologia: Residual SODAP

Os autores propõem o Residual SODAP, um framework que realiza simultaneamente a adaptação de representação baseada em prompts e a preservação de conhecimento no nível do classificador. O método é composto por quatro pilares principais:

A. Seleção de Prompts Residual baseada em $\alpha$-Entmax

• Refinamento da Consulta (Query Enhancement): A representação do token de classificação (CLS) é enriquecida com um contexto global (o token original) e sinais recuperados de um banco de memória via Multi-Head Attention.
• Seleção Esparsa ($\alpha$-Entmax): Em vez de Softmax (que distribui peso para todos os prompts) ou Top-k (que seleciona rigidamente), o método utiliza $\alpha$-entmax. Isso gera pesos esparsos, permitindo que apenas os prompts mais relevantes recebam peso não nulo, eliminando ruído de prompts irrelevantes.
• Combinação Residual: O pool de prompts é dividido em um conjunto congelado (F, preservando conhecimento anterior) e um conjunto ativo (A, adaptando-se ao novo domínio). A saída é uma combinação residual: $p_{out} = p_{frozen} + \lambda_r \cdot p_{active}$. Isso garante que o conhecimento antigo sirva como base estável enquanto o novo atua como uma adaptação residual.

B. Preservação de Conhecimento Estatístico via Replay Pseudo-Estatístico

Para evitar o uso de dados reais do passado (rehearsal-free), o método preserva a distribuição de características das classes anteriores:

• Estatísticas de Classe: Ao final de cada estágio, o modelo calcula e armazena a média e a variância diagonal das características (features) de cada classe usando o algoritmo online de Welford.
• Distilação e Replay Pseudo: Durante o treinamento do novo estágio, o modelo usa um "professor" (cabeça do classificador congelada) e gera características pseudo amostradas das distribuições Gaussianas armazenadas.
• Perdas de Distilação: O aluno (modelo atual) é treinado para alinhar suas previsões tanto com as características reais atuais quanto com as características pseudo geradas, preservando as fronteiras de decisão das classes antigas sem acessar os dados originais.

C. Detecção de Deriva baseada no Uso de Prompts (PUDD)

• O sistema monitora a entropia da seleção de prompts e a mudança no conjunto de prompts utilizados.
• Se a deriva (drift) do domínio for detectada (indicando que os prompts atuais não são suficientes), o pool de prompts é expandido automaticamente de forma proporcional à magnitude da deriva. Isso permite que o modelo cresça sua capacidade conforme necessário.

D. Ponderação por Incerteza (Uncertainty Weighting)

• Para equilibrar as múltiplas funções de perda (classificação, distilação real, distilação pseudo, diversidade e normalização), o método utiliza um esquema de ponderação por incerteza homoscedástica.
• O modelo aprende automaticamente os pesos de cada termo de perda, evitando a necessidade de ajuste manual e garantindo estabilidade durante o treinamento.

3. Contribuições Principais

1. Seleção de Prompts Híbrida: Introdução de $\alpha$-entmax combinada com conexões residuais para selecionar prompts esparsos e estáveis, mitigando o ruído e preservando conhecimento antigo.
2. Preservação no Nível do Classificador: Reconhecimento e solução do problema de instabilidade do classificador em PCL, utilizando replay de características pseudo baseadas em estatísticas para manter as fronteiras de decisão.
3. Expansão Dinâmica e Automatizada: Mecanismo PUDD que detecta mudanças de domínio e expande o pool de prompts de forma adaptativa, sem intervenção humana.
4. Otimização Estável: Uso de ponderação por incerteza para gerenciar automaticamente o equilíbrio entre as diversas perdas do modelo.

4. Resultados Experimentais

O método foi avaliado em três benchmarks de DIL sem armazenamento de dados e sem Task-ID:

• Retinopatia Diabética (DR): Sequência de datasets APTOS $\to$ DDR $\to$ DRD.
  • Resultado: AvgACC (Precisão Média) de 0.850 e AvgF (Esquecimento Médio) de 0.047.
  • Comparação: Superou todos os métodos de ponta (SOTA), incluindo PCL, Reh-CL, Reg-CL e Arch-CL.
• Câncer de Pele (Skin Cancer): Sequência ISIC $\to$ HAM $\to$ DERM7.
  • Resultado: AvgACC de 0.760 e AvgF de 0.031.
  • Destaque: Encontrou o melhor ponto de equilíbrio entre precisão e esquecimento, superando o Dual-Prompt que tinha baixo esquecimento, mas precisão muito inferior.
• CORe50 (Domínio Geral): Benchmark de reconhecimento de objetos com 11 estágios de mudança de domínio.
  • Resultado: AvgACC de 0.995 e AvgF de 0.003, demonstrando generalização robusta além de dados médicos.

5. Significância e Conclusão

O Residual SODAP representa um avanço significativo no Aprendizado Contínuo, especialmente para aplicações do mundo real onde o armazenamento de dados é proibido (devido a privacidade) e os identificadores de tarefa não estão disponíveis.

• Inovação Estrutural: Ao abordar não apenas a representação (backbone), mas também a instabilidade do classificador, o método oferece uma solução mais completa para o esquecimento catastrófico.
• Eficiência: A abordagem é "rehearsal-free" (sem replay de dados reais), tornando-a viável para cenários com restrições rigorosas de privacidade e armazenamento.
• Adaptabilidade: A capacidade de detectar deriva e expandir o modelo dinamicamente torna o sistema robusto para ambientes onde a distribuição de dados muda continuamente.

O trabalho valida que a combinação de seleção esparsa inteligente, preservação estatística de conhecimento e otimização adaptativa de perdas é a chave para sistemas de IA que aprendem continuamente de forma estável e eficiente.