Resumo Técnico: Expansão e Roteamento de Habilidades Atômicas Diferenciadas por Tarefa (TASER)

1. Declaração do Problema

O aprendizado contínuo (CL) para Grandes Modelos de Linguagem (LLMs) é tradicionalmente estudado sob a premissa de que sequências de tarefas são semanticamente relacionadas ou estruturalmente similares. No entanto, implementações do mundo real frequentemente envolvem fluxos de tarefas altamente heterogêneos, onde as tarefas diferem substancialmente em padrões de raciocínio, formatos de entrada-saída e dimensões cognitivas (por exemplo, mudar de raciocínio matemático para sumarização jurídica).

Nesses cenários, os métodos existentes enfrentam dois desafios primários:

1. Esquecimento Catastrófico: A divergência extrema entre tarefas faz com que as atualizações para novos domínios perturbem severamente as representações aprendidas anteriormente.
2. Alocação Ineficiente de Capacidade: Modelos de capacidade fixa não podem acomodar habilidades emergentes, enquanto a expansão indiscriminada gera risco de redundância e interferência. É difícil determinar a priori quantos novos parâmetros (habilidades) são necessários para uma tarefa específica, pois as tarefas exigem uma mistura de capacidades compartilhadas e especializadas.

Benchmarks atuais frequentemente falham em capturar essa complexidade, baseando-se em sequências de tarefas com alta sobreposição semântica ou modalidades de saída idênticas.

2. Metodologia: Estrutura TASER

Os autores propõem o Task-differentiated Atomic Skill Expansion and Routing (TASER), uma estrutura de CL modular projetada para gerenciar dinamicamente o crescimento da capacidade enquanto preserva a estabilidade dos parâmetros. O TASER organiza a capacidade do modelo em uma biblioteca crescente de "habilidades atômicas" (módulos funcionais reutilizáveis implementados via adaptadores de eficiência de parâmetros como LoRA) e consiste em três componentes coordenados:

A. Aprendizado Incremental de Habilidades Atômicas (Expansão de Capacidade Adaptativa)

Em vez de usar um rank fixo para todas as tarefas, o TASER determina dinamicamente o número de novas habilidades atômicas necessárias para cada tarefa de entrada $T_k$ com base na divergência da tarefa e na incerteza do modelo.

• Sondagem de Subespaço de Tarefa: Um adaptador de "sonda" temporário e superparametrizado é treinado brevemente para revelar as direções de atualização preferidas pela nova tarefa.
• Extração de Subespaço Novel: As direções de atualização da sonda são projetadas no complemento ortogonal do subespaço de habilidades históricas (construído a partir de adaptadores anteriores) para isolar direções residuais e inéditas.
• Dimensionamento de Capacidade Adaptativo: Uma Decomposição em Valores Singulares (SVD) é realizada na matriz residual. O rank do novo adaptador ($r_{new}$) é determinado pelo número mínimo de valores singulares necessários para cobrir uma fração alvo ($\theta_{energy}$) da energia espectral. Isso garante que a capacidade seja expandida apenas quando a nova tarefa exigir direções não abrangidas pelas habilidades existentes.

B. Detecção de Habilidade com Reforço de Ortogonalidade

Para garantir que a nova capacidade adicionada permaneça semanticamente distinta e independentemente reutilizável, o TASER impõe restrições de ortogonalidade explícitas durante o treinamento da nova habilidade:

• Ortogonalidade Inter-Tarefa: Um termo de penalidade ($L_{inter}$) minimiza a correlação entre a matriz de projeção descendente da nova habilidade e o espaço de habilidades históricas, evitando a sobreposição representacional.
• Ortogonalidade Intra-Tarefa: Um termo de penalidade ($L_{intra}$) impõe ortogonalidade linha a linha e norma unitária dentro da matriz da nova habilidade, evitando o colapso de rank e garantindo que a nova capacidade abranja múltiplas direções distintas.

C. Roteamento Dinâmico de Habilidades

Para evitar a ineficiência computacional e a interferência de ativar todas as habilidades para cada entrada, o TASER emprega um mecanismo de gating leve e condicionado à tarefa.

• Composição Esparsa: Um roteador (um MLP de duas camadas com um gargalo) recebe a ativação de entrada e produz um vetor de gating $\alpha(x)$.
• Seleção: Este vetor amplifica ou suprime seletivamente as contribuições de habilidades atômicas específicas na biblioteca.
• Esparsidade: Uma penalidade $L_1$ é aplicada à saída do roteador para incentivar a ativação apenas do conjunto mínimo de habilidades relevantes para uma determinada entrada, facilitando o reúso eficiente entre tarefas.

3. Principais Contribuições

1. HeteroCLBench: Os autores introduzem um novo benchmark especificamente projetado para aprendizado contínuo altamente heterogêneo. Ele compreende 19 tarefas funcionalmente diversas mapeadas em 9 macrodimensões cognitivas (ex: Raciocínio Matemático, Geração de Código, Inteligência Emocional) e 24 subcategorias detalhadas. O benchmark utiliza um protocolo sequencial padronizado com ordenação de tarefas aleatória para testar rigorosamente o isolamento e a plasticidade das habilidades.
2. Estrutura TASER: Um novo método de CL que realiza conjuntamente a expansão adaptativa de habilidades atômicas, separação de habilidades e roteamento dinâmico. Ele aborda as questões de "quanto" e "qual" da alocação de capacidade sem exigir o retreinamento total.
3. Validação Empírica: Experimentos extensos demonstrando que o TASER supera fortes baselines (incluindo EWC, Replay, I-LoRA, MoE-LoRA e CL-MoE) tanto no novo HeteroCLBench quanto no LNT existente.

4. Resultados Experimentais

Os experimentos foram conduzidos utilizando os backbones Llama-3-8B-Instruct e Qwen-2.5.

• Desempenho no HeteroCLBench: O TASER alcançou um Desempenho Médio (AP) de 63,31, superando todos os baselines de aprendizado contínuo e aproximando-se do limite superior de Aprendizado Multitarefa (MTL) de 65,70.
• Mitigação de Esquecimento: O TASER alcançou o melhor Transferência Retroativa (BWT) de -0,94, uma melhoria significativa em relação ao Ajuste Fino Sequencial (-13,54) e outros baselines modulares como CL-MoE (-15,13). Isso indica maior estabilidade e redução do esquecimento catastrófico.
• Estudos de Ablação: A remoção de qualquer um dos três componentes principais (Aprendizado Incremental, Detecção de Ortogonalidade ou Roteamento Dinâmico) levou a declínios consistentes de desempenho. Notavelmente, a remoção do Roteamento Dinâmico causou a queda mais severa (o AP diminuiu em 18,49), destacando seu papel crítico na gestão da interferência de tarefas.
• Robustez: A estrutura demonstrou desempenho consistente através de diferentes arquiteturas de modelo (Llama-3 e Qwen-2.5) e diferentes orçamentos de capacidade ($r_{max}$), validando a estabilidade de seu mecanismo de roteamento baseado em SVD.
• Alocação Dinâmica: A visualização da alocação de rank mostrou que o TASER atribui corretamente ranks mais altos a tarefas estruturalmente exigentes (ex: tradução translingual) e ranks mais baixos a tarefas que podem reutilizar priors semânticos existentes (ex: classificação), confirmando sua capacidade de evitar redundância de capacidade.

5. Significância e Alegações

O artigo argumenta que o aprendizado contínuo sob alta heterogeneidade de tarefas requer crescimento de capacidade modular e adaptativo juntamente com a preservação de parâmetros, espelhando a neuroplasticidade biológica.

• Mudança de Paradigma: O trabalho desloca o foco do CL de meramente reter conhecimento em domínios similares para permitir simultaneamente a especialização para tarefas distintas e o reúso de capacidades compartilhadas em domínios altamente díspares.
• Necessidade de Benchmark: Os autores alegam que os benchmarks existentes carecem da taxonomia estruturada e da diversidade cognitiva necessárias para avaliar modelos em cenários realistas de aprendizado vitalício. O HeteroCLBench preenche essa lacuna ao cobrir 9 dimensões cognitivas e 19 tarefas diversas.
• Escalabilidade: O TASER oferece uma solução escalável para adaptar LLMs a fluxos complexos do mundo real onde a complexidade e a transferibilidade das tarefas variam substancialmente, equilibrando o trade-off entre plasticidade (aprender novas habilidades) e estabilidade (reter habilidades antigas) sem a necessidade de restrições de capacidade fixa ou inflação excessiva de parâmetros.