SEAL: Searching Expandable Architectures for Incremental Learning

Resumo Técnico: SEAL (Searching Expandable Architectures for Incremental Learning)

Formulação do Problema
O Aprendizado Incremental (IL) exige que os modelos aprendam a partir de um fluxo sequencial de tarefas enquanto equilibram plasticidade (a capacidade de aprender novas informações) e estabilidade (a preservação do conhecimento passado). Um desafio primário neste domínio é o esquecimento catastrófico, onde o novo aprendizado sobrescreve representações anteriores. Embora a Busca de Arquitetura Neural (NAS) tenha demonstrado sucesso em configurações estáticas, as abordagens atuais de NAS baseadas em IL frequentemente sofrem com altos custos computacionais ao repetir o processo de busca para cada tarefa e com o consumo impraticável de recursos devido à expansão ilimitada do modelo. Além disso, muitos métodos atuais dependem de buffers de replay ou limiares de expansão fixos que não se adaptam bem a cenários de incrementalidade de dados, onde amostras de dados disjuntas chegam sequencialmente sem acesso futuro.

Metodologia
Os autores propõem o SEAL, um framework de NAS projetado especificamente para o aprendizado incremental de dados. Diferente de métodos anteriores que tratam o design da arquitetura e a política de expansão como processos separados ou sequenciais, o SEAL otimiza conjuntamente tanto a arquitetura da rede neural quanto sua política de expansão dentro de uma única fase de busca.

Os componentes principais do framework SEAL incluem:

1. Espaço de Busca Unificado: O SEAL utiliza um supernet OFA (Once-For-All) baseado em MobileNetV3 para definir o espaço de busca. Isso permite a avaliação rápida de arquiteturas candidatas via ajuste fino (fine-tuning) de pesos pré-treinados, em vez de treinar do zero. O espaço de busca é restringido para garantir que qualquer expansão resulte em uma subrede OFA válida.
2. Política de Expansão Dinâmica: Em vez de expandir o modelo em cada tarefa, o SEAL emprega uma métrica de estimativa de capacidade para determinar quando a expansão é necessária. O modelo é expandido apenas se a perda de entropia cruzada atual nos novos dados exceder um limiar relativo em comparação com as iterações anteriores (Eq. 10). Isso evita o crescimento desnecessário e retém a complexidade do modelo.
3. Otimização Multiobjetivo: O framework formula o problema como uma tarefa de otimização biobjetivo resolvida via o algoritmo genético NSGA-II. Os dois objetivos são:
   • Acurácia Incremental: Uma função que equilibra a acurácia média no conjunto de tarefas final contra o número de parâmetros (Eq. 12).
   • Robustez (Flatness/Achatamento): Uma métrica de achatamento invariante à reescalação que mede a estabilidade do panorama de perda sob perturbações de ruído multiplicativo (Eq. 14). Isso visa guiar a busca para mínimos mais planos, que são mais robustos a mudanças de distribuição.
4. Estratégia de Treinamento: Para mitigar o esquecimento catastrófico durante a expansão, o SEAL emprega treinamento por cross-distillation. Após um passo de expansão, o modelo é treinado usando uma função de perda combinada consistindo na perda de entropia cruzada padrão e uma perda de divergência de Kullback-Leibler (KL) contra os alvos suaves (soft targets) do modelo pré-expansão (Eq. 11).
5. Modelagem de Surrogado: Para acelerar a busca, o SEAL utiliza mecanismos de troca adaptativa (semelhantes ao MSuNAS) para selecionar o modelo de surrogado mais preciso (entre Processos Gaussianos ou Funções de Base Radial) para prever métricas de desempenho, evitando a necessidade de retreinamento total de cada candidato.

Principais Contribuições

• Otimização Conjunta: O SEAL é apresentado como o primeiro framework de NAS que busca conjuntamente a arquitetura ideal e sua política de expansão em uma única fase, reduzindo significativamente o overhead computacional em comparação com métodos de busca tarefa a tarefa.
• Eficiência de Recursos: Ao integrar subredes OFA e expansão condicional, o SEAL aloca capacidade adicional apenas quando necessário, tornando-o adequado para ambientes com restrição de recursos, como IoT e TinyML.
• Integração de Flatness: O trabalho integra uma métrica de robustez baseada em achatamento diretamente no objetivo de NAS para IL, demonstrando que otimizar para mínimos planos melhora a estabilidade e a generalização em cenários de aprendizado sequencial.
• Foco em Incrementalidade de Dados: O framework foca especificamente no cenário de incrementalidade de dados (dados disjuntos, mesmo espaço de rótulos) sem depender de armazenamento explícito de dados ou buffers de replay.

Resultados Experimentais
O SEAL foi avaliado em três conjuntos de dados de referência: CIFAR-10, CIFAR-100 e ImageNet16-120. Os experimentos compararam o SEAL contra baselines padrão de IL (Naive, EWC, SI, LwF) e um limite superior de Treinamento Conjunto (Joint Training).

• Desempenho: O SEAL alcançou uma Acurácia Média (AA) competitiva ou superior em relação aos baselines. Por exemplo, no CIFAR-10, o SEAL alcançou 95,35% de acurácia, superando o EWC (93,87%) e o SI (94,31%). No CIFAR-100, atingiu 83,94%, superando o LwF (83,21%).
• Esquecimento e Transferência: O framework demonstrou um Esquecimento Médio reduzido em comparação com vários baselines (ex: 4,81% no CIFAR-100 vs. 5,50% para LwF). No entanto, no CIFAR-10, a Transferência de Frente (FWT) foi menor do que em alguns baselines, o que os autores atribuem ao potencial overfitting em tarefas recentes quando as tarefas são altamente similares.
• Multiobjetivo vs. Único Objetivo: Os resultados indicaram que a abordagem multiobjetivo (otimizando tanto para acurácia quanto para achatamento) gerou melhores trade-offs do que a otimização de objetivo único. Especificamente, modelos otimizados para achatamento tenderam a ter menos parâmetros enquanto mantinham alta acurácia.
• Estudos de Ablação: Experimentos confirmaram que inicializar os pesos expandidos a partir da supernet OFA (em vez de pesos aleatórios) melhorou significamente a acurácia e reduziu o esquecimento. Da mesma forma, o uso da perda de cross-distillation mostrou-se crítico para manter o desempenho e reduzir o esquecimento após a expansão.
• Significância Estatística: Testes de Friedman confirmaram que as diferenças de desempenho entre o SEAL e os baselines foram estatisticamente significativas em todos os datasets e métricas.

Significância e Alegações
O artigo afirma que o SEAL oferece uma solução mais prática para implantação no mundo real ao alinhar-se com os desejos fundamentais para NAS em IL: eficiência, escalabilidade e adaptabilidade. Ao evitar o retreinamento redundante e o crescimento descontrolado do modelo, o SEAL aborda as armadilhas das abordagens atuais de NAS baseadas em IL. Os autores destacam que a integração do achatamento como um objetivo de design ajuda a criar modelos que são robustos às perturbações introduzidas por novas tarefas. Embora o estudo foque no aprendizado incremental de dados, os autores sugerem que o framework pode ser estendido para outros cenários de IL, embora notem que as suposições sobre a generalização da arquitetura através de divisões de dados podem precisar de ajustes para cenários de incrementalidade de domínio ou de classe. O trabalho posiciona a combinação de NAS e expansão seletiva como uma direção promissora para o aprendizado eficiente e adaptável.