💻 computer science

Slimmable ConvNeXt: Width-Adaptive Inference for Efficient Multi-Device Deployment

O artigo apresenta o Slimmable ConvNeXt, um framework de inferência adaptável à largura que aproveita o design moderno do ConvNeXt para permitir a implantação eficiente em múltiplos dispositivos com um único conjunto de pesos compartilhado, alcançando precisão superior em diversas restrições computacionais em comparação com abordagens existentes de CNN e Vision Transformer, sem exigir mecanismos complexos de normalização.

Autores originais: Janek Haberer, Jon Eike Wilhelm, Olaf Landsiedel

Publicado 2026-05-22

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Janek Haberer, Jon Eike Wilhelm, Olaf Landsiedel

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você tem uma equipe de chefs (um modelo de visão computacional) que precisa cozinhar refeições para uma multidão. Às vezes, a cozinha é enorme, com uma equipe completa e equipamentos sofisticados (um servidor em nuvem poderoso). Outras vezes, você está cozinhando em uma pequena van de acampamento, com apenas um queimador e um suprimento limitado de ingredientes (um telefone móvel com bateria baixa).

Tradicionalmente, se você quisesse que seus chefs trabalhassem em ambos os cenários, teria que contratar duas equipes completamente diferentes: uma equipe grande para a cozinha grande e uma equipe pequena e especializada para a van de acampamento. Você teria que treiná-los separadamente, armazenar suas receitas separadamente e alternar entre eles dependendo de onde você está. Isso é caro e confuso.

O Problema dos "Chefs Flexíveis" Antigos
Alguns pesquisadores tentaram criar um "super-chef" que pudesse encolher ou crescer sob demanda. Eles construíram uma única equipe que poderia operar com 100 chefs, 50 chefs ou 10 chefs. No entanto, esses métodos antigos tinham uma falha grave: exigiam um complexo "quadro de comutação" (chamado de normalização de lote comutável) para acompanhar as estatísticas para cada tamanho de equipe possível. Era como ter um conjunto diferente de xícaras de medição para cada tamanho de ingrediente, tornando a cozinha caótica e difícil de treinar.

A Nova Solução: Slimmable ConvNeXt
Este artigo apresenta um novo tipo de equipe de chefs chamada Slimmable ConvNeXt. Os autores descobriram que o design moderno da arquitetura ConvNeXt é naturalmente perfeito para encolher e crescer sem o quadro de comutação confuso.

Veja como funciona, usando analogias simples:

1. A Magia do "LayerNorm" (Sem Necessidade de Quadro de Comutação)

Modelos flexíveis antigos precisavam de regras especiais para lidar com diferentes tamanhos de equipe. O Slimmable ConvNeXt usa uma técnica chamada LayerNorm.

A Analogia: Imagine uma equipe tradicional onde o gerente precisa saber exatamente quantas pessoas estão na sala para dar instruções. Se o tamanho da sala mudar, o gerente entra em pânico e precisa de um novo manual de regras.
A Nova Maneira: O LayerNorm é como um gerente que dá instruções com base no que cada pessoa está fazendo agora, independentemente de quantas pessoas estão na sala. Se você tem 100 chefs ou 10, o gerente se adapta instantaneamente. Isso significa que você não precisa mais do complexo "quadro de comutação". O processo de treinamento torna-se muito mais simples e limpo.

2. O "Gargalo Invertido" (Fácil de Fatiar)

O ConvNeXt usa uma estrutura chamada "gargalo invertido".

A Analogia: Pense em um sanduíche padrão: Pão (pequeno), Carne (grande), Pão (pequeno). Se você quiser fazer um sanduíche menor, precisa cortar o pão e a carne, o que é complicado.
A Nova Maneira: Um gargalo invertido é como um sanduíche onde o recheio é enorme, mas o pão é fino. A "carne" (o cálculo pesado) está concentrada no meio. Quando você quer encolher o modelo, basta fatiar as bordas externas da carne. É muito fácil cortar uma fatia do meio sem bagunçar toda a estrutura. Isso facilita a criação de versões menores do modelo apenas "fatias" os canais (a largura dos dados).

3. Como Funciona na Prática

Os pesquisadores treinaram um único modelo que contém múltiplas versões "aninhadas" de si mesmo dentro dele.

O Treinamento: Imagine os chefs praticando todos os dias. Alguns dias eles praticam com a equipe completa de 100. Outros dias, praticam apenas com 50, e em outros dias com apenas 25. Todos compartilham a mesma base de conhecimento (pesos). Como praticam em todos esses tamanhos diferentes, aprendem a ser bons em qualquer tamanho.
O Resultado: Quando você implanta o modelo, não precisa recarregar um novo arquivo. Basta dizer ao modelo: "Ei, hoje temos bateria apenas para 25 chefs", e ele muda instantaneamente para seu modo de 25 chefs. Se amanhã você tiver uma fonte de energia completa, ele volta a usar 100 chefs.

Os Resultados: Melhor Desempenho, Menos Matemática

O artigo testou isso em um conjunto de dados massivo chamado ImageNet-1k (uma biblioteca de 1,28 milhão de imagens). Eles compararam seu novo "Slimmable ConvNeXt" com os melhores modelos flexíveis existentes (que eram majoritariamente baseados em Vision Transformers, um tipo diferente de arquitetura de IA).

O Vencedor: O Slimmable ConvNeXt foi mais rápido e mais preciso.
- Em um nível de computação médio, obteve 80,8% de precisão. O próximo melhor concorrente obteve 78,4%.
- Em um nível de computação muito baixo (como um telefone fraco), obteve 77,4%, enquanto o concorrente obteve 73,0%.
A Escala: Eles testaram versões pequenas, médias e grandes de seu modelo. As versões maiores foram ainda melhores em encolher sem perder muita precisão. Por exemplo, a versão maior podia operar com energia total com 82,8% de precisão, e mesmo quando encolhida para metade do tamanho, permanecia incrivelmente forte.

Por Que Isso Importa (De Acordo com o Artigo)

O artigo afirma que esta é a primeira vez que essa técnica específica de "fatiamento" foi aplicada ao ConvNeXt.

Simplicidade: Remove a necessidade de comutadores de normalização complexos exigidos por métodos mais antigos.
Eficiência: Como não usa "auto-atenção" (um processo pesado usado por modelos Transformer), requer menos operações matemáticas (GMACs) para obter o mesmo resultado.
Versatilidade: Permite que um único modelo seja executado em um servidor massivo, um laptop ou um telefone móvel sem a necessidade de armazenar múltiplos arquivos diferentes.

Em resumo, os autores construíram uma "Canivete Suíço" de modelos de IA. Em vez de carregar uma faca, um chaves de fenda e um saca-rolhas separadamente, você tem uma única ferramenta que pode se transformar em qualquer uma delas instantaneamente, e faz isso melhor e mais eficientemente do que a geração anterior de multi-ferramentas.

Resumo Técnico: ConvNeXt Escalável

Declaração do Problema

Implantar modelos de visão em dispositivos com restrições de recursos heterogêneas — ou em um único dispositivo onde a disponibilidade de computação flutua devido ao estado da bateria, limitação térmica ou prazos de latência — tipicamente exige o treinamento e a manutenção de modelos separados para cada plataforma-alvo. Essa abordagem é custosa e impraticável para ambientes dinâmicos. Embora a inferência adaptativa à largura ofereça uma solução ao treinar um único conjunto de pesos compartilhados contendo múltiplas sub-redes aninhadas, abordagens anteriores enfrentam limitações arquitetônicas específicas:

CNNs Clássicas: Métodos como Redes Escaláveis (Slimmable Networks) e US-Nets exigem normalização em lote (batch normalization) comutável para manter estatísticas de execução separadas para diferentes larguras de canal, adicionando complexidade e parâmetros.
Transformadores de Visão (ViTs): Métodos escaláveis recentes (por exemplo, HydraViT, MatFormer) dependem de mecanismos de atenção que impõem restrições estruturais sobre como as sub-redes podem ser extraídas (por exemplo, descartando cabeças de atenção em múltiplos da dimensão da cabeça ou mantendo dimensões de incorporação completas), limitando a granularidade e o alcance da escalabilidade.

Metodologia

O artigo propõe o ConvNeXt Escalável, a primeira aplicação de redução de largura de canal à família de arquiteturas ConvNeXt. O método aproveita escolhas de design específicas inerentes ao ConvNeXt para simplificar o pipeline de treinamento e melhorar a eficiência.

Design Arquitetônico

Cada bloco ConvNeXt é atribuído uma razão de redução $p \in (0, 1]$ , que determina a fração de canais ativos.

Corte de Canais: Todos os tensores de peso dentro de um bloco (convolução profunda, convoluções pontuais e parâmetros de LayerNorm) são cortados para reter apenas os primeiros $\lfloor p \cdot C \rfloor$ canais.
Gargalos Invertidos: A camada intermediária de expansão (expansão de 4 $\times$ ) também é cortada para $4 \cdot \lfloor p \cdot C \rfloor$ , preservando a razão de expansão.
Tratamento de Resíduos: Quando um bloco reduzido produz menos canais do que sua entrada, a saída é preenchida com zeros (zero-padded) para corresponder à dimensão original antes de adicionar a conexão residual. Isso evita a introdução de parâmetros de projeção adicionais.
Normalização: Ao contrário das CNNs escaláveis clássicas, o ConvNeXt usa LayerNorm em vez de Normalização em Lote. A LayerNorm calcula estatísticas por amostra e fatia de canal, permitindo que se adapte naturalmente a qualquer contagem de canais sem exigir camadas de normalização comutáveis ou estatísticas de execução separadas.

Procedimento de Treinamento

O modelo é treinado usando um procedimento de treinamento conjunto com larguras alternadas:

Seleção Estocástica: Um conjunto de listas- $p$ (definindo a razão de redução para cada bloco) é definido. Durante o treinamento, uma lista- $p$ é selecionada aleatoriamente por lote.
Pesos Compartilhados: Todas as sub-redes compartilham os mesmos pesos. Uma sub-rede com razão $p < 1$ usa um subconjunto estrito dos parâmetros usados em $p=1$ .
Otimização: O modelo passa por passagens padrão de forward-backward através da sub-rede selecionada. Essa alternância estocástica é análoga ao treinamento de descarte de cauda (tail-drop) no HydraViT, mas aplicada às dimensões de canal.
AutoSlim (Opcional): Para otimizar larguras não uniformes por bloco, o artigo investiga o AutoSlim. Esta busca gulosa começa com larguras uniformes e reduz iterativamente a razão do bloco menos importante (com base na queda de precisão de validação) até que uma razão média-alvo seja alcançada. Isso tipicamente preserva estágios iniciais e finais mais largos enquanto reduz agressivamente os estágios intermediários.

Contribuições Principais

Adequação da Arquitetura: Os autores demonstram que o design do ConvNeXt — especificamente o uso de LayerNorm e gargalos invertidos — o torna um candidato ideal para redução de largura adaptativa. Isso elimina a sobrecarga da normalização em lote comutável exigida por abordagens anteriores de CNN e evita as restrições estruturais de métodos ViT baseados em atenção.
Pipeline Simplificado: A abordagem resulta em um pipeline de treinamento mais simples do que os métodos de CNN e ViT escaláveis anteriores, não exigindo normalização comutável, distilação de conhecimento ou regras de treinamento de sanduíche.
Desempenho: O método alcança precisão state-of-the-art em uma ampla gama de orçamentos de computação no ImageNet-1k, superando tanto as bases baseadas em ViT quanto as CNNs clássicas.

Resultados Experimentais

Os autores avaliaram o ConvNeXt Escalável no ImageNet-1k em três tamanhos de modelo: ConvNeXt-Tiny (T), Small (S) e Base (B). Todos os modelos foram treinados do zero por 600 épocas.

ConvNeXt-Tiny (3 Sub-redes)

Capacidade Total (4,5 GMACs): 80,8% de precisão top-1.
Meia Capacidade (1,2 GMACs): 77,4% de precisão top-1.
Comparação: Supera a sub-rede de 6 cabeças do HydraViT (78,4% em 4,6 GMACs) em 2,4 pontos percentuais e sua configuração de 3 cabeças (73,0% em 1,3 GMACs) em 4,4 pontos percentuais. Também supera o MatFormer-S e o SortedNet-S em GMACs comparáveis.

ConvNeXt-Base (4 Sub-redes)

Capacidade Total (15,4 GMACs): 82,8% de precisão top-1.
Meia Capacidade (4,0 GMACs): 81,6% de precisão top-1.
Comparação: Na meia capacidade, alcança 81,6% com 4,0 GMACs, superando os 80,2% do HydraViT em 4,6 GMACs (13% menos operações). Cobre uma faixa de computação de 1,1 a 15,4 GMACs a partir de um único conjunto de pesos, enquanto o MatFormer é limitado a aproximadamente metade a capacidade total.

Escalonamento e Robustez

Degradação Gradual: Modelos maiores (ConvNeXt-B) exibem uma degradação mais gradual sob redução em comparação com modelos menores (ConvNeXt-T), retendo 98,7% de sua precisão de capacidade total na meia capacidade.
Contagem de Sub-redes: Aumentar o número de sub-redes (por exemplo, de 3 para 5) geralmente leva a retornos decrescentes ou pequenas quedas de precisão para modelos menores, mas o ConvNeXt-B permanece robusto, com 4 sub-redes melhorando efetivamente a precisão de pico.
AutoSlim: O AutoSlim fornece melhorias modestas em baixas capacidades (por exemplo, +1,0% em capacidade de quarto para ConvNeXt-T), mas oferece benefícios marginais ou ligeiramente negativos em capacidade total, provavelmente devido à estratégia de preenchimento com zeros nas conexões residuais.

Significado e Afirmações

O artigo afirma que o ConvNeXt Escalável fornece um modelo único e elástico capaz de ajustar dinamicamente seu custo computacional no momento da inferência para corresponder a orçamentos de recursos variáveis. Isso habilita cenários de implantação onde um único modelo pode atender a uma frota heterogênea de dispositivos ou adaptar-se a restrições de tempo de execução (bateria, térmica, latência) sem recarregar pesos.

Os autores enfatizam que a combinação de LayerNorm (eliminando a normalização comutável) e gargalos invertidos (facilitando o corte direto de parâmetros) permite que o ConvNeXt alcance precisão mais alta do que as bases state-of-the-art em quase todos os pontos de operação, mantendo a simplicidade e a compatibilidade de hardware das arquiteturas convolucionais. O trabalho sugere que, para cenários de implantação que exigem capacidade reduzida, começar a partir de um modelo base maior e reduzir agressivamente pode produzir melhores resultados do que treinar um modelo menor em largura total.