🤖 machine learning

QuantWAMs: Calibrating at the Right Granularity for World Action Models

O Quant-WAMs é uma estrutura de quantização pós-treinamento que alinha as decisões de quantização com o contexto de calibração específico dos Modelos de Ação de Mundo através de três estratégias inovadoras, permitindo a implantação eficiente de W4A4 com degradação mínima de desempenho tanto em benchmarks de simulação quanto em tarefas de manipulação de robôs reais.

Autores originais: Jiacheng Zhou, Jinfan Lv, Ruixuan Li, Longtai Zhang, Yan Wang, Wenqiang Zhang, Lizhe Qi

Publicado 2026-07-31

📖 6 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Jiacheng Zhou, Jinfan Lv, Ruixuan Li, Longtai Zhang, Yan Wang, Wenqiang Zhang, Lizhe Qi

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você esteja tentando ensinar um robô a cozinhar uma refeição ou construir uma torre de blocos. Para fazer isso, o robô não apenas olha para uma imagem e adivinha; ele usa um "Modelo de Ação de Mundo" (World Action Model). Pense neste modelo como um diretor de cinema superinteligente e futurista. Ele observa a cena atual, prevê o que acontecerá a seguir e, simultaneamente, decide o que os braços do robô devem fazer para fazer esse futuro acontecer. É um ciclo fechado: o robô se move, o mundo muda, o robô vê a mudança e decide o próximo movimento. Isso é incrivelmente poderoso, mas é como tentar rodar um filme de grande orçamento em uma calculadora minúscula e movida a bateria. A matemática necessária para prever o futuro e mover os braços é tão pesada que geralmente precisa de computadores enormes e caros.

Para tornar esses robôs práticos em nossas casas e fábricas, os cientistas querem encolher esses cérebros de computadores gigantes para caberem em chips menores. Eles fazem isso usando uma técnica chamada "quantização", que é como comprimir um filme de alta definição em um tamanho de arquivo menor. Você troca uma pequena parte da qualidade da imagem por um enorme ganho em velocidade e armazenamento. No entanto, as formas padrão de comprimir esses arquivos foram projetadas para imagens estáticas ou textos simples, não para um robô que está constantemente se movendo e reagindo ao mundo. Se você comprimir o cérebro de um robô usando as regras antigas, ele pode começar a ter alucinações, esquecer como segurar uma xícara ou colidir com paredes porque a "compressão" bagunçou o equilíbrio delicado de seu ciclo de tomada de decisão.

É aqui que o novo artigo, QuantWAMs, entra em cena. Os pesquisadores perceberam que, para encolher o céreamente de um robô sem quebrá-lo, você não pode simplesmente usar uma ferramenta de compressão de uso geral. Você tem que calibrar a compressão para a "vibe" específica do mundo do robô. Eles descobriram que os métodos padrão cometem três grandes erros: eles olham para o cérebro do robô de forma isolada (ignorando como as ações mudam o mundo), tratam todas as partes do cérebro como se fossem iguais (ignorando que as partes de vídeo e ação são diferentes) e usam o tipo errado de dados para decidir o que encolher.

A equipe propôs um novo método chamado QuantWAMs que corrige esses erros tratando o cérebro do robô como uma orquestra complexa, em vez de um instrumento solo. Veja como eles fizeram:

Primeiro, eles perceberam que algumas partes do cérebro do robô são "compatíveis de coordenação", o que significa que falam a mesma língua e podem compartilhar informações, enquanto outras são totalmente diferentes. Imagine um coro onde os sopranos e os tenores podem compartilhar uma partitura, mas os bateristas precisam das suas próprias. Os métodos antigos tentavam dar a mesma partitura para todos, causando o caos. O QuantWAMs agrupa cuidadosamente apenas as partes compatíveis para compartilhar seus dados "outliers" (as notas estranhas e altas que são difíceis de comprimir), garantindo que a compressão não distorça a voz única de cada seção.

Segundo, eles mudaram a forma como decidem quais partes do cérebro podem permanecer de alta qualidade e quais podem ser comprimidas. Em vez de olhar para a parte do vídeo e a parte da ação separadamente, eles olharam para como elas trabalham juntas. É como julgar uma dupla de dança: você não avalia apenas o trabalho de pés do dançarino e a elevação do parceiro separadamente; você avalia o quão bem eles se movem em sincronia. Ao analisar o gradiente "conjunto" (o esforço combinado de vídeo e ação), eles puderam identificar exatamente quais camadas do cérebro eram mais críticas para o sucesso do robô e proteger aquelas com maior precisão, enquanto comprimiam o restante com segurança.

Terceiro, e mais importante, eles pararam de testar o cérebro comprimido em um mundo "falso". Os métodos padrão testam o robô em um conjunto estático de imagens, como um teste de direção em uma pista fechada. Mas um robô real está sempre dirigindo em uma estrada esburacada onde cada curva muda a visão seguinte. Os autores criaram uma "auditoria de intervenção fixa". Eles pegaram os movimentos reais e de precisão total do robô, pausaram-nos e perguntaram: "Se tivéssemos usado o cérebro comprimido neste exato momento, o robô teria se recuperado?". Isso permitiu que eles ajustassem o cronograma de proteção dinamicamente, garantindo que o robô permaneça seguro mesmo quando o mundo fica caótico.

Os resultados desta nova abordagem são impressionantes, embora os autores ressaltem que são baseados em simulações e testes específicos do mundo real. Quando testaram o QuantWAMs em dois modelos diferentes de robôs (Fast-WAM e LingBot-VA) usando uma configuração de compressão muito agressiva (W4A4, o que significa usar precisão de 4 bits tanto para pesos quanto para ativações), o desempenho do robô mal caiu. Em simulação, a taxa de sucesso foi apenas 0,2 a 0,7 pontos percentuais inferior à versão original, não comprimida. Por exemplo, em uma tarefa chamada RoboTwin 2.0, o robô comprimido teve sucesso 91,7% das vezes, comparado aos 91,9% do original.

Mais importante ainda, essa compressão trouxe benefícios massivos. A memória necessária para os blocos de vídeo e ação do robô caiu para cerca de 29% do que a versão original precisava. Isso tornou o robô 1,4 a 1,6 vezes mais rápido na tomada de decisões. Eles até levaram o robô comprimido para o mundo real usando um robô AgiBot G2 para realizar tarefas como pegar uma maçã, empilhar blocos e dobrar uma toalha. Nesses testes do mundo real, o robô comprimido teve sucesso em 17 de 30 tentativas, comparado a 19 de 30 para a versão de precisão total, provando que o cérebro comprimido poderia realmente funcionar em um ambiente físico.

O artigo sugere que, ao respeitar a natureza única de ciclo fechado do aprendizado robótico — onde as ações mudam o mundo e o mundo muda a próxima ação — podemos finalmente tornar esses poderosos modelos de IA pequenos o suficiente para rodar nos robôs que veremos um dia em nossas vidas diárias. Não é uma solução mágica que resolve tudo instantaneamente, mas é um passo crucial para tornar os cérebros dos robôs inteligentes e pequenos ao mesmo tempo.

Resumo Técnico: QuantWAMs

Declaração do Problema

Os Modelos de Ação de Mundo (WAMs - World Action Models) representam um paradigma promissor para a manipulação robótica de propósito geral ao preverem conjuntamente observações futuras e as ações necessárias para realizá-las. No entanto, sua implantação em robôs do mundo real é dificultada pelos altos custos computacionais decorrentes da denoização iterativa e da execução em malha fechada (closed-loop), onde cada ação gerada altera as observações para as previsões subsequentes.

Os métodos existentes de Quantização Pós-Treinamento (PTQ) são inadequados para os WAMs devido a três desalinhamentos fundamentais:

Desalinhamento de Objetivo: A PTQ padrão otimiza objetivos de malha aberta (ex: perplexidade, reconstrução de imagem única) onde as passagens para frente são pontuadas independentemente. Os WAMs operam em malha fechada, onde erros de quantização precoces propagam-se e acumulam-se através das transições de estado.
Desalinhamento Estrutural: Métodos padrão frequentemente assumem arquiteturas de transformer homogêneas. Os WAMs frequentemente empregam caminhos acoplados (ex: Mixture-of-Transformers de fluxo duplo ou designs de backbone compartilhado) onde a computação é distribuída entre fluxos heterogêneos.
Desalinhamento Distribucional: As distribuições de calibração em PTQ padrão frequentemente perfilam a sensibilidade em estados inalcançáveis em um cenário de malha fechada, levando a picos de passos de denoização "fantasmagóricos" que direcionam erroneamente o orçamento de precisão.

Metodologia: QuantWAMs

O QuantWAMs é um framework de PTQ projetado para alinhar as decisões de quantização com o contexto de calibração específico dos Wまs, definido pelo modelo, distribuição de rollout e objetivo da tarefa. Ele introduz três estratégias principais:

1. Calibração de Outliers de Base Compartilhada

A preservação de outliers padrão frequentemente agrupa estatísticas de ativação em todos os módulos indiscriminadamente. O QuantWAMs restringe o agrupamento a módulos compatíveis de coordenadas.

Mecanismo: Ele agrupa evidências de ativação apenas em módulos que compartilham uma base ordenada comum (ex: caminhos de valor compartilhados no Fast-WAM ou colunas de entrada compartilhadas no LingBot-VA).
Base Teórica: O método modela as estatísticas de canal como uma mistura de heterogeneidade entre membros ( $\tau^2_c$ ) e variação de amostragem dentro do membro ( $\sigma^2_c$ ). Ele deriva um ponto de "crossover de agrupamento" ( $N^*$ ) para determinar quando o agrupamento de dados entre módulos reduz o risco de estimativa em comparação com a estimativa por contexto.
Resultado: Isso evita máscaras instáveis causadas por ruído de amostragem quando o número de trajetórias de calibração ( $N$ ) é baixo, ao mesmo tempo em que preserva a energia de canais críticos de outliers.

2. Saliência de Objetivo de Co-Treinamento

Em vez de pontuar camadas com base em um único fluxo ou fundir gradientes post-hoc, o QuantWAMs aloca a precisão de peso usando o gradiente conjunto vídeo–ação.

Mecanismo: Ele calcula escores de Fisher empíricos a partir da perda combinada ( $\ell_{co} = \lambda_v \ell_v + \lambda_a \ell_a$ ) do WAM pré-treinado.
Diferenciação: Ao contrário da "fusão post-hoc", que combina objetivos marginais após o produto externo, este método retém o termo de interação coordenada ( $\Xi_L$ ) presente no gradiente conjunto.
Granularidade: A precisão é atribuída em uma granularidade de camada (em vez de elemento ou coluna) para garantir a estabilidade da calibração. Os 20% superiores das camadas Lineares candidatas são elevados para uma precisão maior (ex: W8) com base nesses escores conjuntos.

3. Auditoria de Rollout de Intervenção Fixa

Para abordar a natureza de malha fechada dos WAMs, o método revisa os cronogramas de proteção de passos de denoização usando estados de malha fechada alcançáveis.

Mecanismo: Realiza uma auditoria de "intervenção fixa" em rollouts registrados em FP16. Para cada estado em uma trajetória, ele reproduz o passo sob uma intervenção não protegida (baixa precisão) para medir a discrepância local ( $\ell_t$ ) contra a linha de base FP16.
Vantagem: Isso evita o problema de "auto-mascaramento" de perfis observacionais (onde um passo protegido parece insensível porque a proteção está ativa) e o problema de "estado inalcançável" de entradas sintéticas.
Aplicação: O perfil é usado para auditar e substituir o conjunto de passos de denoização protegidos ( $T_q$ ) por um novo conjunto ( $T_{replay}$ ) que reflete melhor a sensibilidade em trajetórias reais de malha fechada, sem alterar o orçamento total de precisão.

Principais Contribuições

Formulação Consciente do Contexto: O artigo formula a PTQ para WAMs em torno de três contextos específicos (estrutural, distribucional e de objetivo) que determinam as decisões de precisão em tempo de implantação.
Derivação Teórica: Deriva condições para quando a evidência de ativação pode ser agrupada entre módulos (regida pela heterogeneidade da amostra e contagem de trajetórias) e caracteriza o crossover de heterogeneidade de amostra para a recuperação de Máscara Top-K.
Saliência de Gradiente Conjunto e Auditoria: Propõe um método para pontuar conjuntamente gradientes de vídeo–ação em uma granularidade de camada estável para calibração e utiliza o replay de intervenção fixa em rollouts reais para revisar cronogramas de passos de denoização.

Resultados Experimentais

O framework foi avaliado em duas implementações de WAM (Fast-WAM e LingBot-VA) no RoboTwin 2.0, LIBERO e manipulação robótica real com um AgiBot G2.

Desempenho de Simulação: Em uma configuração dominante de W4A4 (pesos de 4 bits, ativações de 4 bits), o QuantWAMs alcançou taxas de sucesso de simulação com diferença de apenas 0,2–0,7 pontos percentuais em relação ao FP16.
- No Fast-WAM (RoboTwin 2.0): 91,7% vs. 91,9% (FP16).
- No LingBot-VA (LIBERO-Long): 98,0% vs. 98,5% (FP16).
Eficiência: Para blocos de vídeo e ação direcionados, o QuantWAMs reduziu o pico de memória de peso e ativação para aproximadamente 29% da linha de base FP16 e proporcionou acelerações de nível de bloco de 1,4–1,6×.
Validação em Robô Real: No AgiBot G2 realizando três tarefas (pegar uma maçã, empilhar blocos e dobrar uma toalha), a política quantizada (QuantWAMs) alcançou uma taxa de sucesso de 56,7% (17/30 tentativas), comparada aos 63,3% do FP16 e 40,0% de um método de quantização de base (Atom*).
Estudos de Ablação: Experimentos controlados confirmaram que:
- O agrupamento de base compartilhada melhora a recuperação de máscara e o sucesso em malha fechada.
- A saliência de co-treinamento conjunto supera a fusão post-hoc e objetivos de fluxo único.
- A auditoria de rollout de intervenção fixa produz melhor posicionamento de cronograma do que perfis sintéticos ou observacionais.

Significância e Alegações

O artigo afirma que o QuantWAMs estabelece a viabilidade de implantar WAMs de alto desempenho em robôs reais com recursos limitados, abordando os desafios estruturais e dinâmicos específicos do controle de malha fechada.

Alegações Modestas: Os autores declaram explicitamente que seus resultados não estabelecem não-inferioridade formal ou equivalência ao FP16, particularmente nos testes com robôs reais, onde o tamanho da amostra (10 tentativas por tarefa) é insuficiente para comparação estatística.
Limitações de Escopo: O trabalho é limitado a dois tipos de arquiteturas WAM, calibração específica de benchmark e medições de eficiência em nível de bloco. Não pretende resolver a latência de loop de controle fim-a-fim ou a transferência para tarefas não vistas.
Insight Central: A principal contribuição é a demonstração de que as decisões de quantização devem ser tomadas dentro do "contexto de calibração" específico da implantação do modelo (estrutura, distribuição e objetivo), em vez de depender de heurísticas genéricas de malha aberta.