Where Bits Matter in World Model Planning: A Paired Mixed-Bit Study for Efficient Spatial Reasoning

Título: Onde os Bits Importam no Planejamento de Modelos de Mundo: Um Estudo de Bits Mistas em Pares para Raciocínio Espacial Eficiente

1. Problema e Motivação

O planejamento baseado em modelos de mundo (world-model planning) tornou-se um paradigma robusto para controle eficiente em amostras e raciocínio espacial, especialmente quando construído sobre características visuais pré-treinadas (como no modelo DINO-WM). No entanto, a implantação prática desses modelos enfrenta restrições severas de memória e latência, exigindo o uso de quantização agressiva (baixa precisão de bits).

O problema central investigado é: A degradação do desempenho em baixos níveis de bits é determinada principalmente pela largura total de bits (precisão média) ou pela alocação específica desses bits entre os diferentes módulos do modelo (codificador vs. preditor)?
Estudos anteriores sugerem que a sensibilidade à quantização não é uniforme entre os módulos, mas a maioria das pesquisas foca em arquiteturas ou treinamento, deixando uma lacuna na compreensão de como a alocação de bits afeta especificamente o sucesso de tarefas de planejamento espacial sob orçamentos apertados.

2. Metodologia

Os autores realizaram um estudo empírico rigoroso utilizando o modelo DINO-WM na tarefa de planejamento "Wall" (Parede), que exige raciocínio espacial e condicionamento a objetivos com restrições de obstáculos.

• Configuração Experimental:

  • Modelo: DINO-WM com codificador visual e preditor latente.
  • Hardware: Executado localmente em um MacBook Pro M4 (48GB de memória unificada).
  • Quantização: Implementação de quantização pós-treinamento (PTQ) apenas nos pesos (weight-only) em camadas lineares (nn.Linear), sem re-treinamento ou quantização de ativações.
  • Protocolo de Avaliação: Avaliação de "objetivos emparelhados" (paired-goal), onde os mesmos objetivos são gerados uma vez e reutilizados em todas as variantes para garantir comparação justa.
  • Orçamentos: Dois orçamentos de planejador foram testados:
    • Orçamento bA: 9 passos de horizonte, 2 passos de otimização.
    • Orçamento bB: 12 passos de horizonte, 3 passos de otimização.

• Variantes Testadas:

  • Uniforme: Todos os módulos quantizados para INT8, INT6, INT4 e INT3.
  • Misto (Mixed): Codificador mantido em FP16 (alta precisão) e preditor quantizado.
  • Assimétrico: Variações específicas de alocação (ex: E6/P4 = Codificador 6 bits / Preditor 4 bits).
  • Varredura de Camadas: Manutenção de diferentes porcentagens do codificador em FP16 enquanto o preditor permanece em INT4.
  • Replicação Estrita: Uma segunda rodada de testes com menor número de episódios para verificar a robustez dos resultados.

3. Principais Contribuições e Descobertas

O estudo identifica um padrão de três regimes no comportamento de baixa precisão e destaca a importância crítica da alocação de bits:

1. Regime Estável (8/6 bits): Configurações de 8 e 6 bits (tanto uniformes quanto mistas) mantêm o desempenho próximo ao da precisão FP16 original, independentemente da alocação.
2. Regime de Colapso (3 bits): Todas as variantes de 3 bits colapsam completamente, resultando em 0% de sucesso em ambos os orçamentos.
3. Regime de Transição Sensível (4 bits): Esta é a descoberta central. No nível de 4 bits, o desempenho é altamente sensível à alocação de bits:
   • Vantagem da Alocação no Codificador: Manter o codificador com maior precisão (ex: Mixed INT4 ou variantes assimétricas E6/P4) resulta em desempenho significativamente superior à quantização uniforme INT4.
   • Dados de Sucesso (Orçamento bA):
     • Uniforme INT4: 6.7% de sucesso.
     • Misturado INT4 (Codificador FP16): 26.7% de sucesso.
     • Assimétrico E6/P4 (Codificador 6 bits): 30.0% de sucesso.
   • Sensibilidade Orçamentária: Em uma replicação estrita com menor amostragem, a direção da vantagem (Misto vs. Uniforme) mostrou-se condicionada ao orçamento, indicando que a fronteira de 4 bits é uma zona de alta sensibilidade onde a alocação correta é crucial, mas o resultado pode flutuar com amostras limitadas.

4. Análise Mecanística e Diagnóstico

Os autores correlacionaram o sucesso do planejamento com métricas de divergência extraídas dos logs de planejamento:

• Correlação Negativa Forte: Existe uma forte correlação negativa (Spearman $\rho \approx -0.93$) entre a distância média do estado e o sucesso, e uma correlação negativa moderada ($\rho \approx -0.71$) com a divergência de embeddings visuais.
• Interpretação: A degradação da precisão no codificador visual enfraquece a geometria latente necessária para o planejamento direcionado a objetivos. Adicionar bits ao preditor não compensa a degradação no codificador nesta fronteira de 4 bits.

5. Significado e Direções Futuras

• Mudança de Paradigma: O trabalho sugere que a alocação de bits não deve ser tratada apenas como um detalhe de compressão post-hoc, mas como um problema de alocação de recursos consciente do planejamento.
• Implicações Práticas: Para modelos de mundo em dispositivos com recursos limitados, priorizar a precisão do codificador visual é mais eficaz do que aumentar uniformemente a precisão ou focar no preditor, especialmente na faixa crítica de 4 bits.
• Futuro: Os autores propõem o desenvolvimento de políticas de quantização "conscientes do módulo" e "conscientes do orçamento", otimizando a alocação de bits diretamente para o sucesso da tarefa (e não apenas para erro de reconstrução), e a necessidade de validar essas descobertas em mais ambientes e famílias de modelos.

Conclusão

O artigo demonstra que, no contexto de modelos de mundo para raciocínio espacial, a precisão do codificador é um gargalo crítico na transição para baixos níveis de bits (4 bits). Enquanto 8/6 bits são seguros e 3 bits colapsam, a faixa de 4 bits exige uma estratégia de alocação inteligente: preservar a precisão do codificador visual é essencial para manter a capacidade de planejamento, superando abordagens de quantização uniforme.