🤖 machine learning

QuantWAMs: Calibrating at the Right Granularity for World Action Models

QuantWAMs es un marco de cuantificación post-entrenamiento que alinea las decisiones de cuantificación con el contexto de calibración específico de los World Action Models a través de tres estrategias novedosas, permitiendo un despliegue eficiente de W4A4 con una degradación mínima del rendimiento tanto en entornos de simulación como en tareas de manipulación robótica real.

Autores originales: Jiacheng Zhou, Jinfan Lv, Ruixuan Li, Longtai Zhang, Yan Wang, Wenqiang Zhang, Lizhe Qi

Publicado 2026-07-31

📖 6 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Jiacheng Zhou, Jinfan Lv, Ruixuan Li, Longtai Zhang, Yan Wang, Wenqiang Zhang, Lizhe Qi

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás intentando enseñarle a un robot a cocinar una comida o a construir una torre de bloques. Para hacer esto, el robot no se limita a mirar una imagen y adivinar; utiliza un "Modelo de Acción del Mundo" (World Action Model). Piensa en este modelo como un director de cine superinteligente y futurista. Observa la escena actual, predice qué pasará después y, simultáneamente, decide qué deben hacer los brazos del robot para que ese futuro ocurra. Es un bucle cerrado: el robot se mueve, el mundo cambia, el robot ve el cambio y decide el siguiente movimiento. Esto es increíblemente poderoso, pero también es como intentar ejecutar una película de taquilla en una calculadora diminuta que funciona con baterías. La matemática necesaria para predecir el futuro y mover los brazos es tan pesada que normalmente requiere computadoras masivas y costosas.

Para que estos robots sean prácticos en nuestros hogares y fábricas, los científicos quieren encoger estos gigantescos cerebros computacionales para que quepan en chips más pequeños. Lo hacen utilizando una técnica llamada "cuantización", que es como comprimir una película de alta definición en un archivo de tamaño menor. Sacrificas un poco de calidad de imagen por una enorme ganancia en velocidad y almacenamiento. Sin embargo, las formas estándar de comprimir estos archivos fueron diseñadas para imágenes estáticas o texto simple, no para un robot que está constantemente moviéndose y reaccionando al mundo. Si comprimes el cerebro de un robot usando las reglas antiguas, este podría empezar a tener alucinaciones, olvidar cómo sostener una taza o chocar contra las paredes porque la "compresión" arruinó el delicado equilibrio de su bucle de toma de decisiones.

Aquí es donde entra en juego el nuevo artículo, QuantWAMs. Los investigadores se dieron cuenta de que, para encoger el cerebro de un robot sin romperlo, no puedes usar simplemente una herramienta de compresión de "talla única". Tienes que calibrar la compresión para el "vibe" o la esencia específica del mundo del robot. Descubrieron que los métodos estándar cometen tres errores importantes: ven el cerebro del robot de forma aislada (ignorando cómo las acciones camban el mundo), tratan todas las partes del cerebro como si fueran iguales (ignorando que las partes de video y de acción son diferentes) y utilizan el tipo de datos incorrecto para decidir qué comprimir.

El equipo propuso un nuevo método llamado QuantWAMs que corrige estos errores tratando el cerebro del robot como una compleja orquesta en lugar de un instrumento solista. Así es como lo hicieron:

Primero, se dieron cuenta de que algunas partes del cerebro del robot son "compatibles de coordinación", lo que significa que hablan el mismo lenguaje y pueden compartir información, mientras que otras son totalmente diferentes. Imagina un coro donde las sopranos y los tenores pueden compartir una partitura, pero los bateristas necesitan la suya propia. Los métodos antiguos intentaban dar la misma partitura a todos, causando el caos. QuantWAMs agrupa cuidadosamente solo las partes compatibles para compartir sus datos "outlier" (esas notas extrañas y fuertes que son difíciles de comprimir), asegurando que la compresión no distorsione la voz única de cada sección.

Segundo, cambiaron la forma en que deciden qué partes del cerebro mantienen una alta calidad y cuáles pueden ser comprimidas. En lugar de mirar la parte del video y la parte de la acción por separado, observaron cómo trabajan juntas. Es como juzgar a un dúo de baile: no solo calificas el juego de pies del bailarín y la elevación de la pareja por separado; calificas qué tan bien se mueven en sincronía. Al analizar el gradiente "conjunto" (el esfuerzo combinado de video y acción), pudieron identificar exactamente qué capas del cerebro eran más críticas para el éxito del robot y proteger aquellas con mayor precisión, mientras comprimían de forma segura el resto.

Tercero, y quizás lo más importante, dejaron de probar el cerebro comprimido en un mundo "falso". Los métodos estándar prueban al robot en un conjunto estático de imágenes, como un examen de conducir en una pista cerrada. Pero un robot real siempre está conduciendo en un camino accidentado donde cada giro cambia la siguiente vista. Los autores crearon una "auditoría de intervención fija". Tomaron los movimientos reales de precisión total del robot, hicieron una pausa y preguntaron: "Si hubiéramos usado el cerebro comprimido en este momento exacto, ¿se habría recuperado el robot?". Esto les permitió ajustar el programa de protección de forma dinámica, asegurando que el robot se mantiera seguro incluso cuando el mundo se vuelve caótico.

Los resultados de este nuevo enfoque son impresionantes, aunque los autores advierten cuidadosamente que se basan en simulaciones y ensayos específicos del mundo real. Cuando probaron QuantWAMs en dos modelos de robot diferentes (Fast-WAM y LingBot-VA) utilizando un ajuste de compresión muy agresivo (W4A4, lo que significa usar precisión de 4 bits tanto para pesos como para activaciones), el rendimiento del robot apenas disminuyó. En la simulación, la tasa de éxito fue solo de 0.2 a 0.7 puntos porcentuales inferior a la versión original sin comprimir. Por ejemplo, en una tarea llamada RoboTwin 2.0, el robot comprimido tuvo éxito el 91.7% de las veces, comparado con el 91.9% del original.

Más importante aún, esta compresión trajo consigo beneficios masivos. La memoria requerida para los bloques de video y acción del robot cayó a aproximadamente el 29% de lo que necesitaba la versión original. Esto hizo que el robot fuera 1.4 a 1.6 veces más rápido al tomar decisiones. Incluso llevaron al robot comprimido al mundo real usando un robot AgiBot G2 para realizar tareas como recoger una manzana, apilar bloques y doblar una toalla. En estos ensayos del mundo real, el robot comprimido tuvo éxito en 17 de 30 intentos, en comparación con los 19 de 30 de la versión de precisión total, demostando que el cerebro comprimido realmente podía funcionar en un entorno físico.

El artículo sugiere que, al respetar la naturaleza única de bucle cerrado del aprendizaje robótico —donde las acciones cambian el mundo y el mundo cambia la siguiente acción—, finalmente podemos hacer que estos poderosos modelos de IA sean lo suficientemente pequeños como para ejecutarse en los robots que algún día veremos en nuestra vida diaria. No es una solución mágica que lo resuelve todo instantáneamente, pero es un paso crucial hacia la creación de cerebros robóticos que sean tanto inteligentes como pequeños.

Resumen Técnico: QuantWAMs

Planteamiento del Problema

Los Modelos de Acción de Mundo (WAMs, por sus siglas en inglés) representan un paradigma prometedor para la manipulación robótica de propósito general al predecir conjuntamente las observaciones futuras y las acciones requeridas para realizarlas. Sin embargo, su despliegue en robots del mundo real se ve obstaculizado por altos costos computacionales derivados de la denotación iterativa y la ejecución en bucle cerrado, donde cada acción generada altera las observaciones para las predicciones subsiguientes.

Los métodos de Cuantización Post-Entrenamiento (PTQ) existentes son inadecuados para los WAMs debido a tres desajustes fundamentales:

Desajuste de Objetivo: El PTQ estándar optimiza objetivos de bucle abierto (p. ej., perplejidad, reconstrucción de imagen única) donde las pasadas hacia adelante se califican de forma independiente. Los WAMs operan en un bucle cerrado donde los errores de cuantización tempranos se propagan y se acumulan a través de las transiciones de estado.
Desajuste Estructural: Los métodos estándar suelen asumir arquitecturas de transformadores homogéneas. Los WAMs emplean frecuentemente vías acopladas (p. ej., Mixture-of-Transformers de doble flujo o diseños de columna vertebral compartida) donde la computación se distribuye a través de flujos heterogéneos.
Desajuste Distribucional: Las distribuciones de calibración en el PTQ estándar suelen perfilar la sensibilidad en estados inalcanzables en un entorno de bucle cerrado, lo que genera picos de paso de denotación "fantasma" que desvían erróneamente el presupuesto de precisión.

Metodología: QuantWAMs

QuantWAMs es un marco de PTQ diseñado para alinear las decisiones de cuantización con el contexto de calibración específico de los WAMs, definido por la estructura del modelo, la distribución de la trayectoria y el objetivo de la tarea. Introduce tres estrategias principales:

1. Calibración de Outliers de Base Compartida

La preservación de outliers estándar suele agrupar estadísticas de activación de manera indiscriminada en todos los módulos. QuantWAMs restringe la agrupación únicamente a módulos compatibles de coordenadas.

Mecanismo: Agrupa la evidencia de activación solo en módulos que comparten una base ordenada común (p. ej., vías de valor compartidas en Fast-WAM o columnas de entrada compartidas en LingBot-VA).
Base Teórica: El método modela las estadísticas de canal como una mezcla de heterogeneidad entre miembros ( $\tau^2_c$ ) y variación de muestreo dentro de cada miembro ( $\sigma^2_c$ ). Deriva un punto de "cruce de agrupación" ( $N^*$ ) para determinar cuándo la agrupación de datos entre módulos reduce el riesgo de estimación en comparación con la estimación por contexto.
Resultado: Esto evita máscaras inestables causadas por el ruido de muestreo cuando el número de trayectorias de calibración ( $N$ ) es bajo, preservando al mismo tiempo la energía de los canales de outliers críticos.

2. Saliencia de Objetivo de Co-Entrenamiento

En lugar de calificar las capas basándose en un solo flujo o fusionar gradientes post-hoc, QuantWAMs asigna la precisión de los pesos utilizando el gradiente conjunto de video-acción.

Mecanismo: Calcula puntuaciones de Fisher empíricas a partir de la pérdida combinada ( $\ell_{co} = \lambda_v \ell_v + \lambda_a \ell_a$ ) del WAM pre-entrenado.
Diferenciación: A diferencia de la "fusión post-hoc", que combina objetivos marginales después del producto exterior, este método retiene el término de interacción de coordenadas ( $\Xi_L$ ) presente en el gradiente conjunto.
Granularidad: La precisión se asigna a una granularidad de capa (en lugar de elemento o columna) para asegurar la estabilidad de la calibración. El 20% superior de las capas Lineales candidatas se actualiza a una mayor precisión (p. ej., W8) basándose en estas puntuaciones conjuntas.

3. Auditoría de Trayectoria de Intervención Fija

Para abordar la naturaleza de bucle cerrado de los WAMs, el método revisa los esquemas de protección de pasos de denotación utilizando estados de bucle cerrado alcanzables.

Mecanismo: Realiza una auditoría de "intervención fija" en las trayectorias grabadas en FP16. Para cada estado en una trayectoria, reproduce el paso bajo una intervención no protegida (baja precisión) para medir la discrepancia local ( $\ell_t$ ) contra la línea base de FP16.
Ventaja: Esto evita el problema de "auto-enmascaramiento" de los perfiles observacionales (donde un paso protegido parece insensible porque la protección está activa) y el problema de "estado inalcanzable" de las entradas sintéticas.
Aplicación: El perfil se utiliza para auditar y reemplazar el conjunto de pasos de denotación protegidos ( $T_q$ ) por un nuevo conjunto ( $T_{replay}$ ) que refleje mejor la sensibilidad en las trayectorias reales de bucle cerrado, sin cambiar el presupuesto total de precisión.

Contribuciones Clave

Formulación Consciente del Contexto: El artículo formula el PTQ para WAMs en torno a tres contextos específicos (estructural, distribucional y de objetivo) que determinan las decisiones de precisión en el despliegue.
Derivación Teórica: Deriva las condiciones para cuando la evidencia de activación puede agruparse entre módulos (regido por la heterogeneidad de la muestra y el conteo de trayectorias) y caracteriza el cruce de heterogeneidad de la muestra para la recuperación de la máscara Top-K.
Saliencia de Gradiente Conjunto y Auditoría: Propone un método para calificar conjuntamente los gradientes de video-acción a una granularidad de capa estable para la calibración y utiliza la reproducción de intervención fija en trayectorias reales para revisar los esquemas de pasos de denotación.

Resultados Experimentales

El marco fue evaluado en dos implementaciones de WAM (Fast-WAM y LingBot-VA) a través de RoboTwin 2.0, LIBERO y manipulación con un robot real con un AgiBot G2.

Rendimiento en Simulación: Bajo una configuración dominante de W4A4 (pesos de 4 bits, activaciones de 4 bits), QuantWAMs logró tasas de éxito en simulación que difieren de FP16 por solo 0.2–0.7 puntos porcentuales.
- En Fast-WAM (RoboTwin 2.0): 91.7% vs. 91.9% (FP16).
- En LingBot-VA (LIBERO-Long): 98.0% vs. 98.5% (FP16).
Eficiencia: Para bloques de video y acción específicos, QuantWAMs redujo la memoria pico de pesos y activaciones a aproximadamente el 29% de la línea base FP16 y proporcionó aceleraciones a nivel de bloque de 1.4–1.6×.
Validación en Robot Real: En un AgiBot G2 realizando tres tareas (recoger una manzana, apilar bloques, doblar una toalla), la política cuantizada (QuantWAMs) logró una tasa de éxito del 56.7% (17/30 ensayos), comparado con el 63.3% de FP16 y el 40.0% de un método de cuantización base (Atom*).
Estudios de Ablación: Experimentos controlados confirmaron que:
- La agrupación de base compartida mejora la recuperación de la máscara y el éxito en bucle cerrado.
- La saliencia de co-entrenamiento conjunto supera a la fusión post-hoc y a los objetivos de un solo flujo.
- La auditoría de trayectoria de intervención fija produce una mejor ubicación de los esquemas que los perfiles sintéticos u observacionales.

Significado y Reclamaciones

El artículo afirma que QuantWAMs establece la viabilidad de desplegar WAMs de alto rendimiento en robots reales con recursos limitados al abordar los desafíos estructurales y dinámicos específicos del control de bucle cerrado.

Reclamaciones Modestas: Los autores declaran explícitamente que sus resultados no establecen una no-inferioridad formal o equivalencia con FP16, particularmente en los ensayos con robots reales donde el tamaño de la muestra (10 ensayos por tarea) carece de potencia para una comparación estadística.
Limitaciones de Alcance: El trabajo está limitado a dos arquitecturas específicas de WAM, calibración específica de benchmarks y mediciones de eficiencia a nivel de bloque. No pretende resolver la latencia del bucle de control de extremo a extremo ni la transferencia a tareas no vistas.
Perspectiva Central: La contribución principal es la demostración de que las decisiones de cuantización deben tomarse dentro del "contexto de calibración" específico del despliegue del modelo (estructura, distribución y objetivo) en lugar de depender de heurísticas genéricas de bucle abierto.