💬 NLP

MARS: Enabling Autoregressive Models Multi-Token Generation

El artículo presenta MARS, un método de ajuste fino ligero que permite a los modelos de lenguaje autoregresivos generar múltiples tokens por paso sin modificar su arquitectura ni degradar su rendimiento, logrando así un aumento significativo en el rendimiento y una flexibilidad dinámica para el despliegue en tiempo real.

Autores originales: Ziqi Jin, Lei Wang, Ziwei Luo, Aixin Sun

Publicado 2026-04-09

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Ziqi Jin, Lei Wang, Ziwei Luo, Aixin Sun

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

¡Claro que sí! Imagina que los modelos de lenguaje actuales (como los que usas para chatear) son como un escritor muy meticuloso pero un poco lento.

El Problema: El Escritor de "Una Palabra a la Vez"

Imagina que tienes que escribir un cuento. Tu escritor actual tiene una regla estricta: solo puede escribir una palabra por cada vez que piensa.

Si la frase es obvia, como "El cielo es...", el escritor piensa, escribe "azul", y luego vuelve a pensar para escribir la siguiente palabra.
Si la frase es difícil, como resolver un problema de matemáticas, sigue pensando palabra por palabra.

El problema es que, aunque a veces la siguiente palabra es obvia (casi segura), el escritor gasta la misma energía mental y tiempo en pensarla que si fuera un acertijo difícil. Es como si un chef tuviera que cocinar una ensalada simple y un pastel complejo usando exactamente el mismo proceso lento y paso a paso. ¡Es un desperdicio de tiempo!

La Solución: MARS (El Escritor que "Adivina" en Bloques)

Los autores de este paper crearon algo llamado MARS. Imagina que MARS es una técnica de entrenamiento especial para ese escritor. No le cambian el cerebro, ni le añaden herramientas nuevas, simplemente le enseñan una nueva habilidad: la confianza.

La analogía de la "Lectura con Adivinanzas":
En lugar de escribir una palabra a la vez, MARS le pone al escritor una "máscara" sobre el futuro.

Le dice: "Escribe la primera palabra. Luego, imagina que las siguientes 3 palabras están tapadas con una máscara [MÁSCARA]. Intenta adivinarlas todas de una sola vez".
Si el escritor está muy seguro de sus predicciones (tiene alta confianza), ¡las acepta todas! Escribió 4 palabras en el tiempo que antes le tomaba escribir 1.
Si el escritor no está seguro (es un tema difícil o creativo), solo acepta la primera palabra y vuelve a pensar.

¿Por qué es especial MARS? (Las 3 Reglas de Oro)

Antes de MARS, otros intentos de hacer esto rápido fallaban porque rompían la lógica del escritor. MARS tiene tres trucos inteligentes para no arruinar la calidad:

No mira hacia atrás (Atención Causal): Algunos métodos permitían que el escritor mirara las palabras que todavía no había escrito para adivinar. Eso es como hacer trampa en un examen. MARS mantiene la regla estricta: solo puede mirar lo que ya escribió.
Mantiene el orden (Izquierda a Derecha): No salta palabras. Si adivina 3 palabras, las acepta en orden: 1, 2, 3.
El "Entrenamiento Dual" (La clave del éxito): Aquí está el truco más genial. Mientras el escritor practica adivinar palabras tapadas (lo cual es difícil), también sigue practicando escribir palabra por palabra al mismo tiempo.
- Analogía: Es como si un atleta entrenara corriendo con lastres (para ganar fuerza) pero también corriera sin ellos para mantener su velocidad natural. Sin este entrenamiento dual, el escritor se volvería lento y torpe en temas difíciles.

Los Resultados: ¿Qué ganamos?

Calidad: Si MARS decide escribir solo una palabra a la vez (cuando no está seguro), es tan bueno o mejor que el modelo original. No pierde inteligencia.
Velocidad: Cuando el modelo está seguro (por ejemplo, en frases comunes o cálculos simples), puede escribir 1.5 a 1.7 veces más rápido.
Control en tiempo real: Imagina que eres el jefe de un restaurante.
- Si hay muchos clientes esperando (alta demanda), puedes decirle al modelo: "¡Acepta más predicciones! ¡Hazlo rápido!".
- Si hay pocos clientes y quieres calidad perfecta, dices: "¡Solo escribe una palabra a la vez!".
- Lo mejor es que no necesitas cambiar de modelo ni reiniciar nada. El mismo cerebro se adapta al instante.

En Resumen

MARS es como enseñarle a un escritor a ser un atleta versátil.

Sigue siendo el mismo escritor (mismo cerebro, misma calidad).
Pero ahora tiene un "modo turbo" para cuando las cosas son fáciles y obvias.
Y tiene un "modo seguro" para cuando las cosas son difíciles.

Todo esto se logra sin añadir piezas extrañas al modelo, solo con un entrenamiento inteligente que le enseña a confiar en sus propias predicciones cuando es seguro hacerlo. ¡Es como darle al modelo un superpoder sin cambiarle el traje!

Resumen Técnico: MARS (Mask AutoRegreSsion)

1. El Problema

Los modelos de lenguaje autoregresivos (AR) actuales generan texto token por token, realizando una pasada hacia adelante (forward pass) por cada token, independientemente de lo predecible que sea el siguiente token. Esto resulta ineficiente, ya que el costo computacional es uniforme incluso cuando el contexto permite predecir múltiples tokens con alta certeza.

Las soluciones existentes para la generación de múltiples tokens presentan desventajas significativas:

Decodificación Especulativa: Requiere un modelo "borrador" separado, duplicando la huella de memoria y añadiendo complejidad en la orquestación.
Enfoques Multi-cabeza (ej. Medusa, EAGLE): Añaden cabezas de predicción adicionales a la arquitectura, requiriendo parámetros extra y entrenamiento específico.
Difusión Bloqueada (Block Diffusion): Al convertir modelos AR a difusión, a menudo sufren una degradación significativa de calidad, especialmente en tareas de razonamiento y codificación, debido a inconsistencias en la atención y el orden de generación.

El objetivo es lograr la generación de múltiples tokens sin modificar la arquitectura del modelo, sin añadir parámetros y manteniendo la capacidad de funcionar exactamente como un modelo AR estándar.

2. Metodología: MARS

MARS (Mask AutoRegreSsion) es un método de fine-tuning ligero que enseña a un modelo AR instruido a predecir múltiples tokens por pasada hacia adelante, manteniendo su comportamiento original.

Principios Clave de Diseño:
El diseño de MARS se basa en cerrar las brechas entre la predicción autoregresiva y la predicción enmascarada por bloques. Los autores identifican cuatro brechas y demuestran que tres son decisiones de diseño eliminables:

Enmascaramiento de Tokens (Inherente): Se reemplazan bloques de tokens futuros por [MASK].
Patrón de Atención (Eliminable): MARS mantiene estrictamente atención causal (izquierda a derecha) dentro de los bloques, a diferencia de la difusión que usa atención bidireccional.
Alineación de Logits (Eliminable): Se preserva la convención de logits desplazados a la derecha (right-shifted), donde la posición $t$ predice $t+1$ .
Orden de Generación (Eliminable): Los tokens se aceptan estrictamente de izquierda a derecha, sin reordenamiento basado en confianza.

Proceso de Entrenamiento:

Doble Flujo: Se procesan dos copias de la secuencia en paralelo: un flujo "limpio" (tokens originales) y un flujo "ruidoso" (bloques reemplazados por [MASK]).
Pérdida Combinada: Se utiliza una función de pérdida combinada:
- $L_{mask}$ : Entropía cruzada para predecir los tokens enmascarados.
- $L_{AR}$ : Pérdida estándar de predicción del siguiente token sobre el flujo limpio.
- Importancia de $L_{AR}$ : Esta es la contribución crítica. Sin ella, la señal autoregresiva se diluye a medida que aumenta el tamaño del bloque ( $1/B$ ), degradando el rendimiento en razonamiento. La pérdida AR mantiene la competencia del modelo por encima del 50% de señal pura, independientemente del tamaño del bloque.

Inferencia:

Se utiliza una ventana deslizante. Se añaden $B$ tokens [MASK] al prefijo actual.
El modelo realiza una sola pasada hacia adelante.
Los tokens se aceptan secuencialmente mientras la probabilidad supere un umbral de confianza ( $\tau$ ).
Si la confianza es baja, se acepta al menos un token (degradación suave a AR estándar).
Se implementa una estrategia de caché KV a nivel de bloque para inferencia por lotes, sincronizando el avance de la caché según el número mínimo de tokens aceptados en el lote.

3. Contribuciones Clave

Análisis de Brechas: Identificación de que la degradación en métodos previos se debía a decisiones de diseño (atención bidireccional, alineación de logits, orden de generación) y no a limitaciones inherentes.
Método sin Arquitectura: MARS no añade capas, cabezas ni parámetros; utiliza el mismo modelo y los mismos datos de instrucción (SFT).
Pérdida SFT como Estabilizador: Demostración de que la pérdida sobre el flujo limpio es esencial para preservar la calidad en bloques grandes, evitando el colapso de la capacidad de razonamiento.
Ajuste en Tiempo Real: El modelo permite ajustar el umbral de confianza ( $\tau$ ) dinámicamente durante el servicio para equilibrar latencia y calidad sin recargar el modelo.

4. Resultados

Los experimentos se realizaron en modelos Qwen2.5-0.5B y Qwen2.5-7B.

Calidad en Modo Un Token ( $\tau=1.0$ ): MARS iguala o supera el rendimiento del modelo AR base en 6 benchmarks estándar (IFEval, BBH, MMLU-Pro, GPQA, GSM8K, HumanEval). Por ejemplo, en Qwen2.5-7B, MARS logra un promedio de 58.1 frente a 56.6 del AR SFT.
Generación Multi-Token:
- Al permitir múltiples tokens por paso, MARS logra un aumento de 1.5x a 1.7x en el rendimiento (tokens por paso) manteniendo una precisión cercana a la línea base.
- El costo de precisión es mínimo y predecible (ej. caída de ~1.3 puntos en promedio para Qwen2.5-7B al usar $\tau=0.95$ ).
Velocidad de Pared (Wall-Clock):
- Con la estrategia de caché KV a nivel de bloque, MARS logra un speedup de 1.71x sobre la decodificación AR estándar con caché KV en Qwen2.5-7B (en lotes de tamaño 4).
- Sin la caché bloqueada, el rendimiento decaería debido a la recomputación de secuencias completas.

5. Significado e Impacto

MARS representa un avance significativo en la eficiencia de la inferencia de LLMs al demostrar que la generación de múltiples tokens no requiere arquitecturas complejas ni modelos auxiliares.

Eficiencia Operativa: Permite a los sistemas de servicio ajustar la latencia y el rendimiento (throughput) en tiempo real según la carga de trabajo, simplemente cambiando un umbral de confianza.
Simplicidad de Despliegue: Al ser un "superset" estricto del modelo original, se puede desplegar con la misma infraestructura que un modelo AR estándar, sin necesidad de gestionar modelos de borrador o cabezas adicionales.
Escalabilidad: La técnica es aplicable a modelos de diferentes tamaños y preserva las capacidades de razonamiento y codificación, áreas donde otros métodos de generación paralela suelen fallar.

En resumen, MARS ofrece una solución práctica y ligera para superar el cuello de botella de la generación token-a-token, proporcionando una vía para acelerar la inferencia de modelos de lenguaje sin sacrificar la calidad.