💬 NLP

Accelerated Test-Time Scaling with Model-Free Speculative Sampling

El artículo introduce STAND, un método de decodificación especulativa sin modelo que aprovecha la redacción estocástica adaptativa de N-gramas para explotar las redundancias inherentes al razonamiento, logrando una reducción del 60-65% en la latencia de inferencia en diversas tareas de razonamiento sin comprometer la precisión ni requerir entrenamiento adicional del modelo.

Autores originales: Woomin Song, Saket Dingliwal, Sai Muralidhar Jayanthi, Bhavana Ganesh, Jinwoo Shin, Aram Galstyan, Sravan Babu Bodapati

Publicado 2026-05-22

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Woomin Song, Saket Dingliwal, Sai Muralidhar Jayanthi, Bhavana Ganesh, Jinwoo Shin, Aram Galstyan, Sravan Babu Bodapati

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás intentando resolver un rompecabezas muy difícil, como un problema matemático complejo o un desafío de programación complicado. Tienes un amigo brillante pero de pensamiento lento (el modelo de IA) que puede resolverlo, pero tarda mucho tiempo en escribir cada palabra de su solución, una por una.

El Problema: El "Paso Lento"
Actualmente, cuando los modelos de IA razonan, recorren su solución paso a paso, como una persona que escribe una frase letra por letra. Si el modelo necesita generar 1.000 palabras, tiene que detenerse, pensar y escribir 1.000 veces. Esto es lento y consume mucha energía.

Algunas personas intentan acelerar esto pidiendo al modelo que escriba 16 soluciones diferentes a la vez y elija la mejor (como pedirle a 16 personas que resuelvan el rompecabezas y elegir al ganador). Pero esto hace que la computadora trabaje aún más, como contratar a 16 personas en lugar de una.

La Solución: STAND (El "Truco de Memoria")
El artículo introduce un nuevo método llamado STAND. Piensa en STAND como un "atajo" inteligente que no requiere contratar a un segundo amigo más pequeño para ayudar. En su lugar, utiliza la propia memoria del amigo brillante para adivinar lo que viene a continuación.

Así es como funciona, usando analogías simples:

1. El "Reconocedor de Patrones" (N-gramas)

Cuando tu amigo brillante resuelve muchos rompecabezas, a menudo usa las mismas frases o pasos lógicos una y otra vez.

Antiguo Método: Si el amigo dice "La respuesta es 42", el sistema espera a que se escriba la siguiente palabra.
Método STAND: El sistema recuerda que cada vez que el amigo dice "La respuesta es", casi siempre dice "42" a continuación. Por lo tanto, el sistema adivina las siguientes palabras con antelación.

2. El "Medidor de Confianza" (Redacción Estocástica)

Esta es la mayor innovación del artículo.

El Antiguo Juego de Adivinanzas: Los métodos anteriores eran como un robot que solo adivinaba la palabra más probable. Si el amigo estaba inseguro, la adivinanza del robot a menudo era incorrecta, y el amigo tenía que detenerse y corregirla.
El Juego de Adivinanzas de STAND: STAND es más inteligente. Recuerda no solo qué palabra se usó, sino cuánta confianza tenía el amigo cuando la dijo.
- Analogía: Imagina que tu amigo está eligiendo entre "Manzana" y "Banana".
  - Método Antiguo: Si dicen "Manzana", el sistema adivina "Manzana". Si el amigo en realidad quería decir "Banana", la adivinanza falla.
  - Método STAND: El sistema recuerda: "Cuando dijeron 'Manzana', tenían un 70% de certeza, pero había un 30% de probabilidad de 'Banana'". Por lo tanto, el sistema adivina ambas posibilidades al mismo tiempo, ponderadas según su probabilidad. Esto hace que la adivinanza sea mucho más probable que sea correcta.

3. El "Árbol de Posibilidades" (Búsqueda en Árbol)

A veces, el camino no es una línea recta; es un cruce en el camino.

La Estrategia: STAND construye un pequeño "árbol" de adivinanzas. No solo adivina una palabra siguiente; adivina varios caminos diferentes que el amigo podría tomar.
La Optimización: El artículo menciona un enfoque "basado en datos". Imagina que el sistema prueba primero un árbol enorme y desordenado de adivinanzas. Luego, mira los resultados y dice: "Bien, estas ramas siempre funcionaron, pero estos callejones sin salida nunca lo hicieron". Corta los callejones sin salida y mantiene las mejores ramas, creando un mapa supereficiente para futuras adivinanzas.

4. El "Impulso de Velocidad" (Gumbel-Top-K)

Para que estas adivinanzas ocurran instantáneamente sin ralentizar la computadora, el artículo utiliza un truco matemático llamado Gumbel-Top-K.

Analogía: Imagina que tienes una bolsa de canicas y necesitas elegir las 3 más rápidas. En lugar de elegirlas una por una (lo cual toma tiempo), agitas la bolsa y dejas que las 3 superiores salgan todas a la vez. Esto ahorra tiempo precioso.

Los Resultados: ¿Qué Encontraron?

Los investigadores probaron esto en problemas difíciles de matemáticas, ciencias y programación.

Velocidad: Descubrieron que STAND hace que la IA sea un 60% a un 65% más rápida que el método lento estándar.
Precisión: Crucialmente, no hizo que la IA fuera menos inteligente. Las respuestas eran tan correctas como antes.
Sin Entrenamiento Extra: No necesitas enseñarle nada nuevo a la IA. Es una herramienta de "enchufar y usar". Puedes tomar cualquier modelo de IA existente y conectarle este "truco de memoria" inmediatamente.
Escalabilidad: Cuantos más caminos explore la IA (como probar 16 soluciones diferentes), mejor funciona STAND. Es como tener un mapa mejor cuando exploras un bosque enorme.

En Resumen
STAND es como darle a una IA lenta y reflexiva una "chuleta" hecha a partir de sus propios pensamientos pasados. En lugar de escribir cada palabra desde cero, utiliza su memoria de patrones similares para predecir las siguientes palabras instantáneamente. Lo hace sin necesitar una segunda IA para ayudar, y mantiene las respuestas tan inteligentes como antes, solo que mucho más rápidas.

Resumen Técnico: Escalado Acelerado en Tiempo de Inferencia con Muestreo Especulativo sin Modelo (STAND)

Declaración del Problema

Las técnicas de escalado en tiempo de inferencia (TTS), como el muestreo mejor de N, la votación mayoritaria y la búsqueda en árbol, han mejorado significativamente las capacidades de razonamiento de los Modelos de Razonamiento Grandes (LRM) al asignar recursos computacionales adicionales durante la inferencia. Sin embargo, estos métodos incurren en costos computacionales sustanciales debido a la generación de secuencias largas y múltiples trayectorias. Los enfoques existentes centrados en la eficiencia, como el entrenamiento con recompensas basadas en la longitud o el uso de modelos en cascada, a menudo enfrentan una compensación fundamental donde reducir los costos computacionales conduce a una pérdida de precisión. Además, aunque la decodificación especulativa (SD) ofrece una vía para una aceleración sin pérdida, muchos métodos de SD sin modelo existentes dependen de búsquedas deterministas de n-gramas que no aprovechan la naturaleza probabilística de las estrategias de generación basadas en muestreo utilizadas en los LRM.

Metodología: STAND

Los autores proponen STAND (Redacción de N-gramas Adaptativa Estocástica), un enfoque de decodificación especulativa sin modelo diseñado para acelerar el razonamiento de LLM sin requerir modelos borrador adicionales ni ajuste fino. STAND explota la redundancia inherente en las trayectorias de razonamiento, donde patrones de razonamiento y secuencias de tokens similares se reutilizan frecuentemente entre diferentes soluciones.

La metodología se basa en tres innovaciones clave:

Módulo Adaptativo de N-gramas Basado en Logits:
A diferencia de los redactores sin modelo tradicionales que almacenan IDs de tokens discretos o los top-k tokens, STAND almacena las distribuciones de logits (distribuciones de probabilidad) de los siguientes tokens para los n-gramas observados.
- Eficiencia de Memoria: Para manejar vocabularios grandes, el sistema mantiene solo los índices top-k y sus probabilidades. Cuando un n-gram se encuentra repetidamente, las distribuciones se fusionan utilizando un promedio ponderado (tratando los índices no almacenados como probabilidad cero). La distribución resultante se trunca a los 10 tokens más probables para garantizar un uso constante de la memoria.
- Redacción Estocástica: Al preservar la información probabilística, STAND habilita la redacción estocástica, donde los tokens borrador se muestrean desde la distribución almacenada en lugar de seleccionar un único token determinista. Esto alinea la distribución del borrador con la estrategia de muestreo del modelo objetivo, aumentando significativamente las tasas de aceptación de tokens.
Muestreo Optimizado mediante Gumbel-Top-K:
Para muestrear eficientemente múltiples tokens en paralelo para el árbol de borrador, STAND reemplaza el muestreo secuencial con el truco de Gumbel-Top-K. Al agregar ruido Gumbel a las probabilidades logarítmicas y seleccionar los índices top-k, el método muestrea $k$ tokens sin reemplazo en paralelo. Los términos de ruido Gumbel se precalculan y almacenan en caché para separar la sobrecarga de muestreo del proceso de redacción, reduciendo aún más la latencia.
Optimización de Árbol de Borrador Basada en Datos:
En lugar de depender de la construcción de árboles heurística o puramente dinámica, STAND emplea un enfoque basado en datos para optimizar árboles de borrador estáticos.
- Proceso: Se construye un árbol grande inicial (625 nodos). Se realiza decodificación especulativa en un pequeño conjunto de muestras de datos reales (por ejemplo, 30 muestras). El sistema rastrea las probabilidades de aceptación por nodo y selecciona los 80 nodos más efectivos para reorganizarlos en una estructura de árbol compacta y optimizada.
- Resultado: Esto asegura que la estructura del árbol esté empíricamente optimizada para el rendimiento en el mundo real, manteniendo al mismo tiempo la eficiencia computacional de los árboles estáticos.

Contribuciones Clave

Redacción Estocástica sin Modelo: El artículo identifica que los métodos existentes de SD sin modelo ignoran en gran medida la estocasticidad. STAND introduce un mecanismo para preservar y utilizar la información de logits de generaciones anteriores para realizar redacción estocástica, lo cual es crucial para la inferencia de LRM basada en muestreo.
Almacenamiento Eficiente de Logits: La propuesta de una representación comprimida y eficiente en memoria para las distribuciones de logits de n-gramas que permite la redacción probabilística sin la sobrecarga de modelos neuronales de borrador completos.
Construcción de Árboles Basada en Datos: Un método novedoso de optimización fuera de línea para árboles de borrador que adapta la estructura del árbol basándose en las tasas de aceptación empíricas, superando los diseños de árboles heurísticos.
Compatibilidad Plug-and-Play: Como enfoque sin modelo, STAND no requiere entrenamiento adicional, ajuste fino del modelo objetivo ni modelos de borrador separados, lo que lo hace aplicable a cualquier LRM existente.

Resultados Experimentales

Se realizaron evaluaciones extensas en razonamiento matemático (AIME-2024), preguntas de ciencias (GPQA-Diamond) y codificación (LiveCodeBench) utilizando los modelos DeepSeek-R1-Distill-Qwen-7B y 14B.

Rendimiento y Latencia: STAND reduce la latencia de inferencia en un 60–65% en comparación con la decodificación autoregresiva estándar, manteniendo la precisión. En términos de rendimiento, supera a los métodos de decodificación especulativa más avanzados en un 14–28%.
Escalado de Múltiples Trayectorias: Los beneficios de STAND escalan con el número de trayectorias de razonamiento. En escenarios de muestreo mejor de 16, STAND logra el mayor rendimiento y longitudes de aceptación, superando significativamente a líneas base como Token Recycle, ANPD y SAM.
Patrones de Inferencia Diversos:
- Trayectoria Única: STAND mejora el rendimiento en aproximadamente 2.38 veces sobre la decodificación estándar.
- Decodificación por Lotes: STAND mantiene aceleraciones significativas (hasta 1.52 veces sobre las líneas base) incluso con tamaños de lote de 8, mientras que otros métodos se degradan.
- Búsqueda en Árbol en Tiempo de Inferencia: En la Búsqueda en Árbol con Verificador Diverso (DVTS), STAND logra una aceleración promedio de 2.54 veces sobre la decodificación estándar.
Estudios de Ablación:
- Estocástico vs. Determinista: La redacción estocástica produce consistentemente probabilidades de aceptación más altas (5–8% más altas) y un mayor rendimiento en comparación con la redacción determinista.
- Optimización del Árbol: Los árboles optimizados mediante el método basado en datos superan a los árboles heurísticos (por ejemplo, de Token Recycle) tanto en tareas dentro del dominio (AIME) como fuera del dominio (GPQA).
- Estructura del Árbol: Los árboles optimizados para STAND exhiben una mayor profundidad (hasta 13 niveles frente a 7 para las líneas base) y una estructura de "cola larga", lo que refleja la capacidad del modelo para aprovechar secuencias deterministas más largas encontradas en las trayectorias de razonamiento.

Significado y Afirmaciones

El artículo afirma que STAND proporciona una solución potente y plug-and-play para acelerar el razonamiento de modelos de lenguaje. Al aprovechar la redundancia en las trayectorias de razonamiento y la información probabilística inherente a la generación basada en muestreo, STAND logra una aceleración significativa (reducción de latencia del 60–65%) sin comprometer la precisión del modelo objetivo.

Los autores enfatizan que, a diferencia de los métodos que requieren reentrenamiento del modelo o el despliegue de modelos de borrador separados, STAND es completamente sin modelo y compatible con cualquier LRM existente. Aborda eficazmente la compensación entre rendimiento y eficiencia en el escalado en tiempo de inferencia, particularmente en escenarios que involucran múltiples trayectorias, decodificación por lotes y búsqueda en árbol. El trabajo sugiere que agregar información histórica (mediante el almacenamiento de logits de n-gramas) es más beneficioso para el escalado en tiempo de inferencia que los métodos que simplemente reemplazan o ignoran los datos de trayectorias anteriores.

Nota: Los autores reconocen limitaciones con respecto a la implementación actual, que utiliza la biblioteca HuggingFace (menos optimizada que vLLM o SGLang) y una búsqueda de N-gramas basada en Python, lo que sugiere un potencial para una mayor reducción de latencia con implementaciones más optimizadas.