💬 NLP

Self-Speculation for Faster Reasoning Models

Este artículo presenta SSR (Self-Speculation for Reasoning Models), un método de decodificación que no requiere entrenamiento que acelera los modelos de lenguaje de gran tamaño aprovechando respuestas parciales de cadena de pensamiento como borradores para verificar y extender trazas de razonamiento completas, logrando una reducción de latencia de hasta el 24.1% en tareas complejas de generación de formato largo.

Autores originales: Ravisri Valluri, Tung Nguyen, Aditya Grover

Publicado 2026-08-24

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Ravisri Valluri, Tung Nguyen, Aditya Grover

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

En el mundo de la inteligencia artificial, los modelos de lenguaje extensos han evolucionado de simples chatbots a sofisticados solucionadores de problemas capaces de planificar, programar y tomar decisiones complejas. Para alcanzar este nivel de inteligencia, estos modelos suelen participar en un proceso llamado "cadena de pensamiento" (chain-of-thought) de razonamiento. En lugar de saltar directamente a una respuesta, el modelo genera un largo monólogo interno paso a paso, trabajando en el problema antes de producir una respuesta final. Si bien este tiempo de pensamiento adicional mejora significativamente la calidad de la respuesta, también crea un cuello de botella: cuanto más piensa el modelo, más tiempo debe esperar el usuario para ver el resultado. Para aplicaciones interactivas como asistentes de voz o herramientas de programación, este retraso puede ser frustrante, rompiendo el flujo de la conversación o ralentizando el flujo de trabajo de un desarrollador. El desafío para los investigadores ha sido encontrar una manera de mantener el razonamiento de alta calidad sin obligar al usuario a esperar a que termine cada uno de los pasos del proceso de pensamiento antes de que comience a aparecer la respuesta.

Un equipo de investigadores de la Universidad de California, Los Ángeles, ha desarrollado un nuevo método llamado Auto-Especulación para Modelos de Razonamiento, o SSR (Self-Speculation for Reasoning Models), que tiene como objetivo resolver este problema de latencia sin sacrificar la calidad del resultado. Su enfoque se basa en una observación simple pero poderosa: a medida que un modelo razona sobre un problema, sus suposiciones tempranas sobre la respuesta final suelen contener pistas significativas sobre cuál será realmente la respuesta final. Incluso antes de que el modelo termine su razonamiento interno, generalmente ya se ha decidido por la estructura general y los detalles clave de la solución. Los investigadores se dieron cuenta de que podían usar estos pensamientos tempranos e incompletos como un "borrador" para predecir la respuesta final, mientras el modelo continúa su proceso de razonamiento completo en segundo plano.

El método funciona ejecutando dos versiones del mismo modelo al mismo tiempo. Una versión, actuando como redactor, detiene el proceso de razonamiento prematuramente e intenta generar inmediatamente la respuesta final basándose en los pensamientos parciales que tiene hasta el momento. Simultáneamente, la versión principal del modelo continúa su proceso de razonamiento profundo y completo. Una vez que el modelo principal termina su larga cadena de pensamiento, actúa como un verificador, comprobando el borrador generado por la versión temprana. Si el borrador coincide con la respuesta final, totalmente razonada, el sistema acepta los tokens del borrador, saltándose efectivamente el tiempo que habría tomado generarlos uno por uno. Debido a que la redacción ocurre en paralelo con el razonamiento principal, el tiempo dedicado a crear el borrador queda oculto; el usuario no espera por él. Esto permite que el sistema entregue la respuesta final mucho más rápido, particularmente para tareas que requieren salidas largas y estructuradas como escribir código o planificar secuencias complejas.

Para hacer esto aún más efectivo, los investigadores añadieron una segunda capa al proceso. En muchos casos, el borrador temprano podría cometer un error en algunos detalles al principio —quizás usando un nombre de variable incorrecto o una frase ligeramente distinta— pero luego alinearse perfectamente con la respuesta final durante un largo tramo de texto. Los métodos estándar descartarían todo el borrador ante el primer error, pero el nuevo sistema incluye una característica de "decodificación de sufijo" (suffix decoding). Esto permite al sistema mirar más allá de los errores iniciales y encontrar secciones de texto coincidentes más adelante en el borrador que la respuesta final también utiliza. Al recuperar estos fragmentos útiles de texto, el sistema puede aceptar incluso más del borrador, reduciendo aún más el tiempo necesario para generar la respuesta.

Los investigadores probaron este método en varias tareas exigentes, incluyendo la generación de código para clases de software complejas y la creación de documentos largos y estructurados. Encontraron que, para modelos que trabajan en este tipo de problemas, el nuevo método redujo el tiempo total para generar una respuesta hasta en un 24.1 por ciento. Esta aceleración se logró sin cambiar los pesos del modelo ni requerir ningún entrenamiento adicional, lo que significa que puede aplicarse a sistemas existentes de inmediato. Los resultados fueron más pronunciados en tareas donde la respuesta final era larga y estructurada, como la programación, donde el modelo tiende a comprometerse con la estructura general de forma temprana en su pensamiento. Por el contrario, para tareas más cortas donde el tiempo de pensamiento es el factor dominante, las ganancias de velocidad fueron menores, ya que el método acelera principalmente la fase de generación de la respuesta en lugar de la fase de razonamiento.

El estudio también exploró cómo se comporta el método cuando se le pide al modelo que piense durante diferentes duraciones de tiempo. Encontraron que los mejores resultados provienen de iniciar la generación del borrador cuando el modelo ha completado una parte sustancial de su razonamiento, asegurando que el borrador se base en suficiente contexto para ser preciso. También desarrollaron una versión iterativa del método que actualiza el borrador en múltiples puntos durante el proceso de razonamiento, permitiendo que el sistema refine sus predicciones a medida que el modelo profundiza en su pensamiento. Este enfoque asegura que, incluso si un borrador temprano no es perfecto, los borradores posteriores puedan construirse sobre él, manteniendo una alta tasa de éxito.

En última instancia, este trabajo demuestra que la estructura del propio proceso de razonamiento puede utilizarse como un recurso para acelerar la inteligencia artificial. Al tratar los pensamientos intermedios del propio modelo como una fuente de predicción, los investigadores han creado una forma de entregar respuestas razonadas de alta calidad con un tiempo de espera significativamente menor. El método es particularmente valioso para aplicaciones interactivas donde la velocidad es esencial, demostrando que es posible tener tanto un pensamiento profundo como respuestas rápidas sin comprometer la calidad de la solución.

Resumen Técnico: Auto-especulación para Modelos de Razonamiento más Rápidos (SSR)

Planteamiento del Problema
Los Modelos de Lenguaje de Gran Escala (LLMs), particularmente los modelos de razonamiento, logran un alto rendimiento en tareas complejas como la planificación, la codificación y la toma de decisiones mediante la generación de largas cadenas de pensamiento (CoT, por sus siglas en inglés). Sin embargo, esta dependencia de trazas de razonamiento extendidas aumenta significativamente la latencia de generación de extremo a extremo, creando un cuello de botella para aplicaciones interactivas sensibles a la latencia, como los asistentes de voz y los agentes de codificación. Los métodos de aceleración existentes, incluyendo la decodificación especulativa, suelen centrarse en la generación a nivel de token utilizando modelos de borrador independientes o modificaciones arquitectónicas. Estos enfoques a menudo no logran aprovechar las propiedades estructurales específicas de los flujos de trabajo de razonamiento, donde el proceso de razonamiento mismo evoluciona hacia una respuesta final.

Metodología: Auto-especulación para Modelos de Razonamiento (SSR)
Los autores proponen SSR, un método de decodificación auto-especulativa que no requiere entrenamiento y utiliza la cadena de pensamiento como una fuente de especulación. La idea central es que las respuestas parciales de CoT, a medida que el razonamiento progresa, exhiben una creciente superposición semántica y léxica con la respuesta final de alto presupuesto. SSR aprovecha esto utilizando el mismo modelo de lenguaje en dos presupuestos de razonamiento diferentes:

Borrador (Drafting): Una instancia de menor presupuesto ( $b_d$ ) genera tokens de la respuesta de borrador basados en un prefijo de CoT parcial ( $r_{\le b_d}$ ).
Verificación: Una instancia de mayor presupuesto ( $b_v$ ) continúa el proceso de razonamiento hasta el presupuesto completo, actuando como el verificador.
Concurrencia: La generación del borrador y el razonamiento continuo proceden de forma concurrente. La sobrecarga del borrador se oculta detrás de la generación continua de la CoT, ya que el borrador se produce mientras el modelo aún está razonando hacia el presupuesto final.

Componentes Técnicos Clave

Verificación de Prefijos: SSR emplea la verificación estándar de decodificación especulativa para aceptar el prefijo de coincidencia más largo entre el borrador y la respuesta final. Si el borrador es preciso, se aceptan múltiples tokens en una sola pasada del verificador, reduciendo los pasos de decodificación secuencial.
Decodificación de Sufijos: Reconociendo que la verificación de prefijos estándar descarta todo el borrador tras la primera discrepancia, SSR introduce la decodificación de sufijos. Esta construye un caché de sufijos a partir de los tokens del borrador para proponer segmentos que pueden coincidir con la respuesta final después del punto inicial de rechazo. Esto recupera texto útil en escenarios donde el borrador y la respuesta final divergen en detalles tempranos menores (por ejemplo, nombres de variables) pero coinciden en segmentos subsecuentes largos, un fenómeno común en tareas estructuradas como la codificación.
Variantes Iterativas y Multietapa: Para abordar la incertidumbre del punto de muestreo óptimo (dado que la longitud total de la CoT es desconocida), SSR incluye una variante iterativa. Este enfoque muestrea borradores en múltiples puntos durante la generación de la CoT, utilizando los prefijos aceptados anteriormente para impulsar los borradores posteriores, reduciendo así la sobrecarga del muestreo en múltiples puntos.
Implementación: El método se implementa en vLLM como una adición directa. Duplica la solicitud en el presupuesto del borrador, utilizando el almacenamiento en caché de prefijos para evitar la computación redundante sobre el prefijo de razonamiento compartido.

Contribuciones Clave

Auto-especulación sin Entrenamiento: Un método que no requiere parámetros auxiliares ni modificaciones específicas del modelo objetivo, derivando tanto las distribuciones del borrador como del verificador del mismo modelo en diferentes presupuestos de razonamiento.
Extensión de Decodificación de Sufijos: Una extensión a la verificación estándar que recupera segmentos útiles del borrador más allá de la primera discrepancia, mejorando significativamente las tasas de aceptación para salidas de formato largo y estructuradas.
Muestreo Iterativo: Una estrategia para muestrear borradores en múltiples puntos durante la generación, utilizando borradores anteriores para impulsar los posteriores y mitigar el riesgo de seleccionar un presupuesto de borrador subóptimo.
Integración Práctica: Una implementación en vLLM que se integra perfectamente en las configuraciones de servicio existentes sin alterar los pesos del modelo.

Resultados Experimentales
Los autores evaluaron SSR en tareas de generación estructurada y de formato largo, incluyendo HumanEval, ClassEval y LongProc, utilizando modelos de razonamiento de clase 4B de código abierto (Qwen3.5-4B y Gemma-4-E4B-it).

Reducción de Latencia: SSR logró reducciones de latencia relativa de hasta un 24.1% en ClassEval (Gemma-4-E4B-it) y un 18.5% en el mismo benchmark para Qwen3.5-4B.
Varianza de Tareas: Las mejoras fueron más pronunciadas en tareas con salidas largas y estructuradas (ClassEval, LongProc 2K), donde los tokens de borrador aceptados compensaron eficazmente la sobrecarga de la creación del borrador. Las ganancias fueron más modestas en tareas más cortas como HumanEval, donde la generación de la CoT domina la latencia total.
Ablación: Los experimentos confirmaron que, si bien la verificación de prefijos por sí sola ofrece ganancias modestas, la combinación con la decodificación de sufijos es crítica para maximizar la aceleración, particularmente en escenarios donde los borradores comparten una alta superposición léxica con la respuesta final a pesar de las discrepancias tempranas.
Sobrecarga: El proceso de generación de borrador concurrente introduce una sobrecarga efectiva mínima (menos del 2% en el rendimiento medido) porque el costo del borrador se oculta detrás del proceso de razonamiento, y el almacenamiento en caché de prefijos minimiza la computación redundante.

Significancia y Reivindicaciones
El artículo afirma que SSR ofrece una solución "directa" (drop-in) para acelerar los modelos de razonamiento sin necesidad de entrenamiento o cambios arquitectónicos. Al tratar la cadena de pensamiento no solo como un paso de razonamiento sino como un recurso para la especulación, SSR utiliza eficazmente las propiedades de convergencia de los modelos de razonamiento. Los autores enfatizan que el método preserva la calidad de la salida (bajo verificación exacta) mientras proporciona reducciones de latencia consistentes en tareas donde la longitud de la respuesta es comparable a la longitud de la traza de razonamiento. El trabajo sugiere que la estructura del razonamiento mismo puede ser un recurso valioso para una generación eficiente, fomentando la exploración de cómo aprovechar los estados internos del modelo para la aceleración.

Resumen Técnico: Auto-especulación para Modelos de Razonamiento más Rápidos (SSR)

Más como este