💻 computer science

Reason Wide, Not Deep: Amortizing the Reasoning Premium into Distilled Skills

Este artículo propone amortizar el alto costo de tokens de los modelos de razonamiento mediante la destilación de habilidades compactas en lenguaje natural desde un pequeño corpus de trayectorias existentes hacia modelos que no razonan, lo cual logra un rendimiento comparable o superior en evaluaciones de agentes al emitir significativamente menos tokens al intercambiar una búsqueda profunda por instancia por una destilación de corpus amplia y de una sola vez.

Autores originales: Agamdeep Singh, Srishti Gautam, Priyanshu Gupta, Nikita Mehrotra, Tanmay Bakshi, Sumit Gulwani

Publicado 2026-08-11

📖 6 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Agamdeep Singh, Srishti Gautam, Priyanshu Gupta, Nikita Mehrotra, Tanmay Bakshi, Sumit Gulwani

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

El Gran Impuesto al Token y la Hoja de Referencia Mágica

Imagina que estás tratando de enseñarle a un robot superinteligente cómo hacer tareas del hogar, como organizar una habitación desordenada o resolver un problema matemático difícil. En el mundo de la inteligencia artificial, hay un truco popular llamado "razonamiento". Es como decirle al robot que "piense en voz alta" antes de actuar. En lugar de simplemente agarrar un calcetín, el robot hace una pausa y dice: "Bien, necesito encontrar el calcetín, verificar si está limpio y luego ponerlo en el cesto". Esta parte de "pensar" hace que el robot sea mucho mejor en tareas difíciles, pero conlleva un precio elevado: consume una enorme cantidad de energía digital (llamada "tokens") cada vez que lo intenta. Es como pagar un peaje cada vez que conduces por un camino familiar, incluso si ya has recorrido ese camino mil veces. El robot vuelve a derivar las mismas reglas simples una y otra vez, desperdiciando energía en cosas que ya debería saber.

La gran pregunta que se hacen los investigadores es: ¿Podemos enseñarle estas reglas al robot una sola vez, para que no tenga que "pensar" en ellas cada vez que lo intente? Si pudiéramos darle al robot una "hoja de referencia" permanente con las mejores formas de hacer las cosas, ¿podría ser tan inteligente como el robot que "piensa", pero sin la costosa factura de energía? Este es el corazón de la nueva investigación del taller COLM 2026, que explora una forma ingeniosa de ahorrar energía sin perder inteligencia.

La Gran Idea del Artículo: "Razonar de Forma Ancha, No Profunda"

Los investigadores detrás de este estudio, trabajando con Microsoft, notaron algo curioso sobre cómo funcionan estos robots de "razonamiento". Cuando abordan una serie de tareas similares —como ayudar a un cliente en una tienda u organizar una hoja de cálculo— pasan una gran parte de su tiempo reinventando la rueda. Pueden razonar a través de: "No debería llamar a la herramienta de la cuenta del cliente hasta que me den un correo electrónico", una y otra vez, aunque esa regla nunca cambie. Es como un estudiante que, cada vez que toma un examen de matemáticas, redescubre desde cero que $2+2=4$ en lugar de simplemente recordarlo.

El equipo propuso una solución que llaman Destilación de Habilidades Pasiva. En lugar de hacer que el robot "piense" profundamente cada vez (lo cual es como hacer una búsqueda profunda en una biblioteca por cada libro), decidieron realizar una "búsqueda amplia" a través de muchos intentos pasados para encontrar los patrones.

Así fue como lo hicieron:

La Colección: Reunieron una pequeña pila de intentos pasados (unas 35 a 50 tareas) donde un robot intentó resolver problemas. Estos podían ser intentos donde el robot estaba "pensando" o simplemente "actuando" sin pensar.
El Analista: Entregaron esta pila de datos a un robot de programación diferente y muy inteligente (un "agente"). Le pidieron a este analista que revisara los registros, encontrara dónde fallaron los robots y determinara el porqué.
La Hoja de Referencia: El robot analista escribió un conjunto de reglas corto y simple en inglés sencillo (unas 40 a 130 líneas de texto). Por ejemplo, podría escribir: "Antes de intentar encontrar el ID de un usuario, asegúrate de que la dirección de correo electrónico esté realmente en el mensaje, o recibirás un error".
La Inyección: Tomaron esta "habilidad" corta y la pegaron en las instrucciones del sistema del robot que no piensa. Ahora, el robot no necesita "pensar" para recordar la regla; simplemente lee la hoja de referencia y actúa.

Lo Que Encontraron: Más Inteligentes, Más Rápidos y Más Baratos

Los resultados fueron sorprendentemente buenos. Cuando probaron estos robots con "hojas de referencia" en cuatro bancos de pruebas desafiantes (como organizar una casa virtual, arreglar hojas de cálculo y gestionar llamadas de servicio al cliente), los robots con las habilidades funcionaron casi tan bien como, o a veces incluso mejor que, los costosos robots que "piensan".

La Puntuación: En algunas pruebas, el robot que no piensa con la habilidad superó de hecho al robot que piensa. Por ejemplo, en una tarea llamada ALFWorld (organizar una casa virtual), el robot mejorado con la habilidad obtuvo una puntuación de 0.787, mientras que el robot que piensa solo obtuvo 0.713.
El Ahorro: Los robots que piensan estaban usando de 3 a 6 veces más tokens de salida que los robots mejorados con la habilidad. En algunos casos, el robot con la habilidad usó entre 2.7 y 6 veces menos tokens.
El Costo: Crear esta hoja de referencia fue increíblemente barato. Costó solo de $1.28 a$ 2.44 por dominio generar la habilidad, mientras que los robots que piensan pagan ese "impuesto" cada vez que ejecutan una tarea.

El Giro: No Necesitas los Registros de "Pensamiento"

Uno de los hallazgos más interesantes fue que los investigadores no necesitaron realmente los registros de "pensamiento" para crear una buena hoja de referencia. Intentaron crear habilidades utilizando solo los registros de los robots que no pensaban (aquellos que solo actuaban y a menudo fallaban). Sorprendentemente, estas habilidades fueron tan buenas como las hechas con los registros de "pensamiento".

De hecho, para una prueba específica (SpreadsheetBench), la habilidad creada a partir de los fallos "no pensantes" fue 10 puntos mejor que la hecha con los registros de pensamiento. Los investigadores sugieren que esto se debe a que los registros de "pensamiento" están llenos del monólogo interno del robot sobre lo que creía que era cierto, mientras que los registros "no pensantes" muestran exactamente qué salió mal en el mundo real. Es como aprender a conducir: leer un manual de conductor (el registro de pensamiento) es útil, pero ver un video de un coche golpeando un bordillo (el registro de fallo) te enseña exactamente qué no hacer.

Donde la Hoja de Referencia No Funciona

Los investigadores fueron cuidadosos al señalar que esto no es una solución mágica para todo. La hoja de referencia funciona mejor para reglas que siempre son las mismas, como "siempre verifica el correo electrónico antes de llamar a la herramienta". Sin embargo, en tareas que requieren una lógica única paso a paso para cada problema —como una hoja de cálculo compleja donde cada celda depende de una variable diferente, o una llamada de servicio al cliente con un historial muy específico y extraño— la hoja de referencia no pudo ayudar tanto. En esos casos, la "búsqueda profunda" del pensamiento sigue siendo necesaria.

La Conclusión

Este artículo sugiere una nueva forma de ver la inteligencia artificial. En lugar de obligar a cada robot a "pensar" profundamente para cada tarea, podemos enseñarles los patrones comunes de una vez por todas. Al realizar una "búsqueda amplia" a través de muchos errores pasados para encontrar las reglas, podemos dotar a los robots de un conjunto de habilidades permanentes que los hace más rápidos, más baratos y, a veces, incluso más inteligentes que sus contrapartes que "piensan". Resulta que, para muchas tareas, no necesitas reinventar la rueda cada vez; solo necesitas un buen mapa.

Resumen Técnico: Razonar de Amplio en lugar de Profundo: Amortización de la Prima de Razonamiento en Habilidades Destiladas

1. Planteamiento del Problema

Los modelos de lenguaje extensos (LLM) equipados con modos de razonamiento en tiempo de ejecución (por ejemplo, Cadena de Pensamiento o Chain-of-Thought) superan consistentemente a sus contrapartes sin razonamiento en tareas agénticas complejas y de múltiples pasos. Sin embargo, esta ganancia de rendimiento conlleva una "prima de razonamiento" significativa: los modos de razonamiento generan de 3 a 6 veces más tokens de salida por episodio. Este costo se incurre repetidamente para cada instancia de tarea porque el modelo vuelve a derivar la lógica procedimental desde cero en cada ocasión.

El análisis de las trazas de razonamiento revela que gran parte de esta deliberación no es resolución de problemas específica de la instancia, sino la rederivación de procedimientos invariantes del episodio (por ejemplo, "no llamar a la herramienta de búsqueda de cuenta hasta que se proporcione un correo electrónico" o "X es un comando atómico"). Los modelos sin razonamiento suelen fallar precisamente donde falta este conocimiento procedimental, lo que conduce a errores recurrentes. El artículo plantea que este costo recurrente puede ser amortizado: en lugar de pagar la prima de razonamiento en cada episodio, el conocimiento procedimental puede extraerse una vez, de forma offline, e inyectarse en el system prompt del modelo sin razonamiento.

2. Metodología: Destilación Pasiva de Habilidades

Los autores proponen un flujo de trabajo de destilación "pasivo" y simple que convierte un pequeño corpus de trayectorias existentes en una habilidad compacta de lenguaje natural. El proceso consta de tres pasos:

Recolección del Corpus: Se recolecta un pequeño conjunto de datos de trayectorias (35–50 tareas) a partir de una división de entrenamiento. Esto puede hacerse utilizando únicamente ejecuciones (rollouts) sin razonamiento o un corpus emparejado que contenga tanto trayectorias de razonamiento como sin razonamiento. Crucialmente, no se generan nuevas ejecuciones específicamente para el proceso de destilación; el método utiliza los registros que los sistemas de producción ya almacenan.
Destilación mediante Agente de Codificación: Un agente de codificación estándar (específicamente Claude Code con Claude Sonnet 5) tiene la tarea de analizar el corpus. El agente ejecuta código para calcular estadísticas a nivel de corpus, incluyendo:
- Frecuencias de modos de fallo.
- N-gramas de acciones y detección de bucles.
- Contrastes de éxito/fracaso entre trayectorias exitosas y fallidas.
- (En condiciones emparejadas) Contrastes entre fallos sin razonamiento y éxitos con razonamiento sobre las mismas tareas.
El agente compila estos hallazgos en una habilidad compacta de lenguaje natural (40–130 líneas de markdown). Estas reglas son concretas y rastreables a evidencia específica de la transcripción (por ejemplo, "Antes de llamar a find_user_id_by_email, verifique que el mensaje del cliente realmente contenga un correo electrónico real... este error apareció en 13 de 22 ejecuciones").
Despliegue: La habilidad destilada se añade textualmente al system prompt del modelo sin razonamiento. No se actualizan los pesos del modelo y no se realiza una búsqueda por instancia en el despliegue. La habilidad actúa como un prefijo cacheable, añadiendo un costo marginal insignificante.

3. Contribuciones Clave

Un Flujo de Trabajo de Destilación de Bajo Costo: Un método que requiere solo ejecuciones existentes y aproximadamente entre $1 y$ 3 de tiempo de agente de codificación por dominio para generar habilidades efectivas.
Amortización de la Prima de Razonamiento: Demostración de que las habilidades destiladas pueden recuperar el 55%–100%+ de la brecha de rendimiento entre modelos sin razonamiento y con razonamiento en tareas no vistas, superando a menudo al modo de razonamiento y emitiendo de 2.7 a 6 veces menos tokens de salida y cero tokens de razonamiento.
Independencia de la Fuente: Evidencia de que las trazas de razonamiento no son un requisito previo para una destilación efectiva. Las habilidades destiladas a partir de trayectorias sin razonamiento por sí solas son competitivas con, y en algunos casos superiores a, aquellas destiladas de corpus emparejados de razonamiento/sin razonamiento.
Eficiencia de Costos vs. Optimización de Prompts: Una comparación que muestra que las habilidades destiladas superan a los optimizadores de prompts reflexivos de vanguardia (GEPA) en benchmarks específicos, mientras cuestan significativamente menos de producir (4.1× menos costoso).

4. Resultados Experimentales

El método fue evaluado en cuatro benchmarks agénticos utilizando GPT-5.4-mini y Qwen3.6-27B: ALFWorld, SpreadsheetBench-Verified (SSB-Verified), τ2-bench Telecom y τ2-bench Retail.

Recuperación de Rendimiento: Para GPT-5.4-mini, las habilidades recuperaron la brecha de razonamiento en todos los benchmarks. Notablemente, en ALFWorld y τ2-Retail, el modelo sin razonamiento con una habilidad destilada superó al modo de razonamiento (por ejemplo, 0.787 vs. 0.713 en ALFWorld).
Eficiencia de Tokens: Los modelos sin razonamiento potenciados con habilidades emitieron de 2.7 a 6 veces menos tokens de salida que el modo de razonamiento. Específicamente, GPT-5.4-mini mostró una reducción de 2.9–4.5×, mientras que Qwen3.6-27B logró reducciones de hasta 6×. En ALFWorld y SSB, la habilidad incluso redujo el conteo de tokens en comparación con la línea base sin razonamiento al prevenir intentos de reintento erráticos (flailing) y bucles.
Agnosticismo del Modelo: Se observaron tendencias similares con Qwen3.6-27B, donde las habilidades ayudaron en tres de los cuatro benchmarks, alcanzando un rendimiento cercano al techo en ALFWorld (0.980) y igualando al modo de razonamiento en Telecom (0.933) con 5.9× menos tokens.
Ablación de la Fuente de Destilación:
- ALFWorld & Telecom: Las habilidades de corpus solo sin razonamiento y de corpus emparejados fueron estadísticamente cercanas.
- Retail: Los corpus emparejados (que incluyen trazas de razonamiento) produjeron habilidades ligeramente mejores.
- SSB-Verified: Las habilidades solo sin razonamiento superaron significativamente a las habilidades de corpus emparejados (0.560 vs. 0.460), lo que sugiere que las narrativas de razonamiento verbosas pueden, a veces, anclar al destilador en las creencias del modelo en lugar de en la evidencia de fallo de la verdad fundamental (ground-truth).
Comparación con GEPA: En los dominios de τ2, las habilidades destiladas lograron tasas de éxito más altas que los prompts optimizados por GEPA (por ejemplo, 45.8% vs. 39.2% en Retail) a una fracción de su costo de producción ($3.72 vs. $15.28, una reducción de 4.1×).

5. Significado e Interpretación

El artículo interpreta estos resultados a través de una lente de búsqueda:

El razonamiento en tiempo de ejecución se caracteriza como una búsqueda profunda dentro de un solo episodio. Redescubre el conocimiento procedimental desde cero para cada instancia, incurriendo en un costo recurrente.
La destilación de corpus se caracteriza como una búsqueda amplia a través de muchos episodios. Extrae regularidades en la distribución de fallos una sola vez, permitiendo que el conocimiento se reutilice gratuitamente.

Los autores argumentan que para el conocimiento procedimental y de nivel de dominio (por ejemplo, comandos atómicos, flujos de trabajo de autenticación), elegir "anchura sobre trayectorias baratas" es la opción económica superior. Las brechas de rendimiento residuales observadas en dominios como Telecom y SpreadsheetBench se atribuyen a tareas que requieren una búsqueda profunda específica de la instancia (por ejemplo, cadenas de dependencia largas, lógica única de hojas de cálculo) que no pueden capturarse mediante un prompt fijo. En estos casos, el razonamiento y la destilación actúan como complementos: la habilidad maneja los invariantes, mientras que el razonamiento maneja las instancias únicas.

El trabajo sugiere que la "prima de razonamiento" es a menudo el pago por la rederivación de capacidades latentes que pueden surgir de manera más eficiente mediante la ingeniería de prompts basada en el análisis empírico de fallos, en lugar de a través de una computación costosa por instancia.