💬 NLP

STITCH: Simultaneous Thinking and Talking with Chunked Reasoning for Spoken Language Models

STITCH es un nuevo método de generación para modelos de lenguaje hablados que permite el razonamiento interno simultáneo a la respuesta verbal mediante la alternancia de fragmentos de pensamiento no hablado y fragmentos de voz, logrando mejorar el rendimiento en tareas de razonamiento sin aumentar la latencia de respuesta.

Autores originales: Cheng-Han Chiang, Xiaofei Wang, Linjie Li, Chung-Ching Lin, Kevin Lin, Shujie Liu, Zhendong Wang, Zhengyuan Yang, Hung-yi Lee, Lijuan Wang

Publicado 2026-02-10

📖 3 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Cheng-Han Chiang, Xiaofei Wang, Linjie Li, Chung-Ching Lin, Kevin Lin, Shujie Liu, Zhendong Wang, Zhengyuan Yang, Hung-yi Lee, Lijuan Wang

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

El problema: El "silencio incómodo" de las IA que hablan

Imagina que estás en una cena con un amigo que es extremadamente inteligente, pero tiene un problema: cada vez que le haces una pregunta, se queda completamente congelado y en silencio durante un minuto entero mientras piensa la respuesta perfecta. Cuando finalmente habla, lo hace de maravilla, pero ese minuto de silencio es desesperante. Así funcionan actualmente los modelos de lenguaje de voz (SLM) cuando intentamos que "piensen" antes de hablar: para que no cometan errores en matemáticas o lógica, primero deben generar todo su razonamiento en silencio y, solo cuando terminan, empiezan a hablar.

Por otro lado, existen otras IA que responden instantáneamente, pero son como ese amigo que habla sin pensar: responden rápido, pero a menudo cometen errores tontos porque no se detuvieron a procesar la información.

La solución: STITCH (El "Pensar mientras hablas")

Los investigadores han creado STITCH, que es como darle a la IA la capacidad de "pensar por partes" mientras su boca ya se está moviendo.

Para entenderlo, usemos dos analogías:

1. La analogía del Chef (STITCH-R)

Imagina a un chef preparando un plato complejo.

El método antiguo (TBS): El chef lee toda la receta, la memoriza, la analiza y, solo cuando está 100% seguro de cada paso, empieza a cocinar. El cliente espera mucho tiempo.
El método STITCH: El chef empieza a picar la cebolla y a saltear los primeros ingredientes (la respuesta hablada) mientras, en su mente, va repasando el siguiente paso de la receta (el pensamiento interno). Mientras tú ves cómo salta la cebolla en la sartén, él ya está calculando mentalmente cuánto tiempo le tomará el siguiente paso. ¡Está cocinando y planeando al mismo tiempo!

2. La analogía del Narrador de Radio (STITCH-S)

Imagina a un locutor de radio que tiene que explicar un resultado matemático difícil.

STITCH-S es como un locutor que empieza diciendo: "¡Hola! La respuesta a tu pregunta es..." (esto es la respuesta rápida para no dejarte esperando).
Mientras dice esas primeras palabras, su cerebro ya está trabajando a toda velocidad para calcular los números complicados que vendrán después. Así, para cuando llega a la parte difícil, ya tiene el cálculo listo en su cabeza.

¿Por qué es esto un gran avance?

El papel destaca tres victorias principales:

Cero espera (Baja latencia): Con la variante STITCH-S, la IA empieza a hablar casi al instante, igual que las IA que no piensan. No hay ese "silencio incómodo".
Supercerebro en matemáticas: A pesar de hablar tan rápido, la IA es mucho más inteligente. En pruebas de matemáticas, es un 15% mejor que las IA que hablan rápido pero no piensan.
No pierde la naturalidad: La IA no suena robótica ni se traba. El "pensamiento" ocurre en un canal privado (como un monólogo interno) que el usuario no escucha, por lo que la conversación fluye de forma natural.

En resumen

STITCH es como enseñarle a una IA a tener un "monólogo interno" que corre en paralelo a su voz. Es el arte de no dejar al usuario esperando, pero sin sacrificar la inteligencia. Es, literalmente, coser (stitch) el pensamiento con la palabra para que la comunicación sea fluida, rápida y brillante.

Resumen Técnico: STITCH

1. El Problema: El dilema entre razonamiento y latencia

Los Modelos de Lenguaje Hablado (SLMs) actuales están diseñados para recibir audio y generar respuestas de voz. Aunque los Modelos de Lenguaje (LLMs) de texto han demostrado que el uso de Cadena de Pensamiento (Chain-of-Thought o CoT) mejora drásticamente la capacidad de razonamiento, aplicarlo a los SLMs presenta un desafío crítico:

El problema de la latencia: Si un modelo genera todo su razonamiento interno (pensamiento) de forma textual antes de empezar a hablar, el usuario debe esperar un tiempo prolongado (latencia incontrolable), lo que rompe la fluidez de la interacción natural.
El problema de la verbosidad: Si el modelo verbaliza su razonamiento, la comunicación se vuelve confusa y excesivamente larga.
La brecha actual: Los modelos actuales carecen de un proceso de "pensamiento interno no hablado" que sea eficiente en tiempo real.

2. Metodología: El enfoque STITCH

Los autores proponen STITCH, un método de generación que permite el pensamiento y el habla simultáneos mediante la fragmentación del razonamiento (chunked reasoning).

La idea central es aprovechar el tiempo "muerto" durante la reproducción de audio. Dado que la duración del audio generado es mucho mayor que el tiempo que tarda el modelo en generar los tokens de texto/voz, el modelo utiliza ese intervalo para "pensar" el siguiente fragmento de razonamiento.

El método propone dos variantes principales:

STITCH-R (Reasoning First): El modelo alterna entre fragmentos de razonamiento no hablado ( $N_{reason}$ ), fragmentos de texto ( $N_{text}$ ) y fragmentos de voz ( $N_{speech}$ ). El flujo es: [Razonamiento 1] $\rightarrow$ [Texto 1] $\rightarrow$ [Voz 1] $\rightarrow$ [Razonamiento 2] $\rightarrow$ .... Esto reduce la latencia inicial al esperar solo un pequeño fragmento de pensamiento antes de hablar.
STITCH-S (Speaking First): Para eliminar por completo la latencia de espera inicial, esta variante comienza directamente con la respuesta hablada y luego inserta los fragmentos de razonamiento entre los fragmentos de voz. El flujo es: [Texto 1] $\rightarrow$ [Voz 1] $\rightarrow$ [Razonamiento 1] $\rightarrow$ [Texto 2] $\rightarrow$ [Voz 2] $\rightarrow$ ....

Implementación técnica:
Se utiliza una arquitectura de SLM entrelazada (basada en GLM-4-Voice). El modelo se entrena mediante aprendizaje supervisado (SFT) utilizando secuencias de tokens especiales como [SOPR] (inicio de razonamiento parcial) y [EOPR] (fin de razonamiento parcial) para segmentar el pensamiento.

3. Contribuciones Clave

Primer marco de pensamiento no hablado: Es el primer trabajo que introduce un proceso de razonamiento interno que no es verbalizado en los SLMs.
Optimización de la latencia: STITCH-S logra la misma latencia que los modelos que no razonan, pero con una capacidad de razonamiento superior.
Arquitectura de generación alterna: Un método novedoso para "coser" (stitch) fragmentos de pensamiento y habla de manera que la experiencia del usuario sea fluida.

4. Resultados Principales

Los experimentos se realizaron utilizando el modelo base GLM-4-Voice-9B y se compararon con modelos de línea base (sin razonamiento) y el método TBS (Thinking Before Speaking).

Rendimiento en Razonamiento Matemático: STITCH superó significativamente a los modelos sin razonamiento. En cinco conjuntos de datos matemáticos, STITCH mostró una mejora de aproximadamente un 15% en precisión respecto a las líneas base.
Latencia: STITCH-S igualó la latencia de los modelos que no realizan razonamiento, eliminando el "castigo" de tiempo que normalmente conlleva el CoT.
Tareas No-Razonamiento: En tareas de preguntas y respuestas factuales (como TriviaQA), STITCH mantuvo un rendimiento comparable a los modelos estándar, demostrando que añadir razonamiento no degrada la capacidad de respuesta general.
Calidad del habla: Las evaluaciones de calidad perceptual (UTMOSv2) y fluidez (GPT-4o) indicaron que el proceso de alternar entre pensar y hablar no afecta la naturalidad ni la coherencia de la voz.
Evaluación Humana: Los evaluadores humanos determinaron que STITCH-S es el modelo más "responsivo" (más rápido en reaccionar al usuario).

5. Significancia

Este trabajo marca un avance fundamental hacia la creación de asistentes de voz inteligentes y naturales. Al permitir que los modelos "piensen en silencio" mientras hablan, STITCH resuelve la tensión técnica entre la complejidad cognitiva (necesidad de razonar) y la eficiencia comunicativa (necesidad de baja latencia). Esto abre la puerta a agentes de IA que pueden resolver problemas complejos de matemáticas, lógica o ciencia en una conversación fluida, sin las pausas incómodas que caracterizan a los sistemas actuales.