Resumen Técnico: El Atajo de Lectura en Modelos de Lenguaje Pequeños

Declaración del Problema

La generación de cadenas de pensamiento (CoT) mediante prompting es ampliamente reconocida como necesaria para el razonamiento aritmético en modelos de lenguaje pequeños (SLM), sin embargo, observaciones empíricas muestran que desordenar el orden lógico de los pasos de CoT a menudo preserva el rendimiento. Esto crea una tensión: si la secuenciación lógica de los pasos no es el motor principal de la precisión, ¿qué mecanismo permite al modelo generar la respuesta correcta? Trabajos previos han establecido que CoT puede ser infiel (por ejemplo, demostraciones sesgadas alteran las respuestas a pesar de un razonamiento correcto), pero la señal específica que utiliza el mecanismo de lectura, su ubicación dentro de la red y si suprime activamente la computación disponible permanecen sin explicar.

Metodología

Los autores investigan este fenómeno utilizando tres modelos de 1–3 mil millones de parámetros ajustados por instrucciones: Qwen2.5-1.5B-Instruct, Llama-3.2-1B-Instruct y Gemma-2-2B-it. El estudio se centra en el conjunto de datos GSM8K (primeros 500 problemas) y se extiende a GSM-Symbolic y BIG-Bench-Hard (BBH).

El protocolo experimental central implica la completación de prefijos (inyección forzada por el profesor). Se inyecta un prefijo de CoT (potencialmente modificado) en el turno del asistente, seguido por el delimitador de respuesta ####. El modelo luego genera el token de respuesta final de manera codiciosa. Esto aísla la etapa de "lectura" de las confusiones de generación propias del razonamiento.

Las intervenciones experimentales clave incluyen:

1. Descomposición de Corrupción: Corromper sistemáticamente los números en el prefijo de CoT para aislar la contribución de la presencia de la respuesta dorada frente al cálculo intermedio.
2. Escalera Causal: Una serie de condiciones (por ejemplo, reemplazar el número final con un distractores, truncar el CoT antes de la respuesta, eliminar el número final por completo) para determinar si el modelo depende de un canal de "copia" o de una completación de contexto retenido.
3. Controles Posicionales y de Contenido: Inyectar números incorrectos (distractores) en la posición final, variando el contexto de encuadre (relevante para la respuesta vs. números desnudos) y desordenando pasos en diferentes granularidades (token, palabra, paso).
4. Ablación Mecanística: Ablación cero y ablation media de cabezas de atención, y parcheo de activaciones, para identificar circuitos específicos de la arquitectura responsables de la lectura.
5. Escalado y Generalización: Probar modelos más grandes (7–8B) y tareas no aritméticas para determinar los límites del fenómeno.

Contribuciones y Resultados Clave

1. El Atajo Posicional de Lectura

El hallazgo principal es que en modelos de 1–3B, la lectura de CoT está dominada por un atajo posicional: el modelo copia el número que ocupa la posición final inmediatamente antes del delimitador de respuesta, siempre que aparezca en un contexto relevante para la respuesta.

• Dependencia de la Respuesta Dorada: La presencia de la respuesta dorada en la posición final explica entre 54 y 92 puntos porcentuales (pp) de precisión (89–92% del techo de forzado por profesor del modelo).
• Enmascaramiento del Cálculo: Cuando está presente un número final, el modelo ignora los pasos intermedios correctos. Reemplazar el número dorado final con un valor incorrecto (distractor) colapsa la precisión a casi cero, incluso si todo el razonamiento intermedio es correcto.
• Mecanismo de Anulación: El "canal de copia" tiene prioridad sobre la completación de contexto retenido. Eliminar el distractor final (mediante truncamiento) recupera 5–32 pp de precisión, demostrando que el modelo puede calcular a partir del contexto retenido pero es suprimido activamente por la señal de copia posicional.

2. Puerta de Contenido y Diferencias Arquitectónicas

Si bien el mecanismo posicional es universal en los modelos de 1–3B probados, el grado de selectividad de contenido (la capacidad de rechazar un número incorrecto) varía:

• Qwen y Llama: Exhiben copia permisiva de novedad. Copian números incorrectos colocados al final entre un 87–95% de las veces, independientemente de si el número es semánticamente plausible.
• Gemma: Muestra una fuerte puerta de contenido. Rechaza distractores novedosos entre un 81–88% de las veces (copiándolos solo entre un 12–19% de las veces), lo que indica un mecanismo de lectura más selectivo.
• Sensibilidad al Encuadre: El atajo está "puenteado por el contexto de respuesta". Los números desnudos al final no desencadenan la copia; el número debe estar encuadrado dentro de un texto relevante para la respuesta (por ejemplo, "la respuesta es X").

3. Localización Mecanística

La ablación a nivel de cabeza revela perfiles específicos de la arquitectura para el circuito de copia:

• Llama: Sensibilidad localizada (cabezas específicas en las capas 10–15).
• Qwen: Sensibilidad distribuida (requiriendo la ablación de ~17 cabezas para observar una transición de fase).
• Gemma: Concentrada pero compensable (dominada por una sola cabeza, L14H4, en ablación cero).
• Parcheo de Activación: Parchear las 20 cabezas principales en Qwen recupera el 61% de la brecha de precisión causada por el desorden, confirmando un vínculo causal entre estas cabezas y la lectura.

4. Límites de Escalado y Generalización

• Modelos de 7–8B: A medida que los modelos escalan a 7–8B, la dependencia de la presencia de la respuesta dorada permanece, pero emerge la selectividad de contenido. La tasa de copia de distractores incorrectos disminuye significativamente (por debajo del 32%), y reaparece una vía sustancial "fuera de copia" (que depende del cálculo intermedio).
• Tareas No Aritméticas: La tolerancia al desorden colapsa en tareas no aritméticas (por ejemplo, deducción lógica en BBH) donde ningún número de respuesta copiable ocupa la posición final. La retención cae a niveles de azar, confirmando que el atajo es específico del patrón de lectura aritmética/número.
• Modelos Base: El mecanismo existe en los pesos de los modelos base, lo que sugiere que no es únicamente un artefacto del ajuste por instrucciones, aunque el ajuste amplifica el efecto.

Significado y Afirmaciones

El artículo afirma resolver la "tensión" entre la necesidad de CoT y la tolerancia al desorden al identificar un modo de fallo específico en modelos pequeños: la etapa de lectura está en gran medida desacoplada de la etapa de razonamiento.

• Implicaciones para la Supervisión: Los hallazgos socavan la premisa de monitores de CoT a nivel de paso (por ejemplo, modelos de recompensa de proceso) para modelos de 1–3B. Dado que la lectura prioriza el token final sobre el cálculo intermedio, un modelo puede generar una cadena de pensamiento lógicamente correcta pero emitir una respuesta incorrecta basada en un distractor final, o viceversa. Las recompensas a nivel de paso pueden operar sobre una señal débilmente acoplada al cálculo real que produce la respuesta.
• Utilidad Diagnóstica: Los autores proponen que monitorear si la respuesta coincide con el último número de CoT sirve como un diagnóstico simple para la dominancia de copia.
• Seguridad y Vulnerabilidad: El artículo destaca una vulnerabilidad donde adversarios podrían construir CoTs con pasos intermedios correctos pero un distractor final para evadir la supervisión a nivel de paso, enrutando la respuesta final a través del atajo posicional.

Los autores permanecen modestos respecto al alcance, señalando que el fenómeno se observa principalmente en tareas aritméticas de 1–3B y que la selectividad de contenido se recupera a escalas mayores (7–8B) y en modelos entrenados en razonamiento (por ejemplo, DeepSeek-R1-Distill), aunque el mecanismo posicional persiste incluso allí.