🤖 AI

The Shape of Wisdom: Decision Trajectories in Language Models

Este artículo analiza 9.000 trayectorias de decisión a través de tres modelos de lenguaje para revelar que la corrección y la estabilidad son propiedades distintas, demostrando que los mecanismos de atención impulsan principalmente respuestas correctas estables mientras que segmentos de texto específicos influyen críticamente en los márgenes de decisión.

Autores originales: Shailesh Rana

Publicado 2026-06-02

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Shailesh Rana

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás viendo una carrera donde la línea de meta no es solo un momento único, sino un camino largo y sinuoso. La mayoría de la gente solo mira quién cruza la línea de meta primero (la respuesta final). Pero este artículo nos pide que observemos toda la carrera para ver cómo los corredores llegaron realmente allí.

Aquí está la historia del artículo, "The Shape of Wisdom" (La forma de la sabiduría), desglosada en conceptos simples:

1. La carrera es un viaje, no una instantánea

Normalmente, pensamos en un modelo de IA como una máquina que lee una pregunta y escupe instantáneamente una respuesta (A, B, C o D). Este artículo argumenta que eso es erróneo. Dentro del modelo, la respuesta es en realidad un viaje que ocurre capa por capa, como subir una escalera.

En la base de las escaleras (las capas iniciales), el modelo podría estar inclinándose hacia la respuesta incorrecta. A mitad de camino, podría estar confundido, vacilando justo en el borde entre dos opciones. Al llegar arriba, podría finalmente decidirse por la correcta. O bien, podría decidirse por la correcta temprano, luego tambalearse y casi cambiar de opinión, solo para recuperar la firmeza al puro final.

Los autores llaman a este camino una "trayectoria". Ellos rastrean cuánto le "gusta" al modelo la respuesta correcta en comparación con la mejor respuesta incorrecta en cada paso del ascenso.

2. Los cuatro tipos de corredores

Al observar estos viajes, los investigadores descubrieron que los modelos no solo dan respuestas de "Correcto" o "Incorrecto". Estos caen en cuatro tipos de personalidad distintos:

Estable-Correcto: El modelo descubre la respuesta correcta temprano y se mantiene en ella con confianza durante todo el camino hasta la cima. (El ganador confiado).
Estable-Incorrecto: El modelo elige la respuesta incorrecta temprano y se mantiene en ella con confianza. (El perdedor confiado).
Inestable-Correcto: El modelo eventualmente obtiene la respuesta correcta, pero fue un viaje tembloroso. Tambaleó, casi cambia de opinión y solo se decidió por la respuesta correcta en el último segundo. (El ganador nervioso).
Inestable-Incorrecto: El modelo elige la respuesta incorrecta, tambalea, casi cambia de opinión, pero termina mal de todos modos. (El perdedor nervioso).

La gran sorpresa: El grupo más común en su estudio fue el Inestable-Correcto. Esto significa que incluso cuando la IA obtiene la respuesta correcta, a menudo no se ha "decidido" por ella hasta el mismísimo último momento. Es una respuesta correcta que apenas se mantenía en pie.

3. ¿Qué empuja al corredor? (La sala de máquinas)

Una vez que supieron cómo se movían los modelos, se preguntaron qué los estaba empujando. Observaron dos "motores" principales dentro de la IA:

Atención: Esto es como los ojos del modelo, escaneando la pregunta para ver qué palabras importan.
MLP (Feed-Forward): Esto es como el pensamiento interno o la memoria del modelo, procesando lo que vio.

Encontraron una división curiosa:

En los casos de Estable-Correcto, el motor de Atención era el que empujaba consistentemente al modelo hacia la respuesta correcta, paso a paso.
El motor MLP, sorprendentemente, a menudo empujaba en la dirección incorrecta o no ayudaba mucho en estos casos estables.

4. El experimento de "Eliminar"

Para probar qué era importante, los investigadores jugaron un juego de "eliminar y ver". Tomaron el texto de la pregunta y eliminaron partes específicas:

Eliminar la "Evidencia": Cuando eliminaron la parte del texto que realmente apoyaba la respuesta correcta, la confianza del modelo en la respuesta correcta disminuyó.
Eliminar los "Distractores": Cuando eliminaron las partes confusas o incorrectas del texto, la confianza del modelo en la respuesta correcta en realidad aumentó.

Esto demostró que el modelo está reaccionando genuinamente al significado de las palabras, no solo adivinando al azar.

5. La prueba de "Viaje en el tiempo"

Finalmente, hicieron un experimento extraño: tomaron un modelo "nervioso" que estaba fallando e intentaron intercambiar sus "partes de motor" internas con un modelo "confiado" que estaba teniendo éxito.

Cuando intercambiaron las partes de Atención, ayudó un poco.
Cuando intercambiaron las partes de MLP (el pensamiento interno), marcaron una gran diferencia, convirtiendo a menudo a un modelo que fallaba en uno que ganaba.

Esto sugiere que, si bien la Atención ayuda al modelo a mantenerse en el camino paso a paso, el procesamiento interno profundo (MLP) es lo que realmente consolida la decisión final.

La idea principal

El artículo concluye que estar en lo correcto no es lo mismo que ser estable.

Solo porque una IA te dé la respuesta correcta no significa que la "sepa". Puede ser un golpe de suerte, un pánico de último segundo o una suposición temblorosa. La "sabiduría" del modelo no es solo la puntuación final; es el camino suave y confiado que tomó para llegar allí. Los mejores modelos son aquellos que encuentran la respuesta correcta temprano y se mantienen ahí, en lugar de aquellos que tropiezan su camino hacia la línea de meta.

Resumen Técnico: La Forma de la Sabiduría: Trayectorias de Decisión en Modelos de Lenguaje

Declaración del Problema

Las evaluaciones actuales de los Modelos de Lenguaje de Gran Escala (LLM) suelen tratar la salida como un único punto final: un token final seleccionado en la última capa. Este artículo sostiene que esta perspectiva oscurece el proceso interno de toma de decisiones. En entornos de opción múltiple, la preferencia de un modelo por una respuesta no es estática; evoluciona a través de la profundidad de la red. Un modelo puede preferir la respuesta correcta temprano, cambiar a una incorrecta, oscilar cerca de un límite de decisión o establecerse tardíamente. El artículo postula que una respuesta debe entenderse como una trayectoria a través de las capas de la red, en lugar de un evento de la última capa. El desafío central es separar tres propiedades distintas que a menudo se confunden con la precisión del punto final: el estado actual de la decisión, la dirección de su movimiento y su proximidad a un cambio de decisión (decision flip).

Metodología

El estudio analiza 9,000 trayectorias de modelo-prompt a través de tres modelos de 7–8 mil millones de parámetros ajustados por instrucciones: Qwen2.5-7B-Instruct, Llama-3.1-8B-Instruct y Mistral-7B-Instruct-v0.3. Todos los modelos fueron evaluados con los mismos 3,000 prompts de MMLU de cuatro opciones.

Observables y Métricas

Los autores definen tres cantidades primarias rastreadas en cada capa (desde la Capa 1 hasta la capa final):

Estado (Margen): La puntuación de la opción correcta menos la puntuación del competidor incorrecto más fuerte. Un margen positivo indica que la opción correcta lidera; un margen negativo indica un liderazgo de una opción incorrecta.
Movimiento (Deriva/Drift): El cambio en el margen de una capa a la siguiente.
Distancia al Límite (Boundary Distance): El valor absoluto del margen, que representa la distancia a un cambio de decisión (donde el margen cruza el cero).

Clasificación de Trayectorias

Basándose en la respuesta final y la estabilidad de la cola de la trayectoria (las capas finales), los autores clasifican las trayectorias en cuatro regímenes operativos:

Estable-Correcta (SC): La respuesta final es correcta y la cola es estable.
Estable-Incorrecta (SW): La respuesta final es incorrecta y la cola es estable.
Inestable-Correcta (UC): La respuesta final es correcta, pero la trayectoria exhibe un movimiento significativo en las capas finales.
Inestable-Incorrecta (UW): La respuesta final es incorrecta, con un movimiento significativo en las capas finales.

Análisis Mecanicista

Para explicar el movimiento dentro de estas trayectorias, los autores utilizaron un subconjunto trazado de 600 prompts (150 por cada tipo de trayectoria).

Contabilidad Escalar: Los rastros almacenados registraron resúmenes escalares de cuánto movieron el margen los bloques de Atención y los bloques MLP en cada capa.
Eliminación de Segmentos (Span Deletion): Una intervención donde se eliminaron segmentos específicos del prompt (etiquetados como evidencia, distractor o neutral) para medir el efecto causal en el margen de la respuesta.
Replay Contrafáctico: Simulaciones de experimentos de eliminación y sustitución donde las contribuciones de los componentes (escalares de atención o MLP) de una trayectoria "fallida" se reemplazaron con los de una trayectoria de origen "estable-correcta" para observar cambios en el margen final.

Resultados Clave

1. Heterogeneidad de la Corrección

El hallazgo empírico más significativo es que la Inestable-Correcta (UC) es el grupo de trayectoria más grande, comprendiendo el 42.1% de todas las filas de modelo-prompt (3,790 trayectorias). En contraste, la Estable-Correcta (SC) representa solo el 19.0% (1,711 trayectorias).

Esto implica que una respuesta final correcta no significa necesariamente que el modelo se haya "asentado" en esa respuesta temprano; muchas respuestas correctas se alcanzan mediante una incertidumbre persistente y un movimiento en las capas finales.
La precisión del punto final confunde la "corrección asentada" con la "corrección frágil".

2. Impulsores Mecanicistas del Movimiento

Contabilidad Lineal: Una combinación lineal de escalares de atención y MLP reconstruye con éxito la deriva del margen capa a capa, logrando altos valores de $R^2$ (0.90 para Qwen, 0.76 para Llama, 0.91 para Mistral).
Dinámica Estable-Correcta: En las trayectorias estable-correctas, el escalar de atención promedio es positivo (0.14), lo que indica que impulsa la respuesta correcta hacia adelante. Por el contrario, el escalar MLP promedio es negativo (-0.22).
Dinámica Estable-Incorrecta: Tanto los escalares de atención como los de MLP son negativos en las trayectorias estable-incorrectas.

3. Intervenciones en el Input

Los experimentos de eliminación de segmentos confirmaron vínculos causales entre el contenido del prompt y el movimiento del margen:

Eliminar segmentos de evidencia causó que el margen correcto cayera (efecto medio: +2.92 unidades de logit).
Eliminar segmentos de distractores causó que el margen correcto subiera (effecto medio: -2.18 unidades de logit).
Los segmentos neutrales mostraron efectos insignificantes. Esto demuestra que segmentos de texto específicos impulsan causalmente el margen definido por los regímenes de trayectoria.

4. Sustitución Contrafáctica

Al sustituir componentes de capas tardías de trayectorias estable-correctas en aquellas fallidas:

La sustitución de MLP produjo un desplazamiento promedio mayor en el margen final (por ejemplo, +5.75 en el protocolo "legacy first") comparado con la sustitución de atención (-0.31).
Esto sugiere que, si bien la atención proporciona un impulso consistente capa a capa hacia la estabilidad, el MLP parece portar un "impulso" transferible mayor para el margen final durante este protocolo de replay específico.

Significancia y Reivindicaciones

El artículo evita explícitamente afirmar que ha descubierto un circuito completo de estado oculto o una transición de fase física universal. En su lugar, su significancia reside en proporcionar un marco reproducible para distinguir entre diferentes tipos de comportamiento del modelo:

Desacoplamiento de Precisión y Estabilidad: El trabajo demuestra que "acertar la respuesta" y "tener la respuesta asentada" son propiedades distintas. La prevalencia de trayectorias inestables-correctas sugiere que muchos outputs correctos son frágiles y permanecen cerca de los límites de decisión hasta la última capa.
Legibilidad de los Procesos de Decisión: Al rastrear el estado, el movimiento y la distancia al límite, los autores hacen legible el proceso de decisión sin depender de un descubrimiento de circuitos complejos.
Identificación de las Fuentes de Movimiento: El estudio identifica que la atención es el contribuyente positivo más claro al movimiento estable-correcto capa por capa, mientras que los componentes MLP parecen impulsar desplazos simulados mayores en los márgenes finales durante las intervenciones contrafácticas.
Sensibilidad Causal del Input: Los resultados confirman que eliminar texto de apoyo a la respuesta o añadir distractores mueve el margen de decisión en direcciones predecibles e interpretables.

Los autores concluyen que el "mejor comportamiento" en estos modelos no es simplemente alcanzar el punto final correcto, sino alcanzarlo temprano y mantener esa posición (asentarse). Las métricas e intervenciones proporcionadas ofrecen una forma de medir qué respuestas están asentadas, cuáles son frágiles y qué fuerzas medidas (atención vs. MLP, evidencia vs. distractores) impulsan estos resultados.