💬 NLP

How Language Models Fail: Token-Level Signatures of Committed and Persistent Reasoning Failures

Este artículo identifica y caracteriza dos modos de falla de razonamiento a nivel de token distintos en los modelos de lenguaje —el fallo comprometido, marcado por el bloqueo temprano de la ruta, y la incertidumbre persistente, caracterizada por la duda acumulativa— demostrando que estas firmas son reproducibles a través de diversas configuraciones y pueden guiar la optimización de estrategias de detección de fallos como la autoconsistencia.

Autores originales: Tanvi Thoria, Kiana Jafari, Marc R. Schlichting, Mykel J. Kochenderfer

Publicado 2026-06-08

📖 5 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Tanvi Thoria, Kiana Jafari, Marc R. Schlichting, Mykel J. Kochenderfer

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás viendo a un detective resolver un misterio. A veces, el detective comete un error al principio, se obsesiona con el sospechoso equivocado y luego pasa el resto de la película argumentando con confianza por qué ese sospechoso es culpable, aunque sea inocente. Otras veces, el detective está genuinamente confundido todo el tiempo, revisando pistas, sin estar seguro de la respuesta hasta el último segundo.

Este artículo trata de averiguar qué tipo de error está cometiendo un Modelo de Lenguaje Grande (LLM) simplemente observando cómo "piensa" (su cadena de pensamiento) mientras escribe su respuesta. Los investigadores descubrieron que los modelos no fallan de una sola manera, sino que fallan en dos patrones distintos, y reconocer el patrón cambia la forma en que deberíamos intentar detectar el error.

Aquí hay un desglose de sus hallazgos utilizando analogías sencillas:

1. Los dos tipos de errores

Los investigadores descubrieron que cuando un modelo obtiene una respuesta incorrecta, generalmente sucede de una de estas dos formas:

Tipo A: El "Compromiso Temprano" (El detective obstinado)

Qué sucede: El modelo elige un camino equivocado muy pronto en su razonamiento. Una vez que elige ese camino, se queda "atrapado". Deja de explorar otras posibilidades y simplemente sigue escribiendo más frases para respaldar esa idea errónea.
La firma: Si observas la "incertidumbre" del modelo (qué tan inseguro se siente) mientras escribe, verás un pico al principio y luego esta disminuye. El modelo se vuelve demasiado confiado demasiado rápido.
La lección: No necesitas esperar a que termine toda la historia para saber que está mal. De hecho, leer el final de la historia podría confundirte porque el modelo está tan seguro de su respuesta incorrecta que parece una buena respuesta. El mejor momento para detectar este error es justo después de que el modelo comete su primer gran error.

Tipo B: "Incertidumbre Persistente" (El detective confundido)

Qué sucede: El modelo nunca termina de decidirse por un bando. Deambula a través del razonamiento, sin estar seguro de la respuesta durante todo el tiempo. Sigue cambiando de opinión o vacilando hasta la última palabra.
La firma: La incertidumbre del modelo se mantiene alta o aumenta lentamente desde el principio hasta el final. Nunca se fija en un solo camino.
La lección: Debes leer toda la historia para saber si falló. Si te detienes a la mitad, podrías pensar que solo está siendo cuidadoso. El error solo se vuelve claro cuando ves todo el rastro desordenado de pensamiento.

2. Cómo descubrieron esto (El "medidor de incertidumbre")

Los investigadores no necesitaron mirar dentro del cerebro del modelo (lo cual es imposible para muchos modelos de IA populares). En su lugar, observaron las probabilidades logarítmicas —una forma técnica de decir "qué tan seguro estaba el modelo de cada palabra que escribió"—.

Trataron el razonamiento del modelo como una película. Observaron el "medidor de incertidumbre" subir y bajar a medida que el modelo escribía palabra por palabra.

Para el Tipo A, el medidor mostró un pico claro al principio y luego se estabilizó.
Para el Tipo B, el medidor siguió subiendo o se mantuvo alto hasta el final.

Probaron esto en 23 combinaciones diferentes de modelos de IA y tareas (como matemáticas, programación y ciencia). En 20 de los 23 casos, su teoría se sostuvo perfectamente. Pudieron distinguir entre un error "obstinado" y un error "confundido" simplemente mirando estos patrones.

3. Por qué esto es importante: La estrategia de la "segunda opinión"

El artículo también analizó un truco común llamado Autoconsistencia (Self-Consistency). Esto es cuando le haces la misma pregunta a la IA 10 veces y tomas la respuesta que aparece con más frecuencia.

Para el modelo "Obstinado" (Tipo A): Hacer la misma pregunta 10 veces es inútil. Si el modelo es obstinado, te dará la misma respuesta incorrecta 10 veces seguidas. El "voto de la mayoría" solo confirmará la respuesta errónea. En este caso, observar la incertidumbre de una sola respuesta es en realidad mejor que preguntarle varias veces.
Para el modelo "Confundido" (Tipo B): Hacer la pregunta 10 veces es muy útil. Dado que el modelo no está seguro, te dará respuestas diferentes cada vez. El hecho de que no pueda estar de acuerdo consigo mismo es una señal de alerta enorme.

La conclusión

El artículo sostiene que no debemos usar un enfoque de "talla única" para detectar los errores de la IA.

Si la IA se fija en una idea errónea temprano, podemos detectarlo rápidamente observando sus niveles de confianza iniciales, y no deberíamos molestarnos en pedirle una segunda opinión (porque repetirá el error).
Si la IA está genuinamente confundida, debemos dejar que termine su proceso de pensamiento y luego pedirle múltiples opiniones para ver si puede ponerse de acuerdo consigo misma.

Al comprender cómo está fallando la IA, podemos elegir la herramienta adecuada para detectar el error, ahorrando tiempo y mejorando la fiabilidad.

Resumen Técnico: Cómo fallan los modelos de lenguaje: Firmas a nivel de token de fallos de razonamiento comprometidos y persistentes

Declaración del problema

Detectar cuándo los Modelos de Lenguaje de Gran Escala (LLM) fallarán en tareas de razonamiento complejo sigue siendo un desafío crítico para la fiabilidad del despliegue. Los métodos de detección de fallos existentes, como la autoconsistencia (muestreo de múltiples cadenas de pensamiento) y la cuantificación de la incertidumbre, típicamente tratan el fallo como una tarea de predicción binaria. Estos enfoques asumen un proceso singular de emergencia del fallo, lo que limita la capacidad de adaptar las estrategias de detección. Específicamente, la autoconsistencia falla cuando un modelo se "compromete" con un camino de razonamiento incorrecto de forma temprana, reproduciendo la misma respuesta errónea de manera consistente a través de las muestras. Por el contrario, para los modelos que exhiben una incertidumbre genuina a lo largo de un trazo, las señales de incertidumbre de una sola muestra pueden ser insuficientes. El artículo argumenta que los fallos de razonamiento se desarrollan a través de procesos distintos que requieren diferentes estrategias de detección, y que los métodos actuales aplican un enfoque uniforme independientemente del modo de fallo subyacente.

Metodología

Los autores proponen un marco que caracteriza los fallos de razonamiento utilizando señales de incertidumbre a nivel de token derivadas de trazos de cadena de pensamiento (CoT). El marco requiere únicamente las probabilidades logarítmicas de una única completación del modelo, lo que lo hace aplicable a modelos de frontera de API cerrada (por ejemplo, GPT-4o, Gemini) donde los pesos internos son inaccesibles.

Conceptos clave

Modos de fallo: El marco identifica dos modos de fallo cualitativamente distintos:
- Fallo comprometido (Committed Failure): El modelo se bloquea en un camino de razonamiento incorrecto al principio del trazo. Las señales de incertidumbre son más predictivas sobre un prefijo temprano del trazo; añadir tokens subsecuentes diluye la señal.
- Incertidumbre persistente (Persistent Uncertainty): El modelo nunca se compromete con un único camino. La incertidumbre se acumula de forma monótona a lo largo del trazo, y se requiere el trazo completo para distinguir las completaciones fallidas de las exitosas.
Punto de compromiso ( $T^*$ ): Definido como la posición del token en un trazo de razonamiento donde las señales de incertidumbre son máximamente predictivas del fallo. Más allá de este punto, los tokens subsecuentes representan ruido descendente en lugar de señal respecto al resultado final.
Características de incertidumbre: Los autores computan cinco señales a nivel de token sobre ventanas de prefijo ( $W_T$ ) del trazo de razonamiento:
- Entropía: Dispersión de la distribución top- $K$ .
- Margen: Diferencia entre las dos probabilidades principales.
- NLL (Log-verosimilitud negativa): Confianza en el token principal.
- Núcleo (Nucleus): Tokens necesarios para capturar un umbral de probabilidad de 0.9.
- Casi-empate (Near-Tie): Fracción de los tokens top- $K$ dentro del 90% de la probabilidad principal.
- Agregación: Tanto la media como el máximo de las características se computan para cada señal a través de la ventana.
Métrica diagnóstica (PR-AUC): El marco utiliza el Área Bajo la Curva de Precisión-Recall (PR-AUC) para cuantificar la detección de fallos en distintos tamaños de ventana de prefijo.
- Firma de compromiso: Una curva PR-AUC en forma de U invertida. El poder predictivo alcanza su pico en $T^*$ y declina a medida que la ventana se expande.
- Firma persistente: Una curva PR-AUC que aumenta monótonamente donde el trazo completo siempre supera a cualquier prefijo.
Análisis pre-final: Para controlar el factor de confusión de la longitud del trazo (donde los modelos que fallan suelen escribir trazos más largos), el marco elimina todos los tokens que ocurren después del marcador de respuesta final antes de computar las señales de incertidumbre.

Configuración experimental

El marco fue evaluado en 23 configuraciones de modelo-conjunto de datos que involucran:

Modelos: Cinco familias (Qwen, Llama, GPT-OSS, Gemma, GPT-4o/Gemini) que van desde 2B hasta 122B de parámetros, incluyendo modelos de código abierto y de frontera.
Conjuntos de datos: Cuatro dominios de razonamiento (GSM8K, MATH-500, GPQA Diamond, LiveCodeBench).
Restricciones: Los experimentos se limitaron a configuraciones con tasas de fallo entre el 15% y el 60% y suficientes conteos de fallos para la fiabilidad estadística. Los modelos de frontera fueron restringidos a los 20 logaritmos de probabilidad superiores.

Resultados clave

Reproducibilidad de los modos de fallo: Las predicciones falsables del marco se mantuvieron en 20 de 23 casos, significativamente por encima del azar.
- Fallo comprometido: Observado en 14 configuraciones (ej., Gemma4-31B en LiveCodeBench, GPT-OSS-20B en MATH-500). Estas exhibieron la curva PR-AUC de U invertida predicha con un punto de compromiso distintivo.
- Incertidumbre persistente: Observada en 9 configuraciones (ej., Llama3.1-8B en MATH-500, Qwen3.5-122B en GPQA). Estas mostraron curvas PR-AUC monótonamente crecientes donde el trazo completo es estrictamente más informativo que cualquier prefijo.
Validación estadística: La agrupación meta-analítica confirmó las predicciones bidireccionales:
- Prueba de signo en configuraciones comprometidas: 14/14 consistentes ( $p = 6.1 \times 10^{-5}$ ).
- Prueba de signo conjunta en todas las configuraciones: 20/23 consistentes ( $p = 2.4 \times 10^{-4}$ ).
- El tamaño del efecto agrupado ( $\hat{\Delta}$ ) para los casos comprometidos fue de $+0.013$ (IC 95% $[+0.005, +0.020]$ ).
Implicaciones para la autoconsistencia:
- Régimen comprometido: La autoconsistencia es ineficaz porque el modelo reproduce la misma respuesta errónea. Aquí, las señales de incertidumbre de una sola completación (específicamente las características de ventana temprana) proporcionan una detección superior. Los autores demuestran que, para modelos comprometidos, la autoconsistencia puede omitirse para el top 30% de las entradas con confianza sin sacrificar la recuperación de fallos.
- Régimen persistente: La autoconsistencia sigue siendo efectiva ya que el fallo se manifiesta como un desacuerdo entre completaciones.
- Complementariedad: Combinar la incertidumbre de una sola completación con las tasas de acuerdo de la autoconsistencia mejoró consistentemente el PR-AUC en todos los regímenes probados, capturando la calidad del razonamiento dentro de la completación que las tasas de acuerdo por sí solas omiten.

Significación y afirmaciones

El artículo afirma ofrecer un marco fundamental para comprender cuándo y cómo los fallos de razonamiento de los LLM se vuelven detectables. Al caracterizar los fallos como "comprometidos" o "persistentes", los autores argumentan que las estrategias de detección deben adaptarse al modo de fallo específico en lugar de aplicarse de manera uniforme.

Contribuciones clave incluyen:

Firmas a nivel de token: Demostrar que las señales de incertidumbre a nivel de token pueden distinguir entre dos procesos de fallo distintos utilizando únicamente probabilidades logarítmicas externas.
Identificación del punto de compromiso: Definir y validar empíricamente un punto específico en un trazo de razonamiento donde el modelo se bloquea en un camino, marcando la transición de señal a ruido.
Guía práctica de despliegue: Proporcionar un mecanismo para triar cuándo la autoconsistencia es necesaria frente a cuándo puede omitirse selectivamente, y mostrar cómo las características de incertidumbre complementan los métodos de verificación existentes.

Los autores mantienen la modestia respecto a sus afirmaciones, señalando que el marco opera sobre trazos de CoT visibles (sin afirmar que estos trazos reflejen perfectamente la computación interna) y que está limitado por las restricciones de la API en el acceso a las probabilidades logarítmicas. Enfatizan que el marco requiere tasas de fallo moderadas para funcionar de manera fiable y que el punto de compromiso se identifica a la granularidad de los tamaños de ventana en lugar de posiciones exactas de tokens.