💬 NLP

States Hidden in Hidden States: Implicit Discrete State Representations Emerge in LLMs' Hidden States

Este artículo investiga cómo los Grandes Modelos de Lenguaje realizan cálculos extendidos sin un razonamiento explícito de cadena de pensamiento mediante la formación y utilización de Representaciones de Estado Discreto Implícitas Imperfectas dentro de sus estados ocultos, al tiempo que caracteriza su formación e identifica su contribución a los errores computacionales.

Autores originales: Junhao Chen, Shengding Hu, Zhiyuan Liu, Maosong Sun

Publicado 2026-08-05

📖 7 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Junhao Chen, Shengding Hu, Zhiyuan Liu, Maosong Sun

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que estás viendo a un mago sacar un conejo de un sombrero. Sabes que el conejo no apareció de la nada, pero no puedes ver el truco. Durante mucho tiempo, los científicos que estudian la Inteligencia Artificial (IA) han estado en una situación similar. Saben que estos gigantescos cerebros informáticos, llamados Modelos de Lenguaje Extensos (LLM), pueden hacer cosas asombrosas como escribir poemas, resolver problemas matemáticos y charlar como humanos. Pero cómo lo hacen dentro de su "mente" (que es solo una colección masiva de números y capas) ha sido un poco como una caja negra.

Para entender este artículo, necesitas saber dos cosas simples. Primero, los LLM funcionan prediciendo la siguiente palabra en una oración, una palabra a la vez. Segundo, cuando hacen esto, crean un "bloc de notas" temporal de información llamado estado oculto. Piensa en este estado oculto como una nota mental que la IA hace mientras está pensando. Normalmente, asumimos que la IA simplemente lee toda la pregunta y luego adivina la respuesta. Pero, ¿qué pasaría si, mientras lee una larga lista de números, la IA estuviera manteniendo secretamente un total acumulado en su cabeza, tal como lo haces tú cuando sumas el total de tu cuenta del supermercado en tu cabeza sin escribir nada? Este artículo pregunta: ¿Está la IA haciendo realmente esa matemática mental, o solo está adivinando?

El truco de magia de la matemática mental

Imagina que estás en una fiesta y alguien te entrega una larga lista de números: 17, 38, 32, 87... y te pide que los sumes todos instantáneamente, sin escribir nada ni decir los pasos en voz alta. La mayoría de la gente tendría dificultades, pero los modelos de IA más inteligentes del mundo están empezando a volverse muy buenos en esto. Pueden mirar una cadena de hasta 15 números y escupir el total correcto inmediatamente, sin mostrar su procedimiento.

Este artículo, titulado "Estados ocultos en estados ocultos", investiga exactamente cómo estos modelos de IA realizan este truco. Los investigadores de la Universidad de Tsinghua hipotetizaron que estos modelos no solo están adivinando; están construyendo secretamente Representaciones de Estado Discreto Implícito (IDSRs).

Vamos a desglosar ese término elegante. Imagina que la IA es un equipo de trabajadores pasando un cubo de agua en una línea.

Implícito: No están gritando el número en voz alta (generando texto).
Estado Discreto: Están sosteniendo un número específico y exacto en sus manos (como "37" después de sumar 17 y 20).
Representación: Este número existe como un patrón dentro de las capas internas de la IA.

Los investigadores querían demostrar que la IA realmente está reteniendo estos números intermedios mientras lee la lista, en lugar de esperar hasta el final para intentar calcular todo de una vez.

El trabajo de detective: Echar un vistazo al cerebro

Para ver si este "bloc de notas mental" realmente existe, los investigadores jugaron a las "20 preguntas" con las capas internas de la IA. Utilizaron una herramienta llamada sonda (probe). Piensa en una sonda como un detective diminuto y superrápido que puede echar un vistazo a las notas internas de la IA en cualquier momento específico y preguntar: "¿En qué número estás pensando ahora mismo?".

Probaron esto en una variedad de modelos, desde los más pequeños (como Lanno2-7B) hasta los gigantes (como GPT-4 y Qwen-72B). Le pidieron a los modelos que resolvieran problemas de suma con anywhere desde 2 hasta 14 números.

Lo que encontraron:

Los grandes se vuelven más grandes: La capacidad de hacer esta matemática mental "emerge" a medida que los modelos crecen. Los modelos pequeños pueden sumar dos o tres números, pero una vez que la lista llega a ocho números, colapsan. Los modelos más grandes, sin embargo, pueden manejar listas de 11 o incluso 15 números con una precisión sorprendente.
La nota oculta es real: Cuando los investigadores usaron sus "sondas detectivescas" en las capas ocultas de la IA, descubrieron que los modelos sí estaban reteniendo los totales acumulados. Por ejemplo, después de que la IA leyera "17 + 24", el estado interno del modelo contenía una representación de "41", aunque aún no había dicho la palabra "41" en voz alta.
No es perfecto: La mala noticia es que esta nota mental no es perfecta. A medida que la lista de números se vuelve más larga, la "nota" se vuelve un poco borrosa. Los investigadores descubrieron que, si bien la IA puede retener el número perfectamente durante los primeros pasos, para cuando llega al número 15, la representación interna comienza a perder detalle. Esta compresión "con pérdida" (lossy) es la razón por la cual incluso los modelos más inteligentes a veces se equivocan en la respuesta final.

Cómo construye la IA el número

El artículo también descubrió cómo construyen estos números la IA, lo cual es sorprendentemente similar a cómo lo hacen los humanos.

Un dígito a la vez: La IA no calcula todo el número de golpe. Construye la respuesta dígito por dígito, comenzando desde la derecha (las unidades), luego las decenas, luego las centenas. Es como sumar columnas en papel, pero ocurriendo enteramente dentro del cerebro de la IA.
Las capas "superficiales" vs. "profundas": La IA tiene muchas capas de procesamiento. Los investigadores descubrieron que las primeras 10 capas son como la parte "calculadora" del cerebro: solo realizan la matemática pura. Pero a medida que la información se mueve hacia las capas más profundas (alrededor de la capa 10 en adelante), la IA comienza a mezclar el contexto de la oración. Es como si la calculadora se distrajera con la conversación que la rodea. Esta mezcla es lo que causa la "borrosidad" o los errores en la respuesta final.
Lineal, no mágico: La IA no hace la matemática de una forma mágica y de un solo golpe. Procesa la lista en línea recta. Si tienes los números A, B, C y D, calcula (A+B), luego toma ese resultado y le suma C, luego suma D. No hace (A+B) y (C+D) por separado para luego combinarlos.

El experimento del "Puente"

Para demostrar que la IA realmente estaba usando estas notas ocultas y no solo adivinando, los investigadores hicieron un truco ingenioso. Construyeron un "puente" en el mecanismo de atención de la IA. Imagina que la IA está leyendo una oración larga, y ellos le impiden mirar hacia el principio de la oración, obligándola a mirar solo lo último que leyó.

Si la IA solo estuviera adivinando basándose en toda la oración, este bloqueo la rompería por completo. Pero, la IA aún podía resolver el problema matemático si podía "ver" el puente (el signo de suma más reciente). Esto demostizó que la IA estaba transportando el total acumulado de un paso al siguiente, tal como lo haría un humano.

La conclusión

Este artículo sugiere que cuando los modelos de IA gigantes hacen matemáticas sin mostrar su procedimiento, realmente están trabajando. Están creando "notas adhesivas" invisibles e internas que retienen el total acumulado mientras leen.

Sin embargo, hay un inconveniente. Estas notas adhesivas no son perfectas. A medida que la lista de números se vuelve más larga, las notas se vuelven un poco borrosas y la IA comienza a cometer errores. Los investigadores creen que si podemos descubrir cómo hacer que estas notas internas sean más claras y menos "con pérdida", podríamos hacer que la IA sea mucho mejor en tareas de razonamiento complejo, no solo en matemáticas.

Por ahora, sabemos que la IA no es magia; solo es muy buena manteniendo un recuento mental, incluso si ese recuento a veces se vuelve un poco borroso al final de una lista larga.

Resumen Técnico: Estados Ocultos en los Estados Ocultos

Planteamiento del Problema

Los Grandes Modelos de Lenguaje (LLMs) han demostrado capacidades emergentes para realizar cálculos aritméticos, específicamente adiciones iterativas, sin generar tokens intermedios de cadena de pensamiento (Chain-of-Thought o CoT). Mientras que la investigación previa se ha centrado en la aritmética binaria o en la interpretabilidad general de las tareas matemáticas, el mecanismo mediante el cual los modelos rastrean los resultados intermedios en el razonamiento iterativo de múltiples pasos sigue sin estar claro. Específicamente, se desconoce si los modelos memorizan los datos de entrenamiento, dependen de un razonamiento explícito o forman representaciones internas de estados intermedios para resolver estos problemas directamente. Este artículo investiga la hipótesis de que los LLMs forman Representaciones de Estado Discreto Implícito (IDSRs, por sus siglas en inglés) dentro de sus estados ocultos para facilitar el cálculo simbólico secuencial.

Metodología

Los autores emplean una combinación de generación de conjuntos de datos sintéticos y técnicas de sondeo (probing) para validar la existencia y las propiedades de las IDSRs.

1. Construcción del Conjunto de Datos

Se creó un conjunto de datos sintético de 131,300 problemas de adición y sustracción iterativa. El conjunto de datos incluye:

Longitud Variable: Secuencias que van desde 2 hasta 14 operandos.
Operandos: Enteros muestreados uniformemente de 1 a 100 (1 a 3 dígitos).
Diversidad de Prompts: Se utilizaron tres tipos de prompts: adición estándar, sustracción y "prompting" (donde el prompt instruye al modelo para que ignore la fórmula o responda con un token específico como "apple").
División: Los datos se particionaron en conjuntos de entrenamiento (80%), validación (10%) y prueba (10%) para el entrenamiento de los sondos.

2. Configuración Experimental

Modelos Evaluados: Se probaron diversos modelos de código abierto (por ejemplo, Llama2, MiniCPM, Mistral, Qwen, DeepSeek) y de código cerrado (por ejemplo, GPT-3.5, GPT-4, Claude).
Extracción de Estados Ocultos: Durante la inferencia, se extrajeron los estados ocultos ( $H_{i,j}$ ) correspondientes específicamente a los tokens de operador (por ejemplo, los signos "+") para evitar el sesgo de las representaciones de los operandos.
Mecanismo de Sondeo (Probing): Se entrenaron perceptrones multicapa (MLPs) y perceptrones de una sola capa para clasificar los estados ocultos. Los sondos predijeron:
- Sondeo de Número Entero: La suma total como un número entero.
- Sondeo Dígito por Dígito: Dígitos individuales (unidades, decenas, centenas) de la suma intermedia.
Experimentos de Intervención: Se realizó un experimento de "Puente de Atención" (Attention Bridge) donde las máscaras de atención impidieron que los tokens subsiguientes atendieran a los operandos anteriores, forzándolos a depender únicamente de la información transmitida a través de un "token puente" específico (el primer signo de suma).

Hallazgos Clave y Resultados

1. Emergencia de la Computación Implícita

Correlación de Escala: Existe una fuerte correlación entre el tamaño del modelo y la capacidad para realizar adición iterativa. Los modelos más pequeños (por ejemplo, 7B) muestran una rápida degradación de la precisión a medida que aumenta la longitud de la secuencia (casi cero precisión con 8 operandos), mientras que los modelos más grandes (por ejemplo, 72B, GPT-4) mantienen una precisión >50% para secuencias de hasta 8 operandos y un rendimiento no nulo para 11+ operandos.
No Memorización: Es poco probable que la capacidad sea memorizada, ya que el espacio de parámetros requerido para almacenar todas las sumas posibles de secuencias largas ( $O(99^L)$ ) excede la capacidad del modelo, y la tarea ofrece una utilidad insignificante para la optimización del preentrenamiento general.

2. Existencia y Propiedades de las IDSRs

Existencia: Los experimentos de sondeo confirmaron que los estados ocultos en los tokens de operador contienen información sobre la suma intermedia actual. Las precisiones de predicción superaron significativamente el azar en todos los modelos.
Transmisión con Pérdida: La transmisión de las IDSRs no es sin pérdida. La precisión disminuye a medida que la secuencia progresa (por ejemplo, del 100% en el segundo "+" al 37% en el "=" final en Qwen-72B), lo que contribuye a los errores en la salida final.
Linealidad vs. No Linealidad:
- Capas Superficiales (0–10): Las representaciones son mayoritariamente lineales y agnósticas a la tarea ("semántica superficial"). Computan valores aritméticos independientemente del contexto específico del prompt (por ejemplo, sustracción vs. adición).
- Capas Profundas (>10): Las representaciones transicionan hacia características no lineales ("capas semánticas"). Estas capas integran el contexto de la tarea, lo que reinicializa la formación de la IDSR pero reduce la resolución en comparación con las capas superficiales.
Formación a Nivel de Dígito: Las IDSRs se forman de manera independiente para cada dígito. El orden en que los dígitos se vuelven predecibles sigue el orden de cálculo humano (unidades $\to$ decenas $\to$ centenas), lo que sugiere que los modelos realizan la adición de múltiples dígitos mediante adiciones de un solo dígito de forma iterativa.

3. Utilización de las IDSRs

Procesamiento Secuencial: Los modelos utilizan las IDSRs de forma secuencial en lugar de una forma logarítmica (tipo árbol). Los experimentos de sondeo mostraron que la precisión para la suma de $n$ números alcanza su máximo solo después de que la precisión para la suma de $n-1$ números haya alcanzado su máximo, descartando estrategias de combinación paralela.
Validación del Puente de Atención: Cuando se enmascaró la atención directa a los operandos tempranos, los modelos mantuvieron una precisión no trivial si la información podía pasar a través del "token puente". Esto confirma que los modelos dependen del estado intermedio codificado en los tokens de los operadores para computar los pasos subsiguientes.

Principales Contribuciones

Validación de la Hipótesis: El artículo proporciona evidencia empírica de que los LLMs forman Representaciones de Estado Discreto Implícito (IDSRs) en sus estados ocultos para realizar aritmética iterativa sin un CoT explícito.
Caracterización de la Formación: El estudio mapea la formación de las IDSRs a través de tres perspectivas:
- Por Dígito: Formación independiente y secuencial comenzando desde el dígito menos significativo.
- Por Capa: Una transición de la computación aritmética lineal y agnóstica a la tarea en las capas superficiales hacia el procesamiento semántico no lineal y consciente del contexto en las capas más profundas.
- Por Secuencia: Propagación de la información a lo largo de la secuencia, donde los tokens posteriores utilizan el estado codificado en los operadores anteriores.
Mecanismo de Fallo: Los autores identifican que la naturaleza "con pérdida" de la transmisión de las IDSR en los modelos actuales de código abierto es un contribuyente primario a los errores de cálculo en secuencias largas.

Significado y Reivindicaciones

Los autores posicionan este trabajo como una exploración inicial de los mecanismos internos de los LLMs respecto al cálculo simbólico y el razonamiento de múltiples pasos. El significado radica en:

Interpretabilidad: Ofrecer un ejemplo concreto de cómo los LLMs realizan un "razonamiento iterativo intrínseco" mediante el rastreo de estados discretos, sirviendo como un paso fundacional para comprender las capacidades de razonamiento complejo.
Limitaciones de los Modelos: Resaltar que los modelos actuales no son "sin pérdida" en su seguimiento de estados, lo que explica por qué fallan en secuencias más largas a pesar de sus capacidades emergentes.
Direcciones Futuras: El artículo sugiere que comprender y potencialmente reducir la pérdida en la generación de IDSR podría mejorar las capacidades matemáticas y de razonamiento de los LLMs. Explícitamente señala que los hallazgos están actualmente validados en conjuntos de datos matemáticos sintéticos y que la capacidad es una propiedad emergente dependiente de la escala del modelo.

El artículo concluye reconociendo limitaciones, como la falta de diversidad en los tipos de tareas más allá de la matemática sintética, y hace un llamado a futuras investigaciones sobre los factores que influyen en la resolución de las IDSR y la escalabilidad de estas representaciones a través de diferentes tamaños de modelos.