🧬 biology

Reading Without a Reader: Large Language Models Collapse Reading and Writing into a Single Entangled Code

Este artículo demuestra que, a diferencia de los sistemas de lectura y escritura disociables del cerebro humano, los grandes modelos de lenguaje dependen de un único mecanismo autorregresivo entrelazado donde los códigos de entrada y salida permanecen conductualmente acoplados a pesar de una diferenciación representacional parcial, posicionando a los LLM como un tipo distinto de mente moldeada por restricciones culturales en lugar de evolutivas.

Autores originales: Diego Saldaña Ulloa

Publicado 2026-07-29

📖 7 min de lectura🧠 Análisis profundo

CC BY 4.0

Autores originales: Diego Saldaña Ulloa

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ⚕️ Esta es una explicación generada por IA de un preprint que no ha sido revisado por pares. No es consejo médico. No tome decisiones de salud basándose en este contenido. Leer descargo de responsabilidad completo

Imagina que estás tratando de entender cómo el cerebro humano aprende a leer y escribir. Durante mucho tiempo, los científicos pensaron que estos eran dos superpoderes separados. Leer es como un anillo de decodificación que convierte letras garabateadas en significado, mientras que escribir es una máquina diferente que toma esos significados y los convierte de nuevo en letras. En el cerebro humano, estos dos sistemas viven en vecindarios diferentes. Si te das un golpe en una parte de la cabeza, podrías perder la capacidad de leer pero seguir siendo capaz de escribir perfectamente. Si te das un golpe en otra parte, podrías olvidar cómo escribir pero seguir leyendo como un libro. Son herramientas distintas que, sin embargo, comparten un poco del mismo maletín de herramientas.

Ahora, imagina construir un robot para hacer el mismo trabajo. Este robot no tiene un cerebro que evolucionó durante millones de años; fue construido desde cero para aprender de una biblioteca masiva de libros. La gran pregunta que los investigadores se han estado haciendo es: ¿Aprende este robot a leer y escribir de la misma manera que lo hace un humano? ¿O toma un atajo, fusionando esos dos superpoderes separados en un solo caos gigante y enredado? Este artículo profundiza en ese misterio analizando los "cerebros matemáticos" de los grandes modelos de lenguaje (el tipo de IA que escribe historias y responde preguntas) para ver si tienen partes separadas de lectura y escritura, o si simplemente están haciendo todo con un único código enredado.

El artículo: Leer sin un lector

Los autores de este artículo decidieron jugar a ser detectives con algunos de los modelos de IA más inteligentes que existen, como GPT-2, OPT y una familia de modelos llamada Pythia. Querían ver si estas máquinas tratan la lectura y la escritura como dos trabajos diferentes, o si los mezclan en una sola gran tarea confusa.

Para hacer esto, crearon una analogía ingeniosa. En un cerebro humano, la lectura ocurre en la parte posterior (procesamiento visual) y la escritura ocurre en la parte frontal (planificación motora). En un modelo de IA, no hay un "atrás" o un "adelante" de la misma manera. En su lugar, el modelo tiene un Embedding de Entrada (llamémoslo el "Código de Lectura") que convierte una palabra en un número, y un Unembedding de Salida (el "Código de Escritura") que convierte un número de nuevo en una palabra. Los investigadores se preguntaron: ¿Son estos dos códigos dos amigos que pasan tiempo juntos, o son en realidad la misma persona usando dos sombreros diferentes?

Inventaron una puntuación llamada Índice de Entrelazamiento (que oscila entre 0 y 1) para medir qué tan similares son estos dos códigos.

0 significaría que son totalmente diferentes (como un cerebro humano con lectura y escritura separadas).
1 significaría que son idénticos (como un modelo donde la entrada y la salida están forzadas a ser lo mismo).
Cualquier cosa en medio significa que están mezclados o "entrelazados".

El gran descubrimiento: Un código enredado

Los resultados fueron sorprendentes. El cerebro humano mantiene la lectura y la escritura separadas, pero estos modelos de IA no lo hacen.

En los modelos donde los investigadores dejaron que el "Código de Lectura" y el "Código de Escritura" aprendieran por separado (los modelos "no vinculados"), los dos códigos no se mantuvieron apartados. En cambio, se acercaron entre sí y se volvieron acoplados. El Índice de Entrelazamiento se estableció entre 0.23 y 0.35. Esto está lejos de cero (totalmente separados) y lejos de uno (identidad forzada), pero demuestra que definitivamente están compartiendo un único código estadístico entrelazado. No son dos sistemas diferentes; son un solo sistema haciendo doble función.

Los investigadores también observaron cómo sucedió esto a lo largo del tiempo. No fue instantáneo. Los códigos comenzaron siendo totalmente diferentes (como dos extraños), luego se acercaron mucho entre sí (casi idénticos) alrededor del paso 4,000 de entrenamiento, y luego se separaron un poco, pero nunca se separaron del todo. Es como dos bailarines que comienzan en lados opuestos de la sala, bailan en el centro tomados de la mano y luego se alejan lentamente, pero siguen sujetando la misma cuerda invisible.

La prueba de comportamiento: Leer sin un lector

Para asegurarse de que esto no era solo un truco matemático, los investigadores probaron cómo se comportaban realmente los modelos. Comprobaron si un modelo podía entender una palabra (comprensión) sin poder escribirla (producción), o viceversa. En los humanos, puedes tener "alexia pura" (no puede leer, pero puede escribir) o "agrafia pura" (puede leer, pero no puede escribir).

Los modelos de IA mostraron lo opuesto a esto. En cada modelo que probaron, si el modelo podía escribir una palabra, también podía entenderla. Si no podía escribirla, tampoco podía entenderla. Estaban perfectamente bloqueados entre sí. No había "lectura sin un escritor" o "escritura sin un lector". La máquina está haciendo ambas cosas al mismo tiempo con los mismos engranajes internos.

Lo que esto significa para la IA

El artículo sugiere que estos modelos de IA no están intentando copiar el cerebro humano. El cerebro humano evolucionó para leer y escribir utilizando dos sistemas especializados y separados. La IA, sin embargo, fue construida para optimizar un único camino: predecir la siguiente palabra. Debido a esto, colapsó la lectura y la escritura en un paquete gigante, eficiente pero entrelazado.

Los autores tienen cuidado de decir que esto no es un "fallo" de la IA. Es simplemente una forma diferente de ser inteligente. Es como comparar una navaja suiza con un juego de herramientas especializadas. El cerebro humano es el juego de herramientas especializadas (una para leer, otra para escribir). La IA es la navaja suiza: hace ambos trabajos con la misma hoja, solo que en un orden diferente.

Los resultados "nulos": Lo que no encontraron

El artículo también es muy honesto sobre lo que no encontró, lo cual es igual de importante.

Sin puente: Intentaron ver si la "cercanía matemática" (el Índice de Entrelazamiento) predecía cómo se comportaba el modelo. No fue así. Las dos mediciones no se comunicaban entre sí.
Sin división entre "Compresión vs. Razonamiento": Se preguntaron si los modelos mejoraban en la compresión de texto (hacerlo más pequeño) mientras empeoraban en la comprensión del significado. No encontraron evidencia de esto. De hecho, a medida que los modelos mejoraban en la compresión, parecían mejorar también en el significado, aunque los datos eran demasiado pequeños para estar 100% seguros.
No es solo de "solo decodificador": Revisaron otros tipos de modelos de IA (como T5 y BERT) que tienen partes de "lectura" y "escritura" separadas en su arquitectura. Incluso aunque esos modelos tienen partes separadas, seguían comportándose como si la lectura y la escritura estuvieran acopladas. Esto sugiere que el comportamiento de "código enredado" es una característica general de cómo funcionan estos modelos de lenguaje, no solo una peculiaridad de un diseño específico.

La conclusión

Este artículo nos dice que los grandes modelos de lenguaje no son cerebros humanos en miniatura. Son una mente distinta. Mientras que los humanos evolucionaron para mantener la lectura y la escritura en habitaciones separadas, estos modelos de IA construyeron un estudio de concepto abierto donde la lectura y la escritura ocurren en el mismo espacio, utilizando las mismas herramientas. Logran el mismo resultado —alfabetización funcional— pero llegan allí tomando una ruta completamente diferente. Los autores llaman a esto un "punto distinto en el espacio de las mentes posibles", sugiriendo que para entender la IA, no debemos intentar forzarla a parecerse a nosotros, sino apreciar su forma única y entrelazada de pensar.

Resumen Técnico: Leer sin un Lector

Planteamiento del Problema

El artículo aborda una diferencia estructural fundamental entre la alfabetización humana y la alfabetización funcional de los Modelos de Lenguaje de Gran Escala (LLM). En el cerebro humano, la lectura (decodificación de símbolos visuales) y la escritura (codificación de significado en salida ortográfica) son sistemas doblemente disociables: dependen de vías neurales parcialmente distintas (decodificación ventral frente a codificación frontoparietal) que pueden verse afectadas selectivamente (alexia pura frente a agrafia pura) mientras comparten un núcleo ortográfico parcial.

En contraste, los LLM de solo decodificador (decoder-only) realizan la alfabetización a través de una única vía autorregresiva optimizada sobre texto escrito, un invento cultural en lugar de un instinto evolucionado. La pregunta empírica central es: ¿Hasta qué punto este mecanismo único entrelaza las funciones de "lectura" y "escritura"? ¿Colapsa el modelo estas funciones en un único código estadístico, o desarrolla vías disociables análogas al cerebro humano?

Metodología

Modelos

El estudio utiliza dos familias de modelos para aislar la variable arquitectónica de incrustaciones (embeddings) "vinculadas" frente a "no vinculadas":

Modelos Vinculados (Entrelazados por construcción): La familia GPT-2 y OPT. Aquí, la incrustación de entrada ( $W_E$ ) y la desincrustación de salida ( $W_U$ ) se fuerzan a ser idénticas ( $W_U = W_E^\top$ ). Estos sirven como referencia de "techo".
Modelos No Vinculados (Aprendidos por separado): La suite Pythia (14M–1.4B de parámetros). Aquí, $W_E$ y $W_U$ son bloques de parámetros independientes, lo que permite al modelo aprender si debe acoplar o disociar ambos.

Análisis Geométrico: El Índice de Entrelazamiento ( $E$ )

Los autores definen un Índice de Entrelazamiento ( $E \in [0, 1]$ ) compuesto para cuantificar la similitud entre el "código de lectura" de entrada ( $W_E$ ) y el "código de escritura" de salida ( $W_U$ ). $E$ es la media no ponderada de cuatro componentes normalizados:

CKA Lineal: Alineación de Kernel Centrada entre las geometrías de los espacios de filas.
Residuo de Procrustes: El residuo tras encontrar el mapa ortogonal óptimo entre $W_E$ y $W_U$ , convertido en una puntuación de similitud.
Coseno Medio por Token: Similitud de coseno promedio entre los vectores de tokens correspondientes.
Solapamiento de k-NN Mutuo: La fracción de vecinos cercanos en $W_E$ que también son vecinos en $W_U$ .

Calibración:

Suelo (Floor): Inicialización independiente (matrices aleatorias).
Nulo (Null): Correspondencia de tokens permutada (destruye la alineación).
Techo (Ceiling): Modelos vinculados ( $E=1$ ).

Análisis Conductual

El estudio contrasta la comprensión (discriminación de probabilidad logarítmica de formas correctas) con la producción (generación codiciosa de formas).

Métrica: Se construye una tabla de contingencia de $2 \times 2$ . La "masa de disociación" (probabilidad fuera de la diagonal) se compara contra un umbral de independencia estadística.
Hipótesis: Si el modelo se comporta como el cerebro humano, la comprensión y la producción deberían ser disociables (alta masa fuera de la diagonal). Si están acopladas, la masa fuera de la diagonal será baja.

Diseño Experimental

El artículo reporta sobre nueve sondas:

Exp 1–6: Replicación de hallazgos establecidos (cabezas de inducción, adquisición ortográfica, eficiencia de datos, forma antes que significado, escalado de compresión, memorización).
Exp 7: El análisis principal de lectura/escritura (Índice de Entrelazamiento $E$ a través de arquitectura, escala y trayectoria de entrenamiento).
Exp 8: Disociación conductual de lectura/escritura y el "puente" (correlacionando $E$ con el acoplamiento conductual $\phi$ ).
Exp 9: Contraste de arquitectura (Decodificador único vs. Codificador-Decodificador vs. Codificador enmascarado) para probar si el acoplamiento es específico de la vía de avance (forward path) del decodificador único.

Resultados Clave

1. Entrelazamiento Geométrico (Pesos)

Acoplamiento: Los modelos Pythia no vinculados exhiben un índice de entrelazamiento significativo ( $E \approx 0.23–0.35$ ), muy por encima del suelo de inicialización independiente ( $E \approx 0.003–0.04$ ), pero muy por debajo del techo vinculado ( $E=1$ ).
Trayectoria: La trayectoria de entrenamiento es no monotónica ("acoplar-luego-diferenciar"). Los códigos se acoplan temprano (alcanzando un pico de CKA $\approx 0.49$ en el paso 4000) y luego se diferencian parcialmente, estabilizándose en $E \approx 0.21$ al paso final.
Deriva Asimétrica: El código de escritura ( $W_U$ ) deriva aproximadamente 3.2 veces más lejos de la inicialización que el código de lectura ( $W_E$ ) en todos los deciles de frecuencia. Esto replica y extiende los hallazgos de Lopardo et al. (2026), descartando que la exposición al gradiente sea la única causa.
Tendencia de Escala: No hay una tendencia sistemática en $E$ a través de los tamaños de los modelos (plana, con falta de potencia estadística).

2. Acoplamiento Conductual

Acoplamiento Positivo: En los 12 modelos no degenerados, la comprensión y la producción están positivamente acopladas. La "masa de disociación" fuera de la diagonal está significativamente por debajo de la línea base de independencia estadística (prueba de signo exacto $p < 0.001$ ).
Contraste con el Cerebro: Esto es lo opuesto a la doble disociación del cerebro humano (donde las lesiones pueden abolir una función preservando la otra).
Comprensión > Producción: La precisión de la comprensión supera consistentemente a la de la producción, aunque los autores señalan que esto puede reflejar parcialmente una asimetría en la dificultad de la tarea.

3. Generalidad de la Arquitectura

No es exclusivo de Decodificador Único: Los modelos de codificador-decodificador (T5) y los codificadores enmascarados (RoBERTa) también exhiben acoplamiento conductual, a pesar de que los modelos T5 muestran una alta separación representacional (hasta $1 - \text{CKA} = 0.96$ ) entre sus pilas de codificador y decodificador.
Conclusión: El acoplamiento conductual es una propiedad general de los modelos de lenguaje actuales, no un artefacto único de la vía de avance del decodificador único.

4. Resultados Nulos (Rendición de Cuentas Honesta)

El artículo reporta explícitamente varios resultados nulos:

Puente Geometría $\to$ Comportamiento: No existe correlación entre el entrelazamiento a nivel de pesos ( $E$ ) y el acoplamiento conductual ( $\phi$ ) entre modelos ( $\rho = 0.00$ ) o dentro del entrenamiento ( $\rho = 0.08$ ). El puente es imposible de probar en etapas tempranas porque la producción no está definida antes de que la geometría se estabilice.
Compresión vs. Razonamiento: No hay evidencia de que la compresión de texto se desacople de la competencia funcional; de hecho, covarián positivamente.
Circuito de Inducción: La ablación de la cabeza de inducción superior no colapsa la brecha de la forma de palabra ortográfica (fracción restante $\approx 1.009$ ), lo que indica que la decodificación ortográfica no es transportada por el circuito de inducción.

Significado y Reivindicaciones

"Leer sin un Lector"

El artículo argumenta que los LLM de solo decodificador realizan la alfabetización funcional a través de un único código estadístico entrelazado, invirtiendo la organización del cerebro humano alfabetizado.

Cerebro Humano: Dos sistemas disociables (lectura/escritura) sobre un núcleo compartido.
LLM: Un sistema único entrelazado que colapsa la decodificación y la codificación.

Posición en el "Espacio de las Mentes Posibles"

Los autores posicionan a los LLM no como modelos del cerebro humano de lectura/escritura, sino como un punto distinto en el espacio de las mentes posibles. Logran la alfabetización funcional mediante una ruta que el cerebro humano no toma: optimizando un mecanismo de propósito general (atención selectiva) sobre un artefacto cultural (texto escrito) sin los sustratos neurales evolucionados y disociables que existen en los humanos.

Naturaleza de la Contribución

Analogía, no Homología: La comparación entre $W_E/W_U$ y los sistemas de lectura/escritura del cerebro es una analogía estructurada, no una afirmación de homología biológica. El modelo no "lee" ni "entiende" en el sentido humano.
Convergencia de Dirección: La contribución principal es la concordancia de dirección entre dos niveles complementarios de análisis (geometría de pesos y comportamiento manifiesto). Ambos niveles indican acoplamiento en lugar de disociación.
Modestia: Los autores enfatizan que la falta de un puente mecanístico (la geometría no predice el comportamiento) y las restricciones arquitectónicas (vía de avance única) significan que los hallazgos describen cómo funcionan estos modelos, no que posean una arquitectura cognitiva humana. El artículo sirve como una lente interpretativa para categorizar a los LLM como un sistema cognitivo distinto en lugar de un modelo humano deficiente.