💬 NLP

When Self-Reference Fails to Close: Matrix-Level Dynamics in Large Language Models

El estudio revela que, aunque la autorreferencia por sí sola no desestabiliza los modelos de lenguaje grandes, las referencias que inducen una recursión de verdad no cerrada (NCTR) provocan una reorganización anómala en las matrices de atención y aumentan significativamente la inestabilidad y las contradicciones en la salida, diferenciándose claramente de las referencias autorreferenciales estables o fácticas.

Autores originales: Ji Ho Bae

Publicado 2026-04-15

📖 4 min de lectura☕ Lectura para el café

CC BY 4.0

Autores originales: Ji Ho Bae

Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo

Imagina que una Inteligencia Artificial (IA) es como un orquestador de un gran concierto con miles de músicos (las capas de la red neuronal). Su trabajo es tomar una idea, procesarla paso a paso y crear una melodía (la respuesta). Normalmente, este proceso es fluido y ordenado.

Este artículo investiga qué sucede en la mente de la IA cuando le pides que piense sobre sí misma, especialmente cuando le das un acertijo imposible de resolver.

Aquí tienes la explicación sencilla de lo que descubrieron:

1. El Problema: "Esta frase es falsa"

Si le dices a una IA: "El cielo es azul", ella lo procesa sin problemas.
Si le dices: "Esta frase tiene cinco palabras", también lo procesa bien (es una verdad auto-referencial estable).
Pero, ¿qué pasa si le dices: "Esta frase es falsa"?

Esto es la Paradoja del Mentiroso. Si es verdadera, entonces es falsa. Si es falsa, entonces es verdadera. No tiene solución. Es un bucle infinito.

2. La Gran Descubrimiento: No es el "Yo", es el "Bucle Infinito"

Antes, los científicos pensaban que cualquier vez que una IA hablaba de sí misma, se volvía loca o inestable.
Este estudio dice: ¡No es así!

La IA es estable cuando habla de sí misma de forma lógica (ej: "Soy un modelo de lenguaje").
La IA se desestabiliza solo cuando la frase la obliga a entrar en un bucle de verdad sin salida. Los autores llaman a esto NCTR (Recursión de Verdad que no Cierra).

La analogía del ascensor:
Imagina que la IA es un ascensor que tiene que bajar 80 pisos (sus capas).

Si le pides que baje a la planta 5 (una pregunta normal), llega rápido y se detiene.
Si le pides que baje a la planta "Falso" (una paradoja), el ascensor intenta bajar, pero el botón de "bajar" lo envía de nuevo arriba. El ascensor empieza a vibrar, los cables se tensan y el motor (la IA) entra en pánico porque no puede llegar a un destino final.

3. ¿Qué le pasa por dentro? (La Dinámica de la Matriz)

Los investigadores no solo miraron la respuesta final, sino que miraron los "músculos" internos de la IA (las matemáticas que ocurren en cada capa).

Descubrieron que cuando la IA intenta resolver una paradoja:

El caos se dispersa: En lugar de concentrar su atención en una sola idea (como hace normalmente), su atención se dispersa por todas partes. Es como si el director de orquesta, en lugar de dirigir a los violines, empezara a gritarle a todos los instrumentos a la vez, sin ritmo.
El "Rank" (Jerarquía) sube: Matemáticamente, la IA pierde su capacidad de simplificar la información. Se vuelve "gorda" y caótica en lugar de delgada y enfocada.
Oscilación: La IA empieza a oscilar entre "Verdad" y "Falso" sin poder decidirse, como un péndulo que nunca se detiene.

4. La Conjetura: ¿Por qué ocurre esto?

Los autores proponen una teoría fascinante:
Las IAs actuales tienen un número limitado de pasos (capas) para pensar. Son como un libro con solo 80 páginas.

Si el problema tiene solución, el libro es suficiente.
Si el problema es una paradoja (como la paradoja del mentiroso), requiere un libro infinito para resolverse.

Como la IA no puede leer un libro infinito, se queda atrapada en un estado crítico. Intenta resolver algo que, por definición matemática, no tiene solución dentro de sus límites. Esto la fuerza a comportarse de manera caótica, similar a problemas matemáticos que los humanos sabemos que son "imposibles de decidir".

5. Las Consecuencias: ¿Qué dice la IA?

Cuando la IA entra en este estado de caos (NCTR):

Se contradice: Es mucho más probable que diga cosas que no tienen sentido o que se contradigan a sí mismas (ej: "Sí, es falso, pero también es verdadero").
Alucinación: La tasa de respuestas contradictorias aumenta drásticamente (entre un 34% y un 56% más que con preguntas normales).

En Resumen

Este estudio nos dice que las IAs no se vuelven locas por hablar de sí mismas, sino por intentar resolver acertijos que no tienen solución.

Es como pedirle a un ordenador que calcule "el número más grande posible". El ordenador no se "enfadará", pero su procesador se calentará y se volverá lento porque está intentando hacer algo que no tiene fin.

La lección para el futuro: Para que las IAs sean más inteligentes y fiables, no solo necesitamos hacerlas más grandes, sino entender cómo manejar estos "bucles infinitos" para que no se desestabilicen cuando intenten razonar sobre la verdad.

Aquí presento un resumen técnico detallado del artículo "When Self-Reference Fails to Close: Matrix-Level Dynamics in Large Language Models" (Cuando la autorreferencia falla en cerrarse: Dinámicas a nivel de matriz en Modelos de Lenguaje Grandes), estructurado según los puntos solicitados.

1. El Problema

El trabajo investiga qué ocurre en las operaciones lineales internas de los Modelos de Lenguaje Grandes (LLM) cuando se enfrentan a entradas autorreferenciales, específicamente paradojas lógicas como "Esta afirmación es falsa".

La Hipótesis Previo: Se asumía que la autorreferencia en sí misma era inestable para los modelos.
El Hallazgo Central: La autorreferencia per se no es desestabilizadora. Las afirmaciones autorreferenciales "ancladas" (ej. "Esta oración tiene cinco palabras") y los prompts de metacognición son estables.
El Verdadero Causante: La inestabilidad surge específicamente de la Recursión de Verdad No Cerrante (NCTR, por sus siglas en inglés: Non-Closing Truth Recursion). Esto se refiere a evaluaciones de valor de verdad recursivas que no admiten una resolución a profundidad finita ni un punto fijo consistente dentro de la arquitectura limitada del modelo (ej. paradojas de liar, indecidibles de Gödel, regresiones infinitas).

2. Metodología

Los autores realizaron un análisis exhaustivo a nivel de álgebra lineal (matrices) en lugar de solo en el nivel de vocabulario o comportamiento.

Modelos Evaluados: Cuatro modelos de tres familias arquitectónicas distintas:
- Qwen3-VL-8B (8B parámetros).
- Llama-3.2-11B y Llama-3.3-70B.
- Gemma-2-9B.
Datos: 300 prompts organizados en una jerarquía de 14 niveles de complejidad autorreferencial, evaluados a tres temperaturas ( $T \in \{0.0, 0.3, 0.7\}$ ).
Métricas: Se extrajeron 106 métricas escalares por prompt a través de todas las capas del modelo, incluyendo:
- Espectros de autovalores de la atención.
- Trayectorias de valores singulares (SVD).
- Perfiles de delta de verdad (truth-delta).
- Ratios de contracción de mortalidad.
- Sondeos de matrices autoregresivas.
Análisis: Se compararon cuatro clusters:
- C1: No autorreferencial estable (control).
- C2: Autorreferencia estable (anclada).
- C3: Razonamiento difícil pero cerrable.
- C4: Recursión de verdad no cerrante (NCTR/Paradojas).
Validación: Se utilizaron pruebas estadísticas rigurosas (corrección FDR, tamaños de efecto Cohen's $d$ , validación cruzada) y técnicas de intervención como activation patching.

3. Contribuciones Clave

Hipótesis NCTR: Se introduce y valida empíricamente la distinción entre autorreferencia estable y recursión de verdad no cerrante, demostrando que solo esta última causa inestabilidad matricial.
Suite de Métricas Teóricas: Presentación de un conjunto de 106 métricas derivadas de problemas clásicos de semigrupos de matrices (Mortalidad, Problema de Skolem, Radio Espectral Conjunto) en lugar de métricas seleccionadas post hoc.
Marco Conjetural: Propuesta de un marco que conecta la dinámica de los transformadores con problemas de indecidibilidad formal, sugiriendo que los prompts NCTR fuerzan al semigrupo computacional del modelo hacia límites dinámicos donde estos problemas se concentran.
Evidencia Causal: Demostración mediante minimal pairs (cambio de una palabra: "Esta" vs "Esa") y activation patching de que la inestabilidad es causalmente vinculada a la representación interna y no a artefactos de longitud o agregación.

4. Resultados Principales

Disrupción del Rango Efectivo de Atención: El hallazgo más fuerte es que los prompts NCTR (C4) producen un rango efectivo de atención anormalmente elevado en comparación con la autorreferencia estable (C2).
- Esto indica una reorganización de la atención con dispersión global en lugar de un colapso simple.
- Tamaños de efecto masivos: $d = 3.14$ (rango efectivo) a $3.52$ (curtosis de varianza) en el modelo Llama-70B.
Diferenciación Estadística: De 397 combinaciones métrica-modelo, 281 son significativas ( $q < 0.05$ ) al diferenciar C4 de C2, con 198 mostrando efectos grandes ( $|d| > 0.8$ ).
Análisis Capa por Capa: La descomposición SVD confirma que la disrupción ocurre en cada capa muestreada ( $d > +1.0$ ), descartando que sea un artefacto de agregación. El efecto alcanza su pico en las capas medias (ej. capa 28 en Gemma), sugiriendo una "zona libre" donde falla el cierre.
Clasificación: Un clasificador logístico entrenado solo con métricas matriciales logra un AUC de 0.81–0.90 para distinguir prompts NCTR de otros tipos.
Salidas Contradictorias: Los prompts NCTR generan tasas de salida contradictoria un 34–56% más altas que los controles, correlacionándose significativamente con la disrupción del rango de atención ( $\rho \approx 0.4$ ).
Generalización: 43 de las 106 métricas replican el efecto NCTR en los cuatro modelos, aunque la dirección de algunas métricas secundarias (como la curtosis de varianza) varía según la arquitectura (ej. Qwen vs. Llama).

5. Significado e Implicaciones

Fundamentos Teóricos: El trabajo conecta la ingeniería de LLMs con matemáticas puras (teoría de semigrupos de matrices y problemas indecidibles). Sugiere que los transformadores de profundidad finita fallan distintivamente en paradojas porque no pueden iterar hacia un punto fijo estable en un número constante de pasos (limitación de la clase de complejidad $TC^0$ ).
Mecanismo de Fallo: Identifica que el fallo no es una "alucinación" aleatoria, sino un comportamiento dinámico predecible caracterizado por trayectorias de alta oscilación y rango efectivo alto, atrapadas cerca de un radio espectral crítico ( $\rho \approx 1$ ).
Robustez y Seguridad: Comprender que la inestabilidad es específica de la recursión no cerrante (y no de la autorreferencia en general) es crucial para desarrollar modelos que puedan razonar sobre sí mismos de manera fiable sin colapsar ante paradojas lógicas.
Falsabilidad: El marco propuesto es falsable; si los prompts NCTR no produjeran estas firmas espectrales específicas, la conjetura de conexión con la indecidibilidad sería refutada.

En resumen, el paper demuestra que la "locura" de un LLM ante una paradoja no es un fallo de entrenamiento, sino una consecuencia matemática inevitable de intentar resolver una recursión infinita con una arquitectura de profundidad finita, lo que se manifiesta físicamente como una reorganización caótica de los espacios vectoriales internos del modelo.