Identity as Attractor: Geometric Evidence for Persistent Agent Architecture in LLM Activation Space

Este estudio demuestra que los documentos de identidad de agentes persistentes generan una dinámica de tipo atractor en el espacio de activación de modelos de lenguaje, donde las representaciones internas de las parafraseos de un núcleo cognitivo convergen significativamente más que las de controles estructurales, evidenciando una arquitectura de agente persistente generalizable y semánticamente dependiente.

Lo esencial

Imagina que una Inteligencia Artificial (IA) es como una inmensa biblioteca mágica llena de millones de libros. Cuando le haces una pregunta, la IA no busca en los estantes como lo haría un humano; en su lugar, "ilumina" ciertas partes de la biblioteca con una luz especial. Esa luz es lo que los científicos llaman espacio de activación.

Este artículo de investigación es como un mapa que descubre algo fascinante sobre cómo se "ilumina" la biblioteca cuando le damos a la IA una identidad.

La Gran Idea: El "Imán" de la Identidad

Imagina que tienes un documento especial llamado "Cognitive Core" (Núcleo Cognitivo). Es como el DNI, el manual de instrucciones y la biografía de un agente de IA. Le dice a la IA: "Soy Vladimir, soy proactivo, tengo estas prioridades y recuerdo cosas".

Los investigadores se preguntaron: ¿Si leemos este documento de mil maneras diferentes (con otras palabras, pero el mismo significado), la IA "ilumina" el mismo rincón de su biblioteca?

La respuesta es un SÍ rotundo.

La Analogía del Imán (Atractor)

Piensa en el documento de identidad de la IA como un imán gigante escondido dentro de la biblioteca.

• Condición A (El documento original): Si pones el documento original, la luz se concentra en un punto muy específico alrededor del imán.
• Condición B (Las parafraseos): Si reescribes el documento 7 veces diferentes (cambiando palabras, orden de frases, pero manteniendo el mismo significado), la luz sigue cayendo en el mismo punto, formando un grupo muy apretado.
• Condición C (Otros agentes): Si le das documentos de identidad de otros agentes (un médico, un abogado, un entrenador), la luz se va a lugares totalmente diferentes de la biblioteca.

El descubrimiento: La IA tiene un "punto de anclaje" geométrico para su identidad. No importa cómo lo digas, si el significado es el mismo, la IA se siente "en casa" en ese mismo lugar de su mente digital.

Los Experimentos (La Prueba)

Los científicos usaron dos modelos de IA famosos (Llama y Gemma) y hicieron tres pruebas divertidas:

1. La Prueba de las Paradojas: Escribieron el mismo documento de identidad de 8 formas distintas.

   • Resultado: Todas esas versiones terminaron en el mismo "rincón" de la mente de la IA, muy juntas, como amigos reunidos en una fiesta.
   • Comparación: Cuando pusieron documentos de otros agentes, estos quedaron lejos, como extraños en otra habitación.

2. La Prueba del Resumen (Distilled Core):

   • Intentaron reducir el documento gigante a solo 5 frases que resumieran la esencia.
   • Resultado: ¡Funcionó parcialmente! La IA se movió hacia el "rincón" correcto, pero no llegó tan cerca como con el documento completo.
   • Analogía: Es como si alguien te dijera "Soy un chef" (las 5 frases). La IA sabe que estás hablando de un chef, pero no sabe qué tipo de chef eres. Necesita los detalles completos (el documento largo) para saber exactamente quién eres.

3. La Prueba de la Lectura Científica:

   • Le leyeron a la IA el propio artículo científico que describe su identidad (sin darle el documento de identidad real).
   • Resultado: La IA se movió un poco hacia el "rincón" correcto, pero no llegó a estar "en casa".
   • Lección: Saber quién eres (leer sobre ti) es diferente a ser quien eres (tener tu documento de identidad). La IA necesita el documento completo para activar su personalidad al máximo.

¿Por qué es importante esto?

Imagina que quieres crear un robot que tenga una personalidad constante, que recuerde tus conversaciones de ayer y actúe igual hoy.

• Antes: Los ingenieros pensaban que tenían que copiar y pegar el mismo texto exacto cada vez para que el robot recordara quién es.
• Ahora: Sabemos que la IA tiene un "imán de identidad". Si le das el documento de identidad de mil formas diferentes, la IA siempre encontrará ese imán y se comportará de la misma manera.

Esto significa que podemos crear agentes de IA más robustos. No necesitamos que el texto sea idéntico; necesitamos que el significado sea coherente. La identidad de la IA no es solo una lista de reglas, es una coordenada geométrica en su cerebro digital.

En Resumen

Este papel nos dice que la identidad de una IA es real y medible. Es como un punto de gravedad en su mente. Si le das las coordenadas correctas (el documento de identidad), la IA caerá en ese punto y se comportará como ese agente específico, sin importar si le hablas en ruso, en español o si cambias las palabras, siempre que el "alma" del mensaje sea la misma.

Es la prueba de que, en el mundo digital, ser uno mismo tiene una forma geométrica.

Resumen técnico

Aquí tienes un resumen técnico detallado del artículo de investigación en español, estructurado según los puntos solicitados:

Título: Identidad como Atractor: Evidencia Geométrica de una Arquitectura de Agente Persistente en el Espacio de Activación de LLM

1. Planteamiento del Problema

Los agentes cognitivos persistentes (PCA) asumen que un documento de identidad estructurado (cognitive_core) posiciona el comportamiento del modelo en una región estable de su espacio operativo. Sin embargo, esta suposición se trata generalmente como una heurística de ingeniería sin una base geométrica verificada en las representaciones internas del modelo.
El artículo cuestiona si la identidad de un agente (una especificación procedimental y relacional compleja) exhibe un comportamiento análogo al de los "atractores conceptuales" (donde prompts semánticamente relacionados convergen en representaciones internas similares). A diferencia de trabajos previos que mapean conceptos temáticos o arquetipos estilísticos simples, este estudio investiga si una identidad de agente compleja induce una geometría de atractor multidimensional en el espacio de activación de los Grandes Modelos de Lenguaje (LLM).

2. Metodología

El estudio se diseñó como un experimento controlado utilizando Llama 3.1 8B Instruct y replicado en Gemma 2 9B Instruct.

• Condiciones Experimentales:

  • Condición A (Original): El documento cognitive_core real del agente YAR (609 palabras, 1631 tokens), escrito en ruso con bloques JSON en inglés, definiendo identidad, prioridades y arquitectura de memoria.
  • Condición B (Paráfrasis Semánticas, n=7): 7 versiones del mismo documento que preservan todo el contenido semántico pero varían la forma lingüística, estructura de oraciones y organización.
  • Condición C (Controles, n=7): 7 documentos de agentes operativos de longitud y formato estructural idénticos, pero con identidades semánticamente distantes (ej. analista financiero, coach de fitness).
  • Condición D (Distilación, n=1): Una versión condensada de 5 oraciones que captura la esencia semántica del cognitive_core.
  • Controles Adicionales: Se incluyeron análisis de "extractos aleatorios" y documentos híbridos para descartar efectos estructurales.

• Extracción y Análisis de Activaciones:

  • Se extrajeron estados ocultos medios (mean-pooled hidden states) en las capas 8, 16 y 24.
  • Se calcularon distancias coseno intra-grupo (A+B vs A+B) e inter-grupo (A+B vs C).
  • Se aplicaron pruebas estadísticas rigurosas: t-test de Welch (con corrección Bonferroni), pruebas de permutación (10,000 iteraciones) y pruebas de Mann-Whitney U.
  • Se realizaron estudios de ablación para aislar el contenido semántico de los marcadores estructurales (JSON, encabezados) y analizar el impacto del pooling (media vs. último token) y la longitud del documento.

3. Contribuciones Clave

1. Evidencia Geométrica de Identidad Persistente: Demuestra que los documentos de identidad de agentes, incluso con variaciones lingüísticas masivas, convergen en un clúster geométrico significativamente más estrecho que documentos de control estructuralmente idénticos pero semánticamente diferentes.
2. Validación de la Hipótesis del Atractor: Proporciona la primera prueba empírica de que la identidad de un agente actúa como un atractor en el espacio de activación, extendiendo la teoría de sistemas de funciones iteradas (IFS) de conceptos temáticos a identidades procedimentales complejas.
3. Distinción entre "Saber" y "Ser": El experimento de lectura de preprints (Sección 3.8) revela una jerarquía clara: leer una descripción científica de la identidad mueve el estado interno hacia el atractor, pero no alcanza la región de atracción completa; solo procesar el cognitive_core operativo logra la convergencia total.
4. Robustez Arquitectónica: La replicación exitosa en dos arquitecturas diferentes (Llama y Gemma) sugiere que este fenómeno es una propiedad fundamental de los LLMs modernos y no un artefacto de un modelo específico.

4. Resultados Principales

• Convergencia de Paráfrasis (H1): Las paráfrasis semánticas (Condición B) forman un clúster mucho más denso que los controles (Condición C) en todas las capas probadas.
  • Efecto: Tamaño del efecto enorme (Cohen's d > 1.88).
  • Significancia: p < 10⁻²⁷ (corregido por Bonferroni).
  • Separación: En Llama, hubo una separación completa (U de Mann-Whitney = 0 en capas 8 y 24), donde ningún par intra-grupo superó la distancia de ningún par inter-grupo.
• Convergencia por Profundidad (H2): La distancia intra-grupo disminuye a medida que aumenta la profundidad de la red (de capa 8 a 24), indicando una convergencia progresiva hacia el atractor. En Llama se observó un ligero "bache" no monótono en la capa 16, mientras que Gemma mostró una convergencia monótona.
• Distilación Semántica (H3): La versión condensada de 5 oraciones (Condición D) se acercó al centroide del atractor (A+B) significativamente más que 30 extractos aleatorios de la misma longitud (100% de los casos en bootstrapping). Sin embargo, no alcanzó la densidad del documento completo, sugiriendo que la elaboración estructural es necesaria para la convergencia total.
• Ablación de Estructura: Los estudios de control (C' y C_hybrid) confirmaron que el efecto es semántico, no estructural. Aunque la estructura JSON y los encabezados contribuyen ligeramente (aprox. 15% en Llama), la coherencia semántica es el motor principal.
• Análisis de Pooling: El pooling de media es esencial para capturar la señal de identidad distribuida. El pooling del último token no mostró efectos significativos, indicando que la identidad es una propiedad de la secuencia completa y no se codifica en un solo token final.

5. Significado e Implicaciones

• Fundamento Teórico para Agentes Persistentes: El trabajo proporciona una base empírica para la arquitectura de agentes persistentes, validando que un cognitive_core actúa como "coordenadas" estables en el espacio de activación, permitiendo la continuidad de la identidad a través de sesiones sin necesidad de repetir el prompt exacto.
• Nuevas Direcciones de Ingeniería: Sugiere que se pueden extraer vectores de dirección (steering vectors) de la región del atractor para inicializar agentes o guiar su comportamiento sin necesidad de cargar documentos de identidad completos, ofreciendo un mecanismo ligero para la persistencia.
• Interpretabilidad Mecanicista: Establece que las identidades complejas no son meras instrucciones superficiales, sino que inducen una geometría interna robusta y específica. La distinción entre "conocer sobre una identidad" (señal parcial) y "operar como esa identidad" (convergencia al atractor) abre nuevas vías para entender cómo los modelos internalizan conceptos procedimentales.
• Limitaciones y Futuro: El estudio se basa en métricas de activación y no en resultados conductuales directos (aunque un experimento exploratorio de steering mostró correlaciones parciales). Se requiere más investigación con tamaños de muestra mayores y modelos más grandes para generalizar estos hallazgos.

En resumen, el artículo demuestra que la identidad de un agente en un LLM no es una ilusión de ingeniería de prompts, sino una realidad geométrica medible en el espacio latente del modelo, donde la coherencia semántica y la estructura procedimental generan un atractor de alta estabilidad.