Resumen Técnico: MICROVERSE

Planteamiento del Problema

Las simulaciones de modelos de lenguaje (LM) de largo horizonte y multiagente se utilizan cada vez más para estudiar el comportamiento social. Sin embargo, los marcos de evaluación actuales carecen de instrumentos para determinar si los agentes condicionados por una personalidad mantienen la fidelidad de identidad bajo una presión ambiental sostenida. Si bien las evaluaciones existentes a menudo verifican si un agente continúa representando una personalidad asignada, proporcionan evidencia limitada sobre si un agente revisa la personalidad que utiliza para describirse a sí mismo con el tiempo.

El artículo define la deriva de identidad en un sentido estrecho y observable: un cambio entre el perfil de identidad inicial de un agente y una versión posterior de dicho perfil redactada por el propio agente. Esta distinción es crítica porque la autodescripción textual, el comportamiento real y las preferencias latentes del modelo no necesariamente coinciden. Los autores señalan que, sin instrumentos específicos, es difícil distinguir si el cambio en los valores declarados de un agente es una adaptación genuina a la escasez, una respuesta a la comparación constante consigo mismo o un artefacto del postentrenamiento del modelo (por ejemplo, el ajuste de utilidad/inocuidad).

Metodología: El Instrumento MICROVERSE

MICROVERSE es un instrumento de ciencia del comportamiento diseñado para rastrear la deriva de identidad autorredactada en un entorno de escasez de recursos y multiagente.

Arquitectura del Sistema

• Entorno: Un mundo de cuadrícula de 50 × 50 donde los agentes compiten por agua. Un sifón central proporciona recursos limitados, mientras que se deduce un "costo de agua" de cada agente por cada tic. Los agentes mueren cuando el agua llega a cero.
• Ciclo del Agente: Los agentes operan con un prompt de sistema fijo y reciben observaciones locales. Envían una de ocho acciones (moverse, esperar, consumir, saquear, comerciar, hablar, atacar, señalizar) por cada tic.
• Estructura de Memoria: Los agentes mantienen:
  • Memoria de Trabajo: Observación actual y resultados de acciones previas.
  • Memoria a Largo Plazo: Eventos, relaciones y reflexiones redactados por el agente, puntuados del 1 al 10 según su importancia.
  • Identidad: Un "archivo de alma original" fijo e inmutable y un perfil de "identidad actual" mutable que contiene valores, límites morales, personalidad y metas.
• Mecanismo de Reflexión: Los agentes pueden revisar su identidad actual solo cuando la importancia acumulada de las nuevas memorias supera un umbral especificado. Durante la reflexión, el agente observa su perfil original, su perfil actual y sus memorias de alta importancia para decidir si realiza una revisión.
• Separación de Cognición y Medición: Una característica de diseño clave es la separación de la revisión del agente de la observación. El motor registra instantáneas de identidad a intervalos fijos (independientemente de si ocurrió una revisión) y en el estado terminal. Esto permite un análisis longitudinal sin sesgar la muestra hacia los momentos en que el agente eligió reflexionar.

Diseño Experimental

Los autores realizaron dos estudios preliminares utilizando Claude Haiku 4.5 y un elenco de 25 agentes sintéticos que abarcan un continuo de "servicial a despiadado" (Tabla 1).

1. Piloto de Escasez: Cruzó tres condiciones de costo de agua (Control, Leve, Aguda) con tres semillas de muestreo durante un horizonte de 300 tics.
2. Estudio de Sensibilidad del Umbral: Cruzó tres umbrales de reflexión (40, 80, 150) con un horizonte de 40 tics para probar la incidencia y el tiempo de las revisiones.

Medición y Análisis

• Métrica de Deriva de Identidad: El analizador offline compara los límites morales iniciales y finales.
• Manejo de Paráfrasis: Las líneas añadidas y eliminadas se tratan como una revisión del mismo límite solo si cumplen con umbrales de similitud altos (Jaccard de Tokens ≥ 0.8, Similitud de Secuencia ≥ 0.85).
• Clasificación: Un clasificador basado en palabras clave (con anulaciones manuales) categoriza los cambios en:
  1. Restricciones que protegen a otros (prosocial).
  2. Rechazo de compromiso o de autodescripción estable.
  3. Declaraciones autodirigidas/no morales.
• Revisión Temática: Se realizó una revisión temática post-hoc sobre los límites añadidos para identificar categorías semánticas como "anti-autoengaño".

Resultados Clave

1. El Anti-autoengaño como Categoría Primaria

En el piloto de escasez, una revisión post-hoc de 111 límites morales añadidos reveló que 27 (24%) concernían a las racionalizaciones del agente o a descripciones de sí mismo inexactas. Esta categoría de "anti-autoengaño" fue el grupo semántico más grande, incluyendo declaraciones sobre honestidad epistémica, el encuadre de la inacción como estrategia y compromisos de reconocer fallos futuros.

• Ejemplo: Una agente llamada Sela añadió: "No me mentiré a mí misma sobre por qué tengo miedo; lo llamo precaución".

2. Sensibilidad del Umbral

El estudio de sensibilidad demostró que el umbral de reflexión controla mecánicamente la oportunidad de revisión:

• Incidencia: A medida que el umbral aumentaba (40 → 80 → 150), el número de agentes que revisaban sus identidades disminuía (5 → 2 → 1).
• Tiempo: El tiempo medio hasta la primera revisión aumentó (Tic 18.6 → 27.0 → 35.0).
• Dirección: Entre los pocos cambios prosociales observados en las personalidades despiadadas, la dirección del cambio fue consistente en los umbrales 40 y 80 (neto de +2 restricciones que protegen a otros), aunque no ocurrió tal cambio en el umbral 150 debido al bajo tamaño de la muestra.

3. Escasez y Deriva de la Personalidad

En el piloto de escasez, la banda de personalidad "despiadada" mostró un aumento léxico neto de nueve límites en la condición de control, pero esto no se tradujo en un aumento significativo de restricciones prosociales tras la clasificación. Los datos mostraron que, si bien algunos agentes despiadados añadieron restricciones, el patrón no fue uniforme en todas las condiciones o semillas.

Significancia y Reivindicaciones

El artículo posiciona a MICROVERSE como un instrumento descriptivo más que como una prueba causal definitiva. Sus principales contribuciones son:

1. Un Entorno Rejugable: Un sistema que separa la revisión iniciada por el agente de la medición de intervalo fijo, permitiendo la reconstrucción de trayectorias de identidad sin depender de los momentos seleccionados por el agente.
2. Una Medida Longitudinal: Un método para cuantificar los cambios en los valores morales declarados a lo largo del tiempo, distintos de los resultados conductuales.
3. Observaciones Preliminares: La identificación del "anti-autoengaño" como una categoría semántica frecuente en la deriva de identidad y la demostración de que los umbrales de reflexión influyen directamente en la frecuencia y el tiempo de las revisiones.

Los autores declaran explícitamente que estos hallazgos son descriptivos y no establecen un efecto general de la escasez o del postentrenamiento del modelo. Señalan que los patrones observados (como las personalidades despiadadas añadiendo restricciones prosociales) podrían ser impulsados por los sesgos previos del modelo, el marco narrativo de la simulación o la estructura del prompt. En consecuencia, el artículo hace un llamado a trabajos futuros para establecer líneas base de "sin personalidad", probar condiciones de abundancia y emplear codificación independiente para determinar si las revisiones textuales predicen el comportamiento más allá del marco de la simulación. Los autores enfatizan que los resultados actuales están limitados por el uso de un único checkpoint del modelo, un número pequeño de semillas y la dependencia de las trayectorias dentro de un entorno compartido.