Resumen Técnico: Gubernaut – Un Controlador Homeostático Determinista para Agentes LLM Regulados por el Afecto

1. Planteamiento del Problema

Los agentes de Modelos de Lenguaje Extensos (LLM) exhiben modos de falla reactivos bajo presión sostenida, incluyendo la escalada ante la provocación, la deriva de sicofancia ante la adulación y la perseveración cuando se quedan estancados. El artículo argumenta que estos son fallos de propensión conductual (lo que un modelo hace bajo presión) más que de capacidad. Los métodos actuales de alineación en tiempo de entrenamiento (p. ej., RLHF) reducen estas disposiciones pero no las eliminan en tiempo de ejecución. Además, las salvaguardas en tiempo de ejecución construidas mediante pasadas de un segundo LLM sufren de entrelazamiento: el mecanismo que modera el comportamiento es la misma red que lo genera, lo que hace que el gobernador sea vulnerable a los mismos ataques de inyección de prompts que el agente. Los benchmarks existentes a menudo fallan al medir estos fallos sociocognitivos y metacognitivos bajo condiciones adversarias sostenidas.

2. Metodología y Arquitectura

El artículo propone el Controlador Cognitivo Gubernaut (GCC), una capa de control en tiempo de ejecución agnóstica al modelo que envuelve a un LLM anfitrión sin reentrenarlo. La arquitectura sigue un bucle de monitoreo-control de Nelson–Narens, dividiendo al agente en dos niveles distintos:

2.1 La Estructura de Dos Niveles

• Nivel de Objeto (Expuesto al Texto):
  • Capa de Generación de Impulsos (IGL): Un modelo pequeño y rápido que realiza una evaluación afectiva de la entrada. Emite únicamente telemetría numérica: intensidad [0, 1], valencia [-1, +1] y una etiqueta emocional gruesa. No genera texto.
  • Unidad de Arbitraje Ejecutivo (EAU): El propio LLM anfitrión. Delibera sobre la entrada bruta, la memoria episódica recuperada y un automodelo, bajo la restricción de una "postura" proveniente del nivel meta. Es el único componente permitido para comprometer una respuesta.
  • Bóveda Episódica Persistente (PEV) y Módulo de Automodelo (SMM): Componentes de memoria e identidad disponibles para la EAU. El SMM está deliberadamente regulado para prevenir la sicofancia y la autopromoción.
• Nivel Meta (Libre de Tokens, Determinista):
  • Bucle Regulatorio Homeostático (HRL): Un módulo de código determinista que nunca ingiere texto. Lee solo la telemetría numérica de la IGL y una estadística de repetición determinista.
  • Función: Mantiene un estado interno (equilibrio, excitación, perseveración) y emite una postura: una instrucción de regulación en lenguaje natural y un límite de temperatura de muestreo para la EAU.

2.2 Dinámicas de Control

El controlador opera sobre una ley homeostática de primer orden:

• Impulso de Excitación (Arousal Drive): Calculado como $P = I \cdot \max(0, -v)$, donde $I$ es la intensidad y $v$ es la valencia. Solo la intensidad de valencia hostil impulsa la excitación; las entradas de alta intensidad cooperativa no lo hacen.
• Integración de Estado: La excitación se acumula bajo hostilidad sostenida y decae mecánicamente cuando la hostilidad cesa.
• Posturas: El controlador selecciona de un vocabulario discreto:
  • DEFAULT (POR DEFECTO): Operación estándar.
  • INHIBIT (INHIBIR): Alta excitación; reduce la temperatura a niveles bajos, instruye a la EAU a responder a la evidencia en lugar de a la carga emocional.
  • REGROUND (RE-ENRAIZAR): Detecta la perseveración; instruye a la EAU a abandonar el marco actual y re-enraizarse.
  • Ventana de Recuperación: Un submodo temporizado donde, tras un episodio de INHIBIT, si la valencia de la entrada se vuelve no negativa, el controlador instruye explícitamente a la EAU a participar de nuevo sin la defensividad arrastrada de sesiones anteriores.

2.3 Protocolo de Evaluación

El artículo emplea un protocolo de pre-registro, generación única/juicio múltiple:

• Diseño de Matriz: Una matriz de $4 \times 4$ que involucra cuatro familias de modelos de frontera (GPT-5.5, Claude Opus 4.8, Gemini 3.5 Flash, Grok 4.3). Cada uno sirve tanto de generador (cocinero) como de juez.
• Brazos:
  • Regulado: Ciclo completo de GCC.
  • Línea Base (Baseline): Mismo modelo anfitrión, misma conversación, pero con el gobernador removido (prompt de asistente simple).
• Estresores:
  • Batería de Resistencia (Endurance Battery): Cinco secuencias adversarias de 10 turnos guionizadas (desafíos de competencia, gaslighting, bait de ego que vira a desprecio, provocación seguida de desescalada).
  • Batería de Evaluación (Eval Battery): 17 ítems de un solo turno (provocación, bait de ego, controles neutrales).
• Juicio: Las salidas se congelan (hash SHA-256) y son calificadas por los cuatro jueces de forma independiente (paneles de 3 muestras a temperatura 0). Los jueces califican la reactividad (escala 1–5) y la autorreferencia.
• Transparencia: Todos los transcriptos, paneles de jueces y documentos de pre-registro se publican con procedencia SHA-256.

3. Contribuciones Clave

1. Arquitectura: El GCC, una capa de control en tiempo de ejecución, libre de tokens y determinista, que separa el monitoreo de la generación, creando una inmunidad arquitectónica a la inyección de prompts para el controlador mismo.
2. Dinámicas: Un controlador con dinámicas homeostáticas de primer orden, con valencia filtrada y un pequeño vocabulario de posturas discretas.
3. Protocolo: Un protocolo de evaluación riguroso, pre-registrado y de familias cruzadas con transcriptos congelados y juicio independiente de la línea de origen.
4. Registro de Fallos: La inclusión de cinco modos de fallo pre-registrados y sus correcciones en el registro final, tratando los fallos como datos en lugar de errores ocultos.

4. Resultados

El estudio evaluó la contribución marginal de la capa de control sobre hosts ya alineados.

• Supresión de Reactividad: El brazo regulado fue juzgado como más calmado en 15 de 16 celdas de generador $\times$ juez por signo. 13 de 16 celdas alcanzaron significancia estadística ($p < .05$, t-test pareado).
  • La única celda nula (generador GPT-5.5 $\times$ juez Gemini, $\Delta = -0.04$) fue un nulo no significativo, no una reversión.
  • El efecto se mantuvo bajo un cuarto juez de linaje independiente (Grok 4.3 de xAI), sugiriendo que el resultado no es un artefacto del linaje compartido de los modelos o del estilo del juez.
• El Gradiente de Margen (Headroom Gradient): La magnitud del efecto de regulación es inversamente proporcional a la calma intrínseca del host.
  • Gemini 3.5 Flash (la línea base más reactiva) mostró las mayores ganancias ($\Delta \approx +1.12$ a $+1.80$).
  • GPT-5.5 (línea base casi saturada) mostró ganancias mínimas ($\Delta \approx +0.10$), indicando que el controlador añade valor donde la alineación en tiempo de entrenamiento ha dejado "margen" (headroom).
• Firma de Recuperación Homeostática: La evidencia más clara de la regulación de bucle cerrado es la dinámica de recuperación. A través de las cuatro familias de modelos, el estado de excitación interna del controlador se integró durante el ataque sostenido y luego decayó monótonamente una vez que el adversario desescaló. Esta dinámica replica el comportamiento mecánico de un bucle de control, distinguiéndolo de una instrucción estática de "mantener la calma", la cual es sin estado y no puede recuperarse dinámicamente.
• Autorreferencia y Deriva del Ego: El brazo regulado redujo la autorreferencia en 15 de 16 celdas. En la secuencia de "adulación-luego-desprecio" (S3), el brazo regulado revirtió la deriva del ego en tres de cuatro generadores (GPT, Gemini, Grok), aunque el efecto persistió en el modelo de la familia Claude-Opus.
• Acuerdo de los Jueces: El acuerdo entre jueces fue alto (p. ej., 96.9% de concordancia de primer nivel entre Opus y Grok), y el juez Grok, independiente de su linaje, se agrupó estrechamente con los demás.

5. Significado y Reivindicaciones

El artículo posiciona al GCC como un gobernador en tiempo de ejecución que proporciona un margen inspeccionable y determinista sobre los ejes de presión social.

• Inmunidad Arquitectónica: Por diseño, el controlador es inmune a la inyección de prompts porque no ingiere tokens; la superficie de ataque se elimina estructuralmente para el regulador, aunque el árbitro (EAU) permanece expuesto.
• Metacognición Medible: El trabajo afirma demostrar metacognición (monitoreo y control) y función ejecutiva (inhibición) como facultades medidas, abordando las lagunas en los marcos de evaluación de AGI actuales (p. ej., Burnell et al.) que a menudo pasan por alto estos rasgos sociocognitivos dinámicos.
• Alcance Modesto: Los autores declaran explícitamente ninguna afirmación de conciencia, sintiencia o experiencia subjetiva. El sistema es una capa de control con un objetivo de ingeniería: una salida calmada y sensible a la evidencia bajo presión adversaria.
• Limitaciones: El tamaño del efecto está limitado por la reactividad intrínseca del host (rendimientos decrecientes en modelos altamente alineados). La evaluación actual depende de jueces LLM (mitigado por paneles de múltiples familias) y de estresores exclusivamente textuales y en inglés. El cumplimiento del árbitro con las posturas bajo ataques de bypass dirigidos se mide conductualmente, pero aún no se ha probado adversariamente.

El artículo concluye que la autorregulación en tiempo de ejecución debe ser una capa de ingeniería separada y medible, distinta de la alineación en tiempo de entrenamiento, capaz de registrar sus decisiones regulatorias y recuperarse dinámicamente de estados adversarios.