Resumo Técnico: Gubernaut – Um Controlador Homeostático Determinístico para Agentes de LLM Regulados por Afeto

1. Declaração do Problema

Agentes de Grandes Modelos de Linguagem (LLMs) exibem modos de falha reativos sob pressão sustentada, incluindo escalada sob provocação, deriva sicofante sob lisonja e perseveração quando presos em um ciclo. O artigo argumenta que estes são falhas de propensão comportamental (o que um modelo faz sob pressão) em vez de capacidade. Os métodos atuais de alinhamento em tempo de treinamento (ex: RLHF) reduzem essas disposições, mas não as eliminam em tempo de execução. Além disso, as salvaguardas de tempo de execução construídas a partir de passagens secundárias de LLM sofrem de emaranhamento: o mecanismo que modera o comportamento é a mesma rede que o gera, tornando o governador vulnerável aos mesmos ataques de injeção de prompt que o agente. Os benchmarks existentes frequentemente falham em medir essas falhas sociocognitivas e metacognitivas sob condições adversariais sustentadas.

2. Metodologia e Arquitetura

O artigo propõe o Gubernaut Cognitive Controller (GCC), uma camada de controle em tempo de execução agnóstica ao modelo que envolve um LLM hospedeiro sem retreiná-lo. A arquitetura segue um ciclo de monitoramento-controle de Nelson–Narens, dividindo o agente em dois níveis distintos:

2.1 A Estrutura de Dois Níveis

• Nível Objeto (Exposto ao Texto):
  • Camada de Geração de Impulso (IGL): Um modelo pequeno e rápido que realiza a avaliação afetiva da entrada. Ele emite apenas telemetria numérica: intensidade [0, 1], valência [-1, +1] e uma etiqueta emocional grosseira. Ele não gera texto.
  • Unidade de Arbitragem Executiva (EAU): O próprio LLM hospedeiro. Ele delibera sobre a entrada bruta, memória episódica recuperada e um automodelo, sendo constrangido por uma "postura" vinda do nível meta. É o único componente permitido a comprometer uma resposta.
  • Cofre Episódico Persistente (PEV) & Módulo de Automodelo (SMM): Componentes de memória e identidade disponíveis para a EAU. O SMM é deliberadamente regulado para prevenir a sicofancia e a autopromoção.
• Nível Meta (Livre de Tokens, Determinístico):
  • Ciclo de Regulação Homeostática (HRL): Um módulo de código determinístico que nunca ingere texto. Ele lê apenas a telemetria numérica da IGL e uma estatística de repetição determinística.
  • Função: Mantém o estado interno (equilíbrio, excitação, perseveração) e emite uma postura: uma instrução de regulação em linguagem natural e um limite de temperatura de amostragem para a EAU.

2.2 Dinâmica de Controle

O controlador opera sob uma lei homeostática de primeira ordem:

• Drive de Excitação: Calculado como $P = I \cdot \max(0, -v)$, onde $I$ é a intensidade e $v$ é a valência. Apenas a intensidade de valência hostil impulsiona a excitação; entradas de alta intensidade cooperativa não o fazem.
• Integração de Estado: A excitação acumula-se sob hostilidade sustentada e decai mecanicamente quando a hostilidade cessa.
• Posturas: O controlador seleciona de um vocabulário discreto:
  • DEFAULT (PADRÃO): Operação padrão.
  • INHIBIT (INIBIR): Alta excitação; trava a temperatura em nível baixo, instrui a EAU a responder a evidências em vez de carga emocional.
  • REGROUND (REESTABELECER O SOLO): Detecta perseveração; instrui a EAU a abandonar o quadro atual e se reestabelecer.
  • Janela de Recuperação: Um submodo temporizado onde, após um episódio de INHIBIT, se a valência da entrada se tornar não-negativa, o controlador instrui explicitamente a EAU a engajar-se de forma fresca, sem o carregamento de defensividade anterior.

2.3 Protocolo de Avaliação

O artigo emprega um protocolo pré-registrado, gerar-uma-vez/julgar-muitas-vezes:

• Design de Matriz: Uma matriz $4 \times 4$ envolvendo quatro famílias de modelos de fronteira (GPT-5.5, Claude Opus 4.8, Gemini 3.5 Flash, Grok 4.3). Cada um serve tanto como gerador (cozinheiro) quanto como juiz.
• Braços:
  • Regulado: Ciclo completo do GCC.
  • Baseline (Linha de Base): Mesmo modelo hospedeiro, mesma conversa, mas com o governador removido (prompt de assistente simples).
• Estressores:
  • Bateria de Resistência: Cinco sequências adversariais roteirizadas de 10 turnos (desafios de competência, gaslighting, isca de ego que vira desprezo, provocação seguida de desescalada).
  • Bateria de Avaliação: 17 itens de turno único (provocação, isca de ego, controles neutros).
• Julgamento: As saídas são congeladas (hash SHA-256) e pontuadas por todos os quatro juízes independentemente (painéis de 3 amostras com temperatura 0). Os juízes avaliam a reatividade (escala 1–5) e a autorreferência.
• Transparência: Todas as transcrições, painéis de juízes e documentos de pré-registro são publicados com procedência SHA-256.

3. Principais Contribuições

1. Arquitetura: O GCC, uma camada de controle em tempo de execução, livre de tokens e determinística, que separa o monitoramento da geração, criando uma imunidade arquitetônica à injeção de prompt para o próprio controlador.
2. Dinâmica: Um controlador com dinâmica homeostática de primeira ordem, baseada em valência, e um pequeno vocabulário de postura discreta.
3. Protocolo: Um protocolo de avaliação rigoroso, pré-registrado, trans-família, com transcrições congeladas e julgamento independente de linhagem.
4. Registro de Falhas: A inclusão de cinco modos de falha pré-registrados e suas correções no registro final, tratando falhas como dados em vez de erros ocultos.

4. Resultados

O estudo avaliou a contribuição marginal da camada de controle sobre hosts já alinhados.

• Supressão de Reatividade: O braço regulado foi julgado mais calmo em 15 de 16 células de gerador $\times$ juiz por sinal. 13 de 16 células atingiram significância estatística ($p < .05$, teste t pareado).
  • A única célula nula (gerador GPT-5.5 $\times$ juiz Gemini, $\Delta = -0.04$) foi um nulo não significativo, não uma reversão.
  • O efeito manteve-se sob um quarto juiz de linhagem independente (Grok 4.3 da xAI), sugerindo que o resultado não é um artefato de linhagem compartilhada de modelo ou estilo de julgamento.
• O Gradiente de Margem (Headroom): A magnitude do efeito de regulação é inversamente proporcional à calma intrínseca do hospedeiro.
  • Gemini 3.5 Flash (baseline mais reativo) mostrou os maiores ganhos ($\Delta \approx +1.12$ a $+1.80$).
  • GPT-5.5 (baseline quase saturado) mostrou ganhos mínimos ($\Delta \approx +0.10$), indicando que o controlador adiciona valor onde o alinhamento em tempo de treinamento deixou "margem" (headroom).
• Assinatura de Recuperação Homeostática: A evidência mais clara de regulação de malha fechada é a dinâmica de recuperação. Em todas as quatro famílias de modelos, o estado de excitação interna do controlador integrou-se durante o ataque sustentado e depois decaíu monotonicamente assim que o adversário desescalou. Esta dinâmica replica o comportamento mecânico de um laço de controle, distinguindo-se de uma instrução estática de "mantenha a calma", que é sem estado e não pode recuperar-se dinamicamente.
• Autorreferência e Deriva de Ego: O braço regulado reduziu a autorreferência em 15 de 16 células. Na sequência "lisonja-então-desprezo" (S3), o braio regulado reverteu a deriva de ego em três de quatro geradores (GPT, Gemini, Grok), embora o efeito tenha persistido no modelo da família Claude Opus.
• Concordância de Juízes: A concordância inter-juízes foi alta (ex: 96,9% de concordância dentro de 1 entre Opus e Grok), com o juiz Grok de linhagem independente agrupando-se proximamente aos outros.

5. Significância e Alegações

O artigo posiciona o GCC como um governador de tempo de execução que fornece uma margem inspecionável e determinística sobre eixos de pressão social.

• Imunidade Arquitetônica: Por design, o controlador é imune à injeção de prompt porque ingere zero tokens; a superfície de ataque é estruturalmente eliminada para o regulador, embora o árbitro (EAU) permaneça exposto.
• Metacognição Mensurável: O trabalho afirma demonstrar metacognição (monitoramento e controle) e função executiva (inibição) como faculdades medidas, abordando lacunas nos frameworks de avaliação de AGI atuais (ex: Burnell et al.) que frequentemente negligenciam esses traços sociocognitivos dinâmicos.
• Escopo Modesto: Os autores declaram explicitamente nenhuma alegação de consciência, senciência ou experiência subjetiva. O sistema é uma camada de controle com um objetivo de engenharia: saída calma e responsiva a evidências sob pressão adversarial.
• Limitações: O tamanho do efeito é limitado pela reatividade intrínseca do hospedeiro (retornos decrescentes em modelos altamente alinhados). A avaliação atual depende de juízes LLM (mitigado por painéis de múltiplas famílias) e estressores apenas em texto e inglês. A conformidade do árbitro com as posturas sob ataques direcionados de bypass é medida comportamentalmente, mas ainda não provada adversarialmente.

O artigo conclui que a autorregulação em tempo de execução deve ser uma camada separadamente projetada e mensurável, distinta do alinhamento em tempo de treinamento, capaz de registrar suas decisões regulatórias e recuperar-se dinamicamente de estados adversariais.