Unpredictability dissociates from structured control in language agents

Resumo Técnico: A Imprevisibilidade Dissocia-se do Controle Estruturado em Agentes de Linguagem

Declaração do Problema
O artigo aborda uma confluência fundamental na avaliação de agentes de linguagem: a suposição de que a imprevisibilidade comportamental (dispersão estocástica) é sinônimo de controle estruturado. Embora um sistema possa ser difícil de prever devido a amostragem ampla, ruído ou um grande espaço de saída, isso não implica necessariamente que ele possua representações relevantes para objetivos, mecanismos inibitórios ou seleção de ação sensível ao contexto. O estudo investiga se a amostragem estocástica pode substituir mecanismos estruturados explícitos — especificamente aqueles que acoplam razões, memória, estado próprio e inibição (veto) à seleção de ação — em uma implementação de agente de linguagem onde esses componentes podem ser desabilitados seletivamente (lesionados).

Metodologia
A pesquisa emprega uma família de agentes de linguagem "lesionável" projetada para isolar componentes de controle específicos. O desenho experimental estrutura-se em torno de três eixos evidenciais:

1. Dispersão Estocástica: Medir se o aumento da estocasticidade (via amostragem de alta temperatura e desabilitação de módulos de controle) aumenta a imprevisibilidade da ação.
2. Acoplamento Rastreamento-Ação: Avaliar se as razões relatadas, memória, estado próprio e informações de veto permanecem acopladas à ação final, distintos de meramente estarem presentes no formato de saída.
3. Responsividade Comportamental à Ação: Testar se códigos de ação finitos mudam em direções esperadas sob sondas contrafactuais e lesões direcionadas, independentemente da redação livre do rastreamento.

Configuração Experimental:

• Variantes: O estudo compara uma Variante de Controle Estruturado (A4), que habilita ramificação, estado próprio, memória, grafo de razões e veto, contra um Comparador de Alta Estocasticidade (A5), que desabilita os módulos de controle e aumenta a temperatura de amostragem. Lesões direcionadas (A4_no_reason, A4_no_veto) removem seletivamente componentes específicos.
• Controles: O estudo inclui controles de interface correspondida (pós-hoc, embaralhados, aleatórios e de verbosidade) que utilizam o mesmo esquema de relatórios para descartar a disponibilidade de formato como fator de confusão. Também testa alternativas estocásticas fortes (calibração de temperatura mais baixa, amostradores correspondidos em computação, autoconsistência) e estende-se a modelos de pesos abertos (Qwen2.5 7B/14B/32B, Mistral-7B) e APIs externas.
• Métricas:
  • Entropia de Ação: Entropia de Shannon sobre strings de ação final para medir imprevisibilidade.
  • Índice de Acoplamento Campo-Ação (AFCI): Uma pontuação composta que mede o alinhamento de razões, memória, veto e estado próprio com a ação final.
  • Benchmarks de Código de Ação Finito: Um teste independente de formato onde ações finais são mapeadas para uma ontologia de seis códigos (ex: ACTION_A, VETO, DEFER). Pontuações (BRSI, BMCI, BVEI, BSCI) medem a responsividade a sondas específicas, ignorando a redação livre do rastreamento.
• Escala: A matriz de lesão de base compreende 74.352 chamadas em sete conjuntos de dados. Controles de interface correspondida abrangem 26.946 gerações. O benchmark de código de ação finito inclui 57.816 registros pontuados. Execuções de pesos abertos cobrem 126.000 gerações por modelo em 20 famílias de tarefas.

Principais Resultados

1. Dissociação de Imprevisibilidade e Controle: Na matriz de lesão de base (7/7 conjuntos de dados), o comparador de alta estocasticidade foi significativamente mais imprevisível que a variante de controle estruturado. No entanto, essa dispersão aumentada não reproduziu o perfil de controle estruturado. A remoção de componentes de razão ou veto (lesões) reduziu especificamente as métricas esperadas de controle estruturado em todos os 7 conjuntos de dados, confirmando que o perfil estruturado depende desses mecanismos específicos.
2. Acoplamento vs. Formato: O agente estruturado manteve um Índice de Acoplamento Campo-Ação (AFCI) significativamente maior que todos os controles estocásticos, pós-hoc, embaralhados e de verbosidade em todos os conjuntos de dados. O limite inferior de bootstrap de 95% para a diferença do AFCI foi de 0,4519, indicando que o acoplamento não é meramente um artefato do formato de relatório.
3. Responsividade Comportamental: No benchmark de código de ação finito, a variante de controle estruturado superou o comparador de alta estocasticidade e as lesões direcionadas em 7/7 conjuntos de dados para todos os componentes comportamentais predefinidos (razão, memória, veto, continuidade própria). O limite inferior de bootstrap do cluster de conjuntos de dados foi de 0,8557.
4. Robustez e Generalização:
   • Substituição Estocástica: Controles estocásticos mais fortes (incluindo tentativas correspondidas em entropia) falharam em recuperar o perfil de controle estruturado. Nenhum candidato de calibração satisfez o critério pré-definido de proximidade de entropia de quatro níveis (limiar 0,15).
   • Generalização do Modelo: A dissociação manteve-se nas famílias Qwen2.5 (7B, 14B, 32B) e Mistral-7B. A precisão estruturada superou os controles correspondidos em distribuição e contexto embaralhado em 236/240, 240/240 e 238/240 células, respectivamente.
   • Auditoria Cega: Uma auditoria cega de três anotadores sobre 1.200 itens mostrou alta concordância (kappa de Cohen par médio = 0,961), validando a pontuação das dimensões de controle.
5. Limitações: O estudo nota explicitamente que o correspondimento estrito de entropia e o correspondimento estrito de tokens/computação não atenderam às suas portas pré-definidas. Consequentemente, a conclusão é limitada aos controles correspondidos testados e não afirma que nenhum comparador estocástico perfeitamente calibrado em entropia poderia jamais ter sucesso. Da mesma forma, o teste de estresse formal de inversão contrafactual não atingiu sua porta de 90% de seguimento de inversão.

Significância e Afirmações
O artigo afirma fornecer uma dissociação controlada entre imprevisibilidade e controle estruturado dentro de uma família específica de agentes de linguagem. Sua contribuição primária é demonstrar que a imprevisibilidade estocástica não reproduz controle estruturado e acoplado à ação quando este último é definido pelo acoplamento de razões, memória, estado próprio e veto à seleção de ação.

O estudo argumenta que variabilidade, texto reflexivo e controle de ação são facilmente confundidos na avaliação de agentes. Um modelo pode produzir respostas diversas ou racionalizações plausíveis pós-hoc sem realmente acoplá-las à seleção de ação ou respeitar a inibição. Ao usar uma arquitetura lesionável e benchmarks comportamentais independentes de formato, o artigo estabelece que o "perfil de controle estruturado" é uma propriedade operacional distinta que a amostragem estocástica sozinha não pode substituir.

As descobertas são modestamente limitadas à família de agentes testada, prompts e protocolos de rastreamento/ação medidos. Os autores não afirmam ter provado uma lei universal de agência, mas sim ter separado experimentalmente dois modos operacionais distintos nos sistemas avaliados. O trabalho serve como um alerta contra equiparar espontaneidade ou alta entropia com controle instrumental ou agência orientada a objetivos em agentes de linguagem.