TriEx: A Game-based Tri-View Framework for Explaining Internal Reasoning in Multi-Agent LLMs

Resumo Técnico: TriEx

1. O Problema

A explicabilidade (XAI) para Agentes de Grandes Modelos de Linguagem (LLMs) em ambientes interativos e parcialmente observáveis representa um desafio significativo. Métodos existentes, como justificativas em linguagem natural post-hoc (ex: Chain of Thought) ou atribuição de características, foram desenvolvidos principalmente para tarefas de previsão estática de um único turno. Eles falham em capturar:

• A dinâmica de crenças dependente da interação.
• O raciocínio multiagente (como os agentes modelam os outros).
• A fidelidade entre o que o agente diz que está pensando, o que ele acredita sobre o oponente e o que ele realmente faz.

Observações empíricas recentes (como no AlphaArena) mostram que, mesmo com bom desempenho em benchmarks estáticos, LLMs em ambientes interativos exibem estratégias instáveis e explicações que divergem das decisões executadas, sugerindo racionalização post-hoc e falta de fidelidade.

2. Metodologia: O Framework Tri-View (TriEx)

O TriEx é um framework de explicabilidade de três perspectivas (tri-view) projetado para instrumentar a tomada de decisão sequencial em ambientes de jogo (especificamente Poker Texas Hold'em), transformando explicações de narrativas livres em objetos ancorados em evidências.

O framework registra um rastro de decisão estruturado em cada ponto de decisão, contendo três visões complementares que operam sobre os mesmos dados:

• Visão de Primeira Pessoa (Self-Reasoning):

  • Captura a auto-explicação do agente antes da execução da ação.
  • É forçada a ser estruturada, consistindo em uma narrativa breve e um registro JSON com "compromisso de ação" e "afirmações de estado de decisão" (ex: força da mão, atitude de risco).
  • Serve como uma hipótese testável sobre o processo de raciocínio interno.

• Visão de Segunda Pessoa (Opponent Beliefs):

  • Expõe os modelos internos do agente sobre os outros jogadores.
  • Mantém perfis explícitos de oponentes atualizados incrementalmente com base em observações (ex: agressividade, tolerância ao risco).
  • Permite analisar se as crenças sobre os oponentes são estáveis, fundamentadas em evidências e se influenciam causalmente as decisões.

• Visão de Terceira Pessoa (Oracle Audit):

  • Utiliza um "Oráculo" (um LLM ou verificador determinístico) para auditar a consistência entre as três visões e os sinais de referência objetivos do ambiente (ex: probabilidades de pote, equidade da mão).
  • O oráculo não é um modelo fixo, mas um papel assumido por diferentes LLMs para permitir comparação cruzada e mitigar vieses de avaliadores específicos.
  • Avalia a fidelidade das explicações, a coerência das crenças e a consistência das ações.

3. Contribuições Principais

1. Framework TriEx: Introdução de uma metodologia que integra auto-explicações estruturadas, perfis de oponentes explícitos e auditorias de terceira pessoa para analisar agentes interativos.
2. Testabilidade da Explicabilidade: O framework torna a explicabilidade testável através de verificações cruzadas (fidelidade da explicação vs. ação, sensibilidade causal das crenças, confiabilidade do avaliador).
3. Benchmarks e Análise: Uso de jogos de estratégia imperfeita (Poker) como ambiente de diagnóstico controlado para isolar fenômenos de interação e atualização de crenças.

4. Resultados Chave

Os experimentos envolveram múltiplos LLMs (OpenAI, DeepSeek, Google, Meta, etc.) jogando contra outros LLMs e agentes algorítmicos de referência.

• Degradação da Fidelidade (Visão 1): A fidelidade das auto-explicações degrada-se sistematicamente à medida que a complexidade da decisão aumenta.
  • No Preflop (informação limitada), as explicações são majoritariamente fiéis.
  • Nas fases pós-flop (Flop, Turn, River), há um aumento drástico na racionalização (explicações que contradizem a ação ou omitem crenças relevantes).
• Crenças de Segunda Pessoa (Visão 2):
  • Os agentes desenvolvem modelos internos estáveis sobre os oponentes.
  • Crenças ligadas a ações superficiais (ex: agressividade) convergem rapidamente entre modelos.
  • Crenças de alto nível (ex: tolerância ao risco) mostram divergência interpretativa entre modelos.
  • Sensibilidade Causal: Intervenções controladas nos vetores de crença (alterando numericamente a "agressividade" percebida) induzem mudanças direcionais consistentes no comportamento de decisão, provando que essas crenças não são apenas anotações, mas guiam a política do agente.
• Confiabilidade da Auditoria (Visão 3):
  • A confiabilidade da avaliação por LLMs depende do tipo de julgamento.
  • Julgamentos categóricos e baseados em ranking (ex: "o agente subestimou o risco") são robustos e consistentes entre diferentes oráculos.
  • Pontuações absolutas escalares são instáveis e dependem da calibração do modelo avaliador.
  • A auditoria é mais confiável em estados de decisão simples e degrada em cenários complexos ou de alta incerteza.

5. Significado e Implicações

O trabalho redefine a explicabilidade para agentes de LLM como uma propriedade dependente da interação, não capturável por traços de raciocínio isolados.

• Falhas como Dados: A degradação sistemática da fidelidade em cenários complexos não é apenas ruído, mas um sinal informativo sobre os limites representacionais dos modelos sob incerteza.
• Além da Introspecção: A explicabilidade em sistemas interativos deve ir além do que o agente diz (primeira pessoa) e incluir como ele modela os outros (segunda pessoa) e como isso se alinha com a realidade observável (terceira pessoa).
• Direção Futura: O estudo sugere que a avaliação de agentes deve focar em julgamentos comparativos e estruturados em vez de pontuações absolutas. O TriEx oferece um caminho para diagnósticos mais ricos, identificando se falhas ocorrem na modelagem de oponentes, na ancoragem de crenças ou na coerência da explicação.

Em suma, o TriEx fornece uma estrutura concreta para investigar a "caixa preta" de agentes de IA em ambientes sociais e estratégicos, revelando que a explicabilidade é um fenômeno relacional e dinâmico.