Resumo Técnico: Planejamento de Linguagem Iterativo Aterrado (GILP)

1. Definição do Problema

O artigo aborda o desafio da propagação de alucinação em tarefas de planejamento de longo horizonte realizadas por agentes de Grandes Modelos de Linguagem (LLMs). No planejamento baseado em agentes padrão (ex: ReAct, Chain-of-Thought), o LLM atua tanto como o planejador quanto como o modelo de mundo baseado em agente. Ele gera uma ação e, simultaneamente, prevê o próximo estado (um "delta") em linguagem natural ou JSON estruturado.

O problema central é que os erros nessas previsões de estado são alucinações semânticas (ex: alegar que uma tarefa foi concluída quando não foi, ou ignorar uma dependência). Diferente de modelos parametrizados, esses erros não são facilmente quantificáveis por métricas de regressão padrão (como MSE). Uma vez que um átomo de estado alucinado entra na janela de contexto, ele se propaga através dos passos subsequentes, causando uma cascata de ações inválidas e falha na tarefa. O artigo observa que, embora os modelos baseados em agentes se destaquem no raciocínio semântico, suas taxas de erro aumentam significativamente ao longo de horizontes longos (atingindo uma probabilidade de erro por passo de 0,393 no passo 10 nos experimentos).

Por outro lado, modelos de mundo parametrizados (preditores de transição treinados) oferecem métricas de erro supervisionadas mensuráveis (NodeMSE, acurácia de delta), mas frequentemente carecem da flexibilidade semântica para raciocinar sobre objetivos complexos e novos, resultando em taxas de sucesso isoladas menores.

2. Metodologia: Planejamento de Linguagem Iterativo Aterrado (GILP)

O GILP é uma arquitetura híbrida projetada para combinar o raciocínio semântico de agentes de API baseados em LLM com os sinais de transição mensuráveis de um pequeno núcleo (backbone) parametrizado e treinado. O sistema opera em um loop iterativo com quatro fases distintas:

Fase 1: Pontuação de Esqueleto Parametrizado

Uma pequena rede neural treinada (o "backbone", tipicamente uma Rede Neural de Grafos ou MLP) recebe o estado atual $G_t$ e as ações candidatas $A_t$. Ela prevê:

• Validade da ação ($p_{valid}$)
• Deltas de estado ($\hat{\Delta}G$)
• Risco ($\hat{\rho}$)
• Valor ($\hat{U}$)
• Probabilidade de conclusão ($\hat{p}_{done}$)

O backbone comprime o conjunto de ações candidatas em um "esqueleto" (as top-$k$ ações por valor e risco) para reduzir a sobrecarga da janela de contexto.

Fase 2: Rascunho do LLM

O agente LLM recebe o estado serializado, o objetivo e o esqueleto da Fase 1. Ele redige uma ação e um delta de próximo estado imaginado ($\tilde{\Delta}_t$) em JSON estruturado. Esta fase aproveita as capacidades de raciocínio do LLM.

Fase 3: Portão de Consistência e Re-prompt Corretivo

Este é o mecanismo central para a redução de alucinação. O sistema compara o delta imaginado pelo LLM ($\tilde{\Delta}_t$) com o delta previsto pelo backbone ($\hat{\Delta}G$) usando a similaridade de Jaccard no conjunto de nós alterados.

• Alta Consistência ($\ge 0,70$): A ação é aceita.
• Consistência Média ($0,30 \le cons < 0,70$): A ação é aceita, mas penalizada no ranking.
• Baixa Consistência ($< 0,30$): Um re-prompt corretivo é acionado. O sistema envia uma mensagem direcionada ao LLM listando explicitamente os nós onde o backbone e o LLM divergem (ex: "Nó X: o backbone prevê pendente, você imaginou concluído"). O LLM é solicitado a revisar sua ação ou o delta de estado. Esta correção é limitada a uma revisão por passo para conter custos.

Fase 4: Portão de Risco

Se o risco previsto pelo backbone para a ação escolhida exceder um limiar ($\rho_{th} = 0,65$), uma terceira chamada de LLM é acionada para alertar o agente e restringir o espaço de ações a opções de baixo risco, evitando falhas catastróficas (ex: tentar novamente uma tarefa com uma causa raiz não resolvida).

3. Principais Contribuições

1. Estrutura Comparativa: O artigo enquadra o planejamento de longo horizonte como um compromisso entre duas famílias de modelos de mundo: modelos baseados em agentes, flexíveis mas propensos a alucinações, e modelos parametrizados, mensuráveis mas semanticamente mais fracos.
2. Métricas de Alucinação Operacionais: Define métricas específicas para erros de agentes que vão além das funções de perda padrão:
   • Taxa de Estado Alucinado (HSR): A fração de átomos de estado imaginados que divergem da verdade fundamental (ground truth).
   • Profundidade de Propagação (PD): O número médio de passos subsequentes condicionados a um átomo alucinado.
   • Inclinação de Explosão de Erro (EES): A taxa na qual os erros se acumulam ao longo do tempo.
3. Arquitetura GILP: A introdução de um sistema híbrido que utiliza um pequeno backbone treinado não para resolver a tarefa, mas para fornecer um "sinal de aterramento" (validade, delta, risco) para corrigir as previsões de estado do LLM via portão de consistência.
4. Validação Empírica: Avaliação extensa através de quatro benchmarks estruturados em grafos (TaskGraph, ToolChain, ResourceAlloc, RepairFlow) e chamadas de API do mundo real (GPT-4o-mini).

4. Resultados Experimentais

Os resultados derivam de um simulador comportamental calibrado (validado contra execuções reais do GPT-4o-mini) e testes diretos de API.

• Taxa de Sucesso (SR): O GILP alcança uma taxa de sucesso de 0,838 nos benchmarks agrupados, superando significativamente o melhor baseline de apenas agente (Agent-Replan com 0,668) e os planejadores de apenas parâmetros (0,565–0,625).
• Redução de Alucinação:
  • Simulador: A HSR cai de 0,205 (Agent-Replan) para 0,079 (GILP).
  • API Real (GPT-4o-mini): A HSR cai de 0,176 para 0,035 (uma redução relativa de 80%).
• Desempenho de Longo Horizonte: Para tarefas com horizontes $H > 10$, a taxa de sucesso do agente sozinho colapsa para 0,471, enquanto o GILP mantém 0,758.
• Eficiência de Custo: O GILP adiciona aproximadamente 22% de chamadas extras de LLM por passo (devido a correções ocasionais e portões de risco), mas reduz o total de tokens necessários por tarefa resolvida em comparação com agentes não corrigidos, pois resolve mais episódios.
• Força do Backbone: O backbone parametrizado não precisa ser um planejador forte. Mesmo um MLP fraco (SR isolado de 0,509) melhora significativamente o sistema híbrido (SR 0,768) quando usado como sinal de aterramento.
• Robustez Multi-API: O GILP equaliza o desempenho entre diferentes APIs de LLM (GPT-4o-mini, Claude-3-Haiku, Gemini-1.5-Flash, Llama-3-8B), reduzindo a variância da HSR e tornando modelos de código aberto competitivos com os proprietários quando aterrados.

5. Significância e Alegações

O artigo alega que a principal contribuição não é a superioridade do modelo parametrizado, mas a divisão de trabalho que ele permite. O agente retém seu raciocínio semântico e flexibilidade, enquanto o backbone parametrizado fornece um sinal "barato, mensurável e auditável" para detectar e corrigir alucinações de estado.

Os autores enfatizam que:

• A alucinação é um problema de propagação: Um único token falso pode invalidar toda uma trajetória; o GILP interrompe essa cascata.
• Treinamento pequeno é suficiente: Um backbone pequeno e treinado é suficiente para aterrar um agente baseado em API; ele não precisa substituir as capacidades de raciocínio do agente.
• A correção direcionada é eficiente: O portão de consistência só aciona re-prompts quando necessário (aprox. 22% dos passos), evitando o alto custo de verificar cada passo com um modelo grande.

O artigo conclui que o GILP oferece um caminho prático para reduzir a alucinação em agentes autônomos sem sacrificar as capacidades de raciocínio dos grandes modelos de linguagem, alcançando altas taxas de sucesso com apenas um aumento marginal no custo computacional.