Resumo Técnico: Rastreando a Falha Agêntica a partir do Fluxo de Sucesso

Declaração do Problema

O artigo aborda a atribuição de falhas em sistemas agênticos baseados em LLM: a tarefa de identificar quais etapas específicas em uma trajetória de falha causaram a falha do sistema. As abordagens existentes dependem de:

1. Pipelines baseados em prompting: Utilizar LLMs de fronteira para analisar trajetórias, o que acarreta altos custos de tokens e latência.
2. Aprendizado supervisionado: Treinar modelos em trajetórias de falha com anotações de erro ao nível de etapa. Isso é difícil de escalar devido à dificuldade de coletar rótulos de alta qualidade e inequívocos ao nível de etapa.

Os autores propõem um novo cenário de problema: Atribuição de Falha Não Supervisionada. O objetivo é treinar um modelo exclusivamente em trajetórias bem-sucedidas (que são fáceis de coletar como subprodutos da operação normal) e usá-lo para identificar etapas de erro em trajetórias de falha durante a inferência, sem qualquer supervisão ao nível de etapa em dados de falha.

Metodologia: OAT (One-class Agent Tracing)

Os autores propõem o OAT, um modelo leve que enquadra a atribuição de falha como um problema de aprendizado de uma única classe (one-class learning) no espaço de representação latente de um LLM.

1. Representação Latente

Para uma trajetória $\tau = (Q, a_1, s_1, \dots, a_T)$, cada etapa $t$ é representada por um vetor latente $h_t$ extraído dos estados ocultos do agente LLM gerando a ação $a_t$. A consulta $Q$ também é representada como $h_Q$.

2. Modelagem de Trajetória Contínua via Neural CDEs

Em vez de tratar as etapas como eventos discretos (como em RNNs ou Transformers), o OAT modela a trajetória como um caminho latente contínuo.

• Equações Diferenciais Controladas Neurais (Neural CDEs): O modelo trata a sequência de representações das etapas como observações amostradas irregularmente de uma função contínua subjacente. Uma Neural CDE aprende a dinâmica de trajetórias bem-sucedidas condicionando a evolução do estado latente ao caminho da trajetória observada $X(u)$.
• Caminho de Controle com Gating (Gated Control Path): Para lidar com entradas fora da distribuição (OOD), onde os sinais de controle (derivadas da trajetória) podem ser espúrios, o OAT introduz uma função de gating. Esta função suprime adaptativamente sinais de controle que se desviam significativamente da distribuição de treinamento, melhorando a robustez sem sacrificar a expressividade dentro do domínio.

3. Detecção de Anomalias

Durante a inferência, dada uma trajetória de falha:

• O modelo prevê o estado latente esperado $\hat{h}(u_t)$ para cada etapa com base na dinâmica aprendida de trajetórias bem-sucedidas.
• Um score de anomalia $e_t$ é calculado como o erro de reconstrução quadrático: $e_t = \|h'_t - \hat{h}(u_t)\|^2_2$.
• Estratégias de Detecção:
  • Top-k: Seleciona as $k$ etapas com os maiores scores de anomalia.
  • Predição Conformal (CP): Utiliza um conjunto de calibração de trajetórias bem-sucedidas para definir um limiar $\delta$ que controla a taxa de falsos positivos, sinalizando etapas onde $e_t > \delta$.

Principais Contribuições

1. Formulação do Problema: Introduziu a Atribuição de Falha Não Supervisionada, eliminando a necessidade de anotações custosas ao nível de etapa em dados de falha ao treinar apenas em trajetórias bem-sucedidas.
2. Arquitetura do Modelo (OAT): Propôs uma abordagem de aprendizado de uma única classe em tempo contínuo usando Neural CDEs com um novo caminho de controle com gating para modelar a dinâmica do agente e detectar desvios localizados.
3. Validação Empírica: Demonstrou que o OAT supera os baselines baseados em prompting (incluindo GPT-4o e GPT-5) tanto em cenários in-domain quanto OOD, sendo significativamente mais rápido e barato.

Resultados Experimentais

O modelo foi treinado em 100 trajetórias bem-sucedidas do dataset MCP-Atlas e avaliado em trajetórias de falha do MCP-Atlas (in-domain) e Who&When (OOD).

• Desempenho:
  • In-domain (MCP-Atlas): O OAT superou os baselines baseados em prompting em +20% de F1 score e +10% de AUPRC.
  • Fora da Distribuição (Who&When): O OAT superou os baselines em +7% de F1 score e +5% de AUPRC, apesar das diferenças estruturais e de modelo significativas entre os datasets de treinamento e teste.
• Eficiência:
  • O OAT requer custo zero de tokens durante a inferência.
  • É 200–5000× mais rápido que as abordagens baseadas em prompting (latência de ~7ms vs. ~4000ms+).
  • Pode ser implantado com menos de 1 GB de VRAM.
• Estudos de Ablação:
  • Neural CDE vs. ODE: As CDEs superaram significativamente as Neural ODEs, confirmando a importância de condicionar nas etapas observadas da trajetória.
  • Gating: O caminho de controle com gating melhorou significativamente o desempenho OOD (+0.172 AUROC) com um trade-off mínimo no desempenho in-domain.
  • Seleção de Camada: Representações das camadas posteriores do LLM forneceram sinais mais fortes para detecção de anomalias do que as camadas iniciais.

Significância e Alegações

O artigo afirma que o OAT oferece uma direção prática, eficiente e eficaz para diagnosticar falhas de sistemas agênticos. Ao mudar do aprendizado supervisionado de falhas para o aprendizado não supervisionado de sucesso, a abordagem remove o gargalo de anotação. Os autores enfatizam que seu método torna a atribuição de falha em tempo real prática pela primeira vez, permitindo a implantação de ferramentas de diagnóstico em configurações de alto risco (ex: codificação, pesquisa científica) sem os custos proibitivos de executar LLMs de fronteira para cada consulta de diagnóstico. O trabalho sugere que o "fluxo de sucesso" contém sinal suficiente para identificar e localizar o "fluxo de falha".