Resumo Técnico: Deliberação de Multi-Agentes LLM com Orçamento de Agir-ou-Adiar e Limites de Confiabilidade Local

1. Definição do Problema

O artigo aborda o desafio de implantação de sistemas de deliberação de múltiplos agentes de Grandes Modelos de Linguagem (LLMs). Embora os debates multi-agentes melhorem as capacidades de raciocínio, a implantação prática exige um mecanismo principiológico para decidir quando o sistema deve agir autonomamente e quando deve adiar para revisão humana. As abordagens existentes dependem tipicamente de rodadas de parada fixas com garantias de cobertura marginais (ex: predição conformal dividida/split conformal prediction) ou limiares de consenso heurísticos que carecem de controle explícito sobre a probabilidade de ações incorretas.

O problema central é formulado como tomada de decisão orçada de agir-ou-adiar: dado um "orçamento de ação errada" ($\beta$) especificado pelo usuário, o sistema deve determinar uma regra de parada $\tau$ tal que a probabilidade de agir sobre uma resposta incorreta seja limitada por $\beta$, enquanto maximiza a taxa de ação autônoma (automação). Isso requer limites de confiabilidade locais, por instância e por rodada, que se adaptem ao estado local do debate.

2. Metodologia

O método proposto constrói limites inferiores locais de confiança na probabilidade de correção usando uma abordagem de $k$-vizinhos mais próximos ($k$-NN) em um espaço métrico de estados de debate.

2.1 Representação de Estado e Calibração

• Representação de Estado (Embedding): Em cada rodada $t$, o histórico do debate (filtração $F_t$) é comprimido em um estado de baixa dimensão $U_t = \phi_t(F_t)$ em um espaço métrico $(\mathcal{U}, d)$. O estado padrão consiste na probabilidade social principal ($p^{(1)}_t$) e na margem ($\Delta_t$) entre as duas principais opções.
• Calibração: Um conjunto de dados de calibração $D_{cal}$ é utilizado onde debates completos são executados. Para cada instância e rodada, o estado $U_{i,t}$ e o indicador de correção $Z_{i,t}$ são registrados. Os dados são divididos em um conjunto de estimativa de módulo ($D_{mod}$) e um conjunto de consulta ($D_{loc}$).

2.2 Construção do Limite Inferior

Para uma instância de teste na rodada $t$ com estado $U_t$, o método calcula um limite inferior $L_t$ na correção local $q_t(U_t) = \Pr(Y = \hat{Y}_t | U_t = u)$.

1. Consulta $k$-NN: Para uma família de tamanhos de vizinhança $K$, o método identifica os $k$ vizinhos mais próximos em $D_{loc}$.
2. Correção de Viés-Variância: A média empírica bruta de correção na vizinhança é penalizada por dois termos:
   • Envelope de Viés Local ($b_{t,k}$): Uma interface de plug-in que controla o erro de aproximação dentro da vizinhança. O artigo utiliza um módulo empírico (ajustado via GAM logístico em $D_{mod}$) como padrão, que mede a variação máxima de um suavizador piloto dentro de um raio.
   • Variância de Amostragem: Um termo de concentração de Hoeffding $\sqrt{\frac{\log(T|K|/\delta)}{2k}}$.
3. Seleção Adaptativa: O limite final é o máximo sobre todos os $k \in K$:
   $$L_t = \max_{k \in K} \left[ \hat{q}_{t,k}(U_t) - b_{t,k}(U_t) - \sqrt{\frac{\log(T|K|/\delta)}{2k}} \right]$$
   Isso permite que cada instância selecione automaticamente o $k$ que oferece o melhor compromisso entre viés e variância.

2.3 Decomposição de Orçamento e Regra de Parada

O usuário especifica um orçamento total de ação errada $\beta$. O método decompõe este orçamento em três componentes:
$$\beta = \underbrace{\delta}_{\text{Falha de Calibração}} + \underbrace{\alpha}_{\text{Risco Residual de Ação}} + \underbrace{\epsilon_{act}}_{\text{Lacuna de Representação}}$$

• $\delta$: Controla a probabilidade de o limite inferior $L_t$ exceder a correção real (falha de calibração).
• $\alpha$: O risco residual quando o sistema age. O limiar de parada é definido como $1 - \alpha$, onde $\alpha = \beta - \delta - \epsilon_{act}$.
• $\epsilon_{act}$: Um limite unilateral para a "lacuna de representação", contabilizando a informação perdida ao comprimir o histórico completo do debate $F_t$ no estado $U_t$.

Regra de Parada: O sistema age na rodada $\tau = \inf \{ t \le T : L_t \ge 1 - \alpha \}$. Se o limite nunca for atingido até a rodada $T$, a instância é adiada para revisão humana.

2.4 Implantação de Risco Relativo

Para lidar com tarefas de diferentes dificuldades, o artigo introduz uma política de implantação de risco relativo. Em vez de fixar um $\beta$ absoluto em todas as tarefas, o orçamento é induzido pelo erro da rodada final ($\hat{e}_T$) da tarefa nos dados de treinamento: $\beta_d = \lambda \cdot \hat{e}_T$. O multiplicador $\lambda$ é selecionado no conjunto de divisão de treinamento para maximizar a automação enquanto mantém o uso do orçamento normalizado ($WA/\beta$) abaixo de um alvo (ex: 0,10).

3. Principais Contribuições

1. Formalização da Parada Adaptativa: O artigo formaliza a parada de deliberação multi-agente como um problema de controle de risco condicional ao estado local com uma decomposição de orçamento de três vias ($\beta = \delta + \alpha + \epsilon_{act}$).
2. Interface de Envelope de Viés Local: Introduz um envelope de viés de plug-in genérico $b_{t,k}(u)$ (com casos especiais de Lipschitz, Hölder e módulo empírico) para controlar o erro de aproximação local, provando a validade simultânea dos limites inferiores.
3. Garantias Condicionais com Suposições Explícitas: Ao contrário de métodos sem distribuição (distribution-free), a garantia é condicional a suposições locais auditáveis (validade do envelope de viés e a lacuna de representação da região de ação). O custo da falha das suposições é explicitamente adicionado ao limite de risco via Proposição 4.
4. Implantação de Risco Relativo: O método converte um orçamento de ação errada declarado pelo usuário em um ponto operacional prospectivo e auditável, usando dados de treinamento para normalizar orçamentos entre tarefas de diferentes dificuldades.
5. Validação Empírica: Experimentos em seis benchmarks (MMLU-Pro, LogiQA, ARC, BBH, MuSR, GPQA) contra nove linhas de base demonstram que o método utiliza apenas 9–12% do orçamento pré-declarado nos conjuntos de dados ativados, alcançando alta automação (até 84%) e precisão de ação (até 96%). Em conjuntos de dados de teste de estresse (GPQA, MuSR), o método adia corretamente em vez de forçar uma automação não confiável.

4. Resultados

• Conjuntos de Dados Ativados: No MMLU-Pro, BBH, LogiQA e ARC, o método atinge taxas de automação entre 28% e 84% com precisões de ação de 89%–97%. Crucialmente, a taxa de ação errada ($WA$) consome apenas 9–12% do orçamento pré-declarado ($WA/\beta \in [0,09, 0,12]$).
• Conjuntos de Dados de Teste de Estresse: No GPQA e MuSR (caracterizados por pequenos tamanhos de amostra e alto erro base), os orçamentos induzidos são grandes, mas o método adia a maioria das instâncias (0%–53% de automação) porque os limites inferiores locais não ultrapassam o limiar. Isso é apresentado como o comportamento pretendido para evitar automação não confiável.
• Comparação com Linhas de Base:
  • Linhas de Base de Controle de Risco (CRC, Predição Seletiva): Estes métodos alcançam quase 100% de automação, mas consomem 18–82% do mesmo orçamento, indicando que não conseguem converter um orçamento declarado em um nível de automação específico sem ajuste por tarefa.
  • Comparação de Automação Correspondente: Quando as linhas de base são ajustadas post-hoc para igualar a taxa de automação do método proposto, sua precisão de ação e uso de orçamento são estatisticamente indistinguíveis. O artigo argumenta que o valor do método proposto reside na construção de uma política prospectiva a partir de um orçamento declarado, sem necessidade de busca de limiar por tarefa.
• Ablações: Remover o envelope de viés ($b_{t,k}$) leva a um aumento de 2–3× no uso do orçamento. Usar apenas a rodada final (sem parada adaptativa) elimina as economias de parada antecipada.

5. Significância e Alegações

O artigo afirma que sua principal contribuição não é alcançar uma qualidade de subconjunto superior a limiares escalares ajustados (o que ele iguala em testes de automação correspondente), mas sim fornecer um framework prospectivo e auditável para converter um orçamento de ação errada declarado pelo usuário em uma política de agir-ou-adiar.

• Suposições Explícitas: O método expõe as suposições estruturais necessárias para a garantia (suavidade local via envelope de viés e a lacuna de representação) e as combina com proxies diagnósticos (ex: inflação do módulo, verificações de gap do preditor) para falsificar representações insuficientes.
• Degradação Graciosa: A garantia degrada graciosamente; se as suposições forem violadas, a probabilidade de falha é explicitamente adicionada ao limite de risco, em vez de causar uma falha catastrófica da garantia.
• Template para Computação em Tempo de Inferência: Os autores veem isso como um modelo para outros pipelines de computação em tempo de inferência onde a ação autônoma repetida é barata, mas ações erradas ocasionais são caras.

O artigo afirma explicitamente que não fornece correção condicional sem distribuição. Em vez disso, oferece um framework de decomposição de risco que torna o custo das suposições locais explícito, permitindo uma implantação auditável sob condições declaradas.