Resumo Técnico: Priores Estatísticos para Preferências Implícitas

Definição do Problema

O artigo aborda um gargalo crítico na implantação de agentes pessoais executados localmente que dependem de LLMs remotos baseados em API. À medida que o ecossistema de habilidades externas (ferramentas) se expande, os agentes devem selecionar dinamicamente a habilidade mais apropriada para um usuário. No entanto, as preferências do usuário são frequentemente implícitas, manifestando-se como hábitos estocásticos de alta frequência, em vez de instruções explícitas.

Os paradigmas atuais confundem duas tarefas cognitivas distintas:

1. Análise de Intenção Semântica: Compreender instruções explícitas do usuário (ex: "Peça na HouseBrew").
2. Aprendizado de Preferência Estatística: Inferir hábitos latentes a partir de interações históricas (ex: um usuário sempre prefere "VibeCof'ing" para café).

As soluções existentes geralmente dependem de LLMs aumentados por memória, onde logs históricos são injetados no prompt para guiar um único modelo remoto. Os autores argumentam que essa abordagem sofre de:

• Falhas Sistêmicas: Os LLMs frequentemente perdem a consistência lógica em conversas de múltiplos turnos ou falham em rastrear estatísticas detalhadas.
• Restrições de Recursos: A alta latência de API e o transbordamento da janela de contexto tornam algoritmos centralizados complexos impraticáveis para agentes locais que preservam a privacidade.
• Falta de Interpretabilidade: Abordagens baseadas em memória carecem de rigor matemático na modelagem de distribuições de preferência.

Metodologia: O LOCAL HARNESS

Para resolver esses problemas, o artigo propõe o LOCAL HARNESS, uma arquitetura inovadora que desacopla estritamente o aprendizado de preferência estatística da análise de intenção semântica.

Arquitetura Central

O sistema opera em um modelo de "Estimador Estatístico Local + Manipulador de Exceções Remoto":

1. Prior Estatístico Local (O Harness): Um módulo leve, executado no dispositivo, que gerencia a distribuição de preferência do usuário. Ele lida com a tomada de decisão de alta frequência e o compromisso entre exploração e explotação (exploration-exploitation trade-off). O artigo implementa dois priors específicos:
   • Prior de Frequência: Uma tabela simples de taxa de sucesso empírica rastreando contagens de $(usuário, domínio, habilidade)$.
   • Prior de Bandit: Uma abordagem de bandit contextual (especificamente LINUCB) que mantém um vetor de parâmetros e uma matriz de Gram regularizada. Utiliza feature hashing para criar vetores de contexto a partir da consulta, nome da habilidade e domínio, permitindo a exploração fundamentada via Limites de Confiança Superior (UCB).
2. LLM Remoto (O Manipulador de Override): O LLM remoto é removido do caminho crítico de execução para consultas padrão. Ele é invocado apenas para verificar overrides lexicais explícitos.
   • Passo 1 (Classificação de Domínio): Uma única chamada de LLM infere o domínio alvo para restringir o conjunto de habilidades candidatas.
   • Passo 2 (Padrão Local): O harness local seleciona a habilidade padrão com base no prior estatístico.
   • Passo 3 (Sonda de Override Semântico): Uma sonda binária pergunta ao LLM: "Esta consulta nomeia explicitamente uma ferramenta específica?" Se sim, a ferramenta nomeada substitui (override) o padrão local; se não, o padrão local é executado.

Fundamentação Teórica

Os autores fornecem uma análise teórica (Teorema 4.1) provando que, sob suposições moderadas, esta arquitetura desacoplada reduz estritamente o arrependimento (regret) esperado por rodada em comparação com uma linha de base de apenas LLM. O arrependimento converge para um valor estritamente inferior à taxa de erro inerente do LLM, desde que o prior estatístico local seja consistente. A prova baseia-se no fato de que a política final é uma combinação convexa da política do prior local e da política do LLM, uma propriedade estrutural perdida em abordagens de memória aumentada, onde os sinais são fundidos.

Avaliação Experimental

Como nenhum benchmark existente aborda a seleção de habilidades impulsionada por preferências implícitas, os autores construíram o TOOLBENCH-60, um ambiente de teste com 60 habilidades em 10 domínios e usuários sintéticos com distribuições de preferência controláveis (variando de "one-hot" determinística a distribuições de Dirichlet estocásticas).

Configuração de Avaliação:

• Backbones: Avaliado em três LLMs diversos: GPT-5.2, DeepSeek-V4-Flash e Qwen3-30B-Instruct.
• Linhas de Base (Baselines): Nove agentes foram comparados, categorizados em:
  • Sem Aprendizado: Random, ZeroShot-LLM.
  • Apenas Estatístico: Freq-Greedy, Pure-Bandit.
  • LLM com Memória: InContext-Memory (histórico recente), Profile-Memory (logs serializados completos).
  • LLM com Prior Estatístico: Bandit-as-Context (LLM vê probabilidades do bandit), Freq-as-Override, Bandit-as-Override (o método proposto).

Resultados Principais:

1. Desempenho Superior: O agente BANDIT-AS-OVERRIDE alcançou consistentemente o menor arrependimento cumulativo e a maior precisão de teste em todos os backbones e regimes de preferência.
2. Desacoplamento vs. Memória: As linhas de base aumentadas por memória (InContext/Profile) tiveram um desempenho significativamente inferior, confirmando que injetar histórico em prompts não substitui um estimador estatístico dedicado.
3. Tratamento de Overrides: Agentes puramente estatísticos falharam em consultas explícitas (instruções semânticas zero-shot). O LOCAL HARNESS alcançou precisão quase perfeita em consultas explícitas ao reservar o LLM estritamente para detecção de override.
4. Valor da Exploração: O prior baseado em Bandit superou a simples contagem de frequência, particularmente em regimes de preferência estocásticos (suaves), demonstrando a necessidade de uma exploração fundamentada.

Significância e Alegações

O artigo afirma identificar uma falha arquitetônica fundamental nos designs atuais de agentes pessoais: a confusão entre aprendizado estatístico e raciocínio semântico.

• Mudança Arquitetônica: Propõe uma mudança de paradigma de "LLM-como-Cérebro" (lidando com tudo) para "LLM-como-Manipulador-de-Exceções" (lidando apenas com overrides explícitos), delegando a modelagem de hábitos a estatísticas locais leves.
• Eficiência e Privacidade: Ao manter o aprendizado estatístico local, a abordagem reduz a latência da API, evita o transbordamento de contexto e adere a restrições estritas de privacidade sem exigir infraestrutura centralizada complexa.
• Robustez: O design desacoplado garante que o agente possa se adaptar aos hábitos do usuário enquanto permanece responsivo a comandos de usuário explícitos, um equilíbrio que abordagens aumentadas por memória falham em manter.

Os autores concluem que este framework desacoplado estabelece um paradigma robusto e matematicamente fundamentado para o design de agentes personalizados, validado tanto por limites de arrependimento teóricos quanto por extensa avaliação empírica.