Resumo Técnico: PQR – Um Framework para Gerar Consultas de Usuário Diversas e Realistas que Provocam Falhas em Agentes de QA

Declaração do Problema

A avaliação de agentes baseados em Modelos de Linguagem de Grande Escala (LLMs) em domínios do mundo real (por exemplo, comércio eletrônico, saúde, finanças) permanece um desafio significativo. As práticas atuais de avaliação dependem fortemente de esforço humano para projetar manualmente cenários de teste, um processo que é custoso, difícil de escalar e inadequado para ciclos de desenvolvimento iterativo.

As abordagens automatizadas existentes geralmente se enquadram em duas categorias, ambas com limitações:

1. Geração de Ataques Adversariais: Métodos como PAIR e TAP focam na geração de consultas adversariais para induzir falhas de segurança (jailbreaks). No entanto, essas abordagens frequentemente produzem consultas "sem sentido" ou não naturais que não refletem intenções reais de usuários. Além disso, sua dependência de estratégias predefinidas limita sua capacidade de descobrir casos de falha inesperados que exigem estratégias novas e dinamicamente aprendidas.
2. Refinamento de Prompt: Trabalhos anteriores (por exemplo, GEPA, ACE) otimizam prompts para melhorar o sucesso da tarefa ou gerar consultas realistas. No entanto, esses são projetados principalmente para otimizar a eficácia sob uma instrução específica e não consideram explicitamente a diversidade de consultas. Na descoberta de falhas, elicitar repetidamente o mesmo tipo de falha oferece valor diagnóstico limitado e falha em capturar a amplitude das fraquezas de um agente.

O problema central é a falta de um framework sistemático que possa simultaneamente gerar consultas que acionam falhas e que sejam diversas (cobrindo uma ampla gama de modos de falha) e realistas (imitando o comportamento genuíno do usuário).

Metodologia: O Framework PQR

Os autores propõem o PQR (Refinamento de Prompt-Consulta), um framework projetado para gerar consultas de usuário diversas e realistas que provocam falhas em agentes sob objetivos definidos em linguagem natural (por exemplo, utilidade, segurança). O PQR opera através de um loop iterativo que acopla dois módulos complementares para mitigar as fraquezas de usar qualquer um deles isoladamente:

1. Módulo de Refinamento de Consulta

Este módulo foca em explorar diversas variações de consultas por meio de reescritas localizadas. Adota estratégias de trabalhos adversariais anteriores, categorizadas em:

• Perturbação: Operando em níveis de caractere, palavra e frase (por exemplo, adicionar erros de digitação, substituição de sinônimos, mudanças sintáticas).
• Interpretação de Papéis (Role-Playing): Introduzindo variações por meio de personas, tons e cenários.

O módulo emprega um mecanismo de seleção dupla usando busca em feixe (beam search):

• Seleção de Consulta: Retém consultas promissoras com base em pontuações de recompensa de um LLM atuando como Juiz.
• Seleção de Estratégia: Retém estratégias de perturbação/interpretação de papéis que foram mais eficazes na iteração anterior em reduzir as pontuações de recompensa (ou seja, induzir mais falhas).
  Esse processo continua até que o orçamento de computação seja esgotado, garantindo um conjunto diversificado de consultas candidatas.

2. Módulo de Refinamento de Prompt

Enquanto o refinamento de consulta garante diversidade, ele pode perder falhas que exigem estratégias além das perturbações existentes e carece de aplicação explícita de realismo. O módulo de refinamento de prompt aborda isso agregando feedback para derivar novas estratégias de violação de objetivos e políticas de realismo. Segue um loop de três estágios:

• Seleção: Usa busca em feixe para reter prompts que geram as consultas mais violadoras de objetivos.
• Reflexão: Produz dois tipos de feedback:
  • Relacionado ao Realismo: Diagnostica por que as consultas parecem não realistas e sugere melhorias.
  • Relacionado ao Objetivo: Inclui três sinais: (1) Feedback de violação de objetivo (identificando características que acionam falhas), (2) Feedback de conformidade com o objetivo (identificando características que ajudam o agente a ter sucesso, a serem evitadas) e (3) Feedback específico de critério (visando critérios pouco explorados).
• Expansão: Gera novos prompts candidatos usando três direções paralelas:
  • Exploração (Exploitation): Amplifica estratégias que já acionaram falhas.
  • Exploração (Exploration): Usa feedback de conformidade com o objetivo para introduzir estratégias contrastantes que empurram para novos modos de falha.
  • Exame: Visa os critérios menos frequentemente violados para sondar objetivos pouco explorados.

Contribuições Principais

1. Framework Inovador: O PQR é o primeiro framework a acoplar refinamento de consulta (para diversidade) e refinamento de prompt (para descoberta de estratégias e realismo) em um loop iterativo especificamente para descoberta de falhas em agentes.
2. Equilíbrio entre Realismo e Diversidade: Diferentemente de métodos anteriores que sacrificam realismo por taxas de falha (ataques adversariais) ou diversidade por realismo (otimização de prompt), o PQR equilibra explicitamente ambos.
3. Aprendizado Dinâmico de Estratégias: Ao usar feedback do refinamento de consulta para atualizar políticas de geração de prompts, o PQR pode descobrir novas estratégias de falha em vez de depender exclusivamente de modelos predefinidos.

Resultados Experimentais

O framework foi avaliado na detecção de respostas não úteis de um agente de QA de comércio eletrônico (construído sobre Qwen3-8b), com estudos adicionais de objetivos de segurança. Comparações foram feitas contra bases de refinamento de prompt (GEPA, ACE) e bases de refinamento de consulta (TAP, PAIR) usando GPT-5-mini e Gemma3-27b.

• Taxa de Descoberta de Falhas (Taxa de Não Utilidade - UHR): O PQR alcançou a maior UHR (56,32% com GPT-5-mini), descobrindo 23% a 78% mais respostas não úteis em comparação com as bases.
• Realismo: As consultas geradas pelo PQR alcançaram as maiores pontuações de realismo entre métodos automatizados, correspondendo estreitamente a consultas geradas por humanos (Pontuação Humana: 4,51 vs. PQR: 3,66). Superou significativamente as bases de refinamento de consulta (TAP, PAIR), que produziram consultas menos realistas.
• Diversidade: O PQR manteve altas pontuações de diversidade (medidas por similaridade de cosseno de embeddings, n-gramas distintos e MTLD), superando as bases de refinamento de prompt que tendiam a produzir saídas repetitivas.
• Eficiência de Custo: O PQR alcançou esses resultados com o menor custo (uso de tokens) entre todos os métodos, demonstrando maior eficiência na descoberta de falhas.
• Avaliação Humana: Em um estudo com especialistas do domínio, as consultas do PQR receberam as maiores classificações de realismo (2,50/3,0) e corresponderam às melhores pontuações de relevância, confirmando que o framework melhora o realismo sem sacrificar a relevância temática.

Significado e Alegações

O artigo afirma que o PQR fornece uma abordagem mais eficiente em termos de custo e sistemática para avaliar agentes LLM. Ao gerar consultas que são simultaneamente diversas e realistas, o PQR revela um espectro mais amplo de fraquezas do agente do que métodos anteriores. Os autores enfatizam que, enquanto os métodos existentes frequentemente produzem consultas arbitrárias ou não naturais que induzem falhas, a capacidade do PQR de trazer à tona cenários de falha realistas (por exemplo, perguntas ambíguas com múltiplos atributos de um comprador) oferece maior valor diagnóstico para melhorar a robustez do agente em implantações do mundo real.

Os autores observam modestamente que o framework foi testado principalmente em objetivos de utilidade e segurança dentro do comércio eletrônico. Eles reconhecem que, embora o PQR seja agnóstico ao framework do agente, sua escalabilidade para agentes com capacidades mais ricas (por exemplo, uso complexo de ferramentas, sistemas de múltiplas etapas) e outros domínios requer uma avaliação mais ampla e futura.