CompliBench: Benchmarking LLM Judges for Compliance Violation Detection in Dialogue Systems

Resumo Técnico: COMPLIBENCH

1. O Problema

Com a crescente adoção de Agentes de Linguagem (LLMs) em ambientes empresariais (como centros de contato e assistentes virtuais), é crítico garantir que esses agentes sigam rigorosamente diretrizes operacionais complexas e específicas de domínio (ex: protocolos de reembolso, tom profissional, transferências para humanos).
Embora o uso de "LLM como Juiz" (LLM-as-a-Judge) seja uma solução promissora para avaliação escalável, a confiabilidade desses juízes na detecção de violações específicas de políticas em diálogos de múltiplas rodadas permanece pouco explorada. Existem duas barreiras principais para avaliar essa capacidade:

1. Falta de Ground-Truth Granular: Obter rótulos precisos (identificando exatamente em qual turno e qual diretriz foi violada) em interações reais é proibitivamente caro e difícil devido à necessidade de especialistas de domínio e questões de privacidade.
2. Dificuldade de Síntese: Não existem métodos eficazes baseados em LLMs para sintetizar interações realistas que incluam violações intencionais e plausíveis de agentes.

A maioria dos benchmarks existentes foca apenas na correção da resposta final, ignorando a adesão contínua às diretrizes ao longo do diálogo.

2. Metodologia

Os autores introduzem o COMPLIBENCH, um novo benchmark e um pipeline de geração de dados automatizado e escalável para superar a escassez de dados.

• Pipeline de Geração de Dados:

  1. Escala de Diretrizes (Guideline Scaling): Partindo de diretrizes reais de empresas (aéreas, saúde, seguros), o sistema usa LLMs para expandir e diversificar as diretrizes em três categorias: Conformidade Universal (tom, empatia), Diretrizes de Fluxo de Trabalho (passo a passo para intenções específicas) e Diretrizes Condicionais (gatilhos e ações). Um processo iterativo de "juiz e refinamento" garante que as diretrizes geradas não sejam conflitantes e possuam alta diversidade.
  2. Injeção de Violações (Violation Injection): Para criar dados de treinamento com ground-truth, o pipeline substitui intencionalmente diretrizes originais por "variantes de violação" realistas. Um processo adversarial é utilizado: um juiz verifica se a mudança é observável no texto e outro juiz tenta detectar a violação. Apenas as variantes que introduzem uma mudança de comportamento real, mas que são difíceis de detectar (falham na detecção pelo juiz adversarial), são mantidas.
  3. Geração de Diálogos: Um simulador de usuário (com personas diversas) interage com um agente que segue as diretrizes corrompidas. O sistema gera automaticamente os rótulos de verdade absoluta (ground-truth) indicando qual diretriz governava cada turno e se houve violação.

• Definição da Tarefa e Métricas:
  O juiz LLM recebe um diálogo e um documento de diretrizes e deve, para cada turno do agente, identificar a diretriz governante e prever se houve violação. As métricas principais são:

  • SGA (Strict Guideline Accuracy): Precisão na identificação correta da diretriz e do status de conformidade (apenas em turnos conformes).
  • VDA (Violation Detection Accuracy): Precisão na detecção de violações (independente da diretriz identificada).
  • CLA (Conversation-Level Accuracy): Precisão em prever corretamente todas as diretrizes e violações em todo o diálogo.

3. Principais Contribuições

1. COMPLIBENCH: O primeiro benchmark abrangente focado na detecção e localização de violações de conformidade em diálogos orientados a tarefas, cobrindo três domínios (Aéreo, Saúde, Seguro) com 318 diálogos de múltiplas rodadas.
2. Pipeline de Geração Automatizado: Uma metodologia escalável que gera dados sintéticos de alta qualidade com rótulos precisos de ground-truth sem necessidade de anotação humana massiva, utilizando injeção de falhas controlada e otimização adversarial.
3. Análise de Desempenho de Juízes: Uma avaliação rigorosa de modelos LLM de ponta (proprietários e open-source) e modelos de recompensa (reward models) na tarefa de auditoria de conformidade.
4. Modelo Especializado Fine-Tuned: Demonstração de que um modelo pequeno (Qwen3-8B) fine-tuned nos dados sintéticos do COMPLIBENCH supera modelos proprietários massivos e generaliza bem para domínios não vistos.

4. Resultados Chave

• Desempenho dos LLMs Gerais: Mesmo os modelos proprietários mais avançados (como GPT-5, Gemini-3-pro, Claude-sonnet) apresentam desempenho modesto, especialmente na Detecção de Violações (VDA) e na precisão ao nível do diálogo (CLA).
  • O GPT-5 obteve a melhor precisão de diretrizes em turnos conformes, mas falhou em detectar violações.
  • A CLA (precisão em todo o diálogo) foi extremamente baixa para a maioria dos modelos (muitas vezes abaixo de 30-40%), indicando que manter o raciocínio consistente em longos contextos é um grande desafio.
• Modelo Fine-Tuned: Um modelo Qwen3-8B, treinado apenas com dados sintéticos do domínio de aviação, superou todos os modelos gerais de base (incluindo o GPT-5) em todas as métricas nos três domínios, alcançando 51.47% de CLA no domínio aéreo. Isso prova que a supervisão específica da tarefa é mais crítica do que apenas o tamanho do modelo.
• Modelos de Recompensa (Reward Models): Modelos de recompensa existentes (treinados em alinhamento de preferências de turno único) performaram muito mal, confirmando que eles não são adequados para avaliação de conformidade em contextos de múltiplas rodadas.
• Análise de Erros: A principal fonte de erro é a má atribuição de escopo da diretriz (o juiz associa o turno à diretriz errada). Há também uma assimetria: os juízes tendem a ser excessivamente rigorosos em turnos conformes (criando regras não escritas) e muito permissivos em turnos com violações (aceitando comportamentos não equivalentes).

5. Significado e Impacto

O trabalho destaca que a confiabilidade de "LLMs como Juízes" em ambientes de alto risco (como atendimento ao cliente) não é garantida apenas pelo aumento da escala do modelo. O COMPLIBENCH fornece a infraestrutura necessária para:

• Treinamento de Modelos de Recompensa Robustos: O pipeline de geração de dados é uma base eficaz para criar modelos de recompensa generativos especializados em conformidade.
• Avaliação Realista: Oferece um padrão-ouro para testar a capacidade de agentes de IA de seguir regras complexas, indo além da simples verificação de fatos ou instruções simples.
• Direção Futura: Sugere que a solução para a auditoria de conformidade em diálogos não reside em modelos maiores, mas em modelos menores e especializados, treinados com dados sintéticos de alta qualidade e adversarialmente otimizados.

O código e os dados do benchmark estão disponíveis publicamente para a comunidade de pesquisa.