CompliBench: Benchmarking LLM Judges for Compliance Violation Detection in Dialogue Systems

1. Problématique et Contexte

Avec le déploiement croissant d'agents basés sur les grands modèles de langage (LLM) dans des environnements d'entreprise (centres d'appels, assistants virtuels), il est crucial de garantir leur conformité stricte à des directives opérationnelles complexes et spécifiques au domaine. Bien que l'utilisation d'un LLM en tant que Juge (LLM-as-a-Judge) soit une solution prometteuse pour évaluer ces agents de manière évolutive, leur fiabilité pour détecter des violations de politiques précises reste largement inexplorée.

Les défis majeurs identifiés sont :

• Absence de benchmarks systématiques : La plupart des évaluations actuelles se concentrent sur la justesse de la réponse finale, négligeant la conformité continue tout au long d'une conversation.
• Difficulté d'obtention de données étiquetées : Obtenir des "vérités terrain" (ground-truth) fines (quel tour de parole, quelle règle violée) à partir de conversations réelles est prohibitif en coût et soumis à des contraintes de confidentialité.
• Limites des méthodes de synthèse existantes : Il n'existe pas de méthode efficace pour synthétiser des interactions réalistes contenant des violations d'agents, car les LLM ont tendance à suivre les règles plutôt qu'à les enfreindre de manière contrôlée.

2. Méthodologie : Le Pipeline COMPLIBENCH

Les auteurs proposent COMPLIBENCH, un benchmark conçu pour évaluer la capacité des juges LLM à détecter et localiser les violations de directives dans des dialogues multi-tours. Pour surmonter le manque de données, ils ont développé un pipeline de génération de données automatisé et évolutif en trois étapes :

A. Mise à l'échelle des Directives (Guideline Scaling)

• Collecte et Expansion : À partir de directives réelles (anonymisées) dans trois domaines (Aviation, Santé, Assurance), le pipeline utilise des LLM pour générer de nouvelles variantes de workflows et de conditions, créant un pool diversifié de règles.
• Contrôle de Qualité : Un processus itératif de "jugement et raffinement" (judge-and-refine) est utilisé pour éliminer les conflits et les chevauchements entre les règles. Une métrique de similarité (combinaison d'embeddings et de scores LLM) permet de filtrer les workflows trop similaires, assurant la diversité du benchmark.

B. Injection de Violations Contrôlée (Violation Injection)

C'est l'innovation centrale du papier. Au lieu de laisser l'agent commettre des erreurs aléatoirement, le système injecte délibérément des défauts :

• Génération de Variantes de Violation : Pour chaque règle originale (oracle), le système génère des versions modifiées qui sont incompatibles avec la règle mais restent réalistes (ex: omettre une action requise, ajouter un comportement interdit).
• Optimisation Adversariale : Un pipeline adversarial itératif est utilisé pour trouver les variantes les plus difficiles à détecter. Deux juges LLM indépendants évaluent chaque variante :
  1. Un Juge de Cohérence vérifie que le changement de comportement est observable et significatif.
  2. Un Juge Adversarial tente de détecter la violation. Si le juge ne la détecte pas, la variante est conservée car elle représente un défi réaliste et difficile.

C. Synthèse de Dialogues et Étiquetage Automatique

• Simulation Multi-Agents : Trois agents LLM interagissent : un simulateur d'utilisateur (qui guide la conversation vers les scénarios de violation), un sélecteur de règles (qui identifie la règle applicable) et l'assistant.
• Étiquetage Précis : Puisque les violations sont injectées de manière contrôlée, le système génère automatiquement des étiquettes de vérité terrain pour chaque tour de parole : l'index du tour, la règle gouvernante et le statut de violation (0 ou 1).

3. Contributions Clés

1. COMPLIBENCH : Le premier benchmark systématique pour évaluer la détection de violations de conformité dans des dialogues multi-tours orientés tâches, couvrant trois domaines industriels.
2. Pipeline de Génération de Données : Une méthode automatisée, évolutive et peu coûteuse pour générer des conversations réalistes avec des violations étiquetées au niveau du tour de parole, résolvant le problème de la rareté des données.
3. Analyse des Limites des LLM : Une évaluation rigoureuse montrant que même les modèles propriétaires les plus avancés peinent à détecter ces violations.
4. Modèle Spécialisé Fine-Tuné : La démonstration qu'un petit modèle (Qwen3-8B) fine-tuné sur les données synthétisées surpasse les modèles LLM généraux beaucoup plus grands.

4. Résultats Expérimentaux

Les auteurs ont évalué une large gamme de modèles (Open Source et Propriétaires comme GPT-5, Gemini-3-pro, Claude, etc.) ainsi que des modèles de récompense (Reward Models).

• Performance des LLM Généraux : Les modèles les plus puissants (ex: GPT-5, Gemini-3-pro) obtiennent des résultats modestes. Bien qu'ils soient bons pour identifier les règles sur les tours conformes (Strict Guideline Accuracy), leur capacité à détecter les violations (Violation Detection Accuracy) est faible.
  • Exemple : Sur le domaine de l'assurance, GPT-5 atteint ~83% de précision sur la détection de violation, mais seulement ~30% de précision au niveau de la conversation complète (Conversation-Level Accuracy).
• Échec des Modèles de Récompense : Les modèles de récompense (classificateurs ou génératifs) entraînés sur des données d'alignement préférences (souvent mono-tour) échouent totalement sur cette tâche (accuracy < 40%), car ils ne sont pas adaptés aux dépendances à long terme et aux règles complexes.
• Supériorité du Modèle Fine-Tuné : Un modèle Qwen3-8B fine-tuné sur 1 400 instances générées par leur pipeline surpasse les modèles propriétaires les plus avancés.
  • Il atteint 51,47% de précision au niveau de la conversation sur le domaine de l'aviation (contre 47,26% pour GPT-5).
  • Il démontre une bonne généralisation aux domaines non vus (Santé, Assurance), prouvant que la supervision spécifique au tâche est plus critique que la simple échelle du modèle.

5. Analyse des Erreurs

L'analyse des erreurs révèle une asymétrie systématique dans le comportement des juges actuels :

• Sur les tours conformes : Les juges sont trop stricts (faux positifs). Ils inventent des dépendances logiques inexistantes, ignorent des preuves contextuelles antérieures ou imposent des formulations littérales non requises.
• Sur les tours violés : Les juges sont trop laxistes (faux négatifs). Ils acceptent des comportements non équivalents (ex: traiter une demande de transfert vers un humain via un chatbot au lieu de transférer) ou ignorent des actions manquantes évidentes.
• Cause principale : La mauvaise attribution de la portée de la règle (Scope mis-attribution) est la source d'erreur dominante (57% des erreurs sur les tours conformes, 70% sur les tours violés).

6. Signification et Impact

Ce travail met en lumière une lacune critique dans le déploiement des agents LLM en entreprise : la confiance aveugle dans les juges LLM généraux pour la conformité est dangereuse.

• Validation de l'approche de synthèse : Le papier prouve que la génération de données synthétiques contrôlées et adversariales est une méthode viable et efficace pour entraîner des modèles de récompense robustes.
• Direction future : Il suggère que pour des applications critiques, il est préférable d'entraîner des modèles spécialisés (plus petits et moins coûteux) sur des données synthétiques de haute qualité plutôt que de dépendre de modèles généraux massifs.
• Ressources : Le code et les données sont publics, offrant une base solide pour la recherche future sur l'évaluation de la conformité des agents conversationnels.

En résumé, COMPLIBENCH établit un nouvel état de l'art pour l'évaluation de la conformité, démontrant que la spécialisation via l'apprentissage supervisé sur des données synthétiques est la clé pour déployer des agents LLM fiables dans des environnements réglementés.