CompliBench: Benchmarking LLM Judges for Compliance Violation Detection in Dialogue Systems

1. Problema y Motivación

Con el despliegue masivo de Agentes de Inteligencia Artificial (basados en LLM) en entornos empresariales (como centros de contacto para aerolíneas, seguros o salud), es crítico garantizar que estos agentes sigan estrictamente guías operativas complejas y específicas del dominio.

El problema central identificado es la falta de fiabilidad de los "Jueces LLM" (LLM-as-a-Judge) para detectar violaciones de políticas en diálogos multi-turno. Aunque los LLM se utilizan cada vez más para evaluar la calidad de otros modelos, su capacidad para identificar si un agente ha incumplido una guía específica en un momento concreto de una conversación larga no ha sido explorada sistemáticamente.

Existen dos barreras principales que han impedido la creación de un benchmark para esta tarea:

1. Dificultad para obtener "Ground Truth" (verdad fundamental) granular: Etiquetar manualmente violaciones en conversaciones reales requiere un esfuerzo inmenso de expertos de dominio y es costoso. Además, la privacidad de los datos reales es un obstáculo.
2. Falta de métodos de síntesis efectivos: No existen métodos automatizados robustos para sintetizar interacciones realistas que incluyan violaciones de agentes controladas y precisas.

2. Metodología: El Pipeline de COMPLIBENCH

Los autores presentan COMPLIBENCH, un nuevo benchmark y una tubería de generación de datos automatizada y escalable. La metodología se divide en tres etapas principales:

A. Escalado de Guías (Guideline Scaling)

• Recolección y Anonimización: Se parte de guías reales de empresas (aerolíneas, seguros, salud), que se anonimizan y consolidan.
• Categorización: Las guías se estructuran en tres tipos:
  1. Cumplimiento Universal: Normas aplicables a toda la conversación (ej. tono empático).
  2. Guías de Flujo de Trabajo: Secuencias de pasos para intenciones específicas (ej. consultar una cuenta de fidelidad).
  3. Guías Condicionales: Acciones desencadenadas por condiciones específicas (ej. "si el usuario pide un humano, transferir inmediatamente").
• Control de Calidad: Se utiliza un buque de "juez y refinamiento" iterativo con LLMs para asegurar que las guías generadas no se solapen ni sean contradictorias, y se aplica un filtrado de similitud para garantizar la diversidad de los flujos de trabajo.

B. Inyección de Violaciones (Violation Injection)

Para crear datos con etiquetas precisas, el sistema simula interacciones donde se introducen deliberadamente errores:

• Generación de Variantes de Violación: Para cada guía original, un LLM genera versiones modificadas que son incompatibles con la regla original pero que parecen realistas en el contexto (ej. omitir una acción requerida o realizar una acción incorrecta).
• Optimización Adversarial: Se utiliza un proceso de "juez adversario" para refinar estas variantes. El objetivo es encontrar violaciones que sean difíciles de detectar para otros LLMs, pero que sean obvias para un experto humano. Se descartan variantes que son demasiado obvias o que no representan un cambio de comportamiento observable.

C. Síntesis de Diálogos y Etiquetado Automático

• Simulación Multi-Agente: Se utilizan tres agentes LLM:
  1. Simulador de Usuario: Con un perfil definido, guía la conversación hacia escenarios donde se activan las variantes de violación inyectadas.
  2. Selector: Identifica qué guía gobierna cada turno.
  3. Asistente: Genera la respuesta basada en la guía (que puede ser la original o la variante corrupta).
• Etiquetado: Dado que el sistema controla qué guía se sigue, genera automáticamente las etiquetas de verdad fundamental (qué guía se aplicó y si hubo violación) para cada turno.

3. Contribuciones Clave

1. COMPLIBENCH: El primer benchmark sistemático diseñado específicamente para evaluar la capacidad de los LLMs para detectar y localizar violaciones de cumplimiento en diálogos multi-turno orientados a tareas.
2. Pipeline de Generación de Datos Automatizado: Un método escalable que supera la escasez de datos mediante la inyección controlada de fallos y la optimización adversarial, eliminando la necesidad de anotación manual masiva.
3. Análisis de Desempeño de Jueces: Una evaluación exhaustiva de modelos LLM de vanguardia (proprietarios y open-source) y modelos de recompensa en esta tarea específica.
4. Modelo Especializado: Demostración de que un modelo pequeño (Qwen3-8B) fine-tuneado con los datos sintetizados supera a modelos mucho más grandes y generales.

4. Resultados Experimentales

Los experimentos se realizaron en tres dominios: Aerolíneas, Salud y Seguros, con un total de 318 conversaciones multi-turno.

• Desempeño de LLMs Generales: Incluso los modelos propietarios más avanzados (como GPT-5, Gemini-3-pro, Claude-4) muestran un rendimiento modesto.
  • Tienen dificultades significativas para detectar violaciones (baja Violation Detection Accuracy).
  • Suelen ser demasiado estrictos en turnos conformes (falsos positivos) o demasiado laxos en turnos violados (falsos negativos).
  • La precisión a nivel de conversación (Conversation-Level Accuracy) es muy baja (generalmente <50%), lo que indica que fallan en mantener el seguimiento de la coherencia a lo largo de toda la interacción.
• Modelo Especializado (Fine-tuned): Un modelo Qwen3-8B fine-tuneado con los datos de COMPLIBENCH superó consistentemente a los modelos de vanguardia más grandes en todos los dominios.
  • Logró la mayor precisión a nivel de conversación (51.47% en Aerolíneas, superando a Gemini-3-pro).
  • Esto demuestra que la supervisión específica de la tarea es más crítica que el tamaño del modelo para este tipo de evaluación.
• Modelos de Recompensa: Los modelos de recompensa existentes (entrenados en alineación de preferencias de un solo turno) fallaron estrepitosamente, confirmando que no están diseñados para el seguimiento de reglas a largo contexto.

5. Análisis de Errores

El análisis de los errores de los modelos (ej. GPT-5) reveló patrones sistemáticos:

• Asignación Incorrecta de Alcance (Scope Mis-attribution): Es el error más común. El juez selecciona la guía incorrecta o la fase del flujo de trabajo equivocada, a menudo debido a similitudes en la redacción.
• Asimetría en la Detección:
  • En turnos conformes, los jueces tienden a ser demasiado estrictos (inventan dependencias o exigen frases literales no requeridas).
  • En turnos violados, tienden a ser demasiado laxos (aceptan comportamientos superficialmente similares que no cumplen la regla o ignoran evidencia clave).

6. Significado e Impacto

El trabajo de COMPLIBENCH es fundamental para el futuro de los agentes de IA en entornos empresariales de alto riesgo:

• Validación de Seguridad: Proporciona una herramienta necesaria para auditar si los agentes de IA están cumpliendo con protocolos críticos (ej. transferencias a humanos, manejo de datos sensibles).
• Entrenamiento de Modelos de Recompensa: Demuestra que es posible sintetizar datos de alta calidad para entrenar "reward models" robustos y específicos de dominio, que son esenciales para el ajuste fino (RLHF) de agentes seguros.
• Cambio de Paradigma: Sugiere que para tareas de cumplimiento estricto, no basta con usar modelos generales grandes; se requieren modelos especializados entrenados con datos sintéticos de alta fidelidad que capturen las sutilezas de las violaciones de políticas.

En resumen, COMPLIBENCH cierra la brecha entre la evaluación teórica de LLMs y la necesidad práctica de garantizar el cumplimiento normativo en sistemas de diálogo empresariales, ofreciendo tanto un estándar de evaluación como una metodología para generar los datos necesarios para mejorar estos sistemas.