Do Benchmarks Underestimate LLM Performance? Evaluating Hallucination Detection With LLM-First Human-Adjudicated Assessment

Resumen Técnico: ¿Subestiman las Pruebas el Rendimiento de los LLM? Evaluación de la Detección de Alucinaciones con una Evaluación Adjudicada por Humanos Basada Primero en LLM

Planteamiento del Problema
La alucinación, definida como la generación de información inconsistente con la realidad o no respaldada por la evidencia proporcionada, sigue siendo un desafío crítico para los Modelos de Lenguaje Grandes (LLM), particularmente en sistemas de Generación Aumentada por Recuperación (RAG) y sistemas agénticos. Si bien la literatura existente se basa en pruebas estandarizadas (por ejemplo, QAGS-C, SummEval) con verdad fundamental anotada por humanos para evaluar la consistencia factual, este estudio cuestiona la adecuación de estas etiquetas fijas. Evidencia reciente sugiere que las anotaciones humanas a menudo exhiben variación sistemática y que los LLM de vanguardia pueden superar las pruebas actuales en la detección de inconsistencias sutiles. El problema central abordado es si las anotaciones humanas de un solo paso son suficientes para evaluar los LLM más avanzados, o si la dependencia de etiquetas de prueba potencialmente ruidosas o ambiguas conduce a una subestimación del rendimiento del modelo.

Metodología
Los autores proponen un marco de evaluación basado en la adjudicación y consciente del desacuerdo para reevaluar la detección de alucinaciones en tareas de resumen abstractivo. La metodología procede en tres etapas principales:

1. Inferencia de LLM: Dos modelos de vanguardia, GPT-5 Mini y Gemini 2.5 Flash, fueron encargados de evaluar pares de documento-resumen de los conjuntos de datos SummEval y QAGS-C. A diferencia de la clasificación binaria estándar, se solicitó a estos modelos que proporcionaran salidas JSON estructuradas que contuvieran una justificación detallada del razonamiento y un segmento de texto específico que indicara la ubicación de cualquier alucinación (o "ninguna" si era consistente).
2. Identificación de Desacuerdos: El estudio identificó un subconjunto de muestras donde las etiquetas originales del conjunto de datos (derivadas de anotaciones de expertos/multitud) entraban en conflicto con las predicciones de los LLM. Específicamente, se marcaron los casos donde los dos LLM coincidían entre sí pero discrepaban con la etiqueta humana, o donde los LLM y las etiquetas humanas estaban en desacuerdo total.
3. Adjudicación Humana: Un panel de dos adjudicadores humanos (transculturales, cegados entre sí respecto a sus decisiones) reevaluó las muestras conflictivas. Crucialmente, se proporcionó a estos adjudicadores la etiqueta original del conjunto de datos junto con las razones generadas por el LLM y la evidencia basada en segmentos. Se les instruyó para que tomaran una determinación final basándose en toda la información disponible, actuando efectivamente como un "juez" entre la anotación humana original y la afirmación respaldada por evidencia del LLM. En casos de desacuerdo persistente entre adjudicadores, se utilizó un esquema de votación mayoritaria que involucraba la etiqueta original, ambas predicciones de LLM y ambas etiquetas de adjudicador para resolver la verdad fundamental final.

Resultados Clave
El proceso de reevaluación produjo cambios significativos en las métricas de rendimiento y las tasas de acuerdo:

• Aumento del Acuerdo: La tasa de "triple acuerdo" (donde ambos LLM y la etiqueta humana adjudicada se alinean) aumentó sustancialmente. Para QAGS-C, el triple acuerdo aumentó un 6,38 % (de 82,55 % a 88,93 %), y para SummEval, aumentó aproximadamente un 7,62 % (de 84,75 % a ~92,37 %).
• Mejora de la Precisión del Modelo: Cuando se evaluaron frente a la nueva verdad fundamental adjudicada, ambos LLM mostraron una precisión mejorada. La precisión de GPT-5 Mini aumentó un 4,25 % en QAGS-C y un 2,34 % en SummEval. Gemini 2.5 Flash mostró ganancias mayores, mejorando un 8,51 % en QAGS-C y un 3,80 % en SummEval.
• Preferencia de los Adjudicadores por la Evidencia de LLM: En casos de conflicto, los adjudicadores humanos frecuentemente se alinearon con los LLM, particularmente cuando los modelos proporcionaron razonamiento explícito y evidencia basada en segmentos. En los casos de conflicto de QAGS-C, los adjudicadores respaldaron los juicios de alucinación de los LLM el 82,93 % de las veces; en SummEval, esto fue del 73,00 %.
• Tasas de Alucinación Revisadas: El proceso de adjudicación reveló que las pruebas originales subestimaban la prevalencia de alucinaciones. La tasa de alucinación en SummEval aumentó del 18,4 % al 20,5 %, y en QAGS-C, subió del 51,9 % al 56,17 %.

Significado y Afirmaciones
El artículo argumenta que, para tareas propensas a la ambigüedad como la detección de alucinaciones, las anotaciones de un solo paso pueden ser insuficientes y pueden conducir a la subestimación sistemática de las capacidades de los LLM. El estudio afirma que:

1. Limitaciones de las Pruebas: Las evaluaciones basadas en pruebas fijas son limitadas porque tratan las anotaciones humanas como oráculos estáticos, ignorando la naturaleza sistemática del desacuerdo en la anotación y el potencial de los LLM para detectar inconsistencias pasadas por alto por los humanos.
2. Valor de la Adjudicación: Un protocolo basado en la adjudicación que incorpora el razonamiento generado por LLM y la evidencia a nivel de segmento produce pruebas más confiables y semánticamente fundamentadas. La presencia de evidencia explícita (razones y segmentos) influye significativamente en el juicio humano, lo que sugiere que esquemas de anotación más ricos podrían reducir la ambigüedad.
3. Generalizabilidad: Si bien los experimentos se centraron en el resumen, los autores postulan que este fenómeno probablemente se extiende a otros dominios como la respuesta a preguntas, RAG y la IA agéntica, donde los errores se propagan a través de pasos de razonamiento complejos.
4. Dirección Futura: Los hallazgos abogan por un cambio en los protocolos de evaluación hacia una reevaluación iterativa o asistida por modelos, yendo más allá de la corrección binaria para considerar la calidad de la localización y la utilidad de las salidas a nivel de segmento. Los autores sugieren que el trabajo futuro debe centrarse en desarrollar conjuntos de datos detallados que incluyan tanto anotaciones generadas por LLM como humanas con razonamiento explícito.

El artículo concluye que tratar un solo paso de anotación como definitivo es engañoso para tareas matizadas de lenguaje natural y que integrar el análisis de desacuerdos y la adjudicación asistida por LLM ofrece una alternativa más robusta para evaluar la consistencia factual.