Resumen Técnico: El Benchmark CitizenQuery

Planteamiento del Problema

Las "consultas ciudadanas" —preguntas del público sobre políticas gubernamentales, servicios y orientación (por ejemplo, beneficios, impuestos, inmigración)— representan un caso de uso de alto riesgo para los Modelos de Lenguaje Extensos (LLM). Si bien los LLM ofrecen el potencial de proporcionar servicios de información contextualizados, accesibles y rápidos, su despliegue en el sector público se ve obstaculizado por el riesgo de alucinación y desinformación. Las respuestas inexactas a las consultas ciudadanas pueden tener ramificaciones negativas graves y, a menudo, invisibles para las personas que dependen de dicho asesoramiento. Actualmente, existe una falta de conjuntos de datos de evaluación estandarizados o suites de evaluación diseñados específicamente para medir el rendimiento de los LLM en el contexto de las consultas ciudadanas, lo que dificulta que los gobiernos y las partes interesadas evalúen la confiabilidad de la integración de la IA en los servicios públicos.

Metodología

Curación del Conjunto de Datos: CitizenQuery-UK

Los autores presentan CitizenQuery-UK, un novedoso conjunto de datos de benchmark que comprende 22.066 pares de consulta-respuesta de ciudadanos sintéticos.

• Material de Origen: El conjunto de datos se deriva íntegramente de información textual de gov.uk, el sitio web oficial del gobierno del Reino Unido, que sirve como la única fuente de verdad autorizada para el benchmark.
• Proceso de Generación:
  • Construcción del Corpus: Se extrajeron 2.781 páginas de gov.uk, organizadas en una taxonomía de 3 niveles (Página de inicio $\rightarrow$ Dominios $\rightarrow$ Subdominios).
  • Síntesis de Consultas: Para asegurar un fraseo naturalista, la generación de consultas se fundamentó en datos del mundo real provenientes de foros públicos en línea (principalmente Reddit) para imitar entradas de usuario coloquiales y ricas en contexto, evitando el fraseo estéril típico de la generación sintética.
  • Modelo: Se utilizó el modelo Qwen 2.5 72B-Instruct para generar los pares de Q&A (pregunta y respuesta), condicionado a personas específicas (que varían según edad, educación, alfabetización digital, profesión, ingresos y región) y metadatos.
  • Garantía de Calidad: Un riguroso protocolo de anotación humana que involucró a tres anotadores revisó una muestra estratificada para refinar los prompts de generación, asegurando que las respuestas estuvieran fundamentadas en hechos y fueran accesibles. Los puntajes de toxicidad y sesgo se generaron mediante Cleanlab Studio pero se consideraron mayormente irrelevantes para los objetivos centrales, manteniéndose la toxicidad baja.
• Estructura del Conjunto de Datos: El conjunto de datos incluye 139 subdominios a través de 16 dominios principales. Los prompts se categorizan en procedimentales, instructivos, informativos o comparativos. Cada entrada incluye la consulta, la respuesta esperada (verdad de referencia o ground truth) y metadatos extensos.

Pipeline de Evaluación

Los autores proponen una metodología de evaluación adaptada de FActScore y la arquitectura SAFE, que consta de tres componentes principales:

1. Detección de Abstención (AB):

   • Utiliza un clasificador ajustado (fine-tuned) (LibrAI/longformer-action-ro) para identificar si un modelo se niega a responder o es incapaz de responder a una consulta.
   • Los autores adaptan el esquema de anotación estándar para tratar los "descargos de responsabilidad" (disclaimers, etiqueta 3) como un aprobado en lugar de una abstención, reconociendo que los descargos son estándar y fomentados en el asesoramiento gubernamental.
   • Se aplica un umbral de confianza ($AB_{th} = 0.925$) para minimizar los falsos positivos.

2. Generación de Hechos Atomizados (AFG):

   • Descompone tanto la respuesta esperada ($a_i$) como la respuesta generada por el modelo ($\hat{a}_i$) en hechos o afirmaciones atómicas.
   • Utiliza una estrategia de prompting de pocos disparos (few-shot) basada en recuperación con un LLM ajustado por instrucciones ($M_{AFG}$) para descomponer las oraciones en componentes granulares y verificables.
   • Los hechos atómicos para la verdad de referencia se precomputan para asegurar un punto de referencia fijo.

3. Verificación de Hechos Atomizados (AFV):

   • Emplea un LLM como juez ($M_{AFV}$) para verificar si las afirmaciones del modelo están respaldadas por los hechos de la verdad de referencia.
   • Métricas:
     • F1@K: Calcula la media armónica de la precisión y la exhaustividad (recall) con respecto a los hechos de la verdad de referencia ($K$). Esto penaliza a los modelos por redundancia (repetir hechos) y verbosidad excesiva, recompensando la densidad de información.
     • Verbosidad ($\Delta K$): Mide la diferencia entre el número de afirmaciones generadas por el modelo ($\hat{K}$) y la verdad de referencia ($K$). Los valores positivos indican sobregeneración; los negativos indican omisión.

Resultados Clave

El benchmark evaluó 11 LLM (incluyendo familias de Llama, Claude, Gemini, Qwen y OpenAI) bajo condiciones tanto de Zero-Shot como de Few-Shot.

• Perfiles de Rendimiento:

  • Factualidad: Los puntajes medianos de F1@K fueron generalmente altos (a menudo >0.90), lo que indica que los modelos suelen responder correctamente. Sin embargo, las medias fueron más bajas que las medianas, revelando una "larga cola" de bajo rendimiento y alta varianza (las desviaciones estándar oscilaron entre 0.18 y 0.36).
  • Familias de Modelos: Los modelos de código cerrado como Claude-4.5-Haiku mostraron alta precisión pero también alta verbosidad. Los modelos de pesos abiertos (ej. Qwen3-32B, Llama-3.3-70B) se desempeñaron competitivamente frente a los modelos cerrados. Kimi-K2-Instruct mostró menor factualidad pero mayores tasas de abstención.
  • Impacto de Few-Shot: Contrario a las expectativas, proporcionar ejemplos de few-shot generalmente disminuyó los puntajes promedio de F1@K e incrementó la varianza, mientras que redujo ligeramente la verbosidad. En algunos casos, los modelos generaron menos información, pero esa información estaba menos respaldada por hechos.

• Hallazgos de Comportamiento Clave:

  • Baja Abstención: Los modelos rara vez se abstienen de responder (tasas <1.5%), incluso cuando no están seguros.
  • Alta Verbosidad: Los modelos consistentemente sobregeneran información ($\Delta K$ fue positivo y significativo, ej. +16.63 para Claude-4.5-Haiku en Zero-Shot).
  • Varianza: Las altas desviaciones estándar sugieren que, aunque los modelos suelen ser correctos, sus modos de falla son impredecibles, lo que plantea un riesgo de fiabilidad.

Significado y Reivindicaciones

El artículo afirma que CitizenQuery-UK proporciona la primera evidencia de un marco para evaluar la confiabilidad de los LLM en tareas de consulta ciudadana. Su importancia radica en:

1. Evidencia para la Adopción en el Sector Público: Ofrece un mecanismo para que los gobiernos evalúen la precisión de la IA antes de su integración, yendo más allá de las suposiciones teóricas hacia un rendimiento medido.
2. Resaltar el Intercambio "Verbosidad vs. Confiabilidad": Los resultados sugieren que los LLM actuales priorizan la generación de información sobre el reconocimiento de la incertidencia. En consultas ciudadanas de alto riesgo, esta "ansia de hablar" combinada con la alta varianza crea un riesgo donde los usuarios pueden confiar excesivamente en información inexacta o desactualizada.
3. Llamado a la Falibilidad Reconocida: Los autores argumentan que la IA confiable en el sector público requiere modelos que puedan reconocer sus limitaciones (falibilidad) en lugar de sobregenerar afirmaciones potencialmente incorrectas.
4. Base para la Gobernanza Futura: Construido enteramente sobre datos abiertos, el benchmark sienta las bases para suites de evaluación centralizadas que puedan guiar las decisiones de política y adquisición de tecnología con respecto a la IA en el sector público.

Los autores concluyen que, si bien los LLM muestran promesa, su tendencia actual hacia la alta varianza y la sobregeneración los hace inadecuados para el despliegue directo sin mejoras significativas en la fiabilidad y en los mecanismos para reconocer la incertidumbre.