Resumo Técnico: O Benchmark CitizenQuery

Declaração do Problema

As "consultas de cidadãos" — perguntas do público sobre políticas governamentais, serviços e orientações (ex: benefícios, impostos, imigração) — representam um caso de uso de alto risco para Grandes Modelos de Linguagem (LLMs). Embora os LLMs ofereçam o potencial de fornecer serviços de informação contextuais, acessíveis e rápidos, sua implementação no setor público é dificultada pelo risco de alucinação e desinformação. Respostas imprecisas a consultas de cidadãos podem levar a ramificações negativas graves e, muitas vezes, invisíveis para indivíduos que dependem de tais orientações. Atualmente, há uma carência de conjuntos de dados de benchmark padronizados ou suítes de avaliação especificamente projetados para medir o desempenho de LLMs no contexto de consultas de cidadãos, tornando difícil para governos e partes interessadas avaliarem a confiabilidade da integração de IA em serviços públicos.

Metodologia

Curadoria do Conjunto de Dados: CitizenQuery-UK

Os autores introduzem o CitizenQuery-UK, um novo conjunto de dados de benchmark composto por 22.066 pares de consulta-resposta de cidadãos sintéticos.

• Material de Origem: O conjunto de dados é derivado inteiramente de informações textuais do gov.uk, o site oficial do governo do Reino Unido, que serve como a única fonte de verdade autoritativa para o benchmark.
• Processo de Geração:
  • Construção do Corpus: 2.781 páginas do gov.uk foram extraídas (scraped), organizadas em uma taxonomia de 3 camadas (Página inicial $\rightarrow$ Domínios $\rightarrow$ Subdomínios).
  • Síntese de Consultas: Para garantir um fraseado naturalista, a geração de consultas foi fundamentada em dados do mundo real de fóruns públicos online (principalmente Reddit) para mimetizar entradas de usuários coloquiais e ricas em contexto, evitando o fraseado estéril típico da geração sintética.
  • Modelo: O modelo Qwen 2.5 72B-Instruct foi utilizado para gerar os pares Q&A, condicionado a personas específicas (variando por idade, educação, literacia digital, profissão, renda e região) e metadados.
  • Garantia de Qualidade: Um rigoroso protocolo de anotação humana envolvendo três anotadores revisou uma amostra estratificada para refinar os prompts de geração, garantindo que as respostas fossem factualmente fundamentadas e acessíveis. Os scores de toxicidade e viés foram gerados via Cleanlab Studio, mas considerados amplamente irrelevantes para os objetivos principais, com a toxicidade permanecendo baixa.
• Estrutura do Conjunto de Dados: O conjunto de dados inclui 139 subdomínios em 16 domínios principais. Os prompts são categorizados como procedimentais, instrucionais, informacionais ou comparativos. Cada entrada inclui a consulta, a resposta esperada (verdade fundamental/ground truth) e metadados extensos.

Pipeline de Avaliação

Os autores propõem uma metodologia de avaliação adaptada do FActScore e da arquitetura SAFE, consistindo em três componentes principais:

1. Detecção de Abstenção (AB):

   • Utiliza um classificador ajustado (LibrAI/longformer-action-ro) para identificar se um modelo recusa ou é incapaz de responder a uma consulta.
   • Os autores adaptam o esquema de anotação padrão para tratar "avisos de isenção de responsabilidade" (label 3) como pass (sucesso) em vez de abstenção, reconhecendo que avisos são padrão e incentivados em orientações governamentais.
   • Um limiar de confiança ($AB_{th} = 0.925$) é aplicado para minimizar falsos positivos.

2. Geração de Fatos Atomizados (AFG):

   • Decompõe tanto a resposta esperada ($a_i$) quanto a resposta gerada pelo modelo ($\hat{a}_i$) em fatos/afirmações atômicos.
   • Utiliza uma estratégia de prompting de poucos disparos (few-shot) baseada em recuperação para decompor sentenças em componentes granulares e verificáveis.
   • Os fatos atômicos para a verdade fundamental são pré-computados para garantir um ponto de referência fixo.

3. Verificação de Fatos Atomizados (AFV):

   • Emprega um LLM-como-juiz ($M_{AFV}$) para verificar se as afirmações do modelo são sustentadas pelos fatos da verdade fundamental.
   • Métricas:
     • F1@K: Calcula a média harmônica da precisão e do recall em relação aos fatos da verdade fundamental ($K$). Isso penaliza modelos por redundância (repetição de fatos) e verbosidade excessiva, recompensando a densidade de informação.
     • Verbosidade ($\Delta K$): Mede a diferença entre o número de afirmações geradas pelo modelo ($\hat{K}$) e a verdade fundamental ($K$). Valores positivos indicam sobre-geração; valores negativos indicam omissão.

Principais Resultados

O benchmark avaliou 11 LLMs (incluindo famílias Llama, Claude, Gemini, Qwen e OpenAI) sob condições de Zero-Shot e Few-Shot.

• Perfis de Desempenho:

  • Factualidade: Os scores medianos de F1@K foram geralmente altos (frequentmente >0.90), indicando que os modelos frequentemente respondem corretamente. No entanto, os scores médios foram menores que as medianas, revelando uma "cauda longa" de baixo desempenho e alta variância (desvios padrão variando de 0.18 a 0.36).
  • Famílias de Modelos: Modelos de código fechado como o Claude-4.5-Haiku mostraram alta precisão, mas também alta verbosidade. Modelos de pesos abertos (ex: Qwen3-32B, Llama-3.3-70B) performaram competitivamente contra modelos fechados. O Kimi-K2-Instruct apresentou menor factualidade, mas maiores taxas de abstenção.
  • Impacto de Few-Shot: Contrariando as expectativas, fornecer exemplos de few-shot geralmente diminuiu os scores médios de F1@K e aumentou a variância, enquanto reduziu levemente a verbosidade. Em alguns casos, os modelos geraram menos informação, mas essa informação era menos sustentada por fatos.

• Principais Achados Comportamentais:

  • Baixa Abstenção: Os modelos raramente se abstêm de responder (taxas <1.5%), mesmo quando incertos.
  • Alta Verbosidade: Os modelos consistentemente sobre-geram informação ($\Delta K$ foi positivo e significativo, ex: +16.63 para Claude-4.5-Haiku em Zero-Shot).
  • Variância: Altos desvios padrão sugerem que, embora os modelos sejam frequentemente corretos, seus modos de falha são imprevisíveis, o que gera um risco de confiabilidade.

Significância e Alegações

O artigo afirma que o CitizenQuery-UK fornece a primeira evidência baseada em framework para avaliar a confiabilidade de LLMs em tarefas de consulta de cidadãos. Sua significância reside em:

1. Evidência para Adoção no Setor Público: Oferece um mecanismo para governos avaliarem a precisão da IA antes da integração, indo além de suposições teóricas para um desempenho mensurado.
2. Destaque para o Trade-off "Verbosidade vs. Confiabilidade": Os resultados sugerem que os LLMs atuais priorizam a geração de informação sobre o reconhecimento da incerteza. Em consultas de cidadãos de alto risco, essa "vontade de falar" combinada com alta variância cria um risco onde os usuários podem confiar excessivamente em informações imprecisas ou desatualizadas.
3. Chamada para Falibilidade Reconhecida: Os autores argumentam que a IA confiável no setor público requer modelos que possam reconhecer suas limitações (falibilidade) em vez de sobre-gerar afirmações potencialmente incorretas.
4. Fundação para Governança Futura: Construído inteiramente sobre dados abertos, o benchmark estabelece as bases para suítes de avaliação centralizadas que podem guiar decisões de política e aquisição relacionadas à IA no setor público.

Os autores concluem que, embora os LLMs mostrem promessa, sua tendência atual para alta variância e sobre-geração os torna inadequados para implantação direta sem melhorias significativas em confiabilidade e mecanismos para reconhecer a incerteza.