Adaptive Conformal Prediction for Improving Factuality of Generations by Large Language Models

Título: Predição Conformal Adaptativa para Melhorar a Factibilidade de Gerações por Modelos de Linguagem de Grande Escala (LLMs)

1. Problema Identificado

Os Modelos de Linguagem de Grande Escala (LLMs) são propensos a gerar "alucinações", ou seja, outputs fluentes mas factualmente incorretos. Em domínios de alto risco (como medicina), isso é crítico.

• Limitação das Abordagens Atuais: Métodos recentes de Predição Conformal foram aplicados para fornecer garantias estatísticas de factibilidade (estimativas de incerteza). No entanto, a maioria desses métodos é não adaptativa ao prompt. Eles aplicam um único limiar quantil calibrado uniformemente para todos os prompts de teste, independentemente da dificuldade, ambiguidade ou raridade da entrada.
• Consequência: Isso leva a uma má calibração condicional. Para alguns prompts, o método pode ser excessivamente conservador (cobertura excessiva/over-coverage, filtrando pouco), enquanto para outros é insuficientemente rigoroso (cobertura insuficiente/under-coverage, permitindo erros). Embora garantam uma "cobertura marginal" (média global), falham em garantir a factibilidade consistente em subgrupos específicos de tarefas.

2. Metodologia Proposta

Os autores propõem uma abordagem de Predição Conformal Adaptativa que estende métodos de transformação de pontuação conformal para LLMs, permitindo uma calibração dependente do prompt.

• Conceito Central: Em vez de usar um limiar global, o método aprende uma transformação da pontuação de não conformidade baseada nas características do prompt (usando embeddings).
• Fluxo de Trabalho:
  1. Decomposição: As respostas geradas em texto livre são decompostas em "afirmações atômicas" verificáveis.
  2. Pontuação de Incerteza ($s(c)$): Cada afirmação recebe uma pontuação de incerteza (ex: probabilidade condicional, entropia).
  3. Função de Factibilidade ($w(c, y)$): Um oráculo (baseado em NLI) determina se a afirmação é correta em relação à resposta de referência.
  4. Transformação Adaptativa:
     • O método utiliza um estimador de quantil condicional ($\hat{\tau}(x)$) treinado em um conjunto de calibração ($D_{cal1}$) usando os embeddings do prompt como entrada.
     • As pontuações de não conformidade originais ($V(x, y)$) são normalizadas dividindo-se pelo quantil condicional estimado: $\tilde{V}(x, y) = V(x, y) / \hat{\tau}(x)$.
     • Isso equaliza a distribuição das pontuações entre diferentes tipos de prompts.
  5. Calibração e Filtro: Um novo limiar global é calculado sobre as pontuações transformadas em um segundo conjunto de calibração ($D_{cal2}$). Na fase de teste, apenas as afirmações com pontuação normalizada abaixo desse limiar são mantidas.
• Aplicações: O método é aplicado tanto em Resposta a Perguntas de Longo Formato (filtrando afirmações individuais) quanto em Perguntas de Múltipla Escolha (filtrando classes de resposta candidatas).

3. Contribuições Principais

1. Nova Abordagem Conformal: Proposição de um método para detecção de alucinações que aprende uma correção adaptativa ao prompt via regressão de quantis condicional baseada em embeddings.
2. Garantias Teóricas e Práticas: O método preserva as garantias de cobertura marginal de tamanho finito (típicas da predição conformal dividida) enquanto melhora significativamente a cobertura condicional (desempenho consistente em prompts heterogêneos).
3. Suporte à Predição Seletiva: Permite filtrar automaticamente afirmações ou opções de resposta não confiáveis em aplicações downstream, mantendo a integridade factual.
4. Validação Empírica: Demonstração experimental em múltiplos modelos (Mistral, Llama, Gemma) e domínios, superando as linhas de base existentes.

4. Resultados Experimentais

Os experimentos foram realizados em benchmarks de QA de Longo Formato (8 categorias, ex: Biografias, Invenções) e QA de Múltipla Escolha (16 categorias do MMLU).

• Melhoria na Cobertura Condicional:
  • Em tarefas onde os prompts variam em dificuldade (ex: "Invenções" vs. "Biografias"), o método conformal padrão falha em atingir a cobertura alvo para cada categoria individualmente (superestima em alguns, subestima em outros).
  • O método Adaptativo alinha a cobertura empírica com a cobertura alvo para cada categoria, mantendo a garantia marginal global.
• Redução de Remoção de Itens Válidos:
  • Ao ajustar o limiar localmente, o método adaptativo tende a remover uma fração menor de afirmações corretas (reduzindo o false negative em categorias mais fáceis) enquanto mantém o controle de erros em categorias difíceis.
• Desempenho em Múltiplos Modelos:
  • Resultados consistentes foram observados em Mistral-7B, Llama-3.1-8B e Gemma-3-12B.
  • Perfis de desempenho (Dolan-Moré) mostram que o método adaptativo tem erro de calibração menor e mais estável em comparação com o método original em quase todos os cenários de teste.
• Método de Pontuação: A métrica de incerteza baseada em Probabilidade Condicional da Afirmação (Claim Conditioned Probability) mostrou-se superior a outras métricas (como entropia de token ou perplexidade) para filtrar afirmações.

5. Significado e Impacto

Este trabalho é significativo porque resolve uma lacuna crítica na aplicação de predição conformal em LLMs: a heterogeneidade dos prompts.

• Confiabilidade Prática: Permite que sistemas baseados em LLMs operem com garantias estatísticas rigorosas não apenas em média, mas em cada interação específica, o que é vital para aplicações críticas.
• Flexibilidade: O método não requer agrupamento manual de dados ou engenharia de características complexas; ele aprende a adaptação diretamente dos embeddings do prompt.
• Futuro: Abre caminho para o uso de predição conformal em tarefas de geração mais complexas e dinâmicas, onde a variabilidade da entrada é alta, garantindo que a "confiança" do modelo corresponda à sua "veracidade" real em qualquer contexto.

Em resumo, a abordagem transforma a predição conformal de uma ferramenta de garantia global média para um mecanismo de controle de qualidade adaptativo e robusto para a geração de texto por IA.