Domain-Shift-Aware Conformal Prediction for Large Language Models

Resumo Técnico: Predição Conforme Sensível à Mudança de Domínio para Grandes Modelos de Linguagem

Definição do Problema
Grandes Modelos de Linguagem (LLMs) frequentemente produzem saídas excessivamente confiantes, porém factualmente incorretas (alucinações), o que acarreta riscos significativos em domínios de alto risco, como saúde e finanças. Embora a Predição Conforme (CP - Conformal Prediction) ofereça um arcabouço principiado para a quantificação de incerteza (UQ) com garantias de cobertura de amostra finita e independentes da distribuição, a CP padrão baseia-se na suposição de permutabilidade (exchangeability). Esta suposição exige que os dados de calibração e de teste sejam extraídos da mesma distribuição. Em implementações do mundo real, a mudança de domínio (domain shift) é onipresente; os prompts de teste frequentemente diferem significativamente dos dados de calibração históricos devido à evolução do comportamento do usuário ou das distribuições de entrada. Sob tais mudanças, a CP padrão frequentemente sofre de subcobertura, produzindo conjuntos de predição excessivamente estreitos para conter a resposta verdadeira, falhando, assim, em fornecer garantias de incerteza confiáveis.

Metodologia: Estrutura DS-CP
Os autores propõem a Predição Conforme Sensível à Mudança de Domínio (DS-CP), um arcabouço projetado para adaptar a CP para LLMs sob mudança de domínio sem exigir dados rotulados do alvo. O método aborda a inviabilidade de estimar razões de densidade em espaços de prompts não estruturados e de alta dimensão através das seguintes etapas:

1. Incorporação Semântica (Semantic Embedding): Em vez de operar no espaço de tokens bruto, o arcabouço utiliza um modelo de incorporação pré-treinado $h: \mathcal{X} \to \mathcal{Z}$ para projetar os prompts em um espaço semântico de menor dimensão. Isso captura a similaridade entre domínios, permitindo que a mudança de domínio seja caracterizada pela mudança na distribuição de incorporação.
2. Estimativa de Razão de Densidade: No espaço de incorporação, um classificador de domínio é treinado para distinguir entre prompts de origem (calibração) e de alvo (teste). Este classificador estima a razão de densidade $\tilde{r}(z) = \frac{dP'_Z}{dP_Z}(z)$, que serve como um peso para as amostras de calibração com base em sua proximidade ao domínio alvo.
3. Ponderação Regularizada: Para evitar que os conjuntos de predição degenerem para todo o espaço de saída (um risco quando as razões de densidade são altamente desequilibradas devido a grandes mudanças ou tamanhos de amostra pequenos), os autores introduzem uma etapa de regularização. O peso atribuído ao ponto de teste é substituído por um parâmetro regularizado $\lambda$ que depende apenas dos dados de calibração.
   • A distribuição de escore empírica é construída como:
     $$\hat{\mu}_n = \sum_{i=1}^n \frac{\hat{w}_i}{\sum \hat{w}_j + \lambda} \delta_{S_i} + \frac{\lambda}{\sum \hat{w}_j + \lambda} \delta_{\infty}$$
     onde $\hat{w}_i$ são as razões de densidade estimadas para as amostras de calibração, e $\lambda$ é escolhido (tipicamente como $\max_i \hat{w}_i$) para equilibrar validade e adaptatividade.
4. Construção do Conjunto de Predição: O conjunto de predição final para um novo prompt é definido pelo quantil $(1-\alpha)$ desta distribuição empírica ponderada.

Garantias Teóricas
O artigo estabelece limites de cobertura de amostra finita para o DS-CP:

• Limite Inferior: A probabilidade de cobertura é garantida para ser pelo menos $1 - \alpha$ menos um termo de lacuna (gap). Esta lacuna depende dos pesos normalizados e da distância de variação total entre as distribuições de escore dos pontos de calibração e de teste no espaço de incorporação.
• Condição de Suavidade: Os autores mostram que, se o escore de não conformidade variar suavemente em relação à incorporação semântica, a lacuna de cobertura permanece pequena mesmo se as distribuições brutas de prompts forem distintas.
• Conservadorismo: Um limite superior é fornecido, mostrando que o termo de regularização $\lambda$ introduz um grau controlado de conservadorismo (sobrecobertura) quando o tamanho efetivo da amostra de dados de calibração relevantes é baixo.
• Recuperação da CP Padrão: Sob a condição de permutabilidade (sem mudança de domínio), o método reduz-se exatamente à CP padrão, garantindo que não haja perda de validade no cenário ideal.

Resultados Experimentais
O arcabouço foi avaliado no benchmark MMLU, tratando diferentes categorias de assuntos como domínios distintos para simular a mudança de domínio. Os experimentos foram realizados em 16 LLMs de código aberto de 9 famílias de modelos.

• Cobertura: A CP padrão frequentemente falhou em atingir a cobertura alvo de 90%, caindo significativamente abaixo desse nível quando os domínios de calibração e teste divergiam. O DS-CP melhorou consistentemente a cobertura, mantendo-a mais próxima do nível alvo em todos os modelos e pares de domínios.
• Tamanho do Conjunto: Embora o DS-CP tenha produzido conjuntos de predição ligeiramente maiores do que a CP padrão para compensar a mudança, o aumento foi modesto. Isso demonstra um equilíbrio bem-sucedido entre restaurar a validade e manter a eficiência.
• Adaptatividade: A análise mostrou que o DS-CP corrige seletivamente a subcobertura em casos difíceis (onde a CP padrão falha), enquanto faz ajustes mínimos quando a CP já é válida, provando que não é meramente um alargamento uniforme de conjuntos.

Significância e Alegações
O artigo afirma fornecer um passo prático em direção à quantificação de incerteza confiável para LLMs em implantação no mundo real. Sua principal significância reside em:

1. Estender a CP além da permutabilidade: Oferece um método sistemático e teoricamente fundamentado para lidar com a mudança de domínio em LLMs, um cenário onde a CP padrão falha.
2. Adaptação Semântica: Ao alavancar incorporações semânticas em vez de texto bruto, torna a estimativa de razão de densidade viável para entradas de LLM de alta dimensão.
3. Confiabilidade Equilibrada: Alcança um equilíbrio entre validade estatística (preservando garantias de cobertura) e adaptatividade (ajustando os conjuntos de predição ao domínio alvo específico), abordando a questão crítica de predições não confiáveis em aplicações de segurança crítica.

Os autores observam limitações, incluindo a dependência da qualidade dos estimadores de incorporação e de razão de densidade, a necessidade de prompts de alvo não rotulados e o foco atual em tarefas de múltipla escolha em vez de geração aberta. No entanto, eles sustentam que o DS-CP representa uma adaptação principiada da predição conforme especificamente adaptada para a natureza de alta dimensão e não estruturada dos prompts de LLM sob mudança de distribuição.