🤖 AI

Entropy Distribution as a Fingerprint for Hallucinations in Generative Models

Este artigo apresenta o Escore de Entropia Calibrada (CES), um método leve de caixa preta em passagem única que aproveita distribuições de entropia em nível de token para detectar alucinações de LLM com garantias formais de erro e desempenho comparável a abordagens multi-amostra computacionalmente caras.

Autores originais: Mattia J. Villani, Pranav Deshpande, Akshay Seshadri, Romina Yalovetzky, Niraj Kumar

Publicado 2026-05-28

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Mattia J. Villani, Pranav Deshpande, Akshay Seshadri, Romina Yalovetzky, Niraj Kumar

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está ouvindo um contador de histórias. Às vezes, ele conta uma história perfeitamente verdadeira e que flui naturalmente. Outras vezes, ele começa a "alucinar" — inventando fatos, ficando confuso ou divagando de um modo que não faz sentido.

Por muito tempo, computadores tentando detectar essas mentiras tinham que fazer uma de duas coisas: ou pedir ao contador de histórias para repetir a história cinco ou seis vezes para ver se os detalhes coincidiam (o que é lento e caro), ou espiar dentro do cérebro do contador de histórias para ver suas anotações secretas (o que muitas vezes é impossível com sistemas fechados).

Este artigo apresenta uma nova e inteligente maneira de pegar um mentiroso que exige apenas ouvir a história uma vez. É chamada de Pontuação de Entropia Calibrada (CES).

Veja como funciona, usando analogias simples:

1. O "Medidor de Confiança" (Entropia)

Toda vez que um Modelo de Linguagem de Grande Escala (LLM) escreve uma palavra, ele tem um "medidor de confiança" para o que vem a seguir.

Alta Confiança: O modelo sabe exatamente o que dizer. É como um chef que conhece a receita perfeitamente. A "entropia" (uma medida de incerteza) é baixa.
Baixa Confiança: O modelo está chutando. É como o chef encarando uma geladeira vazia, inseguro sobre o que cozinhar. A "entropia" é alta.

2. O Jeito Antigo vs. O Jeito Novo

O Jeito Antigo (Perplexidade):
Os métodos anteriores olhavam para a confiança média de toda a história.

Analogia: Imagine um aluno fazendo uma prova. O método antigo olha apenas para a sua nota média. Se a média for 70%, ele pode passar. Mas isso esconde a verdade: ele acertou todas as questões com 70% de acerto? Ou ele acertou 10 questões perfeitamente (100%) e errou 10 questões completamente (0%)? A média é a mesma, mas o segundo aluno é muito mais instável.

O Jeito Novo (CES):
Os autores perceberam que a forma do medidor de confiança importa mais do que a média.

Analogia: Quando um modelo está dizendo a verdade, seu medidor de confiança é estável e previsível. Quando ele começa a alucinar, o medidor fica selvagem. Pode ficar calmo por um tempo, depois disparar repentinamente para uma confusão total, e disparar novamente.
O artigo afirma que esse "padrão selvagem" é uma impressão digital de uma mentira. Mesmo que a confiança média pareça normal, os picos (a incerteza máxima) e a forma geral da curva a delatam.

3. Como a CES Funciona (A Verificação da "Impressão Digital")

O método funciona em duas etapas:

Aprendendo o Padrão da "Verdade": Primeiro, o sistema ouve muitas histórias que se sabe serem verdadeiras. Ele constrói um "mapa de referência" (uma curva estatística) de como o medidor de confiança de uma história verdadeira se parece. Ele nota: "Ok, histórias verdadeiras geralmente têm pequenas elevações aqui, mas raramente picos enormes ali."
O Teste de Uma Única Vez: Quando uma nova história chega, o sistema a ouve apenas uma vez. Ele não pede uma segunda opinião. Ele verifica o medidor de confiança da história contra o "Mapa da Verdade".
- Se a história tiver um pico estranho ou uma forma que não se encaixa no mapa, o sistema a sinaliza: "Isso parece uma alucinação!"

4. Por Que Isso é Importante

Velocidade: Precisa apenas de uma passagem pelo texto. É como pegar um mentiroso ouvindo-o falar uma vez, em vez de fazê-lo repetir a história cinco vezes.
Amigo da Caixa Preta: Você não precisa ver o código interno do modelo ou seus pensamentos ocultos. Você só precisa dos "logits" (os números brutos de confiança que o modelo gera antes de escolher uma palavra), que a maioria das APIs fornece.
Prova Estatística: Os autores não apenas adivinharam que isso funciona. Eles usaram matemática para provar que, à medida que a história fica mais longa, a chance de perder uma mentira cai para quase zero, e a chance de acusar falsamente uma história verdadeira também cai para quase zero.

Resumo

Pense na CES como um detector de mentiras que não precisa de um polígrafo ou de uma segunda entrevista. Ele apenas escuta o ritmo da incerteza no texto. Se o ritmo é estável, provavelmente é verdade. Se o ritmo tem saltos erráticos e selvagens (mesmo que a média pareça boa), provavelmente é uma alucinação.

O artigo testou isso em 10 modelos de IA diferentes e 8 tipos diferentes de perguntas (de matemática a curiosidades) e descobriu que esse método de "uma única passagem" pega mentiras tão bem quanto os métodos caros de múltiplas passagens, mas muito mais rápido e barato.

Resumo Técnico: Distribuição de Entropia como Impressão Digital para Alucinações em Modelos Generativos

Declaração do Problema

Modelos de Linguagem de Grande Escala (LLMs) frequentemente geram saídas factualmente incorretas, um fenômeno conhecido como alucinação, que mina a confiança e limita a implantação em domínios de alto risco. Os métodos de detecção existentes sofrem com limitações significativas:

Métodos baseados em consistência (por exemplo, Entropia Semântica, SelfCheckGPT) exigem múltiplas passadas forward ( $K \ge 5$ ), incorrendo em altos custos computacionais.
Métodos de estado interno exigem acesso a representações ocultas ou matrizes de atenção, o que é impossível com modelos de API de caixa-preta.
Heurísticas de passagem única (por exemplo, Perplexidade, Entropia Normalizada por Comprimento) reduzem o sinal completo de entropia para um único resumo escalar, descartando informações distribucionais ricas que podem ser críticas para a detecção.

Os autores postulam que a distribuição das entropias ao nível do token, e não apenas sua média, serve como uma "impressão digital" única de alucinação.

Metodologia: Pontuação de Entropia Calibrada (CES)

O artigo propõe um framework que formaliza a detecção de alucinações como um teste de hipótese estatística, exigindo apenas uma única passada forward e acesso de caixa-preta aos logits dos tokens.

1. Fundamentação Teórica

A hipótese central é que, quando um modelo alucina, a distribuição das entropias dos tokens diverge da distribuição observada durante gerações fiéis. Essa divergência não é meramente uma mudança na média; a forma e o comportamento da cauda da distribuição carregam sinais independentes.

Hipótese Nula ( $H_0$ ): A sequência de entropia gerada é consistente com uma Função de Distribuição Acumulada (CDF) de referência, $F_0$ , derivada de dados não alucinados.
Hipótese Alternativa ( $H_1$ ): A sequência é inconsistente com $F_0$ , indicando alucinação.

2. A Pontuação de Entropia Calibrada (CES)

CES é um algoritmo leve que combina duas estatísticas de resumo da sequência de entropia:

Entropia Média ( $\bar{h}$ ): Captura a tendência central.
Entropia Máxima ( $h_{max}$ ): Captura anomalias de cauda (picos de alta incerteza).

A pontuação é calculada como a média geométrica dos valores da CDF de referência nesses pontos:
$\text{CES}(h) = \sqrt{\hat{F}_0(\bar{h}) \cdot \hat{F}_0(h_{max})}$
onde $\hat{F}_0$ é a CDF empírica estimada offline a partir de um conjunto de calibração. Uma geração é sinalizada como alucinação se o CES exceder um limiar calibrado.

3. Calibração e Robustez

Calibração Supervisionada: Utiliza um oráculo (por exemplo, especialista humano ou juiz LLM) para filtrar dados de calibração, construindo $\hat{F}_0$ estritamente a partir de instâncias fiéis.
Variante Não Supervisionada: Quando rótulos de oráculo não estão disponíveis, o método estima $F_0$ diretamente de todas as amostras de calibração. A análise teórica (Proposição 1) prova que, se a taxa de contaminação de amostras alucinadas for baixa, a CDF estimada permanece robusta.
Garantias Teóricas: Os autores generalizam a desigualdade de Dvoretzky–Kiefer–Wolfowitz (DKW) para vetores de comprimento aleatório para fornecer garantias de calibração de amostras finitas. Eles provam ainda que as taxas de falso positivo e falso negativo do teste CES decaem exponencialmente com o comprimento da geração.

Contribuições Principais

Distribuições de Entropia como Impressões Digitais: O artigo fornece evidências empíricas e teóricas de que a forma da distribuição de entropia do token (além da média) distingue gerações alucinadas de gerações fiéis. Um experimento sintético de deslocamento de média confirma que as diferenças de forma persistem mesmo após a remoção de deslocamentos de localização.
Framework Estatisticamente Fundamentado: O CES formaliza a detecção como um teste de hipótese, separando a definição de alucinação (delegada a um oráculo) do mecanismo de detecção. Isso torna o método agnóstico ao modelo específico, tarefa ou taxonomia de alucinação.
Garantias Teóricas: O trabalho estabelece a convergência exponencial das taxas de erro com o comprimento da geração e fornece limites de amostras finitas por meio de uma nova desigualdade DKW de comprimento aleatório.
Validação Empírica Extensa: O CES foi avaliado em 8 benchmarks de QA e 10 modelos (abrangendo famílias de código aberto Llama/Falcon/Mistral e variantes proprietárias GPT-4).

Resultados Experimentais

Desempenho: Em 80 experimentos modelo-conjunto de dados, o CES (não supervisionado) alcançou uma classificação média de 6,29 entre 17 métodos, posicionando-se no topo do grupo estatístico ao lado de métodos complexos de múltiplas amostras como Entropia de Linguagem de Kernel (KLE).
Comparação com Baselines:
- O CES superou significativamente baselines de passagem única como Perplexidade e Entropia Normalizada por Comprimento.
- O CES alcançou uma taxa de vitória de 66,8% em comparações pareadas contra 16 métodos de benchmark.
- Notavelmente, o CES (passada única, caixa-preta) foi estatisticamente indistinguível de métodos de múltiplas amostras que exigem $K \ge 5$ passadas forward, fechando efetivamente a lacuna entre detecção leve e cara.
Robustez: O método demonstrou resiliência à contaminação de calibração (até 50% de tokens alucinados no conjunto de referência) e a rótulos de oráculo ruidosos, com o desempenho permanecendo estável mesmo quando 50% dos rótulos de calibração foram invertidos.
Generalização para API: O CES transferiu-se com sucesso para modelos apenas de API (família GPT-4) usando apenas as top-k probabilidades de log, alcançando desempenho comparável ao de modelos de pesos abertos.

Significado e Alegações

O artigo alega que o CES representa um avanço significativo ao fornecer garantias formais de erro (limites de erro Tipo I e Tipo II) que heurísticas existentes carecem, mantendo ao mesmo tempo a eficiência computacional de uma única passada forward.

Implantação Prática: Ao exigir apenas acesso a logits de caixa-preta e uma única passada, o CES é adequado para implantação em tempo real e em grande escala em configurações de alto risco, onde métodos de múltiplas passadas são muito custosos e métodos de estado interno são inacessíveis.
Insight Teórico: O trabalho muda o paradigma de ver a entropia como uma métrica de incerteza escalar para tratá-la como uma impressão digital distribucional, demonstrando que a "cauda" da distribuição de entropia é um sinal crítico para alucinação.
Limitações: Os autores reconhecem que o poder do CES degrada-se para gerações muito curtas ( $m < 10$ tokens) devido a amostras insuficientes para testes distribucionais. Além disso, se um modelo for treinado com dados incorretos (alucinação sistemática), a distribuição de entropia pode não divergir, tornando o teste impotente. O método também depende do acesso às probabilidades do próximo token, que alguns provedores de API podem restringir.

Em conclusão, o artigo argumenta que o CES oferece o desempenho de detecção mais forte alcançável sob restrições de acesso mínimo, fornecendo uma alternativa rigorosa e estatisticamente fundamentada tanto a métodos heurísticos de passagem única quanto a abordagens de múltiplas amostras computacionalmente caras.