📊 statistics

Toward Efficient Uncertainty in LLMs through Evidential Knowledge Distillation

Este artigo propõe um método eficiente para quantificação de incerteza em grandes modelos de linguagem ao utilizar a destilação de conhecimento baseada em LoRA para transferir capacidades de percepção de incerteza de professores de múltiplas passagens e computacionalmente caros para estudantes de passagem única, alcançando desempenho comparável sem a pesada latência de inferência dos métodos tradicionais de amostragem.

Autores originais: Lakshmana Sri Harsha Nemani, P. K. Srijith, Tomasz Kuśmierczyk

Publicado 2026-07-07

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Lakshmana Sri Harsha Nemani, P. K. Srijith, Tomasz Kuśmierczyk

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você tem um consultor especialista, brilhante, mas incrivelmente lento (o Professor). Esse consultor é incrível em adivinhar a resposta certa para uma pergunta, mas também é muito cauteloso. Antes de dar uma resposta, ele não apenas adivinha uma vez; ele faz dez versões de si mesmo perguntarem, ou passa a mesma pergunta por dez "lentes" diferentes, para ver o quanto suas respostas variam.

Se todas as dez versões concordarem, o consultor diz: "Estou 100% seguro".
Se as dez versões estiverem totalmente dispersas, o consultor diz: "Não tenho certeza nenhuma".

Esse processo de perguntar a dez versões de si mesmo é como o artigo descreve os métodos baseados em amostragem (como modelos Bayesianos ou Ensembles). É ótimo para saber o quão seguro o modelo está, mas é dolorosamente lento. Se você fizer uma pergunta ao consultor, terá que esperar que ele execute dez simulações antes de lhe dar uma resposta. No mundo da IA, isso é como esperar por um trem lento quando você só queria uma viagem rápida de ônibus.

Os autores deste artigo perguntaram: "Podemos treinar um aluno rápido, de passagem única, para aprender com este especialista lento e cauteloso?"

Aqui está como eles fizeram isso, dividido em conceitos simples:

1. O Objetivo: O Aluno Rápido

Eles queriam criar um modelo Aluno que fosse tão inteligente quanto o Professor, mas que não precisasse executar dez simulações. O Aluno deve ser capaz de olhar para uma pergunta uma única vez, dar uma resposta e dizer o quão confiante ele está, tudo em um único instante.

Para tornar o Aluno rápido, eles usaram uma técnica chamada LoRA (Low-Rank Adaptation). Pense nisso como dar ao Aluno "rodinhas de treinamento" ou uma mochila leve. Em vez de reconstruir todo o cérebro do Aluno (que é enorme e caro), eles apenas ajustam uma parte pequena e especializada dele para aprender com o Professor.

2. Os Dois Tipos de Alunos

Os pesquisadores testaram duas maneiras diferentes de ensinar o Aluno a expressar incerteza:

O Aluno "Médio" (Softmax):
Este aluno aprende a média do que as dez versões do Professor disseram. Se as versões do Professor foram 50% "Sim" e 50% "Não", este aluno aprende a dizer "50% Sim".
- O Problema: Este aluno pode te dizer a média, mas ele esquece a história por trás da média. Ele não sabe se o Professor estava confuso (todas as versões discordaram) ou se os dados eram apenas ruidosos. Ele colapsa toda essa incerteza complexa em um único número.
O Aluno de "Evidência" (Dirichlet):
Este é a principal inovação do artigo. Em vez de apenas aprender uma média, este aluno aprende em termos de evidência.
- Imagine que as dez versões do Professor são como dez testemunhas em um tribunal.
- O aluno Softmax apenas conta os votos: "6 disseram Culpado, 4 disseram Não Culpado".
- O aluno Dirichlet observa a confiança das testemunhas. Todas as 10 testemunhas gritaram "Culpado" com alta confiança? Ou todas elas murmuraram "Talvez Culpado" com baixa confiança?
- Este aluno produz uma "distribuição de Dirichlet", que é uma forma matemática de dizer: "Aqui está meu melhor palpite e aqui está uma medida de quanta evidência eu tenho para sustentá-lo". Se a evidência for baixa, o aluno sabe que está incerto, mesmo que o palpite pareça claro.

3. O Truque de Mágica: Destilação de Conhecimento

O processo de ensinar o Aluno é chamado de Destilação de Conhecimento.

Os pesquisadores deixaram o Professor lento executar suas dez simulações em uma série de perguntas de prática.
Eles pegaram os resultados dessas dez simulações (a média do palpite e a dispersão das opiniões) e os forneceram ao Aluno.
O Aluno foi então treinado para imitar esses resultados usando apenas uma passagem direta (forward pass).
Eles usaram um método de "cronômetro" (Early Stopping) para garantir que o Aluno não apenas memorizasse os erros do Professor, mas que realmente aprendesse os padrões corretos.

4. Os Resultados: Velocidade vs. Inteligência

O artigo testou isso em tarefas de classificação de texto (como classificar avaliações como "Positivas" ou "Negativas").

Velocidade: O Professor era lento porque tinha que executar muitas simulações. O Aluno foi de 11 a 36 vezes mais rápido porque executou apenas uma vez.
Precisão: O Aluno foi tão bom quanto o Professor em obter a resposta correta.
Incerteza: O Aluno Dirichlet foi particularmente bom em saber quando não estava seguro. Ele conseguiu distinguir entre "Eu não sei porque os dados são confusos" (incerteza epistêmica) e "Eu não sei porque a pergunta é vaga" (incerteza aleatória).

A Conclusão

O artigo afirma que eles construíram com sucesso uma "via rápida" para a incerteza. Eles pegaram uma IA baseada em amostragem, lenta e pesada, que é ótima em saber o que não sabe, e destilaram sua sabedoria em um modelo leve de passagem única.

O Professor: Um especialista lento e cauteloso que revisa seu trabalho dez vezes.
O Aluno: Um trabalhador rápido e eficiente que aprendeu a revisar seu trabalho uma vez, mas ainda sabe exatamente o quão confiante deve estar.

Os autores enfatizam que isso funciona para classificação de texto (classificar textos em categorias). Eles não afirmam que isso funciona para gerar histórias longas ou tarefas de raciocínio complexo ainda, mas acreditam que isso prova o conceito de que você pode ter uma IA rápida e consciente da incerteza sem o alto custo computacional.

Resumo Técnico: Rumo à Incerteza Eficiente em LLMs através de Destilação de Conhecimento Evidencial

Definição do Problema
A quantificação precisa da incerteza é um desafio crítico para os Grandes Modelos de Linguagem (LLMs). Embora métodos fundamentados teoricamente, como Redes Neurais Bayesianas (BNNs) e abordagens baseadas em ensembles (ex: Bayesian Prompt Ensembles), modelem efetivamente a incerteza epistêmica e melhorem a calibração, eles sofrem com custos computacionais proibitivos. Esses métodos tipicamente exigem múltiplas passagens (amostragem) durante o treinamento e a inferência para aproximar distribuições preditivas via amostragem de Monte Carlo. Esse requisito de múltiplas passagens aumenta significativamente a latência de inferência, limitando a implantação prática de LLMs conscientes de incerteza em aplicações de tempo real ou de larga escala.

Metodologia
Os autores propõem um framework para Destilação de Conhecimento Evidencial para transferir estimativas de incerteza de modelos "professor" computacionalmente caros, baseados em amostragem, para modelos "aluno" eficientes de passagem única.

Modelos Professores: O estudo utiliza dois professores distintos baseados em amostragem:
- Bayesian Prompt Ensembles (BayesPE): Uma formulação de ensemble sobre prompts de entrada.
- Laplace LoRA: Uma abordagem Bayesiana utilizando aproximação de Laplace sobre pesos LoRA.
  Ambos os professores geram distribuições preditivas agregando múltiplas amostras (prompts ou perturbações de pesos) para capturar a incerteza total (aleatória + epistêmica).
Arquitetura do Aluno: Os alunos são LLMs pré-treinados (Mistral 7B Instruct) ajustados finamente usando Low-Rank Adaptation (LoRA). Isso permite atualizações de parâmetros eficientes sem o retreinamento de todo o modelo. O processo de destilação inicializa as matrizes LoRA do aluno a partir do professor (se aplicável) e realiza o ajuste fino usando uma cabeça de classificação modificada.
Estratégias de Destilação: O artigo compara duas parametrizações de saída do aluno:
- Estudante Softmax: Um modelo de linha de base que produz uma distribuição categórica única (médias de probabilidades) via softmax. Ele minimiza a log-verossimilhança negativa das previsões médias do professor. Embora rápido, ele colapsa toda a incerteza em entropia de Shannon, falhando em distinguir entre os componentes aleatórios e epistêmicos.
- Estudante Evidencial (Dirichlet): Este modelo emprega Aprendizado Profundo Evidencial, produzindo os parâmetros ( $\alpha$ ) de uma distribuição de Dirichlet. Em vez de prever probabilidades de classe diretamente, ele prevê parâmetros de concentração derivados de logits ( $\alpha_c = 1 + \text{softplus}(z_c)$ ). A evidência total ( $\alpha_0 = \sum \alpha_c$ ) serve como uma medida explícita de confiança. Esta formulação permite que o modelo separe a incerteza aleatória (ruído inerente aos dados) da incerteza epistêmica (ignorância do modelo) dentro de uma única passagem direta.
Objetivo de Treinamento: Os alunos são treinados para corresponder à distribuição preditiva do professor. A função de perda para o estudante evidencial é a log-verossimilhança negativa das previsões amostradas do professor sob a distribuição de Dirichlet prevista.
- Regularização: Os autores investigam várias estratégias de regularização para o parâmetro de concentração $\alpha_0$ , incluindo fixá-lo em uma constante, puxá-lo em direção a uma prior uniforme ou ancorá-lo a uma média aprendível de todo o conjunto de dados, para evitar o excesso de confiança e estabilizar o treinamento.
- Parada Antecipada (Early Stopping): O treinamento é interrompido com base na log-verossimilhança negativa (NLL) nos rótulos reais para evitar o overfitting ao ruído do professor.

Principais Resultados
Experimentos foram conduzidos em quatro conjuntos de dados de classificação de texto (Amazon, SST2, Yahoo, YouTube) utilizando o backbone Mistral 7B.

Eficiência de Inferência: Os alunos destilados alcançam uma redução massiva no tempo de inferência em comparação com seus professores. Para professores BayesPE, o estudante Dirichlet é 11x a 36x mais rápido (ex: aceleração de 36x no Yahoo), pois requer apenas uma passagem direta contra as múltiplas passagens exigidas pelo professor.
Desempenho Preditivo: Os alunos destilados igualam ou ocasionalmente excedem a precisão preditiva de seus professores. Por exemplo, o estudante Dirichlet superou o professor BayesPE nos datasets Yahoo (+1.7 pp) e YouTube (+2.5 pp).
Quantificação de Incerteza:
- Calibração: Os estudantes Dirichlet geralmente alcançam um Erro de Calibração Esperado (ECE) e pontuações de Brier menores do que tanto os professores quanto as linhas de base Softmax.
- Detecção de OOD: Em experimentos de Out-of-Distribution (OOD), o estudante Dirichlet demonstrou capacidade superior para distinguir entre amostras in-domain e OOD (maior AUROC) comparado ao professor e ao estudante Softmax. Ele conseguiu amplificar a entropia preditiva total para dados OOD.
- Decomposição: Diferente do estudante Softmax, o estudante Dirichlet consegue decompor a incerteza em componentes aleatórios e epistêmicos, fornecendo sinais de incerteza mais ricos.
Convergência: Alunos destilados de professores BayesPE convergiram muito rapidamente (frequentemente em 1–5 épocas), enquanto aqueles de professores Laplace exigiram mais épocas (20–40), sugerindo um cenário de otimização mais complexo para este último.

Significância e Alegações
O artigo afirma ser a primeira aplicação de Aprendizado Profundo Evidencial para a destilação de Grandes Modelos de Linguagem. Sua principal contribuição é estabelecer uma base para a estimativa de incerteza eficiente de passagem única em LLMs.

Troca entre Eficiência vs. Precisão: O trabalho demonstra que é possível herdar a robusta modelagem de incerteza de métodos de amostragem computacionalmente intensivos sem incorrer em sua latência de inferência.
Modelagem Epistêmica: Ao utilizar saídas de Dirichlet, o método modela explicitamente a incerteza epistêmica, uma capacidade perdida na destilação softmax padrão.
Escopo e Limitações: Os autores enquadram modestamente o presente trabalho como uma prova de conceito limitada a tarefas de classificação de texto discretas. Eles reconhecem que, embora os resultados sejam promissores, estender este framework para a geração de texto aberta permanece como uma direção para trabalhos futuros. O estudo foca em igualar o desempenho do professor em vez de melhorar as capacidades absolutas do professor, embora os resultados empíricos mostrem que os alunos às vezes superam os professores devido aos efeitos de regularização e parada antecipada do processo de destilação.

1. O Objetivo: O Aluno Rápido

2. Os Dois Tipos de Alunos

3. O Truque de Mágica: Destilação de Conhecimento

4. Os Resultados: Velocidade vs. Inteligência

A Conclusão

Mais como este