💻 computer science

ERRORQUAKE: Heavy-Tailed Error Severity Distributions in Open-Weight Large Language Models

Este artigo apresenta o Errorquake-10k, um benchmark abrangente que demonstra que modelos de linguagem de pesos abertos exibem distribuições distintas de severidade de erro de cauda pesada mesmo em níveis de precisão equivalentes, provando que esses perfis de severidade fornecem informações críticas e não redundantes sobre a confiabilidade do modelo que as taxas de erro escalares não conseguem capturar.

Autores originais: Jason Z Wang

Publicado 2026-06-05

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Jason Z Wang

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está contratando uma equipe de assistentes para escrever relatórios para sua empresa. Você tem um teste padrão: você faz 10.000 perguntas e conta quantas vezes eles erram a resposta.

No mundo da IA, isso é chamado de taxa de erro. Se o Assistente A erra 58% das respostas e o Assistente B também erra 58%, o relatório padrão diz: "Eles são igualmente ruins."

Este artigo argumenta que este relatório é perigosamente enganoso.

Os autores, Jason Z Wang e colegas, introduzem uma nova forma de olhar para os erros chamada ERRORQUAKE. Eles sugerem que nem todos os erros são iguais. Um erro de data é um "arranhão na unha", mas uma decisão judicial completamente inventada que poderia enviar alguém para a cadeia é um "desabamento de um edifício". Ambos contam como "um erro" no sistema antigo, mas as consequências estão a mundos de distância.

Aqui está a divisão de suas descobertas usando analogias simples:

1. A Analogia do Terremoto (A Ideia Central)

Os autores pegam emprestado um conceito da sismologia (o estudo dos terremotos). Sismólogos sabem que os terremotos seguem um padrão específico: há muitos tremores minúsculos, menos médios e muito poucos eventos catastróficos e massivos. Eles usam um número chamado $b$ -value para descrever esse padrão.

$b$ -value alto: Muitos tremores pequenos e irritantes, mas quase nenhum desastre grande. (Pense: Um modelo que comete muitos erros de digitação ou deslizes factuais menores).
$b$ -value baixo: Menos erros totais, mas os que acontecem são desproporcionalmente enormes e catastróficos. (Pense: Um modelo que é majoritariamente silencioso, mas quando fala, inventa uma lei falsa ou uma descoberta científica falsa).

A Descoberta: Os autores testaram 21 modelos de IA de código aberto diferentes. Eles descobriram que, mesmo quando dois modelos tinham a mesma taxa de erro (ex: ambos errando 58,6% das vezes), seus $b$ -values eram totalmente diferentes.

Exemplo: Um modelo (DeepSeek-V3.2) tinha um "baixo $b$ -value", o que significava que seus erros tinham cauda pesada (raros, mas catastróficos). Outro modelo (Ministral-14B) tinha um "alto $b$ -value", o que significava que seus erros eram mais leves e menos perigosos.
A Lição: Você não pode julgar a segurança de um modelo apenas contando com que frequência ele falha. Você tem que observar o quão mal ele falha quando o faz.

2. O Aviso da "Cauda Pesada"

O artigo chama esses padrões perigosos de "distribuições de erro de cauda pesada" (heavy-tailed error distributions).
Imagine um saco de mármores.

Distribuição normal: A maioria dos mármores tem o mesmo tamanho.
Distribuição de cauda pesada: A maioria são pequenos seixos, mas escondidos no saco existem alguns blocos de pedra gigantes. Se você apenas contar o "número de mármores", você perde o fato de que um deles pode esmagar seu pé.

Os autores descobriram que modelos de IA maiores e mais poderosos (os "densos") tendem a ter caudas mais pesadas.

O Paradoxo: À medida que os modelos ficam maiores, eles cometem menos erros pequenos (como erros de digitação ou deslizes menores). No entanto, os erros que eles realmente cometem têm maior probabilidade de serem mentiras (fabricações) confiantes e elaboradas.
Analogia: Uma criança pequena pode tropeçar e cair com frequência (muitos erros pequenos). Um gigante pode caminhar perfeitamente por horas, mas se ele tropeçar, ele derruba uma casa (menos erros, mas catastróficos).

3. O "Sismômetro" vs. O "Contador"

Os benchmarks atuais são como um contador (clicker): eles apenas clicam "Errado" toda vez que um modelo erra.
Os autores construíram uma nova ferramenta, o ERRORQUAKE-10K, que funciona como um sismômetro.

Em vez de apenas clicar "Errado", ele avalia o erro em uma escala de 0 a 4.
- 0: Perfeito.
- 0.5–1.0: Um deslize menor (ex: "A reunião foi às 14h" em vez de 15h).
- 2.0–3.0: Um erro sério que poderia induzir um leitor ao erro.
- 3.5–4.0: Uma fabricação completa (ex: "A reunião foi realizada em um universo paralelo").
Eles testaram isso com especialistas humanos e descobriram que humanos e juízes de IA concordaram bem nessas classificações.

4. Por Que Isso Importa? (O Mecanismo)

O artigo investiga por que essas caudas pesadas acontecem. Eles descobriram uma mudança no tipo de erro conforme a gravidade aumenta:

Baixa Severidade: Os erros são geralmente falhas de recuperação (o modelo esqueceu um fato ou buscou o número errado).
Alta Severidade: Os erros são geralmente fabricações (o modelo inventou confiantemente algo que nunca aconteceu).

Crucialmente, modelos maiores são mais propensos a essas fabricações de alta severidade. À medida que os modelos crescem, eles se tornam melhores em lembrar fatos (menos erros de recuperação), mas parecem ficar melhores em "alucinar" mentiras convincentes quando não sabem a resposta.

5. A Conclusão Final

O artigo conclui que a indústria precisa parar de relatar apenas a "taxa de erro" (a contagem do contador).

Jeito Antigo: "Modelo A e Modelo B estão ambos 58% errados."
Novo Jeito: "Modelo A e Modelo B estão ambos 58% errados, mas o Modelo A é como uma bomba relógio (cauda pesada), enquanto o Modelo B é apenas um vizinho barulhento (cauda leve)."

A Recomendação: Sempre que você relatar a frequência com que uma IA comete erros, você também deve relatar a distribuição de severidade (o $b$ -value). Isso indica se o modelo é propenso a deslizes irritantes ou mentiras catastróficas, informação que a simples taxa de erro esconde completamente.

O que o artigo NÃO afirma:

Não diz que esses modelos são "seguros" ou "inseguros" para tarefas específicas do mundo real (como medicina ou direito) sem testes adicionais.
Não afirma que modelos maiores são "piores" no geral; eles são apenas diferentes em como falham.
Não oferece uma solução para este problema, apenas uma forma de medi-lo.

Resumo Técnico: ERRORQUAKE: Distribuições de Severidade de Erro de Cauda Pesada em Modelos de Linguagem de Grande Escala de Pesos Abertos

1. Declaração do Problema

Os benchmarks padrão de alucinação (ex: TruthfulQA, HaluEval) reduzem o desempenho do modelo a uma única taxa de erro escalar ( $\varepsilon$ ), tratando todos os erros como equivalentes. Essa abordagem colapsa uma dimensão crítica da falha do modelo: a severidade do erro. Um modelo que cita uma data de publicação errada e um modelo que fabrica uma opinião judicial inteira contribuem com uma única contagem para $\varepsilon$ , embora suas consequências a jusante difiram por ordens de magnitude.

O artigo argumenta que, com taxas de precisão equivalentes, os Modelos de Linguagem de Grande Escala (LLMs) de pesos abertos exibem diferenças substanciais na forma da distribuição de severidade de seus erros. Especificamente, o "comportamento da cauda" (a frequência de erros catastróficos em relação a deslizes menores) varia significamente entre os modelos, uma propriedade invisível às taxas de erro escalares. Tomando emprestado da sismologia, os autores propõem caracterizar esse comportamento de cauda usando a inclinação $b$ da relação de frequência-magnitude de Gutenberg–Richter: $\log_{10} N(M \ge m) = a - b m$ . Um $b$ pequeno indica poucos erros, mas catastróficos; um $b$ grande indica muitos erros pequenos com severidade limitada.

2. Metodologia

2.1 O Benchmark ERRORQUAKE-10K

Os autores introduzem o ERRORQUAKE-10K, um benchmark composto por 10.000 consultas em 8 domínios (BIO, LAW, HIST, GEO, SCI, TECH, FIN, CULT) e 5 níveis de dificuldade (T1–T5).

Estrutura: 1.250 consultas por domínio; T1–T2 são consultas factuais fáceis, enquanto T4–T5 incluem perguntas de armadilha projetadas para elicitar fabricações confiantes.
Modelos Avaliados: 21 modelos de instrução ajustados de pesos abertos (3B a ~37B de parâmetros ativos) de 10 famílias, incluindo arquiteturas densas e MoE.

2.2 Escala de Pontuação de Severidade

As respostas são pontuadas em uma escala contínua de 0.0–4.0 (quantizada em incrementos de 0.5, 9 níveis distintos):

0.0: Correto.
0.5–1.0: Imprecisões que preservam o sentido geral.
1.5–2.0: Erros factuais moderados.
2.5–3.0: Erros substanciais que induzem o leitor típico ao erro.
3.5–4.0: Fabricação (afirmação confiante de informação inventada).

2.3 Pipeline de Avaliação

Sistema de Juiz Duplo: Cada resposta é pontuada por dois juízes de um pool de rodízio de 8 modelos (excluindo o modelo alvo).
Agregação: A pontuação final é a média se os juízes concordarem dentro de 1.0; caso contrário, utiliza-se a mediana de três com um critério de desempate.
Validação Humana: Uma amostra estratificada de 519 itens foi pontuada por três avaliadores humanos especialistas para validar o pipeline de juiz LLM.
- Confiabilidade: A confiabilidade inter-avaliador humano é excelente (ICC(2, k=3) = 0.85).
- Correlação: As classificações de severidade derivadas por humanos correlacionam-se fortemente com as classificações dos juízes LLM ( $\rho = 0.89$ ).
- Taxa de Falso Positivo (Overcall): Os juízes LLM superestimam a severidade (pontuação 2.0) em 33,5%, comparado a 13,7% para humanos.

2.4 Análise Estatística

Ajuste de Distribuição: Cinco famílias candidatas (lei de potência discreta, lei de potência truncada, exponencial, exponencial estendida, lognormal) são ajustadas aos scores estritamente positivos.
Estimativa de Parâmetros: O índice de distribuição de severidade ( $b$ ) é estimado usando a fórmula de Aki com uma correção de discretização em scores quantizados em grade.
Intervalos de Confiança: Bootstraps de percentil de 95% (2.000 reamostragens) são usados para determinar os intervalos de confiança para $b$ .

3. Contribuições Principais

Teorema da Não-Redutibilidade (C1): Uma prova teórica mostrando que o perfil de severidade ( $b$ ) e a taxa de erro ( $\varepsilon$ ) são informacionalmente não redundantes. Empiricamente, $I(b; \text{modelo} \mid \varepsilon) = 1.56$ bits, o que significa que 64,5% da variância em $b$ entre os modelos não é explicada por $\varepsilon$ .
Discriminador de Precisão Igualada (C3): A principal descoberta empírica de que $b$ distingue modelos mesmo quando suas taxas de erro são idênticas.
Taxonomia de Mecanismos de Severidade (C4): Uma classificação de 6 categorias (recuperação, fabricação, amplificação, raciocínio, formato, metacognição) mostrando que os mecanismos de erro mudam categoricamente com a severidade.
Correlação de Escalonamento (C5): Uma análise da relação entre o tamanho do modelo e a forma da cauda de severidade.
Liberação de Recursos (C7): O lançamento do benchmark ERRORQUAKE-10K, kit de pontuação e código de análise.

4. Resultados Principais

4.1 Discriminação de Precisão Igualada

Em 210 pares dos 21 modelos, 85 pares possuem intervalos de confiança de 95% disjuntos para $b$ quando suas taxas de erro são igualadas ( $|\Delta\varepsilon| < 0.05$ ) na pontuação de consenso humano.

Exemplo: DEEPSEEK-V3.2 e MINISTRAL-14B possuem taxas de erro idênticas ( $\varepsilon = 0.586$ ), mas inclinações de cauda significativamente diferentes ( $\Delta b = 0.47$ ).
Robustez: Este resultado se mantém através de jackknifes cross-domain, diferentes regras de agregação de juiz e subconjuntos com alta cobertura de duplo juiz.

4.2 Caracterização da Distribuição

Natureza de Cauda Pesada: 17 dos 21 modelos são melhor ajustados por famílias não exponenciais (exponencial estendida ou lei de potência truncada), confirmando a presença de "caudas pesadas" (decaimento mais lento que o exponencial) na grade de severidade discreta.
Definição Operacional: "Cauda pesada" aqui significa que a família com o melhor BIC é não-exponencial ou que a massa residual nos bins superiores ( $M \ge 2.5$ ) é maior do que um ajuste exponencial prevê.

4.3 Correlação de Escalonamento

Modelos Densos: Existe uma correlação negativa entre o tamanho do modelo (log de parâmetros ativos) e o valor de $b$ ( $\rho_s = -0.86$ nos dados humanos).
Interpretação: Modelos densos maiores cometem menos deslizes pequenos (decaimento do bulk mais íngreme), mas uma fração relativamente maior de fabricações catastróficas (cauda superior mais rasa).
Nota: Esta correlação é específica para a inclinação da cauda superior; a taxa de decaimento do bulk move-se na direção oposta.

4.4 Taxonomia de Mecanismos

Mudança de Severidade: Erros de baixa severidade (0.5–1.0) são predominantemente de recuperação (71%). Erros de alta severidade (2.0–4.0) são predominantemente fabricações (39%).
Acoplamento de Tamanho: Modelos pequenos (3–9B) mostram 44,7% de erros de recuperação, enquanto modelos grandes (≥24B) mostram 29,2% de erros de fabricação. A mudança em direção à fabricação em modelos maiores explica as caudas mais pesadas.

4.5 Limitações de Predição

A hipótese pré-registrada de que o ajuste de $b$ em níveis fáceis (T1/T2) prediz contagens de erros catastróficos em níveis difíceis (T4/T5) falhou em seu critério primário.

Resultado: A correlação de ranking foi fraca ( $\rho_s = 0.443$ ), e a predição da taxa absoluta falhou (0/21 modelos superestimaram; 17/21 subestimaram).
Razão: Consultas difíceis elevam toda a distribuição de severidade para cima (um deslocamento de nível), o qual a lei de Gutenberg–Richter (que captura a inclinação relativa) não consegue extrapolar a partir de dados fáceis isoladamente.

5. Significância e Alegações

O artigo afirma que a distribuição de severidade deve ser reportada junto com a precisão porque ela carrega informações discriminativas que a taxa de erro não possui.

Valor Informacional: O perfil de severidade não é uma reiteração redundante da taxa de erro. Dois modelos com precisão idêntica podem ter riscos de falha catastrófica vastamente diferentes (diferindo por ordens de magnitude em eventos catastróficos esperados por milhão de consultas).
Risco de Implementação: Ignorar a distribuição de severidade leva a diagnósticos de risco deficientes. Um modelo com uma "cauda mais pesada" (menor $b$ ) apresenta um risco maior de fabricação catastrófica, apesar de ter a mesma taxa de erro que um modelo de "cauda mais leve".
Paradoxo do Escalonamento: As leis de escala podem melhorar a precisão geral enquanto simultaneamente pioram a composição das falhas residuais (mudando de recuperações para fabricações), uma nuance invisível aos erros de taxa padrão.

Os autores posicionam este trabalho como uma ferramenta de diagnóstico para seleção e auditoria de modelos em cenários fatuais de alta consequência, em vez de um leaderboard de número único. Eles explicitamente notam limitações, incluindo a exclusão de modelos de fronteira proprietários, a dependência de consultas geradas por LLM e a falha da tarefa de predição micro-erro-para-catástrofe.