🤖 AI

Neural Diversity Regularizes Hallucinations in Language Models

Este artigo introduz a "diversidade neural" como um terceiro eixo de escala para modelos de linguagem, propondo o método ND-LoRA para reduzir alucinações em até 25,6% por meio de representações paralelas decorrelacionadas e regularização de Barlow Twins, ao mesmo tempo em que estabelece limites formais que vinculam uma menor correlação neural a uma maior confiabilidade.

Autores originais: Kushal Chakrabarti, Nirmal Balachundhar

Publicado 2026-08-06

📖 4 min de leitura☕ Leitura rápida

CC BY 4.0

Autores originais: Kushal Chakrabarti, Nirmal Balachundhar

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você esteja tentando resolver um enigma difícil, mas em vez de perguntar a apenas uma pessoa, você pergunta a uma equipe inteira. Se todos na equipe pensarem exatamente da mesma forma, eles podem todos cometer o mesmo erro bobo e dar a resposta errada juntos. Este é o problema central dos "modelos de linguagem" modernos — os programas de computador superinteligentes que escrevem histórias, respondem perguntas e conversam conosco. Mesmo que esses programas estejam ficando maiores e mais inteligentes, eles ainda às vezes inventam coisas, uma falha chamada "alucinação". Eles podem afirmar com confiança um fato falso ou inventar uma história que nunca aconteceu.

Para corrigir isso, os cientistas geralmente tentam tornar os modelos maiores ou alimentá-los com mais dados, como tentar resolver um quebra-cabeça comprando uma caixa maior. Mas este artigo sugere uma abordagem diferente: em vez de tornar a equipe maior, torne os membros da equipe diferentes. Os autores pegaram emprestada uma ideia das finanças chamada "diversificação". Assim como um investidor não coloca todo o seu dinheiro em uma única ação porque, se essa única ação falhar, ele perde tudo, ele espalha seu dinheiro por muitas ações diferentes. Se uma ação desabar, as outras podem manter-se estáveis, mantendo a carteira segura. O artigo pergunta: Podemos fazer o mesmo com cérebros de computador? Se forçarmos as diferentes partes do modelo a pensar de maneiras ligeiramente diferentes e não correlacionadas, podemos impedir que todas cometam o mesmo erro ao mesmo tempo?

É exatamente isso que os pesquisadores se propuseram a testar. Eles propõem um novo método chamado Diversidade Neural, que atua como um "treinador de diversidade" para o cérebro do computador. Em vez de deixar todos os caminhos internos do modelo colapsarem para pensar da mesma maneira, eles forçam esses caminhos a permanecerem distintos e independentes. Eles construíram uma ferramenta chamada ND-LoRA para fazer isso. Pense nisso como dar a um único modelo de computador quatro "chapéus" diferentes para usar ao mesmo tempo. Cada chapéu representa uma maneira ligeiramente diferente de processar a mesma frase. O modelo então combina as respostas de todos os quatro chapéus.

Os resultados são bastante promissores. Ao usar essa abordagem de "quatro chapéus" e um truque matemático especial para evitar que os chapéus se tornem muito semelhantes, os pesquisadores descobriram que poderiam reduzir o número de fatos inventados em até 25,6% em testes específicos, com uma melhoria média de 14,6%. Isso aconteceu sem a necessidade de tornar o modelo de computador maior ou treiná-lo com mais dados. Na verdade, custou apenas um pouco mais de poder computacional — cerca de 0,008% a mais de tempo de treinamento e apenas 1,1 vezes a velocidade de execução.

No entanto, o artigo também descobriu uma reviravolta: mais diversidade nem sempre é melhor. É como um coro; se todos cantarem uma nota diferente, soará como ruído. Se todos cantarem exatamente a mesma nota, será entediante e propenso a erros. Existe um "ponto ideal" onde as vozes são diferentes o suficiente para detectar erros, mas semelhantes o suficiente para concordar com a verdade. Os pesquisadores descobriram que esse ponto ideal muda dependendo do que o computador está fazendo. Para tarefas que envolvem narrativa criativa ou verificação de fatos, ter mais vozes "diferentes" (especificamente, de 4 a 8 fluxos paralelos) funcionou melhor. Mas para tarefas simples de memória, como recordar um nome específico, ter apenas uma voz foi, na verdade, o mais confiável.

Os autores são cuidadosos ao dizer que, embora sua matemática prove que isso deveria funcionar e seus experimentos em um modelo pequeno mostrem que isso funciona, esta é uma solução específica para um tipo específico de erro. Eles argumentam que as alucinações são frequentemente causadas pelo fato de as partes internas do modelo ficarem presas em um loop de ideias semelhantes e erradas, em vez de apenas uma falta de conhecimento. Ao quebrar esse loop com diversidade, eles podem tornar o modelo mais confiável sem precisar construir um supercomputador gigante e caro. É uma maneira inteligente e de baixo custo de tornar a IA um pouco menos propensa a mentir, provando que, às vezes, a melhor maneira de obter uma resposta melhor é fazer algumas perguntas diferentes de uma só vez.

Resumo Técnico: Diversidade Neural Regulariza Alucinações em Modelos de Linguagem

Declaração do Problema

Apesar da escala de parâmetros, computação e dados, os modelos de linguagem (LMs) continuam a sofrer com alucinações persistentes. Esta crise de confiabilidade é particularmente aguda para pequenos modelos de linguagem (SLMs), que são cada vez mais favorecidos para aplicações de borda (edge) e agentes, mas possuem representações comprimidas que os tornam vulneráveis à geração de conteúdo factualmente incorreto ou inconsistente.

As estratégias de mitigação atuais focam majoritariamente na otimização do desempenho médio (melhorias de primeiro momento) em vez de controlar o risco de cauda (tail risk). Técnicas como Aprendizado por Reforço com Feedback Humano (RLHF), Geração Aumentada por Recuperação (RAG) e decodificação contrastiva visam melhorar a benignidade média ou o embasamento factual. No entanto, esses métodos carecem de garantias formais em relação à probabilidade de falhas catastróficas (alucinações). Além disso, os métodos de escalonamento paralelo existentes frequentemente sofrem de "colapso representacional", onde fluxos paralelos convergem para representações semelhantes, falhando em realizar ganhos de confiabilidade. O artigo postula que as alucinações decorrentes de erros representacionais correlacionados, em vez de falta de conhecimento, constituem um problema de confiabilidade de segundo momento passível de diversificação baseada na teoria de portfólio.

Metodologia

Estrutura Teórica: Teoria de Portfólio para Alucinações

Os autores reformulam a probabilidade de alucinação como um problema de confiabilidade de segundo momento governado pela covariância representacional. Baseando-se na teoria de portfólio de Markowitz (1952), eles propõem que representações paralelas descorrelacionadas ("diversidade neural") podem reduzir o limite superior da cauda da probabilidade de alucinação.

Modelo Sinal-Ruído: O modelo assume $P$ fluxos computacionais paralelos processando a mesma entrada. Cada fluxo produz uma representação oculta $Z_i = z^* + \epsilon_i$ , onde $\epsilon_i$ é o ruído.
Índice de Diversidade Neural ( $D$ ): Um índice baseado em cosseno mede a diversidade entre os fluxos. $D=0$ implica ortogonalidade perfeita, enquanto $D=1$ implica colapso completo.
Limites Teóricos:
- Teorema 1: Prova que a probabilidade de alucinação $P(H_\delta)$ é limitada por uma função da diversidade neural $D$ e do número de fluxos $P$ . Especificamente, com descorrelação perfeita, $P(H_\delta)$ escala como $O(1/P)$ .
- Teorema 2: Demonstra o comportamento de escalonamento não monotônico. Embora o aumento de $P$ reduza inicialmente as alucinações, o paralelismo excessivo pode levar ao aumento da correlação (devido a restrições do otimizador), causando a degradação da confiabilidade. Isso resulta em uma curva em forma de U onde existe um $P^*$ ideal para uma determinada tarefa.

ND-LoRA: Adaptação de Baixa Ordem para Diversidade Neural

Para operacionalizar esta teoria, os autores introduzem o ND-LoRA, uma arquitetura de adaptação de parâmetros eficientes que combina adaptadores LoRA paralelos com regularização de descorrelação explícita.

Arquitetura: O modelo emprega $P$ $P$ fluxos paralelos. Cada fluxo utiliza:
- Adaptadores LoRA específicos do fluxo: Aplicados em cada camada para perturbar a representação.
- Tokens de Prefixo Aprendíveis: 48 tokens prefixados à sequência de entrada.
- Agregador Multi-Fluxo: Um mecanismo aprendido para combinar as saídas dos fluxos com pesos dinâmicos, prevenindo o colapso da atenção.
Regularização: O objetivo de treinamento incorpora a regularização Barlow Twins ( $L_{BT}$ ) aplicada a pares de fluxos em uma camada de design designada. Isso força a matriz de autocorrelação de características branqueadas (whitened features) entre os fluxos a se aproximar da matriz identidade, minimizando explicitamente a redundância representacional.
Eficiência de Custo: O backbone permanece congelado; apenas os adaptadores paralelos e o agregador são treinados. Isso acarreta um custo de pré-treinamento desprezível (+0,008% do pré-treinamento contínuo) e um aumento modesto na latência de inferência (1,1×).

Principais Contribuições

Vinculação Teórica: O artigo fornece a primeira estrutura formal para limites de cauda de probabilidade de alucinação em LMs em conjunto (ensembled). Prova que a diversidade neural reduz esses limites e estabelece a existência de um nível de paralelismo ideal ( $P^*$ ) que minimiza as alucinações, explicando 94,3% da variação de confiabilidade entre as configurações em seu cenário.
Demonstração Construtiva (ND-LoRA): Os autores demonstram a viabilidade empírica reduzindo as alucinações em até 25,6% (14,6% em média) em um pequeno modelo de linguagem (Qwen2.5-0.5B) sem degradar as capacidades gerais. Isso é alcançado com um custo computacional adicional quase nulo.
Análise Mecanística: Através de ablações e intervenções causais, o artigo estabelece que a diversidade neural é o fator mediador.
- Causalidade: Corromper artificialmente a diversidade leva a quedas de precisão estatisticamente significativas ( $p < 0,001$ ).
- Sinergia: Os adaptadores LoRA e a regularização Barlow Twins atuam sinergicamente; nenhum dos dois sozinho é suficiente para ganhos máximos.
- Dependência de Tarefa: Diferentes tarefas exigem diferentes níveis de diversidade ideal. Tarefas focadas em alucinação beneficiam-se de maior diversidade, enquanto tarefas de recuperação de conhecimento frequentemente atingem o pico em $P=1$ .

Resultados Experimentais

A avaliação foi conduzida no Qwen2.5-0.5B treinado em 20 milhões de tokens do The Pile, avaliado em 12 tarefas.

Redução de Alucinação: O ND-LoRA alcançou melhorias significativas nos benchmarks de alucinação comparado às linhas de base de parâmetros equivalentes:
- HaluEval (Sumarização): +25,6% de melhoria relativa ( $P^*=4$ ).
- HaluEval (QA): +23,4% de melhoria relativa ( $P^*=4$ ).
- TruthfulQA (MC2): +9,5% de melhoria relativa ( $P^*=2$ ).
- MemoTrap v2: +8,8% de melhoria relativa ( $P^*=8$ ).
Preservação de Capacidades: As capacidades gerais (medidas por NQ, Winogrande, Wikitext BPB) foram preservadas ou levemente melhoradas, indicando que não houve "imposto de conhecimento" (knowledge tax).
Comparação com Baselines: O ND-LoRA superou intervenções de tempo de inferência (Context-Aware Decoding, Activation Decoding) e regularização de desentendimento em tempo de treinamento, alcançando uma redução média de alucinação de +14,6% contra +4,1% do segundo melhor método.
Ajuste Teórico: A relação empírica entre diversidade neural e confiabilidade correspondeu à previsão teórica com um $R^2$ de 0,943.

Significância e Alegações

O artigo afirma oferecer uma mudança de paradigma no tratamento da confiabilidade de LMs ao reformular as alucinações como um problema de segundo momento (variância e correlação) em vez de um problema de primeiro momento (precisão média).

Ortogonal ao Escalonamento: A diversidade neural permite ganhos de confiabilidade sem o escalonamento massivo de parâmetros ou dados. Ela controla a probabilidade de cauda através da estrutura de variância e correlação, em vez da capacidade.
Custo-Efetividade: A abordagem alcança melhorias substanciais de confiabilidade com custo de pré-treinamento quase nulo e apenas uma penalidade de latência de inferência de 1,1×, tornando-a adequada para implantações sensíveis à latência e críticas à segurança.
Otimalidade Específica da Tarefa: O trabalho destaca que a confiabilidade não é uma propriedade monolítica; diferentes tarefas exigem diferentes graus de diversidade neural. Isso sugere um movimento para longe das leis de escalonamento "tamanho único" em direção a um design arquitetônico baseado em princípios e características da tarefa.

Os autores concluem que, embora sua demonstração seja em um modelo pequeno, a estrutura teórica e o baixo overhead sugerem que a diversidade neural é um mecanismo escalável e prático para melhorar a confiabilidade de modelos de linguagem em domínios de alto risco.