Resumo Técnico: Debate Latente: Um Framework de Surrogado para Interpretar o Pensamento de LLMs

1. Declaração do Problema

Grandes Modelos de Linguagem (LLMs) exibem capacidades significativas de raciocínio, mas permanecem propensos a alucinações — gerando saídas que contradizem os prompts do usuário ou o conhecimento estabelecido do mundo. Um desafio primário para mitigar esse problema é a opacidade dos LLMs; seus processos internos de "pensamento" são difíceis de interpretar, tornando difícil entender por que previsões específicas são feitas ou por que elas falham. Embora trabalhos recentes tenham explorado interpretabilidade mecânica (ativações, padrões de atenção) e consistência externa (debates multi-agentes), há uma carência de frameworks que modelem os desentendimentos internos e a dinâmica argumentativa ocorrendo dentro de um único modelo durante um único passo de inferência.

2. Metodologia

2.1. Framework Conceitual: Debate Latente

Os autores propõem o Latent Debate (Debate Latente), um framework de surrogado estruturado projetado para interpretar as previsões do modelo através da lente de argumentos internos implícitos. Diferente dos tradicionais Multi-Agent Debates (MAD), onde agentes distintos argumentam externamente, o debate latente captura sinais ocultos de apoio e ataque surgindo nas camadas de um único modelo. O framework consiste em três componentes abstratos e agnósticos ao modelo:

1. Argumentos Latentes: Sinais internos (ex: estados ocultos) que transmitem implicitamente opiniões de apoio ou ataque em relação a uma afirmação.
2. Intérprete de Argumentos: Um mecanismo que traduz esses sinais latentes em posturas legíveis por humanos (apoio/ataque) e quantifica sua força.
3. Módulo de Pensamento: Um componente que agrega esses argumentos interpretados para alcançar uma decisão final, simulando o processo de tomada de decisão interno do modelo.

2.2. Instanciação Simbólica para LLMs

O artigo instancia este framework para tarefas de predição Verdadeiro/Falso utilizando LLMs baseados em decoder. A implementação específica envolve:

• Argumentos Latentes: Os estados ocultos ($h^{(l)}_n$) dos tokens em cada camada $l$ (excluindo a camada de saída final) são tratados como argumentos.
• Intérprete de Argumentos: A matriz de unembedding ($W_{unemb}$) projeta os estados ocultos no espaço do vocabulário. As probabilidades de tokens específicos (ex: "Verdadeiro" vs. "Falso") quantificam a postura e a força do argumento.
• Módulo de Pensamento: Um Framework de Argumentação Bipolar Quantitativa (QBAF) é empregado para agregar os argumentos.
  • Construção de Grafo: Nós representam argumentos (tokens em camadas específicas). Arestas representam relações: uma aresta de "apoio" (+) conecta argumentos com a mesma polaridade, enquanto uma aresta de "ataque" (-) conecta polaridades opostas.
  • Semântica Gradual: O framework utiliza uma semântica gradual customizada para computar as forças finais dos argumentos ($\sigma$). Isso envolve agregar a influência de atacantes e apoiadores e atualizar a força inicial ($\tau$) usando uma função tangente hiperbólica combinada com pesos por token.
  • Pesos por Token: Pontuações de importância são atribuídas aos tokens baseadas em quanto a remoção deles altera a similaridade semântica do texto (medida via um cross-encoder).

2.3. Detecção de Alucinação

Para detectar alucinações, os autores extraem características do grafo QBAF construído, incluindo:

• Número de ataques (argumentos conflitantes).
• Média e variância das forças iniciais e finais dos argumentos.
  Essas características são estratificadas por profundidade do modelo (camadas inferiores, médias, superiores). Um classificador simples baseado em árvore (XGBoost) é treinado nessas características para distinguir entre saídas alucinadas e não alucinadas.

3. Principais Contribuições

1. Framework de Debate Latente: Introdução de um novo framework agnóstico ao modelo que aproveita argumentos internos para interpretar o processo de "pensamento" de LLMs, deslocando o foco de debates multi-agentes externos para a dinâmica interna de um único modelo.
2. Modelo Surrogado Fiel: Apresentação de uma instanciação simbólica do debate latente que serve como um surrogado transparente para tarefas de Verdadeiro/Falso de LLMs. Resultados empíricos mostram que este surrogado alcança alta consistência (até 97,11% com LLaMA-13B) com as previsões do modelo original, validando sua capacidade de imitar o processo de decisão do modelo.
3. Baseline de Detecção de Alucinação: Desenvolvimento de uma abordagem baseada em debate para detecção de alucinação. O estudo identifica que padrões de debate específicos, particularmente um alto grau de debate latente (conflito) nas camadas médias da rede, são fortes preditores de alucinações.

4. Resultados Experimentais

• Fidelidade do Surrogado: O surrogado de debate latente superou significativamente os baselines de surrogados estruturados (Aleatório, Média, Votação Majoritária) e variantes do framework de debate (sem pesos de token ou com conexões quadráticas) em seis datasets (Common Claims, CounterFact, Company, TriviaQA, MuSiQue, TruthfulQA) e três tamanhos de modelo (Llama-8B, Mistral-7B, Llama-13B). Para o Llama-13B, o debate latente alcançou uma consistência média de 97,11%, comparado a 90,97% para o melhor baseline não-debate.
• Detecção de Alucinação: O Detector de Debate Latente, utilizando características extraídas do grafo de debate interno, alcançou um desempenho competitivo na detecção de alucinações. Superou métodos de isolamento de características e baselines como SelfCheckGPT e SAPLMA em vários datasets, alcançando um AUROC médio de 0,82.
• Interpretabilidade: A análise de pontuações de atribuição SHAP revelou que o número de debates latentes nas camadas médias é o preditor mais forte de alucinação, sugerindo que o desentendimento interno durante o processamento intermediário está correlacionado com erros fatuais.

5. Significância e Alegações

O artigo posiciona o debate latente como um potencial framework para compreender os mecanismos internos de LLMs, especificamente em cenários onde (des)acordos internos ocorrem durante a inferência. Os autores enfatizam que seu objetivo é a interpretabilidade, não a melhoria das capacidades do modelo (ex: aumento de factualidade). O framework fornece um "surrogado estruturado fiel" que torna o processo de decisão de caixa-preta transparente ao visualizar argumentos de apoio e ataque internos. As descobertas sugerem que as alucinações não são meramente erros aleatórios, mas estão ligadas a padrões detectáveis de conflito interno dentro da arquitetura do modelo.