💬 NLP

Council Mode: Mitigating Hallucination and Bias in LLMs via Multi-Agent Consensus

O artigo propõe o "Council Mode", um framework de consenso multi-agente que reduz significativamente alucinações e viés em Grandes Modelos de Linguagem ao rotear consultas para múltiplos modelos heterogêneos e sintetizar suas respostas através de um processo estruturado de consenso.

Autores originais: Shuai Wu, Xue Li, Yanna Feng, Yufang Li, Zhijun Wang

Publicado 2026-04-06

📖 5 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Shuai Wu, Xue Li, Yanna Feng, Yufang Li, Zhijun Wang

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você precisa tomar uma decisão muito importante, como resolver um caso complexo de direito ou explicar um conceito de medicina. Se você perguntar a uma única pessoa (mesmo que seja um gênio), ela pode cometer um erro, alucinar (inventar fatos que parecem reais) ou ter um viés pessoal.

O que os autores deste artigo propõem é uma ideia brilhante: em vez de confiar em uma única "super-inteligência", vamos criar um Conselho de Sabedoria.

Aqui está a explicação do "Modo Conselho" (Council Mode) usando analogias do dia a dia:

1. O Problema: O Gênio Solitário

Os modelos de Inteligência Artificial atuais (como o GPT-5, Claude, Gemini) são incríveis, mas funcionam como um gênio solitário. Às vezes, esse gênio está cansado, às vezes ele "alucina" (confia em memórias falsas) e às vezes ele tem preconceitos aprendidos durante o treinamento. Quando ele usa uma arquitetura chamada "Mistura de Especialistas" (MoE), é como se ele tivesse várias mentes internas, mas só aciona uma ou duas por vez. Se a "porta" que escolhe qual mente falar estiver com defeito, o gênio pode dar uma resposta errada com muita confiança.

2. A Solução: O Conselho de Especialistas

O "Modo Conselho" muda o jogo. Em vez de perguntar a um único modelo, o sistema pergunta ao mesmo tempo para três modelos diferentes (um da OpenAI, um da Anthropic e um da Google).

Pense nisso como reunir três especialistas de áreas diferentes em uma sala de reunião:

O Advogado (GPT-5.4): Especialista em lógica e estrutura.
O Filósofo (Claude Opus 4.6): Especialista em nuances e ética.
O Cientista (Gemini 3.1 Pro): Especialista em fatos e dados.

Eles não conversam entre si primeiro; cada um escreve sua resposta em silêncio. Depois, eles entregam os papéis a um Mediador (um quarto modelo de IA).

3. Como Funciona o Processo (O "Triagem" e a "Síntese")

O sistema funciona em três etapas, como uma linha de montagem inteligente:

Etapa 1: O Porteiro Inteligente (Triagem)
Antes de chamar o conselho todo, um "porteiro" (um modelo leve) olha para a sua pergunta.
- Analogia: Se você pergunta "Olá, como vai?", o porteiro diz: "Isso é bobagem, não precisa chamar os três especialistas. Eu respondo 'Tudo bem!'". Isso economiza tempo e dinheiro.
- Se a pergunta é complexa (ex: "Qual a implicação legal da nova lei de IA na medicina?"), o porteiro abre a porta e chama o conselho.
Etapa 2: A Reunião em Paralelo
Os três especialistas trabalham ao mesmo tempo. Como eles são diferentes, eles têm "memórias" e "formas de pensar" diferentes. Se um deles inventar um fato, é provável que os outros dois não inventem o mesmo fato, porque aprenderam coisas diferentes.
Etapa 3: O Mediador (Síntese de Consenso)
Aqui está a mágica. O Mediador não faz apenas uma "votação" (quem ganha a maioria). Ele lê todos os papéis e organiza a resposta em quatro partes:
1. O que todos concordam: "Todos os três disseram que X é verdade." (Isso é muito confiável).
2. Onde eles discordam: "O Advogado diz A, mas o Cientista diz B. Vamos analisar por que."
3. Descobertas Únicas: "O Filósofo trouxe um ponto que ninguém mais viu."
4. A Resposta Final: O Mediador escreve a resposta final, usando o que é consenso, explicando as dúvidas e incluindo as ideias únicas, descartando as alucinações óbvias.

4. Por que isso é melhor? (Os Resultados)

O artigo mostra que essa abordagem funciona muito bem:

Menos Alucinações: Como é difícil que três modelos diferentes, treinados de formas diferentes, inventem a mesma mentira ao mesmo tempo, o sistema "pula" a mentira. Eles reduziram os erros em 36% comparado ao melhor modelo individual.
Menos Vieses: Se um modelo tem um preconceito sobre um tema, os outros dois podem corrigir. O resultado final é mais neutro e justo.
Mais Precisão: Em perguntas difíceis que exigem vários passos de raciocínio, o Conselho mantém a qualidade, enquanto os modelos sozinhos tendem a falhar.

5. O Preço a Pagar (Latência)

A única desvantagem é o tempo. Chamar três especialistas e esperar o mediador ler tudo demora um pouco mais do que perguntar a um só.

Analogia: É como pedir uma pizza. Se você pede a um único pizzaiolo, chega rápido (2 minutos). Se você pede a três pizzaiolos diferentes para fazerem a melhor pizza possível e depois um chef avalia qual é a melhor, demora mais (8 minutos). Mas a pizza final será muito melhor e mais segura de comer.

Resumo

O "Modo Conselho" é como transformar a Inteligência Artificial de um gênio solitário e às vezes confuso em uma equipe de especialistas diversa e crítica. Ao forçar a IA a "debater" consigo mesma (usando modelos diferentes) e a ter um mediador que organiza os fatos, conseguimos respostas mais verdadeiras, menos inventadas e mais justas.

É uma forma de dizer: "Ninguém é perfeito, mas um grupo diverso de pessoas, com um bom mediador, é muito mais difícil de enganar."

Resumo Técnico: Council Mode

1. O Problema

Os Grandes Modelos de Linguagem (LLMs), especialmente aqueles que utilizam arquiteturas de Mistura de Especialistas (MoE), embora tenham capacidades notáveis, sofrem de duas falhas críticas:

Alucinações: Geração de conteúdo fluente e plausível, mas factualmente incorreto ou não suportado pelo contexto. Em arquiteturas MoE, o roteamento esparsos pode levar ao "colapso de especialistas" (expert collapse), onde certos especialistas internalizam correlações incorretas, e a ativação limitada de parâmetros cria lacunas de conhecimento.
Viés Sistemático: Tendências de resposta que são amplificadas durante a inferência devido a preferências no roteamento de especialistas que correlacionam com características superficiais em vez de conteúdo semântico.

Abordagens tradicionais como RAG (Geração Aumentada por Recuperação) e RLHF (Aprendizado por Reforço com Feedback Humano) operam dentro dos limites da memória paramétrica de um único modelo, não resolvendo completamente a raiz do problema de consistência factual e viés.

2. Metodologia: A Arquitetura Council Mode

O artigo propõe o Council Mode, um framework de consenso multi-agente estruturado que substitui a dependência de um único modelo pela orquestração de múltiplos modelos de ponta heterogêneos. O pipeline opera em três fases distintas:

Fase 1: Triagem Inteligente (Intelligent Triage)
- Um classificador leve avalia a complexidade da consulta do usuário ( $q$ ).
- Utiliza um filtro de duas etapas: um classificador no lado do cliente (baseado em regex para saudações ou entradas ultra-curtas) e um classificador no servidor (um LLM leve com orçamento de pensamento mínimo).
- Se a consulta for trivial ( $T(q)=0$ ), é respondida diretamente. Caso contrário, aciona o conselho completo.
Fase 2: Geração Paralela de Especialistas
- Para consultas não triviais, o sistema envia o prompt simultaneamente para $N$ modelos distintos (no experimento, $N=3$ ).
- Os modelos utilizados são de provedores e arquiteturas diferentes para maximizar a diversidade cognitiva: GPT-5.4 (OpenAI), Claude Opus 4.6 (Anthropic) e Gemini 3.1 Pro (Google).
- A execução é assíncrona (via Promise.all), garantindo que a latência total seja limitada pelo especialista mais lento, não pela soma de todos.
Fase 3: Síntese de Consenso (Consensus Synthesis)
- Um modelo de síntese dedicado (Seed 2.0 Pro) agrega as respostas dos especialistas ( $R_1, R_2, ..., R_N$ ) seguindo um protocolo formalizado.
- A saída é estruturada em quatro seções obrigatórias:
  1. Pontos de Consenso: Fatos apoiados por todos os especialistas.
  2. Desacordos: Identificação explícita de informações conflitantes entre os modelos.
  3. Descobertas Únicas: Insights presentes apenas em um especialista.
  4. Análise Abrangente: Uma resposta final que integra evidências, resolve desacordos e contextualiza achados únicos, indo além de uma simples votação majoritária.

3. Contribuições Principais

Framework de Consenso Estruturado: Proposta de um pipeline de três fases (Triagem → Geração Paralela → Síntese) que reduz sistematicamente alucinações e viés.
Formulação Matemática: Definição formal do mecanismo de síntese, incluindo funções de triagem, protocolos de despacho paralelo e agregação estruturada (equações para extração de consenso e identificação de desacordos).
Implementação Open-Source: Disponibilização completa do código em um workspace de IA, permitindo reprodutibilidade.
Análise de Diversidade: Evidência empírica de que a diversidade arquitetural (modelos de diferentes provedores) é superior a ensembles de múltiplas instâncias do mesmo modelo.

4. Resultados Experimentais

Os testes foram realizados em benchmarks estabelecidos (HaluEval, TruthfulQA) e em um benchmark personalizado de raciocínio multi-domínio.

Redução de Alucinações (HaluEval): O Council Mode alcançou uma redução relativa de 35,9% na taxa de alucinações em comparação com o melhor modelo individual (Claude Opus 4.6). A taxa média de alucinação caiu de 16,7% (melhor individual) para 10,7%.
Precisão Factual (TruthfulQA): Houve uma melhoria de 7,8 pontos percentuais na pontuação de veracidade (82,6% vs. 74,8% do melhor individual).
Redução de Viés: A variância de viés entre domínios foi reduzida em 85–89%, com os outputs do Council formando um cluster apertado de alta consistência e neutralidade, ao contrário da dispersão observada em modelos individuais.
Desempenho em Complexidade: Em tarefas de alta complexidade (10 passos de raciocínio), o Council Mode manteve 71,2% de precisão, superando significativamente os modelos individuais (que caíram para ~43-50%).
Estudo de Ablação:
- A Síntese Estruturada foi crítica: substituí-la por votação majoritária aumentou a taxa de alucinação em 32,7%.
- A Diversidade de Especialistas foi essencial: um ensemble de 3 instâncias do mesmo modelo (GPT-5.4) teve desempenho muito inferior ao Council heterogêneo.
- O número de 3 especialistas mostrou ser o equilíbrio ideal entre custo e benefício.

5. Significância e Limitações

Significância: O trabalho demonstra que a orquestração de modelos heterogêneos com um protocolo de consenso rigoroso é uma estratégia eficaz para criar sistemas de IA mais confiáveis e factuais. Ele complementa, em vez de substituir, os esforços de alinhamento de modelos individuais.
Limitações:
- Latência: O tempo de resposta é maior (média de 8,4s vs. 2,8–5,6s em modelos únicos), o que pode ser proibitivo para aplicações sensíveis a atrasos.
- Custo e Dependência: Depende da disponibilidade e custo de múltiplas APIs de modelos de ponta.
- Falha Coletiva: Se todos os especialistas compartilharem o mesmo erro ou concepção equivocada (devido a dados de treinamento sobrepostos), o sistema de consenso não conseguirá corrigi-lo.

Em conclusão, o Council Mode representa um avanço significativo na mitigação de alucinações e viés em LLMs, provando que a "sabedoria das multidões" aplicada a modelos de IA heterogêneos, quando estruturada corretamente, supera amplamente o desempenho de qualquer modelo individual isolado.