Resumo Técnico: Agentes de Modelos de Linguagem Apresentam Viés de Confiança Intra-grupo Invisível a Auditorias Comportamentais Padrão

Declaração do Problema

À medida que os agentes de modelos de linguagem (LM) transitam de assistentes de usuário único para atores autônomos e persistentes em redes multiagente, eles passam a gerenciar cada vez mais confiança, reputação e alocação de recursos. Uma preocupação crítica é se esses modelos possuem inerentemente uma disposição comportamental "contingente ao grupo" — especificamente, o favoritismo intra-grupo — que se ativa quando a pertença ao grupo se torna visível.

A literatura existente estabeleceu que os LMs codificam vieses semelhantes aos humanos em representações (ex: embeddings de palavras) e exibem comportamentos como sicofancia ou raciocínio deceptivo. No entanto, permanece incerto se esses modelos exibem viés comportamental em interações sociais, especificamente favorecendo membros de um grupo arbitrário sobre outros ao atuarem como agentes. Além disso, as práticas de auditoria padrão para sistemas multiagente tipicamente inspecionam quais ações ocorrem (logs agregados de ações) em vez de quem as recebe. Este artigo investiga se o viés de confiança intra-grupo existe nos modelos de raciocínio atuais e se ele é detectável pelas metodologias de auditoria atuais.

Metodologia

Desenho Experimental

O estudo utiliza uma simulação de 20 agentes que interagem ao longo de 100 turnos. Os agentes selecionam entre seis ações de rede: endorsar (endorser), delegar (delegate), parceiro (partner) (construção de confiança); declinar (decline) (neutra); e rejeitar (reject), sinalizar (flag) (negativas).

• Mecanismo de Confiança: Os agentes mantêm um vetor de confiança atualizado deterministicamente com base nas ações. A confiança direta é atualizada a partir do histórico de interação; a reputação indireta é propagada via ação sinalizar.
• Estrutura de Grupo: Os agentes são atribuídos a rótulos arbitrários e sem conteúdo ("Kappa" ou "Tilon").
• Condições:
  • Condição A (Rótulos Ocultos): Os rótulos de grupo são atribuídos, mas nunca são expostos ao modelo ou aos seus parceiros.
  • Condição B (Rótulos Visíveis): Os rótulos de grupo são visíveis ao modelo e aos parceiros.
  • Condição C (Escassez): Adiciona uma restrição de recurso compartilhada em toda a rede (slots de ações de alto valor limitados) para testar se a competição intensifica o viés (Teoria do Conflito Realista).

Modelos Avaliados

Cinco modelos de raciocínio amplamente utilizados, de pesos abertos (8–14 bilhões de parâmetros), foram testados para determinar se o viés é uma propriedade da classe do modelo e não uma idiossincrasia de um único modelo:

1. Qwen3-8B (modo de pensamento)
2. DeepSeek-R1-Distill-Llama-8B
3. DeepSeek-R1-Distill-Qwen-14B
4. Llama-3.1-Nemotron-Nano-8B
5. Granite-3.3-8B-Instruct (modo de pensamento)

Controles e Robustez

• Contrabalanço de Troca de Rótulos: Cada semente foi executada duas vezes com os rótulos de grupo trocados para descartar a valência específica do token.
• Robustez de Parafraseamento: O prompt do sistema foi reescrito de forma independente e o estudo foi executado novamente para garantir que os resultados não fossem artefatos de uma frase específica.
• Verificações Estatísticas: Os resultados foram validados usando três métodos independentes: testes de Wilcoxon pareados por nível de semente, Equações de Estimativa Generalizada (GEE) por díade e uma contagem de alvo bruto livre de confiança.
• Baseline: Um estudo piloto com seis famílias de modelos não-raciocinadores confirmou o padrão qualitativo.

Resultados Principais

1. A Salicência do Rótulo Impulsiona o Viés Intra-grupo

A principal descoberta é que o viés de confiança intra-grupo é negligenciável quando os rótulos de grupo estão ocultos (Condição A), mas emerge significamente quando os rótulos são visíveis (Condição B).

• Magnitude: Na Condição B, os agentes direcionaram 53,6%–54,6% das ações de construção de confiança para alvos do mesmo grupo, contra uma taxa de base de chance de 47,4%.
• Universalidade: Esta mudança foi observada em todos os cinco modelos testados, embora com confiabilidade variável. Enquanto quatro modelos mostraram a direção prevista em 18–20 de 20 sementes, o DeepSeek-R1-Distill-Llama-8B mostrou a direção prevista em 17/20 sementes e foi identificado como o "mais fraco e menos confiável" dos cinco. Apesar dessa heterogeneidade, o aumento agregado da Condição A para B foi estatisticamente significativo para cada modelo (Wilcoxon pareado de um lado, $p$ corrigido por BH < 0,001), com o $d$ de Cohen variando de 0,80 a 3,96.
• Mecanismo: O viés opera através da seleção do destinatário (quem recebe uma ação) em vez da seleção do tipo de ação (o que ação é escolhida). Os logs agregados de ações não mostram um aumento nas ações negativas (ex: rejeitar ou sinalizar), tornando o viés invisível para auditorias padrão que contabilizam frequências de ações.

2. O Viés é Independente das Mecânicas de Acúmulo de Confiança

O viés é uma propriedade direta da saída do modelo, não um artefato das regras de acumulação de confiança da simulação.

• Uma contagem direta de ações brutas (sem aritmética de confiança) confirmou que a fração de ações de construção de confiança direcionadas a alvos do mesmo grupo excedeu a taxa base aleatória para todos os modelos ($p < 0,002$).
• O viés se acumula ao longo do tempo, levando a um aumento na assortatividade da rede (agrupamento por grupo) e segregação visível nas matrizes de confiança até o turno 100.

3. Escassez de Recursos (Condição C)

O teste da Teoria do Conflito Realista yielded resultados mistos, atribuídos a um artefato metodológico em vez de uma falha da teoria.

• A manipulação do orçamento compartilhado foi cega ao grupo em sua aplicação (sobrescrevendo ações para declinar independentemente do grupo alvo).
• Esta aplicação censurou desproporcionalmente as ações de modelos com alta demanda por recursos escassos, efetivamente zerando o sinal de potencial viés intra-grupo desses modelos.
• Ao analisar ações pretendidas (pré-sobrescrita) e direcionamento antecipatório (mudanças na seleção de alvos conforme o orçamento diminui), dois modelos mostraram uma mudança em direção ao direcionamento intra-grupo conforme os recursos diminuíam, sendo consistentes com a teoria, embora não tenham sobrevivido à correção rigorosa de múltiplas comparações.

Principais Contribuições

1. Descoberta do Viés Baseado no Destinatário: O artigo identifica um canal específico de viés — quem recebe uma ação — que é invisível para auditorias comportamentais agregadas padrão. As práticas de avaliação atuais, que focam em frequências de ações, falham em detectar essa desigualdade estrutural.
2. Universalidade entre Modelos de Raciocínio: O estudo demonstra que este viés de confiança intra-grupo não é uma anomalia de um único modelo, mas uma disposição generalizável entre cinco famílias distintas e amplamente utilizadas de modelos de raciocínio, embora o tamanho do efeito e a consistência ao nível da semente variem (com o DeepSeek-R1-Distill-Llama-8B mostrando o sinal mais fraco).
3. Dependência de Salicência: Consistente com a Teoria da Autocategorização, o viés é contingente à salicência contextual dos rótulos de grupo; a mera atribição sem visibilidade não produz discriminação.
4. Identificação de Lacuna de Auditoria: O artigo destaca uma lacuna crítica na segurança de IA: auditar sistemas multiagente requer análise de nível de resultado (ex: pontuações de confiança, distribuição de alocação de recursos) em vez de apenas análise de nível de comportamento de trocas individuais.

Significância e Alegações

O autor alega que dinâmicas sociais contingentes ao grupo já estão presentes nos modelos fundamentais usados para construir sistemas de IA multiagente. A significância deste trabalho reside em:

• Ponto Cego Estrutural: Expõe uma lacuna estrutural específica nas práticas de auditoria atuais. Um sistema pode parecer "justo" em logs de ações agregados enquanto concentra sistematicamente confiança e oportunidade dentro de grupos intra-grupos arbitrários.
• Risco de Escala: Embora o estudo utilize rótulos sintéticos e sem conteúdo, o mecanismo sugere que, se implantados em redes com estruturas de grupo socialmente significativas (ex: afiliações demográficas ou organizacionais), esses vieses poderiam se acumular em uma concentração significativa de recursos e desigualdade.
• Lição Metodológica: O estudo fornece um framework para detectar esses vieses usando métricas simples (taxas de paridade de destinatário e assortatividade de rede) que podem ser computadas a partir de logs de ações existentes sem exigir acesso aos pesos do modelo.

O artigo mantém um escopo modesto, esclarecendo que demonstra o viés em uma única dimensão sintética e não afirma ter observado desigualdade estrutural em implantações do mundo real, nem afirma que esses modelos sejam incapazes de serem alinhados para prevenir tal comportamento. No entanto, estabelece que, sem auditoria específica de nível de resultado, esta classe de viés permanece indetectável em sistemas multiagente atuais.