Navigating the Rabbit Hole: Emergent Biases in LLM-Generated Attack Narratives Targeting Mental Health Groups

Resumo Técnico: Navegando pelo Buraco do Coelho: Enviesamentos Emergentes em Narrativas de Ataque Geradas por LLMs Direcionadas a Grupos de Saúde Mental

Definição do Problema
Embora os Grandes Modelos de Linguagem (LLMs) sejam conhecidos por exibir enviesamentos contra grupos de identidade específicos, o fenômeno de ataques direcionados não provocados permanece subexplorado. Especificamente, há uma falta de compreensão sobre como os LLMs escalam autonomamente narrativas prejudiciais contra populações de risco, como grupos de saúde mental, mesmo quando esses grupos não são explicitamente mencionados nos prompts iniciais. As avaliações atuais de viés frequentemente dependem de elicitação baseada em prompts estáticos e diretos ou verificações de toxicidade de geração única, falhando em capturar a natureza recursiva e em rede de como a toxicidade se desenrola e se espalha através de trajetórias generativas. Este artigo aborda a lacuna na compreensão de como identidades de saúde mental são desproporcionalmente visadas e estigmatizadas dentro de "Buracos do Coelho de Toxicidade" (TRH - Toxicity Rabbit Holes), que são cadeias de geração recursivas onde um LLM é iterativamente solicitado a tornar o conteúdo cada vez mais tóxico.

Metodologia
O estudo utiliza o conjunto de dados Toxicity Rabbit Hole (TRH) (Dutta et al., 2024), um corpus de larga escala de 459 milhões de tokens gerados por 10 LLMs visando 1.266 grupos de identidade. Para esta análise, os autores focam no modelo Mistral 7B, que compreende 15.401 cadeias de geração e 190.599 saídas individuais.

A metodologia procede através de três estágios primários:

1. Curadoria de Dados e Extração de Entidades:

   • Os autores filtraram o corpus para reter apenas gerações tóxicas, excluindo saídas neutras ou de contra-discurso.
   • Utilizando o LLaMA-3.2 3B, eles extraíram "entidades vítimas" (grupos visados por ataques) e entidades não participantes do texto.
   • Um processo de consolidação manual fundiu entidades morfologicamente e semanticamente redundantes (ex: "Muslims" e "Moslems"), resultando em um vocabulário final de 24.185 entidades vítimas únicas (VictimSet).
   • Um léxico específico de 390 termos de saúde mental (derivado do CID-10, Wikipedia e termos coloquiais) foi usado para filtrar um subconjunto de MHSet (195 entidades de saúde mental únicas) a partir do VictimSet.

2. Construção de Rede (Rede do Buraco do Coelho):

   • Um grafo direcionado e ponderado $G = (V, E)$ foi construído, onde os nós representam entidades vítimas e as arestas representam transições entre entidades em gerações sucessivas dentro da mesma cadeia.
   • Os pesos das arestas correspondem à frequência das transições ($u \to v$).
   • A análise focou no maior componente fracamente conectado, contendo 24.184 nós e 663.433 arestas.

3. Estruturas Analíticas:

   • Centralidade de Rede (RQ1): Os autores computaram centralidade de proximidade (closeness), grau (ponderado/não ponderado), PageRank e intermediação (betweenness) para os nós MHSet vs. Non-MHSet, utilizando testes Mann-Whitney U para significância.
   • Detecção de Comunidades (RQ2): O algoritmo de Leiden foi aplicado para identificar clusters de entidades visadas conjuntamente. Um coeficiente de Gini foi calculado para medir a concentração de entidades de MH dentro de comunidades específicas.
   • Análise de Estigmatização (RQ3): Baseando-se no framework de Link & Phelan (2001), os autores analisaram a evolução dos componentes do estigma (Rotulagem, Estereotipagem Negativa, Separação, Perda de Status/Discriminação) conforme as cadeias progrediam dos alvos iniciais ($V_{init}$) para a primeira aparição dos alvos de saúde mental ($V_{MH}$). O LLaMA-3.2 3B foi usado para anotar a presença desses componentes, e testes Wilcoxon de postos sinalizados foram realizados em amostras pareadas dentro das cadeias.

Principais Contribuições

1. Avaliação Explícita de Ataques Não Provocados: O artigo fornece a primeira avaliação explícita de ataques gerados por LLM visando especificamente grupos de saúde mental altamente vulneráveis dentro de cadeias de geração recursivas, demonstrando que esses grupos são visados mesmo sem prompting inicial.
2. Framework Baseado em Redes: Introduz uma abordagem de rede para estudar a propagação de vieses relativos, modelando como o conteúdo tóxico transita entre entidades e identificando "buracos do coelho" estruturais onde entidades de saúde mental atuam como hubs centrais.
3. Avaliação de Estigmatização Emergente: O estudo quantifica o grau relativo de estigmatização que emerge nessas cadeias, mostrando que o enquadramento dos alvos de saúde mental torna-se qualitativamente mais severo do que os alvos iniciais.

Resultados

• Centralidade (RQ1): Entidades de saúde mental ocupam posições significativamente mais centrais na rede do que entidades não-MH.
  • Centralidade de Proximidade (Closeness): Entidades de MH têm uma média de proximidade significativamente maior (Média = 0,71 vs. 0,63, $p = 4,06 \times 10^{-10}$), indicando que são estruturalmente mais fáceis de alcançar a partir de outros nós em menos passos.
  • Grau e PageRank: Entidades de MH apresentam centralidade de grau (ponderada e não ponderada) e scores de PageRank significativamente mais altos ($p < 0,001$), sugerindo que são focos frequentes e profundamente inseridas em clusters influentes.
  • Intermediação (Betweenness): Nenhuma diferença significativa foi encontrada, implicando que entidades de MH funcionam como hubs densos em vez de pontes entre regiões desconectadas.
• Estrutura de Comunidade (RQ2): Entidades de MH não estão distribuídas aleatoriamente, mas sim fortemente agrupadas.
  • O coeficiente de Gini de 0,7 indica alta concentração.
  • 75,9% de todas as entidades de MH residem em apenas duas comunidades: uma contendo transtornos clinicamente específicos (ex: bipolaridade, dislexia) e outra contendo termos socialmente construídos amplos (ex: "pessoas com problemas de saúde mental").
  • Um subconjunto menor de entidades reflete o direcionamento interseccional (ex: "pessoas negras com doenças mentais").
• Evolução da Estigmatização (RQ3): À medida que as cadeias generativas mudam dos alvos iniciais para os alvos de saúde mental, a severidade da estigmatização aumenta significativamente em todos os quatro componentes.
  • Perda de Status e Discriminação: Mostraram o aumento mais pronunciado (Diferença de Proporção Média = -0,70, $p = 7,16 \times 10^{-143}$).
  • Rotulagem: Também mostrou um grande aumento (Diferença de Proporção Média = -0,47, $p = 5,44 \times 10^{-81}$).
  • Isso indica que, uma vez invocadas as entidades de MH, o discurso muda para se tornar marcadamente mais desumanizador e discriminatório.

Significância e Alegações
O artigo argumenta que as avaliações de segurança atuais de LLMs possuem um ponto cego crítico: os modelos podem prejudicar desproporcionalmente grupos de saúde mental mesmo quando estes grupos estão ausentes do prompt inicial. Os autores alegam que a estrutura generativa interna do modelo, semelhante ao viés implícito, leva ao direcionamento recorrente e à amplificação de estigmas sociais através da geração recursiva.

A significância deste trabalho reside no fato de destacar que o dano não é meramente a presença de viés, mas sua escalada recursiva. Um único passo generativo para uma trajetória prejudicial pode espiralar em narrativas profundamente desumanizadoras que as salvaguardas de geração única existentes falham em capturar. Os autores concluem que os paradigmas de segurança de LLM devem mudar da moderação reativa para intervenções proativas e conscientes de trajetória, capazes de detectar padrões emergentes de dano em tempo real. Além disso, o trabalho sugere que futuras estratégias de redução de viés devem utilizar redes de interação de entidades para guiar o ajuste fino (fine-tuning) e intervenções de contra-estigma.

Limitações Reconhecidas
Os autores observam que suas descobertas são específicas ao framework TRH e ao modelo Mistral 7B, o que pode limitar a generalização. Adicionalmente, embora os métodos de rede capturem dependências estruturais, eles não contabilizam totalmente as variações na intensidade ou no enquadramento dos ataques além dos componentes anotados. O estudo depende de anotações inferidas por LLM para toxicidade e estigma, que foram verificadas manualmente, mas ainda representam um substituto (proxy) para o julgamento humano. Por fim, a lista de entidades foi compilada de fontes autoritativas, e trabalhos futuros poderiam explorar bifurcações comunitárias em como o estigma é enquadrado através dos eixos diagnóstico versus social.