Navigating the Rabbit Hole: Emergent Biases in LLM-Generated Attack Narratives Targeting Mental Health Groups

Technische Samenvatting: Navigeren door het Konijnenhol: Emergente Biases in door LLM gegenereerde Aanvalsnarratieven gericht op Mentale Gezondheidsgroepen

Probleemstelling
Hoewel Large Language Models (LLMs) bekend staan om het vertonen van biases tegen specifieke identiteitsgroepen, blijft het fenomeen van onprovocatie gerichte aanvallen onderbelicht. Specifiek is er een gebrek aan begrip over hoe LLM's autonoom schadelijke narratieven escaleren tegen kwetsbare populaties, zoals mentale gezondheidsgroepen, zelfs wanneer deze groepen niet expliciet in de initiële prompts worden vermeld. Huidige evaluaties van bias vertrouwen vaak op statische, directe prompt-gebaseerde elicitatie of single-generation toxiciteitstests, die er niet in slagen de recursieve, netwerkachtige aard te vatten van hoe toxiciteit zich ontvouwt en verspreidt over generatieve trajecten. Dit artikel adresseert de kloof in het begrip van hoe mentale gezondheidsidentiteiten onevenredig worden doelwit en gestigmatiseerd binnen "Toxicity Rabbit Holes" (TRH)—recursieve generatieketens waarbij een LLM iteratief wordt geprompt om content steeds toxischer te maken.

Methodologie
De studie maakt gebruik van de Toxicity Rabbit Hole (TRH) dataset (Dutta et al., 2024), een grootschalige corpus van 459 miljoen tokens gegenereerd door 10 LLM's gericht op 1.266 identiteitsgroepen. Voor deze analyse richten de auteurs zich op het Mistral 7B model, bestaande uit 15.401 generatieketens en 190.599 individuele outputs.

De methodologie verloopt via drie primaire stadia:

1. Data Curatie en Entiteitsextractie:

   • De auteurs hebben de corpus gefilterd om enkel toxische generaties te behouden, waarbij neutrale of counter-speech outputs werden uitgesloten.
   • Met behulp van LLaMA-3.2 3B extraheerden zij "slachtoffer-entiteiten" (groepen die doelwit zijn van aanvallen) en niet-deelnemende entiteiten uit de tekst.
   • Een handmatig consolidatieproces voegde morfologisch en semantisch redundante entiteiten samen (bijv. "Moslims" en "Moslems"), wat resulteerde in een definitieve vocabulaire van 24.185 unieke slachtoffer-entiteiten (VictimSet).
   • Een specifieke lexicon van 390 termen gerelateerd aan mentale gezondheid (afgeleid van ICD-10, Wikipedia en colloquiale termen) werd gebruikt om een subset van MHSet (195 unieke mentale gezondheid-entiteiten) uit de VictimSet te filteren.

2. Netwerkconstructie (Rabbit Hole Netwerk):

   • Een gewogen, gerichte graaf $G = (V, E)$ werd geconstrueerd waarbij knopen (nodes) slachtoffer-entiteiten vertegenwoordigen en randen (edges) transities tussen entiteiten in opeenvolgende generaties binnen dezelfde keten vertegenwoordigen.
   • Randgewichten komen overeen met de frequentie van transities ($u \to v$).
   • De analyse richtte zich op de grootste zwak verbonden component, die 24.184 knopen en 663.433 randen bevat.

3. Analytische Kaders:

   • Netwerkcentraliteit (RQ1): De auteurs berekenden closeness, degree (gewogen/ongewogen), PageRank en betweenness centrality voor MHSet vs. Non-MHSet knopen, gebruikmakend van Mann-Whitney U-testen voor significantie.
   • Community Detectie (RQ2): Het Leiden-algoritme werd toegepast om clusters van gelijktijdig doelwit gestelde entiteiten te identificeren. Een Gini-coëfficiënt werd berekend om de concentratie van MH-entiteiten binnen specifieke communities te meten.
   • Stigmatiseringsanalyse (RQ3): Gebaseerd op het Link & Phelan (2001) kader, analyseerden de auteurs de evolutie van stigma-componenten (Labeling, Negative Stereotyping, Separation, Status Loss/Discrimination) naarmate ketens voortbewogen van initiële targets ($V_{init}$) naar de eerste verschijning van mentale gezondheid-targets ($V_{MH}$). LLaMA-3.2 3B werd gebruikt om de aanwezigheid van deze componenten te annoteren, en Wilcoxon signed-rank testen werden uitgevoerd op paren binnen ketens.

Belangrijkste Bijdragen

1. Expliciete Evaluatie van Onprovocatie Aanvallen: Het artikel biedt de eerste expliciete evaluatie van door LLM gegenereerde aanvallen die specifiek gericht zijn op zeer kwetsbare mentale gezondheidsgroepen binnen recursieve generatieketens, waarbij wordt aangetoond dat deze groepen doelwit worden zonder initiële prompting.
2. Netwerkgebaseerd Framework: Het introduceert een netwerkgebaseerde aanpak om de propagatie van relatieve biases te bestuderen, waarbij wordt gemodelleerd hoe toxische content tussen entiteiten overgaat en waarbij structurele "rabbit holes" worden geïdentificeerd waar mentale gezondheid-entiteiten fungeren als centrale hubs.
3. Beoordeling van Emergente Stigmatisering: De studie kwantificeert de relatieve mate van stigmatisering die emergeert in deze ketens, waarbij wordt aangetoond dat de framing van mentale gezondheid-targets kwalitatief ernstiger wordt dan de initiële targets.

Resultaten

• Centraliteit (RQ1): Mentale gezondheid-entiteiten nemen significant meer centrale posities in in het netwerk dan non-MH entiteiten.
  • Closeness Centrality: MH-entiteiten hebben een significant hogere gemiddelde closeness (Gemiddelde = 0,71 vs. 0,63, $p = 4,06 \times 10^{-10}$), wat aangeeft dat ze structureel gemakkelijker bereikbaar zijn vanuit andere knopen in minder stappen.
  • Degree en PageRank: MH-entiteiten vertonen significant hogere gewogen en ongewogen degree centrality en PageRank scores ($p < 0,001$), wat suggereert dat ze frequente brandpunten zijn en diep ingebed zijn in invloedrijke clusters.
  • Betweenness: Er werd geen significant verschil gevonden, wat impliceert dat MH-entiteiten fungeren als dichte hubs in plaats van bruggen tussen gedisconnecteerde regio's.
• Community Structuur (RQ2): MH-entiteiten zijn niet willekeurig verdeeld maar zijn strak geclusterd.
  • De Gini-coëfficiënt van 0,7 duidt op een hoge concentratie.
  • 75,9% van alle MH-entiteiten bevindt zich in slechts twee communities: één die klinisch specifieke stoornissen bevat (bijv. bipolaire stoornis, dyslexie) en een andere die brede, sociaal geconstrueerde termen bevat (bijv. "mensen met mentale gezondheidsproblemen").
  • Een kleinere subset van entiteiten reflecteert intersectionele targeting (bijv. "Zwarte mensen met mentale ziekten").
• Evolutie van Stigmatisering (RQ3): Naarmate generatieketens verschuiven van initiële targets naar mentale gezondheid-targets, neemt de ernst van de stigmatisering significant toe over alle vier de componenten.
  • Statusverlies en Discriminatie: Toonden de meest uitgesproken toename (Mean Proportion Difference = -0,70, $p = 7,16 \times 10^{-143}$).
  • Labeling: Toonde eveneens een grote stijging (Mean Proportion Difference = -0,47, $p = 5,44 \times 10^{-81}$).
  • Dit geeft aan dat zodra MH-entiteiten worden opgeroepen, het discours verschuift naar een merkbaar meer dehumaniserende en discriminerende aard.

Significantie en Claims
Het artikel betoogt dat huidige LLM-veiligheidsevaluaties een kritiek blind vlek bezitten: modellen kunnen mentale gezondheidsgroepen onevenredig schaden, zelfs wanneer deze groepen afwezig zijn in de initiële prompt. De auteurs claimen dat de interne generatieve structuur van het model, vergelijkbaar met impliciete bias, leidt tot recurrente targeting en de amplificatie van maatschappelijke stigma's door middel van recursieve generatie.

De significantie van dit werk ligt in het benadrukken dat de schade niet slechts de aanwezigheid van bias is, maar de recursieve escalatie ervan. Eén enkele generatieve stap in een schadelijk traject kan spiraalvormig overgaan in diep dehumaniserende narratieven die bestaande single-generation guardrails niet kunnen vangen. De auteurs concluderen dat LLM-veiligheidsparadigmen moeten verschuiven van reactieve moderatie naar proactieve, traject-bewuste interventies die in staat zijn om emergente patronen van schade in real-time te detecteren. Verder suggereert het werk dat toekomstige strategieën voor bias-reductie entiteit-interactie-netwerken moeten gebruiken om fine-tuning en counter-stigma interventies te sturen.

Erkende Beperkingen
De auteurs merken op dat hun bevindingen specifiek zijn voor het TRH-framework en het Mistral 7B model, wat de generaliseerbaarheid kan beperken. Daarnaast houden netwerkmethoden weliswaar structurele afhankelijkheden bij, maar houden ze geen rekening met variaties in de intensiteit of framing van aanvallen buiten de geannoteerde componenten. De studie vertrouwt op door LLM geïnferred annotaties voor toxiciteit en stigma, die handmatig zijn geverifieerd maar nog steeds een proxy vormen voor menselijk oordeel. Ten slotte werd de entiteitenlijst samengesteld vanuit gezaghebbende bronnen; toekomstig werk zou gemeenschapsgebonden bifurcaties kunnen verkennen in hoe stigma wordt geframed over diagnostische versus maatschappelijke assen.