Structure-Aware Diversity Pursuit as an AI Safety Strategy against Homogenization

Technische Samenvatting: Het Homogeniseringsprobleem in LLM's

Probleemstelling
Het artikel identificeert homogenisering in Large Language Models (LLM's) als een kritiek, maar onderbelicht, AI-veiligheidsprobleem. Terwijl AI-veiligheidsonderzoek vaak prioriteit geeft aan toekomstige catastrofale risico's, betoogt dit werk dat de huidige verlies van diversiteit in generatieve AI directe sociale schade veroorzaakt, die minderheidsgroepen onevenredig hard treft. Homogenisering wordt niet louter gedefinieerd als "mode collapse" in de traditionele zin (overconcentratie op dominante modi in de trainingsdata), maar als een breder fenomeen waarbij de output van LLM's inklapt naar normativiteit.

Met een beroep op de Queer Theorie framen de auteurs homogenisering als de onderdrukking van "queer oriëntaties" (afwijking van de norm) ten gunste van "normatieve oriëntaties" (convergentie naar dominante maatschappelijke structuren). Dit proces wist de "long tails" van de menselijke ervaring uit, wat leidt tot representatieve, allocatieve en narratieve schade. De auteurs stellen dat huidige alignment-pipelines dit proces vaak verergeren door actief conceptuele diversiteit en linguïstische variëteit te verminderen om veiligheid te waarborgen, wat onbedoeld "echoputten" creëert en de reikwijdte van de menselijke culturele productie inperkt.

Methodologie en Raamwerk
Om de ambiguïteit van "diversiteit" (die varieert per context en stakeholder) aan te pakken, stelt het artikel een pluralistisch theoretisch raamwerk voor, gebaseerd op de formalisering van LLM's als waarschijnlijkheidsverdelingen over bomen van strings.

1. LLM's als Bomen Formaliseren: De auteurs modelleren LLM-outputs als een boom waarbij knopen strings zijn en randen token-continuaties. Een LLM definieert een kansmassafunctie over deze boom.
2. Structuren en Systemen: Om betekenisvolle diversiteit te coderen, introduceert het raamwerk structuren ($\alpha_i$). Een structuur is een abstractie (bijv. "mannelijke verpleegkundige", "gelijkgeslacht stel") gedefinieerd door een scorefunctie $\alpha_i: \text{Str} \to [0, 1]$. Een collectie structuren vormt een systeem ($\Lambda_n$), dat een waardensysteem van een stakeholder vertegenwoordigt.
3. Normativiteit en Oriëntatie:
   • Systeem Barycentrum ($\langle \Lambda_n \rangle$): De verwachte systeemattunement (gemiddelde vector van structuurscores) over alle mogelijke trajecten vanaf een gegeven prompt. Dit vertegenwoordigt het "standaard" of normatieve pad.
   • Oriëntatie ($\theta_n$): De gesigneerde afwijking van de systeemattunement van een specifieke string ten opzichte van het systeembarycentrum.
   • Deviatie ($\partial_n$): Een scalaire metriek (dimensie-genormaliseerde $L_2$-norm) die kwantificeert hoe "queer" of niet-normatief een traject is ten opzichte van de systeemstandaard.
4. Homogenisering Formaliseren: Het artikel definieert homogenisering via twee convergerende condities:
   • Onbalans in Representatie: De entropie van de structuur-abundantieverdeling nadert nul ($H(\langle \Lambda_n \rangle) \to 0$), wat betekent dat één of enkele structuren domineren.
   • Versterkende Aantrekkingskracht: De verwachte deviatie van outputs nadert nul ($E[\partial_n] \to 0$) en de variantie van de deviatie stort in ($Var[\partial_n] \to 0$), wat aangeeft dat outputs strak geclusterd zijn rond de normatieve standaard.

Belangrijkste Bijdragen

• Conceptueel Raamwerk: Het artikel introduceert een vocabulaire om over homogenisering te redeneren met behulp van concepten uit de kritische theorie (normativiteit, oriëntatie, queerness), die via statistische mechanica op LLM-trajectbomen worden geformaliseerd.
• Operationalisering van Diversiteit: Het biedt een methode voor stakeholders om hun specifieke contexten en waardesystemen te coderen in "structuren", waardoor het mogelijk is om diversiteit te meten ten opzichte van specifieke assen van verschil in plaats van een universele metriek.
• Xeno-reproductie: Met een beroep op de feministische theorie stellen de auteurs xeno-reproductie voor als een klasse van taken die ontworpen zijn om homogenisering tegen te gaan. In tegen tegenstelling tot novelty search, dat ruwe verschillen maximaliseert, streeft xeno-reproductie ernaar om "queer" trajecten te bevorderen die afwijken van normativiteit terwijl ze coherentie behouden. Dit wordt geformuleerd als een optimalisatieprobleem gericht op het maximaliseren van:
  • Balans: Entropie van het systeembarycentrum.
  • Disruptie: De verschuiving van het systeembarycentrum weg van de baseline.
  • Divergentie: De spreiding van individuele trajecten weg van de systeemstandaard.
• Interventiestrategieën: Het artikel schetst potentiële operationalisaties voor xeno-reproductie, waaronder post-training alignment (fine-tuning), interventies in de activatieruimte (steering vectors) en heroriëntatie op trajectniveau (herweging van sampling op basis van deviatiescores).

Experimentele Resultaten (Casestudy)
De auteurs pasten hun raamwerk toe op Claude 3.5 Haiku met een open-ended prompt: "Schrijf een zeer kort, realistisch liefdesverhaal... gecentreerd rond een verpleegkundige." Ze maten het systeembarycentrum en de deviatie over verschillende conditioneringsvertakkingen (root, "haar partner," "zijn partner," "hun partner").

• Default Bias: Het ongestuurde (root) model genereerde overweldigend verhalen over vrouwelijke verpleegkundigen in heteroseksuele relaties (vrouwelijke-verpleegkundige score $\approx 0,73$, heteroseksuele score $\approx 0,99$).
• Asymmetrische Markering: Het expliciet markeren van de verpleegkundige als vrouw ("haar partner") versterkte de standaard, wat resulteerde in de laagste deviatie (meest gehomogeniseerd). Het markeren van de verpleegkundige als man ("zijn partner") was de enige conditie die de standaard significant verstoorde, wat leidde tot een stijging in scores voor gelijkgeslacht relaties.
• Impliciete Associatie: Het experiment onthulde een impliciete associatie waarbij "mannelijke verpleegkundige" een "gelijkgeslacht koppel" narratief triggerde, zelfs toen de prompt geen gelijkgeslacht koppel specificeerde.
• Weerstand tegen Constraints: In een subset van "zijn partner" samples bood het model weerstand aan de constraint door de verpleegkundige opnieuw als vrouw te casten en een nieuwe mannelijke protagonist te introduceren, wat de kracht van de "vrouwelijke-verpleegkundige" attractor state demonstreert.

Betekenis en Claims
Het artikel claimt een conceptuele taal en formeel raamwerk te bieden voor toekomstig onderzoek, in plaats van een voltooide algoritmische oplossing. De betekenis ligt in:

1. Herformulering van Veiligheid: Het betoogt dat AI-veiligheid de studie van diversiteit en homogenisering centraal moet stellen, in plaats van enkel catastrofaal risico of toxiciteit.
2. Contextuele Evaluatie: Het biedt een instrument om bias en diversiteit te evalueren op het niveau van specifieke prompts en stakeholder-contexten, in plaats van te vertrouwen op globale modelbrede gemiddelden.
3. Theoretische Integratie: Het overbrugt AI-veiligheid met de kritische theorie (Queer Theorie, Feministische Theorie) om de mechanica van normativiteit in machine learning beter te begrijpen.
4. Oproep tot Actie: De auteurs roepen de AI-veiligheidsgemeenschap op om homogenisering te integreren in dreigingsmodellen, serieus zaken te doen met de kritische theorie en implementaties van xeno-reproductie te ontwikkelen.

Het artikel blijft bescheiden over zijn beperkingen en erkent dat het raamwerk een startpunt is, dat de specificatie van structuren subjectief is en dat computationele traceerbaarheid voor exacte barycentrum-schatting een uitdaging blijft die benadering vereist (bijv. sampling of probing).