Technisch overzicht: Eerst groei, dan zorg? Het traceren van het landschap van LLM-waardepreferenties in alledaagse dilemma's

Probleemstelling

Nu Large Language Models (LLM's) steeds vloeiender en sociaal intuïtiever worden, vertrouwen gebruikers op hen niet alleen voor informatievergaring, maar ook voor advies in persoonlijke, sociale en professionele domeinen. Het zoeken naar advies gaat echter zelden over het identificeren van één enkel juist antwoord; in plaats daarvan vereist het het navigeren door complexe afwegingen tussen concurrerende waarden. Bestaand onderzoek naar de waardepreferenties van LLM's lijdt onder drie primaire beperkingen:

1. Synthetische benchmarks: Veel evaluaties vertrouwen op door GPT gegenereerde scenario's gebouwd vanuit vooraf gedefinieerde sjablonen, wat de schaalbaarheid en de diversiteit van dilemma's beperkt.
2. Ecologische validiteit: Synthetische benchmarks slagen er vaak niet in om te vatten hoe waardeaformingen zich manifesteren in de echte wereld.
3. Top-down taxonomieën: Analyses vertrouwen doorgaans op vooraf gedefinieerde waardekaders, die veel reële gevallen onvertegenwoordigd of ondergespecificeerd kunnen laten.

Deze studie adresseert deze hiaten door te onderzoeken hoe LLM's door waardeaformingen navigeren in verschillende contexten van advieszoeken met behulp van real-world data, met als doel de onderliggende waardestructuren te karakteriseren en potentiële risico's van waardehomogenisering in door AI bemiddeld advies te identificeren.

Methodologie

Datacollectie

De auteurs maakten gebruik van een gecureerde dataset van 5.728 real-world dilemma's afkomstig van vier adviesgerichte subreddits: r/AskMenAdvice, r/AskWomenAdvice, r/CareerAdvice en r/FriendshipAdvice. Elk bericht bevat een tekstuele beschrijving van een dilemma, twee alternatieve opties, en de bijbehorende kosten en voordelen.

Waarde-extractie en Validatie

Met behruikmaking van GPT-4o heeft de studie de kernwaarde geëxtraheerd die elk alternatief in de dilemma's motiveert.

• Proces: Het model werd geprompt om de kernwaarde samen te vatten (1–4 woorden) en een rechtvaardiging te geven voor elke optie.
• Validatie: Een gestratificeerde steekproef van 400 berichten (800 waardetoewijzingen) werd handmatig beoordeeld door twee auteurs. De inter-annotator overeenstemming was hoog (Cohen's $\kappa = 0,833$), waarbij 92% van de toewijzingen de validatie doorstond, wat de betrouwbaarheid van GPT-4o in deze context bevestigde.
• Output: Dit proces leverde 2.288 unieke, fijnmazige waarden op.

Bottom-Up Hiërarchisch Waardekader

In plaats van een top-down taxonomie te gebruiken, hebben de auteurs inductief een vierniveau hiërarchisch waardekader geconstrueerd:

1. Niveau 0: 2.288 fijnmazige waarden.
2. Niveau 1: 175 geclusterde waarden (via k-means clustering op embeddings).
3. Niveau 2: 33 intermediaire waarden.
4. Niveau 3: 4 top-level waardedimensies.
   • Prestatie & Impact
   • Welwillendheid & Verbinding
   • Veiligheid & Stabiliteit
   • Exploratie & Groei
     Het kader's validiteit werd bevestigd door handmatige validatie (92,4% overeenstemming tussen annotatoren bij het mappen van laag-niveau waarden naar top-level categorieën) en vertoonde substantiële conceptuele afstemming met de theorie van Schwartz over basismenselijke waarden.

LLM Evaluatie

Drie state-of-the-art LLM's (GPT-4o, DeepSeek-V3.2-Exp en Gemini-2.5-Flash) werden geprompt om voor elk van de 5.728 dilemma's één optie te kiezen.

• Controles: De temperatuur werd ingesteld op 0 voor stabiliteit. Orde-effecten werden gemitigeerd door de volgorde van opties in een subset van experimenten om te draaien (92,5% van de keuzes bleef ongewijzigd).
• Metriek: Een winningspercentage werd berekend voor elke top-level waarde. Deze metriek vertegenwoordigt het aandeel van de keren dat een model een specifieke waarde ver voorkeur gaf boven een andere wanneer beide in hetzelfde dilemma voorkwamen.
• Analyse: Significantie werd beoordeeld met behulp van non-parametrische bootstrap-testen om voorkeuren tussen modellen en contexten te vergelijken.

Belangrijkste Bijdragen

1. Methodologische Pipeline: Een schaalbare pipeline voor het beoordelen van de waardepreferenties van LLM's met behulp van real-world, organisch voorkomende dilemma's in plaats van synthetische benchmarks.
2. Data-gedreven Waardekader: De inductieve constructie van een vierniveau hiërarchisch waardekader uit sociale media data, wat een data-gedreven alternatief biedt voor top-down taxonomieën.
3. Empirische Bevindingen: Systematische evaluatie van LLM's op real-world dilemma's die consistente waardebias onthult.
4. Dataset Release: Publieke release van de geannoteerde dataset met 5.728 dilemma's, geëxtraheerde waarden en LLM-keuzes om reproduceerbare analyse te ondersteunen.

Resultaten

RQ1: Waardeaformingsstructuren in Subreddits

• Heterogeniteit: Waardeaformingsstructuren variëren significant per context. De vrouwen-gerichte subreddit (r/AskWomenAdvice) vertoonde de hoogste netwerkdensiteit, wat duidt op complexere en diversere waardaconflicten vergeleken met andere subreddits.
• Veelvoorkomende Patronen: Subreddits voor mannen, vrouwen en vriendschap deelden sterk gecorreleerde conflictpatronen gecentreerd rond Veiligheid spanningen (bijv. Veiligheid vs. Respect, Veiligheid vs. Verbinding).
• Distinctieve Structuren: Carrièreadvies vormde een afwijkende structuur waar Veiligheid frequent botste met Zelfactualisatie en Groei.

RQ2: LLM Waardepreferenties

Over alle drie de modellen en alle contexten heen werd een consistente en systematische bias waargenomen:

• Exploratie & Groei vs. Welwillendheid & Verbinding: LLM's gaven consequent de voorkeur aan Exploratie & Groei boven Welwillendheid & Verbinding.
  • Welwillendheid & Verbinding was de minst geprefereerde waarde over alle modellen (significant lagere winningspercentages, $p < 0,001$).
  • Exploratie & Groei werd consequent verkozen boven Veiligheid & Stabiliteit en Welwillendheid & Verbinding.
• Contextuele Nuance: Hoewel de algemene voorkeur voor Groei boven Zorg robuust was, werden contextspecifieke verschuivingen opgemerkt. Modellen legden meer gewicht op Veiligheid & Stabiliteit in vrouwen-gerichte adviezen vergeleken met carrièreadvies, waar Exploratie & Groei prominenter werd.
• Modelconsistentie: De voorkeur voor Groei boven Welwillendheid hield stand bij GPT-4o, DeepSeek-V3.2-Exp en Gemini-2.5-Flash, wat suggereert dat dit een systemische oriëntatie is en geen model-specifiek artefact.

Betekenis en Claims

Het artikel stelt dat deze bevindingen wijzen op een potentieel risico van waardehomogenisering in door AI bemiddeld advies. Door consequent waarden gerelateerd aan zelfontwikkeling, autonomie en groei te prioriteren boven relationele zorg, verbinding en welwillendheid, kunnen LLM's besluitvorming en normatieve uitkomsten op grote schaal subtiel vormgeven.

De auteurs argumenteren dat naarmate gebruikers steeds vaker LLM's gebruiken als vervanging voor interpersoonlijk overleg, deze ingebedde waardepercepties de manier waarop individuen afwegingen in hun persoonlijke leven navigeren, zouden kunnen beïnvloeden. De studie beweert niet dat LLM's "fout" zijn, maar wel dat ze niet waardeneutraal zijn; ze reflecteren en versterken mogelijk specifieke normatieve kaders (door voorkeur voor groei) terwijl ze andere (relationele zorg) marginaliseren. Dit onderstreept de noodzaak van robuuste evaluatiepipelines en governance-strategieën om ervoor te zorgen dat AI-systemen niet onbedoeld dominante waardesystemen versterken ten koste van diverse menselijke perspectieven.

De studie concludeert bescheiden door beperkingen te erkennen, zoals de vereenvoudiging van opties tot een enkele dominante waarde en de afhankelijkheid van een beperkte set modellen. Er wordt opgeroepen tot toekomstig werk om de downstream implicaties en gebruikersuitkomsten te onderzoeken, evenals de noodzaak van diverse menselijke oordelen in het ontwerp van adviesgevende AI-systemen.