💬 NLP

Demographic Prompting at Scale: When More Attributes Hurt LLM--Human Agreement

Deze studie toont aan dat hoewel het leveren van één tot drie demografische attributen met een hoog signaal in prompts de afstemming tussen LLM's en menselijke annotaties kan verbeteren, overspecificatie met volledige sets attributen de prestaties verslechtert, wat onthult dat succesvolle demografische prompting afhangt van de gezamenlijke overweging van signaalleerbaarheid, directionele coherentie en taakcontext, in plaats van simpelweg het vergroten van het volume aan attributen.

Oorspronkelijke auteurs: Mahammed Kamruzzaman, Shrabon Kumar Das, Gene Louis Kim

Gepubliceerd 2026-07-14

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Mahammed Kamruzzaman, Shrabon Kumar Das, Gene Louis Kim

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een super-slimme robotvriend hebt (een Large Language Model, of LLM) die heel goed is in het lezen van verhalen en het raden hoe mensen erover denken. Soms raadt de robot het perfect, maar soms mist hij de plank omdat hij niet weet wie de lezer is.

Onderzoekers van de University of South Florida besloten een populaire idee te testen: "Wat als we de robot precies vertellen wie de lezer is?" Ze probeerden de robot een "persona" te geven door de leeftijd, ras, geslacht, religie en meer van de lezer op te sommen. Ze wilden zien of dit de robot hielp om beter overeen te komen met menselijke lezers.

Dit is wat ze vonden, gebruikmakend van een mix van vijf verschillende robotbreinen en vijf verschillende soorten lastige taken (zoals het opsporen van giftige reacties, het raden of een tekst beleefd is, of het begrijpen van emoties).

De "Goldilocks"-regel: Minder is meer

De grootste verrassing? Meer informatie maakte de robot niet slimmer; het maakte hem in de war.

Denk aan het geven van de weg aan een vriend. Als je zegt: "Ga naar het park," kan hij verdwalen. Als je zegt: "Ga naar het park, sla linksaf bij het rode huis, en ga dan rechts bij de blauwe auto," kan hij er misschien wel komen. Maar als je steeds meer details blijft toevoegen—"en vergeet de hond niet, en het is 3 uur 's middags, en het weer is regenachtig, en het park heeft een fontein, en..."—dan kan je vriend gewoon bevriezen en de verkeerde kant op gaan.

De onderzoekers ontdekken dat voor de meeste robots het ideale punt was om hen één tot drie specifieke details te geven.

Het ideale punt: Wanneer ze slechts een paar aanwijzingen gaven (zoals "een persoon die LGBTQ+ en zwart is"), kwamen de gissingen van de robot veel beter overeen met menselijke lezers.
De overbelasting: Wanneer ze de robot elke beschikbare detail gaven (de "volledige attribuutset"), werd de prestatie van de robot eigenlijk slechter. Het was alsof je probeerde te luisteren naar vijf mensen die tegelijkertijd praten; de robot kon niet uitzoeken naar wie hij moest luisteren.

Het "Signaal vs. Ruis"-mysterie

Je zou kunnen denken: "Als een groep mensen echt van mening verschilt over iets, dan zou de robot dat zeker moeten weten!" Maar het artikel suggereert dat dit niet altijd waar is.

Stel je voor dat de robot een detective is die een misdaad probeert op te lossen op basis van aanwijzingen.

De Magnitude-val: Alleen omdat een groep mensen ergens luid over discussieert (hoge "magnitude" van verschil), betekent niet dat de robot dat argument kan gebruiken om de zaak op te lossen. De onderzoekers vonden dat weten hoeveel mensen het oneens waren, niet hielp om te voorspellen of de robot beter zou worden.
De Coherentie-sleutel: Het echte geheim was directionele coherentie. Dit is een chique manier om te vragen: "Zijn de verschillende mensen in deze groep het eens over wat de aanwijzingen betekenen?"
- Goed signaal: Als alle mensen in een groep (bijvoorbeeld "LGBTQ+-personen") het erover eens zijn dat het woord "dreiging" iets specifieks betekent, kan de robot dat leren.
- Slecht signaal: Als de ene helft van de groep denkt dat "dreiging" gevaar betekent, maar de andere helft iets anders denkt, raakt de robot in de war. Zelfs als de groep "luid" is over hun meningen, als ze in tegenovergestelde richtingen trekken, maakt het vertellen aan de robot "gedraag je als deze groep" de prestatie eigenlijk slechter.

Het "Neuron"-detectivewerk

Om te begrijpen waarom dit gebeurde, keken de onderzoekers in het brein van de robot (een proces dat "neuron probing" wordt genoemd). Ze keken naar welke kleine onderdelen van het robotbrein oplichtten wanneer ze een persona gaven.

Ze ontdekten een vreemde paradox bij één specifieke robot, DeepSeek.

De High-Volume Paradox: Wanneer DeepSeek een persona kreeg, lichtten er meer neuronen op dan bij welke andere robot ook. Je zou denken: "Wauw, hij werkt hard!" Maar eigenlijk was het de slechtste in het opvolgen van de instructies.
De Les: Alleen omdat het brein van een robot bruist van activiteit, betekent niet dat hij helder nadenkt. Soms is al die ruis gewoon de verwarring van de robot door de extra instructies, in plaats van dat hij de persona echt begrijpt.

Wat dit voor jou betekent

Het artikel zegt niet dat "demografische prompting" kapot is. In plaats daarvan suggereert het dat het een instrument is dat voorzichtig gebruikt moet worden.

Dump niet alles op de robot: Als je wilt dat de robot als een specifief type persoon klinkt, kies dan één tot drie duidelijke, consistente eigenschappen. Som niet het hele levensverhaal van iemand op.
Controleer op overeenstemming: Als de groep die je probeert na te bootsen verdeeld is over de betekenis van zaken, zal de robot waarschijnlijk niet goed kunnen helpen.
Het hangt af van de robot: Sommige robots (zoals Llama of Qwen) werden beter in deze taken met de juiste hints. Anderen (zoals DeepSeek) werden daadwerkelijk slechter, ongeacht wat je hen vertelde.

Kortom, de onderzoekers suggereren dat het geven van een "persona" aan een robot geen magische knop is die alles oplost. Het is meer zoals het afstemmen van een radio: je moet de juiste frequentie vinden (de juiste paar attributen) om een helder signaal te krijgen. Als je de knop te ver draait of probeert naar te veel zenders tegelijk te luisteren, krijg je alleen maar statische ruis.

Technische Samenvatting: Demografische Prompting op Schaal: Wanneer Meer Attributen Schadelijk Zijn

Probleemstelling

Grote taalmodellen (LLM's) worden steeds vaker ingezet als vervanging of aanvulling op menselijke annotatoren voor subjectieve NLP-taken (bijv. toxiciteitsdetectie, sentimentanalyse). Hoewel eerder onderzoek heeft vastgesteld dat de outputs van LLM's niet demografisch neutraal zijn en dat expliciete demografische aanwijzingen het gedrag van modellen kunnen verschuiven, ontbreekt in het vakgebied een systematisch begrip van hoe deze aanwijzingen functioneren. De bestaande literatuur vergelijkt doorgaans een "geen-demografische" baseline met een enkele "alle-attributen" prompt, of onderzoekt slechts één of twee specifieke attributen in isolatie. Deze aanpak faalt in het verkennen van de combinatorische ruimte tussen enkelvoudige en volledige attribuutensets, waardoor kritieke vragen onbeantwoord blijven:

Is er een optimaal aantal demografische attributen om in een prompt op te nemen, of zorgt het toevoegen van meer attributen altijd voor een verbetering van de alignment?
Welke eigenschappen van het demografische signaal van een dataset voorspellen of een specifiek attribuut de LLM-alignment zal verbeteren of verslechteren?
Hoe verwerken LLM's deze aanwijzingen intern, en correleert een verhoogde neurale activatie met betere alignment?

Methodologie

De auteurs voerden een uitgebreide studie uit over vijf subjectieve taalbegripstaken (Toxiciteit, Sentiment, Beleefdheid, Beledigendheid, Emotie-attributie) en vijf open-source LLM's (Llama-3.2-3B, Mistral-7B, Gemma3-12B, Qwen2.5-7B, DeepSeek-R1-7B).

Experimenteel Ontwerp

Combinatorische Prompting: De studie telde systematisch elke mogelijke combinatie van demografische attributen voor elke taak op, variërend van prompts met één attribuut tot de volledige set beschikbare attributen. Dit maakte het mogelijk om de alignment-trajecten in kaart te brengen van single-component naar full-attribute configuraties.
Alignment Metrieken: Model-mens alignment werd gekwantificeerd met behulp van quadratic-weighted Cohen's $\kappa$ (voor ordinale taken) en accuratesse (voor niet-ordinale taken), gemeten ten opzichte van menselijke annotaties.
Analyse van het Signaal aan de Datasetzijde: Om te begrijpen waarom bepaalde attributen werken, analyseerden de auteurs de annotatiedata zelf op drie niveaus van structurele detail:
1. Magnitude (Grootte): Gebruikmakend van SHAP-waarden op een Logistische Regressie classifier om de invloed van demografische attributen op de variatie in menselijke labels te meten.
2. Learnability (Leerbaarheid): Het trainen van een LinearSVC met expliciete woord-demografie interactie-features om te bepalen of het model onderscheidende lexicale patronen voor specifieke subgroepen kan leren.
3. Directional Coherence (Directionele Coherentie): Het berekenen van Fisher-gemiddelde Spearman-correlaties tussen de gewichtsvectoren van verschillende subgroepen binnen een attribuut. Een positieve correlatie geeft aan dat subgroepen het eens zijn over welke woorden een label signaleren (coherent); een negatieve correlatie duidt op tegengestelde signalen (incoherent).
Neuron Probing: Door adaptatie van interpretatiekaders identificeerden de auteurs "gespecialiseerde neuronen" (die geactiveerd worden door een demografische prompt maar niet door een baseline prompt). Ze maten de proportie gespecialiseerde neuronen en correleerden dit met alignment-prestaties om te testen of interne betrokkenheid vertaalt naar betere output.

Belangrijkste Bijdragen

Volledige Combinatorische Analyse: Dit artikel is de eerste die systematisch alle attribuutcombinaties over meerdere taken en modellen enumerateert. Het stelt vast dat demografische prompting niet monolithisch is; de bruikbaarheid ervan is sterk contextafhankelijk.
Drie-Niveaus Signaal-Framework: De auteurs stellen een diagnostisch framework voor dat de dataset-zijde signaal koppelt aan LLM-alignment. Ze demonstreren dat de magnitude van de demografische invloed op menselijke labels oninformatief is voor het voorspellen van LLM-alignment. In plaats daarvan vereist succesvolle alignment een gezamenlijke overweging van leerbaarheid en directionele coherentie.
Toepassing van Neuron Probing: Dit werk is de eerste die neuron probing toepast op demografische alignment in subjectieve taken. Het onthult dat de activatie van gespecialiseerde neuronen correleert met alignment-winsten alleen wanneer het onderliggende annotatiesignaal directioneel coherent is.

Belangrijkste Resultaten

1. De Over-specificatie Drempel (RQ1)

In tegenstelling tot de intuïtie dat "meer informatie beter is", piekt de alignment consistent bij één tot drie hoog-signaal attributen en verslechtert deze wanneer de volledige attribuutenset wordt verstrekt.

Toxiciteit: Vier van de vijf modellen bereikten hun piek-alignment met compacte sets (1–3 attributen). De "alles-tegelijk" configuratie presteerde nooit beter dan de beste compacte prompt en veroorzaakte vaak significante degradatie.
Beleefdheid & Beledigendheid: Deze taken vertoonden een brede weerstand tegen demografische prompting. Voor de meeste modellen leidde het toevoegen van attributen tot een verslechtering van de prestaties ten opzichte van de baseline.
Emotie: De resultaten waren zeer gepolariseerd; terwijl Mistral en Qwen aanzienlijk profiteerden van leeftijd-gebaseerde prompts, werden Gemma en DeepSeek gedegradeerd door elke demografische prompt.

2. De Rol van Directionele Coherentie (RQ2)

De studie vond dat de magnitude van de invloed van een demografisch attribuut op menselijke labels (SHAP-belangrijkheid) de LLM-alignment niet voorspelt.

Leerbaarheid vs. Coherentie: Hoewel leerbaarheid (LSVC $\kappa$ ) een betere voorspeller is dan magnitude, is het op zichzelf onvoldoende.
Het Coherentie-mechanisme: Attributen met directioneel coherente signalen (subgroepen zijn het eens over lexicale patronen) maken alignment-winsten mogelijk. Daarentegen zorgen attributen met tegengestelde signalen (subgroepen zijn het oneens over wat woorden indiceren) ervoor dat de alignment verslechtert, zelfs als een attribuut zeer leerbaar is voor een classifier.
- Voorbeeld: Bij de taak Beledigendheid was leeftijd het meest leerbare attribuut, maar veroorzaakte het de slechtste alignment omdat subgroepen tegengestelde opvattingen hadden. Ras, dat een lagere leerbaarheid maar een hogere coherentie had voor specifieke modellen, was het enige attribuut dat de alignment verbeterde.

3. Neuron Probing en de High-Volume Paradox (RQ3)

Selectieve Ondersteuning: Bij de taak Toxiciteit vertoonden modellen zoals Llama en Qwen een positieve correlatie tussen de proportie geactiveerde gespecialiseerde neuronen en de alignment-winsten, maar alleen voor attributen met directioneel coherente signalen.
De High-Volume Paradox: DeepSeek-R1 activeerde het hoogste volume aan gespecialiseerde neuronen over alle taken heen, maar presteerde consequent het best met geen demografische prompt. Dit suggereert dat een hoog activatievolume niet gelijkstaat aan nuttige kennisbetrokkenheid; het kan in plaats daarvan wijzen op een brede, ongedifferentieerde representatieve perturbatie.

Betekenis en Claims

Het artikel betoogt dat demografische prompting geen monolithische interventie is. De effectiviteit ervan is strikt voorwaardelijk aan:

Kwaliteit van het Attribuutsignaal: Specifiek de directionele coherentie van het annotatiesignaal.
Taalkenmerken: Sommige taken (bijv. Toxiciteit) zijn vatbaar voor demografische prompting, terwijl andere (bijv. Beleefdheid) resistent zijn.
Modelarchitectuur: Verschillende modellen reageren verschillend op dezelfde cues (bijv. Gemma vs. DeepSeek op Emotie).

De auteurs concluderen dat geprincipieerde attribuutselectie essentieel is. Praktijkgebruikers moeten "alle-attributen" prompts vermijden en in plaats daarvan 1–3 attributen selecteren die een hoge directionele coherentie vertonen. Ze benadrukken dat hoge leerbaarheid alleen een noodzakelijke maar onvoldoende voorwaarde is; als subgroepen directioneel van mening verschillen, kan geen enkele enkele persona-prompt aan de conflicterende eisen voldoen, wat leidt tot gedegradeerde prestaties.

De studie merkt bescheiden beperkingen op, waaronder de Engelstalige scope, de specifieke parameterschaal van de geteste modellen, en het correlationele karakter van de neuron-analyse, die associaties identificeert in plaats van causale mechanismen te bewijzen.