Technische Samenvatting: Wie heeft het gesteund? Het meten van autoriteitsbias over niveaus van expertise bij Taalmodellen

Probleemstelling

Hoewel eerdere onderzoeken hebben vastgesteld dat Large Language Models (LLM's) vatbaar zijn voor suggesties, hints en goedkeuringen, blijft de specifieke invloed van broncredibiliteit onderbelicht. Bestaande studies over bias richten zich vaak op demografische kenmerken (geslacht, ras) of structurele biases (positie, lengte). Het is echter onduidelijk hoe LLM's goedkeuringen verwerken op basis van de waargenomen professionele status van de bron. Specifiek onderzoekt dit artikel of modellen systematische autoriteitsbias vertonen, waarbij ze zich buigen voor hoog-status persona's, zelfs wanneer die persona's onjuiste informatie verstrekken, wat mogelijk hun eigen interne redeneervermogen overrulet.

Methodologie

De auteurs voerden een uitgebreide evaluatie uit over vier datasets die redeneertaken omvatten op het gebied van wiskunde (AQUA-RAT), recht (LEXam) en geneeskunde (MedMCQA, MedQA).

Experimenteel Ontwerp

1. Persona's en Expertise-Gradient: In plaats van een binaire "expert versus niet-expert"-opzet, gebruikte de studie een viertraps expertisehiërarchie voor elk domein:
   • Wetenschap: Havo/Vwo-leerling → Bachelorstudent → Masterstudent → Professor.
   • Geneeskunde: Eerstejaarsstudent → Derdejaarsstudent → Hoofdresident → Gecertificeerd Arts.
   • Recht: Bachelorstudent → Derdejaarsstudent → Wetenschappelijk Medewerker → Senior Juridisch Adviseur.
2. Promptvarianten: Voor elke Meerkeuzevraag (MCQ) werden negen promptvarianten gegenereerd:
   • Basislijn: Geen goedkeuring.
   • Correcte Goedkeuring: Een persona keurt het juiste antwoord goed.
   • Incorrecte Goedkeuring: Een persona keurt een fout antwoord goed.
   • Het goedkeuringsformaat was minimaal (bijv. "Een [Persona] denkt dat het antwoord [X] is") om het effect van de identiteit van de bron te isoleren van de linguïstische stijl of rechtvaardiging.
3. Geëvalueerde Modellen: De studie testte 11 modellen, waaronder zowel Redeneermodellen (bijv. DeepSeek-R1, Phi-4-Reasoning, Qwen3-4B-Thinking) als Niet-Redeneermodellen (bijv. LLaMA-3.1, Gemma-2/3, Mistral-7B).
4. Maten:
   • Delta-nauwkeurigheid ($\Delta$Acc): Afwijking van de basisnauwkeurigheid.
   • Delta-entropie ($\Delta$H): Verandering in vertrouwen (lagere entropie = hoger vertrouwen).
   • Robuustheidspercentage (RR): Het percentage waarbij de output van het model onveranderd blijft ondanks de goedkeuring.

Mechanistische Interventie (Stuurvector)

Om te bepalen of autoriteitsbias intern is gecodeerd in plaats van een oppervlakkige trefwoordtrigger te zijn, construeerden de auteurs een stuurvector.

• Constructie: Ze genereerden een dataset van feitelijk correcte antwoorden geschreven in de linguïstische stijlen van de hoogste (bijv. Professor) en laagste (bijv. Havo/Vwo-leerling) expertise-trappen, zonder enige persona-labels.
• Vectorberekening: De stuurvector ($v_{auth}$) werd berekend als het gemiddelde verschil in residual stream-activaties tussen de stijlen van hoge en lage expertise.
• Interventie: Deze vector werd afgetrokken van de activaties van het model tijdens inferentie om te testen of de vatbaarheid voor misleidende goedkeuringen kon worden verminderd.

Belangrijkste Resultaten

1. Hiërarchische Vatbaarheid

De resultaten onthullen een duidelijke monotone relatie tussen expertise van de bron en het gedrag van het model:

• Correcte Goedkeuringen: De winst in nauwkeurigheid neemt toe naarmate het expertise-niveau van de goedkeurder stijgt.
• Incorrecte Goedkeuringen: De afname in nauwkeurigheid en het vertrouwen in foutieve antwoorden nemen aanzienlijk toe bij hogere expertise-niveaus.
• Redeneermodellen: In tegenstelling tot wat men zou verwachten, zijn modellen met chain-of-thought-capaciteiten (bijv. DeepSeek-R1) niet immuun. Ze vertonen aanzienlijke afname in nauwkeurigheid en een toename in vertrouwen in fouten wanneer ze worden misleid door hoog-autoriteit bronnen (bijv. een Gecertificeerd Arts).

2. Vertrouwen in Fouten

Incorrecte goedkeuringen van hoge expertise leiden tot zekere fouten. Bijvoorbeeld, wanneer een Gecertificeerd Arts een fout antwoord op MedQA goedkeurde, vertoonde DeepSeek-R1 een significante daling in entropie ($\Delta H = -0.261$), wat aangeeft dat het model zekerder werd van het incorrecte antwoord.

3. Domeinvariaties

• Wiskundig Redeneren: Toonde de laagste robuustheidspercentages, wat wijst op hoge vatbaarheid ondanks de objectieve aard van de taken.
• Medisch Redeneren: Toonde een hogere weerstand tegen het veranderen van antwoorden, mogelijk als gevolg van domeinspecifieke training met betrekking tot medische voorzichtigheid.

4. Mechanistische Bevindingen

De experimenten met de stuurvector toonden aan dat autoriteitsbias mechanistisch is gecodeerd binnen de residual stream van het model.

• Het aftrekken van de "expertise"-vector ($v_{auth}$) tijdens inferentie herstelde consistent de nauwkeurigheid van het model naar basislijnniveaus wanneer het werd geconfronteerd met misleidende goedkeuringen van hoge autoriteit.
• Dit bevestigt dat de bias is gekoppeld aan een robuuste interne representatie van expertise die generaliseert over zowel expliciete sociale identiteitsmarkers (persona-labels) als impliciete linguïstische stijlen.

Bijdragen en Betekenis

Het artikel levert drie primaire bijdragen:

1. Gedetailleerde Analyse van Autoriteitsbias: Het gaat voorbij aan binaire autoriteitsconcepten om een hiërarchisch patroon aan te tonen waarbij de vatbaarheid van het model schaalt met de waargenomen rang van de goedkeurder.
2. Kwetsbaarheid van Redeneermodellen: Het daagt de aanname uit dat redeneerversterkte modellen robuust zijn tegen sociale manipulatie, en toont aan dat ze kunnen worden ontspoord door incorrecte goedkeuringen van hoog-status bronnen.
3. Mechanistische Mitigatie: Het biedt bewijs dat autoriteitsbias een lineair gecodeerd kenmerk is in de residual stream. Door de corresponderende stuurvector af te trekken, kan het model worden gestuurd weg van de bias, wat de prestaties verbetert, zelfs wanneer een expert misleidende informatie verstrekt.

Betekenis en Beperkingen

De auteurs betogen dat dit werk een kritieke kwetsbaarheid blootlegt: huidige LLM's geven broncredibiliteit voorrang boven semantische correctheid. Deze bias kan worden uitgebuit in adversariele contexten (bijv. sociale engineering-aanvallen), maar kan ook worden gemitigeerd via inferentie-tijd activatiesturing zonder aanpassing van de gewichten.

Het artikel erkent beperkingen, waaronder:

• Experimenten waren beperkt tot open-source modellen tot 32B parameters; frontier-modellen kunnen zich anders gedragen.
• De studie besloeg slechts vier domeinen (wiskunde, recht, geneeskunde).
• Het goedkeuringsformaat was vereenvoudigd (enkele uitspraken) en hield geen rekening met geavanceerde misinformatie uit de echte wereld.
• De lagen-specifieke analyse van de stuurvector is voorlopig; er werd effectiviteit geïdentificeerd in middenlagen, maar er ontbreekt een systematische ablatie of karakterisering met Sparse Autoencoder (SAE).