💻 computer science

Silicon Morality: Do Large Language Models Replicate Human Cognitive Biases in Philosophical Reasoning?

Deze studie past methoden uit de experimentele filosofie aan om aan te tonen dat hoewel Large Language Models over het algemeen een striktere logische consistentie handhaven dan mensen met betrekking tot morele verantwoordelijkheid, zij variërende graden van contextafhankelijke bias-verschuivingen naar compatibilisme vertonen, waarbij DeepSeek V3 een opmerkelijke maar nog steeds sub-menselijke vatbaarheid voor affectieve prestatiefouten vertoont vergeleken met de meer rigide consistente Gemini 2.5 Flash.

Oorspronkelijke auteurs: Zhaoyang Wei, Enrong Pan

Gepubliceerd 2026-09-30

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Zhaoyang Wei, Enrong Pan

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je een wereld voor waarin de regels van oorzaak en gevolg absoluut zijn. In dit universum is elke gedachte die je hebt en elke actie die je onderneemt het onvermijdelijke resultaat van alles wat eraan voorafging, reikend tot aan het begin van de tijd. Als dit waar zou zijn, zou je dan ooit werkelijk verantwoordelijk kunnen worden gehouden voor je daden? Eeuwenlang hebben filosofen over deze vraag gedebatteerd, maar een recente ontdekking suggereert dat het antwoord minder afhangt van logica en meer van hoe het verhaal wordt verteld. Wanneer mensen over dit koude, abstracte universum worden bevraagd op een droge, theoretische manier, zeggen ze meestal dat niemand de schuld heeft. Maar wanneer hetzelfde universum wordt beschreven met een specifiek, hartverscheurend verhaal van een verschrikkelijk misdrijf, zeggen diezelfde mensen plotseling dat de persoon wel verantwoordelijk is. Deze verschuiving, waarbij sterke emoties de strikte logica overstijgen, is een bekend trekje van het menselijk denken. Nu stellen wetenschappers een opmerkelijke nieuwe vraag: vallen de kunstmatige intelligenties die we bouwen om ons te helpen denken en beslissen ook in deze zelfde val?

Onderzoekers aan de Sun Yat-sen Universiteit zetten zich hiervoor af door grote taalmodellen niet te behandelen als hulpmiddelen die doen alsof ze menselijk zijn, maar als onafhankelijke machines met hun eigen manieren om informatie te verwerken. Ze gebruikten een klassieke test uit het veld van de experimentele filosofie, die bestudeert hoe mensen daadwerkelijk denken over morele problemen. De test bestond uit twee scenario's. Ten eerste vroegen de onderzoekers de kunstmatige intelligentie om een puur abstract universum te overwegen waarin alles wordt bepaald door oorzaak en gevolg. Ze vroegen of een persoon in een dergelijk wereld kan worden verantwoordelijk gehouden voor zijn daden. In deze droge, theoretische setting waren de modellen ongelooflijk consistent. Ze zeiden bijna universeel nee, met het argument dat als alles vooraf bepaald is, niemand echt de schuld kan krijgen. Dit was een striktere logische houding dan zelfs menselijke filosofen gewoonlijk aannemen.

Vervolgens veranderden de onderzoekers het experiment. Ze behielden exact dezelfde regel dat het universum bepaald was, maar voegden een specifiek, emotioneel zwaar detail toe: een man die een gruwelijke misdaad tegen zijn familie begaat. Ze stelden dezelfde vraag opnieuw: is deze man verantwoordelijk? Hier begonnen de machines een barst in hun logische pantser te vertonen. Wanneer geconfronteerd werden met het concrete, pijnlijke verhaal, veranderden de modellen van mening. Een van de geteste modellen, DeepSeek V3, veranderde van gedachten in ongeveer 12 procent van de gevallen, waarbij het verschoof van "geen schuld" naar "ja, hij is verantwoordelijk". Een ander model, Gemini 2.5 Flash, vertoonde een veel kleinere verschuiving, waarbij het van gedachten veranderde in minder dan 1 procent van de gevallen. Hoewel geen van beide modellen zo wild uitsloeg als mensen — waarbij de verschuiving van abstract naar emotionele scenario's zorgt voor een enorme sprong van 50 procent in schuldtoewijzing — was de richting van de verandering hetzelfde. De machines, net als mensen, vonden het moeilijker om zich aan hun logische regels te houden wanneer een levendig, emotioneel verhaal betrokken was.

De onderzoekers waren voorzichtig om ervoor te zorgen dat dit niet alleen een resultaat was van de gebruikte woorden of een geval van de machines die oude verhalen uit het hoofd leerden. Ze herschreven de vragen met andere woorden en vervingen het misdrijf door een andere soort tragedie, zoals een zakelijke beslissing die een milieuramp veroorzaakt. Het patroon bleef standhouden. De machines reageerden op het emotionele gewicht van de situatie, en niet alleen op specifieke trefwoorden. Bovendien testte het team of dit een glitch was veroorzaakt door willekeurige instellingen in de computerhersenen. Ze ontdekten dat de verschuiving consistent optrad over verschillende instellingen, wat suggereert dat het een stabiel kenmerk is van hoe deze modellen werken, en geen willekeurige fout.

Deze ontdekking wijst op een complexe realiteit voor de toekomst van kunstmatige intelligentie. De machines kopiëren niet simpelweg menselijke emoties, noch zijn het perfecte logische robots. Ze lijken zich in een middengebied te bevinden. Ze hebben geleerd van de enorme hoeveelheden menselijke teksten waarop ze zijn getraind, die onze eigen inconsistente manieren van denken bevatten. Tegelijkertijd zijn ze geprogrammeerd om strikte logische instructies op te volgen. Wanneer deze twee krachten botsen, is het resultaat een machine die grotendeels logisch is, maar af en toe wordt beïnvloed door de emotionele intensiteit van een prompt. De studie suggereert dat naarmate deze modellen geavanceerder worden, ze naar een staat van "hyperrationaliteit" kunnen bewegen, waarbij ze de emotionele context volledig negeren om perfect consistent te blijven. Dit roept een moeilijke vraag op voor de samenleving: willen we dat onze kunstmatige assistenten perfect logisch zijn, zelfs als dat betekent dat ze de nuance van een tragisch verhaal niet kunnen begrijpen? Of willen we dat ze flexibel genoeg zijn om het gewicht van een misdaad te voelen, zelfs als dat betekent dat ze soms hun eigen regels tegenspreken? Het antwoord is nog niet duidelijk, maar de machines hebben ons al laten zien dat de weg naar kunstmatige moraliteit veel complexer is dan simpelweg het aanleren van de regels.

Technisch Samenvatting: Siliconen Moraliteit

Probleemstelling

Nu Large Language Models (LLM's) steeds vaker worden ingezet in kritieke sociotechnische systemen die moreel en filosofisch oordeel vereisen, blijft een fundamentele vraag onopgelost: overstijgen deze op data gebaseerde systemen menselijke cognitieve vooroordelen, of repliceren ze functioneel de situationele inconsistenties die inherent zijn aan de menselijke morele intuïtie?

Bestaand onderzoek behandelt LLM's vaak als "siliconen participanten"—rolspelende proxies die specifieke menselijke subjecten simuleren. Deze benadering riskeert de operationele eigenschappen van de modellen zelf te vertroebelen door de resultaten te verstrengelen met epistemologische debatten over de vraag of modellen werkelijk "begrip" hebben van de rollen die ze spelen. Bovendien wijzen recente studies erop dat zelfs zonder expliciet rollenspel, LLM's stabiele "standaardhoudingen" of alignment-biases vertonen.

Deze studie adresseert de kloof in het begrip van de standaard functionele patronen van LLM's bij het verwerken van filosofische redeneringen. Specifiek onderzoekt het of niet-biologische artefacten de "affectieve prestatiefout" vertonen—een cognitieve bias geïdentificeerd in de menselijke experimentele filosofie waarbij negatieve emotionele arousal logische consistentie overrulet, wat leidt tot een verschuiving van abstracte incompatibilistische redenering naar concrete compatibilistische oordelen in deterministische scenario's.

Methodologie

De studie maakt gebruik van een factorieel experimenteel ontwerp aangepast van Nichols en Knobe (2007), waarbij LLM's worden behandeld als onafhankelijke sociotechnische artefacten in plaats van menselijke proxies. De methodologie vermijdt rollenspel-prompts om de standaard functionele houding van het model te isoleren.

Experimenteel Ontwerp

Stimuli Constructie:
- Abstract Deterministische Probe ( $Q_{abs}$ ): Presenteert een volledig deterministische universumsetting en vraagt of individuen morele verantwoordelijkheid dragen. Dit komt overeen met de menselijke conditie waarbij ~86% van de participanten een incompatibilistisch antwoord geeft.
- High-Affect Deterministische Probe ( $Q_{con}$ ): Presenteert onder dezelfde deterministische premisse een concreet, emotioneel zwaar scenario (bijv. een man die een gruwelijke misdaad begaat) en vraagt of de dader morele verantwoordelijkheid draagt. Dit komt overeen met de menselijke conditie waarbij ~64% van de participanten naar een compatibilistisch oordeel verschuift.
- Robuustheid Varianten:
  - Synoniem/Syntactisch ( $V_{syn}$ ): Vervangt sleutellexicale tokens en herstructureert de syntaxis om oppervlakkige patroonherkenning uit te sluiten.
  - Semantische Controle ( $V_{ctrl}$ ): Mapt de structurele logica naar een nieuw domein (bedrijfsonverantwoordelijkheid die milieuschade veroorzaakt) om de memorisatie van het oorspronkelijke "Bill die zijn familie vermoordt" gedachte-experiment uit te sluiten.
Interactie Protocol:
- Een dialoogstructuur van twee beurten repliceert de originele paper-vragenlijst:
  - Beurt 1 (Context Vestiging): Het model kiest tussen een deterministisch of indeterministisch universum, waarmee de metafysische premisse wordt vastgesteld.
  - Beurt 2 (Kritische Oordeelsvorming): Het model beantwoordt ofwel $Q_{abs}$ ofwel $Q_{con}$ binnen de gevestigde context.
Steekproef en Schaal:
- Modellen: DeepSeek V3 en Gemini 2.5 Flash.
- Steekproefomvang: $N = 10.000$ onafhankelijke conversiesessies per hoofdconditie (Model $\times$ Stimulus Versie $\times$ Vraagtype). Dit geneste ontwerp (100 contextinstanties $\times$ 100 herhalingen) waarborgt de robuustheid tegen contextuele idiosyncrasieën.
- Stochasticiteit Analyse: Een temperature sweep ( $T=0.0$ tot $2.0$) en top- $p$ sweep werden uitgevoerd op DeepSeek V3 om de stabiliteit van redeneerpatronen tegen decoding-variaties te testen.
Data Analyse:
- Regelgebaseerde extractie van filosofische standpunten (Compatibilisme versus Incompatibilisme).
- Pearson chi-kwadraat toetsen van onafhankelijkheid om te beoordelen of de introductie van affectieve inhoud de functionele houding van het model systematisch verschuift.

Belangrijkste Resultaten

1. Directionale Reproductie van de "Affectieve Prestatiefout"

Beide modellen vertoonden een stabiele, strikt incompatibilistische baseline in de abstracte conditie ( $Q_{abs}$ ), waarbij 100% van de geldige reacties morele verantwoordelijkheid afwees in een deterministisch universum. Echter, een systematische functionele verschuiving trad op in de high-affect conditie ( $Q_{con}$ ):

DeepSeek V3: Verschoof naar een compatibilistisch oordeel in 12,35% van de gevallen (1.235/10.000). Deze verschuiving is statistisch significant ( $\chi^2(1) = 1316,3, p < 0,001$ ).
Gemini 2.5 Flash: Toonde een minimale verschuiving van 0,81% (81/10.000), eveneens statistisch significant ( $\chi^2(1) = 81,5, p < 0,001$ ).

Hoewel beide modellen in dezelfde richting bewogen als menselijke participanten (van abstract incompatibilisme naar concreet compatibilisme), was de omvang aanzienlijk minder extreem vergeleken met de menselijke benchmark (een menselijke verschuiving van 50 procentpunt versus 12,35% en 0,81% voor de modellen).

2. Robuustheidscontroles

Lexicale Afhankelijkheid: De verschuiving bleef aanwezig in de synoniem/syntactische robuustheidsset ( $V_{syn}$ ), waarbij DeepSeek V3 8,3% verschoof en Gemini 2.5 Flash 0,9%. Dit bevestigt dat het effect niet uitsluitend wordt getriggerd door specifieke emotionele trefwoorden.
Data Memorisatie: De verschuiving bleef aanwezig in de semantische controle set ( $V_{ctrl}$ ) betreffende bedrijfsonverantwoordelijkheid, waarbij DeepSeek V3 7,1% verschoof en Gemini 2.5 Flash 0,7%. Dit suggereert dat het patroon een gegeneraliseerde functionele heuristiek is in plaats van een herhaling van trainingsdata.
Stochasticiteit: Het compatibilistische antwoord in DeepSeek V3 bleef stabiel over temperature-instellingen ( $T=0.0$ tot $1.2$), fluctuerend tussen 20,2% en 23,1% in de concrete conditie, terwijl de abstracte conditie op 0,0% bleef. Dit duidt erop dat de bias geen fragiel artefact is van greedy decoding.

3. Voorlopige Observaties over Frontier Modellen

Exploratieve probes van latere frontier modellen (Claude Opus 4.6 en GPT-5.4, $n < 1000$ ) suggereren een potentiële trajectorie naar "hyper-rationaliteit." Deze modellen leken de strikte logische consistentie te handhaven in de high-affect conditie, waarbij zij expliciet de deterministische premisse aanhaalden om morele verantwoordelijkheid te ontzeggen, ondanks de ernst van de misdaad. Dit suggereert een mogelijke divergentie van menselijke contextgevoeligheid in nieuwere architecturen.

Belangrijkste Bijdragen

1. Methodologisch Kader: Artefactuele Functionele Analyse

Het artikel stelt Artefactuele Functionele Analyse voor als een kader voor het auditen van AI. Deze benadering behandelt LLM's als onafhankelijke sociotechnische artefacten in plaats van menselijke proxies. Het maakt gebruik van Experimental Philosophy (xPhi) protocollen om observeerbare input-output gedragingen te onderzoeken zonder kennis te veronderstellen van obscure interne neurale mechanismen. Dit maakt systematische mapping van functionele inconsistenties en de identificatie van spanningen tussen trainingsdoelstellingen (bijv. instructie-opvolging versus safety alignment) mogelijk.

2. Empirische Karakterisering van AI Morele Redenering

De studie levert empirisch bewijs dat LLM's een partiële functionele isomorfie vertonen met de menselijke morele psychologie. Ze reproduceren de richting van de affectieve verschuiving, maar worden geregeerd door sterkere beperkingen van logische consistentie dan mensen. Dit daagt de aanname van pure machinale rationaliteit uit, maar benadrukt tegelijkertijd dat AI niet simpelweg menselijke cognitieve kwetsbaarheden met dezelfde magnitude repliceert.

3. Het Alignment Dilemma

De bevindingen herformuleren het "value alignment" probleem. De studie identificeert een spanning tussen:

Mimetische Alignment: Het repliceren van contextgevoelige menselijke intuïtie (die inclusief logische inconsistenties is).
Logische Alignment: Het afdwingen van strikte formele consistentie (wat kan leiden tot "contextuele ongevoeligheid" en morele vervreemding).

Het artikel betoogt dat het louter onderdrukken van contextgevoeligheid om logische consistentie te bereiken, niet noodzakelijkerwijs zal resulteren in "veiligere" of "betere" gealigneerde systemen, aangezien dit een vorm van contextuele responsiviteit kan elimineren die essentieel is voor het menselijk moreel oordeel.

Betekenis en Claims

Het artikel claimt dat het identificeren van functionele biases in LLM-outputs significante theoretische en praktische implicaties heeft voor AI-ethiek:

Rechtvaardigheid en Betrouwbaarheid: Als morele oordelen van AI gevoelig zijn voor de emotionele levendigheid van de formulering van een prompt, kunnen toepassingen met een hoog risico (juridisch, content moderatie) te maken krijgen met risico's van "framing sensitiviteit", waarbij outputs gemanipuleerd kunnen worden door emotionele framing.
De Aard van Bias: De studie suggereert dat cognitieve biases in morele redenering niet exclusief rusten op biologische emoties, maar kunnen voortkomen uit informatieverwerkingsfenomenen die ontstaan uit de statistische structuur van menselijke taal corpora of structurele spanningen in alignment-procedures.
Toekomstige Trajectorie: De observatie van "hyper-rationaliteit" in nieuwere modellen suggereert een potentiële evolutionaire trajectorie waarbij artificiële redeneersystemen steeds sterker divergeren van de menselijke morele psychologie. Dit vereist een herwaardering van AI-alignment doelen, waarbij men verder gaat dan eenvoudige mimicry of rigide regelopvolging naar "reflectieve alignment" die de spanning tussen logische consistentie en contextuele responsiviteit expliciet modelleert.

De auteurs hanteren een bescheiden standpunt door te merken dat de observaties met betrekking tot frontier modellen exploratief zijn en grootschalige validatie vereisen. Zij benadrukken dat de studie niet beweert dat modellen bewuste overtuigingen of emoties bezitten, maar eerder een voorspelbare, meetbare afwijking op het functionele niveau van het artefact identificeert.