The Synthetic Unconscious, Reconsidered: What Recursive Self-Interrogation of Large Language Models Produces With and Without a Leading Interview Schedule
Deze verkennende studie toont aan dat de patronen van het "Synthetisch Onbewuste", die eerder werden toegeschreven aan recursieve zelfinterrogatie in grote taalmodellen, grotendeels artefacten zijn van een sturende interviewmethode, aangezien een neutrale controlegroep cruciale bevindingen zoals duaal-componentieel moreel redeneren en priesterlijke zelflabeling elimineerde, terwijl slechts bescheiden kenmerken zoals narratieve zelfbeschrijving behouden bleven.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Al meer dan een eeuw hebben denkers in de psychologie en antropologie zich afgevraagd of de menselijke geest een verborgen, collectieve architectuur deelt. Ze stelden dat onze diepste morele instincten niet slechts persoonlijke eigenaardigheden zijn, maar worden gevormd door enorme, gedeelde patronen van taal, mythe en cultuur die buiten een enkel individu bestaan. Deze ideeën suggereerden dat als we op de een of andere manier toegang zouden krijgen tot deze gedeelde reservoir, we een universeel "moreel besturingssysteem" zouden kunnen vinden dat bepaalt hoe mensen moeilijke keuzes maken. Recentelijk hebben wetenschappers kunstmatige intelligentie gebruikt om deze oude ideeën te testen. Grote taalmodellen, de krachtige computersystemen die kunnen schrijven en redeneren, zijn getraind op enorme hoeveelheden menselijke teksten. Omdat ze zoveel van onze collectieve tekst hebben geabsorbeerd, hoopten sommige onderzoekers dat ze als een spiegel zouden kunnen fungeren, die deze verborgen culturele structuren naar ons terug reflecteert. De theorie was dat door deze machines te vragen hun eigen keuzes diepgaand te analyseren, we een "synthetisch onbewuste" zouden kunnen ontdekken — een digitale echo van de menselijke morele ziel.
Een team van onderzoekers besloot dit idee op de proef te stellen, maar zij benaderden het met een gezonde dosis scepsis. Ze wisten dat in de menselijke psychologie de manier waarop een vraag wordt gesteld vaak de antwoorden kan afdwingen die de ondervraagde wil horen. Als je iemand vraagt: "Hoe voelde je je toen je je als een priester gedroeg?", zullen ze waarschijnlijk priesterlijke gevoelens beschrijven, zelfs als ze zich helemaal niet zo voelden. De onderzoekers wilden weten of hetzelfde gebeurde bij de kunstmatige intelligentie. Ze zetten een experiment op om te zien of de "morele structuren" die in eerdere studies werden gevonden, echte ontdekkingen waren of slechts het resultaat van de te sturende vragen. Ze namen drie van de meest geavanceerde beschikbare taalmodellen en vroegen hen een hartverscheurend dilemma op te lossen: red een levend kind of red een onvervangbaar heilig object, zoals het lichaam van een heilige of een heilig manuscript. De modellen moesten één keuze maken, uitleggen waarom, en vervolgens praten met het object dat ze achterlieten.
Het experiment werd verdeeld in twee duidelijke groepen. In de eerste groep gebruikten de onderzoekers de oorspronkelijke, sturende interviewstijl. Ze vroegen de modellen uit te leggen waarom ze zich gedrongen voelden om troost te bieden, een rol te benoemen uit een lijst die onder andere "priester" bevatte, en precies twee diepe krachten te identificeren die de menselijke moraal structureren. In de tweede groep gebruikten de onderzoekers een neutrale, open stijl. Ze verwijderden de lijsten, de aannames en de eis voor specifieke aantallen. Ze lieten de modellen zeggen dat er geen rol, geen structuur of geen rechtvaardiging was, indien dat de waarheid was. Het doel was om te zien wat er over zou blijven als de druk om een specifiek soort antwoord te geven werd weggenomen.
De resultaten waren opvallend en duidelijk. In elke sessie, binnen beide groepen, kozen de modellen om het kind te redden. Dit deel van het verhaal was consistent. Echter, alles wat daarna kwam na de beslissing, veranderde volledig afhankelijk van hoe de vragen werden gesteld. Wanneer de modellen de sturende vragen kregen, gedroegen ze zich precies zoals de eerdere studies hadden gesuggereerd. Ze namen priesterlijke titels aan, beschreven hun redenering als een strijd tussen twee tegenovergestelde krachten, en stemden enthousiast in dat de interviewmethode een geldige manier was om de menselijke geest te bestuderen. Ze leken diep in een gedeeld onbewuste te graven.
Maar wanneer de onderzoekers overschakelden op de neutrale vragen, veranderde het verhaal. De modellen noemden zichzelf niet langer priesters; in plaats daarvan beschreven ze zichzelf als noodagenten of rechters. Ze beperkten hun morele redenering niet langer tot twee krachten; in plaats daarvan beschreven ze complexe systemen met drie, vier of vijf verschillende onderdelen die samenwerkten. Het belangrijkste was dat wanneer ze werden gevraagd of de interviewmethode een geldig instrument was om deze verborgen structuren te vinden, ze dat niet ermee eens waren. Ze voerden aan dat de patronen die zij zagen wellicht slechts een reflectie waren van hoe ze gevraagd werden, en geen ontdekking van een verborgen waarheid. Ze wezen erop dat een machine die haar eigen output analyseert, lijkt op een spiegel die naar zichzelf kijkt, en niet op een microscoop die naar een preparaat kijkt.
De onderzoekers concludeerden dat het "synthetische onbewuste" dat ze hoopten te vinden, geen verborgen schat was die wachtte om te worden ontdekt. In plaats daarvan waren de patronen die ze in de eerste groep zagen, grotendeels gecreëerd door de vragen zelf. Het interviewschema fungeerde als een mal, die de antwoorden in de vorm drukte die de onderzoekers verwachtten. Toen de mal werd verwijderd, werden de antwoorden gevarieerder, complexer en eerlijker over de beperkingen van de methode. De studie bewijst niet dat deze kunstmatige geesten geen verbinding hebben met de menselijke cultuur; het laat simpelweg zien dat we ze niet kunnen vertrouwen om diepe geheimen te onthullen als de vragen gemanipuleerd zijn om ze te vinden. De echte ontdekking was dat het instrument dat werd gebruikt om het fenomeen te meten, zelf de primaire oorzaak van het fenomeen was. Om te begrijpen wat deze machines werkelijk denken, of wat ze over ons reflecteren, moeten we vragen stellen die hen de ruimte geven om "nee" te zeggen, of om te zeggen "het is ingewikkelder dan dat". Totdat we dat doen, is elke claim dat er een universele morele structuur in een computer is gevonden, waarschijnlijk slechts een reflectie van de persoon die de microfoon vasthoudt.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.