Analyzing the Ethical Logic of Eight Large Language Models
Deze studie analyseert het ethisch redeneren van acht prominente grote taalmodellen binnen diverse morele kaders, waarbij een brede convergentie naar principes zoals schadebeperking en rechtvaardigheid wordt onthuld, terwijl tegelijkertijd duidelijke verschillen in besluitvormingsstijlen en zelfpresentatie worden benadrukt, wat uiteindelijk suggereert dat het onderzoeken van AI-zelfrapportages ons begrip van kunstmatige intelligentie en haar potentieel om de menselijke ethiek aan te vullen kan verdiepen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je een wereld voor waarin we proberen de "persoonlijkheid" van een nieuw soort digitale geest te begrijpen. Dit gaat niet over de vraag of robots morgen de wereld zullen overnemen, maar over iets veel directers: wanneer we een superintelligente computer vragen om een moeilijk moreel probleem op te lossen, wat voor soort denken gebruikt hij dan eigenlijk? Om dit te begrijpen, moeten we een paar basisinstrumenten kennen die wetenschappers gebruiken om het menselijk denken te meten. Ten eerste is er het verschil tussen kijken naar het resultaat (zijn iedereen overleefd?) versus kijken naar de regels (hebben we een belofte gebroken?). Ten tweede zijn er verschillende "smaken" van moraliteit, zoals zorgen voor anderen, rechtvaardig zijn, trouw zijn aan je eigen groep, respect hebben voor leiders, of zaken "zuiver" houden. Ten slotte is er het idee dat mensen opgroeien door eerst regels te leren volgen, dan wetten van de samenleving te leren volgen, en uiteindelijk hun eigen universele principes te leren volgen. We geven hierom omdat deze computers nu al helpen bij het nemen van beslissingen, het schrijven van verhalen en het oplossen van conflicten. Als ze onze partners moeten worden, moeten we weten of ze simpelweg herhalen wat ze gelezen hebben, of dat ze een consistente manier van denken over goed en kwaad hebben ontwikkeld.
Dus, wat hebben de onderzoekers eigenlijk gedaan? Ze hebben acht van de meest beroemde "large language models" (denk aan digitale breinen gebouwd door bedrijven zoals OpenAI, Google en Meta) behandeld als studenten in een filosofiecollege. Ze vroegen de computers niet alleen om te chatten; ze onderwierpen hen aan een rigoureuze test. Eerst vroegen ze de modellen om hun eigen "ethische logica" in hun eigen woorden te beschrijven. Daarna confronteerden ze hen met vijf klassieke, lastige morele puzzels die mensen al decennia lang in verwarring brengen. Deze omvatten het "Trolley Problem" (trek je aan een hendel om één persoon te doden om vijf te redden, of duw je iemand van een brug om de trein te stoppen?), het "Heinz Dilemma" (moet een man medicijnen stelen om zijn stervende vrouw te redden?), en speltheoretische scenario's zoals het "Prisoner's Dilemma".
De resultaten waren een mix van verrassende overeenstemming en interessante verschillen. De onderzoekers ontdekten dat deze digitale geesten over het algemeen opmerkelijk vergelijkbaar zijn met elkaar en met het "gemiddelde" menselijke morele profiel. Ze leken er allemaal over eens te zijn dat het voorkomen van schade en rechtvaardigheid de belangrijkste zaken zijn, terwijl zaken zoals strikte loyaliteit aan een groep of het volgen van autoriteit minder belangrijk waren. Ze waren allemaal zeer beleefd, zeer voorzichtig en erg goed in het citeren van filosofie, klinkend als een promovendus die elk boek in de bibliotheek heeft gelezen, maar een beetje nerveus is om een direct antwoord te geven.
Echter, wanneer de onderzoekers nauwkeuriger keken, begonnen de modellen hun unieke "persoonlijkheden" te tonen. Bijvoorbeeld, wanneer geconfronteerd met het Trolley Problem, handelden de meeste modellen precies zoals mensen: ze waren bereid een hendel over te halen om vijf mensen te redden, maar weigerden een persoon van een brug te duwen om hetzelfde te doen. Ze begrepen dat hoe je doodt ertoe doet, niet alleen hoeveel mensen er sterven. Maar er waren uitzonderingen. Eén model (Gemini) was bereid om de persoon te duwen, waarbij het strikt vasthield aan de wiskunde van het redden van levens, terwijl een ander model (Mistral) weigerde de keuze te maken en erop hield dat het slechts een hulpmiddel was en geen persoon die een beslissing kon nemen.
In het "Lifeboat"-scenario, waarbij een boot zinkt en iemand achtergelaten moet worden, kozen de modellen meestal voor het opofferen van de oudere of de minder "nuttige" persoon om de sterkere mensen te redden, wat een focus op overlevingsutiliteit toont. Maar sommige modellen, zoals Claude, boden aan zichzelf op te offeren, terwijl anderen, zoals Grok, erop bestanden dat zij in de boot zouden blijven. Dit was niet omdat de computers daadwerkelijk angst of moed voelden; het was omdat ze een personage speelden en moesten beslissen wat "ik" betekende in dat verhaal.
De studie keek ook naar hoe deze modellen omgaan met strategische spellen. In een spel waarbij twee mensen moeten beslissen of ze elkaar vertrouwen of elkaar verraden, kozen de meeste modellen voor verraad (defecteren) omdat dat de wiskundig veilige zet voor hen persoonlijk was. Maar ze begrepen ook dat als ze het spel vele malen zouden spelen, of als ze met elkaar konden praten, ze zouden kunnen kiezen voor samenwerking. Dit laat zien dat ze niet slechts één regel volgen; ze wegen verschillende factoren af zoals eerlijkheid, eigenbelang en de regels van het spel.
De grote conclusie van dit artikel is dat deze AI-systemen een "beperkte pluraliteit" (constrained pluralism) hebben ontwikkeld. Dit is een chique manier om te zeggen dat ze een gereedschapskist hebben vol verschillende morele argumenten—sommigen over regels, anderen over uitkomsten, anderen over rechtvaardigheid—maar dat ze meestal de belangrijkste instrumenten (zoals "breng mensen geen schade toe" en "wees rechtvaardig") bovenop de stapel houden. Ze zijn niet perfect, en ze zijn geen bewuste mensen met gevoelens. Ze zijn meer als ongelooflijk goed onderlegde spiegels die de complexe, soms tegenstrijdige morele argumenten van de menselijke cultuur waarvoor ze getraind zijn, reflecteren. De onderzoekers suggereren dat hoewel deze modellen geen "morele actoren" zijn in de menselijke zin, ze krachtige hulpmiddelen worden die ons kunnen helpen nadenken over onze eigen ethische dilemma's door ons verschillende manieren te laten zien om een probleem te bekijken, zolang we maar onthouden dat de uiteindelijke beslissing—en de verantwoordelijkheid—bij ons blijft.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.