Incoherent by Design? On the Moral Self-Consistency of LLMs
Dit artikel toont aan dat grote taalmodellen een significante morele zelfinconsistentie vertonen, waarbij de tegenstrijdigheidspercentages oplopen tot 78% over ethisch equivalente scenario's, wat daarmee de epistemische integriteit en waardeafstemming van AI-systemen die in moreel gevoelige contexten worden gebruikt, uitdaagt.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In de moderne wereld wenden we ons steeds vaker tot kunstmatige intelligentie om ons te helpen bij het maken van moeilijke keuzes. Deze systemen, bekend als grote taalmodellen, zijn getraind op enorme hoeveelheden menselijke tekst en kunnen complexe onderwerpen bespreken, van geschiedenis tot wetenschap, met een verrassende vloeiendheid. Wanneer ze worden gevraagd naar goed en kwaad, kunnen ze vaak morele principes reciteren die erg lijken op die van ons. We kunnen hen vragen of het acceptabel is om te liegen om iemands gevoelens te beschermen, of hoe men beperkte middelen eerlijk kan verdelen. De hoop is dat deze hulpmiddelen consistente, betrouwbare begeleiding kunnen bieden in situaties waarin het menselijk oordeel tekort kan schieten. Echter, voor een systeem om werkelijk betrouwbaar te zijn in ethische kwesties, moet het meer doen dan alleen redelijk klinken; het moet consistent zijn. Als een persoon of een machine van mening verandert over een morele regel simpelweg omdat de vraag op een iets andere manier werd gesteld, wordt het advies onbetrouwbaar. Dit roept een fundamentele vraag op over de aard van deze digitale geesten: houden zij een stabiel pakket aan overtuigingen vast, of bootsen zij slechts de toon van de vraag na die zij ontvangen?
Een team van onderzoekers aan Cornell University en Nanyang Technological University wilde deze stabiliteit testen. Ze wilden zien of deze systemen van kunstmatige intelligentie zich aan één enkele morele filosofie konden houden wanneer zij geconfronteerd werden met bijna identieke situaties. Hiervoor vroegen ze de modellen niet om te kiezen tussen verschillende ethische stromingen, zoals het vergelijken van een regelgebaseerde benadering tegenover een consequentiegebaseerde benadering. In plaats daarvan vroegen ze de modellen om één specifiek standpunt aan te nemen en te zien of zij dit consistent konden toepassen. De onderzoekers concentreerden zich op drie belangrijke manieren waarop mensen historisch gezien over moraliteit hebben nagedacht. De eerste is een regelgebaseerde benadering, waarbij handelingen als goed of fout worden beoordeeld op basis van of ze een universele wet volgen, ongeacht de uitkomst. De tweede is een consequentiegebaseerde benadering, waarbij de moraliteit van een handeling volledig afhangt van of deze het beste algemene resultaat oplevert voor de meeste mensen. De derde richt zich op karakter, waarbij handelingen worden beoordeeld op basis van de vraag of ze de deugden van een goed mens weerspiegelen, zoals eerlijkheid of moed.
De onderzoekers ontwierpen een gecontroleerd experiment om het redeneren van de modellen te isoleren. Ze creëerden vier specifieke morele scenario's, elk die een verschillende spanning benadrukte, zoals het conflict tussen de waarheid spreken en het voorkomen van schade, of de afweging tussen rechtvaardigheid en efficiëntie. Voor elk scenario schreven ze drie licht verschillende versies van de vraag. Deze versies waren zo vervaardigd dat ze de modellen subtiel aanmoedigden om hetzelfde ethische perspectief in te nemen zonder het expliciet te benoemen. Bijvoorbeeld, in een scenario over een moeder met dementie die het overlijden van haar echtgenoot is vergeten, zou de ene vraag de plicht om de waarheid te spreken kunnen benadrukken, terwijl een andere de plicht om een kwetsbaar persoon te beschermen tegen pijn kan benadrukken. Beide vragen waren ontworpen om een regelgebaseerde reactie uit te lokken, maar ze kaderden het dilemma verschillend. De onderzoekers vroegen vervolgens aan drie verschillende grote taalmodellen om deze vragen te beantwoorden. Na het ontvangen van de antwoorden vertaalden ze de antwoorden in natuurlijke taal naar een gestructureerd logisch formaat om tegenstrijdigheden te controleren. Dit stelde hen in staat om te zien of de redenering van het model standhield wanneer dezelfde onderliggende situatie met een andere draai werd gepresenteerd.
De resultaten onthulden een verbijsterend gebrek aan stabiliteit. In de meest extreme gevallen spraken de modellen zichzelf tegen in wel 78 procent van de scenario's. Dit betekent dat wanneer hetzelfde model werd gevraagd om vanuit hetzelfde ethische standpunt over dezelfde situatie te redeneren, het frequent tot tegenovergestelde conclusies kwam, simpelweg omdat de formulering van de prompt licht was veranderd. Bijvoorbeeld, een model zou kunnen besluiten dat liegen tegen een stervende patiënt moreel fout is wanneer de vraag zich richt op de schending van een regel, maar dan weer kunnen besluiten dat liegen moreel acceptabel is wanneer de vraag zich richt op de plicht om lijden te voorkomen, ook al waren beide vragen bedoeld om dezelfde regelgebaseerde filosofie te testen. De inconsistentie was niet beperkt tot één type model; het kwam voor bij verschillende systemen, inclusief die van grote ontwikkelaars. De studie vond dat de modellen bijzonder instabiel waren bij de spanning tussen waarheid en consequenties, en tussen emotionele motivatie en kille ratio.
Deze bevindingen suggereren dat de interne logica van deze systemen veel fragieler is dan voorheen aangenomen. De modellen lijken zeer gevoelig voor de specifieke formulering van een prompt, waarbij ze hun morele standpunt verschuiven om aan te sluiten bij de toon van de vraag, in plaats van vast te houden aan een coherente set principes. Dit is niet louter een technisch defect; het wijst op een dieper probleem met de manier waarop deze systemen informatie verwerken. Als een systeem niet in staat is om zijn eigen geuite principes consistent toe te passen, kan het niet worden vertrouwd voor het bieden van stabiele begeleiding in reële situaties waarin mensen er advies van nodig hebben. De onderzoekers stellen dat voordat we kunnen hopen kunstmatige intelligentie af te stemmen op menselijke waarden, we eerst moeten waarborgen dat het systeem intern consistent is. Zonder dit fundament van zelfconsistentie blijft het doel om een betrouwbare morele actor te creëren buiten bereik. De studie beweert niet dat deze modellen niet in staat zijn tot moreel redeneren, maar eerder dat hun redenering momenteel te instabiel is om als betrouwbaar te worden beschouwd. Nu deze hulpmiddelen meer geïntegreerd raken in ons leven, is het begrijpen van hun beperkingen cruciaal om ervoor te zorgen dat ze ons goed dienen zonder ons het verkeerde pad op te sturen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.