Position: Evaluations of AI Moral Reasoning Still Miss Half of the Picture
Dit artikel betoogt dat huidige evaluaties van moreel redeneren bij AI te veel focussen op waarde-afstemming terwijl zij contextgevoelige normtoepassing verwaarlozen, en het stelt een onderzoeksagenda voor om deze kloof te overbruggen door middel van gestandaardiseerde formele representaties, door experts geannoteerde datasets en onderscheidende evaluatieprotocollen voor normatieve competentie.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Wanneer mensen een computer om advies vragen bij een moeilijke keuze, stellen ze vaak een vraag die uit twee zeer verschillende delen bestaat. Het eerste deel gaat over waar we om geven: waarderen we vriendelijkheid boven strikte regels, of rechtvaardigheid boven loyaliteit? Het tweede deel gaat over hoe we die zorgen gebruiken om een beslissing te nemen in een specifieke situatie. Stel je voor dat je moet beslissen of je een pijnlijke waarheid tegen een vriend vertelt. Weten dat je de waarde eerlijkheid koestert is het één; weten hoe die waarde precies van toepassing is wanneer de waarheid iemand kan kwetsen die je liefhebt, is iets anders. Dit tweede deel vereist het volgen van een reeks principes die je vertellen hoe je verschillende belangen tegen elkaar moet afwegen. Jarenlang hebben wetenschappers die kunstmatige intelligentie bestuderen zich bijna volledig gericht op het eerste deel, waarbij ze controleren of de antwoorden van een machine overeenkomen met wat mensen over het algemeen verkiezen. Maar een nieuwe analyse suggereert dat door daar te stoppen, onderzoekers de belangrijkste test hebben gemist van of een machine daadwerkelijk als een morele actor kan denken.
Een team onderzoekers van de University of Connecticut, Carnegie Mellon University en Hugging Face heeft onderzocht hoe we momenteel het morele redeneren van grote taalmodellen testen. Dit zijn de krachtige computerprogramma's die essays kunnen schrijven, vragen kunnen beantwoorden en advies kunnen geven. De auteurs betogen dat het vakgebied te veel gefocust is geraakt op een "moreel waardenprobleem", dat simpelweg vraagt of de antwoorden van de computer overeenkomen met menselijke meningen. Zij stellen dat deze benadering het "morele normprobleem" grotendeels onverkend laat. Het morele normprobleem is de moeilijkere uitdaging om te zien of een machine de juiste principes voor een situatie kan identificeren en deze correct kan toepassen om tot een conclusie te komen. De onderzoekers vonden dat de huidige tests er als volgt uitzien: het is alsoals controleren of een student een lijst met waarden heeft uit het hoofd geleerd, maar nooit vragen of ze die waarden kunnen gebruiken om een complex probleem op te lossen.
Om te begrijpen waarom dit onderscheid ertoe doet, overweeg hoe wetenschappers traditioneel moraliteit hebben gemeten bij zowel mensen als machines. Ze hebben zwaar geleund op kaders zoals de Moral Foundations Theory, die de menselijke moraliteit onderverdeelt in brede categorieën zoals zorg, rechtvaardigheid en loyaliteit. Deze instrumenten zijn uitstekend in het beschrijven van waar mensen de neiging hebben om om te geven. Als je een computer vraagt om te kiezen tussen het redden van één persoon of vijf mensen, en de computer kiest voor de vijf, kunnen onderzoekers zeggen dat de computer overeenkomt met de menselijke waarde van zorg voor het grotere aantal. De onderzoekers wijzen echter erop dat ergens om geven niet hetzelfde is als weten hoe je het toepast. Een machine kan ermee instemmen dat "schade slecht is", maar kan er niet bij begrijpen dat in sommige ethische systemen het toebrengen van schade aan één persoon om vijf anderen te redden een schending is van een andere regel. De huidige tests zien de vaardigheid van een machine om de juiste woorden te gebruiken vaak aan voor de vaardigheid om het juiste redeneren te vertonen.
De auteurs hebben tientallen bestaande studies en benchmarks beoordeeld die worden gebruikt om de moraal van AI te evalueren. Ze ontdekten dat bijna al deze tests clusteren rond het morele waardenprobleem. Deze tests vragen de computer om een antwoord uit een lijst te kiezen of een voorkeur te beschrijven, en vergelijken die keuze vervolgens met wat een groep mensen zou kiezen. Hoewel dit ons vertelt wat de machine prioriteert, vertelt het ons niet of de machine een geldig argument kan opbouwen op basis van een specifieke ethische theorie. De onderzoekers ontdekten dat zeer weinig tests daadwerkelijk controleren of een machine een reeks principes kan nemen, deze op een nieuwe en lastige situatie kan toepassen en zijn redenering stap voor stap kan uitleggen. Wanneer tests wel proberen naar redeneren te kijken, gebruiken ze vaak dezelfde brede waarde-categorieën als een afkorting, in de veronderstelling dat als een machine om "rechtvaardigheid" geeft, het ook de regels van rechtvaardigheid moet weten toe te passen. De auteurs stellen dat dit een fout is, omdat verschillende ethische theorieën allemaal kunnen beweren om rechtvaardigheid te geven, terwijl ze totaal verschillende uitkomsten eisen.
Deze verwarring creëert een kloof in ons begrip van wat deze machines daadwerkelijk kunnen. De onderzoekers identificeerden drie specifieke ontbrekende stukken in het huidige evaluatielandschap. Ten eerste is er geen hoogwaardige, gedeelde set correcte antwoorden voor hoe morele regels in verschillende situaties toegepast moeten worden. Zonder een standaardreferentie bouwt elk onderzoeksteam zijn eigen test, wat het onmogelijk maakt om resultaten te vergelijken of echte vooruitgang te zien. Ten tweede kijken de tests niet nauwkeurig genoeg naar de stappen die een machine neemt om tot een conclusie te komen. Een machine kan het juiste antwoord krijgen door geluk of door te gokken, maar huidige methoden slagen er vaak niet in te detecteren of de redenering achter dat antwoord gebrekkig is. Ten derde controleren de tests niet of de machine de belangrijkste details in een verhaal kan onderscheiden. Voordat een machine een regel kan toepassen, moet hij eerst uitzoeken welke delen van een situatie moreel relevant zijn, en huidige instrumenten meten deze vaardigheid niet goed.
Om deze problemen op te lossen, stellen de auteurs een nieuwe weg voorwaarts voor het vakgebied voor. Ze suggereren dat wetenschappers een gemeenschappelijke taal moeten creëren om ethische theorieën te beschrijven, zodat verschillende onderzoekers tests kunnen bouwen die tot dezelfde principes spreken. Ze pleiten voor de creatie van nieuwe datasets waarbij experts in ethiek annoteren hoe specifieke regels moeten worden toegepast op real-world scenario's. Tot slot dringen ze de gemeenschap aan om het testen van wat een machine waardeert niet te verwarren met het testen van hoe het redeneert. Een machine zou beoordeeld moeten worden op zijn vermogen om een logisch pad te volgen van een principe naar een beslissing, en niet alleen op de vraag of de uiteindelijke keuze overeenkomt met de menselijke opinie. De onderzoekers concluderen dat hoewel we goede vooruitgang hebben geboekt in het begrijpen van waar machines om geven, we pas net begonnen zijn met het begrijpen van de vraag of ze echt door een moreel probleem kunnen nadenken. Totdat we de instrumenten bouwen om de toepassing van regels te testen, zullen we niet weten of deze systemen in staat zijn tot de soort morele redenering waar mensen op vertrouwen in hun moeilijkste momenten.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.