MET: Theory-Grounded and Culture-Aware Multilingual Moral Reasoning
Dit artikel introduceert MET, een theoretisch gefundeerd en cultuurbewust raamwerk met de MCLASH-benchmark en een zelf-distillatietrainingmethode (MET-D) om meertalig moreel redeneren te verbeteren door zich aan te passen aan culturele contexten en gebruik te maken van door experts gecureerde ethische principes zonder dat daar externe supervisie voor nodig is.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een morele puzzel probeert op te lossen, zoals de vraag of een brandweerman gestraft moet worden voor het meenemen van hout uit een bos. Stel je nu voor dat je deze puzzel niet alleen in het Engels moet oplossen, maar ook in het Koreaans, Hindi, Spaans en Maleis. Als je de Engelse puzzel simpelweg door een vertaler haalt, eindig je met een vreemde bende. Plotseling bevindt de brandweerman zich bij een "Wendy's" in Oregon tijdens "Thanksgiving"—concepten die voor iemand in Seoul of Mumbai totaal geen zin hebben of volkomen verkeerd aanvoelen.
Dat is het probleem waar een team onderzoekers aan de University of Michigan een oplossing voor heeft gezocht in hun nieuwe paper, MET. Ze ontdekten dat huidige AI-modellen lijken op toeristen die alleen Engels spreken; ze proberen Amerikaanse regels op de hele wereld toe te passen, wat vaak leidt tot onhandige, cultureel blinde beslissingen.
Het Probleem: One Size Does Not Fit All
De auteurs stellen dat het simpelweg vertalen van morele dilemma's een slecht idee is. Het is alsof je een winterjas draagt in de tropen; de stof is goed, maar de pasvorm is verschrikkelijk. Bestaande AI-benchmarks vertalen bestaande Engelse scenario's vaak direct, waarbij ze lokale gebruiken, valuta en instituten negeren. Bovendien is het "denkproces" van de AI meestal gebaseerd op statische, Engelstalige regels die geen rekening houden met hoe verschillende culturen daadwerkelijk redeneren over goed en kwaad.
De Oplossing: Een Culturele Gereedschapskist
Om dit op te lossen, bouwde het team een nieuwe speeltuin genaamd MCLASH. In plaats van alleen oude puzzels te vertalen, hebben ze ze vanaf de grond af aan opnieuw opgebouwd voor vijf nieuwe talen (Chinees, Hindi, Koreaans, Maleis en Spaans). Ze vervingen Amerikaanse herkenningspunten door lokale varianten (zoals "Amazon" veranderen in "Naver" in Korea) en pasten de verhalen aan zodat ze natuurlijk aanvoelen voor lokale sprekers. Dit resulteerde in 1.852 lange, complexe scenario's.
Vervolgens creëerden ze MET (Multilingual Ethics with Theory-grounded reasoning). Zie MET als het geven van een enorme, georganiseerde gereedschapskist met "morele gronden" uit de filosofie en psychologie aan de AI. Dit zijn niet zomaar willekeurige ideeën; ze zijn georganiseerd in zes grote categorieën, zoals "Waardesystemen" (waar mensen om geven) en "Conflictbeheersing" (hoe men discussies oplost).
Zo werkt MET in twee stappen:
- Het kiezen van de tools: Voordat de AI de puzzel oplost, kijkt hij naar de specifieke situatie en de betrokken cultuur, en kiest vervolgens de juiste tools uit zijn gereedschapskist. Voor een Engelstalige kan hij "First-principles reasoning" kiezen (logisch, stapsgewijs denken). Voor een Koreaanse spreker kan hij "Contractarianisme" kiezen (de focus op wederzijdse sociale overeenkomsten), wat beter past bij Confucianistische waarden.
- Het oplossen van de puzzel: De AI gebruikt vervolgens die specifieke tools om het probleem te analyseren in de moedertaal van de gebruiker.
Het Geheime Ingrediënt: Zelf-training (MET-D)
Alleen de juiste tools kiezen was niet genoeg. De onderzoekers merkten op dat zelfs wanneer de AI de juiste tools koos, hij er vaak de meeste negeerde, wat leidde tot oppervlakkige antwoorden. Het was alsof een chef-kok tien kruiden kiest, maar er uiteindelijk alleen zout gebruikt.
Om dit op te lossen, introduceerden ze MET-D (MET-Distillation). Dit is een slimme trainingsmethode waarbij de AI zichzelf onderwijst. Ze creëerden een synthetische dataset waarbij het "juiste" antwoord duidelijk is op basis van de waarden van het personage (zodat er geen mens nodig was om elk antwoord te beoordelen). De AI oefende op deze data en leerde de gekozen tools daadwerkelijk te gebruiken, in plaats van ze alleen maar op te sommen. Het is als een student die oefenopgaven maakt totdat hij stopt met gokken en de logica begint te begrijpen.
Wat Ze Vonden
De resultaten waren veelbelovend. Toen ze MET-D testten op drie verschillende AI-modellen (Qwen3-4B, Qwen3-8B en Gemma3-4B), verbeterde de prestatie van de modellen aanzienlijk.
- Op hun nieuwe MCLASH-benchmark steeg de gemiddelde score met 3,71 punten.
- Op een andere dataset genaamd MMoralExceptQA verbeterde het met 4,23 punten.
- De grootste sprong was voor Maleis-sprekers die het Qwen3-8B model gebruikten, die een enorme winst van 12,94 punten lieten zien.
Maar de meest verrassende ontdekking ging niet alleen over scores. De onderzoekers ontdekten dat de "beste" tools voor de ene cultuur vaak anders waren voor een andere. Bijvoorbeeld: Engelstaligen profiteerden het meest van "Probabilistic Moral Uncertainty" (het afwegen van kansen), terwijl Spaanstaligen het beste scoorden met "Relation-Based Authority" (de focus op familie en sociale banden). Dit bewijst dat morele redenering niet universeel is; het is diep geworteld in cultuur.
Daarnaast maakte MET-D de AI veel beter in het denken in de moedertaal van de gebruiker. Vóór de training dacht de AI vaak in het Engels, zelfs wanneer hij met een Koreaanse gebruiker communiceerde. Na de training was de interne redeneerketen van de AI 62,13 procentpunt vaker in de moedertaal. Dit maakt de beslissingen van de AI veel begrijpelijker en betrouwbaarder voor mensen.
Wat Ze Niet Vonden (en wat nog onbekend is)
Het paper merkt zorgvuldig op wat het niet heeft gedaan. Ze hebben geen manier gevonden om de AI perfect conflicterende morele regels te laten verzoenen (zoals wanneer twee gekozen tools met elkaar in strijd zijn); de AI somt ze soms nog steeds alleen maar op zonder ze volledig te integreren. Ook hielp de training de AI weliswaar om de tools beter te gebruiken, maar het maakte de AI niet noodzakelijkerwijs beter in het kiezen van de tools in de eerste plaats; dat deel blijft afhankelijk van het basismodel.
De auteurs suggereren dat kruislingse taalverwerving de regels van taalstructuur volgt (zoals hoe zinnen worden opgebouwd) in plaats van alleen culturele gelijkenis. Zo hielpen Koreaans en Hindi, die een vergelijkbare zinsstructuur delen, elkaar bijvoorbeeld meer dan Koreaans en Chinees, ook al delen Koreaans en Chinees meer culturele geschiedenis.
Kortom, het paper suggereert dat om AI werkelijk moreel te maken over de hele wereld, we niet simpelweg Engelse regels kunnen vertalen. We moeten cultureel bewuste gereedschapskisten bouwen en de AI leren om deze diepgaand in de lokale taal te gebruiken. Het is een stap naar AI die niet alleen jouw taal spreekt, maar ook zoals jij denkt.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.