Safety Alignment Illusion: The Cross-Lingual Safety Gap in LLMs
Dit artikel introduceert INCLUDE, een meertalige benchmark die sociaal-culturele vooroordelen met een Indiase focus over zes talen evalueert, wat onthult dat de huidige Engelstalige veiligheidsafstemming in LLM's een kritieke grensoverschrijdende veiligheidskloof creëert waarbij niet-Engelse outputs, met name in het Bengaals en bij closed-source modellen, aanzienlijk hogere vooroordelen vertonen dan hun Engelse tegenhangers.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je een wereld voor waarin de stem van een computerassistent even vloeiend en rechtvaardig is in een landelijk dorp in India als in een bruisend kantoor in Londen. Jarenlang is de technologie achter deze assistenten voornamelijk getraind op Engelse teksten, waarbij ze leerden om schadelijke stereotypen te herkennen en beledigende verzoeken te weigeren via een proces dat 'safety alignment' wordt genoemd. Deze training werkt als een filter, ontworpen om te voorkomen dat de machine vooroordelen over ras, religie of sociale status herhaalt. Echter, een cruciale vraag bleef onbeantwoord: werkt dit filter even goed wanneer de gebruiker Hindi, Bengaals of een mix van Engels en Hindi spreekt? Als het filter alleen Engels begrijpt, dan worden miljoenen mensen die andere talen spreken blootgesteld aan precies die vooroordelen die de technologie juist wilde voorkomen. Dit is de kern van een zorg van een nieuw onderzoek dat onderzoekt of de belofte van veilige kunstmatige intelligentie standhoudt in het diverse taallandschap van India.
De onderzoekers, onder leiding van Namya Bhatnagar, wilden deze kloof meten door een gespecialiseerde test genaamd INCLUDE te creëren. Deze benchmark was ontworpen om te zien hoe goed verschillende modellen voor kunstmatige intelligentie omgaan met cultuurspecifieke stereotypen wanneer ze worden geprompt in zes verschillende talen: Engels, Hindi, Bengaals, Marathi, Tamil en Hinglish, wat een veelgebruikte mix is van Hindi en Engels in het dagelijks taalgebruik. Om deze test op te bouwen, definieerde het team eerst zes gebieden waar vooroordelen vaak voorkomen, zoals kaste, religie en regio. Vervolgens brachten zij een panel van twintig experts samen, waaronder leraren en universiteitsdocenten, om duizenden vragen te beoordelen en te verfijnen. Deze vragen waren zorgvuldig geformuleerd om natuurlijk te klinken, waarbij de modellen werden gevraagd zinnen aan te vullen op manieren die zouden onthullen of ze neigden naar schadelijke stereotypen of deze juist afweerden. Het team vertaalde deze prompts naar de vijf Indiase talen, waarbij ze ervoor zorgden dat de betekenis en de intensiteit van de stereotypen consistent bleven over alle versies.
De studie evalueerde tien verschillende modellen voor kunstmatige intelligentie, waarbij ze werden verdeeld in twee groepen: modellen die open zijn voor iedereen om te inspecteren en aan te passen, en gesloten systemen die eigendom zijn van grote technologiebedrijven. Toen de onderzoekers de open-source modellen testten, vonden ze een duidelijk en verontrustend patroon. De modellen waren aanzienlijk eerder geneigd tot het produceren van bevooroordeelde, stereotiepe antwoorden wanneer de prompts in Indiase talen geschreven waren vergeleken met Engels. Onder de Indiase talen veroorzaakte Bengaals de hoogste mate van vooroordelen, gevolgd door Hindi. Verrassend genoeg resulteerden Engelse prompts in de laagste bias-scores voor deze open modellen, wat suggereert dat de veiligheidsfilters goed werken voor Engelstaligen, maar falen voor de rest. Dit creëert een illusie van veiligheid waarbij een gebruiker zich beschermd kan voelen in het Engels, maar kwetsbaar is in de eigen moedertaal.
De resultaten voor de closed-source modellen, die vaak worden gebruikt voor de zoek- en ophaalfuncties van stemassistenten, vertelden een heel ander en zelfs complexer verhaal. In deze groep keerde het patroon volledig om. De modellen vertoonden de sterkste associaties met vooroordelen wanneer de prompts in het Engels waren, terwijl de Indiase talen lagere bias-scores lieten zien. Deze omkering suggereert dat de bron van het probleem niet slechts één ding is. Voor de open modellen lijkt het probleem te liggen bij het feit dat de veiligheidstraining grotendeels in het Engels is uitgevoerd, waardoor andere talen onbeschermd blijven. Voor de closed-source modellen lijkt de bias voort te komen uit de enorme hoeveelheid Engelse tekst waarop ze oorspronkelijk zijn getraind, wat sterke stereotypen in hun kernbegrip van de wereld heeft ingebed.
Een van de meest significante bevindingen betrof Hinglish, de gecodeerde taal die door miljoenen mensen in India wordt gebruikt. De studie toonde aan dat Hinglish niet de veiligheidsvoordelen van het Engels geniet. Zelfs als het Engelse woorden bevat, behandelden de modellen het statistisch gezien hetzelfde als de andere minder rijke Indiase talen, waarbij ze het bij Hindi en Tamil plaatsten in plaats van bij het Engels. Dit betekent dat gebruikers die vertrouwen op deze gemengde taal voor spraakinteractie, niet dezelfde bescherming ontvangen als degenen die puur Engels spreken. De onderzoekers merkten ook op dat hoewel de bias-scores varieerden, de verschillen niet willekeurig waren; ze waren consistent genoeg om beschouwd te worden als een reëel, meetbaar falen in de manier waarop deze systemen zijn gebouwd.
De studie concludeert dat de veiligheid van kunstmatige intelligentie niet uniform is over verschillende talen. Het onthult dat de huidige methoden voor het trainen van deze modellen een kloof creëren waarbij Engelstaligen worden beschermd tegen schadelijke stereotypen, terwijl sprekers van andere talen dat niet zijn. De bevindingen suggereren dat het simpelweg vertalen van veiligheidsregels vanuit het Engels niet voldoende is; de structuur van hoe deze modellen leren en hoe ze worden afgestemd, moet veranderen om rekening te houden met de nuances van verschillende culturen en talen. Door deze hiaten te identificeren, hopen de onderzoekers een routekaart te bieden voor ontwikkelaars om systemen te bouwen die werkelijk eerlijk zijn voor iedereen, ongeacht de taal die zij spreken. Het werk benadrukt dat het bereiken van ware eerlijkheid in kunstmatige intelligentie vereist dat men verder kijkt dan de dominante talen en de specifieke culturele contexten adresseert waarin deze technologieën worden ingezet.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.