Plurification in/of language technology -- The integration of culture in next-generation AI
Dit artikel betoogt dat het bereiken van echte culturele afstemming in de volgende generatie AI vereist dat men verder gaat dan louter datadiversificatie door een reflexieve, pluriforme socio-technische benadering te adopteren die diverse epistemologieën integreert en diepere kwesties van macht en bestuur aanpakt over alle lagen van het ontwerp van taaltechnologie.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een robot probeert te leren om te spreken en mensen te begrijpen. Het artikel betoogt dat het simpelweg voeren van de robot meer boeken, meer websites of meer voorbeelden van verschillende talen niet genoeg is. Als je alleen maar meer "andere" culturen aan de mix toevoegt zonder te veranderen hoe de robot denkt, zal hij de wereld nog steeds verkeerd begrijpen.
De auteurs, Gertraud Koch en Fausto Giunchiglia, stellen voor dat we de volledige "operating system" van de robot moeten veranderen om pluraliteit te respecteren — wat betekent: het toestaan van vele verschillende manieren van weten en zijn, in plaats van alles in één enkele, dominante doos te dwingen.
Hier is een uitsplitsing van hun argument met behulp van eenvoudige analogieën:
Het Kernprobleem: De "One-Size-Fits-All" Valstrik
Momenteel zijn de meeste AI-taalmodellen als een enorme, enkelbaans snelweg. Iedereen wordt gedwongen in dezelfde richting te rijden, met dezelfde snelheid, volgens dezelfde regels.
- Het Probleem: Als je een auto uit een ander land op deze snelweg probeert te krijgen, zien de borden er misschien bekend uit, maar de verkeersregels (cultuur) zijn anders. De AI kan een beleefde groet letterlijk vertalen, maar de nuance missen dat het in die cultuur juist onbeleefd is om het op die manier te zeggen.
- De Bewering van het Papier: Je kunt dit niet oplossen door simpelweg meer "banen" voor verschillende culturen toe te voegen. Je moet het wegensysteem zelf herontwerpen zodat er veel verschillende soorten verkeer natuurlijk doorheen kan stromen.
De Oplossing: Een Vijflaagse "Huis"-Technologie
Om dit op te lossen, stellen de auteurs voor om naar taaltechnologie niet alleen als code te kijken, maar als een vijfverdiepingshuis. Je kunt niet alleen de voordeur (de output) verven en het dan "cultureel bewust" noemen. Je moet elke verdieping controleren.
1. De Fundering (De Kerntechnologie)
- De Analogie: Stel je voor dat de fundering alleen is gebouwd met Engelse stenen.
- De Oplossing: De auteurs suggereren het gebruik van een "Universele Kenniskern". Denk aan een neutrale vertaalhub (zoals een universele stekkeradapter). In plaats van elke taal eerst naar het Engels te laten vertalen, verbindt deze hub alle talen direct via gedeelde concepten. Het laat een Swahili-woord direct verbinden met een Japans woord, zonder dat ze eerst Engels moeten worden.
2. De Bibliotheek (Data en Kennis)
- De Analogie: De AI leert van een bibliotheek. Momenteel zijn 90% van de boeken geschreven door een handvol rijke mensen, en de verhalen van minderheidsgroepen ontbreken of zijn geschreven door buitenstaanders.
- De Oplossing: We moeten veranderen wie de boeken schrijft en hoe ze worden gecatalogiseerd. Het gaat niet alleen om het toevoegen van meer boeken; het gaat erom te erkennen dat de bibliotheek zelf met vooroordelen is gebouwd. We moeten documenteren wie sprak, waar en wanneer, zodat de AI de context van het verhaal kent, en niet alleen de woorden.
3. Het Regelboek (Normen, Wetten en Ethiek)
- De Analogie: Elke buurt heeft zijn eigen ongeschreven regels over hoe men zich gedraagt. Een "wereldwijd regelboek" negeert vaak lokale gebruiken.
- De Oplossing: Het papier merkt op dat huidige regels (zoals "Verantwoorde AI") vaak te vaag zijn of slechts marketing slogans. We hebben regelboeken nodig die lokale wetten en gemeenschapswaarden respecteren, in plaats van alleen een bedrijfsmatig winstplan te volgen. Het gaat erom dat de AI de lokale "buurtpreventie"-regels volgt, en niet alleen de algemene politiecode van de stad.
4. De Economie (Wie Betaalt en Wie Profiteert)
- De Analogie: Stel je een fabriek voor waar mensen uit een dorp de grondstoffen leveren (hun taaldata), maar de fabriekseigenaren in een grote stad alle winst houden en alle beslissingen nemen. Dit wordt "extractivisme" genoemd.
- De Oplossing: Het papier betoogt dat we een eerlijkere economie nodig hebben. De mensen die de taaldata leveren, zouden mede-eigenaar moeten zijn, niet alleen gratis arbeid. Als een gemeenschap helpt bij het bouwen van de AI, moeten zij ook een deel van de voordelen krijgen en inspraak hebben in hoe het wordt gebruikt.
5. De Woonkamer (Context van Gebruik)
- De Analogie: Een hulpmiddel werkt misschien perfect in een laboratorium, maar faalt in een echte woonkamer. Bijvoorbeeld: een robot kan iets zeggen dat grammaticaal correct is, maar sociaal beledigend in een specifieke gemeenschap.
- De Oplossing: We kunnen AI niet alleen testen op een computerscherm. We moeten het testen in de "woonkamer" van de werkelijke gemeenschap. Begrijpt het hen? Respecteert het hun grenzen? De leden van de gemeenschap zelf moeten de rechters zijn van of de AI "goed" is, en niet alleen de ingenieurs.
De Belangrijkste Conclusie
Het papier concludeert dat "cultuur" geen schakelaar is die je kunt omzetten of een variabele die je aan een wiskundige vergelijking kunt toevoegen. Het is een levend, ademend ding dat in de loop van de tijd verandert en van persoon tot persoon verschilt.
Om AI echt cultureel te maken, moeten we stoppen met proberen alle menselijke diversiteit in één standaardmodel te dwingen. In plaats daarvan moeten we systemen bouwen die flexibel genoeg zijn om vele verschillende werelden tegelijkertijd te bevatten. Het gaat er niet om de AI op een traditionele manier "slimmer" te maken; het gaat erom de AI nederig genoeg te maken om te luisteren naar vele verschillende manieren van weten.
Kortom: Voeg niet alleen meer talen toe aan dezelfde oude machine. Bouw een nieuw soort machine die vanaf de basis is ontworpt om veel verschillende stemmen, regels en levenswijzen te respecteren.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.