AI Pluralism and the Worlds It Misses
Dit artikel betoogt dat AI-pluralisme verder moet gaan dan louter de representatie van diverse waarden om "ontologische afvlakking" aan te pakken, waarbij AI-systemen restrictieve technische categorieën opleggen aan complexe realiteiten, en stelt een kader van "Pluralistische Levenscyclusbestuur" voor om epistemische inclusie en procedurele autoriteit gedurende het gehele AI-ontwikkelingsproces te waarborgen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Het Grote Idee: Het gaat niet alleen om "Wat" de AI zegt, maar om "Hoe" het de wereld ziet
Stel je voor dat je een drukke stadsstraat probeert te beschrijven aan een robot. Je zou kunnen zeggen: "Deze straat is een plek waar buren elkaar ontmoeten, een plek waar kinderen spelen, een risicovolle zone in de nacht, een rustige plek voor reflectie en een drukke commerciële zone."
Het artikel betoogt dat de meeste huidige AI-systemen deze verschillende verhalen niet alleen beluisteren, maar de straat dwingen om één ding te worden zodat de computer het kan begrijpen. Ze besluiten bijvoorbeeld dat de straat simpelweg "Veilig" of "Onveilig" is, of "Inclusief" of "Niet Inclusief".
De auteur noemt dit "Ontologische Vernauwing" (Ontological Flattening).
- De Metafoor: Stel je voor dat je een rijk, 3D-beeldhouwwerk maakt van klei, hout en glas, en dit vervolgens plat tegen een muur drukt om er een 2D-tekening van te maken. De tekening is makkelijker te meten en te kopiëren, maar het verliest de textuur, de diepte en het feit dat het object uit veel verschillende materialen bestond.
- Het Probleen: Wanneer AI de wereld "plat slaat", verandert het complexe, rommelige menselijke ervaringen (zoals veiligheid, comfort of ergens bij horen) in simpele, vaste technische categorieën. Zelfs als de AI je veel verschillende antwoorden geeft (pluralisme), gebruikt het mogelijk nog steeds dezelfde verplatte kaart om die antwoorden te vinden.
Het Kernargument: Twee Soorten "Pluralisme"
Het artikel stelt dat we een onderscheid moeten maken tussen twee zaken:
- Resultaat-pluralisme (Het "Wat"): De AI geeft je veel verschillende antwoorden.
- Analogie: Een menukaart van een restaurant die 50 verschillende gerechten aanbiedt.
- De Haken en ogen: Zelfs als er 50 gerechten zijn, kunnen ze allemaal gemaakt zijn van exact dezelfde ingrediënten (dezelfde "verplatte" kijk op de wereld).
- Procedureel Pluralisme (Het "Hoe"): De mensen die door de AI worden beïnvloed, krijgen te beslissen wat de ingrediënten zijn en hoe de menukaart wordt geschreven.
- Analogie: De klanten mogen de chef vertellen: "Eigenlijk zou 'veiligheid' niet alleen 'geen criminaliteit' moeten betekenen, maar ook 'je welkom voelen'. Laten we het recept veranderen."
Het artikel betoogt dat huidige AI-systemen vaak wel over Resultaat-pluralisme beschikken (veel antwoorden), maar een gebrek hebben aan Procedureel Pluralisme (mensen kunnen de regels van het spel niet veranderen).
De Drie Praktijkvoorbeelden (De "Casussen")
De auteur heeft drie specifieke projecten bekeken die gaan over stadsstraten en AI om te laten zien waar dit misgaat:
- Casus A (De Kunstgenerator): Een AI werd getraind om afbeeldingen te genereren van "inclusieve" openbare ruimtes.
- Wat er gebeurde: Mensen gaven feedback over wat ze leuk vonden. De AI leerde de "winnende" afbeeldingen te kiezen.
- De Vernauwing: De AI veranderde complexe gevoelens in simpele "Ik vind dit leuk" versus "Ik vind dat niet leuk" stemmen. Het wist de "Ik weet het niet zeker" of "Het hangt ervan af" antwoorden uit, en dwong een binaire keuze af waar een grijs gebied zou moeten bestaan.
- Casus B (De Straatkaart): Een AI probeerde te voorspellen welke straten "inclusief" waren op basis van foto's.
- Wat er gebeurde: Mensen beoordeelden straten. De AI leerde patronen in de foto's te herkennen.
- De Vernauwing: De AI begon "inclusiviteit" te beoordelen op basis van alleen wat het kon zien (zoals nieuwe verf of brede stoepen). Het miste de onzichtbare zaken, zoals of de lokale gemeenschap zich daar daadwerkelijk veilig of welkom voelde. Het verving een diep menselijk gevoel voor een oppervlakkige visuele aanwijzing.
- Casus C (De Testscore): Onderzoekers testten AI-modellen op hoe goed ze scènes in de stad beschreven.
- Wat er gebeurde: Ze vergeleken AI-antwoorden met menselijke antwoorden.
- De Vernauwing: Wanneer mensen het oneens waren (bijv. "Is dit park veilig?"), behandelden de onderzoekers deze onenigheid vaak als "ruis" of een fout. Maar het artikel stelt dat onenigheid juist belangrijke data is! Het laat zien dat het concept complex is, niet dat de mens het fout heeft.
De Oplossing: Pluralistische Lifecycle Governance (PLG)
De auteur stelt een nieuwe manier voor om AI-systemen te controleren, genaamd Pluralistic Lifecycle Governance (PLG). Zie dit niet als een test die een score geeft (zoals een rapportcijfer), maar als een checklist voor eerlijkheid die de hele levenscyclus van het AI-project beslaat.
Het stelt vijf grote vragen:
- Is de wereld open voor verandering? (Ontologische Openheid)
- Vraag: Kunnen mensen de definities aanvechten? Als de AI iets "risicovol" noemt, kan de gemeenschap dan zeggen: "Nee, dat is eigenlijk een plek van rust"?
- Doel: De regels moeten niet vastliggen voordat het project begint.
- Worden alle stemmen gehoord? (Epistemische Inclusie)
- Vraag: Vertrouwt de AI alleen op "expert"-data, of vertrouwt het ook op de geleefde ervaring van gewone mensen?
- Doel: Het verhaal van een grootmoeder over een straat moet evenveel als bewijs tellen als een sensormeting.
- Hebben mensen echte macht? (Procedurele Autoriteit)
- Vraag: Worden mensen alleen naar hun mening gevraagd (stem), of kunnen ze ook zeggen "Stop" of "Verander dit" (macht)?
- Doel: Van "We hebben naar je geluisterd" naar "We hebben het plan aangepast omdat jij dat vroeg."
- Is onenigheid zichtbaar? (Evaluatie-pluralisme)
- Vraag: Verbergt het rapport het feit dat mensen het oneens waren, of toont het de rommelige realiteit?
- Doel: Middel de antwoorden niet uit om ze er netjes uit te laten zien. Toon de "Ik weet het niet" en de "Het hangt ervan af" antwoorden.
- Wie is later verantwoordelijk? (Lifecycle Verantwoordelijkheid)
- Vraag: Wanneer de AI wordt gelanceerd, wie kan het repareren als het iemand schaadt?
- Doel: De verantwoordelijkheid mag niet eindigen wanneer de software is uitgebracht. Er moet een manier zijn om de regels later aan te passen.
De Belangrijkste Les
Het artikel concludeert dat AI-pluralisme niet alleen gaat over het geven van meer opties aan de AI. Het gaat erom dat we ervoor zorgen dat de AI de rommelige, ingewikkelde en prachtige realiteit van het menselijk leven niet in een simpel, rigide doosje dwingt.
Als we willen dat AI echt eerlijk is, kunnen we niet alleen vragen om 100 verschillende antwoorden. We moeten de mensen die door de AI worden beïnvloed de macht geven om mee te beslissen over de vragen zelf, en hen de autoriteit geven om de regels te veranderen wanneer de antwoorden niet passen bij hun wereld.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.