Empowering Affected Individuals to Shape AI Fairness Assessments: Processes, Criteria, and Tools
Dit onderzoek onderzoekt hoe betrokken individuen zelf hun eigen criteria voor AI-eerlijkheid kunnen formuleren en operationaliseren, om zo een inclusiever en waardegerichter proces voor het beoordelen van AI-systemen (zoals bij kredietbeoordelingen) te ondersteunen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor: je vraagt een lening aan bij de bank, maar een computer zegt keihard "Nee". Je voelt dat er iets niet klopt, maar je hebt geen idee waarom. Is het omdat je woonplaats niet deugt? Of omdat je leeftijd niet in hun 'hokje' past?
Dit wetenschappelijke onderzoek gaat precies over dat gevoel van onrechtvaardigheid. Hier is de uitleg in begrijpelijke taal.
Het probleem: De "Expert-Bril"
Op dit moment bepalen vooral computer-experts en de wet hoe we testen of AI eerlijk is. Dat is een beetje alsof je een voetbalwedstrijd laat beoordelen door alleen de scheidsrechters en de reglementencommissie. Zij kijken naar de officiële regels (zoals: "is het geslacht van de spelers gelijk verdeeld?"), maar ze vergeten vaak hoe het echt voelt op het veld. Ze kijken naar de cijfertjes, maar niet naar de menselijke ervaring.
De onderzoekers van de Universiteit van Glasgow zeiden: "Wacht eens even, de mensen die de beslissingen van de AI echt voelen (de 'getroffenen'), moeten zelf mogen meebepalen wat 'eerlijk' eigenlijk betekent."
Het experiment: De "Eerlijkheids-Bouwdoos"
De onderzoekers hebben 18 mensen gevraagd om mee te denken over een AI-systeem dat leningen goedkeurt. Ze gaven deze mensen een soort digitale 'bouwdoos' (een prototype) waarmee ze hun eigen regels voor eerlijkheid konden maken.
Het proces verliep in twee stappen:
Stap 1: Van gevoel naar gedachte (De Spiegel)
Eerst moesten mensen nadenken: "Wat vind ik eigenlijk eerlijk?"
- Sommigen dachten als een empathische vriend: "Ik kijk niet naar mezelf, maar naar hoe het voor een vrouw of een immigrant zou zijn."
- Anderen dachten als een detective: "Welke informatie gebruikt die computer eigenlijk? Gebruikt hij informatie die eigenlijk niet relevant is, zoals of je een telefoon hebt?"
Stap 2: Van gedachte naar de regel (De Gereedschapskist)
Daarna moesten ze die gevoelens omzetten in harde regels. Ze konden drie dingen doen:
- Bestaande regels aanpassen: "Gebruik de standaardregel, maar pas hem toe op mijn specifieke groep."
- Regels combineren (De Cocktail): "Ik wil niet alleen dat de uitkomst eerlijk is, ik wil ook dat de manier waarop de computer beslist eerlijk is. Mix die twee regels maar!"
- Hele nieuwe regels maken: "Ik wil een regel die zegt: als je een bepaalde achtergrond hebt, mag de computer die factor absoluut niet zwaarder laten wegen dan je spaargeld."
Wat hebben ze ontdekt? (De belangrijkste lessen)
- Mensen zijn geen rekenmachines: Experts gebruiken vaak één simpele regel. Maar gewone mensen zeggen: "Nee, eerlijkheid is ingewikkelder. Ik wil een combinatie van regels!" Het is als een recept: één ingrediënt (één regel) is niet genoeg voor een goede maaltijd; je hebt een mix nodig.
- Niet alleen de uitkomst, maar ook de weg ernaartoe: Experts kijken vaak alleen naar het eindresultaat (krijgt iedereen evenveel leningen?). Maar de deelnemers in het onderzoek vonden het proces minstens zo belangrijk. Ze wilden controleren welke knoppen de computer indrukt. Ze wilden voorkomen dat de computer "stiekem" naar verboden informatie kijkt.
- Nieuwe groepen beschermen: Mensen kijken verder dan alleen 'man/vrouw' of 'ras'. Ze willen ook groepen beschermen die ze zelf belangrijk vinden, zoals mensen met een bepaald type baan of een specifieke leeftijd.
Waarom is dit belangrijk?
Dit onderzoek laat zien dat we AI niet alleen moeten bouwen met wiskundigen, maar dat we de "bouwtekeningen" van eerlijkheid moeten laten ontwerpen door de mensen die erdoor geraakt worden.
De moraal van het verhaal: Als we willen dat AI een rechtvaardige wereld creëert, moeten we de mensen die in die wereld leven de afstandsbediening geven, in plaats van alleen de handleiding te laten lezen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.