Whose Knowledge Counts? Co-Designing Community-Centered AI Auditing Tools with Educators in Hawai`i
In dit paper worden via co-design workshops met onderwijzers in Hawaï zorgen over culturele vertekening door generatieve AI onderzocht en wordt een gemeenschapsgericht auditproces voorgesteld dat is verankerd in Hawaiiaanse culturele waarden.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Wie telt mee? Hoe leraren in Hawaï samen AI laten controleren
Stel je voor dat je een nieuwe, superslimme keukenrobot hebt gekocht. Deze robot kan recepten bedenken, boodschappenlijstjes maken en zelfs verhalen vertellen voor je kinderen. Hij is snel en handig. Maar er is een probleem: de robot is opgeleid met boeken uit een heel ander land. Als je hem vraagt om een verhaal te vertellen over jouw dorp, zijn eigen cultuur en geschiedenis, dan maakt hij vaak fouten. Hij gebruikt verouderde woorden, vertelt verzonnen verhalen, of verdraait de geschiedenis op een manier die pijnlijk is voor de mensen die daar wonen.
Dat is precies wat er gebeurt met Generatieve AI (zoals ChatGPT) in de scholen van Hawaï.
Leraren in Hawaï krijgen de opdracht om de Hawaiiaanse taal en cultuur in hun lessen te integreren. Maar als ze AI gebruiken om lesmateriaal te maken, ziet de AI de Hawaiiaanse cultuur vaak als iets uit het verleden, vol met stereotypen (zoals alleen ananassen en dansende meisjes in rokken) en verdraait ze de geschiedenis van de kolonisatie.
De onderzoekers van dit paper wilden weten: Hoe kunnen leraren deze fouten opsporen en voorkomen? En vooral: hoe kunnen ze dat doen zonder dat ze zelf programmeurs hoeven te worden?
Het probleem: De "Westerse Bril"
De AI-systemen zijn getraind op gegevens uit de westerse wereld. Het is alsof je een bril opzet die alleen maar ziet wat in Amerika of Europa belangrijk is. Voor een Hawaiiaanse leraar is dat een ramp.
- Voorbeeld: Als je vraagt om een wiskundetaak over Hawaï, bedenkt de AI een verhaal over "ananas plukken". Voor de AI is dat leuk, maar voor Hawaiianen is de ananas een symbool van kolonisatie en uitbuiting. Het is alsof je een verhaal over Nederland bedenkt met "kaas en windmolens", maar dan op een manier die de echte geschiedenis van armoede en strijd negeert.
- Voorbeeld: De AI vertelt het verhaal van Kapitein Cook alsof hij een held was die Hawaï "reddde", terwijl hij in werkelijkheid veel schade heeft aangericht.
De oplossing: Geen eenzame detectives, maar een gemeenschapsproject
Vroeger dachten mensen: "Laten we een app maken die automatisch alle fouten in AI oplost." Maar de onderzoekers ontdekten dat dit niet werkt. AI-fouten zijn vaak subtiel en cultureel. Alleen een computer kan niet zien of iets respectvol is; daarvoor heb je mensen nodig die de cultuur voelen.
In plaats van één grote, algemene oplossing, hebben de onderzoekers met 22 leraren in Hawaï samen gewerkt (een proces dat ze "co-design" noemen). Ze hebben gezamenlijk bedacht hoe een hulpmiddel eruit zou moeten zien.
Hier zijn de drie belangrijkste ideeën die ze bedachten, vertaald naar simpele analogieën:
1. De "Stamboom van Kennis" (Genealogie)
In de westerse wereld kijken we naar een bron en vragen: "Is dit feit correct?" In de Hawaiiaanse cultuur is het belangrijker om te weten: "Wie heeft dit geleerd en van wie heeft hij het geleerd?"
- De Analogie: Stel je voor dat je een recept krijgt. In plaats van alleen te kijken of de ingrediënten kloppen, wil je weten: "Wie heeft dit recept bedacht? Van wie heeft hij het geleerd? Is dit een oud familierecept of heeft iemand het zomaar op internet gevonden?"
- Het Hulpmiddel: Leraren willen een tool die laat zien wie de "leraar" van de AI is. Wie heeft de informatie geschreven? Wie heeft die persoon onderwezen? Als de bron geen echte verbinding heeft met de Hawaiiaanse gemeenschap, dan is het verhaal niet betrouwbaar.
2. De "Kleurenkaart van Meningen"
AI geeft vaak maar één verhaal, en dat is meestal het westerse verhaal. Leraren willen weten: "Welke meningen ontbreken?"
- De Analogie: Stel je voor dat je een foto ziet van een feest. Als er alleen maar mensen op staan die op elkaar lijken, en je weet dat er ook andere groepen waren, dan is de foto niet compleet. Leraren willen een tool die als een "kleurenkaart" werkt: "Hier zie je het westerse verhaal, maar hier zie je dat het verhaal van de inheemse koningin Liliuokalani ontbreekt."
- Het Hulpmiddel: Een knop die laat zien welke perspectieven in het antwoord zitten en welke er bewust of onbewust zijn weggelaten.
3. Het "Rode Waarschuwingslicht" (Vlaggen)
Soms is iets gewoon fout of beledigend. Leraren willen dat hun leerlingen dit zelf kunnen zien.
- De Analogie: Stel je voor dat je een krant leest en er staat een fout in. Je wilt een felrode sticker kunnen plakken met de tekst: "Dit is een vooroordeel!" en dan uitleggen waarom.
- Het Hulpmiddel: Een tool waarmee leraren (en zelfs leerlingen) AI-antwoorden kunnen markeren als "gevaarlijk" of "onjuist". Dit helpt niet alleen om fouten te vinden, maar leert leerlingen ook om kritisch na te denken: "Geloof ik dit zomaar, of moet ik dit controleren?"
Waarom is dit belangrijk voor iedereen?
Dit onderzoek toont aan dat we niet kunnen wachten tot de grote tech-bedrijven (zoals Google of Microsoft) alles voor ons oplossen. Zij begrijpen de lokale cultuur vaak niet.
De boodschap is: AI moet niet worden gezien als een gereedschap dat je koopt en gebruikt, maar als een project waar je samen aan werkt.
- Voor de leraren: Het geeft hen de kracht om te zeggen: "Dit is niet goed voor mijn leerlingen," en een manier om dat te bewijzen.
- Voor de wereld: Het leert ons dat technologie niet "één maat voor iedereen" moet zijn. Net zoals je niet in Nederland een huis bouwt met de bouwstijl van Hawaï, moet je AI ook niet bouwen alsof iedereen in de wereld hetzelfde denkt.
Conclusie
De onderzoekers zeggen eigenlijk: "Wie telt mee?" De AI moet niet alleen luisteren naar de programmeurs in Californië, maar ook naar de leraren en de gemeenschap in Hawaï. Door samen te werken aan hulpmiddelen die gebaseerd zijn op lokale waarden (zoals het respecteren van de stamboom van kennis), kunnen we AI maken die niet alleen slim is, maar ook respectvol en eerlijk.
Het is alsof je een nieuwe taal leert spreken: je kunt niet alleen de woorden uit een woordenboek halen, je moet ook de cultuur en de gevoelens erachter begrijpen. En dat kunnen alleen de mensen doen die er elke dag bij zijn.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.