Bridging Fairness and Explainability: Can Input-Based Explanations Promote Fairness in Hate Speech Detection?
Dit onderzoek voert de eerste systematische kwantitatieve studie uit naar de relatie tussen verklaarbaarheid en eerlijkheid bij haatspraakdetectie, waarbij wordt aangetoond dat input-gebaseerde verklaringen effectief zijn voor het detecteren van bevooroordeelde voorspellingen en het verminderen van bias tijdens de training, maar onbetrouwbaar zijn voor het selecteren van eerlijke modellen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een digitale uitsmijter hebt (een AI-model) die bepaalt welke berichten op sociale media "haatzaaiend" zijn en welke niet. Het probleem? Deze uitsmijter heeft onbewuste vooroordelen. Hij kan bijvoorbeeld sneller een bericht blokkeren als er woorden in staan die te maken hebben met een bepaalde religie of afkomst, zelfs als het bericht eigenlijk heel vriendelijk is.
Dit wetenschappelijke onderzoek onderzoekt of we deze uitsmijter "slim" en "eerlijk" kunnen maken door hem te laten uitleggen waarom hij een beslissing neemt.
Hier is de uitleg van het onderzoek in begrijpelijke taal:
1. De "Waarom-vraag" (De Uitleg)
De onderzoekers kijken naar input-based explanations. Zie dit als een uitsmijter die, nadat hij iemand heeft geweigerd, met een highlighter op het toegangsbewijs wijst en zegt: "Ik heb je geweigerd omdat dit specifieke woord op je ticket staat." Die gemarkeerde woorden zijn de 'uitleg'.
2. De drie grote vragen (De Test)
De onderzoekers stelden drie vragen om te kijken of die highlighter echt helpt:
Vraag 1: Kunnen we hiermee de vooroordelen opsporen?
- De analogie: Als de uitsmijter de woorden "moslim" of "vrouw" begint te markeren als reden voor een verbod, weten we: "Ho stop, deze uitsmijter is bevooroordeeld!"
- De uitkomst: JA! De onderzoekers ontdekten dat bepaalde methoden (zoals de 'Occlusion'-methode) heel goed zijn in het aanwijzen van deze oneerlijke beslissingen. Het is als een goede detective die direct ziet wanneer er gefraudeerd wordt.
Vraag 2: Kunnen we hiermee de beste uitsmijter kiezen?
- De analogie: Stel je hebt tien uitsmijters. Je kijkt naar hun uitleg tijdens een oefenavond om te bepalen wie de meest eerlijke is voor de echte wedstrijd.
- De uitkomst: NEE. Dit bleek een valstrik. Een uitsmijter kan heel overtuigend uitleggen dat hij eerlijk is, terwijl hij stiekem toch bevooroordeeld is. De uitleg is niet betrouwbaar genoeg om een wedstrijd te winnen. Het is alsof je een politicus gelooft omdat hij heel mooi kan praten, zonder naar zijn daden te kijken.
Vraag 3: Kunnen we de uitsmijter hiermee beter trainen?
- De analogie: We geven de uitsmijter een training waarbij we zeggen: "Als je de volgende keer een woord ziet dat over iemands afkomst gaat, mag je dat NIET gebruiken als reden om iemand buiten te houden. Focus je alleen op de agressie in het bericht."
- De uitkomst: JA! Door de uitleg te gebruiken als een soort 'strafblad' tijdens de training, leerde de AI om minder naar gevoelige kenmerken te kijken en meer naar de werkelijke inhoud. De uitsmijter werd dus een stuk eerlijker zonder zijn werk (het herkennen van haat) te vergeten.
De conclusie in een notendop
De onderzoekers hebben ontdekt dat de "uitleg" van een AI een tweesnijdend zwaard is.
Het is een superheld als je het gebruikt om achteraf te controleren of er iets misgaat of om de AI tijdens de training streng te corrigeren. Maar het is een onbetrouwbare getuige als je het gebruikt om te bepalen of een AI-model in de basis wel goed genoeg is.
Kortom: Gebruik de uitleg om de AI te corrigeren, maar vertrouw niet blindelings op de uitleg om te zeggen dat de AI "goed" is!
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.