Empowering Affected Individuals to Shape AI Fairness Assessments: Processes, Criteria, and Tools
Diese qualitative Studie untersucht, wie betroffene Personen in einem Kreditprüfungsszenario eigene Fairness-Kriterien definieren und operationalisieren, um durch partizipative Prozesse und Werkzeuge inklusivere KI-Bewertungen zu ermöglichen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das Problem: Der „stille Schiedsrichter“
Stell dir vor, du bewirbst dich um einen Kredit bei einer Bank. Anstatt dass ein Mensch deine Unterlagen prüft, entscheidet ein Computerprogramm: „Ja“ oder „Nein“. Dieser Computer ist wie ein stiller Schiedsrichter bei einem Fußballspiel. Das Problem ist: Wir wissen oft nicht, nach welchen Regeln dieser Schiedsrichter spielt.
Bisher entscheiden meistens nur die „Experten“ (die Programmierer oder die Anwälte der Bank), was „fair“ ist. Sie sagen zum Beispiel: „Es ist fair, wenn Männer und Frauen etwa gleich oft einen Kredit bekommen.“ Aber ist das wirklich das, was die Menschen, die den Kredit brauchen, unter Fairness verstehen? Oft nicht. Die Experten schauen nur auf die nackten Zahlen, während die Betroffenen das Gefühl haben, dass die Spielregeln an ihrer Lebensrealität vorbeigehen.
Die Studie: Die Spieler dürfen die Regeln mitbestimmen
Die Forscher aus Glasgow wollten das ändern. Sie haben nicht einfach nur Experten gefragt, sondern 18 ganz normale Menschen (die „Betroffenen“) in eine Simulation gesetzt. Sie haben diese Menschen gefragt: „Wenn dieser Computer über dein Leben entscheidet – welche Regeln müsste er befolgen, damit du sagst: Das ist gerecht?“
Um das zu ermöglichen, haben die Forscher ein digitales Werkzeug gebaut – eine Art „Fairness-Baukasten“.
Wie der „Fairness-Baukasten“ funktioniert (Die Metaphern)
Die Teilnehmer haben den Baukasten auf zwei verschiedene Arten genutzt:
1. Das „Ergebnis-Check“-Prinzip (Was kommt am Ende raus?)
Das ist so, als würde man beim Fußball nur auf das Endergebnis schauen. Die Teilnehmer haben verschiedene Wege gefunden, das zu prüfen:
- Die Mischung macht’s: Anstatt nur eine Regel zu nutzen, haben sie Regeln kombiniert. Das ist wie ein Rezept: „Es ist nur fair, wenn nicht nur die Gruppen gleich behandelt werden (z. B. Alter), sondern auch, wenn jeder Einzelne die gleiche Chance hat, egal wie seine Geschichte aussieht.“
- Eigene Sonderregeln: Manche Teilnehmer haben ganz neue mathematische Formeln erfunden. Das ist so, als würde man sagen: „Es ist nur fair, wenn Leute mit einem bestimmten Job (z. B. Handwerker) nicht benachteiligt werden, selbst wenn sie ein geringeres Einkommen haben.“
2. Das „Prozess-Check“-Prinzip (Wie wird gespielt?)
Das ist viel spannender! Die Teilnehmer wollten nicht nur das Ergebnis prüfen, sondern auch, wie der Computer zu seinem Urteil kommt. Das ist so, als würde man den Schiedsrichter dabei beobachten, wie er pfeift.
- Die „Verbotenen Zutaten“: Viele sagten: „Bestimmte Informationen sollten gar nicht erst in den Computer fließen dürfen!“ Zum Beispiel das Geschlecht oder die Nationalität. Das ist so, als würde man beim Kochwettbewerb verbieten, dass die Farbe des Kochtopfs bewertet wird – es hat ja nichts mit dem Geschmack zu tun.
- Die „Gewichtung“: Andere sagten: „Die Information darf zwar im System sein, aber sie darf das Ergebnis nicht zu stark beeinflussen.“ Das ist wie beim Wiegen: Man darf wissen, wie groß jemand ist, aber die Größe darf nicht dazu führen, dass man weniger Geld bekommt.
Das Ergebnis: Was haben wir gelernt?
Die Studie hat gezeigt: Normale Menschen sind absolut fähig, komplexe Fairness-Regeln zu entwerfen! Sie sind nicht nur „Passagiere“, die das Urteil hinnehmen müssen, sondern sie können zu „Mitgestaltern“ werden.
Die wichtigste Erkenntnis für die Zukunft:
Wenn wir wirklich faire KI wollen, dürfen wir den Menschen nicht nur sagen: „Hier ist das Ergebnis, ist das okay?“ Wir müssen ihnen Werkzeuge geben, mit denen sie die Spielregeln selbst schreiben können – also bestimmen können, welche Daten genutzt werden dürfen und wie wichtig diese Daten für die Entscheidung sein sollen.
Kurz gesagt: Die Forscher haben gezeigt, dass man den „stille Schiedsrichter“ (die KI) dazu bringen kann, nach den Regeln zu spielen, die die Menschen tatsächlich für gerecht halten.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.