Implementing Causal Perception: Competing SCMs and Situated Fairness

Stellen Sie sich vor, Sie versuchen, ein Rätsel zu lösen, wie zum Beispiel herauszufinden, warum eine Pflanze in Ihrem Zimmer verwelkt. Sie würden vielleicht das Sonnenlicht, das Wasser oder die Erde untersuchen. In der Welt der Künstlichen Intelligenz (KI) verwenden Wissenschaftler spezielle Karten, die „Strukturelle Kausale Modelle“ genannt werden, um genau dasselbe zu tun. Diese Karten sind wie Flussdiagramme, die zeigen, wie verschiedene Dinge bewirken, dass andere Dinge geschehen. Zum Beispiel könnte eine Karte zeigen, dass „niedriges Einkommen“ zu einer „schlechten Kreditwürdigkeit“ führt. Aber hier ist die Wendung: Zwei verschiedene Personen (oder KI-Programme) könnten dieselbe Pflanze betrachten und zwei völlig unterschiedliche Karten zeichnen. Die eine Person könnte denken, die Erde sei das Problem, während die andere denkt, es sei das Sonnenlicht. Dies ist nicht bloß ein Fehler; es ist ein Unterschied darin, wie sie die Welt sehen. Diese Idee ist entscheidend, denn wenn wir eine KI bitten, faire Entscheidungen zu treffen – wie etwa darüber, wer einen Kredit oder einen Job bekommt –, hängen diese Entscheidungen vollständig davon ab, welche Karte die KI verwendet. Wenn die Karten sich unterscheiden, kann sich die Vorstellung von „Fairness“ ändern, je nachdem, wer gerade hinsieht.

Dieses Papier, geschrieben von José M. Álvarez, unternimmt einen großen Schritt von der Theorie zur Realität, indem es das erste Computerprogramm entwickelt, das diese „kollidierenden Karten“ tatsächlich messen kann. Der Autor nennt dieses Phänomen „kausale Wahrnehmung“. Denken Sie an zwei Freunde, die einen Film anschauen. Selbst wenn sie dieselben Szenen sehen, könnten sie die Motivationen der Charaktere aufgrund ihrer eigenen Lebenserfahrungen unterschiedlich interpretieren. In der Welt der KI bedeutet dies, dass zwei Agenten (oder „Empfänger“) dieselbe Gruppe von Kreditantragstellern betrachten und zwei verschiedene Geschichten darüber sehen könnten, warum manche Menschen abgelehnt wurden. Das Papier testet dies anhand eines echten Datensatzes von 1.000 Kreditantragstellern aus Deutschland. Die Forscher erschufen zwei digitale „Kreditprüfer“, die sich in den meisten Punkten einig waren, aber über eine spezifische Regel uneinig waren: ob das Geschlecht einer Person das Kreditrisiko direkt beeinflusst.

Die Ergebnisse waren augenöffnend. Obwohl die beiden Prüfer sich nur über eine einzige Verbindung in ihren mentalen Karten uneinig waren, sahen sie die Welt am Ende sehr unterschiedlich. Als die Forscher maßen, wie weit ihre Ansichten auseinanderlagen, stellten sie fest, dass die beiden Prüfer bei etwa 21,7 % der individuellen Kreditentscheidungen uneinig waren. Das Papier hebt auch hervor, dass solche Unstimmigkeiten zu völlig unterschiedlichen Fairness-Bewertungen führen können; in einem hypothetischen Szenario, das in der Einleitung beschrieben wird, könnten zwei Empfänger, die sich in einer einzigen kausalen Kante unterscheiden, demografische Paritätslücken von -0,594 gegenüber -0,170 erreichen. Das Papier entdeckte zudem, dass die Antwort auf die Frage „Sehen sie die Dinge unterschiedlich?“ völlig davon abhängt, welches Messwerkzeug man verwendet. Wenn man ein bestimmtes Lineal verwendet (eine Distanzmetrik namens Wasserstein-2), sehen sie sich fast gleich. Aber wenn man ein anderes Lineal verwendet (wie die Kullback-Leibler-Divergenz oder die Total Variation), erscheint die Lücke massiv.

Letztendlich zeigt das Papier, dass Voreingenommenheit (Bias) nicht einfach ein feststehender Fakt ist, der in der Luft schwebt; sie ist „situiert“, was bedeutet, dass sie von der spezifischen Weltanschauung der Person oder der KI abhängt, die das Urteil fällt. Der Autor argumenttiert, dass wir diese konkurrierenden Weltanschauungen nicht einfach ignorieren oder versuchen können, alle dazu zu bringen, sich auf eine einzige „korrekte“ Karte zu einigen. Stattdessen müssen wir anerkennen, dass in einer Welt mit mehreren Experten verschiedene Menschen Fairness tatsächlich unterschiedlich wahrnehmen werden, und unsere Werkzeuge müssen bereit sein, diese Uneinigkeit zu handhaben, anstatt so zu tun, als existiere sie nicht.