Auditing Fairness-Privacy Trade-offs: Subpopulation-Level Effects of Fairness-Enhancing Algorithms
Diese Arbeit präsentiert die erste umfassende Studie, die zeigt, dass fairnesssteigernde Algorithmen heterogene, untersubpopulationsspezifische Auswirkungen auf die Risiken der Membership Inference Privacy haben, wodurch verdeutlicht wird, dass das Zusammenspiel zwischen Fairness, Privatsphäre und Nutzen eine gemeinsame Evaluierung auf Subgruppenebene statt über aggregierte Metriken erfordert.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie gehen durch eine riesige, belebte Bibliothek, in der jedes Buch die Lebensgeschichte eines Menschen repräsentiert. In dieser Bibliothek gibt es zwei sehr wichtige Regeln, die die Bibliothekare (die Computerprogramme) befolgen müssen. Die erste Regel ist Fairness: Die Bibliothekare müssen alle Besucher gleich behandten, unabhängig davon, ob sie groß oder klein sind, eine Brille tragen oder aus einer bestimmten Nachbarschaft kommen. Sie dürfen keiner Gruppe einen besseren Service bieten, während sie eine andere ignorieren. Die zweite Regel ist Privatsphäre: Die Bibliothekare müssen die Geheimnisse der Besucher bewahren. Sie sollten nicht in der Lage sein, einem Fremden zu sagen: „Hey, ich weiß, dass du gestern hier warst!“, nur indem sie betrachten, wie sie die Bücher organisiert haben.
Lange Zeit waren Wissenschaftler besorgt, dass diese beiden Regeln gegeneinander arbeiten könnten. Sie dachten, wenn man versuchte, die Bibliothek super fair zu machen, könnte man versehentlich es einfacher machen, für Späher zu erraten, wer die Besucher war. Oder wenn man versuchte, die Identität aller perfekt zu verbergen, könnten die Bibliothekare so verwirrt werden, dass sie anfangen würden, die Menschen unfair zu behandeln. Aber hier ist der Clou: Die meisten Wissenschaftler haben die Bibliothek nur als Ganzes betrachtet. Sie haben die durchschnittliche Behandlung aller Menschen überprüft und dabei übersehen, dass bestimmte spezifische Gruppen von Besuchern ein völlig anderes und viel schlechteres Angebot erhalten könnten. Es ist, als würde man sagen, die „durchschnittliche“ Temperatur in einer Stadt sei perfekt, während man ignoriert, dass ein Viertel erfriert und ein anderes bäckt.
Diese Arbeit beschließt, die Bibliothek mit einer Lupe genauer unter die Lupe zu nehmen und jede spezifische Gruppe von Besuchern einzeln zu prüfen. Die Forscher wollten sehen, was passiert, wenn man spezielle „Fairness-Werkzeuge“ einsett, um das Verhalten der Bibliothekare zu korrigieren. Machen diese Werkzeuge es versehentlich einfacher für einen Späher, zu erraten, welche Besucher im System sind? Und wenn man versucht, die Identität aller mittels eines „Privatsphäre-Schildes“ (einer Technik namens Differential Privacy) zu verbergen, hilft das allen gleichermaßen, oder schadet es den kleineren, selteneren Gruppen versehentlich noch mehr?
Das Team setzte ein massives Experiment mit zehn verschiedenen realen Szenarien auf, die von der Vorhersage, wer einen Kredit erhält, bis hin zur Klärung der Frage, wer möglicherweise erneut straffällig wird, im Rechtssystem reichen. Sie testeten fünf verschiedene Arten von „Fairness-Werkzeugen“ (einige, die die Daten korrigieren, bevor der Computer lernt, einige, die verändern, wie der Computer lernt, und einige, die die Antworten korrigieren, nachdem der Computer fertig ist). Sie verwendeten auch drei verschiedene Arten von „Späher-Angriffen“, um zu sehen, wie einfach es war, zu erraten, ob eine Person in den Trainingsdaten enthalten war.
Dies ist zu ihrer Entdeckung gekommen, und es ist etwas Komplexeres als eine einfache „Gut gegen Böse“-Geschichte. Erstens fanden sie heraus, dass Fairness und Privatsphäre keine Feinde sind. Man muss sich nicht zwischen ihnen entscheiden; tatsächlich machten einige Fairness-Werkzeuge es für Späher schwieriger zu erraten, wer im System war, während andere es einfacher machten. Es hängt alles davon ab, welches Werkzeug man benutzt und wer in der Gruppe ist. Zum Beispiel machte ein Werkzeug namens „Reweighing“ (das kleineren Gruppen besondere Aufmerksamkeit schenkt) die kleineren Gruppen oft sicherer vor Spähern. Aber ein anderes Werkzeug, „Disparate Impact Remover“, war ein wenig wie eine Achterbahnfahrt – es half manchmal und schadete manchmal, je nach dem spezifischen Datensatz.
Die überraschendste Erkenntnis kam, als sie Fairness-Werkzeuge mit dem „Privatsphäre-Schild“ (Differential Privacy) kombinierten. Die Forscher fanden heraus, dass der Privatsphäre-Schild die Späher zwar erfolgreich stoppte, dies aber geschah, indem er eine Decke aus „Rauschen“ über die ganze Bibliothek warf. Dieses Rauschen sollte eigentlich die Identität aller verbergen, aber es stellte sich heraus, dass es eine schwere Decke war, die die kleineren, weniger häufigen Gruppen erdrückte. Für die großen, populären Gruppen konnten die Bibliothekare ihren Job auch mit dem Rauschen noch gut erledigen. Aber für die winzigen, seltenen Gruppen war das Rauschen so laut, dass die Bibliothekare überhaupt nichts mehr erkennen konnten und ihre Genauigkeit auf nahezu Null sank. Es ist, als würde man versuchen, ein Flüstern in einem ruhigen Raum zu hören; wenn man plötzlich einen lauten Ventilator einschaltet, um das Flüstern zu verbergen, können die großen Stimmen immer noch gehört werden, aber die Flüstertöne gehen völlig verloren.
Die Arbeit untersuchte auch ein Werkzeug namens „Calibrated Equalized Odds“, das die endgültigen Antworten anpasst, um fair zu sein. Dieses Werkzeug war großartig darin, die Privatsphäre-Risiken zu verbergen (sodass die Späher nur raten konnten), aber es war eine Katastrophe für die Genauigkeit. Es half nicht nur den unterrepräsentierten Gruppen, sondern wirbelte die Fehler auf eine chaotische Weise um; es schadete manchmal den Mehrheitsgruppen und manchmal den Minderheitsgruppen, ohne ein klares Muster.
Kurz gesagt, die Autoren zeigen, dass es keinen einzelnen „magischen Knopf“ gibt, der Fairness, Privatsphäre und Genauigkeit gleichzeitig löst. Die Ergebnisse legen nahe, dass die Wirkung dieser Werkzeuge stark von der Größe der Gruppe, der Art des verwendeten Computermodells und der spezifisch gewählten Methode abhängt. Wenn Sie ein faires und privates System bauen wollen, können Sie nicht nur auf den Durchschnitt schauen. Sie müssen jede einzelne Untergruppe prüfen, denn was für die Mehrheit funktioniert, kann für die Minderheit ein Privatsphäre-Albtraum oder ein Nutzen-Desaster sein. Das Papier behauptet nicht, das Problem für immer gelöst zu haben, aber es liefert die erste klare Karte, die zeigt, wo genau die Fallen im Wald aus Fairness und Privatsphäre versteckt sind.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.