Bias Mitigation in Face Recognition via Demographic-based Supervised Contrastive Learning
Dieses Paper schlägt Demographic-based Supervised Contrastive Learning (DeSCon) vor, eine neuartige Verlustfunktion, die die Fairness in der Gesichtserkennung verbessert, indem sie gezielt Fehlerraten im Ausläufer der Nicht-Übereinstimmungs-Score-Verteilung durch demografiewissende Batch-Zusammensetzung und Paar-Auswahl adressiert und dadurch Bias über die Möglichkeiten einer einfachen Trainingsdaten-Balancierung hinaus mildert.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie gehen durch einen riesigen, überfüllten digitalen Flur, in dem ein Sicherheitswachmann die Ausweise aller Personen überprüft. Dieser Wachmann ist eine KI, ein superintelligentes Computerprogramm, das darauf trainiert wurde, Gesichter zu erkennen. Lange Zeit waren diese Wachmänner unglaublich gut in ihrem Job, aber sie hatten einen geheimen Makel: Sie waren bestimmten Menschen gegenüber viel besser als anderen. Wenn Sie einen bestimmten Hautton, ein bestimmtes Alter oder ein bestimmtes Geschlecht hatten, könnte der Wachmann stärker blinzeln, mehr Fehler machen oder auch die falsche Person durchschlüpfen lassen. Das ist nicht nur ein kleiner Fehler; das ist ein Bias (eine Voreingenommenheit). Das Problem begann damit, dass die KI mit einem „Klassenfoto“ des Internets trainiert wurde, das viel mehr Bilder von einigen Gruppen als von anderen enthielt. Es ist, als würde man einen Schüler lehren, Tiere anhand eines Lehrbuchs zu erkennen, das nur Bilder von Golden Retrievern, aber keine Bilder von Pugs enthält; der Schüler wird verwirrt sein, wenn er einen Pug sieht.
Um dies zu beheben, haben Wissenschaftler verschiedene Dinge versucht. Einige versuchten, das Gehirn des Wachmanns im Nachhinein „neu abzustimmen“, indem sie die Regeln für verschiedene Gruppen anpassten. Andere versuchten, das Trainings-Klassenfoto perfekt auszubalancieren, indem sie jeder Gruppe eine gleiche Anzahl an Bildern gaben. Aber hier liegt der knifflige Teil: Selbst wenn Sie das Fotoalbum perfekt ausbalancieren, kann die KI bei der eigentlichen Arbeit in der realen Welt immer noch verwirrt sein, besonders wenn sie eine „Nein“-Entscheidung bei einem sehr schwierigen Gesicht treffen muss. Der wahre Test besteht nicht nur darin, den Durchschnitt richtig zu bekommen; es geht darum sicherzustellen, dass die KI nicht unfair scheitert, wenn sie sich an der Grenze zu einem Fehler befindet. Hier setzt eine neue Studie an, die versucht, einen anderen Ansatz zu verfolgen, bei dem es darum geht, wie die KI lernt, ähnliche Gesichter voneinander zu unterscheiden, ohne durch deren Merkmale überfordert zu werden.
Die Forscher hinter dieser Studie, Yu Linghu und ihr Team von der Universität Zürich, schlagen eine neue Methode vor, um diese Gesichtserkennungssysteme zu trainieren, die DeSCon (Demographic-based Supervised Contrastive Learning) genannt wird. Stellen Sie sich den Lernprozess der KI wie ein Spiel mit Stühlen vor, aber anstelle von Stühlen sind die Spieler Gesichter.
Normalerweise ist das Ziel beim Training einer KI, sicherzustellen, dass alle Gesichter von „Person A“ eng zusammen in einer bestimmten Ecke des Raumes sitzen, während „Person B“ in einer anderen Ecke sitzt. Dies ist wie ein Magnet, der alle „Person A“-Gesichter zusammenzieht. Die alte Methode ignorierte jedoch manchmal die Tatsache, dass „Person A“ ein wenig wie „Person C“ aussehen könnte, wenn sie einen ähnlichen Hautton oder ein ähnliches Alter teilen, selbst wenn es unterschiedliche Personen sind. Die KI könnte verwirrt werden und denken, dass „Person A“ „Person C“ ist, nur weil sie in diesen spezifischen Aspekten ähnlich aussehen.
Die neue Methode des Teams, DeSCon, fügt diesem Spiel eine spezielle Regel hinzu. Sie besagt: „Okay, zieht alle ‚Person A‘-Gesichter zusammen, aber stellt auch sicher, dass ihr die ‚Person A‘-Gesichter von den ‚Person C‘-Gesichtern wegdrückt, die ihnen am ähnlichsten sehen, speziell innerhalb derselben demografischen Gruppe.“ Es ist wie ein strenger Lehrer, der den Schülern nicht nur sagt, dass sie mit ihren eigenen Freunden zusammensitzen sollen, sondern den Schülern, die sich sehr ähnlich sehen, explizit sagt, dass sie weit voneinander entfernt sitzen sollen, damit sie sich nicht verwechseln.
Das Team testete drei verschiedene Wege, um festzulegen, welche „Look-alike“-Paare (ähnlich aussehende Paare) man voneinander wegdrücken sollte:
- Der „Alle“-Ansatz: Drücke zwei Personen auseinander, die nicht dieselbe Person sind, ungeachtet dessen, wer sie sind.
- Der „Gruppen“-Ansatz: Drücke nur Menschen auseinander, die in derselben demografischen Gruppe sind (z. B. nur zwei verschiedene asiatische Gesichter oder zwei verschiedene ältere Gesichter auseinanderdrücken).
- Der „Hard Mode“-Ansatz (DeSCon-Hard): Dies ist der Star der Show. Er findet gezielt die schwierigsten Paare – diejenigen, die innerhalb derselben Gruppe am verwirrend ähnlich aussehen – und zwingt die KI, den Unterschied zwischen ihnen zu lernen.
Die Ergebnisse legen nahe, dass dieser „Hard Mode“-Ansatz am besten funktioniert. Als sie ihr System an verschiedenen Datensätzen testeten, einschließlich eines perfekt ausbalancierten und eines unordentlichen, unbalancierten Datensatzes, schaffte es DeSCon-Hard, die KI fairer zu machen, ohne sie bei ihrer Hauptaufgabe zu verschlechtern. Tatsächlich verbesserte sie oft die Gesichtserkennung insgesamt, während sie gleichzeitig die Anzahl der unfairen Fehler reduzierte.
Das Paper argumentiert gegen die Vorstellung, dass es ausreicht, lediglich die Trainingsdaten auszubalancieren. Sie zeigen auf, dass eine KI selbst mit einem balancierten Datensatz immer noch voreingenommen sein kann, wenn sie nicht lernt, mit den „schwierigen“ Fällen umzugehen, in denen sich verschiedene Menschen sehr ähnlich sehen. Sie fanden auch heraus, dass der Versuch, dem Gehirn der KI jegliche demografischen Informationen zu entziehen (sodass sie „Rasse“ oder „Geschlecht“ nicht „sehen“ kann), die KI in der allgemeinen Gesichtserkennung oft schlechter macht. Stattdessen lehrt ihre Methode die KI, diese Details zu nutzen, um präziser zu werden, um sicherzustellen, dass kein Fehler gemacht wird, nur aufgrund dessen, wer die Person ist.
In ihren Experimenten nutzte das Team Standard-Benchmarks, um Erfolg zu messen. Sie fanden heraus, dass ihre neue Methode, insbesondere die „Hard Mode“-Version, die Lücke in den Fehlerraten zwischen verschiedenen Gruppen konsistent verringerte. Beispielsweise reduzierte die „Hard Mode“-Version die Unfairness bei Fehlverknüpfungen (zu sagen, zwei verschiedene Personen seien dieselbe) deutlich stärker als die Standardmethoden, während sie die Gesamtgenauigkeit hoch hielt. Sie merkten auch an, dass ihre Methode zwar gut mit den von ihnen verwendeten Datensätzen funktioniert, die Trainingsdaten jedoch kleiner waren als die massiven Datensätze, die große Technologieunternehmen verwenden, sodass noch Arbeit geleistet werden muss, um zu sehen, wie sie skaliert.
Letztendlich legt dieses Paper nahe, dass wir, um ein wirklich faires Gesichtserkennungssystem zu bauen, aufhören müssen, nur zu versuchen, die Bücher auszubalancieren, und statfangen müssen, der KI beizubringen, besonders auf die kniffligen, verwirrenden Fälle zu achten, in denen sich Bias meistens versteckt. Indem sie sich auf die „schwierigsten“ Look-alikes innerhalb jeder Gruppe konzentriert, lernt die KI gleichzeitig fairer und schärfer zu sein.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.