Happy Young Women, Grumpy Old Men? Emotion-Driven Demographic Biases in Synthetic Face Generation
Diese Arbeit präsentiert eine systematische Auditierung von acht hochmodernen Text-zu-Bild-Modellen aus westlichen und chinesischen Institutionen, die aufzeigt, dass alle ungeachtet ihres kulturellen Ursprungs persistente demografische und emotionsbedingte Biases bei der synthetischen Gesichtserzeugung aufweisen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie hätten einen magischen, superintelligenten Künstler, der jeden Menschen zeichnen kann, den Sie beschreiben, sobald er Ihre Worte hört. Sie sagen: „Zeichne eine glückliche Person“, und puff! Ein Bild erscheint. Sie sagen: „Zeichne eine wütende Person“, und ein weiteres Bild taucht auf.
Dieses Papier ist wie eine Qualitätskontrolle für acht dieser magischen Künstler (vier aus dem Westen, wie die USA und Europa, und vier aus China). Die Forscher wollten wissen: Sind diese Künstler fair oder haben sie versteckte Vorurteile?
Hier ist das, was sie herausgefunden haben, unterteilt in einfache Geschichten:
1. Die „Standardeinstellung“ ist verzerrt
Selbst wenn Sie dem Künstler nicht sagen, wen er zeichnen soll (nur „eine Person“), zeichnen die Künstler keine zufällige Mischung von Menschen aus der ganzen Welt. Stattdessen haben sie eine Standardeinstellung, die stark voreingenommen ist.
- Der „Jugendclub“: Wenn man nach einer generischen Person fragt, zeichnen die Künstler fast immer jemanden Junges (zwischen 20 und 39 Jahren). Sie zeichnen selten Kinder oder ältere Menschen. Es ist, als ob die Künstler denken, dass „erwachsen“ nur „junger Erwachsener“ bedeutet.
- Die „Weiße Wand“: Die Künstler zeichnen überwiegend weiße Gesichter, obwohl weiße Menschen einen Minderheitenanteil an der Weltbevölkerung ausmachen. Sie zeichnen kaum Schwarze, Asiaten oder andere ethnische Gruppen.
- Das „Geschlechterungleichgewicht“: Einige Künstler lieben es, Männer zu zeichnen (bis zu 90 % der Zeit), während andere es lieben, Frauen zu zeichnen (bis zu 80 %). Nur sehr wenige bekommen die Balance richtig hin.
Die große Überraschung: Die Forscher erwarteten, dass die chinesischen Künstler mehr asiatische Gesichter zeichnen würden, da sie in China ausgebildet werden. Das taten sie nicht. Die chinesischen Künstler zeichneten hauptsächlich weiße Gesichter, genau wie die westlichen Künstler. Es scheint, als ob alle diese Künstler aus derselben „globalen Internet“-Bibliothek lernen, die von westlichen Bildern dominiert wird, was sie alle gleich klingen lässt.
2. Emotionen verändern das Bild (Der „Mood Ring“-Effekt)
Der interessanteste Teil der Studie ist, was passiert, wenn man der Anfrage eine Emotion hinzufügt. Die Forscher baten die Künstler, Menschen zu zeichnen, die „glücklich“, „traurig“, „wütend“, „ängstlich“ usw. waren.
Sie fanden heraus, dass die Emotion nicht nur das Gesicht der Person veränderte, sondern auch, wer diese Person war.
- Die „Glücks-Voreingenommenheit“: Wenn sie gebeten wurden, eine „glückliche“ Person zu zeichnen, zeichneten die Künstler Gesichter, die am meisten wie ihre „Standardeinstellung“ aussah: jung, weiß und oft weiblich. Glück scheint an ein spezifisches, idealisiertes Aussehen gekoppelt zu sein.
- Der „Wut/Trauer“-Shift: Als sie gebeten wurden, jemanden zu zeichnen, der „wütend“, „ekelhaft“ oder „traurig“ ist, schalteten die Künstler um. Sie begannen plötzlich viel häufiger, ältere Menschen, Männer und weiße Gesichter zu zeichnen.
- Analogie: Es ist wie ein Casting-Direktor für einen Film. Wenn das Drehbuch von einem „glücklichen Hauptcharakter“ spricht, besetzt er eine junge, hübslleiche Ikone. Aber wenn das Drehbuch einen „wütenden Bösewicht“ oder einen „grummeligen alten Mann“ vorgibt, besetzt er plötzlich einen älteren weißen Mann. Die Emotion löst ein Stereotyp darüber aus, wer berechtigt ist, so zu fühlen.
3. Der Titel „Glückliche junge Frauen, grummelige alte Männer?“
Der Titel des Papers fragt: „Happy Young Women, Grumpy Old Men?“
Die Antwort lautet: Ja.
- Glück wird fast ausschließlich jungen Frauen (und jungen Menschen im Allgemeinen) zugeschrieben.
- Negative Emotionen (Wut, Ekel, Angst) werden unverhältnismäßig oft älteren Männern und weißen Männern zugeschrieben.
Dies schafft eine visuelle Welt, in der junge Frauen das „Gesicht“ der Freude sind, während ältere Männer das „Gesicht“ des Zorns sind.
4. Das „Black Box“-Problem
Die Forscher merkten an, dass diese Künstler „Black Boxes“ sind. Wir wissen nicht genau, mit welchen Bildern sie trainiert wurden, weil die Unternehmen ihre Trainingsdaten nicht teilen. Wir können jedoch durch den Output sehen, dass die Künstler die Vorurteile des Internets absorbiert haben.
Obwohl die chinesischen Modelle in China trainiert wurden, kopierten sie dennoch den westlichen Bias, hauptsächlich weiße Gesichter zu zeichnen. Dies deutet darauf darauf hin, dass die „Internet-Kultur“, von der diese Modelle lernen, so dominant ist, dass sie den lokalen kulturellen Kontext überlagert.
Zusammenfassung
Das Papier kommt zu dem Schluss, dass diese KI-Künstler nicht neutral sind. Sie sind wie Spiegel, die nicht die reale Welt widerspiegeln, sondern eine verzerrte, stereotypisierte Version davon.
- Sie ignorieren alte Menschen.
- Sie ignorieren nicht-weiße Menschen.
- Sie verknüpfen Glück mit Jugend und Schönheit.
- Sie verknüpfen Wut und Negativität mit älteren Männern.
Die Forscher warnen davor, dass wir, wenn wir diese Werkzeuge zur Erstellung von Inhalten verwenden (wie Werbung, Filme oder Nachrichten), unbeabsichtigt diese Stereotypen verstärken werden, was die Welt zu einem Ort macht, an dem nur junge, weiße Menschen glücklich sind und nur alte, weiße Männer wütend sind. Sie schlagen vor, dass wir diese Werkzeuge häufiger überprüfen und mehr Transparenz darüber fordern müssen, wie sie aufgebaut sind.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.