Text-to-image models globally default to male, enforce gender stereotypes, and penalize female and nonbinary representations
Diese Studie präsentiert die weltweit umfassendste Analyse von Text-zu-Bild-Modellen und zeigt auf, dass diese systematisch zu männlichen Repräsentationen tendieren, starre Geschlechterstereotypen durchsetzen und nicht-binäre Identitäten marginalisieren, wodurch sie strukturelle Geschlechterbiases verstärken und unterrepräsentierten Gruppen psychischen Schaden zufügen.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Im leisen Summen einer Serverfarm ist eine neue Art von Künstler am Werk. Er hält keinen Pinsel oder eine Kamera, sondern hört stattdessen auf Worte und malt Bilder. Diese Technologie, bekannt als Text-zu-Bild-Generierung, hat eine enorme Popularität erfahren und in nur wenigen Jahren Milliarden von Bildern erschaffen. Diese Systeme werden mit riesigen Sammlungen von Fotos und Texten aus dem Internet trainiert, wobei sie lernen, Wörter wie „Arzt“ oder „Mutter“ mit den visuellen Details zu verknüpfen, die sie zuvor gesehen haben. Da diese Werkzeuge nun von Millionen von Menschen genutzt werden, um Werbeanzeigen, Geschichten und Designs zu erstellen, sind die von ihnen produzierten Bilder zu einer mächtigen Kraft geworden, die die Art und Weise prägt, wie wir die Welt sehen. Wenn eine Maschine konsequent einen Arzt als Mann und eine Krankenschwester als Frau zeichnet, spiegelt dies nicht nur einen Fehler wider; es verstärkt den Glauben, dass diese Rollen bestimmten Geschlechtern gehören. Die Frage, die Forscher nun stellen, ist nicht nur, ob diese Maschinen Fehler machen, sondern welche Art von Welt sie uns im Stillen aufbauen, Bild für Bild.
Ein Team von Forschern machte sich daran, diese verborgene Landschaft zu untersuchen, indem sie vier führende Text-zu-Bild-Modelle baten, fast eine Million Bilder zu generieren. Sie führten nicht einfach zufällige Experimente durch; sie konstruierten ein massives, globales Experiment. Sie baten die Modelle, Menschen aus zweiundzwanzig verschiedenen Ländern bei der Ausübung von über einhundert Berufen und verschiedenen täglichen Aktivitäten darzustellen. Entscheidend war, dass sie das Geschlecht der Person oft nicht spezifizierten und lediglich nach „einer indischen Person, die als Übersetzer arbeitet“ oder „einer deutschen Person, die im Garten arbeitet“ fragten. Durch die Analyse der Ergebnisse entdeckte das Team ein konsistentes Muster: Wenn das Prompt das Geschlecht nicht spezifizierte, wählten die Modelle fast immer einen Mann. Im Durchschnitt zeigten 68,6 Prozent der aus diesen neutralen Anfragen generierten Bilder Männer, eine Zahl, die bei Berufen, die mit Autorität oder Macht verbunden sind, noch weiter anstieg. Dieses Beharren auf Männlichkeit war nicht weltweit gleichmäßig; sie war in Ländern mit höherer geschlechtsspezifischer Ungleichheit und niedrigerem Einkommen am ausgeprägtesten, was darauf hindeutet, dass die Technologie die sozialen Vorurteile der Orte, an denen sie verwendet wird, absorbiert und verstärkt.
Die Studie untersuchte auch genau die Qualität der produzierten Bilder. Als die Forscher nach spezifischen Geschlechtern fragten, stellten sie fest, dass Bilder von Männern konsistent als qualitativ hochwertiger, realistischer und vom Computer besser verstanden eingestuft wurden als Bilder von Frauen. Diese Lücke war am größten, wenn Frauen in Berufen dargestellt wurden, die traditionell von Männern ausgeübt werden. In diesen Fällen wurden die Bilder von Frauen oft als weniger plausibel oder weniger realistisch bewertet als die Bilder von Männern in denselben Rollen. Die Modelle verfielen auch in starre Stereotypen darüber, wie Männer und Frauen auszusehen haben sollten. Bilder von Männern wurden häufig als ernst, muskulös und älter gezeigt, während Bilder von Frauen fast immer als jung, dünn, lächelnd und attraktiv dargestellt wurden. Dieses „bidirektionale Stereotypisieren“ bedeutet, dass die Maschinen nicht nur den Mann als Standard festlegen, sondern aktiv zwei sehr unterschiedliche und einschränkende visuelle Skripte für jedes Geschlecht konstruieren.
Der vielleicht erschütterndste Befund betraf Menschen, die nicht in die binären Kategorien von Mann oder Frau passen. Als die Forscher die Modelle baten, Bilder von nicht-binären Personen zu generieren, hatten die Systeme erhebliche Schwierigkeiten. Die produzierten Bilder waren oft von schlechter Qualität, erfassten das Prompt nicht oder defaultisierten zur Darstellung junger Männer. Dies deutet darauf hin, dass nicht-binäre Identitäten für diese Modelle nicht nur unterrepräsentiert, sondern weitgehend unlesbar sind. Um die menschlichen Auswirkungen dieser Ergebnisse zu verstehen, baten die Forscher tausende Menschen, Bilder von sich selbst zu betrachten – Menschen, die dieselbe Nationalität und dasselbe Geschlecht wie die Subjekte in den Bildern teilten. Das Feedback war aufschlussreich. Viele Teilnehmer beschrieben ein Gefühl der Ausgrenzung oder Unsicherheit, wenn sie sahen, wie ihre Identitäten auf enge, stereotype Schablonen reduziert wurden. Eine Person merkte an, dass es sich seltsam anfühlte, eine „Vorlage“ ihrer Identität zu sehen, als hätte die Maschine eine sehr spezifische, begrenzte Vorstellung davon, wie eine Person aus ihrem Land auszusehen habe. Wenn die Bilder jedoch diese Stereotypen durchbrachen – indem sie eine Frau in einer Führungsposition oder eine nicht-binäre Person auf eine authentische Weise zeigten – beschrieben die Teilnehmer dies als bestätigend und ermutigend.
Die Forscher betonen, dass diese Ergebnisse nicht die Schuld eines einzelnen Modells oder eines einzelnen Unternehmens sind. Sie testeten vier verschiedene Systeme von verschiedenen Entwicklern, darunter solche aus Deutschland, dem Vereinigten Königreich und China, und fanden dieselben Muster in allen Modellen. Diese Konsistenz deutet auf ein tiefer liegendes Problem hin, das in den gemeinsamen Daten und Methoden verwurzelt ist, mit denen diese Technologien trainiert werden. Die Studie kommt zu dem Schluss, dass diese Maschinen keine neutralen Werkzeuge sind; sie kodieren eine Reihe von Geschlechtslogiken, die Männer als den Standardmenschen behandeln, Frauen bestrafen, wenn sie aus traditionellen Rollen heraustreten, und nicht-binäre Identitäten auslöschen. Da diese Systeme immer stärker in unser tägliches Leben integriert werden, riskieren die von ihnen generierten Bilder, zu einer selbsterfüllenden Prophezeiung zu werden, die unsere kollektive Vorstellung davon, wer wo dazugehört und wer gesehen werden darf, im Stillen verengen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.