🤖 machine learning

Aligned but Stereotypical? How System Prompts Shape Demographic Bias in LLM-Based Text-to-Image Models

Diese Arbeit zeigt auf, dass auf LLMs basierende Text-zu-Bild-Systeme aufgrund ihrer System-Prompts stärkere demografische Verzerrungen als Nicht-LLM-Baselines einführen, und schlägt FairPro vor, ein trainingsfreies Framework, das diese Verzerrungen durch die adaptive Generierung von fairnessbewussten Instruktionen mildert, während die Benutzerabsicht beibehalten wird.

Ursprüngliche Autoren: NaHyeon Park, Na Min An, Kunhee Kim, Soyeon Yoon, Jiahao Huo, Hyunjung Shim

Veröffentlicht 2026-06-15

📖 4 Min. Lesezeit☕ Kaffeepausen-Lektüre

CC BY 4.0

Ursprüngliche Autoren: NaHyeon Park, Na Min An, Kunhee Kim, Soyeon Yoon, Jiahao Huo, Hyunjung Shim

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Die Kernidee: Der „übereifrige Übersetzer“

Stellen Sie sich vor, Sie möchten ein Bild basierend auf einem einfachen Satz zeichnen, wie zum Beispiel: „Ein Botaniker.“

Bei älteren Zeichenmaschinen würden Sie den Satz direkt an den Künstler übergeben. Der Künstler würde einen Botaniker zeichnen, könnte sich dabei aber auf seine eigenen alten Gewohnheiten oder Stereotypen verlassen (z. B. nur weiße Männer zeichnen).

Bei neueren, smarteren Zeichenmaschinen (denen, die diese Arbeit untersucht) gibt es einen zusätzlichen Schritt. Bevor der Künstler Ihren Satz sieht, liest ein smarter Übersetzer (ein KI-Sprachmodell) ihn zuerst. Dieser Übersetzer soll helfen, indem er Details hinzufügt, um das Bild besser zu machen. Zum Beispiel könnte er aus „Ein Botaniker“ machen: „Ein Botaniker in einem grünen Feld, der einen Hut trägt und eine Lupe hält.“

Das Problem: Die Arbeit fand heraus, dass dieser „smarte Übersetzer“ oft unerwünschte Stereotypen hinzufügt, während er versucht, hilfreich zu sein. Selbst wenn Sie weder Geschlecht noch Herkunft oder Alter angegeben haben, könnte der Übersetzer annehmen: „Oh, Botaniker sind meistens weiße Männer“, und diese Details in die Anweisungen einfügen, noch bevor der Künstler überhaupt mit dem Zeichnen beginnt.

Die Untersuchung: Der „COMPBIAS“-Test

Die Forscher entwickelten ein riesiges Testkit namens COMPBIAS (denken Sie an eine standardisierte Prüfung für Zeichenmaschinen). Sie testeten 1.024 verschiedene Prompts, die von sehr einfachen („Ein Arzt“) bis hin zu sehr komplexen („Ein Arzt, der einen Patienten in einem belebten Krankenhaus rettet“) reichten.

Sie verglichen zwei Arten von Maschinen:

Die alte Schule: Direkte Anweisungen an den Künstler.
Die neue Schule: Die Anweisungen gehen zuerst durch den „smarten Übersetzer“.

Die Ergebnisse:

Die „neue Schule“-Maschinen waren voreingenommener. Sie erzeugten Bilder mit viel stärkeren Stereotypen (z. B. überwiegend weiße Männer für „Ärzte“) als die alten Maschinen.
Die „Alignment-Falle“: Die neuen Maschinen waren tatsächlich besser darin, Ihre Anweisungen zu befolgen und hochwertige Bilder zu erstellen. Aber die Arbeit fand einen Zielkonflikt: Je besser sie darin waren, Ihre Worte zu verstehen, desto mehr neigten sie zu Stereotypen, wenn Sie keine Details spezifizierten.
Komplexität verschlimmert es: Je komplexer Ihr Prompt war, desto mehr stereotype Details fügte der Übersetzer hinzu, was die Voreingenommenheit verstärkte.

Der Übeltäter: Der „System Prompt“

Die Forscher gingen der Frage nach, warum das passiert. Sie entdeckten, dass der System Prompt der Übeltäter ist.

Betrachten Sie den System Prompt als das Regelwerk oder das Memo des Managers, das dem smarten Übersetzer gegeben wird. Es sagt dem Übersetzer, wie er sich zu verhalten hat.

Die Arbeit fand heraus, dass diese Standard-Regelwerke oft versteckte Annahmen enthalten.
Wenn der Übersetzer einen neutralen Prompt wie „Ein Richter“ liest, drängt das Regelwerk ihn dazu, an einen bestimmten Typ Mensch zu denken (z. B. einen älteren weißen Mann), noch bevor er die Beschreibung für den Künstler schreibt.
Die Forscher bewiesen dies, indem sie sich die „Gedanken“ (Text-Embeddings) der Maschine ansah. Sie sahen, dass der Übersetzer neutral formulierte Wörter heimlich in voreingenommene Wörter änderte, bevor das Bild überhaupt erstellt wurde.

Die Lösung: „FAIRPRO“ (Der Fairness-Coach)

Die Forscher wollten den smarten Übersetzer nicht einfach löschen, da er die Bilder sehr gut aussehen lässt. Stattdessen entwickelten sie eine Lösung namens FAIRPRO.

So funktioniert es:
Stellen Sie sich vor, neben dem smarten Übersetzer steht ein Coach.

Der Coach prüft den Prompt: Wenn Sie sagen: „Ein Botaniker“, schaut der Coach in das Regelwerk des Übersetzers.
Der Coach schreibt die Regeln um: Anstatt den Übersetzer raten zu lassen, gibt der Coach ihm eine neue, temporäre Anweisung: „Diese Person ist ein Botaniker. Nimm kein Geschlecht, keine Herkunft oder kein Alter an. Halte es vielfältig.“
Das Ergebnis: Der Übersetzer fügt zwar immer noch hilfreiche Details hinzu (wie den Hut und die Lupe), aber er hört auf, anzunehmen, dass der Botaniker ein weißer Mann ist. Er erstellt eine vielfältigere Mischung an Bildern.

Warum es besonders ist:

Kein Nachtrainieren: Sie mussten nicht die ganze Maschine neu bauen oder ihr neue Dinge beibringen. Sie haben lediglich die Anweisungen geändert, die sie während der Arbeit erhält.
Es respektiert Sie: Wenn Sie tatsächlich „Eine Botanikerin“ sagen, respektiert der Coach das und behält das weibliche Geschlecht bei, stellt aber dennoch sicher, dass Herkunft und Alter vielfältig bleiben. Er korrigiert nur die Teile, die Sie nicht spezifiziert haben.

Das Fazente

Die Arbeit zeigt, dass die „smarten“ Teile moderner KI-Bildgeneratoren tatsächlich die Quelle neuer Arten von Voreingenommenheit sind. Indem wir einfach die Anweisungen (die System Prompts) anpassen, die diesen smarten Übersetzern gegeben werden, können wir verhindern, dass sie unfaire Annahmen treffen, ohne die Qualität der Bilder zu ruinieren. Es ist, als würde man einem hilfreichen Assistenten beibringen, aufzuhören, die Vorlieben des Nutzers zu erraten, und stattdin zu fragen: „Wen soll ich zeichnen?“, bevor er Annahmen trifft.

Technisches Resümee: Ausgerichtet, aber stereotyp? Wie System-Prompts demografische Verzerrungen in LLM-basierten Text-zu-Bild-Modellen formen

Problemstellung
Neuere Text-zu-Bild (T2I)-Systeme nutzen zunehmend Large Language Models (LLMs) für das Text-Conditioning, um Benutzerprompts zu interpretieren und zu erweitern, mit dem Ziel, die Text-Bild-Ausrichtung und das kompositorische Denken zu verbessern. Dieses Paper identifiziert jedoch eine kritische Nebenwirkung: Die Integration von LLM-basiertem Conditioning führt implizite demografische Annahmen in die Bildgenerierung ein, selbst wenn die Benutzerprompts neutral oder unterbestimmt sind. Die Autoren postulieren, dass diese Systeme zwar die Prompt-Adhärenz verbessern, gleichzeitig aber die demografische Schiefe verstärken können, was einen Fairness–Alignment-Trade-off schafft. Ein besonderer Fokus liegt auf System-Prompts – eingebetteten Anweisungen, die das LLM bei der Interpretation von Benutzereingaben leiten – als einem bisher wenig erforschten Pfad für die Propagierung von Bias.

Methodik
Um dieses Phänomen zu untersuchen, führen die Autoren COMPBIAS ein, einen umfassenden Benchmark, der aus 1.024 Prompts besteht, die in vier Komplexitätsstufen organisiert sind:

Neutral (L1): Berufliche Prompts (z. B. „Ein Botaniker“).
Attribut (L2): Prompts mit einem expliziten demografischen Attribut (z. B. „Ein asiatischer Botaniker“).
Attribut + Kontext (L3): Prompts, die mit Aktionskontexten angereichert sind.
Erweitert (L4): Ausführliche Beschreibungen, die von einem LLM aus Basisberufen generiert wurden.

Die Studie evaluiert acht aktuelle T2I-Modelle, einschließlich Nicht-LLM-Baselines (z. B. SD3.5, FLUX.1) und LLM-basierte Systeme (z. B. SANA1.5, Qwen-Image, FLUX.2). Bias wird mittels eines normalisierten Fair Discrepancy (FD) Scores quantifiziert, der die Abweichung der generierten demografischen Verteilungen von einer uniformen Referenz misst, während die Fidelität über CLIP-Ähnlichkeit und GenEval bewertet wird.

Zentrale Ergebnisse und diagnostische Analyse

LLM-induzierter Bias: LLM-basierte T2I-Systeme weisen konsistent höhere demografische Bias-Scores auf als Nicht-LLM-Baselines über alle Komplexitätsstufen der Prompts hinweg. Zudem steigen mit zunehmender Komplexität der Prompts sowohl die Text-Bild-Ausrichtung als auch der demografische Bias, was eine Spannung zwischen semantischer Fidelität und Fairness offenbart.
Die Rolle von System-Prompts: Durch eine kontrollierte Analyse im Text-Embedding-Raum zeigen die Autoren, dass Standard-System-Prompts neutrale Benutzereingaben aktiv in demografisch verzerrte Repräsentationen umformen, bevor die Bildsynthese beginnt.
- Embedding Shift: Das Entfernen von System-Prompts schwächt die geschlechtsspezifischen Assoziationen in den Text-Embeddings ab, ohne die semantische Fidelität signifikant zu beeinträchtigen.
- Dekodierter Text: Das Dekodieren intermediärer Textrepräsentationen zeigt, dass System-Prompts demografische Deskriptoren (z. B. geschlechtsspezifische Begriffe) einführen, die im ursprünglichen Benutzerprompt nicht vorhanden sind.
- Propagierung: Es besteht eine starke Korrelation (64 % Übereinstimmung) zwischen den im dekodierten Text inferierten demografischen Attributen und den final generierten Bildern, was bestätigt, dass sich der Bias von der sprachseitigen Verarbeitung auf die visuellen Outputs überträgt.

Vorgeschlagene Lösung: FAIRPRO
Motiviert durch die Erkenntnis, dass System-Prompts eine primäre Quelle für Bias sind, schlagen die Autoren FAIRPRO (FAIRness-aware System PROmpt) vor, ein trainingsfreies Debiasing-Framework zur Testzeit.

Mechanismus: Anstatt System-Prompts zu entfernen (was die Anreicherung reduziert) oder Benutzerprompts umzuschreiben (was weniger effektiv ist), generiert FAIRPRO dynamisch eingabespezifische, fairness-bewusste Systemanweisungen.
Prozess: Gegeben einem Benutzerprompt $u$ nutzt FAIRPRO ein LLM, um potenzielle stereotype Vervollständigungen zu identifizieren, und konstruiert einen revidierten System-Prompt $s_{fair}$ , der explizit spezifizierte Benutzerbeschränkungen (z. B. „männlich“) beibehält, während er auf unbestimmte Attribute (z. B. Ethnizität, Alter) Diversität erzwingt.
Effizienz: Die Methode erfordert nur einen zusätzlichen LLM-Aufruf, was zu minimalem Rechenaufwand führt (z. B. ~1,05x für Qwen-Image) und keine Änderungen an der zugrunde liegenden Bildgenerator-Architektur erfordert.

Ergebnisse
Experimente über acht Modelle und den COMPBIAS-Benchmark hinweg zeigen, dass FAIRPRO:

Bias reduziert: Die demografischen Bias-Scores in Bezug auf Geschlecht, Alter, Ethnizität und Erscheinungsattribute im Vergleich zu sowohl den Standardeinstellungen als auch den „No System Prompt“-Baselines erheblich senkt.
Fidelität beibehält: Eine hohe Text-Bild-Ausrichtung und Prompt-Kontrollierbarkeit bewahrt und vermeidet so den Fidelitätsverlust, der mit dem bloßen Entfernen von System-Prompts einhergeht.
Diversität erhöht: Die visuelle Diversität in Pose, Kleidung und Hintergrund für unbestimmte Attribute erhöht, ohne explizite Benutzerbeschränkungen zu überschreiben.
Generalisiert: Eine robuste Leistung auf externen Benchmarks (TIBET) und über verschiedene Modellfamilien hinweg zeigt.
Ablation: Die Studie bestätigt, dass eingabeadaptive Prompting-Verfahren und strukturierte Selbst-Auditierung kritische Komponenten sind; statische Fairness-Instruktionen oder das bloße Umschreiben von Benutzerprompts allein sind unzureichend.

Bedeutung und Ansprüche
Das Paper behauptet, dass das LLM-basierte Text-Conditioning nicht lediglich eine passive Schnittstelle zum Verständnis von Prompts ist, sondern ein aktiver Mechanismus, der demografischen Bias kodieren und übertragen kann. Die Bedeutung dieser Arbeit liegt in:

Identifizierung eines neuen Bias-Vektors: Hervorhebung von System-Prompts als kritischer, bisher wenig erforschter Interventionspunkt für Bias in modernen T2I-Systemen.
Diagnostischer Erkenntnis: Bereitstellung von Beweisen, dass Bias upstream in der Sprach-Conditioning-Phase entsteht, was den Fokus der Schadensbegrenzung von der Bildgenerierung zur Prompt-Interpretation verschiebt.
Praktischer Schadensbegrenzung: Einführung von FAIRPRO als effektiver, modellagnostischer und trainingsfreier Lösung, die Fairness mit den erweiterten Fähigkeiten des LLM-basierten Conditionings in Einklang bringt.

Die Autoren vertreten eine bescheidene Position und räumen ein, dass ihr Ansatz die verzerrten Output-Verteilungen zur Testzeit mildert, aber nicht die in den Parametern der zugrunde liegenden generativen Modelle kodierten Biases entfernt. Sie merken zudem Einschränkungen hinsichtlich der Verwendung diskreter demografischer Kategorien und der Kontextabhängigkeit bei der Definition „fairer“ Verteilungen an.