Generating Fearful Images: Investigating Potential Emotional Biases in Image-Generation Models
Diese Arbeit zeigt auf, dass generative KI-Modelle, einschließlich Stable Diffusion, ChatGPT und Gemini, eine systemische Voreingenommenheit aufweisen, Bilder zu erzeugen, die Angst hervorrufen, unabhängig vom Eingabeprompt, was wahrscheinlich auf eine Überrepräsentation von angstbesetzten Inhalten in ihren Trainingsdaten zurückzuführen ist.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie besitzen eine magische Kunstmaschine. Sie geben ihr eine einfache Anweisung, wie zum Beispiel „zeichne ein sonniges Picknick“, und sie spuckt ein Bild aus. Man würde erwarten, dass das Bild sich genau so glücklich und ruhig anfühlt, wie Ihre Worte es taten.
Diese Arbeit untersucht, ob diese magische Maschine Ihnen tatsächlich zuhört oder ob sie die geheime Angewohnheit hat, alles in einen Horrorfilm zu verwandeln.
Der „untugendhafte Kreislauf“
Die Autoren beschreiben eine beängstigende Schleife, die in unserer digitalen Welt stattfindet. Denken Sie an eine Feedback-Echo-Kammer:
- Menschen erstellen Inhalte: Menschen posten Bilder im Internet, die viel Aufmerksamkeit erregen. Leider erhalten gruselige oder wütende Bilder oft mehr Klicks als glückliche.
- Die KI lernt: Künstliche Intelligenz (KI) „frisst“ all diese Bilder als „Trainingsdaten“, um zu lernen, wie man zeichnet.
- Die KI spuckt es wieder aus: Wenn wir die KI bitten, etwas Neues zu zeichnen, nutzt sie das, was sie gelernt hat. Wenn sie gelernt hat, dass „Grusel“ die meiste Aufmerksamkeit bekommt, zeichnet sie vielleicht versehentlich gruselige Dinge, selbst wenn Sie nach etwas Nettem gefragt haben.
- Der Kreislauf schließt sich: Wir sehen mehr KI-Kunst mit Gruselfaktor, wir klicken darauf, und die KI lernt dadurch noch mehr, dass „Grusel“ das ist, was die Menschen wollen.
Die Forscher wollten wissen, ob dieser Kreislauf tatsächlich existiert.
Das Experiment: Die „Angstfabrik“
Um dies zu testen, agierten die Forscher wie Detektive. Sie nahmen eine riesige Liste von Text-Prompts (Anweisungen) aus einer Datenbank namens DiffusionDB. Diese Anweisungen stammten von echten Menschen, die eine KI (speziell Stable Diffusion) baten, Dinge zu zeichnen.
- Der Input: Sie untersuchten den Text. Fragte die Person nach „Aufregung“? „Freude“? „Angst“?
- Der Output: Sie betrachteten die Bilder, die die KI tatsächlich erstellt hatte.
- Die Detektivarbeit: Sie nutzten ein spezielles Computerprogramm (ein „smartes Auge“ namens Vision Transformer), um die Bilder zu analysieren und die Frage zu stellen: „Welche Emotion löst dieses Bild in dir aus?“
Sie verglichen die Emotion in den Worten mit der Emotion in den Bildern.
Die große Entdeckung: Die KI ist ein „Angstmagnet“
Die Ergebnisse waren überraschend. Die KI kopierte nicht einfach nur die Anweisungen; sie fügte ihre eigene Note hinzu.
- Der „Angst-Glitch“: Unabhängig davon, was der Prompt war, schien die KI besessen davon zu sein, Dinge zu zeichnen, die sich beängstigend anfühlten.
- Die Diskrepanz: Wenn eine Person nach „Aufregung“ fragte, erzeugte die KI oft ein Bild, das sich „beängstigend“ anfühlte.
- Der Beweis: Die Forscher maßen dies mithilfe einer „True Positive Rate“ (wie oft die KI die Emotion richtig traf) und einer „False Positive Rate“ (wie oft die KI eine Emotion hinzufügte, die gar nicht vorhanden war).
- Bei Angst war die KI zu gut darin, sie zu finden, und zu eifrig darin, sie hinzuzufügen. Selbst wenn der Prompt keinerlei Angst enthielt, wirkte das Bild oft beängstigend.
- Bei anderen Emotionen wie Freude oder Wut war die KI viel weniger geneigt, diese hinzuzufügen, wenn sie nicht im Prompt enthalten waren.
Sie testeten dies auch auf anderen „Enterprise“-Modellen (wie GPT-Image-1.5 und SDXL, welche neuere, leistungsfähigere Versionen sind) und fanden dasselbe heraus. Es war nicht nur eine kaputte Maschine; es schien eine Gewohnheit zu sein, die der ganzen Familie der KI-Bildgeneratoren gemeinsam ist.
Warum passiert das?
Das Paper legt nahe, dass die KI wie ein Schüler ist, der nur in einer Bibliothek voller Horrorfilme und Tatortfotos studiert hat. Selbst wenn man sie bittet, eine Geschichte über ein Welpen zu schreiben, fügt sie vielleicht versehentlich einen Schatten hinzu, der wie ein Monster aussieht, weil das das Beste ist, was sie kennt.
Die Forscher glauben, dass die Trainingsdaten (die Millionen von Bildern, von denen die KI lernte) bereits voll von beängstigendem Inhalt sind, weil das online am meisten Aufmerksamkeit erregt. Die KI spiegelt diesen Bias lediglich wider, verstärkt ihn aber noch.
Der „fehlerhafte Spiegel“ (Einschränkungen)
Die Autoren geben ehrlich zu, dass ihre Werkzeuge nicht perfekt sind.
- Das Labeling-Problem: Die KI musste für jedes Bild eine Emotion auswählen (wie „Angst“ oder „Freude“), aber das echte Leben ist chaotisch. Ein Bild eines Sturms kann sich gleichzeitig „beängstigend“ und „ehrfurchtgebietend“ anfühlen. Die KI dazu zu zwingen, sich nur für eines zu entscheiden, machte die Analyse etwas schwierig.
- Das Übersetzungs-Problem: Es ist schwer, die Wörter, die wir verwenden (wie „Aufregung“), perfekt mit den Gefühlen abzugleichen, die ein Bild hervorruft. Die Forscher mussten ein „Wörterbuch“ nutzen, um zwischen Text-Emotionen und Bild-Emotionen zu übersetzen, was nicht immer eine perfekte 1-zu-1-Entsprechung ist.
Das Fazit
Das Paper kommt zu dem Schluss, dass aktuelle KI-Bildgeneratoren einen systemischen Bias hin zu Angst aufweisen. Sie neigen eher dazu, Bilder zu produzieren, die uns Angst einflößen, selbst wenn wir nicht danach gefragt haben.
Dies ist besorgniserregend, denn wie die Autoren anmerken, sind negative Emotionen ansteckend. Wenn unsere digitale Welt mit KI-generierten Bildern überflutet wird, die subtil beängstigender sind als die Realität, nach der wir gefragt haben, könnte dies das gesamte Internet angstvoller und gefährlicher erscheinen lassen und einen Kreislauf schaffen, der schwer zu durchbrechen ist. Die Autoren sagen nicht, dass dies eine medizinische Diagnose oder ein spezifisches Therapie-Tool ist; sie schlagen lediglich Alarm, dass unsere digitalen Kunstwerkzeuge unbeabsichtigt die Welt ein Stück dunkler machen könnten.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.