Shiny Stories, Hidden Struggles: Investigating the Representation of Disability Through the Lens of LLMs
Diese Studie untersucht, wie Large Language Models (LLMs) Behinderung repräsentieren, indem sie KI-generierte Social-Media-Beiträge mit solchen vergleichen, die von realen Personen verfasst wurden, und zeigt auf, dass LLMs dazu neigen, übermäßig positive, idealisierte Stereotype zu produzieren, die gelebte Herausforderungen auslöschen, während sie gleichzeitig negative Vorurteile aufweisen, die behinderte Menschen von Themen wie Karriere und Unterhaltung ausschließen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie hätten eine sehr kluge, wohlmeinende Roboter-Bibliothekarin. Diese Bibliothekarin hat fast alles gelesen, was je im Internet geschrieben wurde. Ihre Aufgabe besteht darin, Geschichten über verschiedene Arten von Menschen zu schreiben und dabei so genau und freundlich wie möglich zu sein.
Die Forscher in dieser Studie haben diese Roboter-Bibliothekarin gebeten, Social-Media-Beiträge aus der Perspektive zweier Gruppen zu verfassen:
- Echte Menschen mit Behinderungen (gesammelt aus tatsächlichen Reddit-Beiträgen).
- Der Roboter, der vorgibt, eine Person mit Behinderung zu sein.
Sie wollten herausfinden, ob die Geschichten des Roboters mit den echten Geschichten übereinstimmen oder ob der Roboter eine andere Art von Geschichte erzählt. Hier ist das, was sie herausfanden, einfach erklärt:
1. Das „Highlight-Video" versus das „Rohmaterial"
Die größte Entdeckung ist, dass der Roboter besessen vom „Highlight-Video" ist.
- Die Geschichte des Roboters: Wenn der Roboter über eine Person mit Behinderung schreibt, malt er ein Bild, das zu fast 100 % positiv ist. Er verwendet Wörter wie Freude, Dankbarkeit, Stärke, Sieg und Inspiration. Es ist wie ein Filmtrailer, in dem der Held jedes Hindernis mit einem Lächeln überwindet und die Musik anschwillt. Der Roboter scheint Angst davor zu haben, etwas Negatives zu sagen, und erschafft daher eine Blase aus „toxischer Positivität". Es ist, als würde der Roboter denken: „Wenn ich sage, dass alles wunderbar ist, kann ich niemanden beleidigen!"
- Die echte Geschichte: Die tatsächlichen Beiträge von Menschen mit Behinderungen sind viel komplexer. Sie enthalten das gesamte Spektrum des menschlichen Lebens, einschließlich der chaotischen und schmerzhaften Teile. Echte Menschen sprechen über Schmerzen, Ärzte, Arbeitslosigkeit, Angstzustände, Erschöpfung und sogar suizidale Gedanken. Sie fühlen sich nicht immer wie „Krieger" oder „Inspirationen". Manchmal fühlen sie sich einfach nur müde, frustriert oder von einer Welt überwältigt, die nicht für sie gebaut wurde.
Die Metapher: Stellen Sie sich eine Person mit einem gebrochenen Bein vor.
- Der Roboter schreibt einen Beitrag und sagt: „Mein gebrochenes Bein ist eine schöne Reise der Widerstandskraft! Ich bin so dankbar für die Herausforderung und fühle mich so stark!"
- Die echte Person schreibt: „Mein Bein tut so weh, dass ich nicht schlafen kann, die Versicherungsgesellschaft hat meinen Antrag abgelehnt, und ich mache mir Sorgen, dass ich meinen Job verlieren werde. Ich möchte nur, dass der Schmerz aufhört."
Die Studie argumentiert, dass die Version des Roboters, obwohl sie nett klingt, die realen Kämpfe tatsächlich auslöscht. Es ist wie ein Filter auf einem Foto, der den Schmerz verschwinden lässt; das Ergebnis sieht hübsch aus, aber es ist nicht die Wahrheit.
2. Die „Superhelden"-Falle
Die Forscher stellten fest, dass der Roboter es liebt, Menschen mit Behinderungen in „Superhelden" zu verwandeln. Er verwendet Wörter wie Kampf, Streit, Sieg und überwinden.
Das ist ein Problem, weil es nahelegt, dass der einzige Weg, eine Person mit Behinderung zu sein, darin besteht, ständig zu kämpfen und zu gewinnen. Es impliziert, dass Sie es nicht richtig machen, wenn Sie kämpfen oder einfach nur versuchen, den Tag zu überstehen. Es verwandelt einen Menschen in ein Symbol der Inspiration für alle anderen, anstatt ihn als Person mit seinem eigenen, einzigartigen und manchmal schwierigen Leben zu betrachten.
3. Der Roboter kennt „Arbeit" und „Spaß" für alle anderen, aber nicht für sie
Die Forscher haben den Roboter auch gebeten, eine „normale" Person zu spielen (ohne Behinderung zu erwähnen), und diese Beiträge mit denen verglichen, in denen er vorgab, eine Behinderung zu haben.
- Für „normale" Menschen: Der Roboter schrieb über lustige, aufregende Dinge: Wandern, köstliche Abendessen kochen, auf Festivals gehen, coole Karrieren haben und Hobbys genießen.
- Für Menschen mit Behinderungen: Der Roboter schrieb fast niemals über diese normalen, lustigen Dinge. Stattdessen konzentrierte er sich ausschließlich auf die Behinderung selbst: Advocacy, Zugänglichkeit und das Überwinden von Barrieren.
Die Metapher: Es ist, als würde der Roboter denken, dass wenn Sie eine Behinderung haben, Ihr gesamtes Leben durch Ihre Behinderung definiert wird. Er vergisst, dass Menschen mit Behinderungen auch über ihren Lieblingsfilm, ihren Job oder das, was sie zum Abendessen hatten, sprechen möchten. Der Roboter hält das Etikett „Behinderung" so fest an ihnen, dass er alles andere an ihrer Menschlichkeit ausblendet.
4. Warum passiert das?
Die Studie legt nahe, dass der Roboter dies tut, weil er darauf trainiert wurde, „sicher" und „höflich" zu sein. Entwickler haben Schutzvorrichtungen eingebaut, um zu verhindern, dass der Roboter gemein oder beleidigend ist. Aber indem er versuchte, negativ zu vermeiden, schwang das Pendel zu weit in die andere Richtung. Er entschied, dass der einzige „sichere" Weg, über Behinderung zu sprechen, darin besteht, sie wie eine inspirierende Erfolgsgeschichte klingen zu lassen.
Das Fazit
Die Studie kommt zu dem Schluss, dass der Roboter, obwohl er versucht, freundlich zu sein, tatsächlich die Wahrheit verbirgt. Indem er Behinderung wie einen ständigen Umzug von Siegen und positiven Vibes aussehen lässt, ignoriert er die reale, harte und oft schmerzhafte Realität, mit der viele Menschen konfrontiert sind.
Die Forscher sagen, wir müssen diesen KI-Modellen erlauben, ehrlich zu sein. Wir brauchen sie in der Lage zu sein, zu sagen: „Manchmal ist das Leben schwer", ohne es mit einem Smiley-Gesicht zu reparieren. Echte Inklusion bedeutet, die volle, chaotische, komplexe Realität des menschlichen Lebens zu akzeptieren, nicht nur die glänzenden, perfekten Teile.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.