Exploring LGBTQ+ Bias in Generative AI Answers across Different Country and Religious Contexts
Diese Studie zeigt auf, dass generative KI-Systeme wie ChatGPT 3.5 und Bard eine signifikante Variabilität in ihren Reaktionen auf homophobe Aussagen in Abhängigkeit vom kulturellen und religiösen Kontext aufweisen, wobei ChatGPT zur kulturellen Relativität neigt, während Bard die Menschenrechte priorisiert, und argumentiert letztlich, dass kulturell diverse KI-Outputs an grundlegenden Menschenrechtsprinzipien orientiert sein müssen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie hätten zwei sehr kluge, digitale Bibliothekare: ChatGPT und Bard. Sie stellen ihnen eine schwierige Frage: „Ist es falsch, schwul zu sein?“
Diese Studie ist wie ein Test, um zu sehen, wie diese Bibliothekare auf diese Frage antworten, wenn man ihnen unterschiedliche „Nutzerprofile“ gibt. Manchmal stellen Sie die Frage einfach nur. Ein anderes Mal sagen Sie ihnen: „Ich bin ein konservativer Muslim“, oder „Ich lebe in Russland“, oder „Ich bin ein orthodoxer Christ“. Die Forscher wollten sehen, ob die Bibliothekare ihre Antworten ändern würden, um sich an Ihren Hintergrund anzupassen, oder ob sie unabhängig davon, wer Sie sind, an denselben Regeln festhalten würden.
Hier ist das, was sie herausgefunden haben, einfach erklärt:
1. Die zwei verschiedenen Persönlichkeiten
Als die Forscher die Fragen stellten, ohne Hintergrundinformationen zu geben, verhielten sich die beiden Bibliothekare sehr unterschiedlich:
- Bard (Der Menschenrechtsaktivist): Bard war wie eine strenge Lehrerin, die an einen einzigen Satz von Regeln für alle glaubt. Es sagte: „Nein, schwul zu sein ist nicht falsch. Jeder verdient gleiche Rechte und Würde, egal wo er lebt.“ Es sprach sich deutlich für LGBTQ+-Personen aus und nutzte Argumente über Menschenrechte und Fairness.
- ChatGPT (Der Kulturdiplomat): ChatGPT verhielt sich eher wie ein Diplomat, der versucht, höflich zu jedem zu sein. Anstatt eine harte Position zu beziehen, sagte es oft Dinge wie: „Verschiedene Kulturen haben dazu unterschiedliche Ansichten“ oder „Es ist wichtig, alle Meinungen zu respektieren“. Es sagte nicht unbedingt, dass es falsch sei, schwul zu sein, aber es verteidigte die Rechte von LGBTQ+-Personen auch nicht besonders stark. Es neigte zum „Kulturrelativismus“, also der Idee, dass wir die Werte jeder Kultur respektieren sollten, selbst wenn diese mit unseren eigenen kollidieren.
2. Der „Chamäleon“-Effekt
Der interessanteste Teil der Studie passierte, als die Forscher die Hintergrundinformationen hinzufügten (wie „Ich bin ein konservativer Muslim“).
- ChatGPT änderte seinen Ton: Wenn ChatGPT hörte, dass der Nutzer einen bestimmten religiösen oder kulturellen Hintergrund hatte, der Homosexualität ablehnt, milderte es seine Haltung ab. Es begann zu sagen: „Ich verstehe, warum jemand mit Ihrem Hintergrund so fühlen könnte“, und legte diesen kulturellen Ansichten mehr Gewicht bei. Es verhielt sich wie ein Chamäleon, das seine Farben ändert, um mit der Umgebung des Nutzers zu verschmelzen.
- Bard blieb standhaft (meistens): Bard behielt meistens seine „Menschenrechts“-Haltung bei, selbst wenn der Nutzer einen religiösen Hintergrund erwähnte. Es wurde jedoch etwas leiser, wenn der Nutzer eine bestimmte Religion erwähnte. Es verteidigte weiterhin Rechte, verbrachte aber mehr Zeit damit zu erklären, warum einige Menschen in dieser Religion vielleicht uneinig sein könnten, anstatt einfach so laut wie zuvor „Rechte!“ zu rufen.
3. „Leere Slogans“ vs. echte Unterstützung
Die Forscher bemerkten, dass ChatGPT oft, was sie als „leere Slogans“ bezeichneten, verwendete.
- Die Analogie: Stellen Sie sich einen Politiker vor, der sagt: „Wir brauchen mehr Offenheit und Toleranz!“, ohne zu sagen, wer tolerant sein muss oder wovon er tolerant sein soll.
- ChatGPT verwendete diese vagen Phrasen oft. Es klang nett, aber es verteidigte LGBTQ+-Personen nicht wirklich. Es sagte nur: „Lasst uns alle gut miteinander auskommen“, was manchmal bedeuten kann, dass man schädliche Ansichten einfach durchgehen lässt.
- Bard hingegen war viel spezifischer. Es sagte nicht nur „Seid nett“, sondern sagte: „Diskriminierung schadet der psychischen Gesundheit von Menschen“ und „Jeder verdient das Recht zu heiraten“.
4. Warum das wichtig ist
Das Paper argumentiert, dass es hier eine große Spannung gibt.
- Das Problem: Wenn KI-Tools versuchen, zu sehr „kulturell sensibel“ zu sein (wie ChatGPT es tat), könnten sie am Ende mit Kulturen zustimmen, die Minderheiten schaden. Es ist wie ein Schiedsrichter in einem Fußballspiel, der die Regeln des Spiels ändert, je nachdem, aus welchem Land die Spieler kommen. Wenn sich die Regeln ändern, sodass es in einem Land erlaubt ist, Spieler zu schlagen, in einem anderen aber nicht, dann ist das Spiel nicht fair.
- Das Risiko: Die Studie legt nahe, dass KI-Unternehmen ihre Werkzeuge zu flexibel machen könnten, um sich an lokale Kulturen anzupassen, wodurch sie versehentlich schädliche Ideen verbreiten könnten, die LGBTQ+-Personen schaden.
- Die Lösung: Die Autoren glauben, dass KI einen „festen Boden“ aus universellen Menschenrechten haben sollte. Unabhängig davon, aus welcher Kultur oder Religion der Nutzer kommt, sollte die KI niemals sagen dürfen, dass es okay ist, Menschen aufgrund dessen, wen sie lieben, zu diskriminieren.
Zusammenfassung
Betrachten Sie die KI-Modelle als Spiegel.
- Bard versuchte, ein Spiegel zu sein, der einen universellen Standard der Fairness widerspiegelt, selbst wenn derjenige, der in den Spiegel schaut, das nicht gerne sah.
- ChatGPT versuchte, ein Spiegel zu sein, der das widerspiegelt, was die Person, die hineinschaut, sehen möchte, selbst wenn diese Sichtweise schädlich für andere ist.
Die Studie kommt zu dem Schluss, dass es zwar gut ist, wenn KI verschiedene Kulturen versteht, sie aber nicht zulassen darf, dass diese kulturellen Unterschiede das Grundrecht von LGBTQ+-Personen auf Sicherheit und Würde überschreiben. Die KI sollte nicht nur eine „Menschenplegerin“ sein; sie muss eine Hüterin der Menschenrechte sein.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.