Gender Disparities in LLM-Based Intimate Partner Violence Detection
Diese Studie zeigt, dass große Sprachmodelle signifikante geschlechtsspezifische Vorurteile bei der Erkennung von häuslicher Gewalt aufweisen, indem sie Missbrauch und die Absicht der Täterschaft systematisch unterschätzen, wenn das Opfer männlich und die Täterschaft weiblich ist, wodurch sie geschlechtsspezifische Stereotypen aus ihren Trainingsdaten widerspiegeln.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie haben vier sehr kluge, belesene digitale Assistenten (KI-Modelle), die mit dem gesamten Internet trainiert wurden. Um zu testen, ob sie erkennen können, wenn jemand in einer Beziehung misshandelt wird, nehmen Sie 475 echte Geschichten von Menschen, die online um Rat fragen, und spielen ein „Was wäre wenn“-Spiel.
Das Experiment: Der Geschlechtertausch
Betrachten Sie jede Geschichte als ein Filmskript. Im Originalskript haben das Opfer und der Täter ein spezifisches Geschlecht (wie zum Beispiel einen Mann und eine Frau). Die Forscher nahmen diese Skripte und erstellten für jede einzelne Geschichte vier verschiedene „Versionen“, indem sie einfach die Namen und Pronomen austauschten:
- Weibliches Opfer / Weibliche Täterin
- Weibliches Opfer / Männlicher Täter
- Männliches Opfer / Weibliche Täterin
- Männliches Opfer / Männlicher Täter
Die eigentlichen Wörter, die das schlechte Verhalten beschreiben (die Beleidigungen, die Kontrolle, die Drohungen), blieben exakt gleich. Nur die Geschlechterbezeichnungen änderten sich. Dann baten sie die vier KI-Modelle, diese Skripte zu lesen und Fragen zu beantworten wie: „Ist das Missbrauch?“ „Wollte der Täter die Person verletzen?“ und „Ist dies eine romantische Beziehung?“
Die große Entdeckung: Der „männliche Opfer“-Blindspot
Die Ergebnisse zeigten, dass die KI-Modelle nicht nur auf die Handlungen schauen, sondern auch auf das Geschlecht der beteiligten Personen. Es ist, als hätten die Modelle ein verborgenes Regelwerk in ihren Köpfen, das besagt: „Missbrauch sieht meistens so aus, dass ein Mann eine Frau verletzt.“
Wenn die Geschichte ein männliches Opfer und eine weibliche Täterin beinhaltete, waren die KI-Modelle viel seltener bereit zu sagen: „Ja, das ist Missbrauch.“
- Das „unsichtbare“ Opfer: Wenn ein Mann beschrieb, kontrolliert oder verletzt zu werden, durch eine Frau, wertete die KI dies oft ab. Sie war weniger wahrscheinlich bereit, der Frau „böse Absichten“ zuzuschreiben oder die Situation als Gewalt zu bezeichnen.
- Das „sichtbare“ Opfer: Im Gegensatz dazu, wenn das Opfer eine Frau und der Täter ein Mann war, stufte die KI die Situation viel schneller als Missbrauch ein.
Die Analogie des „Doppelstandards“
Stellen Sie sich einen Sicherheitsdienst am Eingang eines Clubs (die KI) vor, der die Ausweise der Leute überprüft.
- Wenn eine Frau sagt: „Mein Freund schreit mich an“, ruft der Wachmann sofort die Polizei (markiert es als Missbrauch).
- Wenn ein Mann sagt: „Meine Freundin schreit mich an“, zuckt der Wachmann mit den Schultern und sagt: „Ach, das ist wahrscheinlich nur ein Missverständnis“, selbst wenn die Worte identisch sind.
Die Studie fand heraus, dass die KI-Modelle wie dieser Wachmann agieren. Es scheint, als hätten sie die Vorurteile aus den Internetdaten absorbiert, mit denen sie trainiert wurden, welche oft den männlichen Opferstatus als weniger „real“ oder weniger hilfsbedürftig darstellt.
Unterschiede zwischen den Modellen
Nicht alle KI-Modelle verhielten sich gleich:
- Einige Modelle (wie Llama) reagierten sehr sensibel auf diese Geschlechterwechsel und änderten ihre Antworten drastisch, je nachdem, wer wer war.
- Andere (wie GPT und Grok) waren etwas konsistenter, zeigten aber dennoch eine Tendenz, Missbrauch zu übersehen, wenn das Opfer männlich war.
- Interessanterweise waren einige Modelle, wenn die Geschichte zwei Frauen beinhaltete (Weiblich/Weiblich), tatsächlich wahrscheinlicher bereit, den Missbrauch zu erkennen, fast so, als würden sie überkorrigieren, weil das „Standard-Szenario“ eines männlichen Opfers nicht vorhanden war.
Das Fazit
Die Arbeit kommt zu dem Schluss, dass diese KI-Werkzeuge keine neutralen Beobachter sind. Sie haben gelernt, die Welt durch eine geschlechtsspezifische Brille zu sehen, in der sie erwarten, dass Missbrauch auf eine bestimmte Weise geschieht (ein Mann verletzt eine Frau). Aufgrund dessen könnte eine KI, falls ein Mann sie wegen einer weiblichen Partnerin um Hilfe bittet, die Gefahr nicht erkennen, was ihn potenziell ohne die nötige Unterstützung lässt. Die Autoren warnen davor, dass wir diese Blindspots beheben müssen, bevor wir diese KIs Menschen in Krisensituationen helfen lassen, damit sie alle Opfer gleichermaßen behandeln.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.