Queer NLP: A Critical Survey on Literature Gaps, Biases and Trends

Diese kritische Übersichtsarbeit analysiert die aktuelle Forschung zur Beziehung zwischen LGBTQIA+-Gemeinschaften und NLP-Technologien, identifiziert bestehende Lücken und Verzerrungen sowie einen überwiegend reaktiven Forschungsansatz und fordert als Aufruf zum Handeln eine proaktivere, intersektionale und inklusivere Entwicklung gerechterer NLP-Systeme.

Das Wesentliche

🌈 Der Spiegel, der nicht alles zeigt: Ein Blick auf KI und queere Menschen

Stell dir vor, du hast einen riesigen, magischen Spiegel, der alles, was du sagst, versteht, übersetzt und sogar für dich weiterschreibt. Das ist die KI-Sprachtechnologie (NLP). Sie hilft uns bei Jobsuche, im Krankenhaus oder im Gericht. Aber dieser Spiegel hat ein Problem: Er wurde von Leuten gebaut, die oft nicht genau hinschauen, wer wirklich vor ihm steht.

Dieses Papier ist wie ein großer Check-up für diesen Spiegel. Die Autoren haben sich alle wissenschaftlichen Arbeiten angesehen, die sich mit dem Thema „Queer" (also Menschen, die nicht nur heterosexuell oder cisgeschlechtlich sind) und KI beschäftigen. Sie wollten herausfinden: Ist der Spiegel fair? Wo sind die Risse? Und wie machen wir ihn besser?

Hier ist, was sie gefunden haben, übersetzt in einfache Bilder:

1. Das Problem: Der Spiegel ist noch zu starr

Die Forscher haben gesehen, dass die KI oft wie ein steifer, alter Lehrer ist, der nur zwei Farben kennt: Schwarz und Weiß (Mann und Frau, hetero und nicht-hetero).

• Verwechslungen: Wenn ein queerer Mensch sagt „Mein Partner", denkt die KI oft sofort an das falsche Geschlecht.
• Falsche Alarme: Wenn jemand das Wort „queer" oder „gay" benutzt, schreit die KI manchmal: „Achtung! Das ist beleidigend!" – dabei war es nur ein harmloses Wort.
• Unsichtbarkeit: Viele queere Menschen werden im Spiegel gar nicht erst gesehen. Die KI weiß nicht, wie sie mit ihnen umgehen soll, also ignoriert sie sie oder macht Fehler.

2. Die aktuelle Forschung: Meckern statt Bauen

Die Autoren haben 86 wissenschaftliche Arbeiten untersucht. Das Ergebnis ist etwas enttäuschend, aber ehrlich:

• Reaktiv statt Proaktiv: Die Forscher warten meistens, bis die KI einen Fehler macht, und dann rufen sie: „Oh nein, da ist ein Vorurteil!" (Reaktiv). Sie bauen aber selten neue, faire KIs von Grund auf (Proaktiv).
• Die „Englisch-Blase": Fast alle Arbeiten schauen nur auf die englische Sprache. Das ist, als würde man versuchen, die ganze Welt durch eine Brille zu sehen, die nur für London gemacht wurde. Andere Sprachen (wie Deutsch, Spanisch oder Hindi) werden kaum beachtet.
• Fehlende Gäste: Die Menschen, die eigentlich betroffen sind (queere Communities), sitzen selten am Tisch, wenn die KI gebaut wird. Es ist, als würde ein Architekt ein Haus für Rollstuhlfahrer bauen, ohne jemals einen Rollstuhlfahrer gefragt zu haben.

3. Wo liegen die Lücken? (Die „Blindstellen")

Das Papier zeigt drei große Löcher in der aktuellen Forschung:

• Keine echte Beteiligung: Die KI wird nicht mit der Community entwickelt, sondern nur über sie.
• Keine Überschneidungen: Die KI schaut oft nur auf das Geschlecht. Aber was ist mit jemandem, der gleichzeitig queer, schwarz und arm ist? Die KI versteht diese komplexen Mischungen (Intersektionalität) oft nicht.
• Nur Englisch: Die Welt ist bunt, aber die KI-Forschung ist fast nur weiß und englischsprachig.

4. Der Weg nach vorne: Ein neuer Bauplan

Die Autoren geben keine trockene Liste von Aufgaben, sondern rufen zu einer Revolution im Denken auf:

• Hört zu, statt zu raten: Wir müssen queere Menschen direkt in den Entwicklungsprozess einbeziehen. Sie sind die Experten für ihr eigenes Leben.
• Flexibilität statt starre Kategorien: Queere Identitäten sind wie Wasser – sie fließen und verändern sich. KI-Systeme müssen so flexibel sein, dass sie nicht versuchen, alles in feste Schubladen zu stecken.
• Das Recht auf „Nein": Manchmal wollen queere Menschen gar nicht kategorisiert werden. Eine faire KI sollte auch verstehen können, wenn jemand sagt: „Ich möchte nicht gemessen oder eingeteilt werden."

🚀 Das Fazit

Dieses Papier ist mehr als nur eine Zusammenfassung; es ist ein Aufruf zum Handeln.

Stell dir vor, wir bauen ein neues Stadtviertel für alle Menschen. Bisher haben wir nur Häuser für eine bestimmte Gruppe gebaut und hoffen, dass die anderen sich anpassen. Dieses Papier sagt: Halt! Wir müssen das ganze Viertel neu planen. Wir brauchen Architekten aus der Community, wir brauchen Materialien aus der ganzen Welt (andere Sprachen) und wir müssen sicherstellen, dass niemand ausgeschlossen wird.

Es ist ein Versprechen: Wir können KI so bauen, dass sie nicht nur „funktioniert", sondern dass sie gerecht und einladend für alle ist – besonders für diejenigen, die bisher oft im Schatten standen.

Technische Zusammenfassung

Hier ist eine detaillierte technische Zusammenfassung des Papers „Queer NLP: A Critical Survey on Literature Gaps, Biases and Trends" auf Deutsch:

Problemstellung

Natural Language Processing (NLP)-Technologien werden zunehmend in kritischen Bereichen wie Personalwesen, Recht und Gesundheitswesen eingesetzt. Da diese Systeme auf großen, oft uncuratierten Textkorpora trainiert werden, neigen sie dazu, soziale Vorurteile zu reproduzieren. Für die LGBTQIA+-Community manifestieren sich diese Verzerrungen in Form von Auslöschung (Erasure), Stereotypisierung, Fehlgenderung (Misgendering), Hassrede und Unterrepräsentation.

Bisherige Arbeiten haben sich zwar allgemein mit Bias in NLP befasst, doch fehlt eine systematische Übersicht, die sich spezifisch auf die Beziehung zwischen queerer Identität und NLP-Technologien konzentriert. Es ist unklar, wie der aktuelle Forschungsstand aussieht, welche methodischen Lücken bestehen und ob die Forschung proaktiv Lösungen entwickelt oder nur reaktiv auf Probleme reagiert.

Methodik

Die Autoren führten eine systematische Literaturrecherche durch, um den aktuellen Stand des „Queer NLP" zu erfassen:

• Datenerhebung: Es wurden alle relevanten Papers aus dem ACL Anthology (der führenden Datenbank für NLP-Forschung) identifiziert.
• Suchkriterien: Die Suche basierte auf einer Liste von Schlüsselwörtern (z. B. „queer", „lgbt*", „transgender", „non-binary").
• Filterprozess: Nach manueller Sichtung und Erweiterung durch Expertenwissen und weitere Suchmaschinen (z. B. Semantic Scholar) sowie Einbeziehung von Papers der ACL 2025-Konferenz, die nach der initialen Suche veröffentlicht wurden, wurde ein Endkorpus von 86 Papers erstellt.
• Annotation: Jedes Paper wurde entlang mehrerer Achsen annotiert:
  • NLP-Aufgabe (z. B. Textklassifizierung, Übersetzung).
  • Betroffene queere Gruppen und spezifische Schäden (Harms).
  • Motivation und Methodik.
  • Sprachliche Diversität (welche Sprachen werden behandelt?).
  • Einbeziehung von Intersektionalität (Schnittstellen von Diskriminierung).
  • Einbeziehung von Stakeholdern (Mitglieder der Community in der Entwicklung/Evaluation).
• Zuverlässigkeit: Die Annotation wurde durch eine Stichprobe mit zwei Annotatoren validiert, wobei eine hohe Übereinstimmung (Cohen's Kappa) erreicht wurde.

Wichtige Ergebnisse und Trends

Die Analyse deckt folgende Haupttrends und Defizite auf:

1. Reaktiver statt proaktiver Ansatz:

   • Der Großteil der Forschung ist reaktiv. Papers identifizieren und dokumentieren Bias häufiger, als sie ihn aktiv mildern oder neue, gerechte Systeme entwerfen.
   • Es herrscht ein „Katzen-und-Maus-Spiel": Modelle werden auf Bias getestet, aber die daraus resultierenden Lösungen werden selten in großem Maßstab operationalisiert.

2. Dominanz der englischen Sprache und westlicher Perspektiven:

   • Sprache: Ca. 76,7 % der untersuchten Papers befassen sich ausschließlich mit Englisch. Andere Sprachen sind stark unterrepräsentiert, wobei die wenigen nicht-englischen Arbeiten oft auf westeuropäische Sprachen (Deutsch, Französisch, Spanisch) beschränkt sind.
   • Kultur: Es fehlt an kultureller Diversität; nicht-westliche Konzepte von Geschlecht und Sexualität (z. B. Hijra in Südasien) werden kaum berücksichtigt.

3. Fehlende Stakeholder-Einbindung:

   • Die meisten Studien nutzen identity-basierte Begriffe oder automatische Metriken als Stellvertreter für Nutzerfeedback.
   • Nur sehr wenige Papers beziehen Mitglieder der LGBTQIA+-Community aktiv in die Entwicklung, Datenerhebung oder Evaluation ein.

4. Mangelnde Intersektionalität:

   • Forschung betrachtet oft Geschlecht oder sexuelle Orientierung isoliert. Die Überschneidung mit anderen Diskriminierungsformen (Rasse, Klasse, Religion) wird selten analysiert, obwohl dies für das Verständnis von Machtstrukturen entscheidend ist.

5. Methodische Einschränkungen:

   • Template-basierte Methoden: Viele Arbeiten nutzen vordefinierte Sätze (Templates), um Bias zu testen. Dies ist zwar effizient, aber künstlich und bildet keine echte Sprachverwendung ab.
   • Datenaugmentierung: Synthetische Daten werden oft genutzt, um Bias zu reduzieren, was jedoch die Anglocentrismus-Problematik verstärkt und keine echten sprachlichen Nuancen einfängt.

6. Spezifische NLP-Bereiche:

   • Sprachmodelle (LLMs): Oft reproduzieren sie Stereotype oder misgenderen Personen.
   • Textklassifizierung: Systeme klassifizieren queere Begriffe (z. B. „gay", „queer") oft fälschlicherweise als toxisch, während echte Hassrede (z. B. von TERFs) oft unentdeckt bleibt.
   • Maschinelle Übersetzung: Schwierigkeiten bei der Übersetzung geschlechtsneutraler Pronomen und Neopronomen.
   • Sprachverarbeitung (Speech): Es gibt kaum Datensätze mit queeren Stimmen; Trans- und Non-Binary-Stimmen werden oft nicht erkannt oder falsch klassifiziert.

Hauptbeiträge

1. Erste systematische Übersicht: Dies ist die erste umfassende Survey, die alle Queer-NLP-Papers im ACL Anthology über verschiedene Aufgaben hinweg analysiert.
2. Identifikation kritischer Lücken: Das Paper hebt die Notwendigkeit hervor, von rein technischer Bias-Messung hin zu partizipativer Forschung (Einbeziehung der Community) und interdisziplinären Ansätzen (Verbindung mit Queer Theory, Soziologie) zu wechseln.
3. Erweiterung des Horizonts: Es zeigt auf, dass der Fokus auf Englisch und westliche Konzepte die Forschung verzerrt und fordert die Berücksichtigung nicht-englischer Konferenzen (z. B. in Brasilien, Spanien, Italien), die oft fortschrittlichere Ansätze für lokale Kontexte verfolgen.
4. Konzeptuelle Kritik: Das Paper kritisiert die starre Kategorisierung von Identitäten in NLP-Systemen und plädiert für eine Anerkennung der Fluidität von Geschlecht und Sexualität, wie sie in der Queer Theory diskutiert wird.

Signifikanz und Ausblick

Dieser Survey ist nicht nur eine Bestandsaufnahme, sondern ein Aufruf zum Handeln (Call to Action). Er fordert die NLP-Community auf:

• Partizipative Aktionsforschung zu betreiben, bei der betroffene Communities als Co-Forscher agieren.
• Intersektionalität als zentrales analytisches Framework zu etablieren.
• Sprachliche Diversität zu fördern und nicht-englische Sprachen sowie nicht-westliche Identitäten aktiv einzubeziehen.
• Systeme zu entwickeln, die nicht nur Schaden minimieren, sondern queere Communities aktiv unterstützen und deren Recht auf „Verweigerung" (Refusal) – also das Recht, nicht kategorisiert oder gemessen zu werden – respektieren.

Das Paper betont, dass gerechte NLP-Systeme nur durch eine Abkehr von cis-heteronormativen Standards und eine Hinwendung zu inklusiven, community-getriebenen Entwicklungsprozessen erreicht werden können.