Queer NLP: A Critical Survey on Literature Gaps, Biases and Trends

Dit artikel biedt een kritisch overzicht van het onderzoek naar queer NLP, waarbij het vaststelt dat de huidige literatuur vooral reageert op bestaande vooroordelen in plaats van proactief nieuwe oplossingen te bieden, en pleit voor meer inclusieve, interdisciplinaire en intersectionele toekomstige studies.

De kern

Titel: Een Spiegel voor de Regenboog: Wat NLP-onderzoek (en de wereld) over Queer-identiteit vergeet

Stel je voor dat Natural Language Processing (NLP) – de technologie die computers laat spreken, schrijven en begrijpen – een enorme, glimmende spiegel is. Deze spiegel wordt gebruikt om alles wat mensen zeggen te analyseren, van sollicitatiebrieven tot medische adviezen. Maar er is een groot probleem: deze spiegel is niet voor iedereen even helder. Voor mensen die queer zijn (LGBTQIA+), is de spiegel vaak vervormd, vol met vlekken, of soms zelfs kapot.

Dit artikel, geschreven door een groot team van onderzoekers (waaronder veel mensen uit de queer-gemeenschap zelf), kijkt kritisch naar alle wetenschappelijke papers die over dit onderwerp zijn gepubliceerd. Ze vragen zich af: Kijken we wel goed in deze spiegel? En als we een fout zien, proberen we hem dan te repareren of alleen maar te wijzen?

Hier is de samenvatting in begrijpelijke taal, met wat creatieve vergelijkingen:

1. Het Grote Probleem: De "Reactieve" Spelers

De onderzoekers ontdekten dat de meeste wetenschappers zich bezighouden met reageren in plaats van voorkomen.

• De Analogie: Stel je voor dat je een huis bouwt. De meeste onderzoekers zijn als mensen die pas komen als het dak al lek is. Ze wijzen met hun vinger: "Kijk, hier loopt het water!" (ze vinden de vooroordelen), maar ze bouwen zelden een nieuw dak of een regenwaterafvoer die het probleem echt oplost.
• De Realiteit: Veel papers zeggen: "AI haat queer mensen." Maar ze doen weinig om AI zo te bouwen dat het queer mensen niet haat. Ze vinden de fouten, maar bouwen geen betere systemen.

2. Wat zien we in de spiegel? (De Trends)

De meeste onderzoekers kijken naar heel specifieke dingen, vaak omdat het makkelijk is om te meten.

• Pronomen en Stereotypen: Er is veel aandacht voor woorden als "hij/zij" en voor stereotypen (bijv. "mannen zijn sterk, vrouwen zijn zacht").
• De "Template"-Methode: Veel onderzoekers gebruiken een soort "vul-in-de-tekst"-spel. Ze zeggen tegen de computer: "De [groep] is..." en vullen dan "gay" of "trans" in om te zien wat de computer zegt.
• Het Nadeel: Dit is als proberen een complex mens te begrijpen door alleen maar te kijken naar hoe ze op een foto staan. Het mist de diepte, de geschiedenis en de echte ervaringen.

3. Wat ontbreekt er? (De Gaten)

Hier wordt het echt interessant. De onderzoekers vinden drie enorme gaten in de wetenschap:

• Geen Mensen aan het Roer (Stakeholders):

  • De Analogie: Stel je voor dat je een auto ontwerpt voor mensen in rolstoelen, maar je vraagt nooit aan mensen in rolstoelen wat ze nodig hebben. Je maakt het alleen op basis van wat jij denkt dat ze nodig hebben.
  • De Realiteit: In bijna alle papers worden queer mensen niet echt betrokken bij het maken van de technologie. Ze worden niet gevraagd: "Hoe willen jullie dat we jullie noemen?" of "Wat voelt als een schending van jullie privacy?"

• Geen Intersectie (De "Kruispunt"-Problematiek):

  • De Analogie: Stel je voor dat je kijkt naar een persoon die zwart, queer en vrouw is. Veel onderzoekers kijken alleen naar het "zwart-zijn" of alleen naar het "queer-zijn". Ze vergeten dat deze persoon een unieke ervaring heeft omdat al die dingen samen spelen.
  • De Realiteit: Onderzoek kijkt vaak te simpel. Ze vergeten dat discriminatie vaak samengesteld is (bijv. racisme + homofobie).

• Alleen Engels, Engels, Engels:

  • De Analogie: Het is alsof je probeert de wereld te begrijpen door alleen naar de kaarten van Nederland te kijken, terwijl de rest van de wereld (Spanje, Brazilië, India) ook bestaat.
  • De Realiteit: Bijna alle onderzoek is in het Engels. De nuances van queer-taal in het Spaans, Hindi of Swahili worden genegeerd. Dit betekent dat technologie die in andere landen wordt gebruikt, vaak niet werkt voor lokale queer-gemeenschappen.

4. De Gevaarlijke Valkuilen

De paper wijst op twee specifieke gevaren:

• De "Valse Alarm"-Problematiek: Computers zien vaak woorden die queer mensen gebruiken (zoals "queer" zelf of bepaalde slang) als "giftig" of "haatdragend", terwijl het voor die gemeenschap juist een woord van trots is. De computer is als een strenge leraar die een grapje als een belediging ziet.
• Het Verborgen Verzet: Veel queer mensen willen juist niet in een hokje worden geplaatst. Ze willen niet dat een computer hun identiteit vastlegt. Maar onze technologie is gemaakt om alles te categoriseren. Dit is een fundamenteel conflict: technologie wil ordenen, queer theorie wil juist de vrijheid om niet te worden gedefinieerd.

5. De Oplossing: Een Nieuwe Bouwstijl

De auteurs roepen de wereld op om de bouwstijl te veranderen.

• Van "Reparatie" naar "Ontwerp": We moeten niet wachten tot de AI fouten maakt en die dan proberen te fixen. We moeten AI van tevoren ontwerpen inclusief queer perspectieven.
• Samenwerken: We moeten queer mensen uitnodigen als medebouwers, niet alleen als testpersonen.
• Meer Talen: We moeten de spiegel ook voor andere talen en culturen helder maken.

Conclusie

Deze paper is een oproep tot actie. Het zegt: "We hebben de problemen gevonden, maar we bouwen nog steeds aan de verkeerde dingen." Om eerlijke technologie te maken, moeten we stoppen met alleen naar de fouten te kijken en beginnen met het bouwen van systemen die de complexe, mooie en diverse werkelijkheid van queer mensen echt respecteren.

Het is tijd om de spiegel niet alleen schoon te maken, maar hem helemaal opnieuw te ontwerpen, zodat hij voor iedereen helder is.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het artikel "Queer NLP: A Critical Survey on Literature Gaps, Biases and Trends" in het Nederlands.

Titel: Queer NLP: A Critical Survey on Literature Gaps, Biases and Trends

Auteurs: Sabine Weber et al. (Queer in AI & diverse academische instellingen)

---

1. Het Probleem

Natural Language Processing (NLP)-technologieën worden steeds meer geïntegreerd in kritieke domeinen zoals werving, gezondheidszorg en juridische systemen. Echter, deze systemen vertonen vaak aanzienlijke vooroordelen (biases) die kwetsbare groepen, en specifiek de LGBTQIA+-gemeenschap, schaden.

De huidige NLP-systemen vertonen problemen zoals:

• Verwarring en verwijdering: Het negeren of verkeerd interpreteren van niet-binaire en transidentiteiten.
• Stigmatisering: Het ten onrechte markeren van neutrale of positieve termen gerelateerd aan queer identiteit als giftig of haatdragend.
• Cisnormativiteit: Systemen die uitgaan van een binair geslachtsmodel (man/vrouw) en heteronormatieve aannames, wat leidt tot "misgendering" (het verkeerd toekennen van geslachtsaanduidingen).
• Reactieve benadering: Onderzoek richt zich vaak op het detecteren van bestaande vooroordelen in plaats van het proactief creëren van inclusieve oplossingen.

---

2. Methodologie

De auteurs hebben een systematisch overzicht (survey) uitgevoerd van de bestaande literatuur binnen het veld van Queer NLP.

• Datacollectie: Ze hebben gebruikgemaakt van de PRISMA-methode om papers te selecteren uit de ACL Anthology (de belangrijkste bron voor NLP-onderzoek).
• Zoekstrategie: Er werd gezocht naar papers met specifieke trefwoorden gerelateerd aan queer identiteit (bijv. queer, lgbt, transgender, non-binary).
• Selectiecriteria: Uit een initiële set van 3.864 resultaten werden na handmatige filtering 86 relevante papers geselecteerd. Papers die alleen verwezen naar queer identiteit als een demografische variabele zonder diepgaande betrokkenheid, werden uitgesloten.
• Annotatieproces: Elke paper werd geannoteerd langs meerdere assen:
  • NLP-taak (bijv. tekstclassificatie, vertaling).
  • Betrokken queer groepen en soorten schade (harm).
  • Gebruikte methoden en motivatie.
  • Kritieke factoren: Inbegrip van stakeholders (gemeenschapsleden), intersektionaliteit (overlapping van onderdrukkingen zoals ras en gender), en taaldiversiteit (niet-Engelse talen).
• Betrouwbaarheid: Er werd een hoge onderlinge betrouwbaarheid (inter-rater reliability) bereikt (90,09% overeenstemming) voor de drie hoofdtrends: stakeholder-betrokkenheid, intersektionaliteit en taaldiversiteit.

---

3. Belangrijkste Resultaten en Trends

A. Onderzoekstrends

• Focus op Pronomen en Stereotypen: Een groot deel van het onderzoek (ca. 30%) richt zich op het gebruik van geslachtsneutrale voornaamwoorden (zoals they/them of neopronomen) en het detecteren van stereotypen in Large Language Models (LLMs).
• Reactive vs. Proactive: De meeste papers zijn reactief. Ze identificeren vooroordelen in bestaande modellen (bijv. via template-based evaluaties) maar bieden zelden schaalbare, proactieve oplossingen of nieuwe systemen die inclusief zijn ontworpen.
• Methoden: Er is een sterke dominantie van template-based methoden (het invullen van zinnen met identiteitslabels om bias te testen) en data-augmentatie (het synthetisch genereren van data). Dit wordt gezien als een product van de huidige mogelijkheden van LLMs, maar mist vaak nuance.

B. Gaten in het Onderzoek (Gaps)

1. Gebrek aan Stakeholder-betrokkenheid: Hoewel papers vaak claimen de gemeenschap te helpen, worden queer mensen zelden betrokken bij het ontwerp, de evaluatie of de ontwikkeling van de systemen. Feedback komt vaak voort uit geautomatiseerde metrieken in plaats van menselijke input.
2. Intersektionaliteit: Onderzoek richt zich bijna uitsluitend op gender en seksualiteit als losstaande categorieën. De complexiteit van overlappende identiteiten (bijv. een zwarte, trans vrouw) en machtsstructuren wordt zelden meegenomen.
3. Taaldiversiteit (Anglocentrisme):
   • 76,7% van de onderzochte papers richt zich op het Engels.
   • Andere talen zijn ondervertegenwoordigd (Duits 17,4%, Italiaans 11,6%, Spaans 10,5%, etc.).
   • Zelfs binnen machine vertaling wordt vaak vertaald van of naar het Engels, wat culturele nuances in andere talen verwaarloost.

C. Specifieke Domeinen

• Tekstclassificatie: Modellen markeren vaak queer termen (zoals "gay" of "queer") ten onrechte als giftig, terwijl ze echte haatdragende taal missen.
• Machine Vertaling: Er zijn grote uitdagingen bij het vertalen van geslachtsneutrale taal naar talen met een strikt geslachtsgrammatica (bijv. Frans of Spaans).
• Spraakherkenning (ASR): Er is zeer weinig data beschikbaar voor queer stemmen. Bestaande systemen zijn getraind op cisgender stemmen en falen vaak bij trans en non-binaire sprekers.
• Chatbots: Toepassingen in de gezondheidszorg tonen vaak onvolledige of onbetrouwbare informatie over geslachtsbevestigende zorg.

---

4. Belangrijkste Bijdragen

1. Eerste Systematische Survey: Dit is het eerste werk dat alle Queer NLP-papers binnen de ACL Anthology systematisch analyseert over diverse NLP-taken heen.
2. Kritische Analyse van Methodologie: Het artikel identificeert dat de huidige "post-hoc" aanpak (bias detecteren en daarna proberen te corrigeren) ontoereikend is. Het pleit voor een verschuiving naar proactief, gemeenschapsgeleid ontwerp.
3. Uitbreiding van het Onderzoeksveld: Door ook niet-ACL conferenties en niet-Engelse initiatieven (zoals workshops in Brazilië, Italië en Spanje) te bespreken, toont het aan dat er buiten het Engelstalige domein al innovatief werk wordt gedaan (bijv. detectie van "hope speech" in het Spaans).
4. Theoretisch Kader: Het integreert Queer Theory in NLP, waarbij wordt betoogd dat identiteitscategorisering in AI fundamenteel problematisch kan zijn omdat het de vloeibaarheid van queer identiteit negeert.

---

5. Betekenis en Toekomstperspectief

Deze survey fungeert als een oproep tot actie voor de NLP-gemeenschap. De auteurs concluderen dat:

• Inclusie niet genoeg is: Het toevoegen van meer data of het verwijderen van scheldwoorden is niet voldoende als de onderliggende structuren van het systeem (die uitgaan van binair en cisnormatief denken) niet worden veranderd.
• Participatief Onderzoek: Toekomstig werk moet queer gemeenschappen actieve partners maken in het onderzoek (Participatory Action Research), van dataverzameling tot evaluatie.
• Interdisciplinariteit: NLP moet nauwer samenwerken met sociologie, genderstudies en queer theory om de complexiteit van sociale macht en identiteit te begrijpen.
• Recht op Weigering: Het artikel introduceert het concept van "refusal" (weigering) als een legitieme queer methode: het recht om niet te worden gecategoriseerd of gemeten door systemen die inherent discriminerend zijn.

Conclusie: Het veld van Queer NLP groeit, maar zit vast in een reactieve cyclus van bias-detectie. Om echt rechtvaardige en inclusieve technologie te bouwen, moet de focus verschuiven van het "fixen" van bestaande modellen naar het co-creëren van systemen met en voor de gemeenschappen die ze dienen, met aandacht voor intersektionaliteit en wereldwijde taaldiversiteit.