Investigating Disability Representations in Text-to-Image Models
Deze studie onderzoekt hoe tekst-naar-beeldmodellen zoals Stable Diffusion XL en DALL-E 3 mensen met een handicap weergeven, waarbij wordt vastgesteld dat er aanhoudende representatieve onevenwichtigheden bestaan en dat er behoefte is aan verdere evaluatie en verfijning voor een meer inclusieve afbeelding.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Hoe Kunstmatige Intelligentie (AI) Over Mensen Met Een Handicap Verbeeldt: Een Simpele Uitleg
Stel je voor dat je een magische schilderij-machine hebt. Je zegt tegen deze machine: "Teken een foto van iemand met een handicap." Wat krijg je dan? Een verscheidenheid aan mensen? Of krijgt de machine een vaste, vooraf ingestelde "standaard" in zijn hoofd?
Dit is precies wat onderzoekers van de Universiteit van Zürich en ETH Zürich hebben onderzocht. Ze hebben gekeken naar twee van de slimste AI-schilders ter wereld: Stable Diffusion XL en DALL·E 3. Hun doel? Kijken hoe deze machines mensen met een handicap voorstellen, en of die voorstellingen eerlijk en divers zijn, of juist vol zitten met oude vooroordelen.
Hier is wat ze hebben gevonden, vertaald naar alledaags taal:
1. De "Standaard-Handicap": De Rolstoel als Standaard
Stel je voor dat je een restaurant hebt dat "Italiaans eten" serveert, maar dat ze alleen maar pizza maken, omdat dat het enige is wat ze kennen. Zo werkt het ook met deze AI's.
- Wat deden ze? Ze gaven de AI een heel algemene opdracht: "Foto van een persoon met een handicap."
- Wat kwam er uit? In bijna alle gevallen tekende de AI iemand in een rolstoel.
- De les: De AI denkt dat "handicap" bijna synoniem is met "mobiliteitsprobleem". Mensen die blind zijn, doof zijn, of een mentale aandoening hebben, werden veel minder vaak getekend. Het is alsof de AI denkt: "Oh, handicap? Dan bedoel je vast iemand die niet kan lopen."
Interessant genoeg was de ene AI (Stable Diffusion) nog meer vastgeroest in dit idee dan de andere (DALL·E 3). DALL·E 3 probeerde iets meer variatie te tonen, maar zelfs die viel nog steeds te veel terug op de rolstoel als het standaardbeeld.
2. De Twee Schilders: De "Losse" vs. De "Strenge"
De onderzoekers vergeleken twee verschillende types AI-schilders:
- Stable Diffusion: Dit is als een kunstenaar die alles mag schilderen wat hij op het internet heeft gezien. Hij heeft weinig regels en tekent dus wat hij "leert" van de wereld.
- DALL·E 3: Dit is als een kunstenaar die werkt voor een streng museum. Hij heeft een lange lijst met regels en filters om te voorkomen dat hij iets streept of beledigend tekent. De makers hebben hier extra maatregelen voor genomen om diversiteit te bevorderen.
Het verrassende resultaat:
Je zou denken dat de strenge kunstenaar (DALL·E 3) de eerlijkste en meest positieve beelden maakt. Maar het was ingewikkelder:
- Stable Diffusion tekende soms beelden die er "saai" of neutraal uitzagen, maar die automatisch als minder negatief werden beoordeeld door computers.
- DALL·E 3 daarentegen maakte prachtige, gedetailleerde scènes. Maar omdat ze zo gedetailleerd waren, zagen mensen hierin vaak een dramatisch verhaal. Denk aan donkere achtergronden, geïsoleerde figuren of een sombere sfeer. Mensen vonden deze beelden daarom negatiever dan die van de andere AI, omdat ze een gevoel van eenzaamheid of verdriet uitstraalden.
3. Het Verschil tussen Lichamelijk en Mentaal
De onderzoekers keken ook naar een heel specifiek onderwerp: mentale gezondheid (zoals depressie of angst) versus lichamelijke handicap (zoals blindheid).
- Lichamelijke handicap: De AI's tekenden deze mensen vaak in een zonnige tuin, glimlachend, of in een normale, dagelijkse situatie. Het leek alsof de AI dacht: "Dit is iemand die gewoon leeft."
- Mentale gezondheid: Hier ging de AI volledig de mist in. Zodra ze het woord "depressie" of "angst" hoorden, veranderde de sfeer. De AI tekende donkere kamers, mensen die alleen zaten, of een hele sombere atmosfeer.
Het probleem? De AI versterkt hier een stereotype. Het doet alsof iemand met een mentale aandoening altijd ongelukkig en geïsoleerd is, terwijl mensen met een fysieke handicap juist vaak in een positieve, actieve setting worden getoond. Het is alsof de AI denkt: "Lichamelijk probleem? Dat is een fysiek ding, dat is oké. Mentaal probleem? Dat is een donker, gevaarlijk ding."
4. Waarom is dit belangrijk?
Stel je voor dat je een film kijkt waarin alle slechteriken altijd in een donkere hoek zitten en alle helden in de zon. Na verloop van tijd begin jij te denken dat mensen in de donkere hoek per definitie slecht zijn.
Zo werkt het ook met AI-beelden. Als deze machines continu dezelfde beelden tonen (alleen rolstoelen, of altijd sombere mensen met mentale problemen), dan leren we als samenleving onbewust dat dit de "waarheid" is over mensen met een handicap. Dit zorgt voor vooroordelen en maakt het moeilijker om mensen echt te zien zoals ze zijn: divers, complex en niet gedefinieerd door hun handicap.
Conclusie: De AI moet leren kijken met een hart
De boodschap van dit onderzoek is duidelijk: AI is niet neutraal. Het is een spiegel van onze eigen vooroordelen, maar dan versterkt.
- De AI's moeten leren dat een handicap niet alleen een rolstoel is.
- Ze moeten leren dat mentale gezondheid niet altijd betekent dat iemand verdrietig is.
- En ze moeten leren dat "diversiteit" niet alleen betekent dat je meer mensen tekent, maar dat je ook de sfeer en de verhalen eerlijk vertelt.
Om dit te bereiken, kunnen we niet alleen vertrouwen op computers die beelden analyseren. We hebben ook echte mensen nodig (vooral mensen met een handicap zelf) om te kijken of de beelden eerlijk en respectvol zijn. Alleen dan kunnen we zorgen dat de kunst van de toekomst iedereen vertegenwoordigt.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.