"It became a self-fulfilling prophecy": How Lived Experiences are Entangled with AI Predictions in Menstrual Cycle Tracking Apps
Door middel van interviews en auto-ethnografie onthult dit artikel hoe gebruikers van menstruele cyclus-trackingapps vaak gebrekkige AI-voorspellingen internaliseren als zelfvervullende profetieën, een proces dat wordt verergerd door interfaces die ontbreken aan instrumenten voor kritische betrokkenheid en bijdragen aan de isolatie van niet-normatieve gebruikers.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Het Grote Geheel: De "Digitale Orakel"
Stel je een kristallen bol voor (de App) die je precies vertelt hoe je je morgen zult voelen. Het zegt: "Je zult verdrietig zijn" of "Je krijgt een hoofdpijn."
Dit artikel onderzoekt wat er gebeurt wanneer echte vrouwen deze kristallen bollen (Menstruatiecyclus-tracking-apps zoals Flo, Clue en Stardust) gaan gebruiken die Kunstmatige Intelligentie (AI) gebruiken om hun stemmingen en symptomen te voorspellen. De onderzoekers ontdekten dat de relatie tussen de vrouw en de app niet zomaar "gebruiker en gereedschap" is. In plaats daarvan zijn ze verweven – zoals twee ranken die zo strak om elkaar heen groeien dat je niet kunt zien waar de ene eindigt en de andere begint.
De app voorspelt niet alleen je leven; het begint je realiteit te vormgeven.
De Tweeledige Studie
De onderzoekers keken niet alleen naar code; ze spraken met echte mensen en leefden de ervaring zelf.
- De Interviews (Gesprekken met 14 Vrouwen): Ze spraken met vrouwen die deze apps gebruiken.
- De Auto-ethnografie (De Onderzoekers Leven Het): De vier auteurs van het artikel (met verschillende lichaamstypes: reguliere cycli, onregelmatige cycli door PCOS, perimenopauze en menopauze) gebruikten de apps zelf gedurende 8 weken om te zien hoe het zich van binnenuit aanvoelde.
Belangrijkste Bevinding #1: De "Zelfvervullende Voorspelling"
De Analogie: Stel je een weersvoorspelling voor die zegt: "Het gaat vandaag regenen." Vanwege de voorspelling pak je een paraplu. Dan voel je een klein druppeltje op je hoofd. Je denkt: "Zie je wel? De voorspelling was juist!" Maar misschien was het druppeltje gewoon van een sproeier in de buurt. De voorspelling liet je verwachten dat het zou regenen, dus interpreteerde je een klein druppeltje als een storm.
Wat het artikel vond:
- Het "Orakel"-effect: Wanneer de app voorspelt: "Je zult vandaag waarschijnlijk angstig zijn", beginnen veel gebruikers zich daadwerkelijk angstig te voelen. Ze liegen niet per se; de voorspelling werkt als een suggestie waaraan hun brein zich vastklampt.
- De Lus: Gebruikers vertrouwen de voorspelling van de app vaak meer dan hun eigen ingeving. Als de app zegt "Je zou blij moeten zijn", maar je voelt je verdrietig, denken ze misschien: "Misschien heb ik het mis en heeft de app gelijk", in plaats van "De app heeft het mis".
- Het Resultaat: De voorspelling wordt een "zelfvervullende voorspelling". De app voorspelt een stemming, de gebruiker voelt het, en de app denkt: "Zie je wel? Ik was accuraat!", zelfs als de app het gevoel eigenlijk veroorzaakte.
Belangrijkste Bevinding #2: De "Black Box" en Raadselspellen
De Analogie: Stel je een videospel voor waarbij de regels verborgen zijn, en het spel je vertelt: "Je hebt het goed gedaan!", maar niet vertelt waarom. Je moet raden wat je goed hebt gedaan.
Wat het artikel vond:
- Intuïtief maar Onzeker: Gebruikers hebben een "ingewand-gevoel" over hoe de AI werkt (bijvoorbeeld: "Het leert van mijn data"), maar ze weten de details niet echt. De apps leggen zelden uit hoe de AI zijn voorspellingen doet.
- De Data-val: Gebruikers weten dat de app data nodig heeft om te werken. Als ze hun stemming niet elke dag vastleggen, wordt de app "dommer". Maar omdat de apps niet uitleggen hoe ze die data gebruiken, raden gebruikers vaak.
- Het Privacy-dilemma: Gebruikers maken zich zorgen over hun privédata (zoals seksleven of mentale gezondheid) die verkocht wordt, maar ze blijven de apps gebruiken omdat ze de "inzichten" willen. Ze voelen zich vastzitten tussen het willen van privacy en het willen dat de AI hen goed genoeg kent om accuraat te zijn.
Belangrijkste Bevinding #3: Het "Eén-Maat-Is-Allen"-Probleem
De Analogie: Stel je een kleermaker voor die een pak maakt. Ze hebben een patroon voor een "standaard" lichaam. Als je een heel uniek lichaam hebt, dwingt de kleermaker je in het standaardpak. Het past niet, maar de kleermaker blijft zeggen: "Je moet gewoon je houding aanpassen om beter in het pak te passen."
Wat het artikel vond:
- De "Norm"-val: Deze apps zijn gebaseerd op de aanname dat iedereen een regelmatige, voorspelbare cyclus van 28 dagen heeft.
- De Isolatie: Vrouwen met onregelmatige cycli (zoals PCOS), of die door de perimenopauze of menopauze gaan, voelen zich vervreemd.
- De app vertelt hen voortdurend dat hun menstruatie "te laat" of "fout" is, waardoor ze het gevoel krijgen dat hun lichaam kapot is.
- De AI-voorspellingen zijn vaak niet logisch voor hen, maar de app biedt geen manier om te zeggen: "Hé, mijn lichaam werkt anders."
- Dit creëert een gevoel van isolatie, alsof de technologie zegt: "Jouw lichaam is het probleem, niet de app."
Belangrijkste Bevinding #4: De "Vastleggen"-val
De Analogie: Stel je voor dat je probeert een complex schilderij te beschrijven met alleen een doosje met 10 krijtjes. Je moet je meesterwerk forceren in "Rood" of "Blauw", zelfs als het eigenlijk "Oranje-Paars" is.
Wat het artikel vond:
- Geforceerde Categorieën: Wanneer gebruikers hun stemming vastleggen, geeft de app hen een lijst met opties (bijvoorbeeld "Angstig", "Geïrriteerd", "Verdrietig").
- Het Vormgeven van de Ervaring: De manier waarop de app de vraag stelt, verandert het antwoord. Als de app "Angst" als categorie suggereert, kan een gebruiker beginnen met het labelen van hun gevoelens als angst, zelfs als ze gewoon "moe" waren.
- De Vicieuze Cirkel: De gebruiker legt een vereenvoudigde versie van hun gevoelens vast -> De AI leert van die vereenvoudigde data -> De AI doet een voorspelling op basis van die vereenvoudigde data -> De gebruiker voelt de voorspelling -> De gebruiker legt het opnieuw vast. De AI ziet nooit de echte complexiteit van de menselijke ervaring.
Wat de Onderzoekers Voorstellen (Ontwerprichtlijnen)
Het artikel wijst niet alleen op problemen; het suggereert hoe de "verweven" relatie opgelost kan worden:
- Vertragen van de Interactie: In plaats dat de app direct suggereert: "Je zult vandaag verdrietig zijn", zou de app misschien eerst moeten vragen: "Hoe voel je je?", voordat er voorspellingen worden getoond. Dit verhindert dat de "voorspelling" de overhand neemt.
- Toon de Scheuren: De app moet eerlijk zijn. Het moet zeggen: "Dit is een gok gebaseerd op patronen, en het kan fout zijn", in plaats van te doen alsof het een kristallen bol is.
- Erken Verschillende Lichamen: Voor vrouwen met onregelmatige cycli of menopauze moet de app een optie bieden om voorspellingen uit te schakelen, of duidelijk uitleggen: "Onze AI is nog niet goed voor jouw specifieke lichaamstype." Het moet stoppen met het behandelen van onregelmatige lichamen als "fouten".
- Aanpasbaar Vastleggen: Laat gebruikers hun eigen labels maken voor hoe ze zich voelen, in plaats van hen te dwingen te kiezen uit een beperkte lijst met vooraf ingestelde emoties.
De Kern
Het artikel betoogt dat we niet alleen kunnen kijken naar of een AI-voorspelling "accuuraat" of "onaccuuraat" is. We moeten kijken naar hoe de AI de ervaring van de gebruiker met haar eigen lichaam verandert.
Wanneer een vrouw een cyclus-tracker gebruikt, leest ze niet alleen data; ze gaat een dans aan met het algoritme. Soms leidt het algoritme, en soms leidt de vrouw. Het probleem is dat de app momenteel zo is ontworpen dat het altijd leidt, waardoor de vrouw vaak een script moet volgen dat niet past bij haar unieke leven of lichaam. Het doel is om apps te ontwerpen die dit partnerschap erkennen en de gebruiker meer controle geven over de dans.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.