"It became a self-fulfilling prophecy": How Lived Experiences are Entangled with AI Predictions in Menstrual Cycle Tracking Apps
Durch Interviews und Autoethnographie zeigt diese Arbeit auf, wie Nutzerinnen von Menstruationszyklus-Tracking-Apps fehlerhafte KI-Vorhersagen häufig als sich selbst erfüllende Prophezeiungen internalisieren, ein Prozess, der durch Schnittstellen verschärft wird, die keine Instrumente zur kritischen Auseinandersetzung bieten und zur Isolation nicht-normativer Nutzerinnen beitragen.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das große Ganze: Der „Digitale Orakel"
Stellen Sie sich eine Kristallkugel (die App) vor, die Ihnen genau sagt, wie Sie sich morgen fühlen werden. Sie sagt: „Sie werden traurig sein" oder „Sie werden Kopfschmerzen haben."
Dieses Paper untersucht, was passiert, wenn echte Frauen diese Kristallkugeln (Menstruations-Tracking-Apps wie Flo, Clue und Stardust) nutzen, die Künstliche Intelligenz (KI) verwenden, um ihre Stimmung und Symptome vorherzusagen. Die Forscherinnen fanden heraus, dass die Beziehung zwischen der Frau und der App nicht nur „Nutzerin und Werkzeug" ist. Stattdessen sind sie verflochten – wie zwei Ranken, die so eng umeinander wachsen, dass man nicht mehr erkennen kann, wo die eine aufhört und die andere beginnt.
Die App prognostiziert Ihr Leben nicht nur; sie beginnt, Ihre Realität zu formen.
Die zweigeteilte Studie
Die Forscherinnen haben nicht nur Code betrachtet; sie haben mit echten Menschen gesprochen und die Erfahrung selbst gelebt.
- Die Interviews (Gespräche mit 14 Frauen): Sie sprachen mit Frauen, die diese Apps nutzen.
- Die Autoethnographie (Die Forscherinnen leben es mit): Die vier Autorinnen des Papers (die unterschiedliche Körper haben: regelmäßige Zyklen, unregelmäßige Zyklen aufgrund von PCOS, Perimenopause und Menopause) nutzten die Apps selbst 8 Wochen lang, um zu sehen, wie es sich von innen anfühlte.
Wichtige Erkenntnis Nr. 1: Die „selbsterfüllende Prophezeiung"
Die Analogie: Stellen Sie sich eine Wettervorhersage vor, die sagt: „Heute wird es regnen." Wegen der Vorhersage nehmen Sie einen Regenschirm mit. Dann spüren Sie einen kleinen Tropfen auf dem Kopf. Sie denken: „Sehen Sie? Die Vorhersage war richtig!" Aber vielleicht war der Tropfen nur ein Sprinkler in der Nähe. Die Vorhersage ließ Sie auf Regen warten, sodass Sie einen kleinen Tropfen als Sturm interpretierten.
Was das Paper fand:
- Der „Orakel"-Effekt: Wenn die App vorhersagt: „Sie werden heute wahrscheinlich ängstlich sein", beginnen viele Nutzerinnen tatsächlich, sich ängstlich zu fühlen. Sie fälschen es nicht unbedingt; die Vorhersage wirkt wie ein Vorschlag, an den ihr Gehirn sich klammert.
- Die Schleife: Nutzerinnen vertrauen der Vorhersage der App oft mehr als ihrem eigenen Bauchgefühl. Wenn die App sagt „Sie sollten glücklich sein", Sie sich aber traurig fühlen, denken sie vielleicht: „Vielleicht liege ich falsch und die App hat recht", statt „Die App liegt falsch".
- Das Ergebnis: Die Vorhersage wird zu einer „selbsterfüllenden Prophezeiung". Die App sagt eine Stimmung voraus, die Nutzerin fühlt sie, und die App denkt: „Sehen Sie? Ich war genau!", selbst wenn die App das Gefühl tatsächlich verursacht hat.
Wichtige Erkenntnis Nr. 2: Der „Black Box" und das Ratespiel
Die Analogie: Stellen Sie sich vor, Sie spielen ein Videospiel, bei dem die Regeln versteckt sind, und das Spiel sagt Ihnen: „Sie haben großartige Arbeit geleistet!", aber nicht, warum. Sie müssen raten, was Sie richtig gemacht haben.
Was das Paper fand:
- Intuitiv aber unsicher: Nutzerinnen haben ein „Bauchgefühl" darüber, wie die KI funktioniert (z. B. „Sie lernt aus meinen Daten"), aber sie kennen die Details nicht wirklich. Die Apps erklären selten, wie die KI ihre Vermutungen anstellt.
- Die Datenfalle: Nutzerinnen wissen, dass die App Daten benötigt, um zu funktionieren. Wenn sie ihre Stimmung nicht jeden Tag eintragen, wird die App „dümmer". Aber da die Apps nicht erklären, wie sie diese Daten nutzen, raten die Nutzerinnen oft.
- Das Datenschutz-Dilemma: Nutzerinnen sind besorgt, dass ihre privaten Daten (wie Sexualleben oder psychische Gesundheit) verkauft werden, aber sie nutzen die Apps weiter, weil sie die „Einblicke" wollen. Sie fühlen sich festgefahren zwischen dem Wunsch nach Privatsphäre und dem Wunsch, dass die KI sie gut genug kennt, um genau zu sein.
Wichtige Erkenntnis Nr. 3: Das „Einheitsgröße"-Problem
Die Analogie: Stellen Sie sich einen Schneider vor, der einen Anzug anfertigt. Er hat ein Muster für einen „Standard"-Körper. Wenn Sie eine sehr einzigartige Körperform haben, zwingt Sie der Schneider in den Standardanzug. Er passt nicht, aber der Schneider sagt weiterhin: „Sie müssen nur Ihre Haltung anpassen, damit der Anzug besser passt."
Was das Paper fand:
- Die „Norm"-Falle: Diese Apps basieren auf der Annahme, dass jeder einen regelmäßigen, vorhersehbaren 28-Tage-Zyklus hat.
- Die Isolation: Frauen mit unregelmäßigen Zyklen (wie PCOS) oder diejenigen in den Wechseljahren/Perimenopause fühlen sich abgelehnt.
- Die App sagt ihnen ständig, ihre Periode sei „verspätet" oder „falsch", was sie das Gefühl haben lässt, ihr Körper sei kaputt.
- Die KI-Vorhersagen ergeben für sie oft keinen Sinn, aber die App bietet keine Möglichkeit zu sagen: „Hey, mein Körper funktioniert anders."
- Dies erzeugt ein Gefühl der Isolation, als würde die Technologie sagen: „Ihr Körper ist das Problem, nicht die App."
Wichtige Erkenntnis Nr. 4: Die „Eingabe"-Falle
Die Analogie: Stellen Sie sich vor, Sie versuchen, ein komplexes Gemälde nur mit einer Box mit 10 Buntstiften zu beschreiben. Sie müssen Ihr Meisterwerk in „Rot" oder „Blau" zwängen, auch wenn es eigentlich „Orange-Lila" ist.
Was das Paper fand:
- Erzwungene Kategorien: Wenn Nutzerinnen ihre Stimmung eintragen, gibt ihnen die App eine Liste von Optionen (z. B. „Ängstlich", „Reizbar", „Traurig").
- Die Formung der Erfahrung: Die Art und Weise, wie die App die Frage stellt, verändert die Antwort. Wenn die App „Angst" als Kategorie vorschlägt, könnte eine Nutzerin beginnen, ihre Gefühle als Angst zu kennzeichnen, auch wenn sie eigentlich nur „müde" war.
- Der Teufelskreis: Die Nutzerin trägt eine vereinfachte Version ihrer Gefühle ein -> Die KI lernt aus diesen vereinfachten Daten -> Die KI trifft eine Vorhersage basierend auf diesen vereinfachten Daten -> Die Nutzerin fühlt die Vorhersage -> Die Nutzerin trägt sie erneut ein. Die KI sieht nie die wahre Komplexität der menschlichen Erfahrung.
Was die Forscherinnen vorschlagen (Design-Implikationen)
Das Paper weist nicht nur auf Probleme hin; es schlägt vor, wie die „verflochtene" Beziehung behoben werden kann:
- Die Interaktion verlangsamen: Statt dass die App sofort vorschlägt: „Sie werden heute traurig sein", sollte die App vielleicht zuerst fragen: „Wie fühlen Sie sich?", bevor sie Vorhersagen anzeigt. Dies verhindert, dass die „Prophezeiung" die Oberhand gewinnt.
- Die Risse zeigen: Die App sollte ehrlich sein. Sie sollte sagen: „Dies ist eine Vermutung basierend auf Mustern, und sie könnte falsch sein", statt wie eine Kristallkugel zu wirken.
- Verschiedene Körper respektieren: Für Frauen mit unregelmäßigen Zyklen oder Wechseljahren sollte die App eine „Opt-out"-Möglichkeit für Vorhersagen anbieten oder klar erklären: „Unsere KI ist für Ihren spezifischen Körpertyp noch nicht gut geeignet." Sie muss aufhören, unregelmäßige Körper als „Fehler" zu behandeln.
- Anpassbare Eingabe: Lassen Sie Nutzerinnen ihre eigenen Bezeichnungen für ihre Gefühle erstellen, anstatt sie zu zwingen, aus einer begrenzten Liste vorgefertigter Emotionen auszuwählen.
Das Fazit
Das Paper argumentiert, dass wir nicht nur prüfen können, ob eine KI-Vorhersage „genau" oder „ungenau" ist. Wir müssen betrachten, wie die KI die Erfahrung der Nutzerin mit ihrem eigenen Körper verändert.
Wenn eine Frau einen Zyklus-Tracker nutzt, liest sie nicht nur Daten; sie tritt einen Tanz mit dem Algorithmus an. Manchmal führt der Algorithmus, und manchmal führt die Frau. Das Problem ist, dass die App derzeit so konzipiert ist, dass sie immer führt und die Frau oft zwingt, einem Skript zu folgen, das nicht zu ihrem einzigartigen Leben oder Körper passt. Das Ziel ist es, Apps zu gestalten, die diese Partnerschaft anerkennen und der Nutzerin mehr Kontrolle über den Tanz geben.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.