"It became a self-fulfilling prophecy": How Lived Experiences are Entangled with AI Predictions in Menstrual Cycle Tracking Apps
Par le biais d'entretiens et d'autoethnographie, cet article révèle comment les utilisatrices d'applications de suivi du cycle menstruel intègrent souvent des prédictions d'IA erronées en prophéties auto-réalisatrices, un processus exacerbé par des interfaces dépourvues d'outils favorisant un engagement critique et contribuant à l'isolement des utilisatrices non normatives.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
La Vue d'Ensemble : « L'Oracle Numérique »
Imaginez que vous possédez une boule de cristal (l'Application) qui vous dit exactement comment vous vous sentirez demain. Elle déclare : « Vous serez triste » ou « Vous aurez mal à la tête ».
Ce papier examine ce qui se produit lorsque de vraies femmes commencent à utiliser ces boules de cristal (applications de suivi du cycle menstruel comme Flo, Clue et Stardust) qui utilisent l'Intelligence Artificielle (IA) pour prédire leurs humeurs et leurs symptômes. Les chercheurs ont découvert que la relation entre la femme et l'application n'est pas simplement celle d'un « utilisateur et d'un outil ». Au contraire, elles sont entremêlées – comme deux lianes qui poussent l'une autour de l'autre si étroitement qu'on ne peut plus dire où l'une s'arrête et où l'autre commence.
L'application ne se contente pas de prédire votre vie ; elle commence à façonner votre réalité.
L'Étude en Deux Parties
Les chercheurs ne se sont pas contentés d'examiner le code ; ils ont parlé à de vraies personnes et ont vécu l'expérience eux-mêmes.
- Les Entretiens (Parler à 14 femmes) : Ils ont interrogé des femmes qui utilisent ces applications.
- L'Auto-ethnographie (Les chercheurs vivant l'expérience) : Les quatre auteurs du papier (qui ont différents types de corps : cycles réguliers, cycles irréguliers dus au SOPK, périménopause et ménopause) ont utilisé les applications pendant 8 semaines eux-mêmes pour voir ce que cela faisait de l'intérieur.
Résultat Clé n°1 : La « Prophétie Autoréalisatrice »
L'Analogie : Imaginez une prévision météorologique qui annonce : « Il va pleuvoir aujourd'hui ». À cause de cette prévision, vous prenez un parapluie. Ensuite, vous sentez une petite goutte sur votre tête. Vous pensez : « Voyez ? La prévision avait raison ! » Mais peut-être que cette goutte provenait simplement d'un arroseur à proximité. La prévision vous a fait s'attendre à la pluie, si bien que vous avez interprété une petite goutte comme une tempête.
Ce que le papier a découvert :
- L'Effet « Oracle » : Lorsque l'application prédit : « Il est probable que vous vous sentiez anxieuse aujourd'hui », de nombreuses utilisatrices commencent à se sentir anxieuses. Elles ne font pas nécessairement semblant ; la prédiction agit comme une suggestion à laquelle leur cerveau s'accroche.
- La Boucle : Les utilisatrices font souvent plus confiance à la prédiction de l'application qu'à leur propre intuition. Si l'application dit « Vous devriez être heureuse », mais que vous vous sentez triste, elles pourraient penser : « Peut-être que je me trompe, et que l'application a raison », plutôt que « L'application a tort ».
- Le Résultat : La prédiction devient une « prophétie autoréalisatrice ». L'application prédit une humeur, l'utilisatrice la ressent, et l'application pense : « Voyez ? J'étais précise ! », même si c'est l'application qui a en réalité provoqué ce sentiment.
Résultat Clé n°2 : La « Boîte Noire » et les Jeux de Devinettes
L'Analogie : Imaginez jouer à un jeu vidéo où les règles sont cachées, et où le jeu vous dit : « Vous avez fait du bon travail ! » sans vous dire pourquoi. Vous devez deviner ce que vous avez fait de bien.
Ce que le papier a découvert :
- Intuitif mais Incertain : Les utilisatrices ont une « intuition » sur le fonctionnement de l'IA (par exemple : « Elle apprend de mes données »), mais elles ne connaissent pas réellement les détails. Les applications expliquent rarement comment l'IA fait ses prédictions.
- Le Piège des Données : Les utilisatrices savent que l'application a besoin de données pour fonctionner. Si elles ne notent pas leur humeur tous les jours, l'application devient « moins intelligente ». Mais comme les applications n'expliquent pas comment elles utilisent ces données, les utilisatrices font souvent des suppositions.
- Le Dilemme de la Vie Privée : Les utilisatrices s'inquiètent que leurs données privées (comme leur vie sexuelle ou leur santé mentale) soient vendues, mais elles continuent d'utiliser les applications car elles veulent ces « insights ». Elles se sentent coincées entre le désir de confidentialité et le désir que l'IA les connaisse suffisamment bien pour être précise.
Résultat Clé n°3 : Le Problème du « Taille Unique »
L'Analogie : Imaginez un tailleur qui confectionne un costume. Il possède un patron pour un corps « standard ». Si vous avez une morphologie très unique, le tailleur vous force à enfiler le costume standard. Il ne vous va pas, mais le tailleur continue de dire : « Vous devez juste ajuster votre posture pour mieux entrer dans le costume ».
Ce que le papier a découvert :
- Le Piège de la « Norme » : Ces applications sont construites sur l'hypothèse que tout le monde a un cycle régulier et prévisible de 28 jours.
- L'Isolement : Les femmes ayant des cycles irréguliers (comme le SOPK) ou celles traversant la périménopause ou la ménopause se sentent aliénées.
- L'application leur dit constamment que leurs règles sont « en retard » ou « fausses », ce qui les fait sentir comme si leur corps était cassé.
- Les prédictions de l'IA n'ont souvent pas de sens pour elles, mais l'application ne propose aucun moyen de dire : « Hé, mon corps fonctionne différemment ».
- Cela crée un sentiment d'isolement, comme si la technologie disait : « Votre corps est le problème, pas l'application ».
Résultat Clé n°4 : Le Piège du « Saisie »
L'Analogie : Imaginez essayer de décrire une peinture complexe en utilisant uniquement une boîte de 10 crayons. Vous devez forcer votre chef-d'œuvre dans « Rouge » ou « Bleu », même s'il est en réalité « Orange-Violet ».
Ce que le papier a découvert :
- Catégories Imposées : Lorsque les utilisatrices notent leur humeur, l'application leur donne une liste d'options (par exemple : « Anxieuse », « Irritable », « Triste »).
- Façonnage de l'Expérience : La manière dont l'application pose la question modifie la réponse. Si l'application suggère « Anxiété » comme catégorie, une utilisatrice pourrait commencer à étiqueter ses sentiments comme de l'anxiété, même si elle était simplement « fatiguée ».
- Le Cercle Vicieux : L'utilisatrice enregistre une version simplifiée de ses sentiments → L'IA apprend à partir de ces données simplifiées → L'IA fait une prédiction basée sur ces données simplifiées → L'utilisatrice ressent la prédiction → L'utilisatrice l'enregistre à nouveau. L'IA ne voit jamais la vraie complexité de l'expérience humaine.
Ce que les Chercheurs Suggèrent (Implications pour la Conception)
Le papier ne se contente pas de pointer les problèmes ; il suggère comment réparer la relation « entremêlée » :
- Ralentir l'Interaction : Au lieu que l'application suggère immédiatement : « Vous serez triste aujourd'hui », peut-être que l'application devrait demander : « Comment vous sentez-vous ? » d'abord, avant d'afficher toute prédiction. Cela empêche la « prophétie » de prendre le dessus.
- Montrer les Fissures : L'application devrait être honnête. Elle devrait dire : « C'est une supposition basée sur des motifs, et elle pourrait être fausse », plutôt que d'agir comme une boule de cristal.
- Respecter les Différents Corps : Pour les femmes ayant des cycles irréguliers ou la ménopause, l'application devrait proposer une option de « désactivation » des prédictions ou expliquer clairement : « Notre IA n'est pas encore très bonne pour votre type de corps spécifique ». Elle doit cesser de traiter les corps irréguliers comme des « erreurs ».
- Saisie Personnalisable : Permettre aux utilisatrices de créer leurs propres étiquettes pour décrire ce qu'elles ressentent, plutôt que de les forcer à choisir parmi une liste limitée d'émotions prédéfinies.
La Conclusion
Le papier soutient que nous ne pouvons pas simplement examiner si une prédiction de l'IA est « précise » ou « imprécise ». Nous devons examiner comment l'IA modifie l'expérience que l'utilisatrice a de son propre corps.
Lorsqu'une femme utilise un suivi de cycle, elle ne fait pas que lire des données ; elle entre dans une danse avec l'algorithme. Parfois, l'algorithme mène, et parfois, la femme mène. Le problème est que l'application est actuellement conçue pour toujours mener, obligeant souvent la femme à suivre un scénario qui ne correspond ni à sa vie unique ni à son corps. L'objectif est de concevoir des applications qui reconnaissent ce partenariat et donnent à l'utilisatrice plus de contrôle sur la danse.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.