"It became a self-fulfilling prophecy": How Lived Experiences are Entangled with AI Predictions in Menstrual Cycle Tracking Apps
Mediante entrevistas y autoetnografía, este artículo revela cómo los usuarios de aplicaciones de seguimiento del ciclo menstrual a menudo internalizan predicciones defectuosas de la IA como profecías autocumplidas, un proceso exacerbado por interfaces que carecen de herramientas de participación crítica y contribuyen al aislamiento de usuarios no normativos.
Artículo original bajo licencia CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Esta es una explicación generada por IA del artículo a continuación. No ha sido escrita ni avalada por los autores. Para mayor precisión técnica, consulte el artículo original. Leer descargo de responsabilidad completo
El Panorama General: El "Oráculo Digital"
Imagina que tienes una bola de cristal (la Aplicación) que te dice exactamente cómo te sentirás mañana. Dice: "Estás triste" o "Tendrás un dolor de cabeza".
Este artículo investiga qué sucede cuando mujeres reales comienzan a usar estas bolas de cristal (aplicaciones de seguimiento del ciclo menstrual como Flo, Clue y Stardust) que utilizan Inteligencia Artificial (IA) para predecir sus estados de ánimo y síntomas. Los investigadores descubrieron que la relación entre la mujer y la aplicación no es simplemente "usuario y herramienta". En cambio, están entrelazadas—como dos enredaderas creciendo una alrededor de la otra tan estrechamente que no puedes decir dónde termina una y comienza la otra.
La aplicación no solo predice tu vida; comienza a dar forma a tu realidad.
El Estudio de Dos Partes
Los investigadores no solo examinaron el código; hablaron con personas reales y vivieron la experiencia ellos mismos.
- Las Entrevistas (Hablando con 14 Mujeres): Hablaron con mujeres que utilizan estas aplicaciones.
- La Autoetnografía (Los Investigadores Viviéndolo): Las cuatro autoras del artículo (que tienen diferentes tipos de cuerpo: ciclos regulares, ciclos irregulares debido al SOP, perimenopausia y menopausia) utilizaron las aplicaciones durante 8 semanas ellas mismas para ver cómo se sentía desde adentro.
Hallazgo Clave #1: La "Profecía Autocumplida"
La Analogía: Imagina un pronóstico del tiempo que dice: "Lloverá hoy". Debido al pronóstico, agarras un paraguas. Luego, sientes una pequeña gota en la cabeza. Piensas: "¡Ves? ¡El pronóstico tenía razón!". Pero quizás la gota era solo un aspersor cercano. El pronóstico te hizo esperar lluvia, por lo que interpretaste una pequeña gota como una tormenta.
Lo que encontró el artículo:
- El Efecto "Oráculo": Cuando la aplicación predice: "Es probable que te sientas ansiosa hoy", muchas usuarias comienzan a sentir ansiedad. No necesariamente lo están fingiendo; la predicción actúa como una sugerencia a la que su cerebro se aferra.
- El Bucle: Las usuarias a menudo confían más en la predicción de la aplicación que en su propio instinto. Si la aplicación dice "Deberías estar feliz", pero te sientes triste, podrían pensar: "Quizás yo estoy equivocada y la aplicación tiene razón", en lugar de "La aplicación está equivocada".
- El Resultado: La predicción se convierte en una "profecía autocumplida". La aplicación predice un estado de ánimo, la usuaria lo siente, y la aplicación piensa: "¡Ves! ¡Fui precisa!", incluso si la aplicación en realidad causó el sentimiento.
Hallazgo Clave #2: La "Caja Negra" y los Juegos de Adivinanzas
La Analogía: Imagina jugar un videojuego donde las reglas están ocultas, y el juego te dice: "¡Lo hiciste genial!", pero no te dice por qué. Tienes que adivinar qué hiciste bien.
Lo que encontró el artículo:
- Intuitivo pero Incierto: Las usuarias tienen un "instinto" sobre cómo funciona la IA (por ejemplo: "Aprende de mis datos"), pero en realidad no conocen los detalles. Las aplicaciones rara vez explican cómo la IA hace sus suposiciones.
- La Trampa de los Datos: Las usuarias saben que la aplicación necesita datos para funcionar. Si no registran su estado de ánimo todos los días, la aplicación se vuelve "más tonta". Pero como las aplicaciones no explican cómo utilizan esos datos, las usuarias a menudo están adivinando.
- El Dilema de la Privacidad: Las usuarias están preocupadas de que sus datos privados (como su vida sexual o salud mental) sean vendidos, pero siguen usando las aplicaciones porque quieren los "conocimientos". Se sienten atrapadas entre querer privacidad y querer que la IA las conozca lo suficientemente bien como para ser precisa.
Hallazgo Clave #3: El Problema de "Talla Única"
La Analogía: Imagina un sastre haciendo un traje. Tienen un patrón para un cuerpo "estándar". Si tienes una forma de cuerpo muy única, el sastre te fuerza a entrar en el traje estándar. No queda bien, pero el sastre sigue diciendo: "Solo necesitas ajustar tu postura para que el traje te quede mejor".
Lo que encontró el artículo:
- La Trampa de la "Norma": Estas aplicaciones se basan en la suposición de que todas tienen un ciclo regular y predecible de 28 días.
- El Aislamiento: Las mujeres con ciclos irregulares (como el SOP), o aquellas que atraviesan la menopausia/perimenopausia, se sienten alienadas.
- La aplicación les dice constantemente que su menstruación está "retrasada" o "equivocada", haciéndolas sentir como si su cuerpo estuviera roto.
- Las predicciones de la IA a menudo no tienen sentido para ellas, pero la aplicación no ofrece una manera de decir: "Oye, mi cuerpo funciona de manera diferente".
- Esto crea una sensación de aislamiento, como si la tecnología dijera: "Tu cuerpo es el problema, no la aplicación".
Hallazgo Clave #4: La Trampa del "Registro"
La Analogía: Imagina intentar describir una pintura compleja usando solo una caja de 10 crayones. Tienes que forzar tu obra maestra a ser "Rojo" o "Azul", incluso si en realidad es "Naranja-Púrpura".
Lo que encontró el artículo:
- Categorías Forzadas: Cuando las usuarias registran su estado de ánimo, la aplicación les da una lista de opciones (por ejemplo: "Ansiosa", "Irritable", "Triste").
- Dar Forma a la Experiencia: La forma en que la aplicación formula la pregunta cambia la respuesta. Si la aplicación sugiere "Ansiedad" como categoría, una usuaria podría comenzar a etiquetar sus sentimientos como ansiedad, incluso si solo estaba "cansada".
- El Círculo Vicioso: La usuaria registra una versión simplificada de sus sentimientos -> La IA aprende de esos datos simplificados -> La IA hace una predicción basada en esos datos simplificados -> La usuaria siente la predicción -> La usuaria la registra de nuevo. La IA nunca ve la verdadera complejidad de la experiencia humana.
Lo que Sugerirán los Investigadores (Implicaciones de Diseño)
El artículo no solo señala problemas; sugiere cómo arreglar la relación "entrelazada":
- Ralentizar la Interacción: En lugar de que la aplicación sugiera inmediatamente: "Estás triste hoy", quizás la aplicación debería preguntar: "¿Cómo te sientes?" primero, antes de mostrar cualquier predicción. Esto evita que la "profecía" tome el control.
- Mostrar las Grietas: La aplicación debería ser honesta. Debería decir: "Esto es una suposición basada en patrones, y podría estar equivocada", en lugar de actuar como una bola de cristal.
- Respetar Cuerpos Diferentes: Para mujeres con ciclos irregulares o menopausia, la aplicación debería ofrecer una opción para "excluirse" de las predicciones o explicar claramente: "Nuestra IA no es muy buena para tu tipo de cuerpo específico todavía". Necesita dejar de tratar los cuerpos irregulares como "errores".
- Registro Personalizable: Permitir que las usuarias creen sus propias etiquetas para cómo se sienten, en lugar de obligarlas a elegir de una lista limitada de emociones preestablecidas.
La Conclusión
El artículo argumenta que no podemos simplemente mirar si una predicción de IA es "precisa" o "inprecisa". Tenemos que mirar cómo la IA cambia la experiencia de la usuaria con su propio cuerpo.
Cuando una mujer usa un rastreador de ciclos, no solo está leyendo datos; está entrando en un baile con el algoritmo. A veces el algoritmo lidera, y a veces la mujer lidera. El problema es que la aplicación está diseñada actualmente para liderar siempre, a menudo forzando a la mujer a seguir un guion que no se ajusta a su vida o cuerpo únicos. El objetivo es diseñar aplicaciones que reconozcan esta asociación y le den a la usuaria más control sobre el baile.
¿Ahogado en artículos de tu campo?
Recibe resúmenes diarios de los artículos más novedosos que coincidan con tus palabras clave de investigación — con resúmenes técnicos, en tu idioma.