"It became a self-fulfilling prophecy": How Lived Experiences are Entangled with AI Predictions in Menstrual Cycle Tracking Apps

Resumo Técnico: "Tornou-se uma profecia autorrealizável": Como as Experiências Vividas se Entrelaçam com Previsões de IA em Aplicativos de Rastreamento do Ciclo Menstrual

Declaração do Problema
Aplicativos de Rastreamento do Ciclo Menstrual (MCTAs) utilizam cada vez mais recursos baseados em IA para fornecer previsões personalizadas sobre ciclos menstruais, fertilidade, humor e sintomas físicos (por exemplo, cólicas, inchaço, ansiedade). Embora essas ferramentas visem aprimorar a autoconsciência e o gerenciamento da saúde, elas sofrem de uma natureza de "caixa preta", onde a geração de previsões carece de transparência. Pesquisas existentes indicam que a IA em tecnologias de bem-estar frequentemente simplifica experiências humanas complexas, levando a incompatibilidades entre os resultados algorítmicos e as realidades vividas pelos usuários. Crucialmente, há uma lacuna na compreensão de como os usuários interagem com esses recursos preditivos, particularmente em relação a estados subjetivos como o humor, onde a "verdade fundamental" é conhecida apenas pelo usuário. Essa opacidade corre o risco de fomentar uma superconfiança, onde os usuários podem confiar mais nas previsões algorítmicas do que em suas próprias sensações corporais, potencialmente criando uma "profecia autorrealizável" onde a previsão influencia a própria experiência. Além disso, as abordagens atuais de IA Explicável (XAI) frequentemente falham em fornecer explicações utilizáveis ou eficazes em contextos comerciais de bem-estar, deixando os usuários sem recursos para se engajar criticamente nessas interações entrelaçadas.

Metodologia
Os autores empregam uma abordagem qualitativa de métodos mistos consistindo em dois estudos distintos para investigar o entrelaçamento humano-IA em MCTAs:

1. Estudo 1: Entrevistas Semiestruturadas com Usuários

   • Participantes: 14 participantes do sexo feminino (com idades entre 18 e 35 anos) da Europa Setentrional e Central, compreendendo tanto usuários atuais quanto antigos de MCTAs com variados tipos de ciclo (regular, irregular, ausente).
   • Procedimento: As entrevistas focaram na compreensão dos participantes sobre recursos de IA, suas práticas de registro e suas experiências vividas com previsões e explicações de IA. Os participantes visualizaram capturas de tela do aplicativo "Flo" (líder de mercado) para discutir recursos específicos de IA, incluindo previsões de ciclo, insights sobre sintomas e previsões de fertilidade.
   • Análise: Os dados foram analisados utilizando o framework de seis fases de Braun e Clarke para análise temática reflexiva, focando em como os usuários interpretam e co-constróem significado com a IA.

2. Estudo 2: Autoetnografia em Grupo

   • Participantes: Os quatro autores do artigo, representando diversas condições corporais: ciclos regulares, ciclos irregulares (SOP), perimenopausa e menopausa (em terapia de reposição hormonal).
   • Procedimento: Ao longo de um período de oito semanas, os autores rastrearam humores e sintomas em vários MCTAs (Flo, Clue, Stardust, Balance) enquanto mantinham diários pessoais e capturavam artefatos de interface (capturas de tela).
   • Foco: Este estudo visou capturar reflexões em primeira pessoa e momentâneas sobre como designs de interface, mecanismos de registro e previsões de IA moldaram ativamente suas experiências subjetivas em tempo real.
   • Análise: Reflexões individuais foram sintetizadas e discutidas colaborativamente para identificar temas relacionados ao entrelaçamento de registro, previsão e experiência vivida, destacando especificamente as experiências de corpos não normativos.

Principais Contribuições
O artigo faz quatro contribuições primárias para a literatura de HCI e design:

1. Elucidação do Entrelaçamento Humano-IA: Revela que as experiências vividas e o autoconhecimento dos usuários não são meramente afetados pelos MCTAs, mas são co-constituídos através da interação entre práticas de registro, designs de interface, IA preditiva e explicações de IA.
2. Identificação de Lacunas de Recursos: O estudo demonstra que os usuários carecem de recursos adequados (como explicações transparentes de IA e mecanismos de feedback) para estabelecer uma consciência crítica desse entrelaçamento, levando a uma dependência intuitiva, mas frequentemente acrítica, das previsões.
3. Destaque da Marginalização: Documenta as experiências isoladoras de usuários não normativos (por exemplo, aqueles com SOP, ciclos irregulares ou menopausa), cujos corpos são frequentemente patologizados ou excluídos pelas suposições normativas embutidas nesses sistemas.
4. Implicações para o Design: Os autores propõem estratégias de design que vão além da simples transparência para apoiar ativamente a autonomia do usuário e o engajamento crítico com o entrelaçamento da IA.

Resultados
As descobertas estão organizadas em torno do conceito de "entrelaçamento", onde a fronteira entre o estado interno do usuário e a saída do aplicativo se torna difusa.

• Compreensão Intuitiva vs. Falta de Transparência: Os usuários possuem uma compreensão intuitiva de como as previsões de IA funcionam (por exemplo, entendendo que mais dados levam a uma melhor precisão), mas carecem de conhecimento específico sobre os mecanismos subjacentes. Essa incerteza leva a um jogo de "adivinhação" onde os usuários frequentemente assumem que a tecnologia é precisa sem verificação.
• Co-construção da Experiência (A Profecia Autorrealizável): Uma descoberta central é que as previsões de IA moldam ativamente as experiências vividas dos usuários. Os participantes relataram que receber uma previsão (por exemplo, "você pode se sentir ansioso hoje") poderia prepará-los para se sentir assim ou levá-los a interpretar sensações ambíguas através da lente da previsão. Esse fenômeno foi descrito pelos usuários como uma "profecia autorrealizável" ou semelhante a um "horóscopo".
• Validação e Superconfiança: Os usuários frequentemente dependem de previsões de IA para validar experiências vividas negativas (por exemplo, confirmando que se sentir triste é "normal" para a fase do seu ciclo). Quando as previsões não correspondem à realidade, os usuários frequentemente se engajam em autorreflexão ou até alteram seus dados de registro passados para forçar o alinhamento com o algoritmo, em vez de questionar a precisão da IA.
• O Papel do Design de Interface: A autoetnografia revelou que a própria interface (ícones, rótulos categóricos, registros sugeridos) guia como os usuários interpretam e relatam seus sentimentos. Por exemplo, um aplicativo sugerindo "pensamentos obsessivos" em vez de "ansiedade" poderia reestruturar a experiência de um usuário, criando um ciclo de feedback onde a previsão influencia o registro, que por sua vez influencia previsões futuras.
• Exclusão de Corpos Não Normativos: Usuários com ciclos irregulares, SOP ou menopausa relataram sentir-se marginalizados. A "linguagem de regularidade" dos aplicativos (por exemplo, rotular um ciclo como "atrasado") enquadrava suas variações naturais como erros ou falhas. Em alguns casos, a falta de previsões ou explicações relevantes para estágios não normativos levou a um sentimento de isolamento e à sensação de que a tecnologia não foi projetada para eles.

Significado e Alegações
O artigo argumenta que o entrelaçamento humano-IA em MCTAs não é um fenômeno negativo a ser eliminado, mas uma realidade para a qual se deve projetar. Os autores afirmam que os paradigmas de design atuais, que priorizam precisão e eficiência, falham em levar em conta a natureza co-construtiva da IA e da experiência vivida.

O significado deste trabalho reside em deslocar o foco do design de meramente melhorar a precisão das previsões para reconhecer a relação entre o usuário e a IA. Os autores afirmam que, como o autoconhecimento dos usuários está profundamente entrelaçado com previsões de IA, previsões "inexatas" podem tornar-se a realidade do usuário. Portanto, intervenções de design não devem apenas visar corrigir "erros", mas devem apoiar os usuários a manter a autonomia sobre seus processos de construção de significado.

O artigo conclui fazendo um chamado para:

• Forçamento Cognitivo: Projetar interfaces que encorajem os usuários a registrar suas experiências antes de ver as previsões para prevenir efeitos de preparação.
• Incerteza Transparente: Fornecer explicações de IA que explicitamente evidenciem as limitações e incertezas das previsões, em vez de apresentá-las como fatos.
• Design Inclusivo: Criar sistemas que acomodem corpos não normativos oferecendo opções para optar por não receber previsões ou fornecendo explicações adaptadas a diversos estágios reprodutivos, afastando-se assim das suposições "normativas" que atualmente dominam o design de MCTAs.