"It became a self-fulfilling prophecy": How Lived Experiences are Entangled with AI Predictions in Menstrual Cycle Tracking Apps

Sintesi Tecnica: "È diventata una profezia che si autoavvera": Come le Esperienze Viventi si Intrecciano con le Previsioni dell'IA nelle App di Tracciamento del Ciclo Mestruale

Dichiarazione del Problema
Le Applicazioni di Tracciamento del Ciclo Mestruale (MCTA) utilizzano sempre più funzionalità basate sull'intelligenza artificiale (IA) per fornire previsioni personalizzate riguardanti il ciclo mestruale, la fertilità, l'umore e i sintomi fisici (ad esempio, crampi, gonfiore, ansia). Sebbene questi strumenti mirino a migliorare la consapevolezza di sé e la gestione della salute, soffrono di una natura "scatola nera" in cui la generazione delle previsioni manca di trasparenza. La ricerca esistente indica che l'IA nelle tecnologie per il benessere semplifica spesso esperienze umane complesse, portando a discrepanze tra gli output algoritmici e le realtà vissute dagli utenti. Crucialmente, esiste un vuoto nella comprensione di come gli utenti interagiscono con queste funzionalità predittive, in particolare riguardo agli stati soggettivi come l'umore, dove la "verità fondamentale" è nota solo all'utente. Questa opacità rischia di favorire un'eccessiva dipendenza, in cui gli utenti potrebbero fidarsi delle previsioni algoritmiche più delle proprie sensazioni corporee, potenzialmente creando una "profezia che si autoavvera" in cui la previsione influenza l'esperienza stessa. Inoltre, gli attuali approcci di IA spiegabile (XAI) spesso non forniscono spiegazioni utilizzabili o efficaci nei contesti commerciali di benessere, lasciando gli utenti privi delle risorse per impegnarsi criticamente in queste interazioni intrecciate.

Metodologia
Gli autori adottano un approccio qualitativo misto composto da due studi distinti per indagare l'intreccio tra uomo e IA nelle MCTA:

1. Studio 1: Interviste Semi-strutturate agli Utenti

   • Partecipanti: 14 partecipanti di sesso femminile (età 18–35) provenienti dall'Europa settentrionale e centrale, comprendenti sia utenti attuali che ex utenti di MCTA con vari tipi di ciclo (regolare, irregolare, assente).
   • Procedura: Le interviste si sono concentrate sulla comprensione da parte dei partecipanti delle funzionalità dell'IA, sulle loro pratiche di registrazione e sulle loro esperienze vissute con le previsioni e le spiegazioni dell'IA. Ai partecipanti sono state mostrate screenshot dell'app "Flo" (leader di mercato) per discutere specifiche funzionalità dell'IA, incluse previsioni del ciclo, approfondimenti sui sintomi e previsioni di fertilità.
   • Analisi: I dati sono stati analizzati utilizzando il framework a sei fasi di Braun e Clarke per l'analisi tematica riflessiva, concentrandosi su come gli utenti interpretano e co-costruiscono il significato con l'IA.

2. Studio 2: Autoetnografia di Gruppo

   • Partecipanti: I quattro autori del documento, che rappresentano condizioni corporee diverse: cicli regolari, cicli irregolari (PCOS), perimenopausa e menopausa (in terapia ormonale sostitutiva).
   • Procedura: Per un periodo di otto settimane, gli autori hanno tracciato umori e sintomi in varie MCTA (Flo, Clue, Stardust, Balance) mantenendo diari personali e catturando artefatti dell'interfaccia (screenshot).
   • Focus: Questo studio mirava a catturare riflessioni in prima persona e momentanee su come le design dell'interfaccia, i meccanismi di registrazione e le previsioni dell'IA abbiano attivamente plasmato le loro esperienze soggettive in tempo reale.
   • Analisi: Le riflessioni individuali sono state sintetizzate e discusse collaborativamente per identificare temi riguardanti l'intreccio tra registrazione, previsione ed esperienza vissuta, evidenziando specificamente le esperienze di corpi non normativi.

Principali Contributi
Il documento apporta quattro contributi principali alla letteratura HCI e al design:

1. Elucidazione dell'Intreccio Uomo-IA: Rivela che le esperienze vissute e la conoscenza di sé degli utenti non sono semplicemente influenzate dalle MCTA, ma sono co-costituite attraverso l'interazione tra pratiche di registrazione, design dell'interfaccia, IA predittiva e spiegazioni dell'IA.
2. Identificazione delle Lacune nelle Risorse: Lo studio dimostra che gli utenti mancano di risorse adeguate (come spiegazioni trasparenti dell'IA e meccanismi di feedback) per stabilire una consapevolezza critica di questo intreccio, portando a una dipendenza intuitiva ma spesso acritica dalle previsioni.
3. Evidenziazione della Marginalizzazione: Documenta le esperienze isolanti degli utenti non normativi (ad esempio, quelli con PCOS, cicli irregolari o menopausa), i cui corpi sono spesso patologizzati o esclusi dalle assunzioni normative incorporate in questi sistemi.
4. Implicazioni per il Design: Gli autori propongono strategie di design che vanno oltre la semplice trasparenza per supportare attivamente l'autonomia dell'utente e l'impegno critico con l'intreccio dell'IA.

Risultati
I risultati sono organizzati attorno al concetto di "intreccio", dove il confine tra lo stato interno dell'utente e l'output dell'app diventa sfocato.

• Comprensione Intuitiva vs. Mancanza di Trasparenza: Gli utenti possiedono una comprensione intuitiva di come funzionano le previsioni dell'IA (ad esempio, comprendendo che più dati portano a una migliore accuratezza), ma mancano di conoscenze specifiche sui meccanismi sottostanti. Questa incertezza porta a un gioco di "indovinelli" in cui gli utenti spesso assumono che la tecnologia sia accurata senza verifica.
• Co-costruzione dell'Esperienza (La Profezia che si Autoavvera): Un risultato centrale è che le previsioni dell'IA plasmano attivamente le esperienze vissute degli utenti. I partecipanti hanno riferito che ricevere una previsione (ad esempio, "oggi potresti sentirti ansioso") poteva predisporli a sentirsi così, o portarli a interpretare sensazioni ambigue attraverso la lente della previsione. Questo fenomeno è stato descritto dagli utenti come una "profezia che si autoavvera" o simile a un "oroscopo".
• Validazione ed Eccessiva Dipendenza: Gli utenti fanno spesso affidamento sulle previsioni dell'IA per validare esperienze vissute negative (ad esempio, confermare che sentirsi tristi è "normale" per la fase del loro ciclo). Quando le previsioni non corrispondono alla realtà, gli utenti spesso si impegnano in riflessioni su se stessi o addirittura alterano i loro dati di registrazione passati per forzare l'allineamento con l'algoritmo, piuttosto che mettere in discussione l'accuratezza dell'IA.
• Il Ruolo del Design dell'Interfaccia: L'autoetnografia ha rivelato che l'interfaccia stessa (icone, etichette categoriali, registrazioni suggerite) guida come gli utenti interpretano e riportano i propri sentimenti. Ad esempio, un'app che suggerisce "pensieri ossessivi" invece di "ansia" potrebbe riformulare l'esperienza di un utente, creando un ciclo di feedback in cui la previsione influenza la registrazione, che a sua volta influenza le previsioni future.
• Esclusione dei Corpi Non Normativi: Gli utenti con cicli irregolari, PCOS o menopausa hanno riferito di sentirsi marginalizzati. Il "linguaggio della regolarità" delle app (ad esempio, etichettare un ciclo come "in ritardo") ha inquadrato le loro variazioni naturali come errori o difetti. In alcuni casi, la mancanza di previsioni o spiegazioni pertinenti per le fasi non normative ha portato a un senso di isolamento e alla sensazione che la tecnologia non fosse progettata per loro.

Significato e Affermazioni
Il documento sostiene che l'intreccio uomo-IA nelle MCTA non è un fenomeno negativo da eliminare, ma una realtà per cui progettare. Gli autori affermano che i paradigmi di design attuali, che danno priorità all'accuratezza e all'efficienza, non tengono conto della natura co-costruttiva dell'IA e dell'esperienza vissuta.

Il significato di questo lavoro risiede nello spostare il focus del design dal semplice miglioramento dell'accuratezza delle previsioni al riconoscimento della relazione tra l'utente e l'IA. Gli autori affermano che, poiché la conoscenza di sé degli utenti è profondamente intrecciata con le previsioni dell'IA, previsioni "inaccurate" possono diventare la realtà dell'utente. Pertanto, gli interventi di design non dovrebbero mirare solo a correggere "errori", ma dovrebbero supportare gli utenti nel mantenere l'autonomia sui loro processi di costruzione del significato.

Il documento conclude chiedendo:

• Vincolo Cognitivo: Progettare interfacce che incoraggino gli utenti a registrare le proprie esperienze prima di vedere le previsioni per prevenire effetti di predisposizione.
• Incertezza Trasparente: Fornire spiegazioni dell'IA che evidenzino esplicitamente i limiti e le incertezze delle previsioni, piuttosto che presentarle come fatti.
• Design Inclusivo: Creare sistemi che accolgano corpi non normativi offrendo opzioni per disattivare le previsioni o fornendo spiegazioni adattate a diverse fasi riproduttive, allontanandosi così dalle assunzioni "normative" che attualmente dominano il design delle MCTA.