"It became a self-fulfilling prophecy": How Lived Experiences are Entangled with AI Predictions in Menstrual Cycle Tracking Apps
インタビューと自己民族誌を通じて、本論文は、月経周期追跡アプリのユーザーが欠陥のあるAI予測を自己成就的予言として内面化することが多いことを明らかにし、そのプロセスは批判的関与ツールを欠くインターフェースによって悪化し、非規範的なユーザーの孤立を助長している。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
以下は、論文「『自己成就的予言』となった：月経周期追跡アプリにおける生きた経験と AI 予測の絡み合い」の解説を、創造的な比喩を用いて単純な概念に分解したものです。
全体像：「デジタルの予言者」
明日のあなたの気分を正確に教えてくれる水晶玉（アプリ）があると想像してください。「あなたは悲しくなるでしょう」とか、「頭痛がするでしょう」と言います。
この論文は、フロ（Flo）、クルー（Clue）、スターダスト（Stardust）などの月経周期追跡アプリ（人工知能 AI を用いて気分や症状を予測する水晶玉）を実際の女性が使い始めたときに何が起こるかを調査しています。研究者たちは、女性とアプリの関係が単なる「ユーザーと道具」の関係ではないことを発見しました。むしろ、それらは絡み合っています——まるで、どちらがどこで終わってどちらが始まるのかわからないほど、互いにきつく絡みついて成長する二本のつるのようなのです。
アプリはあなたの人生を単に予測するだけでなく、あなたの現実を形作るようになります。
二部構成の研究
研究者たちはコードだけを見たのではなく、実際の人間と話し、自らの経験を生きました。
- インタビュー（14 人の女性への聞き取り）： これらのアプリを使用している女性たちと対話しました。
- 自動民族誌（研究者自身が体験すること）： 論文の 4 人の著者（通常周期、多嚢胞性卵巣症候群（PCOS）による不規則周期、更年期移行期、閉経期という異なる身体タイプを持つ）が、内部からどのような感覚かを見るために、自ら 8 週間アプリを使用しました。
主要な発見 #1：「自己成就的予言」
比喩： 「今日は雨が降るでしょう」という天気予報があると想像してください。その予報のために傘を持ちます。すると、頭に少し水滴が落ちます。「ほら、予報は当たった！」と思います。しかし、その水滴は単に近くの散水機からのものであるかもしれません。予報が雨を予期させたため、小さな水滴を嵐だと解釈してしまったのです。
論文が発見したこと：
- 「予言者」効果： アプリが「今日は不安になりやすいでしょう」と予測すると、多くのユーザーが実際に不安を感じ始めます。必ずしも嘘をついているわけではなく、予測が脳がしがみつくような提案として機能するのです。
- ループ： ユーザーは多くの場合、自分の直感よりもアプリの予測を信頼します。アプリが「あなたは幸せであるべきだ」と言っているのに、あなたが悲しく感じている場合、彼らは「アプリが間違っている」と考えるよりも、「もしかしたら私が間違っていて、アプリが正しいのかもしれない」と考えます。
- 結果： 予測は「自己成就的予言」となります。アプリが気分を予測し、ユーザーがそれを感じ、アプリは「ほら、私は正確だった！」と考えます。実際にはアプリがその感情を引き起こしたとしてもです。
主要な発見 #2：「ブラックボックス」と推測ゲーム
比喩： ルールが隠されたビデオゲームをプレイしていると想像してください。ゲームは「よくやった！」と言いますが、なぜそうなのかは教えてくれません。あなたが何をしたのが正解だったのか、推測するしかありません。
論文が発見したこと：
- 直感的だが不確実： ユーザーは AI がどのように機能するかについて「直感」を持っています（例：「私のデータから学習している」など）が、実際には詳細を知りません。アプリは AI がどのように推測を行うかをほとんど説明しません。
- データの罠： ユーザーはアプリが機能するにはデータが必要だと知っています。毎日気分を記録しなければ、アプリは「愚か」になります。しかし、アプリがそのデータをどのように使用するかを説明しないため、ユーザーはしばしば推測しているのです。
- プライバシーのジレンマ： ユーザーは性生活や精神的健康などのプライベートなデータが売られることを心配していますが、その「洞察」が欲しいためにアプリを使い続けます。プライバシーを望みながら、AI が正確であるために自分をよく知ることを望むという板挟みを感じています。
主要な発見 #3：「画一的」な問題
比喩： 仕立て屋がスーツを作ると想像してください。彼らには「標準的な」体型のためのパターンがあります。もしあなたが非常に独特な体型をしていれば、仕立て屋はあなたをその標準的なスーツに無理やり入れようとします。それは合いませんが、仕立て屋は「スーツに合うように姿勢を調整する必要があるだけだ」と言い続けます。
論文が発見したこと：
- 「規範」の罠： これらのアプリは、誰もが規則的で予測可能な 28 日周期を持っているという前提に基づいて構築されています。
- 孤立： 不規則な周期（PCOS など）を持つ女性や、更年期移行期・閉経期を迎えている女性は疎外感を感じます。
- アプリは絶えず「生理が遅れている」あるいは「間違っている」と伝え、自分の体が壊れているように感じさせます。
- AI の予測は彼らにとって意味をなさないことがよくありますが、アプリは「私の体は違う」と言う方法を提供しません。
- これは、技術が「あなたの体こそが問題で、アプリではない」と言っているかのような孤立感を生み出します。
主要な発見 #4：「記録」の罠
比喩： 10 色のクレヨンの箱だけで複雑な絵画を説明しようとしていると想像してください。実際には「オレンジがかった紫」であっても、あなたはそれを「赤」か「青」に無理やり押し込めなければなりません。
論文が発見したこと：
- 強制されたカテゴリ： ユーザーが気分を記録する際、アプリは「不安」「イライラ」「悲しい」などの選択肢リストを提供します。
- 経験の形成： アプリが質問をする方法が答えを変えます。アプリがカテゴリとして「不安」を提案すると、ユーザーが単に「疲れている」だけであっても、自分の感情を「不安」とラベル付けし始める可能性があります。
- 悪循環： ユーザーは感情の簡略化されたバージョンを記録する → AI はその簡略化されたデータから学習する → AI はその簡略化されたデータに基づいて予測を行う → ユーザーは予測を感じる → ユーザーは再びそれを記録する。AI は人間の経験の本当の複雑さを見ることはありません。
研究者の提案（設計への示唆）
この論文は単に問題を指摘するだけでなく、「絡み合った」関係をどう修復するかを提案しています。
- 相互作用を遅らせる： アプリが即座に「今日は悲しくなるでしょう」と提案するのではなく、まず「どう感じていますか？」と尋ねるべきです。これにより、「予言」が支配するのを防ぎます。
- ひび割れを見せる： アプリは正直であるべきです。「これはパターンに基づく推測であり、間違っている可能性があります」と伝え、水晶玉のように振る舞うべきではありません。
- 異なる体を尊重する： 不規則な周期や更年期の女性に対して、アプリは予測からの「オプトアウト（選択的除外）」を提供するか、「私たちの AI はまだあなたの特定の体型には適していません」と明確に説明すべきです。不規則な体を「エラー」として扱うのをやめる必要があります。
- カスタマイズ可能な記録： ユーザーが事前に設定された感情の限られたリストから選ぶのではなく、自分がどのように感じているかを自分でラベルを作成できるようにします。
結論
この論文は、AI の予測が「正確」か「不正確」かだけを見ることはできないと主張しています。AI がユーザーの自分の体に対する経験にどのように変化をもたらすかを見る必要があります。
女性が周期追跡アプリを使用する際、彼女は単にデータを読んでいるのではなく、アルゴリズムとのダンスに参加しているのです。時にはアルゴリズムがリードし、時には女性がリードします。問題は、現在のアプリが常にリードするように設計されており、しばしば女性に彼女の独自の人生や体に合わない脚本に従わせるように設計されていることです。目標は、このパートナーシップを認め、ユーザーにダンスをよりコントロールできる機会を与えるアプリを設計することです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。