"It became a self-fulfilling prophecy": How Lived Experiences are Entangled with AI Predictions in Menstrual Cycle Tracking Apps
通过访谈和自民族志研究，本文揭示了月经周期追踪应用的用户往往将存在缺陷的人工智能预测内化为自我实现的预言，而缺乏批判性参与工具的界面加剧了这一过程，并导致非规范性用户陷入孤立。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
以下是论文《“它变成了自我实现的预言”：月经周期追踪应用中的生活体验如何与 AI 预测纠缠》的解读，将其拆解为简单概念并辅以富有创意的类比。
宏观图景：“数字神谕”
想象你拥有一个水晶球（即应用程序），它能准确告诉你明天会有何感受。它说：“你会感到悲伤”，或者“你会头痛”。
本文探讨了当真实女性开始使用这些水晶球（如 Flo、Clue 和 Stardust 等月经周期追踪应用）时会发生什么，这些应用利用人工智能（AI）来预测她们的情绪和症状。研究人员发现，女性与应用之间的关系不仅仅是“用户与工具”。相反，它们是纠缠在一起的——就像两株藤蔓紧紧缠绕生长，以至于你无法分辨哪里是藤蔓的结束，哪里是另一株的开始。
应用程序不仅仅是预测你的生活；它开始塑造你的现实。
两部分研究
研究人员不仅查看了代码；他们与真实的人交谈，并亲自体验了这种经历。
- 访谈（与 14 名女性交谈）： 他们与使用这些应用的女性进行了交谈。
- 自传民族志（研究人员亲身体验）： 该论文的四位作者（拥有不同的身体类型：规律周期、因多囊卵巢综合征（PCOS）导致的周期不规律、围绝经期和绝经期）亲自使用这些应用 8 周，以从内部视角感受其体验。
关键发现 #1：“自我实现的预言”
类比： 想象一份天气预报说：“今天会下雨。”因为这份预报，你拿起了雨伞。然后，你感觉到头上有一滴小雨。你想：“看吧！预报是对的！”但也许那滴水只是附近洒水器喷出的。预报让你预期会下雨，因此你将微小的水滴解读为一场风暴。
论文发现：
- “神谕”效应： 当应用预测“你今天可能会感到焦虑”时，许多用户开始感到焦虑。她们并不一定是在假装；这种预测就像一种暗示，被她们的大脑紧紧抓住。
- 循环： 用户往往更相信应用的预测，而不是自己的直觉。如果应用说“你应该感到快乐”，但你感到悲伤，她们可能会想：“也许我错了，而应用是对的”，而不是“应用错了”。
- 结果： 预测变成了“自我实现的预言”。应用预测了一种情绪，用户感受到了它，应用心想：“看吧！我很准确！”即使这种情绪实际上是由应用引发的。
关键发现 #2：“黑箱”与猜谜游戏
类比： 想象你在玩一款规则隐藏的电子游戏，游戏告诉你：“你做得很棒！”但不告诉你为什么。你必须猜测自己做对了什么。
论文发现：
- 直观但不确定： 用户对 AI 的工作原理有一种“直觉”（例如，“它从我的数据中学习”），但实际上他们并不知道细节。应用很少解释 AI 是如何做出猜测的。
- 数据陷阱： 用户知道应用需要数据才能运行。如果她们不每天记录情绪，应用就会变得“更笨”。但由于应用不解释如何使用这些数据，用户往往是在猜测。
- 隐私困境： 用户担心她们的私人数据（如性生活或心理健康）会被出售，但她们继续使用应用，因为她们想要“洞察”。她们感到被困在渴望隐私与渴望 AI 足够了解她们以提供准确预测之间。
关键发现 #3：“一刀切”的问题
类比： 想象一位裁缝正在制作一套西装。他们有一个针对“标准”身材的版型。如果你有一个非常独特的体型，裁缝会强行让你穿上标准西装。它并不合身，但裁缝一直说：“你只需要调整一下姿势，以便更好地适应西装。”
论文发现：
- “规范”陷阱： 这些应用建立在每个人都拥有规律、可预测的 28 天周期的假设之上。
- 孤立感： 周期不规律（如患有多囊卵巢综合征）的女性，或处于围绝经期/绝经期的女性，感到被疏远。
- 应用不断告诉她们她们的月经“晚了”或“错了”，让她们觉得自己的身体出了问题。
- AI 预测对她们来说往往没有意义，但应用没有提供一种方式来表达：“嘿，我的身体运作方式不同。”
- 这造成了一种孤立感，仿佛技术在说：“是你的身体有问题，而不是应用。”
关键发现 #4：“记录”陷阱
类比： 想象试图仅用一盒 10 支蜡笔来描述一幅复杂的画作。你不得不将你的杰作强行归入“红色”或“蓝色”，即使它实际上是“橙紫色”。
论文发现：
- 强制分类： 当用户记录情绪时，应用会给她们的选项列表（例如，“焦虑”、“易怒”、“悲伤”）。
- 塑造体验： 应用提问的方式会改变答案。如果应用将“焦虑”作为一个类别提出，用户可能会开始将她们的情绪标记为焦虑，即使她们只是“累了”。
- 恶性循环： 用户记录了她们的简化版情绪 -> AI 从这些简化数据中学习 -> AI 基于这些简化数据做出预测 -> 用户感受到这种预测 -> 用户再次记录。AI 从未看到人类体验的真实复杂性。
研究人员的建议（设计启示）
这篇论文不仅指出了问题；它还建议如何解决这种“纠缠”的关系：
- 放慢互动节奏： 与其让应用立即建议“你今天会感到悲伤”，不如让应用首先问：“你感觉如何？”然后再显示任何预测。这样可以阻止“预言”占据主导。
- 展示裂痕： 应用应该诚实。它应该说：“这是基于模式的猜测，可能会出错”，而不是表现得像水晶球一样。
- 尊重不同的身体： 对于周期不规律或处于绝经期的女性，应用应提供“退出”预测的选项，或清楚地说明：“我们的 AI 目前还不太适合你特定的身体类型。”它需要停止将不规律的身体视为“错误”。
- 可定制的记录： 让用户创建自己的情绪标签，而不是强迫她们从有限的预设情绪列表中进行选择。
核心结论
这篇论文认为，我们不能仅仅关注 AI 预测是“准确”还是“不准确”。我们必须关注 AI 如何改变用户对自己身体的体验。
当一名女性使用周期追踪器时，她不仅仅是在阅读数据；她正在与算法共舞。有时算法领舞，有时女性领舞。问题在于，目前的应用设计总是由算法领舞，往往迫使女性遵循一个不适合她独特生活或身体的剧本。目标是设计出能够承认这种伙伴关系，并让用户对这场舞蹈拥有更多控制权的应用。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。