"Where is this coming from?" Uncovering Trustworthiness Ideals in AI-powered Peripartum Information Seeking
通过对分娩人群、临床医生及卫生工作者的焦点小组访谈，本文认为在涉及高风险的围产期护理中，人工智能系统必须通过纳入透明度、追索权和生态系统感知集成，将可检查的可信度置于断言式的权威之上，以应对历史性的不平等和误导性信息。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正处于怀孕期或刚刚生产。你有一个问题：“我可以喝咖啡吗？”或者“为什么我的背会痛？”在过去，你可能会打电话给你的医生。但如今，许多人会转向互联网、社交媒体或 AI 聊天机器人来寻求快速解答。
这篇论文就像是一群侦探（研究人员），他们询问了三类不同的人——准父母、医生和支持人员（如助产士/陪产员）——当他们在网上寻找健康答案时，真正需要的是什么。他们想知道：如果我们建立一个超级智能的 AI 来回答这些问题，我们该如何确保人们真正信任它？
以下是他们发现的研究成果，用简单的语言进行了说明。
核心问题：信任不仅仅关乎“正确”
研究人员发现，对于父母来说，获得“正确”的医学事实是不够的。这就像是一个 GPS，它虽然告诉你最快的路线，却忽略了路面因为抗议活动而封锁，或者忽略了你开的是一辆无法通过桥下限高的卡车。
在怀孕和分娩的世界里，历史是重要的。由于过去的种种不公平对待（尤其是针对黑人和棕色人种群体），许多人不会自动信任医院或医生。他们可能会感到被催促、被忽视或受到差别对待。因此，当他们向 AI 提问时，他们不仅仅是在索取数据；他们是在寻求安慰和安全感。
建立可信 AI 的四条规则
研究人员发现了四条主要的“规则”（主题），即任何想要在这一敏感领域获得信任的 AI 工具都需要遵循的规则。把它们想象成制作一道好菜的配料：
1. “你不孤单”规则（社会意义构建/Social Sensemaking）
比喻： 想象你在森林里迷路了。一张地图（AI）告诉了你方向。但你真正需要的其实是一位朋友对你说：“我也曾在这里迷失过，但我找到了路。你没事的。”
发现： 人们不仅想要事实；他们还想知道是否也有像他们一样的人有过类似的经历。他们想听听同伴的故事。
解决方案： AI 不应该只是一个给出教科书式答案的机器人。它应该认可情绪，使担忧常态化，甚至可以展示其他父母的故事（如果这些故事是安全且经过验证的），让用户感到不再孤单。
2. “多种方式验证”规则（验证多元性/Verification Pluralism）
比喻： 想象你在买一辆二手车。一个人检查发动机，另一个人检查轮胎，第三个人询问修理工。了解车况并不只有一种方法。
发现： 并非所有人信任的东西都一样。有些人 100% 信任他们的医生。有些人认为医生反应太慢或观念陈旧。有些人则信任社区团体。
解决方案： AI 不应该强加一种验证方式。它应该提供不同的工具：“这是医生的说法”、“这是研究报告的说法”，以及“这是一个你可以用来更好地向医生提问的清单”。它让用户选择自己想要如何验证信息。
3. “展示你的过程”规则（可检查的治理/Inspectable Governance）
比喻： 想象魔术师从帽子里变出了一只兔子。如果你问：“兔子是从哪儿来的？”而魔术师说：“相信我，这是魔法。”你不会相信他。但如果他打开帽子并向你展示了那个秘密隔层，你就会相信这个戏法。
发现： 人们对 AI 持怀疑态度。他们会问：“这是谁写的？什么时候写的？如果错了怎么办？如果对我造成了伤害，我该找谁？”
解决方案： AI 必须透明。它需要展示它的“身份证”（来源）、它的“有效期”（最后更新时间）以及如果出错时的明确处理路径。它不能只说“我是值得信赖的”，它必须能够“证明”这一点。
4. “不要增加负担”规则（生态系统互补性/Ecosystem Complementarity）
比喻： 想象你已经背着一个装满了杂货、孩子和工作文件的沉重背包。如果有人递给你一个新的重箱子并说：“来，把这个也背上。”你会把所有东西都丢掉。但如果他们帮你整理好杂货，让包变得更轻便，你会爱死他们的。
发现： 医生和父母都已经精疲力竭了。他们不想要一个会创造更多工作量或搞乱现有系统的工具。
解决方案： AI 不应该试图取代医生。它应该扮演一个得力的助手，帮助用户整理好问题，以便用户能更高效地与医生沟通。它应该知道何时说：“我不知道，请咨询您的医生”，并帮助用户安全地达到目标。
核心总结
论文的结论是：信任无法被宣称，只能被展示。
如果我们构建一个仅仅是“聪明”但不懂得理解历史、不展示来源、且不符合父母和医生真实生活的怀孕 AI，它将会失败。研究人员建议，要让 AI 真正发挥作用，它需要具备透明性、灵活性和以人为本的特性，并承认对于许多人来说，通往健康的旅程也是一段穿越历史与情感的旅程。
简而言之： 不要只构建一个懂得事实的机器人。要构建一个理解提问者本身及其处境的工具。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。