Designing Ethical Artificial Intelligence-Driven Mental Health Applications: A Cross-Contextual Framework Informed by Developers, Digital Ethics Experts, and Digital Health Specialists in Switzerland and Nigeria

想象一下，你正在建造一种新型的数字桥梁，旨在帮助人们跨越心理健康困境的河流。这座桥梁由**人工智能（AI）**构成。它承诺成为一个快速、廉价且随时待命的助手。但本文的作者通过对瑞士（一个建筑规范非常严格的地方）和尼日利亚（一个河流宽阔且资源匮乏的地方）的专家进行访谈发现，我们目前还没有一套稳固的蓝图来安全地建造这座桥梁。

以下是本文内容的通俗化翻译，并使用了类比。

核心问题：“黑箱”与现实世界

目前，AI 心理健康应用正大量涌现。有些像是智能助手，仅仅是聊天；而另一些则试图扮演医生的角色。

• 风险： 这些应用通常是“黑箱”。你输入一个问题，它们给出一个答案，但你不知道它们是如何得出这个答案的。它们可能会有偏见（就像一张只知道一个社区的地图），可能会隐藏自己的错误，或者在危机时刻给出错误的建议。
• 差距： 我们拥有宏大的伦理规则（如“要公平”或“要隐私”），但实际构建这些应用的开发者却缺乏一套清晰、分步骤的指南，将这些宏大规则转化为真实的程序代码。这就像是告诉一位厨师，“做一道美味的饭菜”，却没给他们食谱或食材清单。

研究：两个不同的厨房，同一种配方

研究人员采访了 10 位专家：应用开发者、伦理专家和健康专家。他们对比了两个截然不同的“厨房”：

1. 瑞士（高端厨房）： 这里的重点是严格的监管、完美的证据和遵守法律。这就像是在一名卫生检查员盯着每一个动作的厨房里烹饪。
2. 尼日利亚（社区厨房）： 这里的重点是尽可能让更多人吃到食物，处理网络中断问题，使用多种当地语言，并确保食物价格低廉。这就像是在用有限的物资为整个村庄烹饪。

令人惊讶的是： 尽管厨房不同，但那里的人们所持有的价值观却出奇地相似。他们都对制作一顿安全餐点所需的“核心食材”达成了共识。

八大支柱：这份“安全清单”

本文提出了一个 “八大支柱框架”。可以把它看作是每一款 AI 心理健康应用在开门营业前必须通过的安全检查清单。

1. 明确职责（目标/用途）： 要明确应用的功能。它是朋友、分诊护士还是医生？不要让一个“健康聊天机器人”在无意中开始扮演精神科医生的角色。
   • 类比： 不要用自行车头盔来保护飞行员；要为正确的工作配备正确的装备。
2. 使用合适的工具（适度 AI）： 如果一个简单的规则就能奏效，就不要使用过于复杂的 AI。
   • 类比： 如果你只是想开灯，不要去建造一座核电站。使用一个简单的开关即可。
3. 守护秘密（隐私）： 仅仅锁上门是不够的。你需要知道你保存钥匙多久、谁还有备份，以及如果用户要求时如何归还钥匙。
   • 类比： 这不仅仅是关于有一个保险箱，而是要清楚地知道谁持有组合密码，以及何时清空保险箱。
4. 全民公平（文化契合度）： 应用必须适用于你的特定社区，而不仅仅是适用于那些开发它的人。它需要理解当地的俚语、文化和挣扎。
   • 类比： 一张为纽约市绘制的地图无法帮你引导穿越尼日利亚的乡村。你需要一张本地地图。
5. 人在回路（监督）： 这是最重要的共识。AI 永远不应该是老板。人类必须始终准备好介入，尤其是在情况变得严重时。
   • 类比： AI 是副驾驶，但人类必须始终将手握在操纵杆上，准备在飞机发生剧烈抖动时接管控制。
6. 用通俗易懂的语言保持诚实（透明度）： 不要躲在法律术语后面。要清晰地告诉用户：“我是 AI，我可能会犯错，以下是我能做和不能做的事情。”
   • 类比： 不要提供一份充满细则的合同，而是给用户一场关于他们正在接触什么的清晰、诚实的对话。
7. 谁来负责？（问责制）： 如果应用损坏或伤害了某人，必须有人能够说：“我对此负责。”这不是机器人的错，而是构建和运行它的那些人类的责任。
   • 类比： 如果汽车出了车祸，你不会责怪汽车，而是会寻找司机和制造商。
8. 持续观察（生命周期）： 工作并不会在应用发布时结束。你必须持续观察它，看它是否开始表现异常，或者是否漏掉了某个危机。
   • 类比： 你不只是建造一座桥然后就走开了；你每年都要检查它，以确保它没有生锈。

“核心+语境”模型

本文建议了一种构建这些应用的高明方式：“核心+语境”模型（The Core-Plus-Context Model）。

• 核心（基础）： 这对每个人、每个地方都是一样的。隐私、人类监督和公平性是不可逾越的底线。没有坚实的基础，你就无法建造桥梁。
• 语境（装饰）： 这会根据你所处的位置而改变。
  • 在瑞士，“装饰”可能侧重于繁重的法律文书和严格的测试。
  • 在尼日利亚，“装饰”可能侧重于离线工作、使用多种语言以及足够便宜以供大众使用。

总结

你不能仅仅在 AI 应用上贴上一张“安全”标签就说它合格了。你需要一个活生生的、呼吸着的系统，它尊重当地文化，让渡人类控制权，并承认自身的局限性。

本文的结论是：虽然全世界的规则（核心）是相同的，但我们遵循规则的方式（语境）必须根据你是在高科技城市还是在发展中地区而有所不同。只有这样，我们才能建造一座让所有人都能安全跨越的数字桥梁。