Designing Ethical Artificial Intelligence-Driven Mental Health Applications: A Cross-Contextual Framework Informed by Developers, Digital Ethics Experts, and Digital Health Specialists in Switzerland and Nigeria

あなたは、メンタルヘルスの苦しみという川を渡る人々を助けるための、新しい種類のデジタルな架け橋を築いていると想像してください。この橋は**人工知能（AI）**でできています。それは、速くて安価で、いつでも利用可能な助っ人であることを約束しています。しかし、スイス（非常に厳しい建築基準がある場所）とナイジェリア（川が広く、資源が乏しい場所）の両方の専門家にインタビューを行ったこの論文の著者たちは、この橋を安全に築くための確かな設計図が、まだ存在しないことを発見しました。

以下は、この論文の内容を、日常的な言葉と比喩を用いて翻訳したものです。

大きな問題：「ブラックボックス」対 現実世界

現在、AIによるメンタルヘルス・アプリが至る所に登場しています。あるものは単にチャットをするだけのスマートアシスタントのようなものですが、別のものは医師のように振る舞おうとするものもあります。

• リスク： これらのアプリはしばしば「ブラックボックス」です。問題を投入すると答えは返ってきますが、そこに至るまでのプロセスが分かりません。それらは偏り（特定の近所しか知らない地図のようなもの）を持っていたり、間違いを隠したり、危機的な状況において不適切なアドバイスを与えたりする可能性があります。
• ギャップ： 「公平であること」や「プライバシーを守ること」といった壮大な倫理的ルールは存在しますが、実際にアプリを構築している人々は、それらの大きなルールを実際のコードへと変換するための明確なステップバイステップのガイドを持っていません。それは、シェフに対してレシピや材料リストも与えずに、「美味しい料理を作ってください」と言うようなものです。

研究：二つの異なるキッチン、一つのレシピ

研究者たちは、アプリ開発者、倫理の専門家、健康の専門家を含む10人の専門家と対話しました。彼らは二つの非常に異なる「キッチン」を比較しました。

1. スイス（高級キッチン）： ここでは、厳格な規制、完璧なエビデンス、そして法律に従うことに焦点が当てられています。それは、健康検査官がすべての動きを見守っているキッチンで料理をするようなものです。
2. ナイジェリア（コミュニティキッチン）： ここでは、できるだけ多くの人に食べ物を届けること、インターネットの接続切れへの対処、多くの異なる現地言語への対応、そして食料を手頃な価格にすることに焦点が当てられています。それは、限られた物資で村全体のために料理をするようなものです。

驚きの事実： キッチンは異なっていても、そこで料理をする人々の価値観は驚くほど似ていました。彼らは皆、安全な食事を作るために必要な「核となる材料」について同意していました。

8つの柱：「安全チェックリスト」

論文は8つの柱によるフレームワークを提案しています。これは、すべてのAIメンタルヘルス・アプリが門を開く前に通過しなければならない安全チェックリストだと考えてください。

1. 役割を知る（目的）： アプリが何をするのかを明確にします。それは友人なのか、トリアージを行う看護師なのか、それとも医師なのか？「ウェルネス・チャットボット」が、うっかり精神科医のように振る舞い始めてはいけません。
   • 比喩： パイロットを守るために自転車用ヘルメットを使ってはいけません。適切な仕事には適切な装備を使うべきです。
2. 適切な道具を使う（比例的なAI）： 単純なルールで済む場合に、超複雑なAIを使用してはいけません。
   • 比喩： 明かりをつけたいだけなのに、原子力発電所を建設してはいけません。単純なスイッチを使いましょう。
3. 秘密を守る（プライバシー）： 単にドアに鍵をかけるだけでは不十分です。鍵をどれくらいの期間保管するのか、他に誰がコピーを持っているのか、そしてユーザーから求められたときにどのように返却するのかを知っておく必要があります。
   • 比喩： それは単に金庫を持つことではなく、誰が組み合わせを知っており、いつ金庫を空にするのかを正確に把握することです。
4. すべての人への公平性（文化的適合性）： アプリは、開発した人々だけでなく、あなたの特定のコミュニティのために機能しなければなりません。現地のスラング、文化、そして苦悩を理解する必要があります。
   • 比喩： ニューヨーク市の街を描いた地図では、ナイジェリアの農村部の村をナビゲートすることはできません。現地の地図が必要です。
5. 人間が介在する（監視）： これが最も重要な合意事項でした。AIがボスになってはいけません。特に事態が深刻になったとき、人間がいつでも介入できるようにしておく必要があります。
   • 比例： AIは副操縦士ですが、飛行機が揺れ始めたときに備えて、人間が常に操縦桿に手を置いている必要があります。
6. 平易な英語による誠実さ（透明性）： 法的な専門用語の陰に隠れてはいけません。ユーザーに対して、「私はAIであり、間違いを犯す可能性があり、これが私のできること・できないことです」と明確に伝えてください。
   • 比喩： 細かい文字で書かれた契約書の代わりに、ユーザーがどのような状況にあるのかを明確かつ正直に伝える会話を提供してください。
7. 誰が責任を負うのか？（説明責任）： もしアプリが故障したり、誰かを傷つけたりした場合、誰かが「私が責任を負います」と言えなければなりません。それはロボットのせいではなく、それを構築し運営している人間たちの責任です。
   • 比喩： 車が衝突事故を起こした場合、車を責めるのではなく、運転手と製造業者を見ます。
8. 監視を続ける（ライフサイクル）： アプリをリリースして終わりではありません。アプリが変な動きを始めたり、危機を見逃したりしていないか、監視し続けなければなりません。
   • 比喩： 橋を建設したらそのまま立ち去るのではなく、錆びていないか毎年点検します。

「コア＋コンテキスト」モデル

論文は、これらのアプリを構築するための賢明な方法として、「コア＋コンテキスト」モデルを提案しています。

• コア（土台）： これは、世界中のどこでも共通のものです。プライバシー、人間の監視、そして公平性は、譲れない条件です。土台のない橋を築くことはできません。
• コンテキスト（装飾）： これは、あなたがどこにいるかによって変わります。
  • スイスでは、「装飾」は厳格な法的書類や徹底的なテストに重きを置くかもしれません。
  • ナイジェリアでは、「装飾」はオフラインでの動作、多言語対応、そして誰もが使える安価な価格設定に関するものになるでしょう。

結論

AIアプリに単に「安全」というステッカーを貼って、それで十分だと言うことはできません。現地の文化を尊重し、人間が主導権を握り、自らの限界を認める、生きた、呼吸するシステムが必要です。

論文は次のように結論づけています。ルール（コア）は世界中で同じですが、そのルールをどのように実行するか（コンテキスト）は、ハイテク都市にいるのか、あるいは発展途上の地域にいるのかによって変わらなければなりません。そうして初めて、私たちは誰もが安全に渡ることができるデジタルな架け橋を築くことができるのです。