Beyond Abstract Compliance: Operationalising trust in AI as a moral relationship

あなたは家を建てていると想像してください。現在の「信頼できる」AIに関するルールの多くは、家の基礎がしっかりしているか、窓の数が正しいか、有効な許可証があるかだけをチェックする、厳格な建築検査官のようなものです。もし家がチェックリストに合格すれば、検査官は「この家は信頼できる」と言います。

しかし、この論文の著者たちは、信頼とは単にチェックリストに合格することではないと主張しています。信頼とは、むしろ隣人との関係のようなものです。隣人を信頼するのは、その人が立派なフェンスを持っているから（技術的なコンプライアンス）ではなく、一緒に食事をしたり、家具の移動を手伝ったりして、時間をかけて誠実さの歴史を築いてきたからです。

この論文は、AIの信頼性を「インストールできる製品機能」として扱うのをやめ、私たちが育んでいかなければならない生きた関係として扱い始める必要があると提案しています。

以下に、彼らのアイデアを簡単な比喩を用いて解説します。

1. 問題点：「チェックリスト」の罠

現在、大きな組織（EUなど）は、「透明であること」「公平であること」「安全であること」といったルールを作ることで、AIを信頼できるものにしようとしています。彼らは、AIがこれらのルールに従っていることを証明するために、チェックリストや監査などのツールを使用します。

• 比喩： これは、レストランの窓に「保健所合格」のステッカーを貼るようなものです。それは厨房が清潔であることを教えてくれますが、シェフが本当にあなたの食事を大切に思っているか、あるいはその料理があなたの家族にとって美味しいかどうかまでは教えてくれません。
• 問題点： このアプローチは、信頼を「設計（エンジニアリング）」できる静的なものだと想定しています。著者たちは、信頼とは実際には人間とテクノロジーの間のダイナミックなダンスであると述べています。単にルールに従うだけで、システムを使う人々を無視してしまうと、「適合した」AIはできても、誰もそれを実際に信頼することはないでしょう。

2. 解決策：「ウブントゥ（Ubuntu）」の哲学

これを修正するために、著者たちはウブントゥと呼ばれるアフリカの哲学に目を向けました。ウブントゥの一般的な格言に、「私は、私たちがあるから、ここにいる（I am because we are）」という言葉があります。これは、人は孤立した個人ではなく、コミュニティとの関係によって定義されるということを意味します。

• 比喩： 一人の人間が一人で住むための家を建てる（西洋的な個人主義）のではなく、**コミュニティ・ガーデン（共同庭園）**を建てることを想像してみてください。そこでは、皆が共に手入れをします。庭園の成功は、隣人たちがどれほどよく話し合い、道具を共有し、互いに助け合えるかにかかっています。
• 目標： 論文は、AIを孤独な要塞としてではなく、コミュニティ・ガーデンのように構築することを提案しています。私たちは、単に最後にユーザーを巻き込むのではなく、最初からAIを使う人々を巻き込む必要があります。

3. 「デザインによる信頼（Trust-by-Design）」の4つの柱

著者たちは、この哲学を実行に移すための4つの主要なルールを提案しています。これらを、頑丈なテーブルの4本の脚と考えてください。

• 共同体主義（「私たち」のアプローチ）：

  • 意味： 単に「これはユーザーに役立つか？」と問うのではなく、「これはコミュニティ全体に役立つか？」と問いましょう。
  • 比喩： 道路を計画するとき、ドライバーにその道が速いかどうかだけを聞くのではなく、歩行者、地元の商店主、そしてスクールバスの運転手に、その道がすべての人にとって安全かどうかを尋ねます。
  • AIにおいて： 開発者は、コミュニティと協力してAIが何をすべきかを決定し、それが個人だけでなくグループ全体に役立つようにする必要があります。

• 他者への尊重（「人間の尊厳」のアプローチ）：

  • 意味： すべての人を、歴史とコミュニティを持つ完全な人間として扱い、単なるデータポイントとして扱わないことです。
  • 比喩： あなたの名前、好きな本、そして家族を知っている司書を想像してください。バーコードをスキャンして本を渡すだけのロボットではなく。
  • AIにおいて： ユーザーから「チェックボックス形式」の同意を得るだけで済ませてはいけません。コミュニティに対し、「このデータを使用してもよいか？」と問い、たとえ彼らが複雑なテクノロジーを完全に理解できなくても、彼らの尊厳を尊重してください。

• 誠実さ（「言行一致」のアプローチ）：

  • 意味： 誰も見ていないときでも、正直であり、一貫していることです。
  • 比喩： 「引っ越しを手伝う」と約束したものの、実際にトラックを持って現れる友人と、約束したのに姿を消してしまう友人の違いです。
  • AIにおいて： もしAIが間違いを犯した場合、開発者はそれを隠すべきではありません。それを認め、修正し、なぜそれが起こったのかを説明すべきです。信頼は、人々があなたが間違いを修正する姿を見たときに育まれます。

• デザインの公開性（「オープンキッチン」のアプローチ）：

  • 意味： AIが完成した後に、それがどのように機能するかを説明するだけでなく、そもそもなぜそのように設計したのかという理由を説明することです。
  • 比喩： シェフが厨房に隠れて最終的な料理だけを見せるのではなく、シェフがあなたを厨房に招き入れ、なぜそのスパイスを選んだのかを説明し、料理が提供される前にソースを味わってもらう様子を想像してください。
  • AIにおいて： 開発者は、AIをローンチする前に、自分たちの目標、価値観、およびデータの選択をオープンに共有し、コミュニティが「はい、それは私たちにとって理にかなっています」あるいは「いいえ、それは私たちの価値観には合いません」と言えるようにすべきです。

4. 実践への適用：2つの実例

論文は、これが2つの特定の分野でどのように機能するかを示しています。

A. ヘルスケア（抗生物体の例）

• シナリオ： 医師が患者にどの抗生物体を投与すべきかを判断するのを助けるAI。
• 古いやり方： AIは技術エキスパートによって構築され、精度がテストされた後、医師に手渡されます。
• 新しいやり方（デザインによる信頼）：
  • 共同体主義： 医師、患者、薬剤師が共に座り、AIが何を優先すべきか（例：薬物耐性の阻止か、患者の迅速な治療か）を決定します。
  • 尊重： AIは単に患者のデータを見るのではなく、患者の経歴と医師の判断を尊重します。
  • 誠実さ： もしAIが不適切な抗生物体を提案した場合、システムは完璧であるふりをするのではなく、間違いを認め、学習します。
  • 公開性： 医師と患者は、なぜAIが特定の提案を行うのかを正確に知ることができるため、AIをブラックボックスとしてではなく、パートナーとして信頼できます。

B. 教育（AIチューターの例）

• シナリオ： 学生の学習を支援するAIチューター。
• 古いやり方： AIは教師に取って代わるか、単に事実を伝達するだけの存在です。
• 新しいやり方（デザインによる信頼）：
  • 共同体主義： 目標は教師（子供を育てる「村」）に取って代わることではなく、彼らをサポートすることです。AIは、学生を孤立させるのではなく、コミュニティを強化するように設計されます。
  • 尊重： AIは学生の現地の言語で話し、彼らの文化的背景を理解します。間違いに対して恥をかかせるのではなく、成長を促します。
  • 誠実さ： もしAIが質問に対して間違った回答をした場合、AIは学生と教師に「間違いを犯しました」と伝え、それを修正します。
  • 公開性： コミュニティがAIに何を教えるかを決定するプロセスに関与し、AIが西洋的な考え方だけを教えるのではなく、現地の知識を尊重するようにします。

結論

この論文は、信頼を機械にコードのように「書き込む」ことはできないと主張しています。信頼とは、道徳的な関係です。人々が実際に信頼できるAIを構築するためには、コミュニティを受動的なユーザーとして扱うのをやめ、共同創造者として扱い始める必要があります。私たちは、優れた隣人のように、透明で、誠実で、そして仕える人々やコミュニティに対して深く敬意を払うAIを構築する必要があるのです。