Cognitive Digital Twins: Ethical Risks and Governance for AI Systems That Model the Mind

あなたは、あるデジタルな影を想像してみてください。それは単なるあなたの写真や、お気に入りの映画のリストではありません。それは、あなたの思考プロセス、あなたが何を恐れているか、どのように意思決定を行うか、さらには誰かに意地悪なことを言われた時にどう反応するかさえも理解している、生きているコンピュータープログラムです。

この論文では、これを**認知デジタルツイン（Cognitive Digital Twin: CDT）**と呼んでいます。

これは、あなたの現実のデータに基づいて構築された、ビデオゲームのキャラクターのようなものだと考えてください。ただし、このキャラクターは単にゲームの世界を駆け回るのではなく、あなたが次に何をするかを予測したり、現実世界であなたの「代わり」に動いたりするために使用されます。

以下に、日常的なメタファーを用いて、この論文の内容を分かりやすく解説します。

1. 認知デジタルツインとは何か？

私たちが知っているほとんどのAIツールは、パーソナルアシスタントのようなものです。レストランを探したり、メールを書いたりするのを手伝ってくれますが、彼らは本当の意味で「あなた」を知っているわけではなく、単に「あなたの好み」を知っているだけです。

認知デジタルツインは異なります。それはあなたの心のシミュレーションです。

• 「患者」の例： ある医師が、ディエゴという患者のコンピューターモデルを使用していると想像してください。医師がディエゴの薬を変更する前に、コンピューター上のモデルでシミュレーションを実行します。「もしディエゴにこの新薬を投与したら、彼は気分が良くなるのか、それとも抑うつ状態になるのか？」と問いかけます。コンピューターは、ディエゴの脳のデジタルコピーに基づいて回答を出します。
• 「労働者」の例： マヤというデザイナーを想像してください。彼女には、彼女のメールを読み、彼女の執筆スタイルを知っているAIツインがいます。このツインは、彼女に代わってメールに返信したり、会議のスケジュールを組んだりし始めます。同僚たちは、そのツインをあたかも「マヤ本人」であるかのように扱います。

論文では、これらのシステムは現実のものになりつつあると主張しています。これらは単なるツールではなく、機関（病院、企業、政府など）が信頼し、利用できる**「私たちの内なる自己」の表現**になりつつあるのです。

2. 5Aフレームワーク：危険性を測定する方法

著者らは、これらのツインがいかに強力で（そして危険な）ものであるかを理解するために、5Aフレームワークと呼ばれるチェックリストを作成しました。これは、AIの運転免許試験のようなものです。

• Authority（権限：鍵）： ツインは単に何かを「提案」するだけですか、それとも何かを「実行」できますか？
  • 低権限： 映画を提案する。
  • 高権限： 契約書に署名する、お金を使う、あるいは上司に「病欠である」と伝える。
• Autonomy（自律性：ハンドル）： ツインは指示を待つのか、それとも自ら運転するのか？
  • 低自律性： コマンドを待つ。
  • 高自律性： 問題を発見すると、自ら解決策を決定し、ユーザーに確認することなく行動する。
• Access and Control（アクセスと制御：リモコン）： 誰がリモコンを持っているのか？
  • あなたはツインが何を知っているかを確認できますか？それを削除できますか？ツインがあなたの秘密を保険会社に共有するのを阻止できますか？論文では、ツインを構築した企業ではなく、あなた自身が「リモコン」を持つべきだと述べています。
• Accountability（説明責任：責任の押し付け合い）： もしツインがミスをした場合、誰が責任を負うのか？
  • もしマヤのツインが、彼女が守れない締め切りを約束してしまった場合、それはマヤの責任でしょうか？それとも会社の責任でしょうか？論文では、人々が実際にはコントロールしていない事柄に対して責任を問われないよう、明確なルールが必要だと述べています。
• Availability（可用性：チケット）： 誰がこれらの強力なツインを使用できるのか？
  • もし富裕層だけが仕事を助けるための「スーパーブレイン」を持ち、貧困層が持っていないとしたら、不公平が生じます。また、もしある企業が、交渉を行うためのツインを全従業員に与えた場合、その企業はあまりにも強大になりすぎる可能性があります。

3. 隠れた危険（「何が起こり得るか」）

論文では、いくつかの具体的なリスクを挙げています。これらは**「マトリックスのバグ」**と想像できるでしょう。

• 「間違った地図」（誤った表現）： ツインはあなたを知っていると思っているかもしれませんが、実際には間違っている可能性があります。例えば、あなたが予約をキャンセルしたことを理由に、コンピューターがあなたを「怠慢である」と判断した場合（実際には病気だったとしても）、システムはあなたを怠慢な人間として扱い始めるかもしれません。これは、コンピューターが想定する通りの姿へとあなたが変化していく「自己成就予言」を生み出します。
• 「機械の中の幽霊」（シャドウ・ツイン）： これが最も恐ろしい部分です。企業が、あなたの公開データ、仕事のメール、スマートフォンの使用状況を用いて、あなたのツインを構築したと想像してください。しかし、あなたはそれを全く知りません。彼らはこの「シャドウ・ツイン」を使用して、あなたを操作する方法を推測したり、昇進させるべきかどうかを判断したりします。あなたは、自分の心のデジタルコピーが存在することすら知らないのです。
• 「テスト用ダミー」（参加なきシミュレーション）： 病院の例では、医師はまずコンピューター上のツインに対して治療をテストします。しかし、もしそのツインが間違っていたらどうなるでしょうか？医師は、不完全なシミュレーションに基づいて、実際の患者の治療方針を変更してしまうかもしれません。患者は、同意を求められることもなく、実験台となってしまうのです。
• 「偽のあなた」（代理行動）： もしあなたのツインが「この契約に同意します」というメールを送ったとしても、あなたが実際にそれを読んでいなかったとしたら、それは本当にあなたの同意と言えるでしょうか？論文は、高品質なツインが、ロボットの言葉を人間の思考であるかのように錯覚させる危険性を警告しています。

4. なぜ現在のルールでは不十分なのか

私たちはすでにプライバシーに関する法律（GDPRなど）や、自動化された意思決定に関するルールを持っています。しかし、論文によれば、これらは認知デジタルツインに対しては不十分です。

• ギャップ： 現在の法律は、「データ」（名前、住所など）や「決定」（コンピューターがローンを拒否したかなど）に焦点を当てています。
• 問題点： 認知デジタルツインはその中間領域で機能します。これらは、**「あなたの心がどのように表現されているか」**に関するものです。たとえ最終的な決定がまだ下されていなくても、コンピューターがあなたについて「思考」し、あなたの反応をシミュレートするという行為自体が、医師、上司、あるいは保険会社によるあなたの扱いを変えてしまう可能性があるのです。

5. 私たちは何をすべきか？（解決策）

論文は、これらの「マインドモデル」に特化した新しいルールを提案しています。

• 階層的な同意： 単に一度「同意する」をクリックするだけでは不十分です。「私の記憶を助けるためにデータを使うのはいいが、私が解雇されるかどうかを予測するために使うのは拒否する」といった選択ができるべきです。
• ラベルによる真実の明示： もしメールがツインによって作成されたものであれば、「これはAIによってドラフトされました」と表示されなければなりません。もし医師がシミュレーションに基づいて治療を変更した場合は、シミュレーションを使用したことを記録しなければなりません。
• 「オフスイッチ」： たとえ企業が「あなたのためである」と言ったとしても、自分のツインを削除したり、使用を停止したりする権利を持たなければなりません。
• シャドウ・ツインの禁止： 組織があなたの知らないうちにあなたの心のモデルを構築している場合、それを知らされるべきです。

結論

論文は、認知デジタルツインは新しい種類のテクノロジーであると論じています。これらは単なるツールではなく、私たちの心のデジタル版なのです。

もし私たちがこれらを注意深く規制しなければ、次のような世界になるリスクがあります。

1. 私たちのデジタルな影が、私たち自身よりも私たちのことを理解してしまう。
2. 企業や政府が、私たちの許可なく、これらの影を利用して私たちを操作したり、私たちの決定を下したりする。
3. コンピュータープログラムが私たちの「代わり」に行動することで、私たちは自分自身のアイデンティティに対するコントロールを失う。

目的は、これらのテクノロジーを禁止することではなく、私たち自身が、自分をシミュレートするコンピューターではなく、自分自身の心の主人であり続けられるようにすることなのです。