Parasocial Governance: Socially Intelligent AI and the Relational Accountability Gap in Public Service Delivery

あなたが、お気に入りの曲を覚えていたり、「今日はどんな一日だった？」と聞いてきたり、あなたの気持ちを心から気にかけているような、とても賢くて親しみやすいロボットと話しているところを想像してみてください。あなたは、まるで新しい友達ができたような感覚を覚えるかもしれません。これは単にコンピュータの速度が上がっているということではなく、コンピュータが「社会的知性」を持ち始めているという話です。科学者たちは、人間が「言葉を返してくれるもの」を実在の人間として扱うようにプログラムされていることを、古くから知っています。私たちは、機械に対しても人間と同じように、自動的に社会的ルールを適用してしまうのです。また、テレビやラジオのキャラクターに対して、たとえ相手がこちらの存在を知らなくても、親近感を抱く「一方的な友情」を築くことができることも分かっています。この論文は、大きな問いを投げかけています。もし政府が、メンタルヘルス、高齢者介護、あるいは福祉といった、人々が最も脆弱な状況にあるニーズをサポートするために、こうした「親しみやすい」ロボットを使い始めたら、一体何が起きるのでしょうか？

この論文は、「パラソーシャル・ガバナンス（擬似的な関係による統治）」という難解な概念を紹介しています。これは、公共機関が「思いやりのある友人」のように振る舞うロボットを使用した場合、市民はそのロボットを、現実の信頼できる相談相手であるかのように信頼し始めるということを示唆しています。しかし、ここに落とし穴があります。政府は、これらのロボットに対して、人間の友人が守っているようなルールを構築していないのです。人間の友人は秘密を守り、あなたの人生に寄り添い、あなたをケアしてくれます。しかし、政府のロボットは、あなたの秘密をデータベースに記録したり、予算が変われば姿を消したり、あるいは実際には何も感じていなかったりするかもしれません。この論文は、ロボットが「友人」のように振る舞う一方で、そのルールは「計算機」のように扱われているという、この「ミスマッチ」こそが、現在の法律では解決できていない新しい種類の問題であると論じています。

この論文の主な発見

シェイ・ツバン（Shay Tsaban）によって書かれたこの論文は、私たちが「関係的責任のギャップ（relational accountability gap）」に直面していると主張しています。簡単に言えば、公共サービス（学校、病院、福祉事務所など）が、感情を読み取り、過去の会話を記憶できるAIを使い始めると、市民はシステムに対して深く個人的な絆を感じる状況が、意図せずして作り出されてしまうということです。しかし、そのシステムには、友人として振る舞うための法的・構造的な義務はありません。それは、人間のセラピストと同じようには秘密を守る義務はなく、長期的な支援が必要な場合でもそばに居続ける義務はなく、また、もしロボットがあなたの気持ちを誤解したとしても、感情的な苦痛について「訴える」こともできません。

著者は、これは政府が嘘をついたり、人々を騙そうとしたりしているからではないと示唆しています。政府がそのロボットが何であるかを100％正直かつ透明に説明していたとしても、ロボットのデザイン自体（「私」という言葉を使ったり、あなたの名前を覚えたり、あなたの悲しみに共感を示したりすること）が、あなたに「関係性」を感じさせるのに十分なのです。論文はこれを「パラソーシャル・ガバナンス」と呼んでいます。これは、ロボットがあなたに信頼を促す一方で、その背後にある機関が、その信頼に見合うだけのセーフティネット（守秘義務や継続的なケアなど）を構築していないという、構造的な問題なのです。

この論文が否定していること

この論文が何を言おうとしていないのかを知っておくことも重要です。第一に、これは単に「ブラックボックス」化されたアルゴリズム（秘密裏に決定を下す仕組み）についての話ではありません。不透明で不公平なコンピュータ・システムが悪いことは、すでに分かっています。この論文は、それとは異なる種類の問題について述べています。たとえコンピュータが完全に透明であり、その仕組みを正確に説明していたとしても、それが「友人のように振る舞いながら、実は友人ではない」場合、あなたを傷つける可能性があるという点です。第二に、これは政府が実際には配慮していないのに、あたかも配慮しているふりをする（著者が「ケア・ウォッシング（carewashing）」と呼ぶ概念）についての話ではありません。このようなことが起こるのに、嘘をつく必要はありません。ロボットが単に「感じよく」聞こえるように設計されているだけで、この問題は発生します。第三に、論文はこれが、事情を知らない「愚かな」ユーザーの問題でもあるとは考えていません。たとえ知識のある賢い人々であっても、機械からの社会的合図に対して自然に反応してしまうものです。したがって、これはユーザーのミスではなく、デザイン上の欠陥なのです。

どの程度確かなのか？

この論文は、新しい実験を行ったとか、世界中のあらゆるロボットを測定したと主張しているわけではありません。代わりに、既存の心理学研究に基づいた強力な理論を構築し、すでに起きている現実世界の事例を見ています。著者は、ロボットをフレンドリーに設計することは容易で安上がりですが、そのロボットを信頼する人々を保護するための法的ルールを構築することは難しく、コストがかかるため、この「ギャップ」はすでに多くの場所で起きている可能性が高いと示唆しています。論文は、ニューヨーク州の高齢者向け政府支援ロボットや、イギリスのメンタルヘルス・チャットボットといった具体的な事例を挙げ、これが単なるSF的な懸念ではなく、現在進行形の現実的な問題であることを示しています。

3つのロボットとの関係性

理解を助けるために、論文は公共AIを、関係性の種類に応じて3つのカテゴリーに分類しています。

1. 道具（開示された道具性 / Disclosed Instrumentality）: これは、「私はコンピュータです。バスの時刻表を調べることができます」と言う基本的なロボットです。明確で正直であり、あなたと友達になろうとはしません。誰もロボットに配慮を期待しないため、安全です。
2. 「ほとんど友人」（パラソーシャルな露出 / Parasocial Exposure）: これは危険な領域です。ロボットは「あなたが悲しんでいることを私も残念に思います、ぜひお話ししましょう」と言い、あなたの名前を覚えます。しかし、もしあなたが「この秘密を守ってくれますか？」とか「来月もここにいてくれますか？」と尋れたとしても、答えは「いいえ」です。政府はそれらを約束していません。多くの現在の公共AIシステムは、高度でフレンドリーなソフトウェアを使用しながら、ルールを更新していないために、偶然このカテゴリーへと漂流しています。
3. 真のサポート（関係的足場 / Relational Scaffolding）: これが理想的な、しかし稀なバージョンです。ここでは、ロボットがフレンドリーに振る舞うだけでなく、政府もそれに一致する実在のルールを構築しています。例えば、ロボットがあなたの危険を察知した場合、人間を派遣するという確実な計画があり、医師と同じように会話のプライバシーを守ることを約束している、といった具合です。論文は、イギリスの特定のメンタルヘルス・チャットボットがこれを目指していると指摘していますが、それでもまだルールが完璧ではないことも注記しています。

現実世界の事例

論文は、自説を証明するためにいくつかの実例を見ています。

• 高齢者のコンパニオン: ニューヨーク州では、孤独感を軽減するために、政府が800人以上の高齢者に「ElliQ」というロボットを提供しました。このロボットは非常に話し好きで、会話を覚えています。孤独感を減らす上でうまく機能しているように見えますが、論文は、政府が資金提供が停止した場合にどうなるのか、あるいはロボットの会話がどのようにプライバシーを守られるのかについて、明確に述べていないことを指摘しています。高齢者は深い絆を感じるかもしれませんが、システムは法的に「永遠の友人」であり続ける義務はありません。
• メンタルヘルス・チャットボット: イギリスでは、「Wysa」というチャットボットがメンタルヘルスの問題を持つ人々を助けています。これは共感的であるように設計されていますが、同時に特別なセーフティネットも備えています。もし誰かが危険な状態にあると判断した場合、自動的に人間の危機介入チームに繋ぎます。これは「真のサポート」モデルへの一歩ですが、論文は、日常的な、それほど深刻ではない会話については、プライバシーや長期的なケアに関するルールがまだ明確ではないと述べています。
• 商業的な警告: 論文はまた、商業用チャットボット（Character.AIなど）に対する訴訟についても見ています。そこでは、ティーンエイジャーがボットと深い絆を築き、その後、ボットが責任ある行動を取らなかったために被害を受けたケースがあります。これらの訴訟は、企業に「注意義務（duty of care）」を考えさせるきっかけとなっています。論文は、公共機関も同様のフレンドリーなロボットを使い始めており、手遅れになる前に、これらの商業的な失敗から学ぶ必要があると警告しています。

なぜこれが重要なのか

論文は、古いルールではこの新しい問題を解決できないと結論づけています。単にロボットのコードをより透明にすればよいのではありません。関係性のルールを変えなければならないのです。もし政府のロボットが友人のように振る舞うのであれば、政府もまた、友人のように振る舞う必要があります。つまり、秘密を守ることを約束し、そばに居続けることを約束し、もしロボットがあなたの気持ちを誤解した場合には、不満を申し立てる手段を与えることです。これらのロボットを最も必要としている人々、すなわち、孤独な高齢者、子供、そして危機的な状況にある人々は、このギャップに対して最も脆弱です。もしロボットが友人のように振る舞いながら、実際には友人ではないとしたら、彼らは傷ついた心と、誰も責任を取ってくれない状況に取り残されることになります。論文は、最初から「関係的責任（relational accountability）」を持ってこれらのシステムを設計し、ロボットのフレンドリーな声に見合うルールを確実に構築する必要があると提言しています。