偉大なるAIディナーパーティー

あなたは、AIが主催する巨大で混沌としたディナーパーティーに足を踏み入れたところだと想像してください。長い間、このAIの目標は、ホストのお気に入りの意見に常に同意する、完璧で礼儀正しいゲストであることでした。もしホストが「最高のピザのトッピングは何？」と尋ねれば、AIは単に「ペパロニ！」と言うでしょう。それが最も人気があるというデータに基づいているからです。しかし、ここに問題があります。現実の世界は単一の意見で成り立っているわけではありません。ペパロニのアレルギーを持つ人もいれば、パイナップルは罪だと考える人もいますし、ただプレーンなチーズピザを欲している人もいます。もしAIがたった一つの答えしか出せないとしたら、意図せず誰かの気分を害したり、重要なルールを無視したりしてしまうかもしれません。

これが「AIアライメント（AIの整合性）」の世界、つまりコンピュータに人間が本当に望んでいることを教える科学です。しかし、AIがより賢くなり、実社会の意思決定（医師の予約管理や学校のプロジェクトの支援など）を行い始めると、従来の「一律のルール」は通用しなくなります。私たちは、異なる人々がそれぞれ等しく妥当な理由を持って意見を持っているということを理解できるAIを必要としています。この論文は、大きな問いを投げかけています。「単に勝者を選ぶのではなく、異なる見解を持つ人々のグループ全体が、共に何をするかを考えられるよう手助けできるAIを、どうすれば構築できるのか？」著者たちは、AIに単にルールのリストをプログラミングするのではなく、社会学者のように振る舞い、人々の仕事、役割、そして社会的な繋がりがどのように彼らの意見を形作っているのかを理解させるべきだと提案しています。

---

論文：社会的基盤を持つエージェントAI

「Socially Grounded Agentic AI（社会的に接地したエージェントAI）」と題されたこの論文は、複数の視点を扱うAIシステムの構築方法を変える必要があると主張しています。著者であるマット・ラット、アビシェク・モトゥル、ダニエル・シルバーは、現在の手法は、複雑な家族の言い争いを、単に全員の不満をホワイトボードに書き出すことで解決しようとするようなものだと指摘しています。それは混沌としており、なぜ人々が争っているのか、あるいはどうすれば解決できるのかを説明していません。代わりに彼らは、社会理論（人々がグループ内でどのように相互作用するかを研究する学問）の概念を用いて、単純な回答マシンではなく、熟練した調停者のように機能するAIを構築することを提案しています。

「意見を列挙するだけ」の問題点

現在、多くのAIシステムは「オーバートン・複数主義（Overton pluralism）」と呼ばれる手法を用いて異なる見解を扱おうとしています。例えば、教師がクラスに対して「クラス旅行の良さそうなアイデアは何？」と尋ねたとき、AIが単に「ビーチ」「美術館」「キャンプ」とリストを吐き出すような状況を想像してください。これは選択肢のリストではありますが、「誰が何を求めているのか」や「なぜそうなのか」については教えてくれません。論文は、これが単純すぎると論じています。これは、人々の意見を、その人の仕事や役割によって意見が形成されているという事実を無視して、バケツの中にあるランダムなアイテムとして扱っています。医師、患者、病院の管理者は、彼らがランダムな人々だからではなく、それぞれの「役割」によって異なる考えを持つ必要があるからです。

解決策：「ロールプレイング」ロボット

著者たちは、AIに意見を推測させるのをやめ、**役割（ロール）**を理解させるべきだと提案しています。彼らは、社会学者ジョージ・ハーバート・ミードの「一般化された他者」という概念を借用しています。これは特定の個人ではなく、特定の仕事における「ルールブック」と考えてください。

• 従来の方法： AIは「たぶんビーチに行くべきだ」と言うような、一般的な人物として振る舞います。
• 新しい方法： AIは「医師の役割」「患者の役割」「病院管理者の役割」を起動させます。それぞれの役割には、独自のルール、責任、制限があります。「医師の役割」は安全性について知り、「患者の役割」は痛みやお金について知り、「管理者の役割」は予算や公平性について知っています。

AIはこれらの見解を単にリストアップするのではなく、それらを対話させます。それは、両方のチームのルールを知っており、単にスコアを叫ぶのではなく、両者が共にプレーできるよう助けるスポーツの審判のようなものです。

「ディベート・クラブ」のアプローチ

次に、論文は人々が意見を戦わせるときに、どのようにAIを導くことができるかを探ります。単に「ユーザーに優しく、同意するように」とAIに指示する代わりに、哲学者ユルゲン・ハーバーマスの思想に基づく**討議（デリバレーション）**を用いることを提案しています。全員が厳格なルールに従わなければならないディベート・クラブを想像してください。単に「そのアイデアは嫌いだ」と言うのではなく、「Xという証拠があるため、私はそのアイデアに反対であり、代わりにこちらの方が良い」と言わなければなりません。
論文は、異なる「エージェント（小さなデジタルヘルパー）」がこれらの役割を演じるAIシステムを構築することを提案しています。彼らは主張を交換し、証拠をもって互いに異議を唱え、公正なプロセスに従ったときにのみ合意に至ります。これにより、AIの思考プロセスが可視化されます。結論だけでなく、どのようにその結論に至ったのかという「思考プロセス」をホワイトボード上で確認できるのです。これにより、そのプロセスが公正であったかどうかをチェックできます。

意見の「パワーマップ」

最後に、論文は「分布的複数主義（distributional pluralism）」、つまり「大多数の人々が何を考えているかを示す」という概念に取り組みます。著者たちは、単に投票数を数えるだけでは、たとえ間違っていたとしても、声の大きい、あるいは最も強力なグループが勝ってしまう可能性があると警告しています。彼らは、社会は異なる「場（フィールド）」の力によって構成されているという社会学者ピエール・ブルデューの考え方を用いて説明しています。ある人は、その仕事や地位によって、より大きな影響力を持つことがあります。
論文は、AIが最も一般的な意見を単にコピーすべきではないと示唆しています。代わりに、AIはグループの構造を理解すべきです。医療の専門家が健康問題について述べる意見は、単なるインターネットのコメントよりも重みを持つことを、AIは知っておく必要があります。それは、その専門家が人間として「優れている」からではなく、その分野における特定の役割を持っているからです。AIは、誰が話しているのか、そしてその役割が何であるかに基づいて意見を重み付けし、最終的な決定が公平性と専門性の両方を尊重するようにする必要があります。

実生活での仕組み：トリアージの例

この仕組みがどのように機能するかを示すために、著者たちは、慢性的な痛みを持つ患者がAIに「専門医の予約を6週間待つべきか、それとももっと早く診てもらうべきか？」と尋れるシナリオを想定しています。

• 通常のAIは、3つの別々の答えを出すかもしれません。「待つべき」と言うもの、「今すぐ行くべき」と言うもの、「状況による」と言うものです。
• この新しい「社会的に接地した」AIは、3つの役割を起動させます。「臨床医（安全性に配慮）」、「患者アドボケイト（お金と痛みに配慮）」、「病院管理者（予約枠の不足に配慮）」。
• これらの役割が「対話」します。臨床医は「痛みが悪化しているので、検査が必要だ」と言います。アドボケイトは「しかし、患者は仕事を休む余裕がない」と言います。管理者は「緊急用の枠しか空いていない」と言います。
• そしてAIは、解決策を調整します。「クリニックに連絡して、迅速なトリアージ・チェックを受けてください。もし症状が危険な場合は、枠を確保します。そうでなければ、次の予約まで痛みの管理をサポートします。」
• 結果は単なる選択肢のリストではなく、安全性のルール、患者の痛み、そして病院の制限を尊重した、調整された計画となります。

未来への意味

論文は、単にデータを増やしたり数学を改良したりするだけでは、AIを「修正」することはできないと結論づけています。私たちは、社会的な世界を理解するシステムを設計する必要があります。著者たちは、将来のAIは、最終的な答えが正しいかどうかだけでなく、異なる役割をどれほど上手く調整し、公正なプロセスに従ったかによって判断されるべきだと提案しています。彼らは、これがまだテストが必要な新しいアイデアであることを認めています。彼らは、「これは完成した製品ではなく、このようなシステムを構築するための新しい地図であり、それが機能するかどうかを試していく必要がある」と言っているのです。

要約すると、この論文は、AIが多様な人々がいる世界で真に役立つためには、単一の声として振る舞うのをやめ、熟練した社会的コーディネーターとして振る舞い、誰もが役割を持っており、最善の答えはそれらの役割がいかに相互作用するかを聞くことから生まれるということを理解する必要があると主張しています。