Consensus vs. Dissent: Dynamic LLM Modeling of Subjective Preferences in Group Recommenders

想像してみてください。あなたと4人の友人が、夕食をどこで食べるか決めようとしています。皆、好みがバラバラです。ある人は辛いものが大好きで、別の人はそれが大嫌いで、また別の人はとにかく一番安い選択肢を求めています。コンピュータサイエンスの世界では、これを「グループ推奨システム（GRS）」と呼びます。長い間、コンピュータは硬直した数学的公式を用いてこれを解決しようとしてきました。ある公式は「全員の投票を平均しよう」と言います。またある公式は「最も不満を持つ人を最小限に抑える場所を選ぼう」と言います。これらの公式は、まるでレシピ通りに完璧に料理を作るけれど、そのテーブルに座っている特定のグループにとって、その料理が本当に美味しいかどうかを知らないロボットシェフのようなものです。

問題は、これらのロボットがグループの「気分」を感じ取れないことです。彼らは、グループが合意（コンセンサス）に基づいているのか、それとも二つの対立する派閥（コアリション）に分裂しているのかを判断できません。これを解決するために、研究者のセドリック・ワターシュート、ナバ・ティンテレフ、フランチェスコ・バリレは、コンピュータに人間の裁判官のように振る舞うよう教えることにしました。

ロボット裁判官の脳のアップグレード

チームは、「教師」ロボットであるDeepSeek-V3.1という巨大なAIからスタートしました。これは多様な推論を生成できるほど非常に賢いものです。彼らはこの教師ロボットに、1,152人の実在する人間がグループの推奨事項に対して、公平性、満足度、合意形成をどのように評価したかという、過去の研究からの膨大なデータを読み込ませました。

単にスコアを暗記させるのではなく、研究者たちは教師に対し、なぜそのスコアを付けたのかという「理由」を説明するよう求めました。それは、生徒に「A」と書くだけではなく、なぜその生徒がAを取れたのかについて詳細なエッセイを書くよう教師に頼むようなものです。彼らは、既存の人間によるスコアに基づいた合成的な推論の例を5,318個生成するために、この教師を利用しました。これにより、AIが単なる意見そのものではなく、人間の意見の背後にある「論理」を模倣するように学習する、特別なトレーニングセットが作成されました。

次に、彼らは2つのより小さなオープンソースのロボット（Llama-3.1とOLMo-3）を取り、これらのエッセイを使って彼らに教えました。Judgmental LlamaとJudgmental Olmoと名付けられたこれらの新しいロボットは、人間の感情を模倣することを学びました。このトレーニングの前、ロボットはひどい裁判官でした。彼らは非常に狭く退屈な回答を出し、実際の人間の意見とは一致していませんでした。トレーニング後、彼らはグループがどのように感じるかを予測するのが非常に上手くなり、人間の意見の広がりをほぼ完璧に一致させることができました。

大テスト：ロボットは最高の戦略を選べるか？

研究者たちは、あらゆるグループの友人に対して、コンピュータが単に一つのレシピを選ぶのではなく、6つの異なる数学的公式（「平均」、「最小不幸」、「多数決」など）を実行して、6つの異なるディナーの提案を生成するシステムを構築しました。

そして、Judgmental Olmo（こちらの方が優秀な生徒であることが判明しました）が登場します。このロボットは、これら6つの提案を検討し、「もし自分がこの特定のグループの一人である人間だったら、どれが最も公平で満足できると思うだろうか？」と自問します。そして、人間の感覚に基づいて勝者を選び出します。

これが実際に機能するかどうかを確認するため、チームは284人の人間を対象とした実際の実験を行いました。彼らにグループのシナリオ（例：異なる好みを持つ5人の友人グループ）を見せ、その推奨事項を評価してもらいました。

結果：ロボット裁判官の勝利（時として）

結果はエキサイティングでしたが、限定的でした。Judgmental Olmoを使用して動的に最適な戦略を選択するシステムは、知覚された公平性とグループの合意において最も高いスコアを記録しました。また、満足度においても、「公平性（FAI）」と呼ばれる特定の数学的公式に次いで、2番目に高いスコアを獲得しました。

しかし、論文は、このロボットが常に同じように機能する魔法の杖ではないことを明確にしています。ロボットの成功は、グループの種類に大きく依存していました。

• グループが全員似通っている場合（均一なグループ）： ロボットは、全員を幸せにする戦略を選ぶことを知っていました。
• グループが分裂している場合（コアリション/派閥がある場合）やマイノリティがいる場合： ロボットは、通常の「平均」を用いた数学的公式がしばしば失敗することに気づきました。そしてギアを切り替え、紛争をよりうまく処理できる異なる戦略を選択しました。

データは、グループのタイプと使用される戦略との間に統計的に有意な相互作用があることを示しました。言い換えれば、ロボットの適応能力こそが、従来の静的な手法よりも優れた結果をもたらしたのです。例えば、「コアリション（派閥）」が存在するグループ（二つのサブグループが対立している場合）において、ロボットの選択は「多数決」や「承認投票」の戦略よりも、著しく公平であると認識されました。

ロボットにまだできないこと（現時点では）

論文は、このシステムがまだ「何ではないか」についても注意深く指摘しています。

• あらゆる問題に対する画期的な進歩ではない： 研究者たちは、彼らのシステムは現在、特定の設定（レストラン選びなど）に限定されており、以前の研究からのデータに依存していることを明言しています。彼らは、これがまだ世界のあらゆるグループ推奨問題に通用すると主張しているわけではありません。
• 即時性がない： ロボットは確信を持つために、推奨事項ごとに複数の「思考実験」（5つの評価の生成）を実行する必要があるため、時間がかかります。リアルタイムのアプリでは、これは数分の遅延を意味する可能性があり、空腹のグループにとっては遅すぎます。
• 完璧ではない： ベースとなるロボット（トレーニング前）は偏っており、視野が狭いものでした。トレーニングによって改善されましたが、研究者たちは、トレーニングデータの生成に「教師」モデルに頼ることは、依存関係を生じさせる可能性があると認めています。彼らは、将来の研究では、AIがシミュレートした推論ではなく、実際の人間の推論に基づいてトレーニングする必要があると示唆しています。

結論

この論文は、単に数字を計算するのではなく、人間の感情のニュア Nuance（ニュアンス）を理解するようにAIを教えることで、より優れたグループ推奨システムを構築できることを示唆しています。訓練されたAI裁判官に、扱っている特定のグループに対して最適な数学的公式を選ばせることで、より公平で合意が得られやすい推奨が可能になります。

しかし、著者たちは、まだあまり興奮しすぎないようにと警告しています。このシステムはまだシミュレーションであり、プロトタイプです。私たちに代わって夕食を選んでもらう前に、より速く（より小さな「タイニー」なロボットを使用することで）、より多くの種類のグループでテストされる必要があります。現時点では、これは、時には「最も多くの人を幸せにする答え」ではなく、「正しい人々を幸せにする答え」が最適であるということをコンピュータが理解するための、非常に有望な一歩なのです。