MOSAIC: A Unified Platform for Cross-Paradigm Comparison and Evaluation of Homogeneous and Heterogeneous Multi-Agent RL, LLM, VLM, and Human Decision-Makers

本論文は、強化学習、大規模言語モデル、視覚言語モデル、および人間の意思決定者を同一環境で公平に比較・評価するためのオープンソースプラットフォーム「MOSAIC」を提案し、異種エージェントの協調動作と再現性のある実験を可能にする統合基盤を提供するものである。

要約

この論文は、**「MOSAIC（モザイク）」**という新しいソフトウェアの発表について書かれています。

これを一言で言うと、**「AI の世界と人間の世界を、同じゲーム場で公平に戦わせるための『万能な競技場』を作りました」**という話です。

少し専門的な内容を、日常の言葉と面白い例え話を使って解説しますね。

1. 今までの問題点：「言語が違う」仲間たち

これまで、AI の研究はバラバラに行われていました。

• 強化学習（RL）の AI：将棋やゲームの「プロ棋士」。数字や画像を見て、瞬時に手を打つのが得意ですが、言葉は話せません。
• 大規模言語モデル（LLM）の AI：「賢い先生」。文章を読んで、文章で答えるのが得意ですが、ゲームの画面を直接見て素早く動くのは苦手です。
• 人間：私たち。画面を見て、キーボードで操作します。

問題点： これまで、これら 3 種類の「選手」を同じゲーム（環境）で一緒に戦わせたり、誰が本当に強いのかを公平に比べたりする仕組みがありませんでした。

• 将棋のプロと、文章を読む先生を同じ卓上で戦わせようとしても、ルールも道具も違うので、「どっちが強いのか」がわからないのです。

2. MOSAIC の解決策：「翻訳機」と「共通ルール」

MOSAIC は、この問題を解決するために作られた**「超・翻訳機付きの競技場」**です。

① 選手を隔離する「個室（ワーカー）」

MOSAIC は、それぞれの AI や人間を、**「個室（プロセス）」**という小さな部屋に入れて動かします。

• 将棋のプロ（RL）は、自分の部屋で自分のルールで考えます。
• 先生（LLM）も、自分の部屋で自分のルールで考えます。
• 重要： 彼らの部屋を改造したり、中身を変えたりする必要はありません。既存の AI をそのまま持ち込めるので、研究者は楽に実験できます。

② 共通の「通訳（オペレーター）」

彼らが部屋から出るメッセージは、すべて MOSAIC が**「通訳」**して統一されたルールに変換します。

• 将棋のプロが「3 左へ」と言ったら、通訳がそれをゲームのシステムに伝えます。
• 先生が「敵が近づいているので避ける」と文章で言ったら、通訳がそれを「左に移動」という行動に変換します。
• 人間も、同じ画面を見て同じように操作できます。

これにより、「言葉も道具も違う選手たち」が、同じルールで同じゲームをプレイできるようになります。

3. できること：「公平な比較大会」

MOSAIC を使うと、こんな面白い実験ができます。

• 「プロ vs 先生」対決：
  同じゲームで、強化学習 AI と LLM AI がチームを組んで戦います。「AI が数字で計算する方が速いのか、AI が文章で考える方が賢いのか」を、**全く同じ条件（同じスタート地点、同じ運の要素）**で比べられます。
• 「人間と AI の混合チーム」：
  人間 1 人と、AI 2 人がチームになって、別の AI チームと戦います。「人間と AI が一緒に働くと、どれくらい強くなるのか」を調べられます。
• 「リアルタイム観戦」：
  画面には、それぞれの選手の視点（何を見て、何を考えているか）が色分けされて並んで表示されます。まるでスポーツ中継のように、**「なぜこの AI は失敗したのか？」**を詳しく観察できます。

4. 具体的な例え話：「料理コンテスト」

想像してみてください。

• A 選手（RL）： 機械的なロボットシェフ。レシピ（数値）を見て、正確に調理します。
• B 選手（LLM）： 料理評論家シェフ。文章で「美味しいお皿を作ろう」と考えて、レシピを口頭で指示します。
• C 選手（人間）： 私たち。実際に包丁を持って調理します。

これまでの研究では、ロボットシェフのコンテストと、評論家シェフのコンテストは別々に行われていました。
MOSAIC は、これ 3 人を同じキッチンに集め、「同じ材料で、同じ時間制限で、同じ料理を作ろう！」と宣言する場所です。

• ロボットは自分の機械的な指示で動きます。
• 評論家は自分の言葉で指示を出します。
• 人間は自分の手で動きます。
• MOSAIC（通訳）が、それぞれの指示を「料理の工程」に翻訳して、誰が最も美味しく、早く作れたかを公平に判定します。

まとめ

この論文は、**「AI の種類（計算派か、言語派か）や人間を混ぜ合わせて、誰が本当に賢いのか、どう協力すればいいかを、公平に比較・研究できる新しいプラットフォーム」**を公開したことを報告しています。

これによって、研究者たちは「AI と AI」、「AI と人間」がどう一緒に働くのか、そしてそれぞれの得意分野がどこにあるのかを、これまで以上に深く理解できるようになります。

**「モザイク」**という名前の通り、バラバラだったピース（異なる AI と人間）を、一つ美しい絵（統一的な研究プラットフォーム）に組み立てるためのツールなのです。

技術概要

MOSAIC: 異種マルチエージェント RL、LLM、VLM、および人間の意思決定者を統合するプラットフォームの技術的概要

本論文は、2026 年 3 月に arXiv に投稿された「MOSAIC: A Unified Platform for Cross-Paradigm Comparison and Evaluation of Homogeneous and Heterogeneous Multi-Agent RL, LLM, VLM, and Human Decision-Makers」について述べています。強化学習（RL）、大規模言語モデル（LLM）、視覚言語モデル（VLM）、および人間の意思決定者を、単一の環境内で公平に比較・評価するためのオープンソースプラットフォーム「MOSAIC」を提案しています。

以下に、問題定義、手法、主要な貢献、結果（機能）、および意義について詳細にまとめます。

---

1. 背景と問題定義

近年、強化学習（RL）、LLM、VLM はそれぞれ独立して急速に発展してきました。しかし、これらを統合的に研究する上では以下の重大な課題が存在します。

• インフラの断絶: 既存の RL フレームワーク（RLlib, CleanRL など）と LLM/VLM ベンチマーク（AgentBench, BALROG など）は独立して成熟しており、異なる意思決定パラダイム（RL のテンソル観測/整数行動 vs LLM のテキストプロンプト/テキスト応答）を同じ環境で同時に実行・比較するインフラが欠如していました。
• 公平な比較の欠如: 従来の「アドホック・チームワーク（AHT）」や「ゼロショット協調（ZSC）」の研究は、すべてのエージェントが同一の観測・行動表現を持つことを前提としていました。RL エージェントと LLM エージェントが混在する「異種（Heterogeneous）」チームの行動を、同一の環境インスタンスと共有シード条件下で公平に比較する手法は存在しませんでした。
• 再現性の問題: 異なるパラダイム間での挙動を微細に検証するための視覚化ツールや、決定論的な評価フレームワークが不足していました。

2. 手法とシステム設計

MOSAIC は、オーケストレーション（制御）、通信、実行を分離した 3 層アーキテクチャを採用しており、既存のフレームワークをソースコード変更なしで統合することを可能にしています。

2.1 主要な技術的構成要素

1. IPC ベースのワーカープロトコル:
   • 各エージェント（RL, LLM, VLM, 人間）は、独立したサブプロセス（ワーカー）として実行されます。
   • 標準入力/出力（stdin/stdout）を通じて軽量な JSON プロトコルで通信し、ネイティブのトレーニング/推論ロジックを一切変更せずにラップします。
   • 通信にはバージョン管理されたインタープロセスプロトコルを使用し、ダウングレードやエラー耐性を確保しています。
2. オペレーター抽象化（Operator Abstraction）:
   • ワーカーを環境内のエージェントスロットにマッピングする「オペレーター」層を導入しました。
   • RL 方針、LLM、人間、ランダムベースラインなど、バックエンドが何であれ、すべてが最小限の統一インターフェース（OperatorController）に準拠します。
   • これにより、マルチエージェント環境において、異なるパラダイムを持つエージェントをシームレスに混在させることが可能になります。
3. 決定論的クロスパラダイム評価フレームワーク:
   • マニュアルモード: 共有シードの下で N 個のオペレーターをロックステップで進め、GUI 上で各エージェントのビューポートを並列表示（RL=紫、LLM=青、人間=橙など）します。これにより、行動の違いを微視的に検証できます。
   • スクリプトモード: 宣言的な Python スクリプトで自動化された長期評価を実行し、ステップごとおよびエピソードごとの JSONL テレメトリを生成します。

2.2 統合コストと拡張性

• 既存のフレームワーク（CleanRL, XuanCe, Ray RLlib, BALROG など）を MOSAIC ワーカーとしてラップするには、元のライブラリソースを変更せず、約 50〜120 行の「グルーコード」のみで済みます。
• 人間のエージェントはキーボード入力を通じて「Human Worker」に接続され、RL/LLM/VLM と同じ環境で対戦・協力させることが可能です。

3. 主要な貢献

MOSAIC は以下の 3 つの主要な貢献を提供します。

1. 異種エージェントの統合プラットフォーム:
   • RL、LLM、VLM、人間の 4 つの意思決定タイプをすべてサポートする唯一のシステムです。
   • 既存のサードパーティ製アルゴリズムをソースコード修正なしで統合可能であり、カスタムロジックの追加も容易です。
2. 公平なクロスパラダイム評価:
   • 同一の環境インスタンスと共有ランダムシードを用いて、異なるパラダイム間（例：RL vs LLM）の性能を直接比較できます。
   • これにより、特定のアルゴリズムの優劣ではなく、パラダイムそのものの特性（協調能力、推論能力など）を評価できます。
3. オープンで視覚優先の基盤:
   • Qt6 ベースの GUI を備え、リアルタイムでの異種エージェントの対戦状況を確認できます。
   • 26 の環境ファミリー（MiniGrid, Soccer, Chess など）と 8 種類のワーカータイプをサポートし、統一されたテレメトリデータを提供します。

4. 結果と評価設計（実験的枠組み）

論文では、具体的な実験設定が提案されており、将来的な研究基盤として機能することが示されています。

• 敵対的マッチング:
  • 同質チーム（RL vs RL, LLM vs LLM）のベースライン確立後、異質チーム（RL vs LLM, RL vs VLM, LLM vs VLM）の性能を比較します。
  • これにより、「どのパラダイムが特定のタスクで優れているか」を定量的に評価します。
• 協調的異種チーム:
  • 単独でトレーニングされた RL エージェント（凍結済み）と、LLM や VLM エージェントをチームメイトとして組み合わせます。
  • 「ゼロショット協調」において、LLM/VLM が RL エージェントと効果的に協力できるか、あるいは RL エージェントが支配的になるか、あるいは干渉が発生するかなどを分析します。
• 環境の範囲:
  • 連続制御（MuJoCo など）ではなく、離散的なグリッドワールド（MiniGrid, MultiGrid など）に焦点を当てています。これは、LLM/VLM が連続空間の低レベル制御において直面する限界（反応速度、空間推論の難しさ）を回避し、戦略的推論能力を純粋に評価するためです。

5. 意義と将来展望

MOSAIC の意義は以下の点に集約されます。

• 研究パラダイムの転換: 従来の「同じパラダイム内での比較」から、「異なるパラダイム間での公平な比較」へと研究の焦点を移すための基盤を提供します。
• 再現性の向上: 共有シードと統一されたテレメトリにより、異なる研究コミュニティ（RL 界、LLM 界、人間中心 AI 界）間での結果の比較を可能にします。
• 人間-AI 協調の深化: 人間を直接チームメイトや対戦相手として組み込むことで、AI の実世界での適用可能性や、人間との協調メカニズムを研究する新しい道を開きます。

結論:
MOSAIC は、RL、LLM、VLM、および人間の意思決定者を単一のプラットフォームに統合し、ソースコード変更なしで既存のアルゴリズムを動作させつつ、公平かつ再現性のあるクロスパラダイム評価を可能にする画期的なオープンソースツールです。これにより、異種エージェント間の協調や競争に関する新たな知見を得るための標準的なインフラが整いました。

リソース:

• ソースコード: https://github.com/Abdulhamid97Mousa/MOSAIC
• ドキュメント: https://mosaic-platform.readthedocs.io