Mozi: Governed Autonomy for Drug Discovery LLM Agents

本論文は、創薬における大規模言語モデルエージェントの自律性と信頼性を両立させるため、制御平面とワークフロー平面の二層構造を採用し、確率的な推論と決定論的な実行を統合した「Mozi」というシステムを提案し、PharmaBench での評価およびケーススタディを通じてその有効性を示したものである。

要約

モジ（Mozi）：薬の発見を助ける「賢い監督付き AI 助手」の説明

この論文は、**「モジ（Mozi）」という新しい AI システムについて紹介しています。薬を作る（創薬）という非常に難しく、失敗しやすい作業を、AI が一人で勝手にやるのではなく、「人間の監督のもと、ルールを守りながら安全に実行する」**ように設計されたシステムです。

まるで、**「天才的なアイデアを持つが、少し危なっかしい若手研究者」と、「厳格で経験豊富なプロジェクトマネージャー」**が組んで、一緒に薬を開発しているようなイメージです。

---

🎭 1. 従来の AI の問題点：「自由すぎる天才」の罠

これまでの AI（LLM）は、薬の設計図を描くのが得意でした。しかし、薬を作るプロセスは非常に長く、複雑で、**「最初の小さな間違いが、後で取り返しのつかない大失敗」**につながることがありました。

• 例え話：
  料理を作る際、天才シェフが「塩を少し」と言いますが、AI は「塩」を「砂糖」だと勘違いして入れ、その後の工程もすべて砂糖だらけになってしまいます。AI は「もっと自由な発想で！」と躍り出ますが、科学の世界では**「再現性（同じ手順で同じ結果が出ること）」と「安全性」**が最優先です。
  • 問題点： AI が勝手にツールを使いすぎて、失敗しても気づかないまま進んでしまう（「幻覚」や「ハルシネーション」と呼ばれる現象）。

🏗️ 2. モジ（Mozi）の解決策：「二重構造の監督システム」

モジは、**「自由な発想」と「厳格なルール」**を両立させるために、2 つの階層（レイヤー）からなるシステムを作りました。

🧠 レイヤー A：「監督（コントロールプレーン）」

• 役割： プロジェクトの**「マネージャー」や「監督」**です。
• 何をする？
  • AI に「何をしていいか、何をしてはいけないか」を厳しく決めます。
  • 「この AI は文献検索だけOK、この AI は実験シミュレーションだけ OK」と、役割を分けます（権限の分離）。
  • もし AI が迷ったり失敗したりしたら、「待て！もう一度考え直せ！」と指示を出して計画を修正させます。
  • アナロジー： 料理長が「塩は 3g まで」と厳しく指示し、シェフが間違えたら「やり直し！」と止める役割です。

⚙️ レイヤー B：「作業場（ワークフロープレーン）」

• 役割： 実際に薬を作る**「作業ライン」**です。
• 何をする？
  • 薬を作る工程（標的を見つける → 候補物質を探す → 改良する）を、**「図解されたマニュアル（スキルグラフ）」**として準備しています。
  • 各工程は「データ契約（フォーマットが合っているか）」を厳守し、前の工程の成果物が正しいかチェックしてから次の工程へ進みます。
  • アナロジー： 工場のベルトコンベアのように、材料が正しい形をしているかチェックしながら、確実に次の工程へ流れていく仕組みです。

🛡️ 3. 最大の特徴：「人間の目」を挟む（HITL）

モジの最大の特徴は、**「重要な決断の瞬間に、必ず人間の専門家のチェックを入れる」**ことです。

• 例え話：
  料理で「このレシピでいいか？」と聞かれるのではなく、**「この材料（タンパク質の構造）は本当に正しいか？」「この味付け（候補物質）は安全か？」**という重要なポイントで、AI が一旦止まり、人間のシェフ（科学者）に「OK ですか？」と確認します。
• 効果： AI が間違った方向に進み始めるのを防ぎ、人間と AI が**「共創（一緒に働く）」**できます。

🧪 4. 実際のテスト結果：3 つの病気での成功

モジは、以下の 3 つの難病に対して、実際に薬の候補をゼロから設計するテストを行いました。

1. クローン病： 腸の炎症を抑える薬を設計。AI が新しい分子を生成し、毒性がないか厳しくチェックして、安全な候補を見つけました。
2. パーキンソン病： 脳に届く薬を作るのは非常に難しいですが、モジは「脳への通りやすさ」と「毒性」のバランスを取りながら、既存の薬に匹敵する新しい分子を見つけました。
3. 敗血症： 急激な炎症を抑える薬を設計。途中で AI が計算ミス（クラッシュ）を起こしましたが、モジのシステムがそれを自動でキャッチして「その分は減点して、他の候補を評価し直す」という処理をし、全体を止めることなく成功させました。

🌟 まとめ：モジがもたらす未来

モジは、AI を「ただの会話相手」や「危険な実験道具」から、**「信頼できる科学のパートナー（共科学者）」**へと進化させました。

• 自由な発想で新しいアイデアを出すのは AI。
• 厳格なルールと人間のチェックで安全性を保つのはシステム。

この組み合わせにより、これまでに何年もかかっていた薬の発見プロセスを、より**「安全に」「早く」「正確に」**進めることができるようになります。

一言で言うと：

**「天才的な AI に、厳格な監督と安全装置を付けて、薬の発見という過酷なマラソンを完走させるシステム」**です。

技術概要

Mozi: 創薬におけるガバナンス付き自律型 LLM エージェントの技術的概要

本論文は、国際デジタル経済アカデミー（IDEA）によって提案されたMozi（墨子）という、創薬プロセスに特化した新しいエージェントフレームワークについて詳述しています。Mozi は、大規模言語モデル（LLM）の柔軟な推論能力と、計算生物学の厳密な決定論的実行を統合し、高リスクな創薬分野における自律型エージェントの信頼性と実用性を飛躍的に向上させることを目的としています。

以下に、問題定義、手法、主要な貢献、結果、および意義について詳細にまとめます。

---

1. 背景と問題定義

創薬プロセス（ターゲット同定からリード最適化まで）は、複雑で多段階にわたるワークフローであり、高い専門性と厳格な標準作業手順（SOP）を要求します。近年の LLM エージェントは、これらのツールを自律的に呼び出す能力を示していますが、創薬のような高リスク領域での実用化には以下の重大な障壁が存在します。

• 制御されていないツール使用とハルシネーション: 一般的な LLM エージェントは、文脈に合わないツールを呼び出したり、存在しないパラメータを生成したりする「ハルシネーション」を起こしやすい。
• 長期実行の信頼性不足: 創薬パイプラインは依存関係が深い（前の段階の結果が次の段階の入力となる）ため、初期段階の小さな誤りやハルシネーションが後続の計算に伝播し、全体として再現不可能な失敗軌道（trajectory drift）を引き起こす。
• 監査可能性の欠如: 規制された企業環境では、すべての意思決定が追跡可能で、安全基準に準拠している必要があるが、既存の自由形式のエージェントはこれを満たすのが困難である。

2. 手法：Mozi のアーキテクチャ

Mozi は、LLM の「自由な推論」と計算生物学の「構造化された実行」を橋渡しする二層アーキテクチャ（Dual-Layer Architecture）を採用しています。

レイヤー A：コントロールプレーン（ガバナンスエンジン）

この層は、階層的な「監督者 - ワーカー」構造を実装し、エージェントの行動を厳格に管理します。

• 監督者エージェント（Supervisor Agent）: ユーザーの意図を解析し、許可されたアクションに制限された高レベルの計画を立てます。
• 役割ベースのツール分離: エージェントの役割（例：研究エージェント、計算エージェント）に応じて、アクセス可能なツールのリストをハードコードで制限します（例：文献検索エージェントが高コストなドッキングシミュレーションを実行できないようにする）。
• リフレクションと再計画: 各ステップ後に自己評価（リフレクション）を行い、失敗や不十分な情報検出時に盲目的に続行するのではなく、動的な再計画（Replanning）を実行します。
• 監査可能な軌道: 意思決定のすべてのステップを記録し、再現性とコンプライアンスを確保します。

レイヤー B：ワークフロープレーン（実行エンジン）

この層は、抽象的な科学的プロトコルを実行可能な「スキルグラフ（Skill Graphs）」として具現化します。

• 構造化されたスキルグラフ: ターゲット同定、ヒット同定、リード最適化などの標準的な創薬ステージを、状態管理可能な有向非巡回グラフ（DAG）として実装します。
• 厳格なデータ契約: 各ノードの入出力にフォーマットアダプターを設け、PDB ファイルの形式チェックや欠落部分の修復など、計算ツールへの入力前にデータを厳格に検証します（「Garbage In, Garbage Out」の防止）。
• 人間介入ループ（HITL）チェックポイント: 不確実性の高い意思決定境界（例：候補分子リストの確定前）で実行を一時停止し、専門家の承認やパラメータ修正を促します。これにより、エージェントは「ブラックボックス」から「信頼できる共同科学者」へと進化します。

基盤技術

• MCP（Model Context Protocol）: 多様なバイオ医学ツール（データベース、計算ツール、Web 検索など）を標準化されたインターフェースで統合し、レイヤー A と B の間でシームレスな通信を可能にします。
• ハイブリッド状態管理: 文脈（会話履歴）とアーティファクト（生成された分子構造、ファイルパス）を分離管理し、状態の同期とプロベナンス（出所）追跡を可能にします。

3. 主要な貢献

1. ガバナンス付き自律性（Governed Autonomy）の提案: 創薬のような高リスク領域において、LLM の柔軟性を維持しつつ、厳格な制御と監査可能性を両立する新しいパラダイムを確立しました。
2. 二層アーキテクチャの実装: 自由な推論を行うコントロールプレーンと、構造化されたワークフローを実行するワークフロープレーンを分離することで、エラーの累積と軌道ドリフトを効果的に防止しました。
3. PharmaBench ベンチマークの作成: ターゲット同定から前臨床研究までを網羅する 88 タスクからなる新しい評価ベンチマークを提案し、既存のエージェントとの比較を可能にしました。
4. エンドツーエンドの創薬ケーススタディ: クローン病、パーキンソン病、敗血症の 3 つの疾患モデルにおいて、ターゲット同定からリード最適化までの完全な自律実行を成功させ、人間と AI の協調的プロセスを実証しました。

4. 評価結果

PharmaBench での性能

• 分類・MCQ 精度: 既存のバイオ医学エージェント（Biomni など）と比較して、特に大規模モデル（Qwen3-235B）を搭載した Mozi は、分類タスクや多肢選択問題（MCQ）で高い精度を達成しました。
• 回帰タスク: 薬物動態（ADMET）予測などの回帰タスクにおいて、対称平均絶対パーセント誤差（SMAPE）を低く抑え、正確な数値予測能力を示しました。

長期実行タスク（HLE サブセット）

• 28 件の複雑な創薬シナリオ（実験デザインやトラブルシューティングを含む）において、Mozi は Gemini-2.5-Pro（Web 検索付き）や他の専門エージェントを上回る、または同等の性能を示しました。特に、大規模モデル（Qwen3-235B, Deepseek-V3.2）を使用した場合、正解率が向上しました。

ケーススタディ（3 疾患モデル）

• クロン病: 生成モデル（DiffSBDD）を用いた新規分子設計から、ドッキングスコア -9.0 kcal/mol のヒットを特定し、毒性フィルタリングを経て最終候補を導出。
• パーキンソン病: 人間による介入（HITL）により結合ポケットの定義を修正し、37 万 7 千化合物の仮想スクリーニングを実施。hERG 遮断などの毒性リスクを認識し、強化学習を用いて毒性を回避した新しいスキャフォールドを生成することに成功しました。
• 敗血症: 自動ドッキングの失敗をグラフロジックで局所的に処理し、パイプライン全体を停止させることなく、-8.4 kcal/mol の結合親和性を持つ候補を導出しました。

5. 意義と結論

Mozi は、LLM エージェントを単なる「会話相手」から、厳格なガバナンスと構造化されたワークフローに基づいた「信頼できる共同科学者」へと変容させる画期的なシステムです。

• 安全性と信頼性: 役割ベースの制限と状態管理により、創薬プロセスにおけるハルシネーションやエラーの伝播を最小化し、規制環境での導入を可能にします。
• 人間と AI の協調: HITL チェックポイントの設計により、専門家の知見を自律プロセスに統合し、AI が独断で危険な判断を下すリスクを排除します。
• 将来展望: 本アーキテクチャは、単一の創薬タスクだけでなく、他の科学分野における複雑な意思決定プロセスにおいても、自律性と安全性を両立するモデルとして応用可能です。

今後は、不確実性の定量化（UQ）の統合や、より厳密なサンドボックス環境の構築、および湿式実験（wet-lab）との連携による実証が次のステップとして期待されます。