CORE-Acu: Structured Reasoning Traces and Knowledge Graph Safety Verification for Acupuncture Clinical Decision Support

本論文は、構造化された推論トレースと知識グラフに基づく安全性検証を組み合わせたニューロシンボリックフレームワーク「CORE-Acu」を提案し、鍼灸臨床意思決定支援において推論の解釈可能性を高め、幻覚を防止して安全性を厳格に保証する手法を示しています。

要約

鍼灸の「AI 名医」が、なぜ安全なのか？

CORE-Acu：思考の道筋と「安全チェックリスト」で医療ミスを防ぐ新技術

この論文は、**「鍼灸（しんきゅう）」という繊細な医療分野で、AI（人工知能）を安全に使えるようにする新しい仕組み「CORE-Acu」**を紹介しています。

AI は普段、おしゃべりや文章作成が得意ですが、医療のような「命に関わる分野」では、「なぜその治療法を選んだのか？」という理由が不明瞭だったり、「絶対にやってはいけないこと」を間違えて提案したりするリスクがあります。

この論文は、その問題を解決するために、**「思考の道筋を可視化する」ことと、「厳格な安全チェックリスト」**の 2 つのアイデアを組み合わせた解決策を提案しています。

---

🏥 従来の AI の問題点：「天才だが、理由がわからない魔法使い」

従来の AI は、膨大なデータから「症状 A なら治療 B」というパターンを学習しますが、それは**「魔法のように答えが出てくる」**ようなものです。

• 問題点 1（ブラックボックス）： 「なぜこのツボを選んだの？」と聞かれても、AI は「なんとなくそう思った」としか答えられません。
• 問題点 2（幻覚）： AI は自信満々に、しかし**「存在しないツボ」や「妊婦さんには危険なツボ」**を提案してしまうことがあります。

鍼灸は、体に針を刺す「侵襲的な治療」なので、このミスは患者さんの命を脅かす重大な事故になり得ます。

---

💡 CORE-Acu の解決策：3 つの工夫

CORE-Acu は、AI を「魔法使い」から「厳格な手順を守る名医」に変えるために、以下の 3 つの工夫をしています。

1. 思考の道筋を「レシピ」のように見せる（構造化された思考）

AI に、いきなり「治療法」を答えるのではなく、**「診断 → 病気の仕組み → 治療方針 → ツボ選び」という順序で、「思考のレシピ」**を段階的に書くように訓練しました。

• アナロジー：
  • 従来の AI： 「ケーキができました！」と突然渡してくる。
  • CORE-Acu： 「まず卵を割り、次に砂糖を混ぜ、そして…（中略）…最後に焼きました」と、工程表（思考の道筋）をすべて見せてからケーキを渡す。
  • これにより、医師は「なるほど、この病気の仕組みだから、このツボを選んだんだな」と納得して確認できます。

2. 「安全チェックリスト」による厳格な監視（知識グラフによる拒絶）

AI が提案した治療法が、**「妊婦さんには NG」「特定のツボの組み合わせは危険」といったルールに違反していないか、AI 自身に「知識グラフ（デジタル化された医療のルールブック）」**でチェックさせます。

• アナロジー：
  • AI が「危険なツボ」を提案しようとした瞬間、**「警備員（シンボリック・ベト）」**が立ち塞がります。
  • 「待て！そのツボは妊婦さんには禁止だ！」と即座に指摘し、AI に「じゃあ、別の安全なツボに変えて」と書き直しを命じます。
  • これを「提案→チェック→修正」のループで繰り返すため、最終的に患者さんに渡される治療案は、100% 安全です。

3. 重要な単語に「特別ボーナス」をつける（重み付け学習）

AI の学習では、よく使われる言葉（「です」「ます」など）に注目しがちですが、医療では**「ツボの名前」や「病名」といった重要な単語こそが命に関わります。
CORE-Acu は、学習中に「ツボの名前」を間違えると、普通の間違いよりもはるかに大きな「ペナルティ」**を与えるように設定しました。

• アナロジー：
  • 普通のテストでは、漢字の間違いも文法の間違いも同じ点数で減点されます。
  • しかし、この AI のテストでは、「ツボの名前（例：合谷）」を間違えると、試験管が割れるような大ダメージを受けます。
  • その結果、AI はツボの名前を絶対に間違えないように、必死に正確に覚えるようになります。

---

🏆 実験結果：なぜこれがすごいのか？

この仕組みを試したところ、驚くべき結果が出ました。

• 安全性： 1,000 人の患者ケースをテストしたところ、**CORE-Acu は「安全違反（危険な提案）を 0 回」**でした。
• 比較： 一方、最新の一般的な AI（GPT-4o など）は、同じルールでテストすると8.5% の確率で危険な提案をしてしまいました。
• 理由： 一般的な AI は「言葉が流暢」ですが、医療の「厳格なルール」を守れていませんでした。CORE-Acu は、「思考の道筋」を明確にし、「ルールブック」で厳しくチェックすることで、この差を埋めました。

---

🌟 まとめ

この論文が提案する「CORE-Acu」は、AI を単なる「おしゃべりな助手」から、**「思考のプロセスが透明で、安全ルールを絶対守る信頼できる医療パートナー」**へと進化させた画期的なシステムです。

鍼灸のような、細心の注意が必要な医療現場において、「AI がなぜそう判断したか」を人間が理解でき、かつ「絶対に危険なミス」を防ぐための、新しい「安全装置」が完成したと言えます。

これにより、AI を使った医療が、より安全に、より多くの人々の手元に届く未来が近づいたのです。

技術概要

CORE-Acu: 鍼灸臨床意思決定支援のための構造化推論トレースと知識グラフ安全性検証

本論文は、大規模言語モデル（LLM）の「ブラックボックス性」と「確率的ハルシネーション（誤り）」が、厳密な解釈性と安全性が求められる鍼灸分野における臨床意思決定支援（CDS）の障壁となっている問題に焦点を当てています。これに対し、著者らはCORE-Acu（Constrained Ontology Reasoning Engine for Acupuncture）という、ニューロシンボリック（神経記号）アプローチを採用したフレームワークを提案しています。

以下に、本論文の技術的概要を問題定義、手法、主要な貢献、結果、そして意義に分けて詳述します。

---

1. 問題定義

鍼灸分野における LLM の適用には、以下の 3 つの重大な課題が存在します。

1. 推論のブラックボックス化と非検証性: 従来の LLM は、症状から処方を直接マッピングする確率的な生成を行い、中核となる「弁証（診断）→病機分析→治則→腧穴選択」という中医医学の論理的連鎖を省略しがちです。これにより、推論過程の監査性が失われ、臨床現場での信頼性が損なわれます。
2. 安全性ハルシネーション: 鍼灸は侵襲的な物理的介入であるため、禁忌（妊婦における合谷などの特定ツールの使用禁止など）の厳守が不可欠です。しかし、確率的なデコーディングに依存する LLM は、言語的に流暢でも臨床的に誤った（禁忌を含む）処方を生成するリスクが高く、患者の安全を脅かします。
3. 用語の頻度 - 重要度のミスマッチ: 一般的な最適化（クロスエントロピー損失）では、高頻度語と重要度の高い安全クリティカルな用語（腧穴名や経絡名など）が均等に扱われます。これにより、重要な専門用語の生成精度が低下し、用語のドリフト（例：太渓と太淵の混同）が発生します。

2. 提案手法：CORE-Acu フレームワーク

CORE-Acu は、構造化された推論トレースと知識グラフ（KG）に基づく安全性検証を統合した、3 つの主要コンポーネントから構成されるニューロシンボリックフレームワークです。

2.1. 構造化推論トレース（S-CoT）とスキーマ制約ファインチューニング

• ** Acu-Reasoning データセットの構築**: 鍼灸分野初の構造化推論トレース（Structured Chain-of-Thought: S-CoT）データセット（42,512 サンプル）を構築しました。
• ** 因果連鎖の明示化**: 単なる「症状→処方」のマッピングではなく、以下の厳密な因果チェーンを強制するスキーマを定義しました。
  • 弁証（Diagnosis）→ 病機（Pathology）→ 治則（Principle）→ 腧穴選択（Acupoints）
• ** 効果**: これにより、暗黙的な中医医学の推論を、解釈可能で機械的に検証可能な生成制約に変換し、ブラックボックス性を解消します。

2.2. 記号的拒否メカニズム（Symbolic Veto Mechanism）による安全性検証

• ** 鍼灸禁忌知識グラフ（TCM-KG）の構築**: 4,628 ノード、12,500 辺からなるドメイン特化型の KG を構築しました。これには、WHO 標準用語や国家基準に基づいた腧穴属性と、1,200 以上の硬い制約（禁忌ルール）が含まれます。
• ** Generate–Verify–Revise ループ**:
  1. 生成: LLM が S-CoT 形式で処方を生成。
  2. 検証: 生成された処方を KG と照合し、禁忌（例：妊婦への特定ツールの使用）や矛盾を検出。
  3. 修正: 違反が検出された場合、具体的な証拠（トリプル）をフィードバックとして LLM に与え、再生成を促します。
  4. フォールバック: 最大反復回数（Tmax）内で解決できない場合は、人間の確認を要求する安全なフォールバックを実行します。
• ** 効果**: 確率的な生成を決定論的なルールで監視し、安全性違反を厳格に防止します。

2.3. レキシコン一致エンティティ再重み付け損失（LMERL）

• ** 目的**: 頻度と重要度のミスマッチを解消し、安全クリティカルな用語の生成精度を向上させること。
• ** 手法**: 学習中に、ドメイン固有の用語（腧穴名、病名など）に対して勾配を適応的に増幅する重み付け関数 $\omega(y_t)$ を導入します。
  • 数式: $L_{LMERL} = -E [\frac{1}{Z} \sum \omega(y_t) \cdot \log P_\Theta(y_t | \dots)]$
  • ここで、ドメイン用語には重み $\alpha (>1)$ を、一般語句には 1 を割り当てます。
• ** 効果**: 低ランク適応（LoRA）などのパラメータ効率型ファインチューニングにおいて、限られたパラメータ更新を「安全に重要な実体」の学習に集中させ、用語のドリフトを防止します。

3. 主要な貢献

1. 初の鍼灸 S-CoT データセットとスキーマ制約ファインチューニング: 暗黙の推論を明示的な因果チェーンに変換し、解釈可能な CDS を実現。
2. 硬い安全性境界のための記号的拒否メカニズム: KG を基盤とした「生成 - 検証 - 修正」ループにより、確率的なハルシネーションを排除し、禁忌違反を 0 に抑えることを可能にしました。
3. LMERL の提案: 医療ドメイン特有の用語精度問題に対し、勾配の再重み付けを通じて解決策を提示。

4. 実験結果

1,000 件のホールドアウトテストセットを用いた評価において、CORE-Acu は以下の結果を示しました。

• 安全性違反率（SVR）:
  • CORE-Acu: 0/1,000 (0%)。
  • 比較モデル: GPT-4o は 8.5%、Qwen-Max は 4.1%、医療特化モデル（HuatuoGPT）でさえ 12.0% の違反率を示しました。
  • 無制約のベースラインモデルは 30.0% の違反率であり、KG 制約推論の有効性が証明されました。
• 推論品質と実体精度:
  • Entity-F1 スコア: 0.4612（ベースラインの GPT-4o は 0.2906）。LMERL による用語精度の向上が確認されました。
  • 多面的評価: 専門医による評価（弁証の正確性、病機論理、処方の合理性など）において、CORE-Acu は他のモデルを凌駕し、特に「推論の妥当性」と「病理論理」で高いスコアを獲得しました。
  • 解釈性: 専門家は、CORE-Acu が「答えを先に生成し、その後に理由を付与する」ような振る舞い（GPT-4o などで見られた）ではなく、論理的な因果連鎖に基づいた処方を生成していることを確認しました。

5. 意義と結論

CORE-Acu は、医療分野における LLM の実用化、特に侵襲的な介入を伴う鍼灸分野において、以下の点で画期的な意義を持ちます。

• 信頼性の確保: 「ブラックボックス」な確率的生成を、検証可能な論理的チェーンと決定論的なルール検証に置き換えることで、臨床現場での導入障壁を低減しました。
• 安全性の保証: 確率的なアプローチだけでは不可能だった「0 違反」の安全性保証を、ニューロシンボリックなアプローチ（KG による拒否）によって実現しました。
• ドメイン適応の新たな指針: 単なるファインチューニングではなく、ドメイン固有の重要度に基づいた損失関数の設計（LMERL）が、専門用語の精度向上に不可欠であることを示しました。

本フレームワークは、AI 支援医療が単なる「流暢な会話」を超え、厳密な安全性と論理的整合性を備えた「意思決定支援システム」として機能するための堅牢な基盤を提供しています。