Constructing Dynamic Master Logic Models as Knowledge Graphs for Complex System Diagnostics Using Retrieval-Augmented Large Language Models

巨大で複雑な機械、例えば宇宙船や原子力発電所がどのように機能しているのかを理解しようとしている場面を想像してみてください。通常、エンジニアは、何かが故障した場合に何が起こるかを把握するために、「フォールトツリー」と呼ばれる巨大で複雑な地図を描かなければなりません。これらの地図は、個々の落ちた葉や折れた枝だけを研究することで、森全体の生態系を理解しようとするようなものです。これらは既知の問題に対しては非常に優れていますが、もし誰も予期していなかったような、全く新しい奇妙な故障が発生した場合、これらの地図は失敗することがよくあります。なぜなら、それらはあらかじめ書き込まれた特定の災害シナリオのみを探すように設計されているからです。

これを解決するために、科学者たちは「機能モデリング（Functional Modeling）」と呼ばれる手法を使用します。これは、単に壊れた部品のリストを作成するのではなく、その機械が「本来何をすべきか」をマッピングするものです。それは、車のすべての壊れたボルトをリストアップすることによって車を理解するのではなく、「エンジンは燃料を運動に変えるのが仕事であり、車輪の仕事は、その運動を移動に変えることである」ということを理解することに似ています。もし「仕事（ファンクション）」の内容を知っていれば、たとえそのような問題を見たことがなくても、燃料が止まったらどうなるかを導き出すことができます。これまで、この「仕事の地図」を作るには、専門家が数千ページに及ぶ技術マニュアルを読み、手作業で接続関係を描画する必要があり、膨大な時間がかかる上に、大規模なシステムへの適用も困難でした。

---

この論文の核心：AIに設計図を描かせる方法

この論文は、大規模言語モデル（LLM）と「検索拡張生成（RAG）」と呼ばれる技術を用いて、これらの「仕事の地図」（動的マスターロジック、またはDMLモデルと呼ばれます）を構築する、巧妙で新しい方法を紹介しています。LLMを、エンジニアリングのマニュアルという図書館のすべてを読み終えた「非常に賢く、読むのが速いインターン」だと考えてください。しかし、このインターンには悪い癖があります。時々、作り話をしたり、話が長くなりすぎると混乱したりしてしまうのです。これを防ぐために、著者たちはインターンに対して厳格なルールを与え、タスクに関連するマニュアルの特定のページを必ず確認してから書き始めるように強制する「検索エンジン（RAG）」を授けました。

その結果、技術文書を自動的に読み取り、専門家が描いた地図と全く同じ見た目を持つ「知識グラフ（デジタルな接続の網）」を構築するシステムが誕生しました。著者たちは、このシステムを、廃炉された原子力発電所の低圧注水（LPCI）システムを用いてテストしました。このシステムは、原子炉が熱くなりすぎた場合に水を注入して冷却するための安全装置です。ポンプ、バルブ、パイプが特定のやり方で連携して動く、非常に複雑な仕組みです。

魔法の仕組み：層ごとに作るシェフ

著者たちは、単にAIに「地図全体を描いて」と頼んだわけではありません。それは、シェフに対して「一文だけでフルコースの料理を作れ」と言うようなものです。代わりに、彼らは屋根から基礎へと家を建てるように、工程をレイヤー（層）に分けて分解しました。

1. 検索： システムは、「原子炉を冷却し続ける」といった高レベルの目標からスタートします。そして、その目標について述べているマニュアルの特定のセクションを検索します。
2. 抽出： AIはそのセクションを読み、「この目標を達成するために必要な機能は何か？」と問いかけます。そして、「水をポンプで送る」や「バルブを開ける」といった答えを見つけ出します。
3. 接続： 次に、それらの新しい機能に基づき、マニュアルを再検索して、その仕事を実際にこなす具体的な部品（コンポーネント）を見つけ出します。
4. グラフ化： 最後に、これらすべてのピースを一つのデジタルグラフ（知識グラフ）へと縫い合わせます。そこでは、各ノードが部品や機能を指し、各ラインがそれらを結ぶ論理的なルール（「AND」や「OR」など）となっています。

論文によれば、この手法は驚くほど上手くいっています。同じ原子力発電所の文書に対してシステムを5回実行したところ、驚異的な一貫性を持って地図を構築できました。大局的な目標や主要な機能については、AIは毎回100%正解を出しました。個々のバルブのような詳細なコンポーネントのレベルにおいても、正解率は約98%に達しました。

「整合性スコア」：その地図はどれほど優秀か？

AIが単に推測しているのではないことを確認するために、著者たちは「整合性スコア（Integrity Score）」と呼ばれる特別な採点システムを作成しました。これは、生徒の宿題を採点するようなものです。単に答えが合っているかを確認するだけでなく、物語全体が筋が通っているかを確認します。もし生徒が途中で重要なステップを一つでも飛ばしてしまったら、答え全体が崩れてしまうからです。

著者たちは、AIにどのように情報を与えるかが重要であることを発見しました。一度に処理する量（バッチサイズ）が大きすぎると、地図の品質はわずかに低下しました。それは、シェフに対して食事全体の野菜を一度にすべて刻むよう命じるようなもので、作業中にいくつか切り忘れてしまう可能性があります。逆に、一度に一つの小さなステップを行う（バッチサイズ1）と、作成時間は長くなりますが、地図は最も正確になりました。彼らが見つけた最適なバランスは、一度に5つのステップを処理することであり、これにより、完成までに時間がかかりすぎることもなく、非常に高い精度（スコアは約89/100）を維持することができました。

地図ができること：探偵とプランナー

地図が完成すると、それは主に2つの強力なツールとなります。

1. 上方伝播（探偵）： 特定のバルブが故障した場合、「プラント全体に何が起こるか？」とシステムに尋ねることができます。システムは失敗の連鎖を梯子を登るように辿っていきます。「もしこのバルブが故障すれば、ポンプが作動できなくなり、その結果、冷却機能が失われ、原子炉が過熱する可能性がある」といった具合です。これは、AIが地図に組み込んだ論理ルールに従って行われます。
2. 下方伝播（プランナー）： また、「どうすれば原子炉を冷却できるか？」と尋ねることもできます。システムは梯子を下りていき、「ポンプを動かすには、バルブが開いていること、かつ電源が入っていることが必要である」と答えます。システムは、目標を達成するためのあらゆる方法を見つけ出し、システムが備えているバックアップ計画（冗長性）を示してくれます。

注意点：論文が述べていること、述べていないこと

著者たちは、これが完璧で完成された製品であるとは主張していません。AIはマニュアルを読み取り、接続関係を描くことには長けていますが、人間のような専門家が行うような「物理学的な理解」は持っていないことを明確に述べています。この地図は、あくまで「テキストの表現」であり、必ずしも現実の完璧なシミュレーションではありません。

例えば、論文では、地図の中で最も混み合った複雑な部分（多くのバルブやパイプが接続されている箇所）において、AIが少し苦戦することがあると指摘しています。数百の接続のうち、1つか2つの接続を見落とす可能性があります。また、このシステムは「共通原因故障（Common Cause Failures）」を自動的には認識しません。これは、製造時の不良や共有の電力サージなど、隠れた原因によって異なる2つの部品が同時に故障する状況のことです。AIは会話の中でこれらを可能性としてフラグ立てすることはできますが、地図の核となる論理の中にこれらを組み込むことはありません。

さらに、この論文は、これが人間の専門家に取って代わるものであるという考えを否定しています。むしろ、このツールは「フォース・マルチプライヤー（力の増幅器）」であると示唆しています。通常、専門家が数ヶ月かけて読み、描画しなければならない作業を、わずか数日間に短縮するものです。その後、人間の専門家が介入してAIの作業をレビューし、欠落しているリンクを見つけ出し、地図が真に安全であることを保証するのです。

結論

この論文は、AIを用いることで、膨大な量の退屈で複雑な技術マニュアルを、巨大な機械がどのように機能し、故障したときに何が起こるかを理解するための、インタラクティブで論理的な地図へと変えられることを示唆しています。これは、あらゆるエンジニアリングの問題を即座に解決する魔法の杖ではありませんが、私たちの複雑な世界をより速く、より一貫して安全に保つための強力な新しいツールです。適切な「検索と検証」の戦略を用いることで、AIはエンジニアリングの論理という言語を習得し、テキストを、安全性に向けた生き生きとした設計図へと変えることができるのです。