NeuroStrata: Harnessing Neurosymbolic Paradigms for Improved Design, Testability, and Verifiability of Autonomous CPS

あなたは、混沌とした都市を自律走行する必要がある、超スマートなロボットカーを構築していると想像してください。現在、こうした車の多くは「ニューラルネットワーク」に依存しています。これは、巨大で非常に有能ですが、少し混沌としたアーティストのようなものだと考えてください。このアーティストは、停止標識や歩行者を認識することには長けていますが、直感と確率に基づいて動いています。そのため、光の当たり方が特殊だったり、奇妙な新しい物体が現れたりすると、アーティストは混乱して「これは停止標識か、それとも巨大な赤いドーナツか？」と迷ってしまうことがあります。これは「推測」に基づいているため、車が絶対に間違いを犯さないという100%の証明を行うことは困難です。これは安全性の面で大きな問題となります。

ここで、NeuroStrataが登場します。これは、その混沌としたアーティストに、厳格で論理的なマネージャーを与えたいと考えている研究チームによる新しいアイデアです。

「推測」だけであることの問題点

論文では、現在の自動運転システムは、「知覚」チーム（目）と「計画」チーム（脳）の両方が、以前見たパターンに基づいて単に推測しているような状態であると指摘しています。もし車が、学習データにはなかった状況（例えば、バスが奇妙な動きをするような「ロングテール」シナリオ）に遭遇した場合、失敗する可能性があります。従来の検証ツールは、システムの局所的な一部のみをチェックすることが多く、全体像を見落としてしまいます。これらは確率に依存しているため、車が安全であるという、鉄壁で確固たる約束を与えることはできません。

NeuroStrataの解決策：アーティストと建築家のチーム

著者らは、ニューラルネットワーク（アーティスト）の柔軟な学習能力と、記号的AI（建築家）の厳格で壊れない論理を融合させた、二つの世界のベストな部分を組み合わせるフレームワーク、NeuroStrataを提案しています。

これは建設現場のようなものだと考えてください。

• ニューラルネットワークは、レンガの乱雑な山を見て、「おい、これは壁のように見えるぞ」と判断できる作業員です。カメラやLiDARのような、現実世界の乱雑なデータを扱うのが得意です。
• 記号システムは、設計図を持っている建築家です。建築家は推測しません。「壁は垂直でなければならない」「車は壁を通り抜けることはできない」という事実を知っています。

NeuroStrataは、これらを階層構造の中に組み込みます。これは単一の大きな脳ではなく、層状のシステムです。

1. 高レベル（建築家）: このレイヤーは、純粋な論理を用いて、「車は道路上にいなければならない」といった大きな意思決定を行います。この部分は100%決定的（deterministic）であり、同じルールが与えられれば常に同じ結果をもたらします。これは、数学的に安全であると証明できる厳格なルールブックのようなものです。
2. 中・低レベル（作業員）: これらのレイヤーは、ニューラルネットワークを使用して、「あれは歩行者か、それともビニール袋か？」といった細かいディテールを処理します。しかし、ここが重要な点ですが、建築家は常に作業員の仕事を確認しています。もし作業員が「あれは歩行者だ」と言ったとしても、建築家はルールを確認します。「歩行者が交差点の真ん中にいることは許されているか？」もし作業員の推測がルールに抵触する場合、システムがそれを検知します。

学習と適応の方法

最も興味深いのは、両者の対話方法です。これは双方向の道です。

• トップダウン: 建築家は作業員に厳格な指示を与えます。「赤信号を無視してはいけない」。
• ボトムアップ: もし作業員が新しいもの（例えば、バスが奇妙なダンスをしているような状況）を目にした場合、システムは即座に建築家のルールを更新できます。システムは「微分可能なプログラム誘導（differentiable program induction）」という手法を使用しており、これは、ロボットが安全性の保証を失うことなく、新しい状況に対処するために自分自身のルールブックをわずかに書き換えることができる、ということを意味する高度な技術です。

彼らが実際に成し遂げたこと（そして成し遂げていないこと）

著者らは、明日買ってこられるような完璧な自動運転車を構築したと主張しているわけではありません。彼らはまだ「初期段階の結果」のフェーズにいます。

彼らは、このアイデアが機能するかどうかを確認するために、LASERと呼ばれる特定の実験を行いました。ビデオシーンを理解するようにニューラルネットワークを訓練しましたが、今回は単に画像を見せるだけでなく、「時間的論理（temporal logic）」（出来事を時間の経過とともに記述するための言語）で書かれた厳格な論理ルールに従うよう強制しました。

• 結果: 彼らのテストにおいて、この新しい手法は、オブジェクト間の関係を予測する能力を向上させました。例えば、OpenPVSGというデータセットにおいて、Recall@10が53.98%というスコアを記録しました。これは技術的に聞こえますが、従来の完全教師あり学習の手法よりも、オブジェクト同士の関係性を推測する能力が30.55%向上したことを意味します。
• 注意点: また、87,000組のビデオ・キャプションのペアを用いた大規模なデータセットでもテストを行いました。このモデルを未知のデータに対して使用した際、学習データに対してほぼ同様のパフォーマンスを示しました（差はわずか**-0.52%**）。これは、システムが汎化性能を持っていることを示唆していますが、あくまでシミュレーションおよび特定のケーススタディであることを覚えておいてください。

前方への道のり

論文は、これを現実にするための6つのステップの計画を概説しています。彼らは以下のことを目指しています。

1. AIを使用して、より多くの「奇妙なエッジケース」の学習データを生成すること（例：歩道を走るバスなど）により、ロボットが予期せぬ事態に対処できるようにする。
2. エンジニアがこれらの安全ルールを簡単に記述できる特別な言語（DSL）を作成すること。
3. ロボットが走行中にその仕事をリアルタイムでチェックできるツールを構築すること。
4. 最終的に、コンピュータシミュレーション（CARLAのようなゲーム）から、実際の車、ドローン、ロボットへと移行すること。

彼らは現在、業界のパートナーと協力しており、セミナーも計画しています。しかし、現時点では、NeuroStrataは有望なブループリント（設計図）です。これは、私たちのAIに、その創造的な推測を見守る厳格な論理的マネージャーを与えることで、単に賢いだけでなく、真に安全で信頼できる自律システムを構築できる可能性があることを示唆しています。論文は、これが前進するための道であると示唆していますが、「有望なアイデア」から「解決された問題」への道のりは、まだ建設の途中です。