Herding End-to-End Autonomous Driving via Neuro-Symbolic Safety Guards

技術要約：ニューロ・シンボリック・セーフティ・ガードによるエンドツーエンド自動運転の制御

1. 問題提起

現代のエンドツーエンド（E2E）自動運転エージェントは、標準的なベンチマークにおいて高い平均性能を達成しているが、重大な結果を招く稀なシナリオ（例：赤信号の無視、歩行者への譲り合いの失敗）において、基本的な交通規則に違反することが頻繁にある。その根本的な原因は構造的なものである。これらのエージェントは、安全性を保証する基礎的な物理条件からではなく、学習データから統計的なパターンを学習しているためである。その結果、意思決定プロセスは不透明であり、安全制約が明示的に強制されない。この脆弱性は、「ロングテール」の状況（人間なら明白だと判断できるような稀な事象）における失敗を招き、公衆の信頼を損ない、社会実装を阻害している。Safe Reinforcement Learning（Safe-RL）によるシールドングのように学習中にアクションを制約する手法や、ルールベースのプランナーによって学習済みコントローラーを完全に置き換える手法などの既存の解決策はあるが、エージェントの核となる知覚および計画能力を変更したり、再学習させたりすることなく、学習済みのポリシーに対して安全性を強制するメカニズムが必要とされている。

2. 手法

本論文では、すでに学習済みのE2Eエージェントの最終的なコマンドインターフェースに取り付けられる軽量なモジュールである、**ニューロ・シンボリック・セーフティ・ガード（neuro-symbolic safety guard）**を提案する。このガードは実行時に動作し、車両が回復不能または危険な状態に陥らないように、必要な場合にのみ介入する。

アーキテクチャとワークフロー：
システムは、ニューラルネットワークの重みを変更することなく、「Read（読み取り）」「Reason（推論）」「Restrict（制限）」の3段階で機能する。

1. Read（読み取り）： ガードは、E2Eスタックのフォワードパス中に既に公開されている構造化されたシーン信号にアクセスする。これらには、物体検出（$K$）、鳥瞰図セマンティックマップ（$B$）、レーダーリターン（$V$）、およびエージェント自身の計画されたウェイポイント（$W$）が含まれる。
2. Reason（推論）： 5つの明示的な閉形式（closed-form）の安全ルールが、これらの信号を処理する。各ルールは、確立された物理モデルに基づき、制御コマンド（スロットル/ブレーキまたはステアリング）に対する具体的な境界値を導出する。
   • R1（計画経路衝突防止）： 責任感のある安全性（RSS）を用いて、意図した経路上の障害物との衝突を防ぐ。この際、経路上の脅威と経路外の障害物を区別する。
   • R2（速度制限遵守）： 車両が都市部の速度エンベロープ内に留まることを保証する。
   • R3（赤信号停止遵守）： 赤信号が作動しており、かつ安全な通過に十分な残距離がない場合に、停止を強制する。
   • R4（歩行者優先保護）： 交差領域における歩行者への早期譲り合いを強制する。
   • R5（速度条件付きステアリング安定性）： 操舵によるグリップ喪失を防ぐため、運動学的な自転車モデル（kinematic bicycle model）を用いてステアリング角を制限する。
3. Restrict（制限）： ガードは、有効なルールの境界に基づく実行可能集合 $C(o)$ を定義する。そして、エージェントの公称コマンド（$x_0$）を、この安全集合内の最も近い点（$x^*$）へと投影するために二次計画法（QP）を解く。元のコマンドが安全であれば、変更されない。もし安全でない場合は、最も近い安全な代替案へと最小限に調整される。

主要な設計原則：

• アーキテクチャの独立性： ガードは、シーン信号を公開しているあらゆるE2Eモデルに装着可能であり、ポリシー自体には影響を与えない。
• 追跡可能性： すべての介入は決定的であり、特定のルールに直接帰属するため、システムの監査が可能である。
• 再学習不要： ガードは学習を必要とせず、学習されたコンポーネントも追加しない。

3. 主な貢献

1. ニューロ・シンボリック・セーフティ・ガード： 学習済みのニューラルエージェントをラップする新しいモジュールであり、学習されたポリシーの柔軟性と、明示的なルールの保証を組み合わせる。Safe-RLとは異なり、学習を制約しない。ルールベースのプランナーとも異なり、コントローラーを置き換えるものではない。
2. 根拠に基づいた交通安全ルール： 確立された安全性（RSS）および車両力学（自転車モデル）の原理から閉形式で導出された5つのルール。これらは複雑な安全要件をスロットル、ブレーキ、またはステアリングに対する単一の境界値へと簡略化し、ヒューリスティックな調整ではなく、物理的基準に対して検証可能な修正を実現する。
3. 測定された堅牢性と安全性の向上： ガードが一般的な運転能力を維持しながら、ロングテールなベンチマークにおいて安全性を大幅に向上させることを実証的に検証した。

4. 実験結果

ガードは、最先端の TransFuser v6 (TFv6) エージェントをケーススタディとして、Fail2Drive および Bench2Drive ベンチマークを用いて評価された。評価は、未知の物体やレイアウトを含むハザードシナリオを提示した、汎化分割（generalization split）に焦点を当てた。

• 安全性の向上： 汎化分割において、ガードは成功率（SR）を15%向上させ、安全に関わる衝突を最大53%減少させた。
• 能力の維持： ドライビングスコア（DS）はほぼ変化しなかった。DSとSRの調和平均（HM）は、汎化分割において7.8%向上しており、これはガードが既知のルートにおける性能を低下させることなく、稀な失敗を効果的に軽減していることを示している。
• 汎化の堅牢性： ガードは、イン分布（in-distribution）から汎化分割への移行時における性能低下（能力損失）を、18.4%（TFv6単体）から9.8%（TFv6 + ガード）へと減少させた。これはテストされた学習済みエージェントの中で最小の損失である。
• トレードオフ： 介入は主に「時間の損失」（例：通過可能なはずの障害物に対して停止する、あるいは隙間を待つなど）をもたらし、タイムアウト違反のわずかな増加につながった。しかし、このトレードオフは衝突を回避するという目的を十分に果たした。

5. 意義と主張

本論文は、自動運転システムの主な価値は、走行距離や平均ルートスコアではなく、稀で重大な結果を招く条件下において、そのコマンドがどの程度の保証を満たすかによって判断されるべきであると主張している。

• 信頼と社会実装： 意思決定プロセスを監査可能にし、安全制約を明示的に強制することで、ガードは学習済みエージェントの「脆弱性」に対処しており、公衆の信頼と規制当局の承認を加速させる可能性がある。
• 効率性： 本手法は、大規模なモデルの再学習を必要としない「プラグアンドプレイ」型の安全レイヤーを提供しており、既存および将来のE2Eエージェントへの適用が可能である。
• 評価パラダイム： 結果は、現在のベンチマークが、安全ガードが破滅的な失敗を防ぐためにルートの進行を犠牲にする可能性があることを考慮し、慎重な停止と衝突を、単なる重み付けされた違反ではなく、カテゴリーとして異なる結果として扱う必要があることを示唆している。

著者らは、ニューロ・シンボリック・ガードを用いることで、学習済みのドライバーがその学習された柔軟性を保持しつつ、安全な展開に必要な物理的および法的制約を厳格に遵守できると結論付けている。