💻 computer science

DriveSafer: End-to-End Autonomous Driving with Safety Guidance

DriveSafer は、学習時の制約と推論時のガイダンスを通じて生成型プランナーを明示的に安全な行動へ誘導するエンドツーエンド自動運転向けの新たな安全フレームワークであり、最先端のモデルと比較して NAVSIM ベンチマークにおいて致命的な失敗や規制違反を大幅に削減します。

原著者： Shounak Sural, Raj Rajkumar

公開日 2026-05-19

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Shounak Sural, Raj Rajkumar

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

想像してください。全く新しい、驚くほど才能に恵まれたロボットドライバーに、都市の街路を走行させる方法を教えていると。この「エンドツーエンド」AI で構築されたロボットは、数百万時間にわたる運転動画を視聴してきた天才児のようです。複雑な交通状況への対応、高速道路への合流、歩行者への反応など、ほぼ誰よりも優れています。

しかし、一つの問題があります。このロボットは「平均的」な走行では優れているものの、時折「脳が凍りつく」ような状態に陥り、壊滅的な事故を引き起こすことがあるのです。歩道に突っ込んだり、歩行者に衝突したり、「右折」の標識を無視して対向車線に突っ込んだりするかもしれません。これらは単なる小さな過ちではなく、ロボットを実際の用途に安全に使用できないほど致命的な欠陥です。

本論文は、ロボットを全体的に「より優れた」ドライバーにするだけでなく、特にこれらの危険な「脳凍結」を阻止するために設計された新しいシステム「DriveSafer」を紹介しています。DriveSafer は、ロボットの「学校生活」（学習）中と、実際に「運転」中（推論時）の 2 つの段階で協力する「安全コーチ」のような役割を果たします。

問題点：「平均」の罠

著者らは、従来の安全性チェックが、生徒の成績を平均点だけで評価するようなものだと気づきました。生徒が平均 95 点を取っていても、最も重要な試験である「壁に衝突しない」試験に不合格になる可能性があります。DiffusionDrive などの既存の最優秀ロボットドライバーさえも、平均スコアは高いものの、稀で危険な状況では衝突を起こしていました。

解決策：DriveSafer

DriveSafer は、厳格だが親切なメンターのように、主に 2 つのツールを用いて機能します。

1. 学習時：「安全の宿題」

ロボットが学習している間、DriveSafer はカリキュラムに特別な「安全の宿題」を追加します。

比喩: 子供に自転車に乗せることを想像してください。単に乗せるだけでなく、補助輪（制約）を取り付け、バランスを崩しすぎたときは優しく支える（損失関数）のです。
仕組み: システムはロボットに 3 つの具体的なルールを教えます。
1. 道路に留まる: アスファルトや歩道から外れないこと。
2. 距離を保つ: 他の車や人に近づきすぎないこと。
3. 滑らかに動く: 乗客を酔わせるような急激でぎこちない動きをしないこと。
ロボットがこれらのルールを破る経路を学習しようとした場合、「ペナルティ」（数学的なスコアが低下）が科され、最初から安全な習慣を学ばざるを得なくなります。

2. 推論時：「安全の二重チェック」

良い学習を積んでいても、実際に運転する際にロボットが迷ったり混乱したりする瞬間はあり得ます。DriveSafer は、ロボットが行動を決定する前に「第二の意見」を得るステップを追加します。

比喩: 混雑した交差点を渡ろうとしている場面を想像してください。左を見て、右を見て、そして考えます。「ちょっと待て、左に一歩ずれた方が安全かもしれない」。一歩踏み出す前に、頭の中でいくつかの「もしも」のシナリオを素早く生成します。
仕組み:
- ロボットが主要な計画（例：「左折する」）を立てます。
- DriveSafer は即座にいくつかの代替計画（例：「左折だが少し遅くする」、あるいは「左折だが少し右にずらす」）を生成します。
- これらの選択肢すべてを地図や他の車の位置情報と照合してチェックします。
- 元の計画が歩行者に衝突したり、道路外に出たりする可能性があると判断された場合、DriveSafer はそれを却下し、最も安全な代替計画を選択します。

結果：事故の減少、より安全な道路

著者らは、このシステムを、トリッキーな実世界のシナリオで満ちた有名な運転ベンチマーク「NAVSIM」でテストしました。

大きな勝利: 従来の最優秀ロボットドライバーと比較して、DriveSafer は壊滅的な失敗（衝突や道路外への逸脱）の数を**48%**削減しました。
歩道問題: 特に、許可された道路区域から外れた走行による失敗は、65% 以上削減されました。
視覚的証拠: 論文には、従来のロボットが歩行者の群れや歩道に真っ直ぐ突っ込んでいた例が示されていますが、DriveSafer は車を安全に停止させたり、別の経路に誘導したりすることに成功しています。

まとめ

要するに、DriveSaferは、「ロボットが完璧であることを願うだけでは不十分だ。命に関わる過ちを積極的に防ぐ必要がある」と認めるフレームワークです。学習中の厳格な安全ルールと、運転中の「二重チェック」システムを組み合わせることで、天才的だが無謀なロボットドライバーを、より安全な存在へと変え、実際に害を及ぼしうる最悪のシナリオを特にターゲットにしています。

技術的概要：DriveSafer

問題定義

エンドツーエンド（E2E）自律運転モデルは複雑なベンチマークにおいて成長する能力を示しているが、安全性が重要なシナリオでは依然として多数の壊滅的失敗を起こしやすい。著者らは、これらの失敗の多くが物理的制約や安全性要件の違反に起因し、衝突、許可された領域からの逸脱、または意図した方向からの逸脱などの安全でない行動につながることを観察している。

L2 距離誤差や真値軌道からの誤差などの現在の評価指標は、これらの重要な失敗を隠蔽することが多い。軌道誤差指標において最先端のパフォーマンスを達成するモデルであっても、危険な「盲目」の行動を示す可能性がある。本論文は、平均的な計画の質の向上だけでは不十分であると主張し、主な課題は壊滅的失敗の「ロングテール」（予測ドライバーモデルスコア、PDMS が 0 と定義される）にある。これらの失敗には以下が含まれる：

移動物体（車両または歩行者）との衝突。
許可された走行可能領域からの逸脱（例：歩道への乗り上げ）。
意図した運転方向からの著しい逸脱。

手法

著者らは、生成型 E2E プランナーを安全な行動へと明示的に誘導するように設計された、失敗を認識する安全性フレームワーク「DriveSafer」を提案する。このフレームワークはベースモデル「DiffusionDrive」上で動作し、2 つの相乗的なフェーズを通じて安全性の強制を導入する。

1. 安全性を認識したトレーニング

DriveSafer は、ベースの損失関数（ $L_{base}$ ）に加えて、専門的かつ物理情報に基づき、安全性を認識した損失関数を組み込むことで、トレーニング目的を修正する。総損失は以下のように定義される：
$L_{total} = L_{base} + \lambda_{DAC}L_{DAC} + \lambda_{Col}L_{Col} + \lambda_{Comf}L_{Comf}$

走行可能領域の準拠（ $L_{DAC}$ ）： 基盤マップから導出された走行可能領域マスクから外れる予測軌道にペナルティを課す。
衝突回避（ $L_{Col}$ ）： 周囲のエージェントから特定の距離閾値（ $d_{col}$ ）以内に来る軌道にペナルティを課す。
快適性（ $L_{Comf}$ ）： 乗客の快適性を確保するために急激な運動変化（ジャーク）を低減する。

ベースラインモデルが将来のエージェント位置を予測できないこと（これにより推論中の衝突認識が制限される）に対処するため、著者らは軽量アダプター層を導入する。この層は将来のタイムステップにおける他の道路エージェントの動きを予測し、統合的な予測と計画を可能にする。

2. 推論時の安全性ガイダンス

拡散モデルの確率的性質と潜在的なセンサーノイズを認識し、DriveSafer は推論中に実行不可能な軌道を拒絶するためのガイダンス戦略を採用する：

代替仮説の生成： システムは、拡散モデルから得られたトップ予測モードに基づいて代替軌道を生成する。これらの代替案には以下が含まれる：
- 進行方向と速度の変動（5% の変動）。
- メートル未満の横方向軌道シフト。
- 拡散モデルから得られた 2 位および 3 位のモードの活用。
安全性スコアリングと選択： 予測されたエージェントの位置と基盤マップを用いて、これらの代替軌道に安全性指標でスコアを付ける。最も安全な軌道が最終出力として選択され、車両を安全でない行動から効果的に「押しやる」形で誘導する。

主要な貢献

本論文は 4 つの主要な貢献を概説する：

DriveSafer フレームワーク： 相乗的なトレーニング時および推論時の安全性強制を通じて壊滅的失敗を標的とする、E2E 計画向けの失敗中心の安全性強制フレームワーク。
安全性を認識したトレーニング戦略： 専門的な損失（走行可能領域、衝突、快適性）の導入と、統合された軽量予測モジュールによる予測と計画の統合。
推論時のガイダンス： プランナーを安全性準拠の出力へと誘導するために、代替軌道を生成・評価する手法。
パフォーマンスの向上： 最先端のベースラインと比較して、NAVSIM ベンチマークにおける壊滅的失敗の削減が実証された。

実験結果

このフレームワークは、高密度な都市交通と複雑なシナリオを特徴とする navtest スプリットを含むNAVSIMベンチマークで評価された。

壊滅的失敗の削減： DriveSafer は、DiffusionDrive ベースラインと比較して壊滅的失敗（PDMS = 0）の数を**48%**削減した（ケース数を 653 から 340 に削減）。
走行可能領域の準拠： 走行可能領域の準拠失敗が65% 以上削減された（448 ケースから 154 ケースへ）。
総合 PDMS スコア： モデルは90.3の PDMS スコアを達成し、DiffusionDrive ベースライン（88.1）より 2.2 ポイント向上した。
サブ指標： 走行可能領域の準拠（DAC）と自己進捗（EP）のサブ指標において顕著な改善が観察された。
定性的分析： 視覚的例は、ベースラインモデルが道路外を走行したり、意図した方向を違反したり、歩行者や対向車と衝突したりしたシナリオにおいて、DriveSafer がそれを修正していることを示している。

意義と主張

本論文は、E2E 自律運転の実用性は、平均的なパフォーマンス指標に関わらず、多数の壊滅的失敗によって現在制限されていると提唱する。DriveSafer の意義は、平均軌道誤差の限界的な改善よりも生命を脅かすシナリオの緩和を優先する失敗中心の視点にある。

著者らは、E2E システムにおける明示的な安全性ガイダンスは、壊滅的失敗ケースの直接的な削減に向けられるべきであると主張する。トレーニング時の制約と推論時のガイダンスを組み合わせることで、DriveSafer はより安全な実世界展開への道筋を提供する。著者らは、将来の目標として、実世界の条件におけるその影響を評価するために、自律走行車（AV）への実世界展開に向けて DriveSafer を拡張すること、そして究極的には壊滅的失敗をゼロに削減することを述べている。