現代の機械は、混雑した通りを走行する自動運転車から荷物を配送するドローンに至るまで、現実世界で自ら意思決定を行うことがますます増えています。これらのシステムは多くの場合、人工知能を含む複雑なコンピュータプログラムに依存していますが、これらは「ブラックボックス」として機能します。私たちはそれらが機能することを知っていますが、どのように考え、どのような動きをするかを完全に予測することはできません。これらの機械の安全性を確保するために、エンジニアは「抽象化」と呼ばれる手法を用います。彼らは、動いている物体の複雑で連続的な現実を、明確なブロックで作られた単純なステップバイステップのモデルに置き換えます。これにより、機械がラボを出る前に、衝突や故障を起こさないかどうかをチェックすることが可能になります。しかし、そこには落とし穴があります。安全であるためには、これらの簡略化されたモデルは保守的（コンサバティブ）でなければなりません。つまり、あらゆる動きに対して最悪のシナリオを想定しなければならないのです。もしモデルが保守的すぎると、実際には決して起こらない不可能で空想的な危険によって、モデルが煩雑になってしまいます。この「誤報」の問題により、モデルがあまりにも巨大で乱雑になり、コンピュータが時間内に分析できなくなるため、エンジニアは自分たちが構築したシステム自体の安全性を証明できなくなってしまうのです。

フロリダ大学の研究チームは、このバランス調整の問題を解決する新しい手法を開発しました。彼らは、これらの簡略化されたモデルを洗練させるための滑らかなガイドとして機能する「S3」というツールを作成しました。モデルのブロックをどのように配置するかを推測する代わりに、研究者たちは標準的な最適化手法を用いて微調整や改善ができる数学的な目的関数を構築しました。このツールにより、不要な空想上の危険を取り除きつつ、モデルの安全性を維持しながら、モデルのブロックのサイズと形状を自動的に調整することができます。このアプローチを、「スパイラル・システム」、「ユニサイクル型のロボット」、「丘を登るシミュレーション車両」という3つの異なるシナリオでテストした結果、彼らの手法は従来の技術よりもはるかに正確で、計算速度も非常に速いモデルを生成することがわかりました。その結果、過剰で非現実的な警告に足を取られることなく、複雑でインテリジェントな機械の安全性を検証する方法が実現しました。

これらの機械の検証における核心的な課題は、安全性と実用性の間の緊張関係にあります。エンジニアが動くシステムの簡略化されたモデルを構築する際、モデルは現実世界のあらゆる可能な動きをカバーしていなければなりません。もしモデルが実際の経路を見逃せば、それは不安全であることを意味します。これを保証するために、モデルには現実の機械が取り得ない追加の経路が含まれることがよくあります。これらの追加の経路は、前述の「スプリアス（偽の）」挙動です。これらは、有効なルートを見逃さないことを確実にするために、壁に阻まれた道や崖に続く道も含めて、あらゆる道路を描き込んだ地図を描くようなものです。このようにすれば、実際の危険を見逃すことはありませんが、行き止まりがあまりにも多すぎて、旅行の計画を立てるには使い物にならない地図になってしまいます。研究者たちは、これらの行き止まりを、実際の道路を切り落とすことなく刈り取る方法を必要としていました。

これを達成するために、チームは「シミュレーション」と呼ばれる特定の種類の数学的な関係に焦点を当てました。この文脈におけるシミュレーションとは、簡略化されたモデルが現実のシステムの挙動を模倣できるかどうかを確認する方法です。もしモデルが「健全（サウンド）」であれば、現実のシステムがモデルの許容範囲外の行動をとることは決してありません。研究者たちは、モデルがシステムの可能性をどれだけ過大評価しているかを測定する「逆シミュレーション誤差」を最小化したいと考えました。誤差が高いということは、モデルが保守的すぎて、偽の経路で満たされていることを意味します。問題は、標準的な誤差の測定方法が、自動的に改善するには遅すぎ、かつ「ギザギザ」しすぎていたことでした。それは、指の動きをガイドする道具なしに、手作業で、一つ一つの小さな折り目ごとに、くしゃくしゃになった紙を滑らかにしようとするようなものでした。

研究者たちの画期的な成果は、困難な誤差測定の「滑らかな、計算しやすい代用品（サロゲート）」を作成したことです。彼らは、最悪の誤差を近似しつつ、勾配ベースの最適化を利用できるように滑らかに振る舞う、新しい目的関数を導き出しました。これは、険しく岩の多い山道を、同じ目的地へ向かう滑らかで緩やかな丘へと置き換えるようなものです。この滑らかな丘の傾斜に従うことで、コンピュータはモデルのブロックの最適な配置を迅速に見つけ出すことができます。このプロセスには、システムが最も予測不可能な動きをする場所に応じて、ブロック間の隙間を広くしたり狭くしたりして、間隔を調整することが含まれます。この手法は、モデルが実際の経路を見逃さないことを構造的に保証しながら、偽の経路を積極的に排除します。

チームは、このアプローチが実際に機能するかどうかを確認するために、3つの異なるシステムでテストを行いました。1つ目は、ターゲットに向かって螺旋状に回転する単純な二次元システムです。2つ目は、障害物を回避して目標に到達しなければならない三次元のユニサイクル・ロボットです。3つ目は、ロボット工学における古典的な課題である、坂を登るために勢いを蓄えなければならない車が急な丘を登るシミュレーションです。それぞれのケースにおいて、彼らは新しい手法を、特定の誤差が見つかったときのみモデルを洗練させる手法や、固定された形状を用いてグリッドサイズを最適化しようとする手法といった、2つの確立された戦略と比較しました。結果は、新手法が大幅に高速であることを示しました。ユニサイクル・ロボットの場合、新アプローチはモデルの構築と検証に約140秒かかりましたが、古い洗練手法では1,900秒以上を要しました。丘を登る車のケースでは、新手法は約12秒であり、古い手法の約100秒と比較して大幅に短縮されました。

速度だけでなく、モデルの質も向上しました。研究者たちは、新しいモデルがシステムの挙動をどの程度予測できているかを測定し、それらが以前よりもはるかに保守的でない（過度な制限がない）ことを発見しました。ユニサイクルのテストでは、新手法は平均誤差を大幅に減少させ、つまりモデルに含まれる不可能な経路がはるかに少なくなりました。丘を登る車のテストでは、新手法により、実際に成功につながる出発位置のより広い範囲を検証できるようになりました。これは、モデルが保守的すぎると、車が実際には登れる場所であっても、エンジニアに対して「その場所からは登れない」と告げてしまう可能性があるため、極めて重要です。この偽の保守性を減らすことで、新手法はエンジニアに対し、システムが意図した通りに動作するというより大きな自信を与えます。

また、この研究は、新しいツールが異なる設定下でどのように動作するかについても明らかにしました。研究者たちは、ツールを調整して、最悪のシナリオに焦点を当てるか、あるいは平均的な挙動に焦点を当てるかを選択できることを見出しました。絶対的な安全性を極端な可能性に対して確保することが目的であれば、ツールを最悪の誤差を優先するように設定できます。システムが通常どのように振る舞うかの全体像をより良く把握することが目的であれば、平均的な挙動に焦点を当てるように調整できます。この柔軟性により、エンジニアは特定のニーズに合わせて適切なバランスを選択できます。チームはまた、ツールが、システムが素早く動いたり方向を急激に変えたりする領域ではモデルのブロックを小さくし、動きが安定している場所では大きくするという、適応的な粒度を自然に学習することも観察しました。この適応的な粒度は、計算能力を無駄にすることなく効率的なモデルを作成するためにまさに必要なものです。

この研究の意義は、これら3つの例メントを超えて広がっています。この手法は、複雑でインテリジェントなシステムの検証をより実用的なものにするための一般的なフレームワークを提供します。機械が自律化し、安全性が極めて重要な環境に配列されるようになるにつれ、その安全性を迅速かつ正確に検証する能力は不可欠となります。この新しいツールは、エンジニアが機械に使用している正確なコントローラーを知る必要はなく、システムの既知のダイナミクスとコントローラーの挙動に基づいて動作します。これにより、産業用ロボットから自動運転車に至るまで、幅広いシナリオへの適用が可能になります。研究者たちはコードを公開しており、他の人々がこの基盤の上に構築していくことを歓迎しています。

結局のところ、この研究は、複雑なシステムの検証において、安全性と効率性の両立が可能であることを証明しています。困難でギザギザした測定値を、滑らかで最適化可能なガイドに置き換えることで、研究者たちはエンジニアが次世代のインテリジェントな機械を設計し、認証するための新しい道を切り開きました。この手法は、人工知能のあらゆる問題を解決することを約束するものではありませんが、私たちが頼りにしているシステムが、単にスマートであるだけでなく、安全であることを保証するための、具体的で信頼できる方法を提供しています。誤報というノイズを取り除き、真のリスクに焦点を当てる能力は、信頼できるエンジニアリングの分野における大きな一歩となります。