Predictive Zonotope Reduction: Precise Runtime Monitoring under Uncertainty

現実世界を移動するロボットは、周囲を理解するためにセンサーに頼っています。しかし、これらのセンサーは決して完璧ではありません。カメラは霧の中で苦戦するかもしれませんし、距離計は電気的なノイズによって小刻みに震える（ジッターが発生する）こともあるでしょう。ロボットがこうした不完全な読み取り値に基づいて意思決定を行うとき、慎重すぎる行動をとるか、あるいは危険なほど無謀な行動をとるというリスクを負うことになります。ロボットの安全性を保つために、エンジニアは「ランタイム・モニター」と呼ばれる安全システムを使用します。このシステムは、監視役のように、ロボットの振る舞いが一連のルールに沿っているかを常にチェックし、安全な境界内に留まるように制御します。課題は、ロボットの不確実な位置をどのように表現するかという点にあります。もしモニターがロボットは正確に一点にいると仮定すれば、その点のすぐ外側に潜む危険を見逃してしまうかもしれません。逆に、ロボットが広大な領域のどこかにいる可能性があると仮定すれば、アラームを鳴らしすぎてしまい、不必要にロボットを停止させてしまいます。目標は、有用なほど精密でありながら、計算が迅速に行えるほど単純な表現を見つけることです。

「ゾノトープ（zonotope）」として知られる数学的な形状が、この仕事のための有力なツールとなっています。ロボットの可能性のある位置を示す「雲」を、引き伸ばされた多次元の風船のようなものだと想像してみてください。ロボットが移動し、新しいセンサーの読み取り値を得るたびに、この雲は成長し、形を変えていきます。問題は、新しい情報が加わるたびに雲の複雑さが増し、計算がどんどん困難になることです。最終的に、雲があまりに大きくなりすぎると、モニターを動かしているコンピュータが処理に追いつけなくなります。これは、特にロボットが小型のバッテリー駆動デバイスで動作している場合に顕著です。これを解決するために、エンジニアは定期的に雲を縮小する必要があります。このプロセスは「リダクション（削減）」と呼ばれます。彼らは、複雑な形状を、すべての可能性となる位置を依然として含みつつも、より単純で少し大きめの形状に置き換えることでこれを行います。厄介なのは、この雲を縮小する方法には多くの種類があり、それぞれが異なる結果をもたらすことです。ある状況において形状をタイトに保つのに優れた方法もあれば、別の状況でうまく機能する方法もあります。伝統的に、エンジニアは旅の全行程を通じて一つの手法を選び、それに固執してきました。たとえ、最適な選択肢が移動に合わせて変化する場合であってもです。

CISPA ヘルムホルツ情報セキュリティセンターおよびミュンヘン工科大学の研究者たちは、この決定方法を変える新しいアプローチを開発しました。彼らのシステムである「予測的ゾノトープ・リダクション（Predictive Zonotope Reduction）」は、雲を縮小する方法の選択を、一連の意思決定として扱います。これは単に「今、雲を縮小する最善の方法は何か？」と問うのではなく、「全体的な形状をできるだけタイトに保つために、今、そして次の数ステップにおいても最善となる方法は何か？」と問いかけるものです。これに応えるため、システムはロボット制御から借用したテクニックを使用します。そこでは、コンピュータが現在の行動の結果を見極めるために、数ステップ先まで計画を立てます。システムは異なる経路をシミュレートし、それぞれの縮小手法の選択が近い将来の雲の形状にどのような影響を与えるかを検討します。先を見通すことで、システムは、直近の瞬間には完璧ではないかもしれないものの、将来的に雲をより正確な状態にするための準備となる手法を選択することができるのです。

しかし、このような複雑なシミュレーションをリアルタイムで実行することは、多くのロボットにとって時間がかかりすぎます。システムを実用的な速度にするために、研究者たちは、ゆっくりと慎重に計画を立てるプログラムを模倣するように、小さなコンピュータプログラムを教え込みました。彼らは「ポリシー蒸留（policy distillation）」と呼ばれるプロセスを用いました。そこでは、ニューラルネットワークが「学生」として、「教師」であるプランナーから学習します。学生ネットワークは未来をシミュレートする必要はなく、現在の雲の形状を見るだけで、利用可能な縮小手法を良い順にランク付けします。これにより、システムは高品質な決定をほぼ瞬時に行うことができます。システムの堅牢性を確保するため、彼らはこれらの学生ネットワークを一つのグループとして組み合わせ、最適な選択を投票させる仕組みを作りました。もしグループが判断に迷った場合は、バックアップのプランナーが介入して最終決定を下します。この「先読み」「経験からの学習」「投票による安全性」の組み合わせにより、システムは Raspberry Pi 5 のような非常に簡素なハードウェア上で動作しながら、高い精度を維持することができます。

研究者たちは、仮想環境内で動く5関節のロボットアームを用いて、新しいシステムをテストしました。彼らは、現実世界のデバイスに見られるようなノイズを模倣するために、センサーに現実的なエラーが生じるようにプログラムされたロボットアームを動かしました。彼らは、この新しい動的なシステムを、単一の固定された縮小方法を用いる古い手法と比較しながら、数百種類の異なる動きを通してテストを行いました。結果は驚くべきものでした。新しいシステムは、誤報の数を大幅に減少させました。テストにおいて、古い固定手法は、ロボットが実際には安全であるにもかかわらず、不必要な緊急停止を約30パーセントの割合で発生させていました。一方、この新しい予測システムは、その割合を2パーセント未満に抑えました。これは、ロボットがより自由に、そして自信を持って動けることを意味します。安全モニターが「オオカミ少年」のように空騒ぎをしないことを知っているからです。システムは、毎秒100回の速度で動作し、実世界のロボットの素早い動きに追いつくのに十分な速さを達成しました。

また、この研究は、これらの縮小手法がどのように組み合わさって機能するかについて、驚くべき事実も明らかにしました。研究者たちは、単独で最も優れたパフォーマンスを発揮した手法が、必ずしもスマートなシステムによって最も頻繁に選ばれるわけではないことを発見しました。実際、システムは、単独で使用した場合にはしばしば劣る結果をもたらす手法を頻繁に選択していました。これは、別の手法を最初に使用することで、後のステップで「劣った」手法が非常にうまく機能するように雲の形を変えられることを、スマートなシステムが理解していたためです。これは、タイミングとシーケンス（順序）に関する教訓でした。最善の動きとは、単独で最も強力な動きではなく、より良い未来を設定するための動きなのです。手法を動的に切り替えることで、システムは単一の手法が単独で達成できるレベルよりも、はるかにタイトに不確実性の雲を保つことができました。

この研究は、ロボットの安全システムが静的なものである必要はないことを示しています。不確実性の管理を動的で先を見越した問題として扱うことで、エンジニアはより安全で効率的なモニターを作成できます。高度な計算を安価で小さなハードウェアで実行できる能力は、より多くのロボットが複雑で予測不可能な環境で安全に活動できる道を開きます。研究者たちは、適切なアプローチがあれば、ロボットは自身の不確実性をより良く理解でき、それが現実世界におけるミスを減らし、より信頼性の高いパフォーマンスにつながることを証明しました。