Runtime Safety Filtering for Two-Terminal Hazards in Robotic Battery Recycling

ロボットは、現代社会を動かすバッテリーの選別やリサイクルといった、繊細な作業を行うことを学習しつつあります。これらを教えるために、研究者たちはしばしば、人間がタスクを実行しているビデオを見て学習する人工知能を使用します。「ビジョン・ランゲージ・アクション・モデル」として知られるこれらのシステムは、単にシーンを観察し、単純な指示を理解するだけで、バッテリーをどのように持ち上げるか、あるいは道具をどのように動かすかを判断することができます。しかし、これらスマートなシステムが「知っていること」と、それらが「安全に実行できること」の間には隔たりがあります。ロボットは、バッテリーを地点Aから地点Bへ移動させる必要があることは理解できても、特定の金属部品に近づけすぎると危険な電気的短絡（ショート）を引き起こす可能性があるということに気づかないかもしれません。この隔たりを埋めるために、エンジニアは「セーフティ・フィルター」を使用します。このフィルターは、ロボットの「脳」と「筋肉」の間に立つ、油断のない監督者のようなものだと考えてください。監督者は、ロボットが計画しているあらゆる動きを見守ります。もしある動きが安全規則に抵触すると判断された場合、監督者はその動きを阻止し、代わりに別の行動をとるようロボットに指示します。課題は、何をもって「危険な動き」と定義するかを正確に決定すること、そして停止を命じられた際にロボットが何をすべきかを決定することです。

バッテリーのリサイクルという特定のケースでは、その危険性は独特です。バッテリーセルには、正極と負極という2つの金属端子があります。バッテリーの筐体や工具などの金属片が両方の端子に同時に触れると、本来流れてはいけない場所に電気が流れるブリッジ（橋渡し）ができ、短絡（ショート）を引き起こします。これは、単一の物体に衝突することが問題となる標準的な衝突とは異なります。ここでの危険は、ロボットが両方の端子に同時に接近した場合にのみ発生します。ロボットは一方の端子のすぐ近くにいても完全に安全ですが、もう一方の端子に近づき、かつ最初の方にも近い状態になった瞬間にリスクが生じます。シンガポール国立大学といくつかのオーストラリアの大学の研究チームは、この特定の「2端子」のハザードを扱うために、安全監督者をどのようにプログラムするのが最善かをテストするために調査を行いました。彼らは、危険の定義方法が、停止させられた際のロボットの行動よりも重要であるかどうかを知りたいと考えました。

チームは、LIBEROと呼ばれる標準的なロボット工学のテストベッドを用いたシミュレーション環境を構築しました。そこでは、ロボットアームが食料品（これが導電性のあるバッテリー部品の代わりとなります）をワークベンチ上で移動させるという設定でした。研究者たちは、ロボットの意思決定エンジンであるAIポリシーを「固定（フローズン）」された状態でプログラムしました。つまり、ロボлоットの意思決定の脳は固定されており、テスト中に新しい技術を学習することはありません。その後、研究者たちは異なるバージョンのセーフティ・フィルターをテストしました。まず、「危険地帯」を定義するさまざまな方法を試しました。一つのバージョンは、「どちらかの端子から離れる」という単純なルールを用いました。もう一つは、「両方の端子に同時に触れる可能性がある領域から離れる」というより複雑なルールを用いました。また、これら両方のルールを組み合わせたハイブリッドなアプローチもテストしました。重要な点は、これらを固定された距離でテストしたのではなく、各ルールに対して「マージン（余裕）」、すなわちバッファゾーンを調整し、ロボットを頻繁に停止させることなく安全を維持するためにどれだけのスペースが必要かを検証したことです。

彼らの発見は驚くべきものでした。安全とタスク遂行の最適なバランスを見つけるために各ルールのバッファゾーンを調整したところ、3つの危険地帯の定義はすべて、ほぼ全く同じ結果を示しました。監督者が「一方から離れる」という単純なルールを見ているのか、あるいは「両方に触れる場所から離れる」という複雑なルールを見ているのかに関わらず、距離が適切に調整されていれば、結果はほぼ同一でした。これは、安全ルールの具体的な形状よりも、距離を正しく設定することの方が重要であることを示唆しています。真の違いは、監督者が「止まれ」と言ったときに、ロボットがどのような行動をとるかにありました。

研究者たちは、動きが拒否された際のロボットの反応として、4つの異なる方法をテストしました。1つ目は、単に静止する、つまりロボットをその場で凍結させる方法です。2つ目は、「退避（リトリート）」、つまり危険から遠ざかるようにロボлоットを後退させる方法です。3つ目は、「サンプル探索（サンプル・サーチ）」、つまり安全な動きを見つけるために、いくつかのわずかに異なる動きを試みる方法です。4つ目は、数学的な投影法を用いた、ロボットが元々望んでいた動きに極めて近い、かつ最も安全な動きを見つけ出そうとする複雑な手法です。結果は、「静止」戦略が最悪であることを示しました。この戦略は、「退避」戦略と比較して、タスクの完了を約3割も多く妨げましたが、環境をより安全にしたわけでもありませんでした。ロボットはただそこに座り込み、仕事を完遂することに失敗したのです。一方で、数学的な投影法やサンプル探索のような、最小限の介入を試みる戦略は、ロボットがタスクを完了できる頻度を高めましたが、危険地帯に近づきすぎるリスクを大幅に増大させました。「退避」戦略は、危険から明確に遠ざかる動きを提供し、安全性を保ちつつ、フィルターなしの状態とほぼ同等の頻度でタスクを完了させることができました。つまり、最も優れたバランスを実現したのです。

研究では、ロボットがミスをした場合や環境が変化した場合に、これらのフィルターがどのように振る舞うかも調査されました。異なるロボットポリシーや異なる形状のバッテリーを用いてテストを行ったところ、「退避」戦略が依然として最も効果的であることが分かりました。さらに、ロボットが距離を測定する際の誤差もシミュレートしました。その結果、ロボットが保持している物体のサイズについて誤認している場合、端子の位置について誤認している場合よりも、セーフティ・フィルターの効果が著しく低下することが判明しました。これは、ペイロード（積載物）のサイズを知ることは、ハザードの位置を知ることと同じくらい重要であることを浮き立たせています。さらに、物理的な接触のみをチェックする安全システムは完全に機能しないことも発見されました。多くの危険な瞬間は、物体が端子から数ミリメートルの距離にあるときに発生していました。この距離は、接触するには小さすぎますが、短絡を引き起こすには十分な距離なのです。接触ベースのモニターでは、これらの事象を完全に見逃してしまうことになります。

結局のところ、この研究は、危険な材料を扱うロボットにとって、安全システムの最も重要な部分は、必ずしも危険を定義するための複雑な数学ではなく、危険が検知された際に「何をすべきか」という単純で明確な決定にあることを示しています。ロボットに「退避」を命じる監督者は、「静止」を命じたり、あるいは単に「少しだけ動かす」よう命じたりする監督者よりもはるかに効果的です。高精度なシミュレーション内で行われたこの研究は、明確なロードマップを提供しています。それは、エンジニアに対し、危険を定義するための新しい複雑な幾何学的ルールを発明することに注力するのではなく、ロボットをリスクから遠ざけつつ、仕事を完遂できるようにする、堅牢で明確な反応戦略を選択することに注力すべきであると示唆しています。世界が数百万個のバッテリーのリサイクル自動化へと向かう中で、これらの知見は、その作業を行う機械が、意図せずして自らが管理すべきハザードを引き起こさないようにするための、実用的なガイドとなります。