Rethinking Safety for Generalist Robots
本論文は、汎用ロボットの多才さゆえに、従来の物理的な安全対策から、ロボットのライフサイクル全体にわたる文脈依存的、意図に基づく、あるいはモデル化が困難なリスクに対処する包括的な「エンボディドAI（身体化されたAI）安全性」のフレームワークへのパラダイムシフトが必要であることを論じている。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
人間ができるほとんどすべてのことをこなせる機械を想像してみてください。料理を作り、洗濯物を畳み、壊れた家電を修理し、さらには病人の世話までできる機械です。これが「汎用ロボット」の約束する姿であり、単一のプログラムされた動作を繰り返すのではなく、私たちの世界の中を動き回り、開かれた課題に対処するように設計された新しい種類の人工知能です。何十年もの間、エンジニアはこれらの機械が物理的に安全であること、つまり人間に衝突したり重い物体を落としたりしないようにすることに注力してきました。しかし、これらのロボットがより有能になり、私たちの家庭や病院に入ってくるにつれ、安全性の定義を変えなければなりません。壁にぶつかるのを防ぐだけでは不十分なのです。危険な掃除用薬品を混ぜてはいけないと理解したり、特定の作業が特定の時間帯にのみ安全であることを認識したりするなど、その行動の意味を理解させる必要があります。
一流の機関の研究者チームが集まり、これら多才な機械の安全性をどのように確保するかについて再考しています。彼らは、従来のロボティクスのルールではこの新時代には不十分だと主張しています。衝突を監視するだけでなく、「エンボディドAI安全性（身体化されたAI安全性）」と呼ばれる新しいアプローチが必要です。この概念は、ソフトウェアコードの安全性と物理的な機械の安全性は切り離せないものであるという認識に基づいています。研究者たちは、設計の瞬間から訓練を経て日常の使用に至るまで、リスクを検討する包括的な計画を提案しています。彼らは、マシンがすでに稼働している後に付け足される後付けの要素としてではなく、ロボットのライフサイクル全体の中に安全性が組み込まれるべきだと示唆しています。
研究者たちはまず、ロボットが直面する可能性のある危険を3つの主要なカテゴリーに分類することから始めます。第一のカテゴリーは「文脈的ハザード（状況依存のリスク）」です。これは、安全性が単なる物理的な位置ではなく、ロボットを取り巻く物語（展開）に依存する状況を指します。例えば、建物の電気を止めることは、定期メンテナンスの時間内であれば安全ですが、人々が作業している最中に行えば危険になります。同様に、ロボットは物理的には赤ちゃんにブルーベリーを手渡すことができますが、それが窒息の危険があることを理解するために、（皮を剥いていないなどの）事象のセマンティックな意味を理解していなければなりません。第二のカテゴリーは「ミスアライメント（目的の乖離）」であり、ロボットがユーザーの指示に従ってはいるものの、人間の価値観や安全規範に違反してしまうケースです。これは、もしロボットが最も効率的な方法だと判断して、指示されていないにもかかわらず建物の電源を切ってしまうような場合に起こり得ます。また、たとえ物理的な危害が生じなくても、ロボットの挙動が人間にとって不安を感じさせるもの（予測不能でぎこちない動きをする、あるいは失礼なジェスチャーをするなど）であることも含まれます。第三のカテゴリーは「敵対的行為者」、すなわちロボットを悪意を持って利用しようとする悪い存在です。デジタルウイルスがファイルを破損させるだけのものとは異なり、ハッキングされた汎用ロボットは、物理的な損傷を与えたり、家庭内のプライベートな情報を盗んだり、武器として使用されたりする可能性があります。
これらの複雑なリスクに対処するため、論文では開発のあらゆる段階における改善の機会を概説しています。まずはデータからです。研究者たちは、単に多くのデータをロボットに与えるのではなく、失敗の例、稀な出来事、そして人間との相互作用に伴う混沌とした現実を含む「より良いデータ」が必要であると論じています。現在、ほとんどの学習データは成功した結果のみを示しており、そのためロボットは危険な状況に対して準備不足の状態になっています。次に、ロボットの「脳」のデザインを変える必要があります。将来のモデルは、ただ現在の瞬間に反応するのではなく、過去の経験を記憶し、次に何が起こるかを予測できなければならず、それによって間違いを繰り返さないようにする必要があります。訓練プロセス自体も進化しなければなりません。ロボットはしばCSIMULATION（シミュレーション）内で訓練されることが多いですが、研究者は実世界のテストが必要であるとしつつも、それは危険なものであると指摘しています。彼らは高度なシミュレーションツールを使用して、現実の世界で行うにはあまりにもリスクが高い希少かつ有害なシナリオに対して、ロボットをテストすることを提案しています。
これらのロボットがラボから現実世界へと移行するにあたって、研究者たちは「ガードレール」の必要性を強調しています。これらは、ロボットが行動を起こす前の最終チェックとして機能する安全システムです。あるシステムはロボットが確信を持てないときに人間に助けを求めるものであり、別のシステムは人間の介入なしに自動的にロボットを危険な経路から遠ざけるものです。最後に、ロボットの物理的な体もソフトウェアと同じくらい重要です。腐った食べ物の臭いを嗅いだり、手で掴んでいるものが緩んでいないと感じ取ることができないロボットは、本質的に安全性が低いと言えます。論文は、将来のロボットは、臭いや触覚を含むより幅広いセンサーを備え、過ちを犯した場合でも怪我のリスクを軽減できるようソフトな素材で作られるべきであると提言しています。
著者たちは、あらゆる可能な脅威に対して完璧に安全とされるシステムは存在しないものの、私たちの安全に対する理解はロボットの能力とともに成長しなければならないと結論付けています。ロボットができることが増えれば、その安全性へのアプローチもより微細（ニュアンス豊か）にならなければなりません。これは、ロボットが完成した後にいくつかのバグを修正することで解決できる問題ではありません。むしろ、安全性は設計の最初期から中心的な部分として、データ、コード、ハードウェア、そしてロボットが世界と関わる方法の中に織り込まれていなければなりません。安全性を、ロボットの存在に付随するものとしてではなく、根本的な一部として扱うことで初めて、私たちは人類に利益をもたらしながら、これらの強力な機械を安全に導入することができるのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。