コンピューターが単に光る画面の中に閉じ込められ、私たちがボタンをクリックするのを待っているだけではない世界を想像してみてください。代わりに、彼らには「体」があります。車輪、腕、脚、そして現実世界を見て、触れて、動き回るためのセンサーを備えています。これは、エキサイティングであり、同時に少し恐ろしくもある、**フィジカルAI（物理的AI）**という未開の領域です。これは、チェスをプレイするコンピュータープログラム（デジタルAI）と、ボールを追いかけたり、絨毯につまずいたり、人間にぶつかったりできるロボット犬との違いだと考えてください。コンピュータープログラムは画面上で間違った手を打つリスクしかありませんが、ロボットは花瓶を割ったり、人を傷つけたり、交通渋滞を引き起こしたりするリスクがあります。これらの機械は私たちの物理的な空間に存在するため、彼らを安全かつ信頼できるものにするためのルールは、通常のソフトウェアよりもはるかに厳格である必要があります。クラッシュした後にロボットを「パッチ（修正）」することはできません。クラッシュしないように事前に確実にしなければならないのです。

これこそが、ある新しい論文が取り組んでいる問題です。著者たち（トップクラスの大学やテック企業の研究チーム）は、現在のAIのルールブックは、自転車のために書かれた運転マニュアルのようなものであり、フィジカルAIが象徴する重くて危険で動く乗り物には完全には適合しないということに気づきました。彼らは、科学者が最初のアイデアをスケッチした瞬間から、それがリサイクルされる日まで、ロボットの生涯全体をカバーする全く新しいルールが必要だと主張しています。彼らはその解決策をP-Gov（5つの大きな原則）およびE-PALGO（5段階のライフサイクル）と呼んでいます。彼らの主な知見は、ロボットの安全性を販売前に一度チェックするだけでは不十分であり、安全性を、その存在のあらゆるステップで起こる「継続的な対話」として扱わなければならないということです。彼らは、もしロボットを私たちの有益な友人ではなく、危険な敵にさせたくないのであれば、設計、データ、そして日常の運用の中に「ガードレール」を組み込み、学習が進み周囲の世界が変化しても安全であり続けられるようにする必要があると示唆しています。

大きな理念：「画面の脳」から「現実世界の体」へ

長い間、人工知能はデジタルの泡の中に住んでいました。詩を書いたり、数学の問題を解いたり、映画を推奨したりすることには長けていましたが、重力や摩擦、あるいは誤って花瓶を倒してしまうことなどを心配する必要はありませんでした。しかし今、AIは「体」を得ようとしています。それはフィジカルAIになりつつあります。これは、インテリジェンスがもはや単なるコードではなく、歩き、運転し、あるいは物を組み立てることができる「機械」になることを意味します。

論文は大きな溝を指摘しています。現在のAIに関するルールは、デジタル世界向けに設計されています。それらは「データはプライベートか？」「アルゴリズムは公平か？」といったことを懸念します。しかし、物理的な体を持つことで生じる、より複雑で厄介な問題については十分にカバーしていません。例えば、デジタルAIが間違った答えを出した場合、それは迷惑なことですが、フィジカルAIが間違った答えを出し、その結果フォークリフトを壁に突っ込ませたとしたら、それは危険なことです。著者たちは、物理的なリスクを理解する新しい種類のガバナンス（ルールと監視のシステム）が必要であると主張しています。

安全性の5つの柱（P-Gov）

これを解決するために、著者たちはP-Govと呼ばれるフレームワークを作成しました。これを、すべてのロボット設計者が合格しなければならない「5項目のチェックリスト」だと想像してください。これらは単なる曖昧なアイデアではなく、具体的な要件です。

1. 堅牢かつ安全な運用（Robust & Safe Operation）: これは「物を壊さない」というルールです。ロボットは、予期せぬ事態（滑りやすい床など）に対処できる強靭さと、人を傷つけないための安全性を持たなければなりません。単にソフトウェアが機能することだけでなく、何かがうまくいかない時でも機械全体が適切に振る舞うことが重要です。
2. 人間中心の価値観（Human-Centered Values）: これは「人に優しくする」というルールです。ロボットは単に効率的であるだけでなく、人間と対立するのではなく、人間と「共に」働くように設計されるべきです。人間が疲れていたり、注意が逸れていたり、あるいは異なる能力（車椅子を使用しているなど）を持っていることを理解する必要があります。
3. 完全性、プライバシー、および公平性（Integrity, Privacy, and Equity）: これは「誠実で公平である」というルールです。ロボットには、正しい、誠実なデータ（偽の情報や偏った情報ではない）を与えなければならず、また人々のプライバシーを尊重しなければなりません。カメラやマイクを備えている場合、誰もがスパイのように監視することはできません。また、人種、年齢、性別に関わらず、すべての人を公平に扱う必要があります。
4. 説明責任と監視（Accountability & Oversight）: これは「誰が責任を負うのか？」というルールです。もしロボットがミスをした場合、誰を責めるべきか、どのように修正すべきかを正確に知る必要があります。また、なぜロボットがその行動をとったのかを把握できなければなりません。これは、飛行機のブラックボックスがすべてを記録しているようなものです。
5. 持続可能性（Sustainability）: これは「地球を無駄にしない」というルールです。ロボットは金属、プラスチック、バッテリーでできています。著者たちは、電子廃棄物の山を作らないために、それらをどのように作り、修理し、リサイクルするかを考える必要があると言っています。

ロボットの物語（E-PALGO）

論文はまた、E-PALGOという、もっと専門的な言い方をすれば「ロボットのライフサイクル」も導入しています。著者たちは、ロボットの安全性を最後に一度チェックするだけでは不十分だと主張しています。教師がプロジェクトの最終試験だけでなく、各ステップごとに生徒の宿題をチェックするように、すべての段階でチェックしなければなりません。

ここでは5つのステージがあります：

1. 研究（Research）: これは「アイデアのフェーズ」です。科学者たちが新しい理論をテストしています。論文によれば、過去には研究者がハードウェアの秘密を保持することが多く、他の人がその成果を検証することを困難にしてきました。新しいルールはこうです。「もし自分のロボットが機能すると主張するなら、他の人がそれを模倣し、本当に機能するかどうかを確認できるように、特定のネジやセンサーに至るまで、どのように構築したかを正確に示す必要がある」。
2. 設計（Design）: これは「設計図のフェーズ」です。構築する前に、最悪の事態を想定しなければなりません。著者たちは、設計者はロボットが人に衝突するまでの速度を正確に計算し、設計の中に「セーフティネット」（緊急ブレーキなど）を組み込む必要があると提案しています。これは、ドライバーが注意深くあることを期待するだけでなく、エアバッグを備えた車を設計することに似ています。
3. データ（Data）: これは「学習のフェーズ」です。ロボットは何百万もの例を見ることで学習します。論文は、もし完璧で清潔なラボの中だけでロボットを教えてしまうと、現実の乱雑な世界では失敗すると警告しています。雨、泥、奇妙な物体を含むデータを用いて教える必要があります。また、データがロボットに差別や偏見を教えないようにしなければなりません。
4. モデル（Model）: これは「脳のトレーニング」フェーズです。ロボットの「脳」（ソフトウェア）が調整されています。著者たちは、この脳をトリッキーな状況下でテストする必要があると述べています。もしロボットがリンゴを拾うことには99%適しているが、滑りやすいバナナを拾うことには0%適していないとしたら、それはまだ準備ができていません。実戦に投入する前に、それらの弱点を見つけ出す必要があります。
5. 展開（Deployment）: これは「現実世界」のフェーズです。ロボットは現場で働いています。論文は、ここで仕事が終わるわけではないことを強調しています。ロボットは学習を続け、センサーは埃をかぶり、ソフトウェアはアップデートされます。親が初めて運転するティーンエイジャーを見守るように、危険が生じた場合にすぐ介入できるよう、監視し続ける必要があります。

なぜこれが重要なのか

著者たちは、自分たちが何を言おうとしていないのかについても非常に明確に述べています。彼らは、ロボットの安全性の問題を解決したと言っているわけではありません。完璧なロボットが完成したと言っているわけでもありません。実際、彼らは、私たちはまだ初期段階にいると指摘しています。彼らは、ソフトウェアをチェックして「あとは祈るだけ」という従来のやり方は、もはや不十分であることを示唆しています。

ロボットは物理的な実害を及ぼす可能性があるため、継続的かつ適応的なシステムが必要であると彼らは主張しています。それは一度限りのテストではなく、安全への生涯にわたるコミットメントなのです。彼らは、もし私たちが、ロボットが家を建て、車を運転し、高齢者を介護するのを助ける未来を築きたいのであれば、これらの安全ルールを技術の最後に付け加えるのではなく、その基礎となる部分に組み込む必要があると提案しています。

この論文は、科学者、エンジニア、そして規制当局への行動喚起です。それは、「ロボットをビデオゲームのように扱うのをやめ、現実世界の機械として扱い始めよう」というメッセージです。これらの新しいルールに従うことで、フィジカルAIが登場したとき、それが危険な脅威ではなく、有益なパートナーとして到来することを、私たちは希望を持って実現できるはずです。著者たちは、今、慎重に行動することで、テクノロジーと人類が安全かつ幸福に共存できる未来を創ることができると信じています。