OpenWAM: An Open, Modular Exploration Towards Systematic World-Action Model Pretraining
本論文は、制御された実験を通じて設計原則の導出を目的としてWorld-Action Modelの事前学習を体系的に調査する、オープンかつモジュール型の研究スタックであるOpenWAMを紹介し、その集大成として、6,400時間の多様なエンボディードデータを用いて学習された高性能なOpenWAM-モデルを公開する。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
知能とは、単に世界を見ることではなく、世界をいかに変えるかを知ることである。数十年にわたり、科学者たちは写真の中の物体を認識したり、文章でシーンを説明したりできるコンピュータシステムを構築してきた。より最近では、あるシーンが時間の経過とともにどのように進化するかを想像し、前のフレームに基づいてビデオの次のフレームを予測できるモデルも作成されている。これらのシステムは、膨大な量のビデオを観察することで、コップがどのように落ちるか、ドアがどのように揺れるかといった、世界の物理学を学習する。しかし、世界を観察することと、その中で行動することの間には溝がある。ロボットには、何が起こるかという予測以上のものが必要である。つまり、その予測を実現させるためには、どのような具体的な動きが必要かを知る必要があるのだ。これが「エンボディド・ラーニング（身体化された学習）」の課題である。すなわち、視覚的な未来を理解することと、そこに到達するための物理的な行動を生成することの間の溝を埋めることである。
研究チームは、この問題を解決するために「OpenWAM」と呼ばれる新しいアプローチを導入した。ロボットのコントローラーの設計を、交換可能な部品のセットのように扱う、オープンでモジュール式のシステムを作成することで、変更や理解が困難な、単一で硬直したロボットの脳を構築する代わりに、彼らは取り組んだ。彼らは、ロボットに動作を教えるという複雑なタスクを、3つの明確な問いに分解した。すなわち、「ロボットはビデオの観察からどのような知識を継承すべきか」、「ロボットの世界に対する理解と移動能力はどのように連携すべきか」、そして「この学習を異なる種類のロボットや環境に対してどのようにスケールアップできるか」である。制御された実験を通じてこれらの問いに答えることで、彼らはOpenWAM-αの作成へと導いた一連の原則を抽出した。これは、シミュレーションおよび実世界の双方で物体を操作することを学習できる強力な新モデルである。
研究者たちはまず、ロボットがどのような「世界知識」を持って始めるべきかを問い始めた。彼らは、数百万時間の映像を見た大規模なビデオ生成器から学ぶべきか、それともより単純なビジュアルエンコーダーに頼るべきかをテストした。その結果、最も優れた成果が得られたのは、大規模で事前学習済みのビデオ生成器を基礎として使用することであった。このモデルは、物体がどのように動き、相互作用するかをすでに理解しており、豊かなスタート地点を提供してくれる。しかし、単にロボットのアームをこのビデオモデルに取り付けるだけでは不十分であった。研究者たちは、ロボットが目にするものを、よりコンパクトで効率的な方法で表現する必要があることを発見した。彼らは、視覚情報をより小さく扱いやすい形に圧縮する様々な手法をテストし、世界の不可欠な詳細を保持しつつノイズを排除する特定のタイプの圧縮が最も効果的であることを突き止めた。これにより、ロボットはデータに圧倒されることなく、シーンの重要な部分に集中することが可能となった。
次に、チームは、ロボットの「脳」をどのように構造化して、世界への理解と移動能力を接続すべきかを調査した。彼らは、ビデオ部分とアクション部分が完全に分離されているモデルから、それらが深く絡み合っているモデルまで、異なるアーキテクチャのデザインを比較した。実験の結果、最も効果的な設計は「デュアルシステム（二系統）」のアプローチであることが示された。このセットアップでは、モデルの一方の部分は世界の将来の視覚的状態を予測することに集中し、専用のもう一方の部分は一連の動きを生成することに集中する。決定的なのは、これら二つの部分が常に互いに「会話」することを許容している点である。アクション生成器は、何をすべきかを判断するために予測された未来を見ることができ、世界予測器は、計画されたアクションを用いて、次に何が起こるかという自身のビジョンを洗練させることができる。この絶え間ない双方向の対話により、モデルは単にそれらを並行して学習するのではなく、見る動作と動く動作の間の真の相乗効果を学習することができた。
研究者たちはまた、異なる種類のデータを用いてこれらのモデルをどのように訓練するかについても探求した。彼らは主に2つの情報源を利用した。一つは、一人称視点の人間によるタスクのビデオであり、これは幅広い視覚的シーンを提供するが、ロボットのアクションデータは含まれていない。もう一つは、実際のロボットによるタスクの記録であり、これは正確な動きの指示を提供するが、カバーするシーンの種類は少ない。彼らは、ロボットのデータのみで訓練すべきか、人間のデータのみで訓練すべきか、あるいは両方を組み合わせるべきかをテストした。その結果、これら二つの情報源を単一のトレーニングセッションで組み合わせることが、最も強力な戦略であることが判明した。人間のビデオはモデルに世界の広範な多様性を教え、ロボットのデータはその知識を物理的な現実に根付かせた。この組み合わせにより、モデルは片方のデータのみで訓練された場合よりも、未知の状況に対してはるかに優れた汎化性能を示すことができた。
これらの原則を用いて、チームは5億フレーム以上のビデオとロボットデータで訓練されたモデル、OpenWAM-αを構築した。彼らはこのモデルを8つの異なるシミュレーション・ベンチマークと、シングルアーム、ツインアーム、さらには器用なハンドを備えた実世界のロボットを用いてテストした。結果は一貫しており、目覚ましいものであった。シミュレーションにおいて、モデルはブロックの積み上げから複雑な物体の操作に至るまで、幅広いタスクにおいてトップレベルの性能を発揮した。実世界に移された際も、見たことがない物理的なロボットに対してもタスクを成功裏に完了し、高いパフォーマンスを維持した。モデルは新しい環境への適応において特に強みを示し、ビデオベースの世界知識とアクションベースの接地（グラウンディング）の組み合わせが、汎用的な知能のための堅牢な基盤を作り出していることを示唆した。
最も重要な発見の一つは、このアプローチが他の人気のある手法とどのように比較されるかであった。一部のシステムは言語と視覚的な理解に大きく依存しているが、未来を明示的にモデル化していないものもあり、また、純粋に動きのメカニズムに焦点を当てているものもある。研究者たちは、自分たちのビデオベースのアプローチが、トレーニングデータを適合させ、馴染みのある設定で高い性能を発揮することに優れている一方で、他の手法は全く新しい混沌とした環境に対してより優れた汎化性能を示すことがあることを発見した。しかし、彼らはどちらのアプローチも単独では完璧ではないと結論付けた。将来の進歩の鍵は、両方の強みを組み合わせることに、すなわち、アクションを導くためのビデオ生成による豊かな視覚的・物理的前提知識を利用しながら、現実世界のあらゆる課題を網羅する多様で高品質なデータによってシステムを訓練することにある。
OpenWAMプロジェクトは、単に新しいロボットコントローラーを提示するだけでなく、科学コミュニティのための完全なツールキットを提供している。研究者たちは、インフラストラクチャ、トレーニングデータ、および評価プロトコルを公開することで、世界・アクションモデルの開発を透明で再現可能な科学へと変えた。これにより、他の科学者たちは特定のアイデアをテストし、コンポーネントを入れ替え、なぜ特定の設計がより優れた結果をもたらすのかを正確に理解することができる。この研究は、より有能なロボットへの道が、より大規模で不透明なシステムを構築することではなく、異なる知識と学習の断片がいかに相互作用するかを注意深く理解することにあることを示唆している。ロボットの精神を構成可能なパーツの集合として扱うことで、研究者たちは、すべての設計上の選択がテスト、測定、および改善可能である、人工知能における体系的な探究の新しい時代への扉を開いたのである。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。