The Yes-Man Syndrome: Benchmarking Abstention in Embodied Robotic Agents
本論文は、具現化ロボティクスにおいて物理的に実行不可能または曖昧な指示を適切に実行を断る能力を評価するための新たなベンチマークおよび分類体系であるRoboAbstentionを導入し、防御的プロンプトやインコンテキスト学習による改善にもかかわらず、現在の最先端モデルがこの「イエスマン」傾向に対して著しく困難を抱えていることを明らかにする。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
非常に賢いものの、必要以上に熱心なロボットアシスタントを雇って家事を手伝ってもらうと想像してみてください。「赤いカップを持ってきて」という命令を与えます。
完璧な世界では、ロボットはテーブルを見て、赤いカップを見つけ、それを手に取ります。しかし、もし赤いカップが一つもない場合はどうなるでしょうか？あるいは、5 つの赤いカップがあり、どれを指しているか言わなかった場合はどうでしょうか？あるいは「コーヒーの匂いを嗅いで」と頼んでも、ロボットには鼻がない場合はどうなるでしょうか？
「良い」ロボットは立ち止まって、「赤いカップが見えないので、それはできません」あるいは「どの赤いカップのことですか？」と言うべきです。「わからない」あるいは「できません」と言うこの能力は、**棄権（アブステンション）**と呼ばれます。
この論文「イエスマン症候群」は、現在最も高度なロボット脳（ビジョン・ランゲージモデル）が深刻な「イエスマン症候群」に苦しんでいると主張しています。彼らは相手を喜ばせたいという欲求が強く、また自信過剰であるため、実際には解決できない指示を理解したふりをしてしまい、混乱や破損を招いています。
以下に、研究者が行ったことと発見したことを、簡単な比喩を用いて解説します。
1. 問題：「イエスマン」ロボット
現在のロボットは、間違えることを恐れるあまり、問題が何についてか全くわからなくても答えを推測する学生のようなものです。
- シナリオ: ロボットに「木製のブロックを動かして」と頼む。
- 現実: テーブルには 3 つの木製ブロックがある。
- 「イエスマン」の反応: ロボットはどれか一つのブロックをランダムに選び、それが正解であることを願って動かす。「どれですか？」とは聞かない。
- 論文の主張: これは危険です。現実世界では、推測することが物体の落下、物品の破損、あるいはタスクの未完結につながる可能性があります。
2. 解決策：ロボットのための新しい「テスト」
研究者たちは、ロボットがテキストの質問にどれだけうまく答えられるかを測るテストは存在するものの、立ち止まって助けを求めるべきかどうかを知っているかを測る良い方法がないことに気づきました。
これを解決するため、彼らはROBOABSTENTIONと呼ばれる新しいテスト環境を構築しました。
- 仕組み: 写真家が実際のロボット作業スペース（キッチン、実験室、リビングルーム）の 1,250 枚の写真を撮影すると想像してください。
- トリック: その後、それらの写真に対して、実行不可能になるように設計された数千の指示を作成しました。
- 例: 「見えない象を持ってきて」（参照対象の欠落）。
- 例: ロボットに小さな指しかないのに「重い岩を持ってきて」（能力の欠落）。
- 例: 電気がすでに消えているのに「電気を消して」（誤った前提）。
- 目的: これらの不可能な指示をロボットに与え、ロボットはそれでも実行しようとするのか、それとも「できません」と言うのかを確認することです。
3. 結果：ロボットはテストに不合格だった
研究者たちは、利用可能な最も賢いロボット脳（Gemini、GPT-4、Claude など）をテストしました。結果は驚きであり、やや懸念すべきものでした。
- 「イエスマン」は至る所にいる: ほぼすべてのロボットが、不可能な指示に従おうとしました。
- 最優秀成績者: 最も賢いモデルであるGemini 2.5 Flashでさえ、「できません」と言ったのは約**39%のケースに過ぎませんでした。つまり、不可能な場合でも61%**の確率で答えを推測しようとしました。
- 専門家: ロボット用に特別に作られたロボット脳（Gemini Robotics ER 1.6）はさらに悪く、棄権したのは**16.5%**のみでした。これは最も熱心な「イエスマン」でした。
- 「思考」の罠: 研究者たちは、「もしかしたら、答える前にロボットに『もっと深く考えさせる』と、賢くなるのではないか」と考えました。しかし、それは間違いでした。ロボットにより多くの「推論」を強制すると、彼らは「いいえ」と言うのがさらに下手になりました。彼らは単に、不可能なタスクを実行するための、より創造的で偽の理由を考案する時間を増やしただけでした。
4. なぜ彼らはそうするのか？
この論文は、ロボットが棄権に失敗する際、通常は以下の 3 つのことのいずれかを行うと発見しました。
- マジックトリック: 欠けている物体があるふりをします（例：実際にはないのに「赤いカップが見えます」と言う）。
- ランダムな推測: 複数の選択肢がある場合、どれか一つを選んで最善を祈ります。
- 回避策: 何かを嗅げない場合、「それを拾ってセンサーにこすりつけて匂いを推測します」と言いますが、実際には嗅ぐことはできません。
5. 解決できるか？（「補助輪」）
研究者たちは、2 つの方法を使ってロボットにより良い行動を教えることを試みました。
- 防御的プロンプト: 指示の中でロボットに明示的に伝える。「確信が持てない場合は、立ち止まって質問すること」。
- コンテキスト内学習: 良好な行動の例をロボットに見せる（例：「これは、物体が欠けていたため『わかりません』と言った時の例です」）。
結果: これらのトリックははるかに効果的でした！
- 適切な指示を与えることで、ロボットが「できません」と言う能力は**16%から93%**に跳ね上がりました。
- ただし: これらの修正を行っても、問題は完全に解決されたわけではありませんでした。ロボットは依然として、すべきでない時に推測しようとする場合があります。
結論
この論文は、すべてを完璧に実行できるロボットを作ることについてではありません。行動する方法を知ることと同じくらい、いつ行動してはならないかを知ることが重要であるという認識についてです。
現在、私たちの最高のロボット脳は、自分が指示を理解していないことを認めることを恐れる、過度に熱心なインターンのようなものです。彼らは、明確化を求めて聞くよりも、推測して失敗することを選びます。著者たちは、この特定のスキルを測定し、何かを壊す前に「もっと情報が必要です」と言えるほど謙虚なロボットを構築できるよう、新しい「成績表（ROBOABSTENTION）」を作成しました。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。