COCORELI: Enforcing Execution Preconditions for Reliable Collaborative Instruction Following
本論文は、欠落情報の検出と行動の防止を構造的に結合することで実行の信頼性を強制し、不十分な仕様が対象とした明確化によって解決されるまで自律エージェントがタスクを実行するのを阻止するモジュラーアーキテクチャであるCOCORELIを導入する。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
想像してください。あなたは友人と複雑なレゴ城を建設しています。あなたは「建築家」であり、友人は「建設者」です。あなたは「青いレンガの上に赤いレンガを置け」といった指示を出します。
現実世界では、友人が「どの」赤いレンガを指すのか、あるいは「上」とは「正確にどこ」を意味するのかを理解しているだろうと想定するかもしれません。しかし、AI エージェントのデジタル世界では、すべての詳細を指定しなかった場合、AI はしばしば欠落した部分を推測しようとします。間違ったレンガを選んだり、間違った場所に置いたりする可能性があります。そして、その推測に非常に確信を持っているため、曲がった塔を構築してしまいます。一度ミスが犯されると、修正するのは困難です。
この論文は、この問題を解決するための新しいシステム「COCORELI（Cooperative, Reconstitution & Execution of Language Instructions の略）」を紹介しています。
核心的な問題：「推測」の罠
現在の AI システムは、やりすぎなインターンのようです。もし「会議を予約せよ」と頼んで、「誰を招待するか」を言い忘れた場合、彼らは単に名前を捏造したり、リストからランダムな人を選んだりするかもしれません。彼らは情報が欠けていることに気づきますが、止まりません。空白を推測で埋めて処理を続行するだけです。これにより、「ハルシネーション（事実無根の作り話）」や安全でない行動につながります。
著者らは、欠落した情報の検出だけでは不十分だと主張しています。欠落した部分が見つかるまで、行動を物理的に阻止するシステムが必要です。
解決策：「安全ロック」の比喩
COCORELI を、厳格な安全ロックを備えた建設現場だと考えてください。
- 設計図（構造化された表現）： COCORELI は、単にあなたの言葉を読むのではなく、指示を厳格なデジタル設計図（JSON ファイル）に変換します。設計図のすべての部分にはスロットがあります：色、場所、タイプ。
- 欠落したスロット： もしあなたが「レンガを置け」と言った場合、設計図の「色」のスロットは空のままになります。
- 安全ロック： COCORELI では、機械には「スロットが空であれば、機械は移動できない」という安全ロックが備わっています。これは文字通り、建設を拒否します。
- 明確化： 推測する代わりに、システムは即座に停止し、「レンガの色は何にすべきですか？」と尋ねます。
- 解放： あなたが答え、スロットが埋められて初めて、安全ロックは解除され、行動が可能になります。
実践における仕組み
この論文では、ミスが永続的となる制御された 3D 建築ゲーム（ENVIRONMENT と呼ばれる）でこれをテストしました。間違った場所にブロックを置くと、構造は崩壊し、元に戻すことはできません。
彼らは COCORELI を他の人気のある AI 手法と比較しました。
- Chain-of-Thought（CoT）： 必死に考えるが、確信が持てない場合でも答えを推測する、賢い学生のようなものです。
- Agentic Frameworks（エージェント型フレームワーク）： お互いに会話する労働者のチームのようなものですが、十分な情報があると考えれば、それでも進めてしまいます。
- COCORELI： すべての詳細が確認されるまで、1 つのレンガも置かせない、厳格な現場監督のようなものです。
結果：
- 指示が完璧な場合、全員がうまく機能しました。
- 指示に詳細が欠けていた場合（未指定の場合）、他のシステムは推測を続け、間違った構造を構築しました。
- COCORELI は決して推測しませんでした。それは停止し、明確化を求め、その後、正確に正しい構造を構築しました。これらのテストにおいて、「ハルシネーション」された行動を完全に排除しました。
「コピー＆ペースト」のスーパーパワー（抽象化）
この論文はまた、COCORELI がパターンを学習して再利用できることを示しています。
- シナリオ： 62 個のピースを使って複雑な「頭蓋骨」の形状を構築します。
- 依頼： その後、「別の頭蓋骨を構築してくれ。ただし青にして、あそこに置いてほしい」と言います。
- 結果： COCORELI は 62 ステップすべてを再度リストアップする必要はありません。それは頭蓋骨の構造（「設計図」）を記憶しており、色と場所だけを交換します。他のシステムは、すべての単一のステップを再リストアップすることなく、複雑なパターンを記憶することに苦労しました。
結論
この論文は、AI が人間と協力して働く際に真に信頼できるものになるためには、AI を「より賢く」したり、推測を得意にしたりするだけでは不十分であると主張しています。欠落した情報に基づいて AI が行動することを不可能にするために、アーキテクチャ（システムの設計）を変更する必要があります。
COCORELI は、欠落した情報を「推測のヒント」ではなく「停止サイン」として扱うことで、安全で信頼性が高く、真に協力的なエージェントを構築できることを証明しています。重要なのは AI が賢くなることではなく、システムが厳格になることです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。