DarwinX: Evolving Agent Harnesses Through Natural Selection
DarwinXは、保存および拡張の契約と再結合を通じてLLMエージェントのハーネスを進化させる、個体群ベースの自然選択フレームワークを導入し、既存のタスクへの退行を引き起こすことなく、またモデルの再学習を必要とすることなく、多様なベンチマークにおいて顕著かつ汎用的な性能向上を実現します。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
想像してみてください。あなたは、信じられないほど賢いロボットを所有していますが、そのロボットはガラスの箱の中に閉じ込められています。あなたはロボットの脳(中身)を変えることはできませんし、新しい事実を教え込むこともできません。それは時間に凍結されています。それでも、あなたは壊れたコードの修正からウェブサイトのナビゲーションまで、千もの異なるパズルを解かせなければなりません。どうすれば、このロボットをより良くできるでしょうか?人工知能の世界において、これは「エージェント」の課題です。エージェントとは単なる「脳(モデル)」ではなく、その脳にどのように行動するかを伝える「ハーネス(制御装置)」、つまり指示、ツール、そしてルールのセットのことです。脳を「あらゆるレシピを知り尽くした天才シェフ」とするならば、ハーネスは「キッチンそのもの」です。もしキッチンが散らかっていれば、たとえシェフがいかに才能溢れる人物であっても、食材を落としたりスープを焦がしたりしてしまうでしょう。科学者たちは「自己改善するキッチン」を構築しようと試みてきましたが、そのほとんどは、料理をしながら自分の作業台を自分で直そうとする一人のシェフのようなものでした。彼らは一つの問題(例えば、玉ねぎを刻むスピードを上げること)を解決しようとして、別の問題(例えば、コンロの火を消し忘れること)を誤って引き起こしてしまうのです。
そこで登場するのが、Salesforce AI Researchによる新しいアプローチであるDarwinXです。これは、AIエージェントの改善を、ペトリ皿の中で行われる大規模な自然選択実験のように扱うものです。一人のシェフがすべてを一人で直そうとするのではなく、DarwinXはさまざまな「キッチンのセットアップ」を持つ、一つの集団を作り出します。そして、新しいツールや指示を試させることを許しますが、そこには厳格なルールがあります。それは、「新しい問題を解決しつつ、既存の問題を一つも壊さなかった場合にのみ、新しいセットアップを保持できる」というルールです。これは、単に運が良い者ではなく、既存の知識を損なうことなく、より多くのことができる者が生き残る「適者生存」のゲームのようなものです。この論文は、AIの脳を凍結させたまま、これらの「キッチンのセットアップ」のみを進化させることで、システムは未知の複雑なタスクをはるかにうまく解けるようになることを示唆しています。
完璧なツールベルトの進化
DarwinXの開発者たちは、シンプルな問いを立てました。「もし、AIの脳を再学習させるのではなく、それが使用するツールと指示の進化に完全に焦点を当てたらどうなるだろうか?」彼らはこれを「ハーネス」と呼んでいます。これには、プロンプト(指示)、ツール(計算機やウェブブラウザなど)、そして制御の流れ(AIが取るステップ)が含まれます。
これをテストするために、彼らはデジタルなペトリ皿を用意しました。強力なAIモデルを取り出し、その脳を完全に凍結させました。次に、さまざまな「ハーネス」(異なる指示とツールのセット)の集団を作成し、それらを進化させました。魔法がどのように起きたのか、その仕組みは以下の通りです:
1. 「保存と拡張」の契約
あなたが庭師だと想像してください。トマトが完璧に育つ植物を持っています。あなたは、その植物にイチゴも育てさせたいと考えています。下手な庭師は、イチゴを育てるように無理に強いて、誤ってトマトを枯らしてしまうかもしれません。DarwinXは、「保存と拡張(preserve-and-extend)」と呼ばれる厳格なルールを使用しています。新しいバージョンのハーネスが生き残れるのは、新しいタスク(イチゴを育てること)を解決しつつ、かつ古いタスク(トマトが依然として完璧であること)において退歩しなかった場合に限られます。もし新しいアイデアが一つの問題を解決しても別の問題を壊してしまうなら、それは庭から切り捨てられます。これにより、AIはすでに知っていることを忘れることなく、どんどん上手くなっていくのです。
2. 「もしも」のアーカイブ
多くの進化実験では、もしある経路が行き止まりに突き当たったら、それを捨ててしまいます。しかし、DarwinXは異なります。システムは、全体としては失敗したとしても、あらゆるバリアント(変種)をアーカイブとして保持します。なぜでしょうか?失敗したハーネスであっても、特定の課題を解決するための「一つの素晴らしいテクニック」を持っている可能性があるからです。これらの「敗者」をアーカイブに保持しておくことで、Darwin사는 後でそれらを組み合わせて(ミックスして)使うことができます。これは、橋を作るための失敗した試みが、優れた吊り橋のケーブルに関する素晴らしいアイデアを持っていたことに気づくようなものです。そのケーブルを別の橋のデザインと組み合わせることで、スーパーブリッジ(超強力な橋)が完成します。この「再結合(recombination)」により、システムは異なる系統の最良の部分を繋ぎ合わせることで、複雑なスキルを構築できるのです。
3. 三種類のヒント
システムは、AIの脳に触れることなく、どのようにして変更すべきかを知るのでしょうか?それは3種類のヒントを使用します:
- 失敗のヒント(Failure Clues): AIが失敗したとき、システムはその「理由」を分析し、修正案を提示します。
- 教師のヒント(Teacher Clues): 人間やより強力なAIが正しい方法を示した場合、システムはその方法をコピーします。
- 自己のヒント(Self-Clues): システムは、自身の成功した試みと失敗した試みを比較することで、その差異を特定します。
これらのヒントは、プロンプトの変更や新しいツールの追加といった、ハーネスへの小さな編集へと変換されます。
結果:凍結された脳、スーパー・ブレイン
研究者たちは、簡単なものから非常に難しいものへと段階的に進む4つの異なる課題でテストを行いました。結果は驚くほど強力であり、凍結されたモデルであっても、そのハーネスを進化させるだけで、はるかに有能なエージェントになれることを示唆しています。
- Terminal Bench(コーディング・タスク): 89個のコーディング・タスクにおいて、進化したハーネスはGPT-5.5モデルの成功率を**75.5%から83.2%へと向上させました。より強力なGPT-5.6モデルでは84.7%**に達し、脳自体は変わっていないにもかかわらず、世界最高の既存エージェントに匹敵、あるいはそれを上回りました。論文によれば、AIは単に「運が良かった」のではなく、苦戦しているタスクに対して正確に、より多くの時間と労力を割くことを学んだのです。簡単な問題はそのままに、最も困難な問題に対しては試行回数を2倍に増やしました。
- 「ホールドアウト」テスト(汎用性): 次に、進化したエージェントを、一度も見せたことのない41個の新しいタスクでテストしました。進化したハーネスは、これら**68.3%**を解決し、テストした他のすべての既製品のエージェントを打ち負かしました。これは、AIが単に答えを暗記したのではなく、一般的なスキルを学習したことを示唆しています。
- 「合成から現実へ」の跳躍: WebArena-Infinityと呼ばれるブラウザベースのテストにおいて、システムは300個の合成タスクで進化させられ、その後1,260個の実世界のタスクでテストされました。成功率は**43.5%から93.0%**へと跳ね上がりました。これは極めて重要です。なぜなら、AIがブラウザを正しく使う方法を学んだのであり、単にテストの制約を回避する方法を学んだのではないからです。研究者は結果を監査し、進化したエージェントが「制約を回避する(テストをハックしようとするような行為)」ことを止め、正当な方法で行動していることを確認しました。
- クロスベンチマーク転移: 最後に、コーディング・タスクのために進化したハーネスを、全く異なるベンチマークであるSWE-bench Verified(ソフトウェアエンジニアリング)で使用しました。新たなトレーニングなしで、**84.2%**のスコアを記録し、学習したスキルが新しいタイプの問題にも転用可能であることを証明しました。
何が変わったのか? 「検証」のスキル
論文では、AIの脳(というか、そのハーネス)の中で実際に何が変わったのかを掘り下げています。判明したのは、AIは数学や歴史に関する新しい事実を学んだのではないということです。代わりに、AIは**「検証(verification)と契約(contracts)」**に関連する一連のスキルを学んだのです。
以前のAIは、答えを推測して、それが正しいことを願うことがよくありました。進化したAIは以下を学習しました:
- 契約を作成する: タスクを完了する前に、何が「正しい」答えであるかを正確に定義します。
- 自分の仕事をチェックする: 出力内容がその契約に適合しているかを検証するために、ツールを実行します。
- 間違いを修正する: もしチェックに失敗した場合は、ループバックして再度試行します。
この「検証のパッケージ(verification bundle)」こそが、複雑なソフトウェア環境のセットアップや、迷うことなくウェブサイトをナビゲートするといった、困難で多段階のタスクに取り組むことを可能にしたのです。これは、答えを推測する学生と、自分の回答をダブルチェックする学生の違いと言えます。
まとめ
DarwinXは、AIをより良くするために、必ずしもより大きく、より賢い脳が必要なわけではないことを示唆しています。時には、より優れた指示とツールを進化させるだけでよいのです。AIの「ハーネス」を、選択、アーカイブ、および再結合が可能な「生き物」として扱うことで、研究者たちは、より信頼性が高く、より有能で、制約を回避しにくいエージェントを作り出すことに成功しました。この論文は、これらの成果がシミュレーション上の話ではなく、実測に基づいた確かなものであること、そしてAIが未経験のタスクに直面しても有効であることを強調しています。それは、時に天才をより賢くする最善の方法は、より優れた道具を与え、その道具の使い方を教えることであるということを思い出させてくれます。
自分の分野の論文に埋もれていませんか?
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。