A Taxonomy of Architecture Options for Foundation Model-based Agents: Analysis and Decision Model

ここ数年、単に質問に答えるだけでなく、行動を起こす新しい種類の人工知能が登場しました。これらは、硬直した指示のリストに従うだけの単純なプログラムではありません。むしろ、これらは膨大な「基盤モデル」の上に構築されたシステムであり、その基盤モデルは、文脈を理解し新しいアイデアを生み出すように訓練された、人間の知識と言語の広大なライブラリのようなものです。開発者がこれらのモデルを、ウェブを閲覧したり、コードを書いたり、ソフトウェアを制御したりできるツールに接続すると、「エージェント」が誕生します。これらのエージェントは、人間の従業員がそうであるように、環境を認識し、問題について推論し、一連のステップを計画し、目標を達成するために行動することができます。複雑なソフトウェアプロジェクトの管理から仮想世界でのナビゲーションに至るまで、これらのシステムは私たちの働き方に革命をもたらすと期待されています。しかし、これらのエージェントがより有能になる一方で、エンジニアによる構築方法は混沌としたままです。共通の言語や選択肢の明確な地図がないため、設計者は、異なる部分がどのように組み合わさり、どのようなトレードオフを生み出すのかという体系的な理解に基づくのではなく、場当たり的な手法でシステムを組み立て、推測に基づいて意思決定を行っています。

ある研究チームは、この増大する複雑さに秩序をもたらすべく立ち上がりました。彼らは、基盤モデルベースのエージェントがどのように構築されているのかを正確に理解するために、66件の科学的研究の膨大なレビューを実施しました。彼らの目的は、単に構成要素を列挙することではなく、あらゆる設計上の選択がもたらす結果を説明する構造化されたガイドを作成することでした。その結果、エージェントを構築する多くの方法を整理する詳細な分類システムである、包括的な「タクソノミー（分類学）」が誕生しました。彼らは、設計者がエージェントが情報をどのように受け取るか、過去の出来事をどのように記憶するか、行動をどのように計画するか、そして他のエージェントとどのように連携するかについて、根本的な選択をしなければならないことを明らかにしました。例えば、エージェントは単独で動作するように設計されることもあれば、チームの一員として動作するように設計されることもあります。また、見たものすべてを永遠に記憶するように設計されることもあれば、容量を節約するために古い詳細を忘れるように設計されることもあります。さらに、目標に向かって単一の直線的な経路を辿るように設計されることもあれば、複数の可能なルートを同時に探索するように設計されることもあります。

研究者たちは、これらの選択のひとつひとつにコストが伴うことを発見しました。あらゆることに秀でた完璧な設計というものは存在しません。もし設計者が、予期せぬ変化に対して非常に柔軟で適応力の高いシステムを選択すれば、そのシステムを後で簡単にテストしたり修正したりする能力を犠牲にすることがよくあります。もしコンピュータにとって処理しやすいメモリシステムを優先すれば、エージェントがなぜ特定の決定を下したのかを人間が理解することを難しくするかもしれません。エンジニアがこれらの困難な妥協を乗り越えられるよう、チームは「意思決定モデル」を構築しました。このモデルは地図のように機能し、ある建築的オプションを選択することが、システムの信頼性、速度、セキュリティ、および使いやすさにどのように影響するかを正確に示します。これにより、隠れたトレードオフが可視化され、設計者は、決して失敗してはならないシステムを作るのか、あるいは即座に学習し適応できるシステムを作るのかといった、自身の特定のニーズに沿った道を選択できるようになります。

彼らの知見が有用かつ正確であることを確実にするため、研究者たちは大学と主要なテクノロジー企業の両方から集まった12人の専門家を用いて、彼らのフレームワークをテストしました。複雑なAIシステムを構築してきた長年の経験を持つこれらの専門家は、分類と意思決定モデルをレビューしました。専門家たちは、このフレームワークがこれらのエージェントの不可欠な構成要素を捉え、その設計について考察するための明確で実践的な方法を提供していることに同意しました。彼らは、このモデルが、エージェントの自律性の必要性と安全性および予測可能性の必要性をどのようにバランスさせるかといった、以前は混乱していた選択肢を明確にするのに役立つことを見出しました。この研究は、この分野が、ランダムな実験から、決定がその結果を明確に理解した上で行われる、より規律あるエンジニアリングのアプローチへと移行していることを裏付けています。

この研究は、あらゆる問題を解決したとか、エージェントを構築するための唯一の最善の方法を提示したと主張するものではありません。むしろ、次世代のデザインのための構造化された基礎を提供するものです。選択肢の風景を整理し、トレードオフを明示的にマッピングすることで、研究者たちは設計者に対して共通の語彙と厳格な意思決定手法を与えました。この転換により、この分野は、個々の実験の集まりから、意図、信頼性、そして自らの限界に対する明確な理解を持ってシステムを設計できる、結束した規律へと成熟していきます。これらのインテリジェントなシステムが私たちの日常生活に深く組み込まれていく中で、それらがどのように構築され、何ができて何ができないのかという明確な地図を持つことは、強力かつ信頼できるテクノロジーを創造するために不可欠となるでしょう。