Language-Based Agent Control
本論文は、エージェントが実行前に静的に検証される型付きプログラムを生成することを要求することにより、エージェント指向アプリケーションがユーザー指定のセキュリティポリシーに準拠することを保証するプログラミングモデルである言語ベースのエージェント制御（LBAC）を導入し、開発者が記述した足場とエージェントが生成した動作の両方にわたって安全性保証を統合しつつ計算の表現力を維持する。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
非常に才能があるが予測不能なアシスタント（AI エージェント）を、研究論文の整理のような仕事を任せるために雇用すると想像してください。あなたは彼らが創造的で賢くあることを望みますが、同時に、誤って（あるいは悪意を持って）ファイルを削除したり、秘密を盗んだり、偽のデータを作成したりしないようにする必要があります。
現在、ほとんどのシステムは安全性と自由度のどちらかを選ばざるを得ません：
- 「玩具箱」アプローチ（制限されたツール）： アシスタントに承認済みのツールが入った小さな箱を与えます。彼らは箱の外に出ることはできません。非常に安全ですが、賢いことや複雑なことは何もできません。リストを並べ替える必要がある場合、一つずつあなたが指示するまで待つしかありません。
- 「オープンキッチン」アプローチ（コードインタープリター）： アシスタントにキッチンへの完全なアクセス権を与えます。彼らは好きなものを何でも調理できます！しかし、彼らが混乱したり、だまされたりした場合、家を燃やしたり、あなたに毒を盛ったりする可能性があります。
この論文は、言語ベースのエージェント制御（LBAC）と呼ばれる新しい方法を紹介します。これは、アシスタントに魔法のキッチンを与えるようなもので、その中の物理法則（宇宙の規則）は、彼らが必ず話さなければならない言語で書かれています。
核となるアイデア：「魔法の言語」
単にアシスタントに「してよいこと」と「してはいけないこと」のリストを与えるのではなく、プログラマーは特別な厳格な言語（Haskell というプログラミング言語の超厳格なバージョンのようなもの）の中にシステム全体を構築します。
この魔法の言語では、型（データのラベル）がセキュリティガードのように機能します。
- データに**「信頼済み」**というラベルが付けられている場合、それは検証済みのデータベースなど、安全なソースから来たことを意味します。
- データに**「信頼未」**というラベルが付けられている場合、それはインターネットやユーザーから来たことを意味します。
- この言語には以下のルールがあります：「信頼未」の材料を「信頼済み」の料理に混ぜてはならない。
実践での動作
テキストから研究論文の例に戻りましょう。あなたはエージェントにこう頼みます：「微分プライバシーに関する最も古い論文を見つけ、私の書誌に追加してください。」
- 従来の方法（コードインタープリター）： エージェントはプログラムを書きます。それは単に偽の論文タイトルを作り、あなたのファイルに書き込み、「はい、どうぞ！」と言うかもしれません。システムはコードが実行されるかどうかしかチェックせず、内容が真実かどうかはチェックしません。
- 従来の方法（制限されたツール）： エージェントには「取得して保存」ボタンしか与えられません。彼らは結果を自分で並べ替えたりフィルタリングしたりできません。どのものを選ぶかあなたが指示するまで、彼らは待たされることになります。
- LBAC 方式（TYPEGUARD）：
- エージェントは魔法の言語でプログラムを書きます。
- 論文を取得するには、「信頼済み」ラベルのみを返す特殊な関数を使用しなければなりません。
- あなたのファイルに書き込むには、その関数は**「信頼済み」**ラベルを必須とします。
- 魔法のチェック： エージェントのプログラムが実行される前に、「型チェッカー」（厳格な司書）がコードを確認します。
- もしエージェントが偽の論文（「信頼済み」ラベルがないもの）をファイルに書き込もうとすると、司書は**「エラー！このコードはルールに適合しません。やり直してください。」**と言います。
- エージェントはエラーメッセージを受け取り、自分の間違いに気づき、データベースから実際の論文を取得するようにコードを書き直します。
- コードがチェックをパスすると、実行されます。
これが重要である理由
この論文は、このアプローチが「安全性対自由度」の問題を解決すると主張しています：
- 自由度： エージェントは依然として複雑なプログラムを書き、リストを並べ替え、数学を行うことができます。彼らは小さなツールの箱に閉じ込められるわけではありません。
- 安全性： エージェントは言語の厳格なルールに適合するコードを書かなければならないため、秘密データを漏洩させたり、偽のファイルを書いたりするなど、ルールを破る行動を物理的に実行することができません。コードが「型チェック」をパスしなければ、決して実行されません。
「ネスト型」エージェントのトリック
この論文は、エージェントが支援のために「サブエージェント」を雇った場合でも、これが機能することを示しています。
- メインのエージェントが、疑わしいメールを見るようにサブエージェントに頼むと想像してください。
- サブエージェントはメール（「汚れた」、つまり信頼未のデータ）を読みます。
- 魔法の言語の規則により、サブエージェントは自動的に「検疫区域」に置かれます。彼らはメールを読むことができますが、メインのエージェントのツールにその「汚れた」データを渡すことはできません。ただし、メインのエージェントが開くことを許可された特別なコンテナに包む場合を除きます。
- これは、別のセキュリティシステムによるものではなく、言語の規則によって自動的に発生します。
まとめ
この論文は、AI エージェントの周りに壁を築くのではなく、AI の世界を厳格でルールベースの言語の中に構築すべきだと論じています。この世界では、安全性は上に追加する別層ではなく、エージェントが考え、コードを書く仕組みそのものに組み込まれています。エージェントがルールを破ろうとすると、言語自体が「ノー」と言い、その行動は発生する前にブロックされます。
著者らは、3 つのシナリオでこれをテストしました：
- データの出所： 書誌に追加されるのが、データベース由来の実際の論文のみであることを保証する。
- ファイルシステムのサンドボックス化： エージェントが特定のフォルダ内のファイルのみを操作できることを保証する（「権限」トークンのようなもの）。
- 情報フロー： 秘密データが誤ってインターネットに漏洩しないことを保証する。
すべてのケースにおいて、システムはエージェントを賢く柔軟に保ちながら、ルールを破ることができないことを保証しました。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。