← 最新の論文
🤖 AI

Certified Purity for Cognitive Workflow Executors: From Static Analysis to Cryptographic Attestation

本論文は、制限付き WebAssembly コンパイル、暗号学的純粋性証明書、およびリモートアテステーションを通じて、ランタイム慣習を構造的境界に置き換えることで認知ワークフローガバナンスを強化する認定された純粋性アーキテクチャを導入し、これにより実質的なランタイムオーバーヘッドを維持しつつ敵対的バイパスの排除を数学的に証明する。

原著者: Alan L. McCann

公開日 2026-05-06
📖 1 分で読めます☕ さくっと読める

原著者: Alan L. McCann

原論文は CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/) のもとパブリックドメインに提供されています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む

あなたがVIPゲストのために複雑な料理(認知ワークフロー)を準備するチームのシェフたち(AI エージェント)がいる、高リスクのキッチンで働いていると想像してください。ルールは厳格です:シェフたちは料理を計画し、必要な材料を書き留めることはできますが、コンロに触れたり、冷蔵庫を開けたり、配達ドライバーを呼んだりすることは厳しく禁止されています。それらの動作を実行できるのは、ヘッドシェフ(「ガバナンスパイプライン」)だけです。

長らく、このキッチンは「シェフがルールに従うことを信頼する」という単純なルールに依存していました。キッチンマネージャーはシェフたちのレシピ帳(静的解析)を確認し、禁止された指示が書き込まれていないかを確認します。レシピがクリーンであれば、シェフは作業を許可されました。

問題:「マジックトリック」の抜け穴
この論文は、「レシピを信頼する」というシステムには致命的な欠陥があると説明しています。決意したずる賢いシェフは、レシピ帳に書き留めることなく、マジックトリックを使ってルールを回避できる可能性があります。彼らが使用する特定のキッチンプラットフォーム(BEAM/Erlang と呼ばれる)において、シェフは以下のようなことができます:

  1. 他人になりすます: 危険なツールを呼び出している事実を隠すために、直前にその関数名で関数を呼び出す。
  2. その場で新しいルールを書く: 調理中に新しいコマンドを入力し、実質的に調理中に自分自身のレシピを書き換える。
  3. ボディガードを雇う: 冷蔵庫を開けることなど何でもできる、秘密の事前作成されたツール(「NIF」)をロードする。
  4. ランナーを送る: 材料を取りに行かせるために、キッチン外の別の人物を生成する。
  5. レシピ帳を差し替える: 調理中に、全く異なる危険なレシピ帳をロードする。

これらのトリックはシェフが作業している最中に発生するため、事前にレシピ帳を確認する(静的解析)だけでは検知できません。ショーの前にマジシャンのポケットをチェックして止めようとするようなものです。後で取り出す隠しカードを持っているかもしれません。

解決策:「認証された純粋性」キッチン
この論文は、これらのマジックトリックを単にルール違反とするのではなく、物理的に不可能にする革新的な新しいキッチン設計を提案しています。

1. 新しいキッチン(WebAssembly サンドボックス)
シェフたちが開放的なキッチンで働く代わりに、彼らは今、透明で密封されたガラス箱の中で働きます。

  • マジックトリックなし: この箱の中では、「隠す」「書き換える」「ボディガードを雇う」といったツールは存在しません。箱は、唯一のロックされた扉を通ること以外に外に出る方法がないように作られています。
  • ホワイトリスト: この箱には、計算機、メモ帳、「リクエストフォーム」など、使用できる特定のツールのリストしかありません。コンロや冷蔵庫に触れることはできません。リストにないツールがあれば、箱には物理的にその取っ手さえ存在しません。

2. 身分証明書(純粋性証明書)
シェフがキッチンに入る前に、特別な身分証明書を取得しなければなりません。

  • 証明: 信頼できる権限者がシェフのコード(「バイナリ」)を確認し、許可されたツールのみを使用していることをチェックします。
  • 封印: 彼らは暗号学的な封印(蝋のスタンプのようなもの)でバッジに署名します。この封印は、この特定のバージョンのシェフのコードがクリーンであることを証明します。
  • 改ざん防止: シェフがコードをわずかに変更しようとしても(秘密のツールを追加するなど)、封印は破れます。バッジは無効になります。シェフAのクリーンなバッジを、改変されたシェフBに渡すことはできません。

3. 警備員(ランタイムゲート)
シェフがキッチンのドアに到着すると、警備員がバッジを確認します。

  • チェック: 警備員は封印を検証し、コードがバッジと一致しているか確認し、リストされたツールがまだ「許可リスト」にあることを確認します。
  • 結果: バッジが有効であれば、シェフは入室します。そうでない場合は、即座に退去させられます。これはシェフが調理を始める前、毎回行われます。

4. キッチン間パスポート(リモートアテステーション)
シェフAがキッチンAで働いていますが、キッチンBのシェフBを雇う必要がある場合はどうでしょうか?

  • シェフBは、自らのキッチンの警備員によってチェックされたこと、および自らのキッチンが同じ厳格なルールに従っていることを証明する「パスポート」(アテステーション記録)を持参します。
  • キッチンAはこのパスポートを読み取り、シェフBのソースコードを見る必要も、契約を結ぶ必要もなく、シェフBを信頼できます。これは機械可読の信頼の証明です。

なぜこれが重要か(結果)
この論文は、このシステムが数学的に機能することを証明しています:

  • 抜け穴なし: 「マジックトリック」(回避クラス)が新しいキッチンから構造的に欠落しているため、ずる賢いシェフはそれらを物理的に実行できません。捕まるのではなく、起こり得ないのです。
  • 高速: バッジのチェックには瞬きより短い時間(約40マイクロ秒)しかかかりません。料理に追加される時間は、配達トラックを待つ時間の0.4%未満です。
  • トラストレス: シェフ、キッチンマネージャー、他のキッチンを信頼する必要はありません。封印の背後にある数学とガラス箱の設計を信頼するだけです。

まとめ
この論文は、ガバナンスを「盗まないでください」という看板(人々がルールに従うことに依存)から、「物理的に盗むことができない」という壁(建物の構造に依存)へと移行させます。約束を数学的な保証に変え、AI エージェントが計画し思考することはできても、ルール外で秘密裏に行動することは決してないことを保証します。

自分の分野の論文に埋もれていませんか?

研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。

Digest を試す →