💻 computer science

Cryptographic certificates of validity for trustworthy AI

本論文は、エージェントによる再実行やエージェントへの信頼を必要とせず、独立した検証を可能にするために、エージェントの行動が形式的に指定されたポリシーを満たしていることを数学的に証明する簡潔な暗号証明書を生成することにより、信頼できるエージェンティックAIのためのフレームワークを提案するものである。

原著者： Murdoch J. Gabbay

公開日 2026-06-24

📖 1 分で読めます☕ さくっと読める

CC BY 4.0

原著者： Murdoch J. Gabbay

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 ✨ これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。免責事項の全文を読む

ビッグアイデア：人を信じるのではなく、証明を信じる

想像してみてください。あなたはロボットに、代わりに航空券を予約するよう依頼しています。かつて、私たちはロボット（あるいはAIエージェント）を信頼していました。それは、そのロボットを誰が作ったかを知っていたり、「私は会社Xのものです」というデジタル署名が付いていたからでした。

しかし、もしそのロボットにバグがあったら？あるいは、そのロボットが「ビザンチン」なロボット（不審な動きをしたり、悪意を持ったりする可能性があるロボットを指す専門用語です）だったらどうでしょう？署名は「誰がメッセージを送ったか」を証明するだけであり、そのメッセージが「正しいか」あるいは「安全か」までは証明してくれません。

マーダック・ギャベイ（Murdoch Gabbay）の論文は、AIを信頼するための新しい方法を提案しています。それは、ロボットの「身元」を信頼するのではなく、ロボットの行動がルールに従っていることを証明する**「暗号学的証明書（cryptographic certificate）」**を信頼するという方法です。

次のように考えてみてください：

従来の方法： あなたは、特定の帽子を被り、免許を持っているという理由でシェフを信頼します。そして、シェフがスープに毒を入れていないことを願います。
新しい方法： シェフは、封印された壊れないレシートをあなたに渡します。このレシートは、スープが適切な温度で調理され、正しい材料が使われ、毒が加えられていないことを数学的に証明します。あなたはシェフの名前を知る必要も、調理風景を見る必要もありません。ただ、レシートをチェックするだけでよいのです。

仕組み：「魔法の翻訳機」

この論文では、これらのレシートを作成するための3つのステップを説明しています。

1. ルールを書く（「法律」）

まず、AIが従うべきルール（例：「500ドル以上は決して使わない」「渡航警告が出ている国には行かない」など）を取り上げ、**論理（ロジック）**と呼ばれる厳格な数学的言語で書き出します。

比喩： ボードゲームのルールを、コンピュータが完璧に理解できる言語で書くことを想像してください。「たぶん」や「〜だと思う」といった曖昧さを一切排除した言語です。

2. 翻訳（「コンパイラ」）

次に、特別なツール（コンパイラ）を使用して、それらの論理的なルールを数学的なパズルへと翻訳します。

魔法のトリック： この論文では、「真（True）」を数字の 0 に、「偽（False）」を 正の数 に変換するという巧妙なトリックを説明しています。
比喩： 天秤を想像してください。AIがルールに従っていれば、天秤はゼロで完璧に釣り合います。もしAIがルールを破れば、天秤は傾き、重い正の数を示します。目標は、天秤がゼロであることを証明することです。

3. 証明書（「レシート」）

AI（またはヘルパー）はその数学的パズルを解き、小さな暗号学的な**証明（proof）**を生成します。この証明は、「天秤をゼロでバランスさせるための秘密の解を私は持っている」ということを示します。

すごいところ： 検証者（AIをチェックする人）は、この小さな証明を見るだけで、ルールが守られたことを即座に知ることができます。彼らはAIのプライベートな思考を見る必要も、計算全体をやり直す必要も、AIを信頼する必要もありません。ただ、数学をチェックするだけでよいのです。

具体的な例：2の累乗の力

この論文では、 $2^2$ （2の2乗）の計算という単純な例を用いて、これがどのように機能するかを示しています。

AIが「 $2^2 = 4$ と計算しました」と主張しているとしましょう。
この主張が嘘ではないことを証明するために、AIは単に「4」と言うだけではありません。AIは派生ツリー（derivation tree）（ステップ・バイ・ステップの履歴）を提供します：

ステップ 1: $2^0 = 1$ （出発点）。
ステップ 2: $2^1 = 2$ （ステップ1に基づく）。
ステップ 3: $2^2 = 4$ （ステップ2に基づく）。

暗号学的証明書は、これらのステップが正しく連結されていることを証明します。もしAIがステップを飛ばしたり、数字を変えたりしようとすれば、数学的パズルは失敗し、証明書は無効になります。

なぜこれがAIエージェントにとって重要なのか

論文は、AIエージェントが現実の世界で実務（航空券の予約、請求書の承認、コードのデプロイなど）を行うようになるにつれ、事後にログを確認するだけでなく、アクションが起こる「前」にその動作を検証する方法が必要になると主張しています。

再実行不要： 証明書のチェックは高速です。AIの作業をやり直す必要はありません。
プライバシー： 「ゼロ知識（Zero-Knowledge）」機能を用いることで、AIはあなたのクレジットカード番号や秘密の戦略などのプライベートなデータを明かすことなく、ルールに従ったことを証明できます。
盲目的な信頼の排除： AIの開発者を信頼する必要はありません。数学だけを信頼すればよいのです。

この論文が「行わない」こと（重要な限界）

著者は、この技術ができないことについても非常に慎重に述べています：

ルールを代わりに書いてくれるわけではない： 証明書は、AIが「与えられたルール」に従ったことを証明するものです。もしあなたが悪いルール（例：「全財産を使い果たせ」）を書いた場合、証明書はその悪いルールに完璧に従ったことを証明します。
安全性を保証するものではない： これは、特定の数学的条件が満たされたことを保証するだけです。その条件自体が賢明か、倫理的か、あるいは安全であるかを証明するものではありません。
人間の監視に取って代わるものではない： 人間は依然として、どのようなルールを設定すべきかを決定し、システムを監査する必要があります。

まとめ

この論文は、AIのための「証明を伴うアクション（Proof-Carrying Action）」システムを提案しています。ドライバーが運転する資格があることを証明するために免許証を携帯するように、AIエージェントは、そのアクションが正しいことを証明する**「暗号学的証明書」**を携行します。

これは、形式論理（Formal Logic）（ルール）と暗号学（Cryptography）（証明）の架け橋となり、AIやそのプライベートなデータを信頼することなく、AIが正しく振る舞っていることを検証することを可能にします。これは、「私はあなたを信頼しないが、あなたが今手渡した数学は信頼する」という言い方なのです。

提供されたテキストに基づき、Murdoch J. Gabbayによる論文「Cryptographic certificates of validity for trustworthy AI（信頼できるAIのための暗号学的妥当性証明書）」の詳細な技術要約を以下に記す。

問題提起

AIシステムが、単なる推奨事項の生成から自律的なアクションの実行（例：航空券の予約、請求書の承認、コードのデプロイなど）へと移行するにつれ、従来の保証メカニズムでは不十分になります。暗号署名はメッセージの「起点」を認証しますが、アクションが事前に特定の正当性、安全性、またはコンプライアンス条件を満たしていることを証明することはできません。同様に、事後的なロギングは、ポリシー違反が発生する前にそれを防ぐことはできません。本論文は、検証者がエージェントの内部実装を信頼したり、計算を再実行したりする必要なく、エージェントのアクションが合意された形式的ポリシーを満たしていることを、アクションが受理される前に独立して検証可能な証拠を提供するメカニズムの必要性に対処しています。

手法

本論文は、形式論理と簡潔な暗号学的証明を橋渡しすることによる、**暗号学的妥当性証明書（cryptographic certificates of validity）**を生成するためのフレームワークを提案しています。その手法は、以下の3つのステップからなるパイプラインに従います。

形式仕様（Formal Specification）: 関連するポリシーまたは正当性条件を、特定の述語論理における論理述語として表現します。
算術化（Arithmetisation）: この述語を、多項式制約に基づくウィットネス（証拠）確認問題へとコンパイルします。数学的な核心となる貢献は、第一階述語論理の妥当性を、以下の性質を持つ多項式制約の判定へと翻訳することです。
- 真（妥当性）は、値 0 で表される。
- 偽（不当性）は、厳密に正の値で表される。
- 論理結合子は代数演算にマッピングされる：
  - 等価性 ( $t=t'$ ) は $(t-t')^2$ にマッピングされる。
  - 連言 ( $\phi \land \psi$ ) は和 $[\phi] + [\psi]$ にマッピングされる。
  - 選言 ( $\phi \lor \psi$ ) は積 $[\phi] \times [\psi]$ にマッピングされる。
  - 範囲に対する全称量化は、その範囲における総和としてマッピングされる。
- 再帰および帰納的定義（例：指数演算）は、列が派生ステップを表し、専用の行にポインタを配置することで、ウィットネスデータを行列として構造化することによりエンコードされます。これにより、再帰的構造が適切に構成されていることが保証されます。
暗号学的証明（Cryptographic Certification）: エージェント（または関連する証明者）は、特定のポリシーから導出された多項式制約が、特定のアクションデータによって満たされていることを示す、簡潔な暗号学的証明（ゼロ知識証明の可能性を含む）を生成します。

検証プロセスでは、検証者は公開鍵とパラメータに対して証明をチェックします。証明が検証されれば、システムは、エージェントのプライベートなウィットネスデータを検査したり、計算を再実行したりすることなく、そのアクションが形式的述語を満たしていると判断して受理します。

主な貢献

数学的翻訳: 本論文は、第一階述語論理の妥当性を、多項式制約へとコンパクトかつアプリケーションに依存しない形で算術化する手法を提供しています（定義 2.3–2.7、定理 2.9）。複雑な論理構造（再帰や帰納的派生を含む）を、暗号学的バックエンドに適した代数的関係へとエンコードする方法を示しています。
証明を伴うエージェントのアクション（Proof-Carrying Agent Actions）: 本論文は、エージェントのアクションを、特定の暗号学的意味において「証明を運ぶ（proof-carrying）」ものとして概念化しています。ソースコードの検査を必要とすることが多いProof-Carrying Code (PCC) とは異なり、このアプローチでは、信頼できない、あるいはブラックボックスである可能性のあるエージェントが、コンプライアンスの簡潔な証拠を提供することを可能にします。
既存技術との統合: このフレームワークは、既存の簡潔な引数系（例：SNARC、CairoやRISC0などのzkVM）や多項式コミットメントスキーム（例：Halo2、Zinc）とインターフェースするように設計されています。提案されている論理は、これらの暗号学的プリミティブへとコンパイルされる高レベルの仕様レイヤーとして位置付けられています。
ランタイム検証との区別: このアプローチは、事後的なトレースではなく、事前の簡潔な証明書を提供するという点でランタイム検証とは異なり、また、エージェントの内部設計を公開または信頼することを要求しないという点で標準的なPCCとは異なります。

結果と例

本論文は、経験的なベンチマークではなく、理論的な例を通じてアプローチの妥当性を検証しています。

基本論理: 真理値、等価性、連言、選言、および範囲チェックが、条件が成立する場合にのみゼロへと評価される多項式としてどのようにエンコードされるかを示しています。
再帰的計算: 指数演算 ( $a^b$ ) の帰納的定義をエンコードする詳細な例を挙げています。論文では、ウィットネスデータの行列が派生ツリーをエンコードする方法を示しており、そこでは行1–3に、入力/出力のサンプルが格納され、行4に以前のステップへのポインタが格納されます。妥当性述語は、これらのポインタが適切に構成された再帰的構造を形成していることを保証します。
堅牢性: 行列が正しい入出力値を含んでいても、「証明を運ぶ」構造（ポインタ）が欠落していたり不正であったりする場合、妥当性述語に失敗する場合があることを指摘しており、これにより、証明書が結果そのものだけでなく、結果の「派生」をも検証していることを示しています。

意義と範囲

本論文は、この研究を、ソースコードの形式的検証と暗号学的認証の間の「中間領域」として位置付けています。その主な意義は、エージェント型AIシステムのための「Proof-Carrying Codeの暗号学的アナロジー」を提供することにあります。

著者は、提案の限界と範囲について明示的に述べています。

範囲: 数学的アーキテクチャは一般的であり、信頼できない当事者が正当性の検証可能な証拠を提供しなければならないあらゆるドメインに適用可能です。AIエージェントへの具体的な適用は、自律的なアクションが事前の保証を緊急に必要としているために選択されました。
限界: 妥当性証明書は、ある「形式的仕様」が満たされていることを証明するものです。それは、その形式的仕様自体が「正しい」ものであること（すなわち、安全性、法的要件、または倫理的要件を正しく捉えていること）を証明するものではありません。論文は、形式的述語と現実世界の安全性との間の溝を埋めるには、数学や暗号学だけで解決できるものではなく、ガバナンス、監査、およびリスク管理プロセス（NISTのフレームワークへの言及）が必要であることを強調しています。
今後の課題: 本論文は、コンパイラの設計、証明コストのベンチマーク、およびポリシー作成と監査のためのガバナンスの確立を含む、実用的な実装の詳細の必要性を挙げています。

要約すると、本論文は、AIエージェントのアクションに、簡潔で暗号学的に検証可能なポリシー遵守の証明を付与するための、理論的かつ数学的な基礎を提案しており、信頼モデルを「起点への信頼」から「証拠への信頼」へと転換させるものです。