AI Accountability Infrastructure: Cryptographically Verifiable Decision Provenance for High-Stakes AI Systems

あなたは、巨大で見えないロボットたちが人々の人生を左右する決定を下している、活気ある都市を歩いているところだと想像してください。時にはロボットがあなたのローン申請を拒否したり、動画を削除対象としてフラグを立てたり、あるいは医療行為を提案したりします。かつて、もし人間が誤った選択をした理由を知りたければ、その人に尋ねたり、その人の日記を確認したりすることができました。しかし、これらのAIロボットは日記をつけていませんし、自分たちの思考を私たちに理解できる形で説明することもできないことがよくあります。これは大きな問題です。もしロボットが間違いを犯した場合、何が起きたのかをどうやって証明すればよいのでしょうか？

これを解決するために、科学者たちは、墜落時に何が原因だったかを調査員に伝える飛行機のブラックボックスのように、AIのための「ブラックボックス」を構築しようと試みてきました。また、「説明可能なAI（Explainable AI）」も活用されていますが、これは後から数学の問題を説明しようとする教師のようなもので、決定が下された正確な瞬間を捉えきれないことが多々あります。大きな課題は、二つのことのバランスを取ることです。すなわち、AIに責任を持たせるために証拠を見る必要がありますが、生のデータをすべて公開してしまうと、個人のプライバシーが漏れたり、AIの仕組みが露呈してハッカーに悪用されたりする可能性があるということです。この論文は、この複雑な中間領域に踏み込み、次のような問いを投げかけます。「AIの決定を、変更不可能で、プライベートであり、かつ信頼できるグループの合意によってのみ解錠できる方法で記録するシステムを構築できるだろうか？」

この論文の核心的なアイデア：AIの「改ざん防止日記」

この論文の著者であるメズバ・ウディン・ラフィ（Mezbah Uddin Rafi）は、**AIアカウンタビリティ・インフラストラクチャ（AAI）**と呼ばれる新しいシステムを提案しています。これは、すべての高リスクなAIシステムが強制的に記録することを義務付けられた、魔法のような、壊すことのできない日記のようなものです。しかし、これは単なる日記ではありません。この日記は特別なコードで書かれており、全員に気づかれることなくページを消したり変更したりすることは不可能です。

システムの仕組みは、いくつかの遊び心のある比喩を用いて説明できます。

1. 「ブラックボックス」のレシート
AIが決定を下す（例：ローンの承認）たびに、システムは単に答えを保存するだけではありません。それは**AIアカウンタビリティ・レコード（AAR）**と呼ばれる「レシート」を保存します。このレシートには、AIが何を見たのか（入力）、どのツールを使用したのか（計算機やデータベースなど）、そしてどのルールに従ったのかが正確に記載されます。決定的なのは、AIの内部的な「思考」や隠れた推論を記録しようとはしないことです。それらはあまりにも混沌としており、変化しやすいためです。システムは、思考の内容ではなく、セキュリティカメラが誰がドアを通ったかを記録するように、観察可能な事実のみを記録します。

2. 切れることのない連鎖
誰も後からこっそり日記を編集できないように、システムはデジタルな「鎖」を使って、新しいレシートを前のレシートへと繋ぎ合わせます。すべてのリンクが特殊な金属でできており、溶かそうとすると色が変わる鎖を想像してみてください。もし誰かが先週のレシートを書き換えようとしたら、リンクが切れ、鎖全体が赤くなり、「おい！誰かがこれを改ざんしたぞ！」と叫び声を上げます。これは**ハッシュ・チェーニング（hash-chaining）**と呼ばれ、一度決定が書き込まれたら、それは当初のまま維持されることを保証します。

3. 三人がいなければ開かない「魔法の鍵」
これが最も巧妙な部分です。通常、AIを所有する企業が日記の鍵を握っています。もし彼らがミスを隠したいと思えば、日記をロックして鍵を捨ててしまうことも可能です。AAIシステムは、**閾値暗号（threshold cryptography）**を用いることで、この問題を解決します。日記を開くための鍵が5つの破片に分かれていると考えてください。日記を開いて秘密を読み取るには、少なくとも3人の異なる人物がそれぞれの破片を持ち寄る必要があります。これらの人物は、AI企業、独立した監査人、そして政府の規制当局といった存在になり得ます。単独の人物――たとえAI企業のCEOであっても――では、一人で日記を開くことはできません。これにより、一人の悪意ある者が証拠を隠蔽したり偽造したりすることを防ぎます。

4. 「段階的な」懐中電灯
時には、日記全体を見る必要はなく、特定の事実だけを確認したい場合があります。このシステムは「段階的開示（graduated disclosure）」モデルを採用しています。これは、誰が何を求めているか、そしてなぜそれを求めているかに応じて、一つの文章だけに光を当てたり、段落全体に当てたり、あるいはページ全体を照らしたりできる懐中電灯を持っているようなものです。もし裁判官が証拠を見る必要があるなら、「魔法の鍵」を持つ人々は必要な部分だけを解錠しますが、日記の他の部分は暗いまま、プライバシーが守られた状態に保たれます。これにより、正義を実現しつつ、ユーザーのプライバシーを保護します。

この論文が実際に明らかにしたこと（および、できなかったこと）

著者たちは、自分たちが成し遂げたことと、現在進行中の作業について非常に正直に述べています。彼らは、銀行や病院を運営するような巨大な実世界のAIシステムを構築したわけではありません。代わりに、彼らは彼らのシステムのプロトタイプ、つまり一台のコンピュータ上で動作する小規模なシミュレーション版を構築しました。

このシミュレーションにおいて、彼らは5,000件の架空のAIの決定を作成しました。システムをテストした結果、以下のことが判明しました。

• 動作が速い： チェーンに新しい「レシート」を追加するのに、1ミリ秒未満（平均0.24ミリ秒）しかかかりませんでした。
• 嘘を見抜く： データを改ざんしようと試みたところ、システムは即座にそれが壊れていることをフラグ立てしました。
• 秘密を守る： レコードの他の部分を明かすことなく、特定の事実がその記録に含まれていることを証明できることを示しました。

しかし、論文では、これがまだ実世界に投入できる完成品ではないことを明示しています。シミュレーションは一台のコンピュータ上で実行されたため、「鍵の保持者」が異なる国にいて、インターネット越しに通信しなければならない場合に、システムがどれほど遅くなるかをテストしていません。また、著者らは、彼らのシステムは「記録」が変更されていないことを証明できるものの、「元のデータ」が真実であったかどうかを証明することはできないとも認めています（例えば、ハッカーがAIに偽のデータを入力した場合、記録はその偽のデータを忠実に記録しますが、これは依然として問題となります）。

なぜこれが重要なのか

この論文は、新しい種類のセーフティネットの設計図のようなものです。これはAIのあらゆる問題を解決するものではありませんし、AIを完璧にする魔法の杖であるとも主張していません。むしろ、AIが大きな間違いを犯したときに、何が起きたのかについての信頼できる、変更不可能な記録があり、かつ、単独の人物がその記録を隠すことができないようにする方法を提示しています。これは、「AIを信頼する」ということと「AIが何をしたかを証明できる」ということの間の溝を埋め、裁判所、規制当局、そして一般の人々が、プライバシーやセキュリティを犠牲にすることなく、これらの強力なシステムに責任を追及できる道を開くものです。

著者らは、数学的・論理的な検証は成立しているものの、実世界でのテストはまだこれからであると結論づけています。彼らは他の研究者に対し、この設計図を受け取り、実際の分散システムを構築し、それが実際のインターネットの混沌とした環境に耐えられるかどうかを検証することを呼びかけています。これは強固な基礎ですが、まだ家は建っていません。