← 最新の論文
💻 computer science

CANONIC: Governance Is Compilation

本論文は、構造的な受理(structural admission)がアルゴリズムによって「スロップ(slop)」をフィルタリングできるわけではないとしつつも、あらゆる主張が検証可能な定義とコミットに紐付けられ、エンドツーエンドの再現性が保証されることを目的として、コンパイラ理論の原則を適用し、AI生成コンテンツのための監査可能なエビデンス・レジャーを構築するガバナンス・フレームワークであるCANONICを導入するものである。

原著者: Dexter Hadley

公開日 2026-07-08
📖 1 分で読めます☕ さくっと読める

原著者: Dexter Hadley

原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む

以下は、論文『CANONIC: Governance Is Compilation(ガバナンスとはコンパイルである)』の解説を、日常的な言葉と独創的な比喩を用いて翻訳したものです。

大きな問題: 「スロップ(Slop)」の氾濫

誰よりも速く本を印刷できる工場を想像してみてください。2025年、この工場(AI)は膨大な量のテキストを大量生産し始め、新たな問題を引き起こしました。それが「スロップ(Slop)」です。

「スロップ」とは、単に質の悪い文章のことではありません。見た目は完璧で、賢そうに聞こえ、流れも美しいのですが、現実との繋がりが全くないテキストのことです。それは、まるで「見た目は美味しそうな料理を数秒で作れるシェフがいるが、その材料はプラスチックでできている」ようなものです。もしそれを食べれば病気になりますが、皿を見ただけではそれが偽物であるとは判別できません。

論文は、もっと多くの人に本を読ませる(人間によるレビュー)ことや、より優れた嘘発見器を作る(AI検知)ことでは、この問題は解決できないと主張しています。なぜなら、偽物の本は本物の本と全く同じように見えるからです。工場はあまりにも速く、「偽物」はあまりにも説得力がありすぎるのです。

解決策: 「コンパイラ」という門番

著者であるデクスター・ハドリー(Dexter Hadley)は、根本的な転換を提案しています。書かれた内容が「真実か」を判断しようとする(これは難しい)のではなく、その内容が「構造的に有効か」を判断すべきだという考えです。

彼はこれを 「コンパイルとしてのガバナンス(Governance as Compilation)」 と呼んでいます。

コンピュータプログラムを思い浮かべてください。プログラムが実行される前に、「コンパイラ」がそれをチェックします。コンパイラは、「このプログラムは世界の諸問題を解決するか?」とか「このコードは素晴らしいか?」とは問いません。コンパイラは、以下の3つの単純で機械的な質問をします。

  1. 辞書に存在する単語を使っているか?
  2. コンピュータ上に実際に存在するファイルを参照しているか?
  3. そのファイルは、指定されたフォルダ内に存在するか?

もし答えが一つでも「No」であれば、コンパイラは 「エラー(Error)」 と表示し、プログラムの実行を停止します。たとえそのコードがどれほど天才的であっても、構造的に壊れていれば拒絶されます。

CANONIC は、このロジックをAIの執筆に応用したものです。これはテキストのための「コンパイラ」として機能します。AIが生成したコンテンツが公開ライブラリ(コーパス)に入る前に、3つのゲートを通過しなければなりません。

3つのゲート(「トライアド」)

文章がCANONICのゲートを通過するためには、特定の3つのファイルを含む特定の種類のフォルダのように構築されている必要があります。もしファイルが一つでも欠けていれば、そのテキストは即座に拒絶されます。

  1. ルールブック (CANON.md): このファイルは、「この特定のトピックに関するルール」を定めます。これが「法」となります。
  2. 辞書 (VOCAB.md): ルールブックで使用されるすべての単語を定義します。ここで定義されていない派手な言葉を使うことはできません。これにより、AIが勝手に専門用語を作り出すことを防ぎます。
  3. 説明書 (README.md): そのプロジェクトが実際には何についてであるかを説明します。

比喩: あなたが家を建てていると想像してください。

  • 辞書は、承認された資材のリストです(例:「レンガ」とは赤い粘土のレンガを指し、赤いプラスチックのことではありません)。
  • ルールブックは、「すべての壁はレンガで作られなければならない」と定めています。
  • 説明書は、「これは家である」と述べています。

もしあなたが「赤いプラスチック」という言葉を辞書で定義せずに、それを使って壁を作ろうとした場合、検査官(コンパイラ)はあなたを止めます。「信じてくれ、これは壁だ」と言っても通用しません。

「エビデンス・レジャー(証拠台帳)」

論文では、もう一つの層である 「レジャー(Ledger/台帳)」 を導入しています。
テキスト内でなされるすべての主張は、公開され変更不可能な記録(Gitリポジトリのようなもの)にある特定の「コミット(保存されたファイルのバージョン)」に紐付けられていなければなりません。

  • 主張: 「患者の状態は改善した。」
  • アンカー(錨): 「台帳のコミット #12345 を参照。」

もし書き手が、その主張を証明する特定のコミットを提示できない場合、そのテキストは拒絶されます。これは、裁判において「私はそれを見た」と言うだけでは不十分で、「ビデオテープを提出しなければならない」というルールがあるようなものです。ビデオテープがなければ、その主張は記録に残せません。

CANONICができること(そしてできないこと)

ここがこの論文で最も重要な部分です。著者はその限界について非常に正直に述べています。

できること:
それは 「説明責任(Accountability)」 を保証することです。
あるテキストがゲートを通過した場合、以下のことが事実として保証されます。

  • すべての単語が定義されていること。
  • すべての主張が、特定の変更不可能なエビデンスを指していること。
  • ルールが遵守されていること。

これにより、「検証不可能な散文」が「検証可能な記録」へと変わります。たとえ内容が間違っていたとしても、それは今や「追跡可能」なのです。あなたはエビデンスを確認し、どこで間違いが起きたのかを見つけ、修正することができます。

できないこと:
それは 「真実(Truth)」 を保証することではありません。
論文では、このシステムが「スロップ」をフィルタリングできるかどうかを検証するためのテスト(ベンチマーク)を行いました。結果は驚くべきものでした。うまくいかなかったのです。

  • テスト: 彼らはフェイクニュース、本物のニュース、そして巧妙に作られたAIによる嘘をシステムに投入しました。
  • 結果: フェイクニュースが、構造的に完璧(単語が定義され、実在するように見える偽のエビデンスがあり、明確なタイムラインを持っている)であった場合、「コンパイラ」のゲートはフェイクニュースを通してしまうことが分かりました。
  • 教訓: 機械は、文章が「文法的に有効か」「参照されているか」をチェックすることはできますが、その文章が「真実であるか」をチェックすることはできません。

比喩:
銀行の警備員を想像してください。

  • CANONIC は、あなたの身分証明書(ID)をチェックする警備員です。もしあなたのIDが精巧に偽造されており、写真も形式もデータベースのフォーマットに一致していれば、警備員はあなたを通します。警備員は「あなたが有効なIDを持っていること」を保証しますが、「あなたが善良な人物であること」を保証するわけではありません。
  • 真実は、銀行のマネージャーによって判断されます。マネージャーはIDを確認し、その人物を見て、「待て、この人は銀行残高について嘘をついている」と判断します。

論文は、私たちが「アルゴリズム(警備員)」に嘘を見破らせようとしてきたと指摘しています。論文はこう言います。「やめなさい。」 警備員の仕事は、IDをチェックすることです。マネージャーの仕事は、その話が真実かどうかを判断することです。

「ヒューマン・イン・ザ・ループ(人間が介在する仕組み)」

このシステムは、「人間がルールを書き、AIがコンテンツを書く」 ように設計されています。

  • 人間が「憲法(CANON.md ファイル内のルール)」を設定します。
  • AIがテキストを生成します。
  • 「コンパイラ」が、AIがルールに従ったかどうかをチェックします。
  • もしAIがルールを変更しようとすれば、ブロックされます。憲法を変更できるのは人間だけです。

これにより、AIは速く、創造的でありながら、法律を破ったり足跡を隠したりすることができないシステムが構築されます。

まとめ

論文は次のように結論づけています。構造的に完璧な「スロップ(偽のAIテキスト)」を自動的に見つけ出すアルゴリズムを構築することはできない、と。

その代わりに、私たちは 「説明責任」 を強制するシステムを構築すべきなのです。

  • 従来の方法: 「このAIが真実の記事を書いたと信じてくれ」(検証が困難)。
  • 新しい方法(CANONIC): 「ここに記事があります。使用されている単語の辞書、エビデンスが存在する正確なファイル、そして従ったルールがあります。これらすべてを、あなた自身で検証してください。」

このシステムは嘘を止めるものではありません。ただ、もし嘘が語られたとしても、それが明確で変更不可能な証拠の跡を残すようにし、人間の専門家がそれを見つけ出し、指摘できるようにするためのものです。それはAIという「ブラックボックス」を、すべてが見え、チェック可能な「ガラスボックス」へと変えるのです。

自分の分野の論文に埋もれていませんか?

研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。

Digest を試す →