Reproducibility is the New Copyleft: Defining AGI-oriented Reproducible Builds
本論文は、複雑なAIアーティファクトを監査および再構成することが不可能であることから、従来のコピーレフト・ライセンスは汎用人工知能（AGI）に対しては効果的ではないと論じ、その上で、真の透明性とユーザーの自由を確保するためには、AGIのガバナンスは再現可能なビルドとプロトコルに基づく結合の枠組みへと移行しなければならないと提唱するものである。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
大きなアイデア：なぜ「オープンソース」だけではもう不十分なのか
あなたがパン屋でケーキを買ったと想像してください。ソフトウェアの旧時代（「第一次解放」）には、もしあなたがケーキの作り方を知りたければ、パン屋は法的にそのレシピを教える義務がありました。これがコピーレフト（GPLライセンスなど）の約束でした。「あなたはケーキを受け取ることができるが、もしそのコピーを販売するなら、必ずレシピも公開しなければならない」というルールです。
これは、レシピ（ソースコード）とケーキ（最終的なプログラム）の間に、明確な一対一の結びつきがあったからこそ成立していました。レシピに従えば、全く同じケーキが出来上がるからです。
AIが抱える問題：
今日のAIモデル（そして将来の超知能AGI）は、巨大で目に見えない機械によって焼かれたケーキのようなものです。
- レシピが欠落している： たとえパン屋がコードをくれたとしても、「ケーキ」（AI）は、特定の材料（学習データ）、オーブンの正確な温度（ハードウェア）、ランダムな攪拌の順番（乱数シード）、そして特定のブランドの小麦粉（ソフトウェアツール）にも依存しています。
- 結果が予測不能である： もし同じコードを使って、少し違う小麦粉や違うオーブンで再びケーキを焼こうとしたとしても、出来上がるのは「別のケーキ」です。手元にあるケーキが、提示されたレシピ通りに作られたものかどうかを検証することができません。
- 「魔法の書き換え」： スマートなAIアシスタントは、「レシピ」（GPLコード）を見て、それを瞬時に別のレシピへと書き換えることができます。それは、元のレシピと同じ働きをするものの、「これは自由なもの（MITライセンス）だ」と主張できる新しいレシピです。これは、まるで模倣者が絵画を完璧にコピーしてしまい、元のアーティストがそれがコピーであることを証明できなくなるようなものであり、オープンソフトウェアを保護してきた従来の法的ルールを破壊してしまいます。
論文による解決策：
著者である服部正幸氏は、「レシピ」を共有するだけでは不十分であると主張しています。代わりに、私たちは**再現可能なビルド（Reproducible Builds）**を必要としています。
これは、単にレシピを共有することではなく、パンを焼くプロセス全体の**「時間を巻き戻した、完璧なビデオ録画」**を共有することだと考えてください。
- ゴール： もし、全く同じ材料、全く同じオーブンの設定、そして混ぜる工程の正確なビデオがあれば、あなたは、そのパン屋が売ったものと**ビット単位で同一の（bit-for-bit identical）**ケーキを焼くことができなければなりません。
- 新しいルール： 「オープンソースAI」とは、単に「コードを見せる」ことではありません。「私たちのコードとデータを使えば、私たちが得たのと全く同じ結果が得られることを証明する」という意味でなければなりません。
「再現可能なAI」のための7つのルール（AGI指向の再現可能なビルド）
論文では、これを実現するための7つの具体的な要件を提案しています。これらを簡単に説明します。
- すべての材料をリストアップする（完全な入力の列挙）： 単に「インターネットのデータを使った」と言うだけでは不十分です。正確なデータ、正確なコード、使用したコンピュータチップ、そして生成された正確な乱数をすべてリストアップしなければなりません。曖昧な記述は許されません。
- 完璧な製パンプロセス（決定論的なトレーニング・パイライン）： 同じ材料を使って2回実行したときに、必ず毎回全く同じケーキができるように、製パンマシンを設定しなければなりません。「今回は味が違うかもしれない」ということがあってはなりません。
- オーブンをロックする（検証可能なツールチェーン）： どのオーブンやツールが使われたかを正確に証明しなければなりません。もし特定の種類のコンピュータチップがケーキの味を変えてしまうのであれば、そのレシピを特定のチップに固定するか、あるいはどのチップの上でも同じように動作するようにツールを修正しなければなりません。
- 第三者のテイスター（第三者による証明）： ほとんどの人は、自分自身でケーキを丸ごと焼く余裕はありません。そのため、独立した「テイスター」（食品安全検査官のような存在）が必要です。彼らがレシピを受け取り、自分で焼いてみて、「はい、これは間違いなく同じケーキです」と確認する必要があります。
- 自己改善のログ（自己改善の軌跡の記録）： 将来のAIは、より良くなるために自らのレシピを書き換えるかもしれません。もしそうした場合は、自身に行ったあらゆる変更の、永久に改ざんできない日記を保持しなければなりません。ケーキがどのように進化してきたのか、その歴史を見る必要があるのです。
- 「自己チェック」のルール（再帰的な検証可能性）： これは最も難しい部分です。もしAIが自身のレシピを書き換えたとしても、その新しいレシピもまた、再現可能なケーキを生み出すことができなければなりません。検証する能力は、AIが自身を作り変えたとしても生き残り続けなければなりません。（論文では、これはまだ解決されていない大きな研究課題であると認めています）。
- 現実的であること（持続可能な経済モデル）： すべての小さなAIアプリに対して完璧な再現性を要求することは、現時点ではコストがかかりすぎます。まずは小さく重要なシステムから始め、技術が安価で高性能になるにつれて、これらのルールを段階的に追加していくべきです。
「連結」の問題：プロトコルか、プラットフォームか
論文は、AIシステムがどのように互いに通信するかについても考察しています。
- 旧来の方法（プラットフォーム）： 一つの会社が庭、門、そして小道をすべて所有している「囲い込みの庭」を想像してください。友人を訪ねたいときは、その会社の門を通らなければなりません。現在の多くのAIツールはこの仕組みで動いています。
- 新しい方法（プロトコル）： インターネットやメールのような「公共の道路システム」を想像してください。誰でも車（AIアシスタント）やガソリンスタンド（ツール）を作ることができ、それらはすべて共通の交通ルールに従って互いに通信できます。
著者は、AIがツールと通信するための「道路」（プロトコル）については、著作権法（コピーレフト）を用いるべきではなく、プロトコル・ガバナンスが必要であると主張しています。
- 例え話： **メール（SMTP）**を考えてみてください。誰もメールのプロトコルを所有していません。Gmail、Outlook、あるいはプライベートサーバーを使用しても、それらはすべて連携して動作します。ルールは中立です。
- 警告： もし一つの会社（例えば、Anthropicの「Model Context Protocol (MCP)」のようなもの）が、AIがツールとどのように会話するかというルールを支配してしまえば、その会社は「ゲートキーパー（門番）」になってしまいます。私たちは、これらのルールが特定の会社に所有されない、オープンな標準であるようにしなければなりません。そうすることで、AIツールが公平に競い合えるようにするためです。
結論
論文は、「第二の解放（AIがすべての人にコーディングの力を与えるという考え）」は、もしAIツール自体がブラックボックスであるならば、それは罠であると結論づけています。
- 第一の解放： 私たちにコード（レシピ）を与えました。
- 第二の解放： 検証可能なプロセス（レシピが実際にケーキを作るという証明）を与えなければなりません。
もし再現可能なビルドがなければ、私たちは自由なのではなく、単に「AIが嘘をついていない」と信じているだけなのです。それは自由ではなく、信仰です。そして、超知能AIの未来においては、私たちは信仰ではなく、事実を必要としているのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。