Versioned Governance for Frontier AI: A Software-Engineering-Inspired Approach
本論文は、規範的ポリシーの「サイレント・ドリフト（静かなる乖離）」に対処するため、粒度の高いバージョニング、分類された変更履歴、および明示的なロールバック・メカニズムを提唱することで、透明かつ監査可能で、規制上の受容性を備えたポリシーの進化を保証する、ソフトウェア工学に着想を得たAIガバナンスのフレームワークを提案するものである。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
強力な人工知能システムを管理するルールが、ウェブサイトの利用規約や工場の安全マニュアルのように、公開文書として書き記されている世界を想像してみてください。これらの文書は、AIが何をすることを許可され、何をすることを拒否しなければならないのか、そしてその開発者がどのように安全性を保つと約束しているのかを私たちに伝えます。これらのシステムを構築している人々にとって、ルールは静的なものではありません。テクノロジーの進化に伴い、ルールは絶えず変化します。今日安全に見えたルールが、明日には強化が必要になるかもしれません。あるいは、新しい能力の登場によって、全く新しい許可が必要になることもあるでしょう。問題は、これらの変更が行われる際に、何が変更されたのか、なぜ変更されたのか、そして誰にその変更を行う権限があったのかという明確な公開記録がない場合に発生します。このような明確な履歴の欠如は、時間の経過とともにルールが静かに漂流（ドリフト）していく状況を生み出します。ジャーナリストや裁判官、あるいはその技術を利用しようとしている企業といった外部の人間は、文書内のある一文が単に文法を整えるためのものだったのか、それともAIに許可される境界線を根本的に変えてしまったものなのかを判別することができません。
この沈黙は、社会がこれらのシステムに信頼を寄せるために必要な信頼関係を損なうため、危険です。もし裁判所が昨年起きた出来事を判断する必要がある場合、彼らは現在のルールではなく、その時点でルールが正確にどうであったかを知る必要があります。もしある企業が6ヶ月前のポリシーに基づいて安全性を証明していたなら、そのポリシーが今も同じ意味を持っているかどうかを知る必要があります。現在、これらの文書の更新方法は、しばしばこのような明快さを提供することに失敗しています。変更は実際に起きていますが、その記録は欠落しているか、あるいは混乱を招くものです。これにより、研究所の外にいる人々は、自分が利用したり規制したりしているテクノロジーを支配しているルールの真の性質について、推測せざるを得ない状況に置かれています。
研究者のZhixin Xueは、この問題を検討し、ソフトウェアエンジニアがコードを管理する方法から着想を得た解決策を提案しました。コンピュータプログラミングの世界では、開発者がプログラムを更新する際、あらゆる変更を追跡するための厳格なシステムを使用します。彼らは、変更がどの程度重要であるかをユーザーに正確に伝えるためにバージョン番号を割り当てます。「メジャー（major）」番号の変化は、大規模で、潜在的に互換性のないアップデートを意味します。「マイナー（minor）」番号の変化は、旧システムでも動作する新機能の追加を意味します。そして「パッチ（patch）」番号は、小さな修正を意味します。彼らはまた、何がどのように変わったのか、そしてなぜ変わったのかを説明する詳細なログも保持しています。Xueは、人工知能を管理する文書も、これと同じレベルの規律を持って扱われるべきだと主張しています。単に文脈なしに新しいバージョンのポリシーを掲示するのではなく、研究所はすべての変更を分類し、その理由を説明し、不変の永続的な履歴を保持する構造化されたシステムを使用すべきであると述べています。
このアプローチが必要であるかどうか、そしてそれがどのように機能し得るかをテストするために、Xueは2019年から2025年の間にフロンティアAIシステムを管理している5つの主要なルールセットを調査しました。これらには、OpenAIの利用ポリシーとモデル仕様、Anthropicの責任あるスケーリングポリシー、欧州連合の人工知能法（AI Act）、および米国国立標準技術研究所（NIST）のリスク管理フレームワークが含まれます。研究者は、これらの文書が時間の経過とともにどのように改訂されたかを分析し、このような規律ある追跡の兆候を探しました。その結果、これらの文書のいくつかはバージョン番号や変更履歴のリストを使用し始めているものの、システムの最も重要な部分が欠落していることが判明しました。具体的には、変更がルールの大きな転換なのか、単なる微細な明確化なのかを説明している文書はほとんどありませんでした。また、変更が間違いであった場合に、それを元に戻す（ロールバックする）ための明確なメカニズムも欠いています。
この分析により、著者が「サイレント・ドリフト（静かなる漂流）」と呼ぶパターンが明らかになりました。調査された現実世界の例では、ルールの最も重大な変更は、多くの場合、より強力な新しいAIモデルの公開といった突然の外部的事象に応じて発生していました。しかし、これらの変更に関する文書化は追いついていませんでした。存在する変更リストは、多くの場合、単なる平易な言葉による要約であり、何が起きたかは記述していても、その変更の重要性を分類していませんでした。これにより、読者はその変更が軽微なものか重大なものかを推測することを強いられます。さらに、調査対象となった5つの文書のいずれにも、ポリシーの変更が問題を引き起こした場合に、それを取り消すための正式な方法が含まれていませんでした。政府や国際機関による法律や基準は、民間企業よりもバージョンの追跡には優れていましたが、適応の速度は遅く、変更を取り消すための具体的なメカニズムも欠いていました。
本論文は、解決策は全く新しい法律や制度を考案することではなく、どの研究所でも即座に使用できる、具体的で軽量なフレームワークを採用することであると示唆しています。このフレームワークは、ポリシー文書が更新されるたびに、著者が4段階のシステムを用いて変更の種類を宣言することを要求します。それは「メジャー（major）」、「マイナー（minor）」、「パッチ（patch）」、または「ビルド（build）」です。「メジャー」な変更とは、許可または禁止される事項の根本的な境界を変更するものとします。「マイナー」な変更とは、核となる原則を変えることなく、新しいシナリオや手順を追加することとします。「パッチ」とは、意味を変えない明確化や修正のことです。「ビルド」とは、特定の地域やグループ向けに適応させたバージョンです。この分類とともに、更新には変更を説明する詳細なログと、必要に応じて変更を元に戻すための計画が含まれなければなりません。
決定的なことに、本論文は、変更の誤分類という行為自体を「記録されるべきイベント」として扱うべきだと主張しています。もしある研究所が、ある変更を単なる小さな「パッチ」であると主張したが、後に監査官や規制当局が、それが実際にはルールの「メジャー」な転換であったと判断した場合、その誤りは公的にログに記録されなければなりません。これにより、変更の真の性質を隠すことに対するレピュテーション・コスト（評判への代償）が生じます。研究では、ソフトウェアエンジニアがこれらの厳格なバージョニング・ルールを完璧に守れないこともあるが、規律は、間違えた場合に結果が伴うときに最も効果を発揮すると指摘されています。変更の分類を公的で監査可能な主張とすることで、このフレームワークは「サイレント・ドリフト」を可視化し、説明責任を持たせることを目的としています。
調査結果は、この問題を解決するためのツールはすでにソフトウェア業界に存在しているが、AIを管理する文書には十分に適用されていないことを示しています。そのギャップは、技術的な能力の欠如ではなく、インセンティブと規律の欠如です。研究は、AIシステムがより強力になり、そのルールがより頻繁に変更されるようになるにつれ、それらのルールの明確でバージョン化された履歴が必要不可欠になる、と結論づけています。それなしでは、これらの強力なシステムを管理するルールは不透明なままであり、信頼することは困難です。構造化されたアプローチがあれば、変更を透明化でき、規制当局、裁判所、そして一般の人々が、ルールがどのように進化してきたかを正確に理解し、作成者が下した決定に対して責任を問うことができるようになるのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。