人工知能に関する議論は、しばしば一つの二元的な問いで行き詰まっているように感じられます。それは、最も強力なコンピュータの脳は、企業のウェブサイトを通じてのみアクセス可能な、鍵のかかった扉の背後に保管されるべきか、それともその仕組みが誰でもダウンロードして研究できるように公開されるべきか、という問いです。この論争は、モデルの公開を「オープン」か「クローズド」かという単純な選択肢として扱っています。しかし、これらのシステムの現実ははるかに複雑です。子供にアルファベットを教えるために設計されたAIは、複雑な軍事戦略を立案したり、金融市場を操作したりできるシステムとは根本的に異なります。一方のシステムがもたらす危険は、他方がもたらす危険とは同じではありません。もし両方に同じルールを適用すれば、何百万人もの人々に教えるためのツールを封じ込めてしまうか、あるいは、望む者なら誰にでも危険な武器を渡してしまうかのどちらかになってしまいます。社会にとっての核心的な課題は、単に機械がどれほど賢くなれるかを決めることではなく、誰がその知能を使用できるのか、そしてどのような条件下で使用できるのかを決めることです。

2026年9月、SAFE AI財団のトゥ・チャイ・K（Chai K. Toh）とヴァス・ラージ・ジェイン（Vasu Raj Jain）の研究者は、この問題に対する新しい考え方を提案しました。彼らは、現在の議論が決定的な区別を見落としていると主張しています。それは、システムの「能力」と、誰がそれに「アクセスできるか」の違いです。モデルをオープンにするかクローズドにするかを問う代わりに、彼らは、そのマシンが実際に何を行うのか、そしてそれが失敗した場合にどれほどの危害を及ぼし得るかに基づいて、アクセスの分類を行うべきだと示唆しています。彼らはこれを「マルチティアAIアクセシビリティ・モデル（多層的AIアクセシビリティ・モデル）」と呼び、異なる種類の車両や化学物質のリスクに基づいて規制するのと同様に、人工知能を3つの明確なレベルに整理するシステムです。

第一のレベルは、著者らが「学習用AI（AI for Learning）」と呼ぶもので、教育や基礎的なリテラシーのために設計されています。これらは、テクノロジーの使い方、コードの書き方、あるいは世界の理解の仕方を学生に教えるためのシステムです。危害を及ぼす可能性が低いため、これらのモデルは可能な限りオープンであるべきです。誰もが、自分が誰であるかを証明することなく、それらをダウンロードし、研究し、使用できるべきです。研究者たちは、これらのシステムは意図的にその能力を制限すべきであると提案しています。教訓を伝えるために、現存する最も強力なコンピュータである必要はないからです。これらの学習ツールの能力を設計によって限定しておくことで、社会は危険なシステムを誤って解き放してしまうリスクを負うことなく、オープンなアクセスの恩沢を享受できるのです。

第二のレベルである「探索用AI（AI for Exploration）」は、新しいアプリケーションを構築したり、科学的なアイデアをテストしたりする必要がある研究者、開発者、企業といった異なるグループに供されます。これらのシステムは学習用ツールよりも強力ですが、まだ頂点には達していません。このティアへのアクセスは完全にオープンではありませんが、完全に閉ざされているわけでもありません。それはスライディング・スケール（段階的な仕組み）で機能します。このカテゴリーのより低出力なシステムは、一定のルールのもとで一般に公開される一方、より強力なものはユーザーに身元登録を求め、特定の利用規約への同意を必要とします。ここでの鍵となる概念は「説明責任」です。ツールの力が強くなるにつれて、それを使用する個人または組織は特定可能でなければなりません。もし何か問題が発生した場合、誰がそのシステムを使用していたかの記録があり、必要に応じてその使用を停止させる方法があるのです。

第三、かつ最後のレベルは、「フルスケール・フロンティアAI（Full-Scale Frontier AI）」です。これらは、高度な推論、自律的な計画、そして防衛、航空、あるいは重要インフラのようなハイリスクな分野で動作する能力を持つ、想像しうる限り最も強力なシステムです。研究者たちは、これらのシステムが、誰でもダウンロードして修正できるようなオープンなファイルとして公開されるべきではないと主張しています。強力なモデルが「重み（weights）」、つまりそれを機能させる数学的な指示セットとして公開されると、それを取り戻すことは不可能です。悪意のある行為者がそれをダウンロードすれば、安全装置を取り外したり、挙動を変更したり、あるいは自律的に行動するロボットに組み込んだりすることができます。元の開発者はすべての制御権を失います。したがって、これらのフロンティア・システムへのアクセスは、正当な必要性を持つ検証済みの組織に厳格に限定され、すべてのやり取りがログに記録され、監視されるべきです。目標はイノベーションを止めることではなく、最も危険な道具が、責任を負うことができる当事者によってのみ扱われることを確実にすることです。

この論文は、なぜこのような分離が必要なのかについて強力な証拠を提示しています。著者らは、AIに加えられる安全機能は往々にして表面的なものであり、非常に安価に取り除くことができると指摘しています。研究によれば、わずか数百ドルの計算資源と少量のデータがあれば、安全なオープンウェイト・モデルを取り込み、その安全ガードレールを剥ぎ取ることが可能であることが示されています。これは、開発者がモデルをリリースする前に安全であることを確認したとしても、ダウンロードされた瞬間に、その安全保証が消滅することを意味します。モデルは危険なものへと変貌させることができ、元の開発者はそれを止めることも修正することもできません。セキュアなインターフェースを通じて提供されるクローズドなシステムでは、開発者は使用状況を監視し、ルールを破ろうとする試みを検出し、即座にアクセス権を取り消すことができます。オープンなシステムでは、ファイルがダウンロードされた時点で、開発者はこれらのコントロール手段をすべて失ってしまうのです。

このシステムを機能させるために、研究者たちは特定のAIがどのティアに属するかを決定するための一連のルールを提案しています。彼らは、システムの「能力（capability）」、「人間が介在せずにどれだけ自律的に行動できるか」、「ミスが現実世界にもたらし得る結果の種類」、そして「システムが実際に何に使用されているか」という4つの主要な要因を検討することを提案しています。非常に賢いシステムであっても、詩を書くためだけに設計されていれば、より低いティアに留まります。しかし、もし少し能力の劣るシステムであっても、電力網を制御したり、生物学的製剤を設計したりするように設計されているならば、失敗の結果が極めて深刻であるため、より高いティアに配置されなければなりません。システムがどのティアに属するかという決定は、それらを構築する企業だけに委ねられるべきではありません。代わりに、独立した規制機関や安全研究所が証拠をレビューし、ティアを割り当て、ルールが公平かつ一貫して適用されるようにすべきです。

このアプローチは、2つの異なる安全境界を組み合わせたものです。第一の境界は、システムが到達できる能力に制限を設けるもので、著者らが「能力境界（Capability Boundary）」と呼ぶ概念です。これは、人間が制御できないシステムが構築されないよう、あらゆるAIの生の知能と自律性に天井を設定します。第二の境界は、「アクセシビリティ境界（Accessibility Boundary）」であり、これは本論文で導入された新しい概念です。これは、システムがその天井に近づくにつれて、使用を許可される人数は減り、使用ルールは厳格にならなければならないことを規定しています。もし天井（能力の限界）だけがあって、誰が登れるかのルールがなければ、最も危険な道具が誰の手にも渡ってしまう可能性があります。逆に、誰が使えるかのルールだけがあって、その力の天井がなければ、誰も扱うにはあまりに危険すぎるシステムへの制御されたアクセスを許してしまうことになるかもしれません。

研究者たちは、このシステムが完璧な解決策ではなく、それが機能するためには制度に依存していることを認めています。彼らは、強い意志を持った個人が強力なモデルを流出させる方法を見つけ出す可能性は依然としてあり、この枠組みが危険な技術の拡散を完全に阻止することはできないと認めています。しかし、彼らは、これがそのような拡散のコストと困難さを高め、悪意のある行為者が最も強力な道具を手に入れることをはるかに難しくすると主張しています。アクセスを明確なティアに整理することで、社会は学習や研究のためのオープンなAIの恩恵を維持しながら、最も強力なシステムのための安全なゾーンを確保できるのです。その結果、最も有能なマシンがすべての人から隔離されるのでもなく、また、すべての人に配られるのでもなく、それらを安全に使用するのに最適な人々や組織に適合される世界が実現します。