The Case for ESM3 as a General-Purpose AI Model with Systemic Risk Under the EU AI Act
本論文は、EU 人工知能法の下で二重用途の生物リスクを軽減するため、ESM3 などの生物学的基盤モデルはシステムリスクを伴う汎用人工知能モデルとして規制されるべきであると論じる一方、現行の立法における曖昧さにより実質的な対象となっていないことを指摘し、著者らはこの規制の隙間を埋めるための具体的な救済措置を提案する。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
以下は、平易な言葉と日常的な比喩を用いた、この論文の説明です。
全体像：穴の開いた安全網
欧州連合（EU）が、**EU 人工知能法（EU AI Act）**という巨大でハイテクな安全網を構築したと想像してください。この網の目的は、社会に深刻な害を及ぼす可能性のある強力な AI システム（生物兵器の作成を助けるようなものなど）を捕捉し、その作成者に安全対策の導入を義務付けることです。
この論文の著者たちは、この網に穴が開いていると指摘しています。彼らは、ESM3という非常に強力な新しい AI ツールが、その隙間をすり抜けていると主張しています。ESM3 は理論的には悪意のある行為者が危険な生物学的因子を設計しやすくする可能性がありますが、現在の規則ではそれを捕捉できていないようです。
ESM3 とは：タンパク質の「巨匠シェフ」
この問題を理解するには、まずそのツールを理解する必要があります。
- ESM3 とは何か？ タンパク質を、生命を機能させる「材料」や「機械」と考えてください。ESM3 は、レシピ（タンパク質の配列）、料理の形（その構造）、そして料理の働き（その機能）を見て、巨匠シェフのように振る舞う AI です。
- 何ができるのか？ ESM3 に部分的なレシピや、調理したい料理の説明を与えると、それは「空白を埋めて」、完全に新しい機能を持つタンパク質を「発明」できます。これは驚くほど高速で行われ、人間の研究室が 1 つをテストする間に、コンピュータ内で何千ものバリエーションをテストすることができます。
- リスク： 巨匠シェフが偶発的に有毒な料理を作ってしまうように、悪意のある行為者が ESM3 を使って、新しい危険なウイルスや細菌を設計できる可能性があります。この論文は、ESM3 がそのような兵器を作るための手順を、はるかに容易かつ迅速にするものだと主張しています。
規制の「盲点」
EU 人工知能法には、特定の規則があります。もし AI が**「汎用人工知能（GPAI）」であり、「システムリスク」**を持つ場合、作成者は厳格な安全規則に従わなければなりません。
しかし、著者たちは、ESM3 が現在の規則に対して見えない存在になっていることを発見しました。それは、2 つの混乱を招く要因によるものです。
1. 「言語」の罠（法の文言）
法律は、「汎用人工知能」を、非常に賢く多様なタスクを実行できるものとして定義しています。それを補うガイドライン（法の「取扱説明書」）は、これらのタスクの例として、テキストの作成、テキストからの画像生成、または発話を挙げています。
- 問題点： ガイドラインは、「汎用」であるためには、AI が人間の言語（英語やフランス語など）を話さなければならないと示唆しているように見えます。
- 抜け穴： ESM3 は人間の言語を話しません。それは「タンパク質言語」（アミノ酸配列）を話します。そのため、あなたとチャットしたり、エッセイを書いたりしないため、現在の規則は「ああ、これは汎用人工知能ではない。単なる専門ツールだ」と言います。したがって、厳格な安全規則に従う必要がありません。
2. 「計算資源」の閾値（サイズ制限）
法律はまた、AI が大量の計算資源（具体的には回の演算以上）で訓練された場合、自動的に危険とみなされると定めています。
- 問題点： ESM3 は巨大ですが、その魔法の数字（）よりもわずかに少ない資源で訓練されました。そのため、自動的な「危険」トリガーにも引っかかりません。
「バイオリスク連鎖」の比喩
この論文は、バイオリスク連鎖という概念を使用しています。生物兵器を作ろうとする悪意のある行為者を、高セキュリティな銀行に侵入しようとする泥棒に例えてみましょう。彼らは長い手順リストを完了しなければなりません。
- 銀行強盗を決意する。
- 経路を計画する。
- 施錠を解く。
- 金庫を開ける。
- 逃走する。
この論文は、ESM3 が（施錠を解くことや金庫を開けることなどの）これらの手順のいくつかを、はるかに容易にするスーパーツールとして機能すると主張しています。たとえすべての手順を行うわけではないとしても、いくつかのステップを容易にすることだけで、泥棒が成功する確率は高まります。ESM3 はオープンソース（無料でダウンロード可能）であるため、限られたリソースを持つ小さなグループでさえもそれを利用できます。
なぜこれが重要なのか
著者たちは、ESM3 が「汎用人工知能」の厳密な定義（人間の言語を話さないため）に当てはまらないため、規制されていないことを懸念しています。これは、それを作った会社が、悪意のある人々が兵器を作るためにそれを利用するのを防ぐための安全対策を証明する必要がないことを意味します。
提案される解決策
この論文は、安全網の穴を塞ぐ 4 つの方法を提案しています。
- 「汎用」の再定義： EU は、「汎用」には人間の言語だけでなく、生物学のような複雑な分野のいずれかにおいて熟達した AI も含まれると公式に宣言できるかもしれません。
- ガイドラインの更新： 法の「取扱説明書」を書く人々は、生物学的モデルを含むように規則を変更できるかもしれません。
- 法の改正： システムリスクに対して規制されるために AI が「汎用」である必要があるという要件を削除するために、法律を書き直すことができます。
- 輸出管理： AI ソフトウェア自体を、自由に輸出したり共有したりできない危険な物理的兵器と同様に扱うことです。
結論
この論文は、ESM3 は現在、レーダーに映っていないと結論付けています。それは（生物兵器の作成の障壁を下げることで）甚大な害を及ぼす力を持っていますが、現在の EU の規則は、それを捕捉するには「人間の言語」を扱う AI に焦点が当たりすぎています。著者たちは、強力な生物学的ツールが他の危険な AI システムと同じ安全基準に縛られるよう、EU がこれらの定義を修正するよう促しています。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。