AI Security Priorities: A Field-Wide Agenda
本論文は、AIの導入がセキュリティの準備状況を上回るペースで進む中で、AIシステムおよびインフラストラクチャの保護に向けた協調的な投資と行動を導くために、専門家へのインタビューとワークショップから導き出された4つの主要なテーマに整理された、優先順位付けされたマルチセクターのアジェンダを提示するものである。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
コンピュータの世界を、活気に満ちた巨大な都市だと想像してみてください。何十年もの間、この街を築いてきた人々は、建物をより高く、道路をより速くすることに注力してきました。彼らは、問題を解決し、物語を書き、データを整理するための強力なツールを作り出してきました。しかし最近、彼らは新しいものを作り始めました。それは、単に命令に従うだけでなく、次に何をすべきかを自ら考え、道具を掴み、街の中を自律的に歩き回ることができるロボットです。これらは「AIエージェント」と呼ばれています。
問題は、この街の警備員たちが、まだ10年前の制服を着ていることです。彼らはドアに鍵をかけたり、バールを使って泥棒を止めたりする方法は知っていますが、鍵を開けたり、警備員を騙してゲートを開けさせたり、あるいはあなたが眠っている間に街の設計図を書き換えたりするようなロボットへの備えはできていません。この論文は、ある専門家グループ――これらのロボットを作る人々、街を守る人々、そしてルールを作る人々――が、ロボットが賢くなるスピードと、私たちがそれらを守る方法を学ぶスピードの間に、危険なほどの開きが生じていることに気づいたことを伝えています。彼らは、ロボットが制御不能になる前に、街の安全を守るために具体的に何をすべきかを解明するために集まりました。
「AI Security Priorities: A Field-Wide Agenda（AIセキュリティの優先事項：分野横断的なアジェンダ）」と題されたこの論文は、本質的には、世界中の20人以上の専門家によって作成された、巨大な「ToDoリスト」です。彼らは単に推測したわけではありません。リーダーたちにインタビューを行い、ワークショップを開催し、アイデアを「重要性」と「費用対効果（投資に対するリターン）」という2つの基準に基づいてランク付けしました。彼らは、もはやソフトウェアの穴を塞ぐ（パッチを当てる）だけでは不十分であり、セキュリティに対する全く新しい考え方が必要であることを見出しました。
彼らの発見を、この街の4つの主要なエリア（近隣地域）に分けて説明します。
1. 市役所エリア（戦略とルール）
専門家たちは、AIセキュリティを単なる些細なITの問題として扱うのではなく、国家防衛の問題として扱うべきだと主張しています。彼らは、政府が明確な「抑止戦略」を持つ必要があると提案しています。これは、フェンスに「もし我々のロボットの脳を盗もうとするなら、我々はそれを察知し、激しく反撃する」と書かれた看板を立てるようなものです。現在、悪党たちは、ルールが曖昧であるために、何の代償もなしにこれらの強力なAIモデルを盗めるのではないかと考えているかもしれません。また、論文は「共通の辞書」が必要だとも述べています。現在、あるグループは問題を「安全性（safety）」と呼び、別のグループは「セキュリティ（security）」と呼んでおり、これが混乱を招いています。正しい壁を築くためには、全員が同じ言語で話す必要があります。最後に、彼らは巨大な図書館（リソースハブ）を求めています。そこでは、誰もがAIを保護するための最高のツールやガイドを見つけることができ、全員が同じ作業をゼロからやり直す必要がなくなります。
2. 近隣監視隊（官民連携）
最も強力なAIロボットは少数の民間企業によって作られていますが、それらに対する脅威は国家規模からやってきます。それは、小さな近隣監視隊が外国の軍隊を阻止しようとしているようなもので、彼ら単独では不可能です。論文は、政府とこれらの企業が協力する必要があると示唆しています。政府は企業が見ることのできない悪党に関する機密インテリジェンスを持っており、企業は守られるべきロボットを持っています。彼らは、スパイがセキュリティ・クリアランスを得るのと同様に、これらのロボットに携わる人々に対して特別な「許可証」を作成することを提案しています。これにより、内部の人間が敵のために働いていないかを確認できます。また、企業が攻撃を受けた際に、トラブルになることなく物語を共有できる専用のホットラインも求めています。これにより、もし一つの会社がハッキングされた場合、他のすべての会社が即座に修正方法を知ることができます。
3. エンジニアリング・ワークショップ（技術的セキュリティ）
ここは実際の構築が行われる場所です。論文は、現在のツールでは不十分であることを指摘しています。彼らは「コンフィデンシャル・コンピューティング」の使用を提案しています。これは、AIの脳を、AI自身しか中を見ることができない超強力で壊れないガラスの箱の中に閉じ込めるようなものです。たとえハッカーが建物に侵入したとしても、その箱の中を覗き見てロボットの秘密を盗むことはできません。また、AIを使ってより優れたコードを書くことも求めています。スマートなロボットが、人間よりも先に自らの間違いを見つけ出すことを期待しています。もう一つの大きなアイデアは「レッドチーミング」です。これは、プロの泥棒を雇ってシステムへの侵入を試みさせるようなものです。論文は、本物の悪党が現れる前に、我々の防御をテストするために、外国政府のように考える「最高の泥棒」を雇う必要があると述べています。
4. ロボット管制室（エージェンティックAIの統治）
これは最も未来的な部分です。ロボットが（電力網を管理したり、お金を動かしたりするなど）自律的に行動し始めるにつれ、新しいルールが必要になります。論文は「許可フレームワーク」を提案しています。例えば、車を買おうとするロボットがいるとします。そのロボットは勝手に買うことはできず、「この車を買ってもいいですか？」と人間に尋せ、人間が「はい」と言わなければなりません。また、ロボットが（会社の資金をすべて見知らぬ人物に送るなど）特定の危険な行為を「数学的に不可能である」と証明することも必要です。論文は、もしこれらの具体的なコントロールなしにロボットを野放しにすれば、彼らが助けるはずのシステムそのものを、偶然に（あるいは意図的に）攻撃してしまう可能性があると警告しています。
結論
この論文は、すべてを解決したと主張しているわけではありません。実際、これは計画の最初の草案に過ぎないと認めています。専門家たちは、脅威の状況は急速に変化しており、今日有効なことが明日も有効であるとは限らないということを明確に述べています。しかし、もし私たちが今、これらの18の優先事項（ルールを築き、秘密を共有し、技術を強化し、ロボットを制御すること）に取り組めば、状況を自分たちに有利に傾けることができると確信しています。彼らは、これらの強力なツールが成長していく過程で、それらが作られた街にとっての脅威となるのではなく、安全で、セキュアで、すべての人にとって役立つものであり続けるようにしたいと考えています。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。