"Abuse Risks are Often Inherent to Product Features": Exploring AI Vendors' Bug Bounty and Responsible Disclosure Policies
本論文は264社のAIベンダーの脆弱性開示ポリシーを分析しており、多くの企業が明確なガイドラインを欠いているか、あるいはジェイルブレイク（脱獄）やハルシネーション（幻覚）といった極めて重要なAI特有のリスクを明示的に除外していることを明らかにし、3つの異なるベンダープロファイルを特定するとともに、現在の業界の実践と現実世界のAIインシデントの緊急性との間にある重大な乖離を浮き彫りにしている。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
人工知能（AI）の世界を、新しい魔法の道具を日々作り上げている、活気あふれる巨大な都市だと想像してみてください。物語を書ける道具もあれば、病気を診断できるもの、さらには車を運転できるものもあります。しかし、新しいテクノロジーには、その土台に「ひび割れ」——つまり脆弱性（Vulnerabilities）——が存在します。
通常のソフトウェアツールが壊れたときには、それを修正するための確立されたシステムがあります。それが**バグ・バウンティ・プログラム（バグ報奨金制度）**です。これは「指名手配ポスター」のようなものだと考えてください。企業は、誰かが壁に穴を見つけたときに、泥棒が忍び込むのではなく、そのことを知らせてくれるよう、報酬（お金）を提示します。
この論文は、AI企業がこれら新しい種類の「魔法の道具」のひび割れに対処するために、どれだけ適切にこれらの「指名手配ポスター」を掲げているかを示す成績表です。エディンバラ大学の研究者たちは、264社の異なるAI企業を調査し、彼らがこうした新しい種類のひび割れに対処する準備ができているかどうかを確認しました。
以下に、その結果を分かりやすくまとめています。
1. 「沈黙する多数派」と「不在」
研究者によると、36%のAI企業は「指名手配ポスター」を全く掲げていませんでした。
- 比喩： お店の前に行き、「ねえ、ドアが開いたままですよ」と店主に伝えようとしたら、店主はポストも電話番号も持っておらず、「ここに問題を報告してください」という看板すら掲げていない状況を想像してみてください。誰に伝えればいいのか推測するか、最悪の場合、無視されるかもしれません。
- 現実： これらの企業のうち、明確に「AI特有の問題に関する報告を受け付けます」と述べているのはわずか**18%**でした。残りの企業は、AIについて一切触れていない一般的なルールを持っているか、完全に沈黙しています。
2. 何を「バグ」と見なすのか？（スコープ）
この論文は、企業がどのような「バグ」に対して報酬を支払う価値があると考えているか、非常に厳格な線引きをしていることを明らかにしました。
- 「支払います」リスト（イン・スコープ）：
- 比喩： もし誰かがあなたの鍵を盗んだり、鍵を壊したり、銀行の金庫に忍び込んだりしたら、それは犯罪です。
- 現実： 企業は、データの窃盗、システムへの侵入、あるいは秘密のAIモデルのコピーなどに対しては、喜んで報酬を支払います。これらは伝統的なセキュリティ上の犯罪であり、それがAIの中で起きているだけです。
- 「我々の問題ではありません」リスト（アウト・オブ・スコープ）：
- 比喩： もしロボットに詩を書かせたら、そのロボットが誤って失礼な内容を書いてしまったり、あるいは「幻覚（ハルシネーション）」を起こしてデタラメを言い始めたりした場合、企業はこう言います。「それは単にロボットの思考プロセスであり、壊れた鍵（バグ）ではありません」。
- 現実： 企業は頻繁に、ジェイルブレイク（脱獄）（AIを騙してルールを破らせること）、ハルシネーション（AIが嘘をつくこと）、あるいは有害な出力（AIが悪口を言ったり嘘を広めたりすること）に関する報告を拒否しています。彼らはしばしば、これらを「製品固有の機能」であり、バグではないと主張しています。
3. 3つのタイプのAI企業
研究者たちは、264社を3つの異なる「性格」に分類しました。
- 🌟 プロアクティブな明確化型 (17%)：
- 正体： Google、Microsoft、Metaのような大手プレイヤーです。
- 行動： 「何を支払うのか、何には支払わないのか、そして報酬はいくらなのか」を明確に示す看板を掲げています。彼らは、AIのテストを安全に行うための特別なガイドまで用意しています。彼らはAIのバグを、深刻かつ独立したカテゴリーとして扱っています。
- 🤐 沈黙型 (44%)：
- 正体： 主にAIを利用しているアプリ（カスタマーサービス用のチャットボットなど）です。
- 行動： 「指名手配ポスター」は持っていますが、それは旧来のソフトウェア向けに書かれたものです。AIについては一切触れていません。もしAIのバグを見つけたとしても、彼らはそれが報酬の対象になるのか、どのように判断されるのかを教えてはくれません。それは、店長が奥の部屋にいて、外に出てきて話そうとしない店に入るようなものです。
- 🚫 制限型 (39%)：
- 正体： 小規模なベンダーや、手間を避けたい企業です。
- 行動： 連絡手段が全くないか、あるいは明確に「AIのバグ報告は受け付けません」と述べています。「もし私たちのAIを壊そうとしたら、報酬は支払いませんし、むしろ怒るかもしれません」と言っている場合もあります。
4. 「ラグ（遅れ）」の問題
論文は、業界の反応における顕著なタイムラグを発見しました。
- 比喩： 研究室の科学者が、新しいタイプの橋が不安定であることを発見した（学術研究）とします。次に、人々がその橋から落下し始めます（現実世界の事故）。そして数年後、ようやく橋の会社が安全マニュアルを更新し、「はい、この橋は不安定です。そして、報告する方法は以下の通りです」と記載します（ベンダーのポリシー）。
- 現実： 学術研究者は何年も前からAIの弱点を研究してきました。現実世界でのAIによる事故も長い間発生しています。しかし、AI企業がこれらの特定の問題を認める公式のルールを更新し始めたのは、ようやく今（主に2023年や2024年）のことです。彼らの反応は、研究者や実際の事故よりも遅れています。
5. 大きな断絶
一般の人々が懸念していることと、企業が重視していることの間には、ミスマッチが存在します。
- 大衆の恐怖： 人々は主に、AIが悪口を言ったり、嘘を広めたり（誤情報）、偏見を持ったり（差別）することを心配しています。これらは「コンテンツ・セーフティ（内容の安全性）」の問題です。
- 企業の焦点： 企業は主に、ハッカーがコードやデータを盗むといった「テクニカル・セキュリティ（技術的セキュリティ）」の問題を心配しています。
- 結果： もしあなたが「AIがヘイトスピーチを広めている」と報告しても、企業は「それはセキュリティ・バグではなく、セーフティの問題です。それに対しては支払いません」と言うかもしれません。しかし、もし「ハッカーがAIの脳を盗んだ」と報告すれば、彼らは多額の報酬を支払うでしょう。
まとめ
この論文は、AI業界が急速に成長している一方で、その「安全網（バグ・バウンティ・プログラム）」はまだ編み上げられている最中であると結論付けています。多くの企業はまだ編み始めてさえおらず、編み始めている企業も、主に「泥棒を捕まえること」に集中しており、「AIが失礼だったり間違っていたりすること」を直すことには注力していません。研究者たちは、AIが真に安全であるためには、企業がこれらの「失礼なAI」の問題を単なる「機能」として扱うのをやめ、報告し修正すべき「バグ」として扱う必要があると示唆しています。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。