Qualifying and Quantifying Risk under the EU AI Act
本論文は、EU AI法における基本的人権への定性的焦点と、その定量的なリスク定義を調和させるための「深刻度優先」の二段階フレームワークを提案すると同時に、リスクの定量化をプロバイダーに委ねることは「リスク・ハッキング」や規制上の過小分類を可能にする可能性があると警告している。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
あなたは、ロボットが至る所に存在する、活気ある未来都市の市長であると想像してください。あるロボットは、あなたのお気に入りのパンの設定を学習するトースターのように無害です。また別のロボットは、ロボット判事や公園で顔をスキャンするドローンのように強力です。あらゆる都市のリーダーにとっての大きな問いは、「新しい素晴らしい発明を止めることなく、どうすれば全員の安全を守れるか？」ということです。これは「リスク規制」と呼ばれる分野の核心です。それは、悪いことが起こる可能性（確率）と、もしそれが起きた場合にどれほどひどいことになるか（深刻度）を判断する技術です。通常、リーダーたちは素早い計算問題を行おうとします。つまり、事故の確率に事故のひどさを掛け合わせるのです。その数値が小さければ、「大丈夫だ！」と言います。しかし、もしその「悪いこと」が、プライバシーや自由を失うことのように、簡単に数えられないものだったらどうでしょう？ そこが非常に難しいところです。もし人権に値札をつけることができないとした래、どうやって計算すればよいのでしょうか？ これは、人工知能（AI）に関する規則を作ろうとしている欧州連合（EU）が直面しているまさにこのパズルです。
ドイツと米国の研究者によって書かれたこの論文は、AIシステムを3つのバケツ、「禁止（No Go）」（禁止）、「高リスク（High Risk）」（厳格なルールが必要）、「最小リスク（Minimal Risk）」（自由に行動可能）に分類するように設計された大規模な法律、EUの新しい「AI法」を掘り下げています。著者らは、この法律の中に奇妙な緊張関係があることに気づいています。一方で、法律はリスクを数学の方程式、すなわち「確率 × 深刻度」として定義しています。その一方で、法律は「基本的権利」（尊厳、プライバシー、公平性など）を守ろうとしていますが、これらは通常、特別な、数値化できない価値として扱われます。あなたは「尊厳」をドルやパーセンテージで測定することはできません。著者らは、もし私たちがこれらの複雑な人権に対して単純な数学的公式を強制しようとすれば、企業がシステムを操作する可能性があると示唆しています。彼らは、危険なロボットを安全に見せるために数値を微調整する、このトリックを「リスク・ハッキング」と呼んでいます。
では、著者らは何を提案しているのでしょうか？ 彼らは、この問題を、まるで2ステップのダンスのように捉える新しい方法を提案しています。ステップ1は、ロボットの目的を見て、「それが引き起こし得る害が、たとえそれがどれほど頻繁に起こるかに関わらず、基本的権利を損なうほど深刻なものか？」と問うことです。これが、彼らが「深刻度優先（severity-first）」と呼ぶアプローチです。これは、クラブの用心棒が、喧嘩が起きる可能性がどれほどあるかには関心を持たず、もしその人物が手榴弾を持っていたら（高い深刻度）、たとえ一度もそれを投げたことがなくても、即座に立ち入りを禁止するようなものです。ステップ2は、状況の「数学」を見ることです。その害がどの程度起こりやすいのか？ そして、そのロボットを止めるためのコストはいくらなのか？
この論文は、EU AI法は、たとえ明文化されていなくても、すでにこの「深刻度優先」の論理を実際に使用していると主張しています。例えば、この法律は特定のAIの使用（職場での感情読み取りなど）を禁止していますが、それは、たとえそれが起こる確率が低かったとしても、プライバシーに対する潜在的な害があまりにも高すぎるためです。著者らは、規制当局はこの順序を守るべきだと示唆しています。つまり、まず深刻度を確認し、それから確率を心配することです。もし企業自身に数学を決定させてしまえば、彼らは「壊滅的な」事象の「低い確率」は実は「低リスク」であると主張しようとし、その結果、危険なAIが隙間から滑り込んでしまう可能性があります。どのように悪い影響が起こり得るかにまず焦点を当てることで、有用なテクノロジーの成長を許容しながら、同時に人権を守ることができるのです。この論文は、あらゆる数学的問題を解決したと主張しているわけではありませんが、「リスク・ハッキング」を防ぎ、ルールが実際に人々のために機能するようにするための明確なロードマップを提示しています。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。