Empirically Derived AI Harm Profiles and the Case for Context-Sensitive Moral Responsibility

人工知能はもはや遠い未来の約束ではなく、私たちの安全、仕事、プライバシー、そしてサービスへのアクセスに影響を与える決定を下す日常の現実となっています。これらのシステムが機能するとき、それらは私たちの生活を効率化します。しかし、それらが失敗するとき、その結果は身体的な負傷から市民権の剥奪に至るまで、深刻なものになり得ます。長年、専門家たちは公平性、透明性、安全性といった広範な倫理原則を用いて、これらの技術を統治しようと試みてきました。しかし、こうした抽象的な概念は、現実世界でAIが実際に使用される複雑で多様な方法に対して、具体的な規則へと変換することに苦慮することがよくあります。主要な課題は、異なる種類のAIが特定の状況下でどのように失敗するかを理解することでした。自動運転車が衝突することは、チャットボットが誤情報を拡散することや、顔認識システムが容疑者を誤認することと同じ種類の問題なのでしょうか。これに答えるため、研究者たちは、記録された失敗を単なる孤立した事故としてではなく、より深いパターンを明らかにする可能性のあるデータポイントとして捉え始めました。

カンバーランド大学の研究チームは、膨大な数の現実世界のAI事象を調査することで、それらのパターンを見つけ出そうとしました。彼らは、人工知能、アルゴリズム、およびオートメーションに関連する事象を追跡している「AIAAICリポジトリ」として知られる公開データベースから、849件の文書化されたAIの失敗事例を収集しました。研究者たちは、各事象をユニークな物語として扱うのではなく、その技術が何であるか、どこで使用されているか、本来何をすべきであったか、そしてどのような種類の害をもたらしたかに基づいて、それらの失敗がどのように集約されるかを分析しました。彼らの目的は、個々の事故の混沌を、規制当局や企業がより具体的で優れた監督規則を構築するのに役立つ、いくつかの明確なカテゴリー、すなわち「ハーム・プロファイル（危害の特性）」へと整理できるかどうかを確認することでした。

分析の結果、AIの失敗はランダムではないことが明らかになりました。それらは主に2つの構造的なテーマに集約される傾向があります。第一のテーマは、物理的な世界と直接相互作用するシステムと、主に情報を処理するシステムとの区別です。第二のテーマは、人間を特定・監視するために設計されたシステムと、コンテンツを生成するために設計されたシステムとの区別です。これらの関係をマッピングすることで、研究者たちは、物事がうまくいかないときに現れる3つの明確で繰り返されるプロファイルを特定しました。

第一のプロファイルは、研究者が「自律型または具現化されたAI（Autonomous or Embodied AI）」と呼ぶものです。これらは物理的な存在感を持ち、自動運転車やロボットのように直接的な物理的危害を引き起こし得るシステムです。データによれば、これらの失敗はほぼ常に運輸部門で発生していました。これらのシステムが失敗する場合、結果は通常、安全性の失敗となります。つまり、車が衝突する、ロボットが誤作けを起こす、あるいは人間のオペレーターが制御を失うといったことです。ここでのリスクは即時的かつ物理的であり、乗客、歩行者、および緊急対応者の安全に影響を及ぼします。その結果が具体的かつ危険であるため、研究者たちは、このグループのガバナンスは、運用上の安全性、ハードウェアとセンサーの厳格なテスト、および物理的な事故が発生した際に誰が責任を負うのかという明確な規則に重点を置くべきであると示唆しています。

第二のプロファイルは、「ビジョン認識（Vision Recognition）」です。このカテゴリーには、法執行機関やセキュリティ機関によって使用される顔認識技術のように、カメラとソフトウェアを使用して人物を特定するシステムが含まれます。データは、この領域における失敗が司法および法執行部門に集中していることを示しました。第一のグループの物理的な衝突とは異なり、ここでの危害は市民権や差別と深く結びついています。最も一般的な問題は、システムが特定の人口統計学的グループの人々を誤認することや、法的境界を超える方法で監視を行うことです。研究者たちは、これらの失敗が異なる種類のリスクを生み出すことを見出しました。それは、プライバシー、公平性、および不当な告発から自由である権利への脅威です。したがって、このプロファイルのガバナンスは、バイアスを防ぎ、システムの利用方法における透明性を確保し、誤認に対して人々が異議を申し立てるための明確な経路を提供することに焦点を当てる必要があります。

第三のプロファイルは、「生成AI（Generative AI）」です。これは、テキスト、画像、その他のメディアを作成するツールの背後にある技術です。データによれば、ここでの失敗はメディアおよび情報セクターにおいて最も一般的です。このグループに関連する危害は、他のグループとは異なります。物理的な負傷や直接的な監視を伴うことはほとんどありません。代わりに、問題は情報の質と真実性をめぐって展開されます。失敗には、説得力はあるが虚偽のコンテンツの作成、実在の人物へのなりすまし、そして評判を傷つけたり世論を操作したりするような誤情報の拡散が含まれます。リスクが物理的な安全や即時の監視ではなく、情報の完全性にあるため、研究者たちは、このグループの監視については、コンテンツのソースの検証、欺瞞的な出力のモニタリング、および作成者やプラットフォームが自らのシステムが生成するものに対して責任を持つことの確保に焦点を当てるべきであると主張しています。

興味深いことに、研究者たちは、「予測的モニタリング（predictive monitoring）」という一つの共通のAI機能は、独自の独立したグループを形成しないことを見出しました。予測的モニタリングとは、犯罪、ローンのデフォルト、あるいは健康状態などを予測するためにデータを分析するシステムを指します。研究は、これらのシステムが独自のグループを形成しなかったのは、そのリスクがどこで使用されるかに完全に依存しているためであることを示しました。ヘルスケアで使用される予測システムは、採用や金融で使用される予測システムとは異なる倫理的課題に直面します。この発見は、予測的モニタリングが単一のリスクカテゴリーではなく、それが入り込む環境の性質を継承するツールであることを示唆しています。もし予測システムが法執行の文脈で使用されれば、ビジョン認識プロファイルの性質を継承し、もし金融で使用されれば、他のプロファイルの経済的リスクを継承します。これは、これらのシステムに対する規則は「ワンサイズ・フィッツ・オール（一律の適用）」ではあり得ず、予測が行われている特定の文脈に合わせて調整されなければならないことを意味しています。

研究者たちは、これらの知見に基づいた新しいAIガバナンスの方法を提案しています。すべての人工知能に対して同じ広範な規則を適用するのではなく、規制当局や企業は、まずそのシステムがどのハーム・プロファイルに該当するかを特定すべきであると彼らは提案しています。システムが分類された後、監視、監査、および責任の割り当てに関する具体的な規則を適用することができます。例えば、自動運転車は、厳格な安全監査と、物理的なニアミスに関する即時の報告義務の対象となります。顔認識システムは、定期的な人種バイアスのチェックを行い、市民が誤認に対して異議を申し立てるための明確な手段を提供することを求められます。生成AIプラットフォームは、コンテンツの真正性を証明し、有害な誤情報を迅速に削除するメカニズムを備えている必要があります。

このアプローチは、AIガバナンスを抽象的な原則から具体的な行動へと移行させます。それは、ロボットの失敗はチャットボットの失敗とは根本的に異なり、それらを修正する責任を負うべき人々もまた異なっているという事実を認めるものです。AIがどのように失敗してきたかという実際の歴史を見ることで、研究者たちは、より効果的でコンテキストに応じた監督システムを構築するための地図を提供しました。彼らは、この手法を用いることで、社会が技術の各タイプが持つ特定のリスクに対処しつつ、一般論の中で迷うことなく、私たちが作る規則が技術そのものと同様に実用的かつ精密なものになることを可能にすると主張しています。研究は、記録された事象を単なる過去の過ちの記録としてではなく、一つのリソースとして扱うことで、AIがその実世界のインパクトを理解した上で統治され、テクノロジーがすべての人にとってより安全で説明責任のあるものとなる未来を築ける、と結論づけています。