Negotiating Risk Boundaries in AI for Policing Through Mixed-Stakeholder Deliberation
本論文は、英国における多様なステークホルダーによるワークショップから得られた知見を提示するものであり、そこではコミュニティの代表者、警察官、および学術研究者が共同でAI警察ツールを評価したが、人種的公平性を前景化させることで、全面的な拒絶ではなく、有効性と普遍的な利益への共通の焦点に基づいた、ほとんどのユースケースに対する幅広い受容が明らかになった。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
あなたは、「ソサエティ（社会）」という名の、少しガタのきた巨大な船の船長であると想像してください。あなたの船には、新しくピカピカのナビゲーション・システムが搭載されました。それは人工知能（AI）です。これは単なるコンパスではありません。嵐を予測し、隠れた岩礁を見つけ出し、さらには目的地への最短ルートを提案してくれる、超スマートなロボットなのです。警察の世界において、このロボットは悪人を捕まえるために、誰が再び罪を犯す可能性があるかを判断するために、そして警察官をどこに派遣すべきかを決めるために、活用されることが求められています。しかし、ここには落とし穴があります。この船には、特定の島々に近づきすぎて、そこに住む人々を傷つけてきた歴史があり、ロボットはその「悪い習慣」を古い地図から学んでしまった可能性があるのです。
この論文は、テクノロジーと人間の公平性が交差する、科学の非常に特定の領域を掘り下げています。それは、私たちがこれらの強力なAIツールを、いかにして偶然にも古い不公正を悪化させることなく使いこなせるかを探求するものです。鍵となる概念は「バイアス（偏り）」です。これは、世界を歪んだ形で捉えてしまう眼鏡のようなものです。もしロボットの眼鏡が過去の過ちによって色付けられていたら、たとえ無害な人物であっても、その人の属性や住んでいる場所に基づいて「危険である」と判断してしまうかもしれません。大きな問いは、「ロボットが仕事を遂行できるか？」だけではありません。「それはすべての人に対して公平に仕事を遂行できるのか？」という問いなのです。これが重要なのは、もし私たちがロボットの視力をチェックすることなく船を操らせてしまえば、守ろうとしている人々自身を衝突させてしまう可能性があるからです。
では、研究者たちは実際に何をしたのでしょうか？彼らは単に研究所に座ってコンピュータ・シミュレーションを実行したわけではありません。代わりに、彼らは30人の人々による大規模な、一日限りの「船の会議」を開催しました。このグループは、警察官、コミュニティのリーダー（街の様子や隣人の苦境を知る人々）、そして科学者で構成されていました。彼らは集まり、警察がAIを使用する可能性のある13の異なる方法を検討しました。彼らは単に「この技術はクールか？」と聞いたのではありません。「これは機能するか？ これは役に立つか？ そして、それは『すべての人』に役立つのか？」と問いかけたのです。
結果は驚くほど微妙な差異を含んでいました。グループはAIというアイデアそのものを投げ捨てたわけではありません。実際、彼らは概ねAIに対して前向きでした！ 彼らが明確に「ノー、絶対にダメだ」と言ったのは、3つの特定の用途に対してのみでした。最大の「ノー」は、ある人が再び犯罪を犯すかどうかを予測しようとするツール（再犯リスク予測）に向けられました。参加者たちは、誰かの将来の行動を推測するという考え方自体が、コードの問題だけでなく、概念そのものが欠陥品であると感じました。彼らは、もしシステムが過去の逮捕記録に基づいているならば、それは同じ人々を何度も何度も罰し続けることになり、決して止まることのないハムスターの回輪のようになってしまうと主張しました。
しかし、犯罪のホットスポットを特定したり、警察官の報告書作成を支援したりするような他のツールについては、グループは試してみることに前向きでした。ただし、彼らには厳しいルールがありました。彼らはロボットに「船長」になってほしくはなく、「有能な副操縦士」であってほしいと考えました。彼らは、最終的な判断を下すのは常に人間の警察官であるべきだと強く主張しました。また、彼らはAIが透明であること、つまり「魔法のブラックボックス」であってはならないと要求しました。もしそのツールが使用されるのであれば、それが実際に機能していること、そして単に偽りの効率性を生み出しているのではないことを証明しなければなりません。
研究者が発見した最も興味深いことの一つは、グループの話し方でした。この会議は、人種的バイアスに重点を置く予定でしたが、会話は自然とより大きなテーマへと発展していきました。参加者は、あらゆるツールに対して共通の3つの質問を投げかけ始めました。「それは本当に機能するか？ 実質的な利益をもたらすか？ そして、その利益は一部の幸運な人々だけでなく、すべての人に届くのか？」
これは、都市設計における「縁石カット効果（カーブカット・エフェクト）」のようなものです。車椅子利用者のために作られたスロープが、ベビーカーを押す人、荷物を運ぶ配達員、あるいはスーツケースを持つ旅行者にも役立つことをご存知でしょう。研究者たちは、最も疎外されたコミュニティを念頭に置いてAIを設計することで、結果として、ツールをより安全で、より多くの人に役立つものにするための、より良い問いを立てられるようになることを発見しました。彼らは、そのツールによって最も被害を受ける可能性のある人々のためにツールを修正すれば、通常は他のすべての人にとっても修正されることになるのだと気づいたのです。
結局のところ、この論文は、公平なAIを構築するための最善の方法は、「やってはいけないこと」のチェックリストを作ることでも、テクノロジーの専門家だけに決定させることでもはないと示唆しています。それは、早い段階でコミュニティ全体を議論のテーブルにつかせることです。参加者たちは、警察、コミュニティのメンバー、そして科学者という異なる声を混ぜ合わせることで、リスクのより鮮明な姿が見えてくることを示しました。彼らは進歩を拒絶したのではありません。ただ、進歩に対して、それが誠実で、役に立ち、そして公平であることを求めたのです。もしあなたが、船を安全に航行させるためのロボットが欲しいのであれば、その海域を最もよく知る人々の声に耳を傾けなければならないのだと、彼らは証明したのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。