What We Know about Responsible AI Practices in Industry: A Half Decade of Empirical Research
本論文は、テクノロジー業界における責任あるAIの実践における進展、専門化、および根強い課題についての包括的な概要を提供するために、6年間にわたる161件の実証研究の知見を統合したものである。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
あなたは、物語を書いたり、病気を診断したり、あるいは次にお気に入りの曲を薦めたりすることができる、巨大で目に見えないロボットの脳を構築していると想像してください。この分野は「人工知能（AI）」と呼ばれます。しかし、本物の脳と同じように、このロボットの脳も時には混乱したり、不公平な選択をしたり、あるいは誤って人を傷つけたりすることがあります。これを防ぐために、科学者や企業は「責任あるAI（Responsible AI: RAI）」と呼ばれる一連のルールを作り出しました。RAIを、ロボットの道徳的な指針（モラル・コンパス）であり、安全マニュアルだと考えてください。それは単にロボットを賢くすることではなく、それがすべての人にとって親切で、公平で、安全であることを確実にすることなのです。長い間、人々はこう疑問を抱いてきました。「これらのロボットを実際に作っている人々は、本当にこの道徳的な指針の使い方を知っているのだろうか？ 彼らはルールに従っているのだろうか、それとも単に無視しているのだろうか？」これが、ある研究チームが決して調査することにした大きな問いです。
その答えを見つけるために、研究者たちは単に推測したりコンピュータのコードを見たりしたわけではありません。その代わりに、彼らはデジタル探偵として振る舞い、過去6年間に発表された161もの異なる学術研究という膨大な山を掘り起こしました。これらの研究はすべて、テック企業で働く実在の人々へのインタビュー、調査、観察であり、彼らが実際の仕事の中でこれらの道徳的なルールをどのように扱っているかを解明しようとするものでした。彼らは、「責任あるAI」という動きが、単なる壁に貼られた立派なスローガンに過ぎないのか、それともロボットの作り方を真に変えつつあるのかを知りたかったのです。
探偵の報告書：彼らが見つけたこと
研究者たちの報告書、題して「産業界における責任あるAIの実践について我々が知っていること」は、ある会社が、ゆっくりと、不器用ながらも、確実に成長しようとしている物語を明らかにしています。
朗報：明かりが灯り始めている
数年前は、AIを作っている多くの労働者は、道徳的な指針が存在することさえ知りませんでした。彼らはロボットを速く、賢くすることに集中するあまり、それが意地悪な振る舞いをしていないかを確認することを忘れていました。しかし、この論文は、状況が変わってきていることを示唆しています。より多くの労働者が、「責任あるAI」は実在する概念であり、それが重要であると認識するようになっています。それは、最初はルールについての共有のルールを知らない人がいた教室が、今では全員がその存在を知っている状態に似ています。
企業もまた、より組織的になってきています。一人の人が密かに公平性を心配するのではなく、企業は特別な「RAIエキスパート」を雇い始め、ロボットの行動をチェックする人々のための公式な職種を作り始めています。また、ロボットが世に出る前に間違いを見つけるためのチェックリストやソフトウェアツールも使い始めています。これは、シェフがケーキが焼き上がったかどうかを推測する代わりに、ようやく温度計を買って確認するように似ています。
悲報：コンパスはまだ壊れている
しかし、報告書は非常に明確に述べています。人々がルールを「知っている」からといって、それを「守れる」とは限らないということです。研究者たちは、多くの労働者が途方に暮れていると感じていることを発見しました。彼らは公平であるべきだとは分かっていますが、それを行うための適切なトレーニングや適切なツールを持っていません。それは、レーシングカーの運転を教えると言いながら、運転免許証や地図を与えないようなものです。
最大の問題の一つは、企業が使用するツールがしばなく曖昧すぎるという点です。想像してみてください、料理本に「スパイスを少々加える」とだけ書いてある状況を。特定のケーキを焼こうとしている場合、それは役に立ちません。同様に、多くのAIツールは一般的なアドバイスはくれますが、特定の製品の特定の機能を作っている時に、労働者が具体的に何をすべきかまでは教えてくれません。労働者は、抽象的なアイデアを実際のコードへと翻訳しようと苦心していますが、多くの場合、それを正しく行うための時間や予算が足りていません。
ボス問題：「後回しにしろ」
この論文はまた、大きな障害についても強調しています。それは「ボス」です。多くの企業において、責任者たちは製品がいかに安全であるかよりも、いかに早く新製品をリリースできるかに重きを置いています。研究者たちは、労働者がプロジェクトの最後の方で「安全のチェックボックスにチェックを入れる」よう指示されることがよくあることを発見しました。その時には、問題を修正するための時間は残されていません。これにより、「責任あるAI」は、実際にロボットをより安全にするためのプロセスではなく、スタンプをもらうためだけに書類に記入するような、退屈な事務作業へと変わってしまうのです。論文は、これらの安全チェックに充てるためのスタッフ、時間、そして資金が不足している限り、世界最高のツールがあったとしても役に立たないだろうと示唆しています。
欠けているピース
最後に、研究者たちは、企業がロボットを作っていない人々に対して、依然として耳を傾けることに苦労していることに気づきました。これには、データをラベル付けする人々（ロボットに「猫」が何であるかを教える労働者）、ロボットを使用する人々、そして医師や弁護士といった他の分野の専門家が含まれます。報告書は、企業は助けを求め始めてはいるものの、適切に聞き取る方法を知らなかったり、外部の人が何か間違いを見つけた時に声を上げるための適切なシステムを持っていなかったりすることが多いと指摘しています。
結論
では、これらすべては何を意味するのでしょうか？ 論文は、AI業界が「成長痛」の段階にあることを示唆しています。誰もが責任を持つことが重要であると合意しており、それを実現するためのツールも現れ始めています。しかし、「何をすべきかを知っていること」と「実際にそれを上手に行うこと」の間には、巨大な溝があります。研究者たちは、責任あるAIを真に機能させるためには、企業がそれをサイドプロジェクトやチェックリストとして扱うのをやめる必要があると結論づけています。彼らは、それを業務の根幹に組み込み、労働者に真のトレーニングを与え、そして自分たちが作るロボットによって影響を受ける人々の声を聞く必要があります。それまでは、ロボットの道徳的な指針はまだ少しグラグラしており、私たちはそれを安定させるために働き続ける必要があるのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。