Competing Visions of Ethical AI: A Case Study of OpenAI
このOpenAIに関するケーススタディは、同組織の公的な言説が安全性やリスクを強く強調している一方で、学術的およびアドボカシー的な倫理的枠組みの統合を著しく回避しており、それがエシックス・ウォッシング（倫理の粉飾）の懸念やガバナンス改善の必要性を提起していることを明らかにしている。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
人工知能（AI）の世界を、巨大で賑やかな建設現場として想像してみてください。ここで造られている機械は驚くほど強力で、物語を書いたり、複雑な数学の問題を解いたり、さらには芸術を生み出したりすることさえ可能です。しかし、これらの機械があまりにも新しく、かつ動きが速いため、それらを造っている人々はまだルールブックを模索している最中です。この分野では、いかにしてこれらの賢い機械を「善良」にするかについての大きな論争があります。ある人々は「倫理（エシックス）」について語ります。これは道徳的なコンパス、つまり正義や公平性、そして善悪に関する深い問いのようなものです。他の人々は「安全性（セーフティ）」について語ります。これはハードハットやシートベルトのようなもので、機械が衝突したり誰かを傷つけたりするのを防ぐための実用的なステップです。誰もが両方必要であると同意していますが、問題は、実際に誰が何を語っており、彼らは自分たちが設定したルールを本当に守っているのか、ということです。
この論文は、AI界における最も大きな建設チームの一つであるOpenAIという会社を詳しく調査しています。研究者たちは、この会社がこれらの大きな概念について、時間の経過とともにどのように語ってきたのかを知りたいと考えました。彼らは単に会社が何を言ったかを聞くだけではありませんでした。彼らはデジタル探偵のように振る舞い、何千もの文書、ブログ投稿、研究論文をスキャンし、「倫理」、「安全性」、「リスク」、「アライメント（調整）」といった言葉が正確にどれくらいの頻度で使用されたかをカウントしました。彼らは、会社の公的な声を巨大な図書館として扱い、どの本が最も多く読まれ、どの本が埃を被っているのかを確認するために、棚をチェックしたのです。
データが語る物語は、少し驚くべきものです。研究者がOpenAIの公開ウェブサイト（一般の人々に語りかける場所）を見たところ、「倫理」という言葉は事実上、存在しないも同然であることがわかりました。その言葉が登場するのは、記事の4%未満でした。それは、家の持ち主が「火災安全」や「非常口」については延々と話しているのに、「火」という言葉自体には一度も触れない家に足を踏み入れたようなものです。実際、わずか1年間で「安全性」という言葉は700回近く登場しましたが、「倫理」はわずか7回しか登場しませんでした。
OpenAIの公的なメッセージは、倫理という深い哲学的な言語ではなく、「安全性」、「リスク」、「アライメント」といった技術的な用語によって支配されていました。研究者によると、会社が「倫理」という言葉を使用する場合、それはしばしば、見出しでの一過性の言及や、段落内の単一の文章のような、形式的なものに過ぎませんでした。それはまるで、建築のための道具としてではなく、壁の装飾としてその言葉を使っているかのようでした。興味深いことに、研究者たちは、会社のタグやラベルが変化していることにも気づきました。時には記事が「倫理と安全性」とラベル付けされていても、その中のテキストでは倫理についてほとんど触れられていないことがありました。これは、ラベルが倫理的な問題に対する会社の考え方の深い変化を反映しているのではなく、大衆に対して異なるシグナルを送るために変化している可能性を示唆しています。
しかし、研究者が同社の学術論文（他の科学者たちのために書かれた真剣でテクニカルな文書）を見たとき、物語は少し異なっていました。ここでは、「倫理」という言葉がより頻繁に登場し、論文の約17%に含まれていました。しかし、これら真剣な文書においてさえ、その言葉は研究の主要な焦点としてではなく、余白や脚注、あるいは価値観の短いリストの中に置かれることが多かったのです。研究者たちは、OpenAIが技術的な安全性やリスク管理については非常に優れているものの、倫理に関する重い道徳的対話については、脇に追いやる傾向があると考えています。それは、倫理を厳格なルールブックとしてではなく、評判を得るためのバッジのように扱っているのです。
要するに、この論文は、OpenAIが「安全性」や「リスク」について語るための非常に大きな拡声器を構築している一方で、「倫理」についてはその声を非常に静かに保っていることを示唆しています。彼らは「善を行う」という考えを無視しているわけではありませんが、それを、公平性や正義といった深い問いに焦点を当てるのではなく、技術的な修正や危険の回避に焦点を当てた方法で枠組み化しています。研究者たちは、このような話し方は、会社を責任があるように見せるかもしれませんが、同時に、AIにおける「正しい」ことや「間違い」についての、困難で混沌とした問いが、技術的な安全性の議論という壁の後ろに隠され、背景へと押しやられていることも意味していると結論付けています。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。