Shaping the Future of Generative AI for Black Communities: A Frame Analysis of Public Discourse and Empirical Scholarly Research

コンピューターが物語を書き、画像を生成し、人間との会話のような容易さで質問に答えることができる世界を想像してみてください。生成AIとして知られるこの技術は、サイエンス・フィクションの世界から、学校、病院、そして職場へと急速に浸透しています。しかし、これらのツールが日常生活の一部となるにつれ、ある重大な問いが浮かび上がってきます。それは、「これらは誰のためにあり、誰を取り残しているのか」という問いです。何十年もの間、研究者たちは、コンピューター・システムが創造者の偏見を学習し、しばしば有色の人々を不当に扱う可能性があることを知ってきました。この新しい研究は、こうした問題について語る際の方法論について、より深い問いを投げかけています。それは、ニュースの中で執筆しているジャーナリストやコミュニティ・リーダーと、学術誌に論文を発表している科学者という、二つの異なるグループを比較するものです。研究者たちは、これら二つのグループが同じ問題を同じ方法で見ているのか、それとも全く異なる言語を話しているのかを知りたいと考えました。

学者と業界の研究者によるチームが行ったこの研究は、公衆が人工知能が黒人コミュニティにもたらす危険をどのように理解しているかと、科学者がそれらの危険をどのように研究しているかを比較することを目指しました。彼らは分析のために二つの大規模なテキスト・コレクションを集めました。第一のコレクションは、ニュース記事、意見書、シンクタンクの報告書など28の公共リソースで構成されており、これらは一般市民やメディアがこれらの問題についてどのように議論しているかを表しています。第二のコレクションは、2010年から2025年までに主要なコンピュータサイエンスの会議で発表された91件の学術論文の系統的レビューです。チームは「フレーム分析」と呼ばれる手法を用いて、これらのテキストを読み解きました。このアプローチは単に言葉を数えるだけではありません。物語がどのように構築されているかを見ます。具体的には、問題はどう定義されているか？ 原因は何だと特定されているか？ その状況に対する道徳的な判断は何か？ そして、どのような解決策が提案されているか？ という4つの特定の問いを立てます。ニュースと科学の両方にこのレンズを適用することで、研究者たちは二つの世界がどこで一致し、どこで乖離しているのかを正確に描き出すことができました。

研究結果は、公衆の見方と研究者が問題を解決しようとしている方法との間の、著しい断絶を明らかにしています。公的な言説において、物語は明確かつ構造的です。ジャーナリストやコミュニティ・リーダーが人工知能によって引き起こされる害について議論するとき、彼らはほぼ常に、その深い歴史的な根源を指摘します。彼らは、問題を、社会を形作ってきた何世紀にもわたる構造的な人種差別や不公平な政策の結果であると説明します。彼らが提案する解決策も同様に広範であり、政府による規制、採用慣行の変更、そしてコミュニティを保護するための新しい法律を求めています。彼らはテクノロジーを、壊れた社会を映し出す鏡として捉えており、鏡を直すには社会そのものを直す必要があると主張しています。

対照的に、科学文献は、より狭く異なる物語を伝えています。研究者たちは、91件の学術論文の大部分が、ほぼ排他的に技術的な修正に焦点を当てていることを発見しました。科学者たちが問題を特定したとき、彼らが歴史や社会を原因として検討することはほとんどありませんでした。代わりに、彼らはコンピューター・モデルの訓練に使用されるデータに原因を求めました。彼らは、訓練データに欠陥があるためにバイアスが生じていると主張しました。その結果、彼らの解決策はほぼ完全に技術的なものでした。彼らは、より優れたデータセットの作成、エラーを検出するための新しいコードの記述、あるいはアルゴリズムの調整などを提案しました。公的な言説が法律や社会の変化を求めた一方で、科学論文はより優れたエンジニアリングを呼びかけたのです。この研究は、これが偶然や単なる意見の相違ではないことを示唆しています。むしろ、科学界が、バイアスが存在することを可能にしているより深い構造的な条件に対処することを、概して避けていることを示しています。

おそらく最も衝撃的な発見は、両グループが合意した点と、両グループが見落とした点です。ニュース記事と科学論文の両者は、最も目に見える害が「表象的危害（representational harm）」であるという点で一致していました。これは、システムが黒人のアイデンティティを歪めたり消し去ったりする方法、例えば、黒人の画像を肌の色が明るい状態で生成したり、テキストでステレオタイプを使用したりすることを指します。両グループとも、この特定のタイプの害に重点を置いていたため、どちらも画像や言葉をより正確にするための解決策を提案しました。しかし、そうすることで、両グループは重要な視点を大きく見落としていました。それは、「黒人コミュニティこそが、これらのテクノロジーの設計と意思決定を主導すべきである」という考え方です。研究によれば、ニュースにおいて黒人は「保護を必要とする被害者」として描かれることが多く、科学論文においては「研究対象」や「測定されるべきデータポイント」として扱われていました。ジャーナリストも科学者も、黒人コミュニティを、これらの強力なツールがどのように構築され、どのように統治されるべきかを決定する専門家や設計者として一貫して枠付けすることはありませんでした。

研究者たちは、表象への焦点は重要ではあるものの、それは「罠」であると主張しています。テクノロジーをより公平に、あるいはより正確に見せることに集中することで、両グループは、その機械の創造を支配するルールを問うことなく、機械の出力を修正しようとしているのです。この研究は、真の進歩には、より優れたデータや新しい法律以上のものが必要であると示唆しています。それは、誰が権力を持つのかという根本的な転換を必要としています。黒人コミュニティが単なる形式的な相談相手ではなく、これらのテクノロジーが何をなし、どのように使用されるべきかについての主要な権威として認められる未来を求めているのです。科学界が技術的な微調整を超えて社会の構造的な現実に深く関与するようになるまで、そして公的な言説が黒人をテクノロジーの受動的な受け手として見ることを超えるまで、人工知能の約束と、その影響の現実との間の溝は埋まらないでしょう。この研究は、この溝を埋めるためには、黒人の知識と経験を「修正すべき変数」としてではなく、「より良い未来を築くための基盤」として扱う、新しい考え方が必要であると結論付けています。