Generating Fearful Images: Investigating Potential Emotional Biases in Image-Generation Models
この論文は、Stable Diffusion、ChatGPT、Geminiを含む生成AIモデルが、入力プロンプトに関わらず恐怖を想起させる画像を生成するという系統的なバイアスを有していることを明らかにしており、これは学習データにおける恐怖に満ちたコンテンツの過剰な表現に起因するものと考えられる。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
魔法の芸術機械を想像してみてください。あなたは「晴れた日のピクニック」のような単純な指示を与えます。すると、その機械は一枚の絵を吐き出します。あなたは、その絵があなたの言葉と同じように、幸せで穏やかな感じであることを期待するでしょう。
この論文は、その魔法の機械が本当にあなたの言葉を聞いているのか、それともすべてをホラー映画に変えてしまうという秘密の癖を持っているのかを調査しています。
「不道徳なサイクル（Unvirtuous Cycle）」
著者らは、私たちのデジタル世界で起きている恐ろしいループについて説明しています。それは、**フィードバックの反響室（エコーチェンバー）**のようなものです。
- 人間がコンテンツを作る： 人々がネット上に、多くの注目を集める写真を投稿します。悲しいことに、恐ろしい、あるいは怒りを誘う写真は、幸せな写真よりもクリックされやすい傾向があります。
- AIが学習する： 人工知能（AI）は、描き方を学ぶための「学習データ」として、これらすべての写真を飲み込みます。
- AIがそれを吐き出す： 私たちが何かを描くようAIに頼むとき、AIは学んだことを利用します。もしAIが「恐ろしいもの」が最も注目を集めると学んでしまったら、たとえあなたが素敵なものを求めたとしても、誤って恐ろしいものを描いてしまうかもしれません。
- ループが閉じる： 私たちはAIが作った恐ろしい絵をより多く目にし、それにクリックし、AIはさらに「恐ろしいもの」こそが人々が求めているものだと学習していきます。
研究者たちは、このループが実際に起きているのかどうかを確かめたいと考えました。
実験：「恐怖の工場（Fear Factory）」
これをテストするために、研究者たちは探偵のように振る舞いました。彼らは、DiffusionDBと呼ばれるデータベースから、膨大な数のテキストプロンプト（指示）を取り出しました。これらの指示は、人々が（具体的にはStable DiffusionというAIに対して）何かを描くよう求めた実在のものです。
- 入力（Input）： 彼らはテキストを調べました。その人は「興奮（excitement）」、「喜び（joy）」、「恐怖（fear）」を求めていたでしょうか？
- 出力（Output）： 彼らはAIが実際に作成した画像を見ました。
- 探偵の仕事： 彼らは、特殊なコンピュータプログラム（「スマートな目」であるVision Transformer）を使用して画像を分析し、「この画像はあなたにどんな感情を抱かせますか？」と問いかけました。
彼らは、言葉に含まれる感情と、画像が持つ感情を比較しました。
大きな発見：AIは「恐怖の磁石」である
結果は驚くべきものでした。AIは単に指示をコピーしているのではなく、独自の「味付け」を加えていたのです。
- 「恐怖」のグリッチ： プロンプトが何であれ、AIは「恐怖」を感じさせるものを描くことに執着しているようでした。
- ミスマッチ： 人が「興奮」を求めたとしても、AIはしばしば「恐怖」を感じさせる画像を作りました。
- 証拠： 研究者たちは、これを「真陽性率（True Positive Rate：AIが感情を正しく捉えた割合）」と「偽陽性率（False Positive Rate：そこにないはずの感情をAIが付け加えた割合）」を用いて測定しました。
- **恐怖（Fear）**に関して、AIはそれを探し出すのが上手すぎ、かつそれを付け加えることに熱心すぎました。プロンプトに恐怖が含まれていない場合でも、画像にはしばしば恐怖が漂っていました。
- 「喜び（Joy）」や「怒り（Anger）」といった他の感情については、AIがそれらを勝手に付け加えることはずっと少ないという結果が出ました。
彼らはこれらを他の「エンタープライズ向け」モデル（より新しく強力なGPT-Image-1.5やSDXLなど）でもテストしましたが、同じことが判明しました。これは一つの壊れた機械の問題ではなく、AIアート生成器という家族全体に共有されている習慣であるようです。
なぜこのようなことが起きるのか？
この論文は、AIを「ホラー映画や犯罪現場の写真ばかりが並ぶ図書館で勉強した学生」に例えています。たとえ子犬についての物語を書いてほしいと頼んだとしても、AIは学んだ知識に基づいて、影の中にモンスターのような形をうっかり描き込んでしまうかもしれません。
研究者たちは、AIの学習データ（AIが学習した何百万もの画像）が、すでに恐怖を感じさせるコンテンツで満たされていると考えています。なぜなら、そうしたコンテンツこそがオンラインで最も注目を集めるからです。AIは、そのバイアスを私たちに反射しているだけであり、しかもそれをさらに悪化させているのです。
「歪んだ鏡」（限界事項）
著者らは、自分たちのツールが完璧ではないことも正直に認めています。
- ラベル付けの問題： AIは各画像に対して、一つの感情（例えば「恐怖」または「喜び」）を選ばなければなりませんでした。しかし、現実の世界はもっと複雑です。嵐の画像は、「恐ろしい」と同時に「畏敬の念を抱かせる」ものである可能性もあります。AIに一つだけを選ばせることは、分析を少し難しくしました。
- 翻訳の問題： 私たちが使う言葉（例えば「興奮」）と、画像が与える感情を完全に一致させることは困難です。研究者たちは、テキストの感情と画像の感情の間を翻訳するために「辞書」を使う必要があり、それは必ずしも完璧な一対一の対応ではありませんでした。
結論
本論文は、現在のAIアート生成器には**「恐怖への系統的なバイアス」**がある、と結論づけています。これらは、求められていない場合でも、私たちを怖がらせるような画像を生成しやすい傾向があります。
これは懸念すべき事態です。著者らが指摘するように、負の感情は伝染するからです。もし私たちのデジタル世界が、現実よりも微妙に恐怖を感じさせるAI生成画像で溢れかえれば、インターネット全体がより不安で危険なものに感じられるようになり、断ち切ることが難しいサイクルを生み出す可能性があります。著者らは、これが医学的な診断や特定のセラピー・ツールに関する話をしているのではなく、私たちのデジタル芸術ツールが、意図せずして世界を少しずつ暗くしているのではないかと、警鐘を鳴らしているのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。