A Marketplace for AI-Generated Adult Content and Deepfakes
本論文は、Civitaiプラットフォームにおける14か月間のデータセットを分析することで、同プラットフォームの収益化されたバウンティ・システムが、女性の著名人を標的とした非同意のNSFWディープフェイクの生成を不当に助長していることを明らかにし、それによって、コミュニティ主導の生成AIマーケットプレイスにおける重大なジェンダー化された害悪とガバナンス上の課題を浮き彫りにしている。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
Civitaiという、活気にあふれた巨大なデジタル・マーケットプレイスを想像してみてください。それは、人々が単に物理的な商品を売買するだけでなく、AIが生成した画像やツールを取引する、巨大でハイテクなフリーマーケットのようなものです。
この市場には、「Bounty（バウンティ／賞金）」と呼ばれる特別なセクションがあります。バウンティとは、犯罪者を追う「指名手配書」のようなものですが、追っているのは犯罪者ではなく、特定の画像やAIツールです。依頼人（「サポーター」）が、「タキシードを着た猫の画像が欲しい」とリクエストを出し、その報酬として仮想コイン（「Buzz」と呼ばれるもの）を提示します。他のユーザー（「クリエイター」）は、その画像を完成させるために競い合います。最初に正しく作成できた人が、そのお金を獲得します。
この論文の調査員たちは、人々が実際に何を求めているのか、誰が求めているのか、そしてルールがどのように守られているのかを調査するために、このマーケットプレイスを調査することにしました。彼らは、14ヶ月間に投稿されたすべての「指名手配書」を精査しました。その結果を、分かりやすく分類して説明します。
1. 「アダルト」セクションの席巻
調査員たちは、人々がアートやロゴなどあらゆるものを求めている一方で、かなりの部分が**NSFW（職場での閲覧に不適切）**なコンテンツ、つまりアダルトまたは露骨な素材へのリクエストであることを発見しました。
- 傾向： 研究の開始時点では、これらのリクエストは少数派でした。しかし、時間の経過とともに着実に増加しました。14ヶ月間の調査終了時には、ほぼ半数のリクエストがアダルトコンテンツに関するものでした。
- ツール： これらのリクエストの多くは、単一の画像に対するものではありません。人々はLoRAを求めています。LoRAとは、ダウンロードして永続的に使用できる「特別な指示書」や「フィルター」のようなものだと考えてください。特定の性的表現を生成できるLoRAを誰かが作成すれば、そのツールを使って無限にバリエーションを作ることができます。このマーケットプレイスは、AIモデルが本来設計されていない方向へと誘導するための、これら「指示書」を購入しようとする人々によって支配されています。
2. 「ディープフェイク」の問題：誰がターゲットにされているのか？
ここでの「ディープフェイク」とは、実在する人物（有名人など）が、実際にはその写真を撮っていないにもかかわらず、その人の画像を生成するというリクエストを指します。
- ジェンダー格差： 調査員たちは、衝撃的な不均衡を発見しました。実在の人物の画像を生成するリクエスト全体を見ると、10件中9件が女性に関するものでした。ターゲットとなるのは、圧倒的に女性のセレブリティ、女優、インフルエンサーです。
- 「自分自身」という抜け道： 一部のユーザーは、「自分自身の写真、あるいは私の妻の写真を求めているのだ」と主張することで、ルールを回避しようとしました。調査員たちは、これらの主張は検証不可能であり、同意（コンセント）の問題を実際には解決していないことを突き止めました。
3. 「スーパー・リクエスター（大量依頼者）」
この研究は、誰がこれほど多くの投稿を行っているのかについても調査しました。それは、全員が少しずつ投稿しているような公平で平等な分布ではありません。
- 20%のルール： 約20%のユーザーが、全リクエストの約半分を占めています。
- ディープフェイクの集中： この集中は、実在の人物の画像を生成するリクエストにおいてさらに顕著です。ごく少数のグループが、実在の人物の画像を生成するリクエストの大部分を動かしています。
4. 「存在しないこともある警告サイン」
Civitaiにはルールがあります。もし実在の人物の画像をリクエストした場合、システムはページ上に警告サインを表示することになっています。このサインには、「これは実在の人物です。私たちは安全な画像のみを許可しており、本人が削除を求めることができます」と記されています。
- ギャップ： 調査員たちは、この警告サインが実際に表示されているかどうかを確認しました。
- 実在の人物に関する「安全な（SFW）」リクエストについては、**86%**の確率でサインが表示されていました。
- 実在の人物に関する「アダルト（NSFW）」のリクエストについては、**42%**の確率でサインが表示されていませんでした。
- 教訓： プラットフォームにはルールがあるものの、その「警告サイン」は、まさに最も必要とされる場面、つまり露骨なコンテンツのリクエストが行われている時に、欠落していることが多いのです。
まとめ
この論文は、このマーケットプレイスが、少数のユーザーによってアダルトコンテンツや実在の女性の画像への需要が強く駆動されている場所へと進化していると結論付けています。しかも、それらはAIのセーフティフィルターを回避するために、特殊なAIツール（LoRA）を使用していることが多いのです。プラットフォームにはルールや警告サインが存在しますが、その執行は一貫しておらず、特に最もデリケートで潜在的に有害なリクエストにおいてその傾向が強くなっています。
重要な注記： 調査員たちは、あくまでリクエスト（人々が何を求めたか）のみを調査しており、最終的に作成された画像や、人々がなぜそのようなリクエストを行ったのかという個人的な理由については調査していません。彼らは単に、このデジタル・レストランにおける「注文メニュー」の内容をマッピングしたのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。