How to Stop Playing Whack-a-Mole: Mapping the Ecosystem of Technologies Facilitating AI-Generated Non-Consensual Intimate Images

AI 生成の非同意型親密画像（AIG-NCII）の問題を、「モグラたたき」のゲームとして想像してみてください。

このゲームでは、モグラが顔を出すと、あなたはハンマーで叩いて倒します。しかし、すぐに別の場所から別のモグラが顔を出し、あなたはそのモグラも叩かなければなりません。現在、これらの有害な画像との戦いはまさにこのようになっています。一つのアプリを禁止しても、新しいアプリが現れます。一つのウェブサイトを削除しても、画像は別の場所に移動します。一つの会社を訴えても、問題はシステムの別の部分へシフトします。

この論文の著者たちは、私たちがこのゲームに負けているのは、特定のアプリや画像といった「モグラ」だけを見て、彼らが存在する「遊び場全体」を見ていないからだと主張しています。彼らは、この虐待を可能にする技術の「生態系」全体をマッピングするという、問題への新しいアプローチを提案しています。

以下に、彼らの発見を簡潔にまとめます。

1. 問題：分断された戦い

現在、異なるグループが孤立してこの問題の解決を試みています。

• 立法者は、特定のアプリを禁止する法律を制定しています。
• 技術企業は、有害な画像をフィルタリングしようとしています。
• 活動家は、決済処理業者に対し、これらのサイトを資金提供から排除するよう要求しています。

問題点は、これらの取り組みが互いに連携していないことです。彼らは同じものを指して異なる言葉を使い、しばしば全体像を見失っています。「サイロ（分離された部屋）」の中で作業しているため、一部を修正することが別の部分を誤って破損させる可能性や、別の場所で新たな抜け穴が開く可能性を把握できません。

2. 解決策：「生態系マップ」

著者たちは、これらの有害な画像を生成・拡散・収益化するために連携する「11 種類の異なる技術」の包括的なマップを作成しました。彼らはこれらの技術を、都市が異なる地区を持つように、5 つの主要な「ゾーン」に分けました。

• ゾーン A：工場（生成）

  • ここで画像が作られます。これには、AI が学習する写真の山である「データセット」、生成を行う「エンジン」である AI モデル、そして一般ユーザーがコマンドを入力して画像を作成するアプリやウェブサイトである「インターフェース」が含まれます。
  • 比喩: これは悪い料理が調理されるキッチンです。

• ゾーン B：配送トラック（流通）

  • 画像が作られた後、人々に届けられる必要があります。このゾーンには、これらの画像が投稿されるソーシャルメディアプラットフォーム、プライベートメッセージ、専用ウェブサイトが含まれます。
  • 比喩: これは悪い料理を顧客に届ける配送サービスです。

• ゾーン C：案内板と雑誌（拡散と発見）

  • 人々はこれらのツールをどのように見つけるのでしょうか。このゾーンには、「検索エンジン」（Google など）、「広告プラットフォーム」（「ヌディファイア」アプリの広告が表示される場所）、「アプリストア」（アプリをダウンロードする場所）、そして AI のジャイルブレイク方法のヒントを共有する「オンラインコミュニティ」（Telegram グループやフォーラムなど）が含まれます。
  • 比喩: これらは、人々に悪い料理の場所を知らせる看板、雑誌、そして口コミです。

• ゾーン D：電力網（インフラ支援）

  • 上記のどれもうまく機能するには、基礎的な要素が必要です。このゾーンには、コードが保存される「開発者プラットフォーム」（GitHub など）や、クラウドサーバー、ドメイン名、ログインサービスなどの「重要サービスプロバイダー」が含まれます。これらの企業が電源を抜けば、システム全体が停止します。
  • 比喩: これは工場と配送トラックを稼働させる電力と水道です。

• ゾーン E：レジ（収益化）

  • これには誰かが支払う必要があります。このゾーンには、画像やそれらを作成するツールの販売から収益を得ることを可能にする「決済処理業者」（Visa、PayPal、または暗号通貨など）が含まれます。
  • 比喩: これは利益が預けられる銀行です。

3. マップの活用：2 つの実世界での検証

著者たちは、このマップが機能することを示すために、それをテストしました。

テスト 1：新たな危機の理解（「Grok」のケース）
「Grok」という新しい AI チャットボットが数千点の性的な画像を生成し始めると、ニュースは混乱しました。見出しは曖昧でした。

• マップなしの場合: 人々は単に「Grok は悪い」と見ていました。
• マップありの場合: 著者たちはそれを分解できました。「Grok」は単一のものではなく、X/Twitter という「配信チャネル」でホストされ、「アプリストア」によって宣伝され、Telegram の「ディープフェイク作成コミュニティ」によってジャイルブレイクされている「生成 AI インターフェース（チャットボット）」であり、その上で「生成 AI モデル」が動作していることを把握できました。
• 結果: 「Grok を禁止する」と言うだけでなく、ステークホルダーはシステム内のどの部分を対処すべきか（例えば、アプリストア、決済処理業者、またはコミュニティチャット）を正確に把握できました。

テスト 2：法律の修正
著者たちは、米国全体の 63 の異なる法律を検討しました。

• マップなしの場合: 明確なパターンがない、ごちゃ混ぜの規則の山に見えました。ある法律は画像の「作成」を禁止し、他の法律は「共有」を禁止しており、定義はバラバラでした。
• マップありの場合: 彼らは法律を色分けできました。彼らは、ほとんどの法律が「配送トラック（流通）」または「レジ（収益化）」のみを対象としており、「工場（生成）」や「電力網（インフラ）」を直接対象とする法律はほとんどないことに気づきました。
• 結果: これは政策決定者に、ギャップがどこにあるかを正確に示しました。彼らは、問題を止めるためには、配送トラックだけでなく、「工場」と「電力網」を規制する必要があることを理解できました。

4. 目標：モグラたたきゲームの停止

この論文は、一度に一つのモグラを叩くだけでは勝てないと結論付けています。私たちは生態系全体を理解する必要があります。

このマップを使用することで、研究者、弁護士、技術企業は以下のことができます。

1. 共通言語を使うこと（システムの異なる部分に対して一貫した用語を使用する）。
2. つながりを把握すること（「電力網」の変化が「工場」にどのように影響するかを理解する）。
3. 未来を予測すること（新しい法律が問題をマップのどの部分へシフトさせるかを見る）。

究極の目標は、反応的な「モグラたたき」ゲームから、遊び場全体を修復し、この種の虐待が最初から起こりづらくなるような、先見的な戦略へと移行することです。