Video Deepfake Abuse: How Company Choices Predictably Shape Misuse Patterns
本論文は、十分な保護措置を講じずに未選別ウェブデータで訓練されたオープンウェイト動画生成モデルの公開と不十分なプラットフォームモデレーションの組み合わせが、同意なき性的画像および児童性的虐待材料の蔓延を予測可能に引き起こすものであり、これらの害を軽減するために開発者および配布者による予防的なリスク管理が必要であると主張する。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
以下は、平易な言葉と日常的な比喩を用いた、この論文の解説です。
全体像：「オープンソース」の両刃の剣
誰でも高性能な 3D プリンターを構築できる世界を想像してみてください。2022 年、これはAI 画像生成ツール（Stable Diffusion など）において実際に起こりました。突然、人々は自分が想像するあらゆるものの、信じられないほどリアルな写真を作成できるようになりました。
これはアーティストやクリエイターにとって素晴らしいことでした。しかし、3D プリンターが玩具を作ることもあれば武器を作ることもあるのと同様に、これらの AI ツールはすぐに同意なき親密な画像（NCII）——つまり、実在する人物、子供を含む人々を屈辱的な状況に置く偽造写真——を作成するために急速に利用されました。
この論文は、現在（2025 年）、AI 動画生成ツールにおいても同じことが起こっていると主張しています。私たちは、偽物でリアルな動画を作成することが、ほぼ誰でも容易に、安価に、アクセス可能になるという閾値を越えつつあります。
主要な問題：「レシピ」対「シェフ」
この論文は、これらの悪質な動画がどのようにして作られるかを説明するために、サプライチェーンの比喩（図 1）を用いています。まるで料理の生態系のように考えてみてください。
- 開発者（シェフ）：大企業（アリババ、Stability AI など）がベースとなる「レシピ」（AI モデル）を作成します。
- 配布プラットフォーム（パントリー）：Civitai や Hugging Face などのウェブサイトは、人々がこれらのレシピをダウンロードする場所です。
- 修正者（家庭料理人）：何千人もの人々がベースのレシピをダウンロードし、微調整を加え、特定の用途（例えば NSFW 〔職場不適切〕コンテンツの作成など）に特化させるために独自の「スパイス」を加えて改良します。
- ユーザー（客）：何百万人もの人々が、これらの改良されたレシピをダウンロードして、最終的な動画を作成します。
論文の核心的な発見：
この論文は、これらの悪質な動画の大部分が、少数の「レシピ」（モデル）によって生み出されていることを発見しました。具体的には、Wan 2.x、Stable Video Diffusion、HunyuanVideo、LTX-Video といったモデルが、偽造ポルノや虐待資料の作成に不釣り合いに多用されています。
なぜこれが起こったのか？（2022 年の教訓）
この論文は、なぜ今このようなことが起きているかを説明するために、2022 年に遡って分析しています。
- 「悪い」レシピ：2022 年、ある企業がStable Diffusion 1.0 というモデルをリリースしました。彼らは「重み」（コード）を無料で提供しましたが、学習データのフィルタリングを十分に行いませんでした。まるで毒のレシピも含まれた料理本を使ってシェフを教育したようなものです。データが不純だったため、AI は簡単に悪いものを生成することを学習してしまいました。
- 「良い」レシピ：その後、同じ企業がStable Diffusion 2.0 をリリースしました。彼らは料理本を整理し、「毒」のレシピを削除しました。その結果どうなったでしょうか？AI は NSFW コンテンツの作成が非常に苦手になりました。コミュニティからは、むしろ「検閲が強すぎる」という不満さえ出ました。
- 教訓：開発者がモデルをリリースする前にデータを精査し、安全フィルターを追加すれば、悪質なコンテンツの作成には大きな障壁が生まれます。逆に、それを怠れば、悪質なものは野火のように広まります。
現在の状況：「猫は袋から出た」のか？
一部の人は次のように主張します。「まあ、悪いモデルはすでに世に出ている。手遅れだ。今安全なモデルを作っても、人々は古い悪いモデルを使い続けるだろう。」
しかし、この論文はそれが誤りであると述べています。彼らは海賊版の比喩を用います。
- 違法な映画のダウンロードを考えてみてください。海賊版映画が技術的に利用可能であっても、検索エンジンや企業はそれらを見つけにくくするよう努めています。これは全員を止めるわけではありませんが、深く掘り下げたくないカジュアルなユーザーやティーンエイジャーを止めます。
- 同様に、開発者やプラットフォームが悪質な AI モデルを見つけやすく、利用しやすくするのを防げば、被害の総量は大幅に減少します。これは、悪いことをする際の「摩擦」（必要な努力）を高めることに関する問題です。
解決策は何か？
この論文は、主に 2 つのグループが行動を起こす必要があると提案しています。
1. 開発者（シェフ）
彼らは「裸」のモデルをリリースするのをやめるべきです。代わりに、以下を行うべきです。
- データの精査：AI がそもそもポルノや虐待資料で学習しないようにすること。
- 安全網の追加：「アンラーニング（忘却）」技術を用いて、後から誰かが微調整を試みても、AI が悪いものを生成する方法を忘れているようにすること。
- 自己テスト：リリース前に自らのモデルを破ろうと試み、誤用が可能かどうかを確認すること。
- 透明性の確保：公衆に対して、具体的にどのような安全対策を講じたかを明らかにすること。現在、ほとんどの企業はこの点について沈黙しています（論文の表 1 を参照）。
2. 配布プラットフォーム（パントリー）
Civitai や Hugging Face などのウェブサイトは門番です。
- 彼らは現在、偽造ポルノや児童虐待資料の作成に特化して設計された何千ものモデルをホストしています。
- この論文は、これらのプラットフォームが自らの棚を積極的に管理すべきであると主張しています。もし彼らがこれらの特定の「悪いレシピ」を削除しなければ、被害を増幅させることになります。
結論
この論文は、企業の選択が重要であると結論付けています。
- 開発者が安全フィルターなしでモデルをリリースすれば、予測可能な形で害を引き起こします。
- プラットフォームが虐待目的で設計されたモデルを削除しなければ、問題は悪化します。
これは AI を禁止することではありません。リスク管理の問題です。危険な運転をする人がいるからといって車を禁止しないのと同様に、AI 動画を禁止する必要はありません。しかし、最悪の結果を防ぐために、ブレーキ、シートベルト、速度制限（安全対策）を設置する必要があります。企業が今これらのステップを踏めば、将来の偽造・虐待コンテンツの量を劇的に減らすことができます。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。