Deepfakes: we need to re-think the concept of "real" images
この立場論文は、現在の「偽」画像の検出への焦点が、「実」画像の時代遅れな定義とデータセットに依存しているため根本的に欠陥があると主張し、現代のスマートフォン写真自体が生成モデルと同様のニューラルネットワークベースのアルゴリズムを利用していることから、研究コミュニティに真正性の概念を再評価するよう促す。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
あなたが偽造師を捕まえる探偵だと想像してください。あなたの仕事は、ある絵画を見て判断することです。「これは本物の傑作か、それとも偽物か？」
長年にわたり、機械学習コミュニティはこの「ディープフェイク」という問題を解決するために、ハイテクなスキャナーを構築してきました。彼らはAI探偵を「本物」の絵画（写真）の膨大な図書館で訓練し、真正性がどのようなものかを学ばせてきました。
問題点： この論文の著者たちは、探偵たちが時代遅れの図書館を使っていると主張しています。彼らは、約10年前に機能しなくなった「本物」の定義を使って、現代の偽造を見分けようとしているのです。
以下に、彼らの主張を簡単なアナロジーを用いて解説します。
1. 「古い図書館」の問題
現在のAI探偵は、主に10〜15年前のデータセット（写真の図書館）で訓練されています。
- アナロジー： モデルTフォードの写真を示して、学生に現代の車を認識させることを想像してください。学生は木製の車輪やオープントップに基づいて「車」の姿を学びます。現代のテスラを見せると、彼らの教科書にある「本物」の車と似ていないため、混乱するかもしれません。
- 現実： この論文は、現在のほぼすべての「本物」の画像データセットが古く、解像度が低く、JPEGのように強く圧縮されていることを示しています。これらは私たちが今日撮影する写真を代表していません。
2. 「スマートカメラ」への転換
現在、写真の90%以上はスマートフォンで撮影されています。しかし、ここには意外な事実があります。スマートフォンは単に写真を撮るのではなく、写真を「計算」するのです。
- アナロジー： 昔、カメラは窓のようなものでした。あなたはそれを覗き込み、光がフィルムに当たりました。画像は現実の直接の記録でした。
- 新しい現実： 現代のスマートフォンは、どちらかといえばブレンダーに似ています。生材料（複数のセンサーからの光、複数のカメラ、1秒の間に撮影された複数のフレーム）を入れ込み、スマートフォンの内部コンピュータ（複雑なニューラルネットワークを使用）がそれらを混ぜ合わせて、完璧なスムージー（最終的な写真）を作ります。
- 対立： AI検出器は、AIジェネレーターによって作られた「偽物」の画像を見分けるように訓練されていました。しかし現在、私たちのスマートフォンから出てくる「本物」の画像も、スマートフォン内部のAIアルゴリズム（ニューラルネットワーク）によって作られています。「本物」と「偽物」の境界線が曖昧になっているのは、「本物」の写真がすでにデジタル調理されているからです。
3. 失敗したテスト
著者たちは、彼らの主張を証明するために簡単な実験を行いました。
- テスト： 彼らは最も優れた「偽物検知」AIモデルを、以下の2つに提示しました。
- インターネットから入手した古くて低品質な写真（AIが熟知しているもの）。
- 現実世界で最新のiPhoneで撮影した新鮮な生写真。
- 結果： AIは古い写真ではうまく機能しました。しかし、新鮮なiPhoneの写真を見せられると、AIは混乱し、失敗し始めました。iPhoneの写真はスマートフォンのAIによって処理されていたため、AIは「本物」のiPhone写真と「偽物」のAI画像の区別がつかなくなったのです。
- 比喩： 赤い帽子をかぶった人を見分けるように訓練された警備員だと想像してください。彼は赤い帽子をかぶった全員を捕まえます。しかし、警察官も赤い帽子をかぶるようになると、警備員は犯罪者と警察官の区別がつかなくなります。
4. 哲学的な罠
この論文は、私たちがループに陥っていると主張しています。
- 「AIの手が加えられていないもの」を「本物」と定義すれば、現在、ほぼ写真が本物ではなくなります。 なぜなら、私たちのスマートフォンはAIを使って照明を調整し、ノイズを除去し、画像を鮮明にするからです。
- 「人間が撮影したもの」を「本物」と定義すれば、その定義は役立ちません。なぜなら、スマートフォン内のAIが重労働を担っているからです。
著者たちの結論
この論文は、検出器を修正する新しいアルゴリズムを提供するものではありません。代わりに、警報を鳴らしています：私たちは立ち止まり、このゲーム全体を再考する必要があります。
- 新しいデータ： 私たちは、古い低解像度のものだけでなく、現代のスマートフォンで計算された写真を含む新しいデータセットが必要です。
- 新しい定義： 私たちは「本物」とは何かについて合意する必要があります。スマートフォンが明るさを調整した写真は本物でしょうか？AIが傷を除去した写真は偽物でしょうか？「本物」の写真にもデジタル指紋がある以上、もはや「デジタル指紋」を探すだけではいけません。
- 検出器は機能しないかもしれない： 著者たちは、画像のピクセルを見て偽物を検出しようとするのは行き詰まりだと示唆しています。代わりに、画像が「本物」に見えるかどうかを推測するのではなく、画像の起源を証明するために、デジタル透かしやブロックチェーン署名のような他の方法に頼る必要があるかもしれません。
要約すると： 嘘つきを捕まえるために私たちが作ったツールは失敗しています。なぜなら、真実を語る者たち（私たちのスマートフォン）が、嘘つきと同じ手口を使い始めたからです。次の世代の偽物を見極めるためには、ルールブックを書き換える必要があります。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。