Fake & Square: Training Self-Supervised Vision Transformers with Synthetic Data and Synthetic Hard Negatives
本論文は、サンプルの多様性のための合成データと、困難な対比のための合成ハードネガティブを活用することで、ビジョン・トランスフォーマーのための自己教師あり学習を強化するフレームワークであるSyn2Coを紹介し、膨大な実世界のデータセットへの依存を減らすために「偽装すること」の可能性と限界を探求するものである。
原論文は CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
教師なし学習の芸術
あなたがロボットに猫を認識させる方法を教えようとしている場面を想像してみてください。昔は、人間が何千枚もの写真を見て、猫を指さして「これは猫です」と言う必要がありました。これは「教師あり学習」と呼ばれ、非常に効果的ですが、時間がかかり、コストも高く、多くの人間の世話（ベビーシッティング）を必要とします。これを回避するために、科学者たちは「自己教師あり学習」を発明しました。これは、ロボットに大量の写真の束を与えて、「これらの写真が何を共通して持っているか、あるいは何が違うのかを、自分自身で解き明かしてごらん」と言うようなものです。ロボットは写真を比較することで学習します。例えば、同じ犬の写真は「友達（ポジティブ）」であり、犬の写真とトースターの写真は「他人（ネガティブ）」であることを突き止めようとするのです。
しかし、落とし穴があります。これに本当に習熟するためには、ロボットは現実世界の膨大な写真ライブラリを必要とし、「ハード・ネガティブ（困難な負例）」という課題を与えられる必要があります。ハード・ネガティブとは、ゴールデンレトリバーとラブラドールのように、ほとんど同じに見えるけれど少しだけ異なる、紛らわしい比較のことです。もしロボットが簡単な例ばかりを見ていると、ロボットは怠けてしまい、微妙な細部を学習できなくなります。では、もし十分な実物の写真がない場合や、それらのトリッキーな例を見つけるのが難しすぎる場合はどうすればよいでしょうか？ここで、「偽装する（フェイクを作る）」というアイデアが登場します。もし、コンピューターを使って偽の写真を生成したり、偽のトリッキーな例を作ったりして、ロボットの学習を助けることができたらどうでしょうか？これが、コンピュータビジョンの遊び場です。コンピュータビジョンとは、機械が世界を見、理解しようとする分野であり、これからお話しする物語の舞台でもあります。
見事な偽装：AIの「目」を鍛える新しい方法
**「Fake & Square: Training Self-Supervised Vision Transformers with Synthetic Data and Synthetic Hard Negatives（偽りと正方形：合成データと合成ハード・ネガティブを用いた自己教師ありビジョン・トランスフォーマーの学習）」**という論文の中で、インペリアル・カレッジ・ロンドンの研究チームは、ある大胆なアイデアを検証することに決めました。「『できるまで、ふりをする（Fake it till you make it）』という手法を使って、AIに本物と同じくらい上手に見えるように教えることはできるだろうか？」というアイデアです。彼らのアプローチは、古い格言である「できるまで、ふりをする」から着想を得ています。完璧な現実世界のデータが整うのを待つ代わりに、彼らは自らトレーニング素材を合成（作成）し、それが機能するかどうかを確かめることにしたのです。
研究者たちは、2つの具体的な「偽装」の方法に焦点を当てました。第一に、彼らは**合成データ（Synthetic Data）**に着目しました。100種類の動物が入ったフォトアルバムがあると想像してください。実物の動物の写真を増やす代わりに、彼らは「拡散モデル（ディフュージョン・モデル）」と呼ばれる特別なコンピュータープログラムを使用して、それらと同じ動物の、新しく偽の画像を13万枚描きました。これらは単なるぼやけたコピーではなく、本物のように見える全く新しい画像です。彼らは、AIがこの「偽のアルバム」を勉強するだけで動物を認識できるようになるのか、それとも本物と偽物の混合が必要なのかを調べようとしました。
第二に、彼らはハード・ネガティブ（困難な負例）の問題に取り組みました。ロボットの学習ゲームにおいて、ハード・ネガティブとは、例えばロボットに2つの非常に似た青色の違いを判別させるような、トリッキーな比較のことです。通常、現実の世界でこのようなトリッキーなペアを見つけるのは困難です。そこで研究者たちは、ロボットの脳内（AIが知識を蓄えている数学的な空間）で、これらのトリッキーな比較を「偽造」する方法を考案しました。彼らはAIの現在の理解を取り込み、それを数学的にブレンドすることで、ロボットが解決しなければならない新しい、極めて困難な例を作り出しました。彼らはこの結合された手法をSyn2Coと呼びました。
彼らが発見したこと
チームは、彼らの「偽装」手法を、2つの人気のあるAIの脳のデザインであるDeiT-SとSwin-Tでテストしました。彼らは、100種類の画像カテゴリーを含むImageNet-100というデータセットを用いて実験を行いました。
数字が示す結果は以下の通りです：
- ミックスが重要： 偽の画像のみを使用してAIを訓練した場合、驚くほど優れた成績を収めましたが、完璧ではありませんでした。しかし、偽の画像と本物の画像を混ぜ合わせたとき、AIはさらに向上しました。この結果は、合成画像が強力な「補完剤」であることを示唆しています。つまり、合成画像は学習をブーストさせますが、まだ現実世界のデータを完全に置き換えるまでには至っていないということです。
- 脳の違い、ニーズの違い： 2つのAIモデルは、「偽装」に対して異なる反応を示しました。DeiT-Sモデルは、偽の画像と偽のトリッキーな比較の両方を組み合わせることを好み、300エポック（学習のサイクル）の訓練で**82.12%**の最高精度に達しました。一方で、Swin-Tモデルは、偽の画像よりも、偽のトリッキーな比較（合成ネガティブ）を好む傾向があるようでした。
- 「困難」からの教訓： 研究者たちは、これらの合成ハード・ネガティブを加えることで、AIがより鋭く詳細な特徴を学習できることを発見しました。例えば、あるテストでは、これらのハード・ネガティブの割合を0%から40%まで変化させました。AIのパフォーマンスは、これらの挑戦的な例を追加するにつれて一般的に向上しており、「偽の」苦戦が実際にAIを強くしていることを示していました。
結論
この論文は、偽のデータがすべてを解決する魔法の杖であると主張しているわけではありません。むしろ、合成データは有望なツールであると示唆しています。著者たちは、すべての実物の写真を捨てて100%コンピューター生成のものに頼ることはできないものの、合成データを実データの「拡張（オーグメンテーション）」として使用することは非常に効果的であることを見出しました。それは、特に現実のデータが手に入りにくい場合や、AIの限界をテストするためのより困難な例が必要な場合に、AIの学習を加速させ、より堅牢にするのに役立ちます。
要約すると、研究者たちは、ある程度までは確かに「ふり（偽装）ができる」ことを示しました。合成画像と合成された課題を生成することで、彼らはAIモデルがより良く学習できるトレーニング環境を作り出し、時には人工的な助けが学習プロセスを非常にリアルなものに感じさせることができると証明したのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。