Cluster Contrast for Unsupervised Visual Representation Learning

ロボットに動物を認識させる方法を教えようとしていると想像してください。しかし、手元には山のような写真があり、ラベルは一つもありません。「これは猫です」「これは犬です」とロボットに伝えることはできません。これが**教師なし学習（unsupervised learning）の世界です。これは、コンピュータが教師に何かを指し示されることなく、自力で世界のパターンを学ぼうとする人工知能の一分野です。これを行うために、研究者たちは主に2つのテクニックを使用します。1つ目は対照学習（contrastive learning）で、これは子供に違いを見分ける方法を教えるようなものです。「この写真は、あの写真とは違う」という具合です。これは、コンピュータに対し、頭の中で異なるものが混ざり合わないように、異なるもの同士を押し離すよう強制します。2つ目のテクニックはクラスタリング（clustering）**で、これは散らかった洗濯物を仕分けするようなものです。コンピュータはすべての靴下やシャツを見て、それらが何と呼ばれているかを知らなくても、似ているものをグループ化しようとします。長い間、これら2つのテクニックは別々の部屋で働いていましたが、科学者たちは「もしこれらを同じ部屋で働かせることができたら、画像のよりスマートな理解を生み出せるのではないか？」と考えました。

ここで、インペリアル・カレッジ・ロンドンのニコラオス・ジアクモグルとタニア・スタサキの研究者が提案した新しい手法、**CueCo（Cluster Contrast）**が登場します。CueCoを、混み合ったダンスフロアの熟練した振付師だと考えてください。かつてのダンスインストラクター（アルゴリズム）は、全員にできるだけ遠くに離れるよう指示するか（対照学習）、あるいは全員をきつく集まるよう指示するか（クラスタリング）のどちらか一方を行っていました。CueCoはその両方を同時に行います。それは磁石のように、「押し引き（push-pull）」のダイナミクスを利用しています。異なる種類のダンサー（例えば猫と犬）が衝突しないように遠くに押しやり、同時に同じ種類のダンサー（すべての猫）を、タイトで居心地の良い円の中に引き寄せます。

研究者たちは、2つのニューラルネットワークを備えたシステムを構築しました。一つは学習する「クエリ（query）」ネットワーク、もう一つは学習者を追う影のようにゆっくりと動く「キー（key）」ネットワークです。彼らはこれを、CIFAR-10、CIFAR-100、ImageNet-100という3つの有名な画像データセットでテストしました。結果は目覚ましいものでした。学習を停止して単純な分類器に画像を分類させたところ、CueCoはCIFAR-10で91.40%、CIFAR-100で68.56%、ImageNet-100で**78.65%**の精度を達成しました。これらの数値は現在利用可能な最高の方法に匹敵しており、対照の「押し」とクラスタリングの「引き」を組み合わせることが、より整理された有用な視覚的世界のマップを作成することを証明しました。

押しと引きの魔法

CueCoがどのように機能するかを理解するために、本のタイトルがわからないまま、すべてが混ざり合った巨大な図書館を整理しているところを想像してください。あなたには2つの目標があります。異なる2冊の本が同じに見えないようにすること、そして同じ本のコピーはすべてきれいに積み重ねることです。

押し（対照学習）
まず、CueCoは1枚の写真を取り、それを少し変形させた2つのバージョンを作成します（例えば、猫の写真を撮った後、それをクロップしたり、少し回転させたりします）。そしてコンピュータに、「これら2つのビューは同じ猫である」と伝えます。しかし、同時に犬の写真を見て、「これらは全く異なるものである」とも伝えます。InfoNCE lossと呼ばれる数学的なルールを使用することで、システムは反発力として機能します。それは、コンピュータのメモリ空間において「猫」の特徴を「犬」の特徴から遠ざけます。これにより、再び猫を見たときに、コンピュータが誤ってそれを犬だと思い込むことがなくなります。異なるクラスを広げ、それらを明確にします。

引き（クラスタリング）
しかし、広げるだけでは不十分です。似たもの同士をグループ化する必要があります。ここで「引き」が登場します。コンピュータには本当のラベルがないため、パターンの探索によってどの写真が一緒であるべきかを推測します。それは「クラスター」またはグループを作成します。CueCoは、魅力的な力として機能し、同じタイプの写真のすべてを、タイトなボールのように近くへと引き寄せます。これには2つの特定のツールを使用します：

1. セントロイド対照損失（Centroid Contrastive Loss）：これは、すべての写真がそのグループの「重心」と一致するようにします。これは、すべての猫の写真が想像上の「猫の中心」のすぐ隣に立っているようにすることに似ています。
2. 分散損失（Variance Loss）：これは、グループが単なる緩い雲ではなく、タイトでコンパクトなボールであることを保証します。これは、写真とグループの中心との距離を最小化し、「猫」たちが散らばることなく、互いに寄り添っていることを確実にします。

ダンスフロアのダイナミクス
論文では、これを物理学における力として可視化しています。対照部分は反発力（2つの北極同士が押し合うようなもの）であり、異なるクラスが混ざり合わないようにします。クラスタリング部分は吸引力（反対の極同士が引き合うようなもの）であり、同じクラスがコンパクトに保たれるようにします。目標は、完璧なバランスに到達することです。つまり、「猫」のグループは「犬」のグループから遠く離れていながら、すべての猫が互いに手をつないでいる状態です。

彼らの手法

研究者たちは単に推測したのではなく、特定のフレームワークを構築しました。彼らは、画像認識における標準的で信頼性の高い構造であるResNet-18バックボーンを使用しました。そして、以下の3つのデータセットでこれを訓練しました：

• CIFAR-10: 10種類の小さな画像。
• CIFAR-100: 100種類の小さな画像。
• ImageNet-100: より大規模で複雑なデータセットから抽出された100種類のサブセット。

彼らは**モーメンタム・エンコーダー（momentum encoder）**と呼ばれる巧妙なトリックを使用しました。想像してみてください、「クエリ」ネットワークは速く学習する生徒であり、「キー」ネットワークは学習者を追う影のようにゆっくりと更新される教師です。教師は、生徒の滑らかでゆっくりとした移動平均です。これにより、システムが突然の変化によって混乱するのを防ぎ、「グループ（クラスター）」を安定させるのに役立ちます。

グループが悪いパターン（例えば、すべての写真を一つの巨大な山に入れてしまうなど）に陥らないようにするために、彼らは画像の「キュー（queue）」を使用してグループの中心を計算しました。また、状況を新鮮でバランスの取れた状態に保つために、1,000ステップごとにこれらのグループをリセットしました。

結果：それは機能するか？

チームは、コンピュータが助けなしにどれだけ画像を分類できるかを確認することで、この手法をテストしました。彼らは、MoCo-v2、SimCLR、BYOLといった他のトップレベルの手法と比較しました。

• CIFAR-10において、CueCoは**91.40%**の精度に達しました。これはトップのパフォーマーに非常に近く、単純なタスクをうまく処理できることを示しています。
• CIFAR-100では、**68.56%**を記録しました。
• ImageNet-100では、**78.65%**を達成しました。

しかし、本当の魔法は**教師なし画像分類（unsupervised image classification）において起こりました。通常、コンピュータがラベルなしで単にものをグループ化する場合、平凡な結果に終わります。しかし、CueCoは、他の手法よりもはるかに優れたグループ化ができることを示しました。CIFAR-10において、それは75.06%**のクラスタリング精度を達成し、MoCo-v2（63.51%）およびSimCLR（74.50%）の再実装版を上回りました。CIFAR-100においても、**33.82%**を記録し、再び競合を打ち破りました。

研究者たちはまた、どの部分がどのような役割を果たしているかを確認するために、機械を分解するような「アブレーション研究（ablation study）」も行いました。その結果、以下のことが分かりました：

• 「押し」（対照損失）のみを使用した場合、良好なベースラインが得られました。
• 「引き」（セントロイド損失）を加えることで、グループ化が改善されました。
• 「タイトさ」（分散損失）を加えることで、結果はさらに向上しました。

これは、彼らの「押し引き」システムの3つの要素すべてが、最善の結果を得るために必要であることを証明しました。

なぜこれが重要なのか

この論文は、これら2つの力を組み合わせることで、区別がつきやすく（識別しやすく）、かつ整理された（グループ化しやすい）視覚的表現を作成できることを示唆しています。これは大きな意味を持ちます。なぜなら、コンピュータに「見方」を教えるために、人間がラベルを付けた例をそれほど多く必要としなくなる可能性があるからです。この手法は、AIの問題を完全に解決したと主張しているわけではありませんが、有望な新しい方向性を提示しています。それは、少しの「押し」と少しの「引き」があれば、コンピュータが、たとえ一人の人間も「これは猫だ」と言わなくても、広く、かつ詳細に世界を理解するのを助けることができるということを示しているのです。