Cluster Contrast for Unsupervised Visual Representation Learning

Stellen Sie sich vor, Sie versuchen, einem Roboter beizubringen, Tiere zu erkennen, aber Sie haben einen Berg von Fotos und null Beschriftungen. Sie können dem Roboter nicht sagen: „Das ist eine Katze“ oder „Das ist ein Hund“. Dies ist die Welt des unüberwachten Lernens (Unsupervised Learning), eines Zweigs der künstlichen Intelligenz, in dem Computer versuchen, die Muster der Welt ganz allein zu erlernen, ohne einen Lehrer, der auf Dinge zeigt. Um dies zu erreichen, nutzen Forscher zwei Haupttricks. Der erste ist das kontrastive Lernen, was so ist, als würde man einem Kind beibringen, Unterschiede zu erkennen: „Dieses Bild ist nicht jenes Bild.“ Es zwingt den Computer, verschiedene Dinge in seinem Geist auseinanderzutreiben, damit sie sich nicht vermischen. Der zweite Trick ist das Clustering, was wie das Sortieren eines unordentlichen Wäschebergs ist. Der Computer betrachtet alle Socken und Hemden und versucht, die ähnlichen zusammenzugruppieren, auch wenn er noch nicht weiß, wie sie heißen. Lange Zeit arbeiteten diese beiden Tricks in getrennten Räumen, aber Wissenschaftler fragten sich: Was wäre, wenn wir sie im selben Raum zusammenbringen könnten, um ein superintelligentes Verständnis von Bildern zu erzeugen?

Hier kommt CueCo (Cluster Contrast) ins Spiel, eine neue Methode, die von den Forschern Nikolaos Giakoumoglou und Tania Stathaki vom Imperial College London vorgeschlagen wurde. Betrachten Sie CueCo als einen Meisterchoreografen für eine überfüllte Tanzfläche. In der Vergangenheit waren Tanzlehrer (Algorithmen) entweder angewiesen, dass sich alle so weit wie möglich voneinander entfernen sollen (kontrastives Lernen), oder dass sich alle in engen Gruppen zusammenballen sollen (Clustering). CueCo macht beides gleichzeitig. Es nutzt eine „Push-Pull“-Dynamik, ganz ähnlich wie Magnete. Es drückt verschiedene Arten von Tänzern (wie Katzen und Hunde) weit voneinander weg, damit sie nicht kollidieren, während es gleichzeitig die gleichen Arten von Tänzern (alle Katzen) in einen engen, gemütlichen Kreis zieht.

Die Forscher bauten ein System mit zwei neuronalen Netzen: einem „Query“-Netzwerk, das lernt, und einem „Key“-Netzwerk, das sich langsam bewegt, wie ein Schatten, der dem Lernenden folgt. Sie testeten dies auf drei berühmten Bilddatensätzen: CIFAR-10, CIFAR-100 und ImageNet-100. Die Ergebnisse waren beeindruckend. Als sie das Lernen anhielten und einfach einen einfachen Klassifikator fragten, um die Bilder zu sortieren, erreichte CueCo eine Genauigkeit von 91,40 % bei CIFAR-10, 68,56 % bei CIFAR-100 und 78,65 % bei ImageNet-100. Diese Zahlen bringen es direkt in die Nähe der derzeit besten verfügbaren Methoden und beweisen, dass das Mischen des „Push“ des Kontrasts mit dem „Pull“ des Clusterings eine organisiertere und nützlichere Karte der visuellen Welt schafft.

Die Magie von Push und Pull

Um zu verstehen, wie CueCo funktioniert, stellen Sie sich vor, Sie organisieren eine riesige Bibliothek, in der alle Bücher vermischt sind und Sie die Titel nicht kennen. Sie haben zwei Ziele: Stellen Sie sicher, dass sich keine zwei verschiedenen Bücher gleich sehen, und stellen Sie sicher, dass alle Kopien desselben Buches ordentlich zusammengestapelt sind.

Der Push (Kontrastives Lernen)
Zuerst nimmt CueCo ein Bild und erstellt zwei leicht unterschiedliche Versionen davon, etwa indem es ein Foto einer Katze macht, es dann zuschneidet und leicht dreht. Es sagt dem Computer: „Diese beiden Ansichten sind dieselbe Katze.“ Aber es schaut sich auch Bilder von Hunden an und sagt: „Diese sind völlig verschieden.“ Unter Verwendung einer mathematischen Regel namens InfoNCE-Loss wirkt das System wie eine abstoßende Kraft. Es drückt die „Katzen“-Merkmale von den „Hund“-Merkmalen im Speicher des Computers weg. Dies stellt sicher, dass der Computer, wenn er wieder eine Katze sieht, sie nicht versehentlich für einen Hund hält. Es verteilt die verschiedenen Klassen, um sie unterscheidbar zu machen.

Der Pull (Clustering)
Aber das Auseinanderziehen reicht nicht aus; man muss auch die Ähnlichen gruppieren. Hier kommt der „Pull“ ins Spiel. Da der Computer keine echten Labels hat, rät er, welche Bilder zusammengehören, indem er nach Mustern sucht. Er erstellt „Cluster“ oder Gruppen. CueCo wirkt dann wie eine anziehende Kraft, die alle Bilder desselben Typs näher zusammenzieht, in einen dichten Ball. Es verwendet dafür zwei spezifische Werkzeuge:

1. Centroid Contrastive Loss: Dies stellt sicher, dass jedes Bild mit dem „Schwerpunkt“ seiner Gruppe übereinstimmt. Es ist so, als würde man sicherstellen, dass jede Katzenaufnahme direkt neben dem imaginären „Katzen-Zentrum“ steht.
2. Variance Loss: Dies stellt sicher, dass die Gruppe nicht nur eine lose Wolke ist, sondern ein dichter, kompakter Ball. Es minimiert den Abstand zwischen den Bildern und ihrem Gruppenzentrum und stellt sicher, dass die „Katzen“ alle eng zusammengekuschelt sind und nicht verstreut liegen.

Die Dynamik der Tanzfläche
Die Arbeit visualisiert dies als Kräfte in der Physik. Der kontrastive Teil ist eine repulsive Kraft (wie zwei Nordpole eines Magneten, die sich abstoßen), die verhindert, dass verschiedene Klassen verschmelzen. Der Clustering-Teil ist eine attraktive Kraft (wie entgegengesetzte Pole, die anziehen), die sicherstellt, dass dieselbe Klasse kompakt bleibt. Das Ziel ist es, ein perfektes Gleichgewicht zu erreichen, bei dem die „Katzen“-Gruppe weit von der „Hunde“-Gruppe entfernt ist, aber jede einzelne Katze mit jeder anderen Katze Händchen hält.

Wie sie es gemacht haben

Die Forscher haben nicht einfach geraten; sie bauten ein spezifisches Framework. Sie verwendeten ein ResNet-18 Backbone, eine standardmäßige, zuverlässige Struktur für die Bilderkennung. Sie trainierten dies auf drei Datensätzen:

• CIFAR-10: 10 Arten von kleinen Bildern.
• CIFAR-100: 100 Arten von kleinen Bildern.
• ImageNet-100: Eine Teilmenge von 100 Arten aus einem viel größeren, komplexeren Datensatz.

Sie verwendeten einen cleveren Trick namens Momentum Encoder. Stellen Sie sich vor, das „Query“-Netzwerk ist ein Student, der schnell lernt, und das „Key“-Netzwerk ist ein Lehrer, der sich langsam aktualisiert. Der Lehrer ist lediglich ein glatter, langsam bewegender Durchschnitt des Studenten. Dies verhindert, dass das System durch plötzliche Änderungen verwirrt wird, und hilft dabei, die „Gruppen“ (Cluster) über die Zeit stabil zu halten.

Um sicherzustellen, dass die Gruppen nicht in ein schlechtes Muster geraten (wie etwa alle Bilder in einem einzigen riesigen Haufen zu sammeln), verwendeten sie eine „Queue“ (Warteschlange) von Bildern, um die Zentren der Gruppen zu berechnen. Sie setzten diese Gruppen auch alle 1.000 Schritte zurück, um alles frisch und ausgewogen zu halten.

Die Ergebnisse: Funktioniert es?

Das Team testete ihre Methode, indem es prüfte, wie gut der Computer Bilder sortieren konnte, ohne Hilfe. Sie verglichen CueCo mit anderen Top-Methoden wie MoCo-v2, SimCLR und BYOL.

• Bei CIFAR-10 erreichte CueCo eine Genauigkeit von 91,40 %. Dies liegt sehr nah an den Spitzenreitern und zeigt, dass es einfache Aufgaben gut bewältigen kann.
• Bei CIFAR-100 erreichte es 68,56 %.
• Bei ImageNet-100 erzielte es 78,65 %.

Doch die wahre Magie geschah bei der unüberwachten Bildklassifizierung. Normalerweise machen Computer, die Dinge einfach nur ohne Labels gruppieren, einen mittelmäßigen Job. CueCo jedoch zeigte, dass es Bilder viel besser gruppieren kann als andere. Bei CIFAR-10 erreichte es eine Clustering-Genauigkeit von 75,06 % und schlug damit die re-implementierten Versionen von MoCo-v2 (63,51 %) und SimCLR (74,50 %). Bei CIFAR-100 erzielte es 33,82 % und übertraf damit erneut die Konkurrenz.

Die Forscher führten auch eine „Ablationsstudie“ durch, was so ist, als würde man eine Maschine auseinandernehmen, um zu sehen, welches Teil was bewirkt. Sie fanden heraus, dass:

• Die Verwendung nur des „Push“ (kontrastiver Loss) eine gute Basis lieferte.
• Das Hinzufügen des „Pull“ (Centroid Loss) die Gruppierung verbesserte.
• Das Hinzufügen der „Dichte“ (Variance Loss) die Ergebnisse nochmals besser machte.

Dies bewies, dass alle drei Teile ihres „Push-Pull“-Systems notwendig sind, um die besten Ergebnisse zu erzielen.

Warum das wichtig ist

Das Paper legt nahe, dass wir durch die Kombination dieser beiden Kräfte visuelle Repräsentationen schaffen können, die sowohl unterscheidbar (leicht voneinander zu trennen) als auch organisiert (leicht zu gruppieren) sind. Das ist eine große Sache, denn es bedeutet, dass wir vielleicht nicht so viele vom Menschen beschriftete Beispiele benötigen, um Computern das Sehen beizubringen. Die Methode behauptet nicht, das Problem der KI vollständig gelöst zu haben, aber sie bietet eine vielversprechende neue Richtung. Sie zeigt, dass ein wenig „Push“ und ein wenig „Pull“ einem Computer helfen können, die Welt auf eine Weise zu verstehen, die sowohl breit gefächert als auch detailliert ist – und das alles, ohne dass ein einziger Mensch sagen muss: „Das ist eine Katze.“