🤖 AI

Cluster Contrast for Unsupervised Visual Representation Learning

Het artikel introduceert Cluster Contrast (CueCo), een nieuwe methode voor ongecontroleerd visueel representatie-leren die contrastief leren en clustering-doelstellingen synergetisch combineert om gelijktijdig ongelijke kenmerken te verspreiden en gelijke kenmerken uit te lijnen, waarmee het een state-of-the-art prestatie bereikt op de CIFAR- en ImageNet-benchmarks.

Oorspronkelijke auteurs: Nikos Giakoumoglou, Tania Stathaki

Gepubliceerd 2026-07-30

📖 7 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Nikos Giakoumoglou, Tania Stathaki

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een robot probeert te leren dieren te herkennen, maar je hebt een berg foto's en nul labels. Je kunt de robot niet vertellen: "dit is een kat" of "dit is een hond." Dit is de wereld van unsupervised learning (ongesuperviseerd leren), een tak van kunstmatige intelligentie waarbij computers proberen de patronen van de wereld zelfstandig te begrijpen, zonder een leraar die naar dingen wijst. Om dit te doen, gebruiken onderzoekers twee belangrijke trucs. De eerste is contrastive learning, wat lijkt op het leren aan een kind om verschillen te zien: "Deze foto is niet die andere foto." Het dwingt de computer om verschillende dingen in zijn geest uit elkaar te duwen zodat ze niet door elkaar worden gehaald. De tweede truc is clustering, wat lijkt op het sorteren van een rommelige stapel wasgoed. De computer kijkt naar alle sokken en shirts en probeert de vergelijkbare items bij elkaar te groeperen, zelfs als hij nog niet weet wat ze worden genoemd. Lange tijd werkten deze twee trucs in aparte kamers, maar wetenschappers vro wonderden zich af: wat als we ze samen in dezelfde kamer konden laten werken om een superintelligent begrip van afbeeldingen te creëren?

Maak kennis met CueCo (Cluster Contrast), een nieuwe methode voorgesteld door onderzoekers Nikolaos Giakoumoglou en Tania Stathaki van Imperial College London. Denk aan CueCo als een meesterchoreograaf voor een drukke dansvloer. In het verleden gaven dansinstructeurs (algoritmen) ofwel de opdracht aan iedereen om zo ver mogelijk uit elkaar te gaan staan (contrastive learning), ofwel de opdracht om in dichte groepjes bij elkaar te kruipen (clustering). CueCo doet beide tegelijkertijd. Het gebruikt een "duw-trek"-dynamiek, vergelijkbaar met magneten. Het duwt verschillende soorten dansers (zoals katten en honden) ver uit elkaar zodat ze niet botsen, terwijl het tegelijkertijd dansers van hetzelfde type (alle katten) naar een nauwe, gezellige cirkel trekt.

De onderzoekers bouwden een systeem met twee neurale netwerken: een "query"-netwerk dat leert en een "key"-netwerk dat langzaam beweegt, als een schaduw die de leerling volgt. Ze testten dit op drie beroemde beelddatasets: CIFAR-10, CIFAR-100 en ImageNet-100. De resultaten waren indrukwekkend. Wanneer ze het leren bevroren en simpelweg een eenvoudige classifier vroegen om de afbeeldingen te sorteren, behaalde CueCo een nauwkeurigheid van 91,40% op CIFAR-10, 68,56% op CIFAR-100 en 78,65% op ImageNet-100. Deze cijfers plaatsen het direct bij de beste methoden die momenteel beschikbaar zijn, wat bewijst dat het mengen van de "duw" van contrast met de "trek" van clustering een meer georganiseerde en nuttige kaart van de visuele wereld creëert.

De Magie van de Duw en de Trek

Om te begrijpen hoe CueCo werkt, stel je voor dat je een enorme bibliotheek organiseert waar alle boeken door elkaar liggen en je de titels niet kent. Je hebt twee doelen: zorg ervoor dat geen twee verschillende boeken op elkaar lijken, en zorg ervoor dat alle exemplaren van hetzelfde boek netjes op elkaar gestapeld liggen.

De Duw (Contrastive Learning)
Eerst neemt CueCo een foto en maakt daar twee licht verschillende versies van, zoals het maken van een foto van een kat, en dan die foto bijsnijden en iets draaien. Het vertelt de computer: "Deze twee weergaven zijn dezelfde kat." Maar het kijkt ook naar foto's van honden en zegt: "Deze zijn totaal anders." Gebruikmakend van een wiskundige regel genaamd InfoNCE loss, werkt het systeem als een afstotende kracht. Het duwt de "kat"-kenmerken weg van de "hond"-kenmerken in de geheugenruimte van de computer. Dit zorgt ervoor dat als de computer opnieuw een kat ziet, hij niet per ongeluk denkt dat het een hond is. Het spreidt de verschillende klassen uit, waardoor ze onderscheidend worden.

De Trek (Clustering)
Maar alleen dingen uit elkaar spreiden is niet genoeg; je moet ook de vergelijkbare dingen groeperen. Hier komt de "trek" in beeld. Omdat de computer geen echte labels heeft, raadt hij welke foto's bij elkaar horen door te zoeken naar patronen. Hij creëert "clusters" of groepen. CueCo werkt vervolgens als een aantrekkende kracht, die alle foto's van hetzelfde type dichter bij elkaar trekt in een compacte bal. Hiervoor gebruikt het twee specifieke instrumenten:

Centroid Contrastive Loss: Dit zorgt ervoor dat elke foto is uitgelijnd met het "zwaartepunt" van zijn groep. Het is also als controleren of elke katfoto precies naast het denkbeeldige "Kat-Centrum" staat.
Variance Loss: Dit zorgt ervoor dat de groep niet slechts een losse wolk is, maar een compacte, strakke bal. Het minimaliseert de afstand tussen de foto's en hun groepscentrum, wat ervoor zorgt dat de "katten" dicht bij elkaar gekluisterd zijn en niet verspreid liggen.

De Dynamiek van de Dansvloer
De paper visualiseert dit als krachten in de natuurkunde. Het contrastieve deel is een afstotende kracht (zoals twee noordpolen van een magneet die elkaar wegduwen), wat voorkomt dat verschillende klassen samensmelten. Het clustering-deel is een aantrekkende kracht (zoals tegenovergestelde polen die elkaar aantrekken), wat ervoor zorgt dat dezelfde klasse compact blijft. Het doel is om een perfect evenwicht te bereiken waarbij de "katten-groep" ver weg is van de "honden-groep", maar elke enkele kat de hand vasthoudt van elke andere kat.

Hoe Ze Het Deden

De onderzoekers hebben niet zomaan wat geraden; ze bouwden een specifiek framework. Ze gebruikten een ResNet-18 backbone, een standaard, betrouwbare structuur voor beeldherkenning. Ze trainden dit op drie datasets:

CIFAR-10: 10 soorten kleine afbeeldingen.
CIFAR-100: 100 soorten kleine afbeeldingen.
ImageNet-100: Een subset van 100 soorten uit een veel grotere, complexere dataset.

Ze gebruikten een slimme truc genaamd een momentum encoder. Stel je voor dat het "query"-netwerk een student is die snel leert, en het "key"-netwerk een docent is die langzaam beweegt. De docent is slechts een vloeiend, langzaam bewegend gemiddelde van de student. Dit voorkomt dat het systeem in de war raakt door plotselinge veranderingen en helpt om de "groepen" (clusters) stabiel te houden over de tijd.

Om te voorkomen dat de groepen vast kwamen te zitten in een slecht patroon (zoals alle foto's in één grote hoop stoppen), gebruikten ze een "queue" (wachtrij) van afbeeldingen om de centra van de groepen te berekenen. Ze resetten deze groepen ook elke 1.000 stappen om de boel fris en gebalanceerd te houden.

De Resultaten: Werkt het?

Het team testte hun methode door te kijken hoe goed de computer afbeeldingen kon sorteren zonder hulp. Ze vergeleken CueCo met andere topmethoden zoals MoCo-v2, SimCLR en BYOL.

Op CIFAR-10 bereikte CueCo een nauwkeurigheid van 91,40%. Dit ligt heel dicht bij de toppresteerders, wat aantoont dat het eenvoudige taken goed kan afhandelen.
Op CIFAR-100 haalde het 68,56%.
Op ImageNet-100 behaalde het 78,65%.

Maar de echte magie gebeurde bij unsupervised image classification. Normaal gesproken doen computers die simpelweg dingen groeperen zonder labels, een matig werk. CueCo liet echter zien dat het afbeeldingen veel beter kon groeperen dan de anderen. Op CIFAR-10 behaalde het een clustering-nauwkeurigheid van 75,06%, waarmee het de geherimplementeerde versies van MoCo-v2 (63,51%) en SimCLR (74,50%) versloeg. Op CIFAR-100 scoorde het 33,82%, waarmee het wederom de concurrentie versloeg.

De onderzoekers voerden ook een "ablatie-studie" uit, wat vergelijkbaar is met het uit elkaar halen van een machine om te zien welk onderdeel wat doet. Ze ontdekten dat:

Het gebruik van alleen de "duw" (contrastive loss) een goede basis vormde.
Het toevoegen van de "trek" (centroid loss) de groepering verbeterde.
Het toevoegen van de "compactheid" (variance loss) de resultaten nog beter maakte.

Dit bewees dat alle drie de onderdelen van hun "push-pull"-systeem noodzakelijk zijn om de beste resultaten te behalen.

Waarom Dit Belangrijk Is

De paper suggereert dat door deze twee krachten te combineren, we visuele representaties kunnen creëren die zowel onderscheidend (makkelijk uit elkaar te houden) als georganiseerd (makkelijk te groeperen) zijn. Dit is een grote zaak omdat het betekent dat we misschien niet zoveel menselijke gelabelde voorbeelden nodig hebben om computers te leren hoe ze moeten zien. De methode beweert niet dat het het probleem van AI volledig heeft opgelost, maar het biedt een veelbelovende nieuwe richting. Het laat zien dat een beetje "duw" en een beetje "trek" een computer kan helpen de wereld te begrijpen op een manier die zowel breed als gedetailleerd is, en dat allemaal zonder dat er een menselijke leraar is die zegt: "Dat is een kat."

Technische Samenvatting: Cluster Contrast voor Unsupervised Visuele Representatie-leren

Probleemstelling
Unsupervised visuele representatie-leren streeft ernaar om betekenisvolle kenmerken te extraheren uit niet-gelabelde data, waarbij het prestatieverschil met gesuperviseerde technieken wordt verkleind. Hoewel contrastief leren state-of-the-art resultaten heeft bereikt door elke afbeelding en de bijbehorende augmentaties als afzonderlijke klassen te behandelen (met een focus op intra-afbeelding invariantie), richt het zich primair op het verspreiden van kenmerken om inter-klasse scheiding te waarborgen. Daarentegen verkennen clustering-gebaseerde methoden de gelijkenissen tussen verschillende afbeeldingen om groepen te vormen, maar lijden zij vaak onder vertragingen in supervisiesignalen of statische clustering-to assignments die niet kunnen adapteren aan evoluerende datakenmerken tijdens de training. De uitdaging ligt in het effectief combineren van de discriminerende kracht van contrastief leren met de cohesieve groeperingsmogelijkheden van clustering om feature-representaties te verfijnen zonder handmatige annotaties.

Methodologie: Cluster Contrast (CueCo)
De auteurs stellen Cluster Contrast (CueCo) voor, een self-supervised framework dat contrastief leren en feature-ruimte clustering integreert via een "push-pull" dynamiek. De architectuur maakt gebruik van twee neurale netwerken: een query encoder ( $f_\theta$ ) en een key encoder ( $f_\xi$ ), waarbij de key encoder wordt bijgewerkt via een slow-moving average van de parameters van de query encoder.

Het framework optimaliseert de feature-ruimte met behulp van drie onderscheidende verliescomponenten:

Contrastive Loss ( $L_1$ ): Gebaseerd op de InfoNCE-criterium, fungeert deze component als een "repulsive force" (afstotende kracht). Het trekt positieve paren (geaugmenteerde weergaven van dezelfde afbeelding) naar elkaar toe en duwt negatieve samples (weergaven van verschillende afbeeldingen) uit elkaar. Dit zorgt ervoor dat afzonderlijke klassen goed gescheiden zijn in de feature-ruimte.
Centroid Contrastive Loss ( $L_2$ ): Deze component fungeert als een "attractive force" (aantrekkende kracht) op cluster-niveau. Na het toewijzen van features aan pseudo-clusters (via K-means op een queue), brengt deze loss de features in lijn met hun toegewezen cluster-centroid, terwijl ze weg worden geduwd van andere centroids. Dit verfijnt de granulariteit van de representaties.
Variance Loss ( $L_3$ ): Dit objectief minimaliseert de gekwadrateerde Euclidische afstand tussen features en hun cluster-centroids, geschaald door de variantie van de cluster. Het zorgt ervoor dat features niet alleen uitlijnen met de centroids, maar ook voldoen aan de algehele distributie van de cluster, wat intra-klasse compactheid en uniformiteit bevordert.

Online Clustering Mechanisme
Om de computationele inefficiëntie en het statische karakter van offline clustering (bijv. het uitvoeren van K-means aan het einde van elke epoch) aan te pakken, gebruikt CueCo een online momentum grouping scheme. In plaats van de gehele dataset opnieuw te clusteren, houdt de methode een queue van features bij. Cluster-centroids ( $c_i$ ) en varianties ( $\sigma^2_i$ ) worden continu bijgewerkt bij elke iteratie met behulp van een momentum-gebaseerde aanpak (vergelijkbaar met de update van de key encoder). Dit stelt de clustering-structuur in staat om dynamisch te adapteren aan de meest recente visuele kenmerken van de data, wat zorgt voor stabiele gradiëntpropagatie.

De uiteindelijke objectief-functie is een gewogen som van deze losses:
$L = \lambda_1 \cdot L_1 + \lambda_2 \cdot L_2 + \lambda_3 \cdot L_3$

Belangrijkste Bijdragen
Het paper zet drie primaire bijdragen uiteen:

Nieuw Dual-Mechanism Framework: Introductie van CueCo, dat "push-pull" dynamiek gebruikt om simultaan zowel inter-klasse scheiding (via contrastive loss) als intra-klasse cohesie (via feature-ruimte clustering losses) te optimaliseren.
Theoretische Analyse: Een uitgebreide analyse die aantoont hoe de integratie van contrastieve loss met feature-ruimte clustering de feature-representatie coherent versterkt.
Empirische Prestaties: Demonstratie van state-of-the-art prestaties op standaard benchmarks, wat de effectiviteit van de voorgestelde methode valideert.

Experimentele Resultaten
De auteurs evalueerden CueCo met een ResNet-18 backbone met lineaire evaluatieprotocollen en unsupervised image classification taken op CIFAR-10, CIFAR-100 en ImageNet-100.

Linear Evaluation (Top-1 Accuracy):
- CIFAR-10: 91.40%
- CIFAR-100: 68.56%
- ImageNet-100: 78.65%
  Deze resultaten zijn competitief met andere state-of-the-art methoden zoals MoCo-v3, BYOL en DINO, zoals getoond in Tabel 1 van het paper.
Unsupervised Clustering Metrics:
Op CIFAR-10 en CIFAR-100 presteerde CueCo beter dan de geherimplementeerde versies van MoCo-v2 en SimCLR op alle standaard metrieken: Normalized Mutual Information (NMI), Adjusted Mutual Information (AMI), Adjusted Rand Index (ARI) en Clustering Accuracy (ACC). Bijvoorbeeld, op CIFAR-10 behaalde CueCo een clustering accuracy van 75.06% vergeleken met 74.50% voor SimCLR.
Ablatie Studies:
Experimenten op CIFAR-100 bevestigden dat hoewel contrastieve loss alleen een sterke baseline biedt, de toevoeging van centroid contrastive loss de clustering-metrieken verbetert, en de inclusie van de variance loss zowel de lineaire evaluatie als de unsupervised classificatie prestaties verder versterkt.

Betekenis en Claims
Het paper claimt dat CueCo een nieuwe richting zet voor de vooruitgang van unsupervised visuele representatie-leren door succesvol de sterke punten van contrastief leren en clustering te integreren. Door de "repulsive" krachten van contrastief leren te balanceren met de "attractive" krachten van clustering, produceert de methode meer discriminerende representaties met een verbeterde klassenstructuur zonder dat er gelabelde data nodig is. De auteurs benadrukken dat deze aanpak effectief zowel de "scatter" als de "align" van feature-representaties tegelijkertijd realiseert, wat leidt tot robuuste modellen die uitblinken, met name in unsupervised image classification metrieken.

De Magie van de Duw en de Trek

Hoe Ze Het Deden

De Resultaten: Werkt het?

Waarom Dit Belangrijk Is

Technische Samenvatting: Cluster Contrast voor Unsupervised Visuele Representatie-leren

Meer zoals dit