Beyond Routing: Characterising Expert Tuning and Representation in Vision Mixture-of-Experts

Technische Samenvatting: Voorbij Routing: Karakterisering van Expert-Tuning en Representatie in Vision Mixture-of-Experts

Probleemstelling
Mixture-of-Experts (MoE)-modellen worden steeds vaker toegepast in deep learning en bieden interpretabiliteit door taken te partitioneren in distincte subnetwerken (experts). Echter, de huidige inspanningen op het gebied van interpretabiliteit in vision MoE's zijn voornamelijk beperkt tot het analyseren van routingstatistieken (bijvoorbeeld gating-weights, toewijzingen van token naar expert, of class-based heatmaps). De auteurs betogen dat routingbeslissingen dienen als een proxy voor specialisatie, maar niet onthullen wat de experts daadwerkelijk coderen. Bestaande literatuur gaat er vaak van uit dat experts zijn afgestemd op discrete semantische categorieën (bijvoorbeeld "dieren" of "voertuigen"), uitsluitend gebaseerd op welke inputs ze ontvangen. Deze benadering negeert de interne feature-tuningprofielen en de representatieve geometrie van de experts zelf, waardoor de aard van expert-specialisatie slecht begrepen blijft.

Methodologie
Om dit aan te pakken, trainden de auteurs spaarzaam-gated convolutionele MoE-modellen (MoE-CNN's) met een zelftoezichtend contrastief doel (NT-Xent loss) op het ongelabelde STL10-dataset. Dit trainingsregime voorkomt dat vooraf gedefinieerde categorische structuren in het leersignaal worden ingebakken, waardoor data-gedreven visuele feature-specialisatie op natuurlijke wijze kan ontstaan.

• Architectuur: Het model maakt gebruik van een ResNet-ruggengraat waarbij de eerste drie blokken worden gedeeld. Een gating-netwerk routeert vervolgens inputs naar $k=2$ experts die worden geselecteerd uit een pool van $E \in \{4, 8, 16\}$ experts. Om te controleren voor het aantal parameters, wordt de kanaalbreedte van experts geschaald met $1/\sqrt{E}$, zodat het totale aantal parameters constant blijft (~46M) over alle configuraties.
• Analysegereedschappen: De studie breidt de analyse uit van gating-niveau naar expert-niveau en van categorieniveau naar feature-niveau met behulp van tools uit de visuele neurowetenschap:
  1. Meest Opwindende Inputs (MEI's): Visualiseren van inputs die de $L_2$-norm van de readout-embedding van een expert maximaliseren.
  2. THINGS Dataset: Gebruik maken van het THINGS-dataset (1.854 objectconcepten) en het bijbehorende THINGS Similarity-dataset (66 op menselijk gedrag gebaseerde visuele en semantische dimensies) als een out-of-distribution (OOD) probe.
  3. Regressieanalyse: Aanpassen van niet-negatieve Lasso-regressies om gating-logits en readout-magnitudes te voorspellen vanuit de 66 THINGS-dimensies, teneinde continue tuningprofielen te identificeren.
  4. Representational Similarity Analysis (RSA): Berekenen van paarwijze categorische scheidbaarheid en tweede-orde RSA om de stabiliteit van representatieve geometrieën te beoordelen over 10 onafhankelijk getrainde modellen (verschillende random seeds).

Belangrijkste Bijdragen

1. Voorbij Routing: De auteurs demonstreren dat routingstatistieken expert-codering systematisch verkeerd karakteriseren. Ze tonen aan dat, terwijl routing suggereert dat er sprake is van spaarzame, categorische voorkeuren, de werkelijke expert-tuning breder is en gedreven wordt door continue dimensies.
2. Voorbij Categorieën: Door gebruik te maken van het THINGS-dataset, ontrafelt de studie expert-tuning van de categorische structuur van het trainingsdataset. Het herstelt interpreteerbare, continue tuningprofielen gebaseerd op semantische en visuele dimensies (bijvoorbeeld "metaalachtig", "spits", "dier-gerelateerd") in plaats van discrete klassen.
3. Representatieve Stabiliteit: Het artikel identificeert dat specifieke representatieve motieven (met name het onderscheid tussen levend en niet-levend) betrouwbaar opnieuw ontstaan over onafhankelijke modelinitialisaties heen, wat suggereert dat dit robuuste organisatorische principes zijn in plaats van willekeurige artefacten.

Resultaten

• Divergentie tussen Routing en Tuning: Routinganalyses op het STL10-testset suggereerden dat experts gespecialiseerd waren in grove categorieën (bijvoorbeeld vrachtwagens, vogels). Echter, MEI-analyse en regressie op het THINGS-dataset onthulden dat experts vaak waren afgestemd op laag-niveau beeldstatistieken (bijvoorbeeld korreligheid, ruimtelijke frequentie) of specifieke continue features (bijvoorbeeld "metaalachtig", "herhalend/spits") die niet overeenkwamen met de categorische labels die door routing werden gesuggereerd.
• Mismatch tussen Gating en Readout: Er was geen lineair verband tussen gating-logits (wat naar een expert wordt gerouteerd) en readout-activatiemagnitudes (wat de expert daadwerkelijk codeert). Experts transformeren hun gerouteerde inputs, ontdekken en versterken features die verschillen van die welke worden gebruikt voor routing.
• Dominantie van Animatie: Ondanks diverse feature-tuning, domineerde een binair onderscheid tussen levend en niet-levend de expert-partitionering. Dit was zichtbaar in gating, readout en representatieve geometrie. Deze splitsing was stabiel over alle modelconfiguraties heen ($E=4, 8, 16$) en onafhankelijke initialisaties.
• Gedeelde Geometrie, Distincte Implementatie: Hoewel experts distincte feature-tuning vertoonden (MEI's), waren hun representatieve geometrieën (categorische scheidbaarheid) opvallend vergelijkbaar. Dit geeft aan dat functioneel equivalente structuren op categorieniveau kunnen worden gerealiseerd via distincte responspatronen op populatieniveau.

Betekenis en Claims
Het artikel claimt dat expert-specialisatie in vision MoE's beter wordt begrepen niet als spaarzame tuning naar discrete categorische klassen, maar als spaarzame tuning naar continue, gedragsrelevante dimensies.

• Herverkadering van Interpretabiliteit: De auteurs betogen dat het overstijgen van routing om fijnmazige expert-niveau tuning en representatieve structuur te onderzoeken, een accurater beeld geeft van wat MoE's leren.
• Neurowetenschappelijke Parallel: De bevindingen sluiten aan bij hedendaagse accounts van gedistribueerde tuning in de menselijke ventrale visuele cortex, waarbij "expert"-gebieden (zoals de FFA of PPA) breed gevoelig zijn voor continue dimensies (bijvoorbeeld animatie, grootte, textuur) in plaats van puur categoriek selectief te zijn.
• Stabiliteit: Het herwinnen van de levend-niet-levend-partitie over onafhankelijke runs heen suggereert dat visuele systemen (zowel biologisch als kunstmatig) worden beperkt door de statistische structuur van natuurlijke beelden, wat leidt tot consistente organisatorische assen.

De auteurs blijven bescheiden wat de reikwijdte betreft, en merken op dat hun bevindingen gebaseerd zijn op zelftoezichtend leren op een relatief klein dataset (STL10) en dat resultaten kunnen verschillen bij grootschalige industriële MoE's of andere trainingsdoelen. Ze stellen echter dat MoE-modellen een computationeel kader bieden voor het onderzoeken waarom visuele features zoals ze zijn verspreid over de cortex.