Is Class Signal Clustered or Routed in Task-Induced Implicit Neural Representation Weight Spaces?

Technische Samenvatting: Is het Class-signaal Geclusterd of Gerouteerd in door Taak Geïnduceerde Implicit Neural Representation Gewichtsruimten?

Probleemstelling
Implicit Neural Representations (INRs) coderen afbeeldingen als de parameters (gewichten) van neurale netwerken, waardoor afbeeldingsclassificatie wordt omgezet in een probleem van classificeerbaarheid in de gewichtsruimte. Een heersende geometrische hypothese suggereert dat classifier-feedback de afbeeldingsspecifieke gewichten zou moeten organiseren in distincte, op de klasse afgestemde clusters binnen een gedeelde coördinatenruimte (specifiek, een residuele coördinaat ten opzichte van een gedeelde initialisatie). Als dit waar is, zouden de ruwe geometrische eigenschappen van deze gewichten (bijvoorbeeld consistentie van de dichtstbijzijnde buren, spectrale structuur) direct moeten correleren met de classificatie-accuraatheid. Dit artikel onderzoekt of door taak geïnduceerde INR-gewichten inherent "geclusterd" zijn per klasse in hun native geometrie, of dat classificeerbaarheid in plaats daarvan "gerouteerd" wordt via het downstream leesmecanisme.

Methodologie
De auteurs maken gebruik van het Meta Weight Transformer (MWT)-kader, dat meta-leert een gedeelde SIREN (Sinusoidal Representation Network) initialisatie en een inner-loop update-schema. In dit regime worden afbeeldingsspecifieke SIREN's gefit via een paar gradiëntstappen vanuit een gedeelde anker $\theta$, wat een residuele coördinaat oplevert $\Delta_x = \phi_x - \theta$. Een getrainde lezer classificeert vervolgens deze gewichten.

De studie contrasteert twee concurrerende hypothesen:

1. Geclusterde Hypothese: Klasse-informatie wordt direct geschreven in de verankerde coördinaat. Daarom zouden blootgelegde geometrische diagnostische middelen (consistentie van de dichtstbijzijnde buren, componentsamenvattingen, spectrale statistieken) monotoon moeten volgen met de accuratuur van de getrainde lezer. Supervised clustering-druk (bijvoorbeeld Center Loss) zou zowel de lokale geometrie als de prestaties van de lezer moeten verbeteren.
2. Gerouteerde Hypothese: Klasse-informatie bestaat in de gewichten, maar is niet gerangschikt als eenvoudige metriekclusters in de ruwe coördinaat. In plaats daarvan construeert de lezer op de klasse afgestemde geometrie via token-interacties. Classificeerbaarheid hangt af van specifieke, gerouteerde kanalen binnen de verrijkte gewichtstokens in plaats van een globale geometrische structuur.

De auteurs maken gebruik van een reeks diagnostische middelen en interventies:

• Kloof tussen Geometrie en Accuraatheid: Zij meten de blootgelegde coördinatie-geometrie (bijvoorbeeld 5-NN-klasseconsistentie) tegenover de Top-1-accuraatheid van de getrainde lezer onder verschillende trainingsdrukken (geclusterd versus niet-geclusterd).
• Token-Flow Diagnostiek: Zij traceren klasse-consistente buurten van de lezer-input door opeenvolgende transformer-blokken om te identificeren waar de klassestructuur leesbaar wordt.
• Causale Interventies: Zij richten zich op specifieke coördinaten binnen de verrijkte token, specifiek de SIREN bias-entry ($b$), om te testen of deze dient als een causale uitleesroute.
• Functie-Respons Controles: Zij vergelijken de gewicht-lezer met een "functie-respons lezer" die classificeert op basis van schaarse SIREN-outputs zonder toegang tot gewichten, om de mogelijkheid uit te sluiten dat de lezer louter de gerealiseerde functie exploiteert in plaats van de gewichtsgeometrie.

Belangrijkste Resultaten

1. De Geometrie–Classificeerbaarheid Kloof: De blootgelegde ruwe coördinatie-geometrie voorspelt de accuratuur van de getrainde lezer niet betrouwbaar. Cruciaal is dat het toepassen van "cluster-druk" (supervised compactheidsverliezen) de consistentie van lokale buurten verbetert (bijvoorbeeld de 5-NN-accuratuur stijgt), maar de Top-1-accuratuur van de getrainde lezer verlaagt. Deze ontkoppeling weerlegt het idee dat ruwe geometrische clustering de primaire drijver is van classificeerbaarheid.
2. Constructie van Geometrie door de Lezer: Op de klasse afgestemde buurten zijn niet aanwezig bij de lezer-input. Token-flow diagnostiek toont aan dat de consistentie van de dichtstbijzijnde buren per klasse pas significant stijgt in late lezer-stadia (bijvoorbeeld blok $h^{(9)}$), wat aangeeft dat de lezer actief op de klasse afgestemde representaties construeert in plaats van deze te erven van de input-coördinaat.
3. De Bias-Column Route: De auteurs identificeren de SIREN bias-coördinaat ($b$) binnen de verrijkte token als een compacte, causale uitleesroute. Interventies die de $b$-coördinaat neutraliseren of shuffle-en veroorzaken significante dalingen in accuratuur (13,5–20,3 pp), terwijl overeenkomstige interventies op gewicht-coördinaten ($W$) verwaarloosbare effecten hebben. De bias-route is steekproefafhankelijk en onderscheidt zich van geleerde positionele verschuivingen.
4. Niet-Additieve Interventies: Interventies die zich richten op het routeermecanisme (bijvoorbeeld expliciete bias-route lezers, stochastisch-fit routing) presteren vaak beter dan de baseline, maar hun winsten zijn niet additief samenvoegbaar. Dit suggereert dat de winsten afhankelijk zijn van de specifieke staat van de lezer en de interactie van routes, in plaats van onafhankelijke modulaire verbeteringen te zijn.
5. Beperkingen van Functie-Respons: Een lezer die alleen schaarse functie-responsen gebruikt (zonder toegang tot gewichten) slaagt er niet in de door de emitter behaalde rangschikking te reproduceren die door de gewicht-lezer wordt bereikt. Dit bevestigt dat de gewicht-lezer afhankelijk is van specifieke gewicht-tokenstructuren (zoals de bias-route) in plaats van alleen de output van de functie.

Belangrijkste Bijdragen

1. Geclusterd-vs-Gerouteerde Formulering: Het artikel vestigt een formele onderscheiding tussen classificeerbaarheid als een geërfd geometrisch eigenschap van gewichten versus een geconstrueerd eigenschap van de tokenverwerking van de lezer.
2. Geometrie–Classificeerbaarheid Kloof: Het demonstreert dat de blootgelegde coördinatenstructuur (zelfs wanneer deze compact wordt gedwongen) het gedrag van de getrainde lezer niet verklaart, wat de aanname uitdaagt dat gewichtsruimte-leren rust op ruwe metriekgeometrie.
3. Lezer-Routing Rekening: Het lokaliseert een specifiek, voor de lezer zichtbaar mechanisme (de SIREN bias-kolom) dat fungeert als een causale, laag-dimensionale route voor class-signalen, gevalideerd door gerichte interventies en controles.

Betekenis en Claims
Het artikel concludeert dat in door taak geïnduceerde globale SIREN-gewichtsruimten class-signalen gerouteerd zijn in plaats van geclusterd. De auteurs betogen dat bruikbare klassestructuur geen intrinsieke eigenschap is van ruwe metriek-buurten of ondiepe probes in de native coördinaat. In plaats daarvan construeert de getrainde lezer op de klasse afgestemde geometrie via late-stadium token-interacties, waarbij specifieke kanalen zoals de SIREN bias-entry worden gebruikt als causale uitleesroutes.

De betekenis ligt in het verschuiven van de focus van gewichtsruimte-leren van het zoeken naar ruwe geometrische clusters naar het begrijpen van de mechanismen van uitlezen. De bevindingen suggereren dat interventies moeten richten op de routeerpaden en lezer-staten die klasse-informatie bruikbaar maken, in plaats van te proberen ruwe geometrische compactheid af te dwingen in de gewichtscoördinaten. De auteurs blijven bescheiden, met de opmerking dat hun claims specifiek zijn voor het MWT-regime en door taak geïnduceerde globale SIREN-ruimten, en niet noodzakelijkerwijs generaliseren naar alle INR-architecturen of kwotiënt-ruimte-geometrieën.