Technische Samenvatting: Speelgoed Combinatorische Interpretabele Modellen Onthullen Loterijbiljetten in Vroege Kenruimte

Probleemstelling

De Loterijbiljet-hypothese (LTH) stelt dat dichte neurale netwerken sparsere subnetwerken bevatten ("winnende biljetten") die, wanneer teruggespoeld naar hun initiële gewichten en geïsoleerd opnieuw getraind, de prestaties van het volledige model evenaren. Hoewel eerdere werken het bestaan van deze biljetten hebben vastgesteld en de voorwaarden voor hun ontdekking hebben verfijnd (bijvoorbeeld door teruggespoeld te worden naar iets latere checkpoints), blijft een mechanische vraag onbeantwoord: Welk intern object behoudt een winnend biljet?

Bestaande verklaringen suggereren dat biljetten een "gelukkige" set gewichten, een specifiek masker of een gunstig optimalisatiebekken behouden. Echter, in standaard diepe netwerken zijn de verborgen representaties te ondoorzichtig om precies te bepalen welk structureel object het masker correspondeert. Dit artikel vraagt zich af of het biljet een specifiek kenruimte-schavot behoudt dat sparsere training toestaat om de benodigde berekening opnieuw op te bouwen.

Methodologie

De auteurs onderzoeken deze vraag met behulp van een combinatorische, clausule-gestructureerde speelgoedomgeving gebaseerd op een Disjunctieve Normale Vorm (DNF)-detector. Deze omgeving is gekozen omdat deze een interpreteerbare representatie in de kenruimte toestaat met goed gedefinieerde combinatorische afstanden tussen kenmerken.

Modelarchitectuur en Kenruimte

• Opzet: Het model bestaat uit een leerbare lineaire projectie $C_0$, gevolgd door een verborgen laag $W_1$ en een outputlaag $W_2$. Het netwerk berekent $z = W_2 \cdot \text{ReLU}(W_1 C_0 x + b_1) + b_2$.
• Kenruimte ($C_1$): Het centrale object van analyse is $C_1 = W_1 C_0$. Deze matrix vertegenwoordigt de berekening van het netwerk in de kenruimte, waarbij kenmerken worden ontkoppeld van de input-embedding.
• Codes: De taak omvat het detecteren van positief en negatief bewijs voor DNF-clausules. Het model leert specifieke lokale tekenpatronen (codes):
  • 4P: $(+1, +1, +1, +1)$ voor positief bewijs.
  • 3N1P: Eén positief en drie negatieve tekens voor negatief bewijs.
• Metrieken: De auteurs definiëren combinatorische afstanden ($d_\tau$) en marges ($m$) om te meten hoe dicht een lokaal vector bij deze canonieke code-families ligt.

Experimenteel Ontwerp

1. Biljetcyclus: De auteurs simuleren de volledige LTH-cyclus: dichte training $\to$ maskering (pruning) $\to$ teruggespoeld naar initialisatie $\to$ sparsere hertraining.
2. Kenruimte versus Gewichtsruimte: Ze analyseren hoe het toepassen van een masker op de initiële gewichten de initiële toestand van de kenruimte ($C_1$) verandert. Ze tonen aan dat pruning niet slechts een visuele beperking van gewichten is, maar fundamenteel de rijpatronen in de kenruimte verandert.
3. Probes: Het artikel introduceert "mechanisme-geïnspireerde" detectoren die locaties in de kenruimte rangschikken op basis van:
   • Statische Afstand: Nabijheid tot canonieke code-families.
   • Beweging: Eind-differentie-beweging richting codes tijdens vroege dichte training.
   • Compatibiliteit: Het vermijden van overvolle rijen (superpositie).
4. Vergelijkingen: Deze regels voor de kenruimte worden vergeleken met standaard baselines in de gewichtsruimte (SNIP, GraSP, SynFlow, Early-Bird magnitude) en willekeurige sparsere expansies.

Belangrijkste Bijdragen

1. Het Biljet is een Kenruimte-Schavot, Niet Alleen een Masker

Het artikel betoogt dat een winnend biljet geen vaste set gewichten is, maar een familie van compatibele locaties in de kenruimte.

• Herstel op Familieniveau: Sparsere hertraining herstelt vaak de juiste clausule/sjabloonfamilie (bijvoorbeeld 4P), maar op een andere rij dan het dichte model. Het behouden object is dus de code-familie, niet de microscopische rijidentiteit.
• Voorloperlocaties: Winnende biljetten corresponderen met voorloperlocaties in de initiële kenruimte die al (bij initialisatie) dicht bij de uiteindelijke feature-kanaal-codes liggen.

2. Mechanisme van Dichte SGD en Superpositie

Dichte SGD fungeert als een selecteur in de kenruimte:

• Versterking: Het drijft geselecteerde voorloperlocaties naar exacte canonieke codes.
• Afwijzing: Het wijst andere plausibele vroege locaties af, met name die op "volle" rijen (rijen met hoge belasting).
• Concurrentie: Dit geeft aan dat de vorming van biljetten het oplossen van concurrentie onder superpositie omvat, waarbij meerdere kenmerken beperkte representatiedimensies delen. Een biljet is een set locaties die de nabijheid tot finale codes in evenwicht brengt met lage interferentie tussen kenmerken.

3. Pruning Verandert de Initiële Kenruimtestaat

Het toepassen van een masker op de initiële gewichten ($W_1$) verandert de gehele initiële toestand van de kenruimte ($C_1$).

• Het nulzetten van coördinaten buiten het masker verandert het hele rijpatroon in $C_1$.
• Bijgevolg is de "sparsere initialisatie" een nieuwe geprojecteerde toestand van de kenruimte, niet slechts een subset van de dichte initiële staat.
• Een winnend biljet is een familie van locaties in deze nieuwe staat die voldoende vrijheidsgraden overlaat voor sparsere SGD om compatibele codes te reconstrueren.

4. Diagnostische Probes Presteren Beter dan Op Gewichten Gebaseerde Methoden

De auteurs stellen lichtgewicht probes voor gebaseerd op afstand en beweging in de kenruimte.

• Resultaten: In de speelgoedomgeving presteren deze probes in de kenruimte vaak beter dan gevestigde methoden voor het ontdekken van biljetten op basis van gewichten (zoals SNIP of magnitude) in zowel nauwkeurigheid als exacte code-herstel, met name in de vroege stadia van training.
• Beperking: Hoewel regels voor de kenruimte de juiste locaties identificeren, blijft er een "vertaalprobleem" bestaan om deze locaties te implementeren met een sparsere set coördinaten in de gewichtsruimte.

Resultaten

• Behoud van Structuur: OBS (Optimal Brain Surgeon) biljetten behouden aanzienlijk meer van de code-geometrie van het dichte model (ongeveer 53-54% herstel op dezelfde locatie) in vergelijking met willekeurige sparsere expansies (ongeveer 20%).
• Nabijheid van Voorlopers: In de gemaskerde initiële staat plaatsen OBS-biljetten een veel groter deel van de uiteindelijke finale code-locaties op afstand 0 of 1 van hun doelsjablonen in vergelijking met willekeurige maskers. Bijvoorbeeld, in de rewind-staat van epoch 10, bevonden 78,9% van de uiteindelijke finale code-locaties zich binnen één defect, vergeleken met 54,6% voor sparsere willekeurige.
• Dynamiek van Superpositie: Afwijzing van kandidaat-codes is geconcentreerd op zwaar belaste rijen, wat bevestigt dat dichte SGD concurrentie tussen kandidaat-dragers oplost.
• Probe-prestaties: Diagnostiek in de kenruimte (statische afstand + dynamische beweging) leidt in exact code-herstel en presteert concurrerend in nauwkeurigheid tegenover baselines in de gewichtsruimte, wat de hypothese valideert dat vroege biljetstructuur zichtbaar is als geometrie in de kenruimte in plaats van ruwe gewichtsaliciteit.

Betekenis en Claims

Het artikel positioneert zichzelf als een model-organisme-studie in plaats van een voltooide theorie voor alle neurale netwerken.

• Bescheiden Scope: De auteurs stellen expliciet dat hun bevindingen geworteld zijn in een speelgoedomgeving (kleine netwerken die Booleaanse formules berekenen). Ze trekken een analogie met het kankeronderzoek van Judah Folkman: "als je een muis bent en kanker hebt, kunnen we je waarschijnlijk genezen." Evenzo: "als je een klein neurale netwerk bent dat Booleaanse formules berekent, kunnen we je loterijbiljetten waarschijnlijk begrijpen."
• Kerninzicht: De primaire bijdrage is een verschuiving in perspectief: de structuur van het loterijbiljet wordt geregeerd door verborgen geometrie in de kenruimte in plaats van de identiteit van subnetwerken in de gewichtsruimte.
• Toekomstige Richtingen: Het artikel suggereert dat het uitbreiden van deze ideeën naar grotere modellen benaderende kenwoordenboeken of decomposities in de stijl van sparsere auto-encoders kan vereisen. Het benadrukt een open "vertaalprobleem" tussen het selecteren van locaties in de kenruimte en het implementeren ervan met sparsere gewichten.
• Interpreteerbaarheid: Het werk suggereert een nieuw pad in interpretatieonderzoek waar meting in de kenruimte mogelijk is, en dat verder gaat dan ondoorzichtige analyse van de gewichtsruimte om het "schavot" te begrijpen dat sparsere training herbouwt.

Kortom, het artikel biedt een mechanische verklaring voor de Loterijbiljet-hypothese in een gecontroleerde omgeving, en toont aan dat winnende biljetten een kenruimte-schavot van voorloperlocaties behouden die al dicht bij de oplossing liggen, en dat dichte training dient om dit schavot te selecteren en te verfijnen door concurrentie onder superpositie op te lossen.