🤖 machine learning

Shapley Neuron Values for Continual Learning: Which Neurons Matter Most?

Dit artikel introduceert Shapley Neuron Valuation (SNV), een speltheoretisch kader dat kritieke neuronen identificeert en bevriest om effectief bufferloos continu leren mogelijk te maken zonder architecturale uitbreiding, en dat aanzienlijke verbeteringen in nauwkeurigheid bereikt ten opzichte van bestaande methoden op ImageNet-1k.

Oorspronkelijke auteurs: Mohammad Ali Vahedifar, Abhisek Ray, Qi Zhang

Gepubliceerd 2026-05-18

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Mohammad Ali Vahedifar, Abhisek Ray, Qi Zhang

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Probleem: Het "Goudvisgeheugen" van AI

Stel je voor dat je een student (een neurale netwerk) een reeks vakken leert: eerst Wiskunde, dan Geschiedenis, en vervolgens Biologie.

Het Doel: Je wilt dat de student Biologie leert zonder Wiskunde of Geschiedenis te vergeten.
De Realiteit: In traditionele AI zorgt het leren van Biologie er vaak voor dat de student zijn Wiskundecollegestukken "overschrijft". Dit heet Catastrofaal Vergeten. Hoe meer ze leren, hoe meer ze vergeten wat er eerder kwam.

Om dit op te lossen, gebruiken de meeste huidige methoden een van twee trucs:

De "Aantekenboek"-Methode (Geheugen-based): De student houdt een fysiek aantekenboek bij met oude Wiskundeproblemen om te bekijken terwijl hij Biologie leert. Probleem: Dit aantekenboek wordt enorm, neemt ruimte in beslag en kan privé-informatie bevatten die je niet mag bewaren.
De "Rugzak"-Methode (Dynamische Architectuur): De student koopt elke keer dat hij een nieuw vak leert een grotere rugzak. Probleem: Uiteindelijk is de rugzak zo zwaar en groot dat het onmogelijk wordt om hem te dragen.

De Oplossing van het Artikel: De "Shapley Neuronwaarde" (SNV)

Dit artikel stelt een derde manier voor: Het "Slimme Kluis"-Systeem.

In plaats van een grotere rugzak te kopen of een zwaar aantekenboek te dragen, gebruikt de student dezelfde rugzak waarmee hij begon. De truc is om precies uit te vinden welke items in de rugzak essentieel zijn voor welk vak en ze op slot te leggen zodat ze niet verloren kunnen gaan, terwijl andere items vrij blijven om voor nieuwe vakken te worden gebruikt.

Zo doen ze dat:

1. De "Team van Werknemers"-Analogie (Speltheorie)

In het brein van de AI zitten duizenden kleine "werknemers" die Neuronen heten. Wanneer de AI een probleem oplost, werken deze werknemers samen.

De Vraag: Wie is de belangrijkste werknemer voor deze specifieke taak?
Het Hulpmiddel: De auteurs gebruiken een wiskundig concept uit de Coöperatieve Speltheorie genaamd Shapley-waarden.
De Metafoor: Stel je een groep mensen voor die een huis bouwen. Sommige mensen leggen bakstenen, anderen schilderen en sommigen staan gewoon rond. De Shapley-waarde is een eerlijke manier om precies te berekenen hoeveel elke persoon heeft bijgedragen aan het uiteindelijke huis.
- Als je een specifieke werknemer verwijdert en het huis stort in, had die werknemer een hoge waarde.
- Als je een werknemer verwijdert en het huis ziet er hetzelfde uit, had die werknemer nul waarde.

2. De "Invriezen"-Strategie

Zodra de AI een taak leert (zoals Wiskunde), voert het SNV-systeem een snelle berekening uit om te zien welke Neuronen de "sterrenspelers" waren voor Wiskunde.

De Actie: Het legt een bevroren slot op die specifieke sterren-Neuronen. Ze zijn nu "bevroren" en kunnen niet veranderen.
Het Resultaat: Wanneer de AI Geschiedenis leert, kan het alleen de niet-bevroren Neuronen gebruiken. De Wiskunde-Neuronen zijn veilig in hun kluisjes, dus de Wiskundekennis blijft behouden.
Het Voordeel: De AI hoeft nooit oude data op te slaan (geen aantekenboek) en hoeft nooit groter te worden (geen nieuwe rugzak). Het herschikt en vergrendelt gewoon delen van zijn bestaande brein.

3. Waarom Dit Beter Is Dan Andere Methoden

Het artikel vergelijkt dit "Slimme Kluis"-systeem met andere methoden:

Tegenover de "Aantekenboek"-methode (Geheugen-based): SNV hoeft geen oude foto's of data op te slaan. Dit is geweldig voor privacy (geen datalekken) en bespaart opslagruimte.
Tegenover de "Rugzak"-methode (Dynamische Architectuur): SNV voegt geen nieuwe delen toe aan het brein. Het past alles in de oorspronkelijke grootte.
Tegenover de "Blinde Bevriezing" (Andere buffer-vrije methoden): Sommige andere methoden bevriezen gewoon willekeurige delen van het brein of bevriezen op basis van simpele gissingen. SNV gebruikt de "Shapley-waarde"-wiskunde om precies te zijn. Het weet precies welke neuronen het belangrijkst zijn, zodat het niet per ongeluk een neuron bevriest dat nodig is voor de nieuwe taak.

De Resultaten: "De Goudvis die Onthoudt"

De onderzoekers testten dit op enorme beelddatasets (zoals ImageNet, met duizenden soorten afbeeldingen).

De Uitkomst: SNV sloeg consequent andere methoden die geen "aantekenboek" gebruiken.
De Score: In één test verbeterde SNV de nauwkeurigheid met bijna 6,5% ten opzichte van de op één na beste methode die ook geen aantekenboek gebruikte.
De "Nul Vergeten"-Claim: In tests waarbij de AI wist welke taak het uitvoerde (Taak-geïncrmenteerd Leren), bereikte SNV nul vergeten. Het leerde nieuwe dingen zonder oude dingen te verliezen, allemaal zonder één enkel oud beeld op te slaan.

De Haken en Ogen (Beperkingen)

Het artikel geeft toe dat er een kleine kostprijs is. Het berekenen van de "Shapley-waarde" (uitzoeken wie de sterrenwerknemers zijn) kost een beetje extra computer tijd en energie.

De Ruil: Het is alsof je 10 extra minuten besteedt aan een gedetailleerde inventarisatie van je rugzak voor een reis. Het kost iets meer tijd vooraf, maar het zorgt ervoor dat je je sleutels later niet kwijtraakt. Het artikel betoogt dat deze kleine tijdkost het waard is om de enorme kosten van het opslaan van data of het bouwen van grotere modellen te voorkomen.

Samenvatting

Denk aan Shapley Neuronwaarden als een slimme bibliothecaris voor het brein van een AI.
In plaats van oude boeken weg te gooien (vergeten) of een nieuwe bibliotheek te kopen (uitbreiden), identificeert de bibliothecaris de belangrijkste boeken voor het huidige onderwerp, vergrendelt ze in een kluis en laat de AI nieuwe notities schrijven in de lege ruimte. Op deze manier blijft de bibliotheek even groot, maar gaat de kennis nooit verloren.

Technische Samenvatting: Shapley Neuronwaarden voor Continue Learning

1. Probleemstelling

Continue learning (CL) heeft tot doel neurale netwerken in staat te stellen sequentiële taken te leren zonder eerder verworven kennis te vergeten. Echter, standaard neurale netwerken lijden aan catastrofaal vergeten, waarbij het leren van nieuwe taken de prestaties op eerdere taken verslechtert. Bestaande oplossingen staan voor aanzienlijke beperkingen:

Geheugen-gebaseerde methoden (bijv. iCaRL, DER++) slaan eerdere voorbeelden op en spelen deze opnieuw af, wat strikte CL-instellingen schendt waarbij toegang tot oude data ontbreekt, en privacyzorgen oproept (bijv. AVG).
Methoden met dynamische architectuur (bijv. PNN, DyTox) vergroten de modelgrootte naarmate de tijd vordert, wat leidt tot onbegrensde parametergroei en rekenkundige onuitvoerbaarheid.
Regularisatie-gebaseerde methoden (bijv. EWC, SI) hebben vaak moeite met sterk heterogene taken en kunnen aanvullende modules of taakspecifieke beperkingen vereisen.

De kernuitdaging die wordt aangepakt, is het bereiken van vergeten-resistente continue learning binnen een backbone-netwerk met vaste capaciteit, zonder terug te grijpen op oude data en zonder de architectuur uit te breiden.

2. Methodologie: Shapley Neuronwaarden (SNV)

De auteurs stellen Shapley Neuronwaarden (SNV) voor, een buffer-vrij raamwerk dat gebruikmaakt van de inherente overparametrisatie van moderne neurale netwerken. De methode identificeert en behoudt "expert subnetwerken" voor elke taak aan de hand van principes uit de coöperatieve speltheorie.

Kernmechanisme

Neurondefinitie: In convolutienetwerken wordt een "Neuron" gedefinieerd als een convolutiefilter (kernel).
Shapley Waardering: De belangrijkheid van elk neuron wordt gekwantificeerd met behulp van Shapley-waarden, die de prestatiemetriek $V(M)$ $V (M)$ van het model eerlijk verdelen over de neuronen op basis van hun marginale bijdragen aan verschillende subsets van het netwerk.
- De waardering voldoet aan vier axioma's: Efficiëntie, Nul-bijdrage, Symmetrie en Lineariteit.
- De Shapley-waarde $\phi_i$ voor neuron $i$ wordt als volgt berekend:
  $\phi_i = \sum_{S \subseteq M \setminus \{i\}} \frac{|S|!(|M| - |S| - 1)!}{|M|!} [V(S \cup \{i\}) - V(S)]$
- Hierbij vertegenwoordigt $V(S)$ de modelprestatie wanneer neuronen in $M \setminus S$ worden vervangen door hun gemiddelde activaties (maskering), waarbij signaalstatistieken behouden blijven zonder opnieuw te trainen.
Benaderingsstrategie: Omdat exacte Shapley-berekening exponentieel is, hanteert SNV drie benaderingen:
- Monte Carlo-schatting: Het nemen van steekproeven van permutaties van neuronen om marginale bijdragen te schatten.
- Truncatie: Het overslaan van marginale berekeningen voor kleine subsets waar de prestaties onder een drempelwaarde zakt (onder de aanname dat het model niet-functioneel is).
- Multi-Armed Bandit (MAB): Het richten van bemonsteringsinspanningen op neuronen waarvan de betrouwbaarheidsintervallen overlappen met de geschatte top- $k$ waarden, om de belangrijkste neuronen efficiënt te identificeren.
Invriezen en Plasticiteit:
- Voor elke taak $t$ worden de $c \cdot N$ neuronen met de hoogste Shapley-waarden geselecteerd (waarbij $c$ een sparsiteitsratio is en $N$ het totale aantal neuronen).
- Er wordt een cumulatief binair masker $B_t$ bijgehouden, dat alle neuronen markeert die zijn geselecteerd voor taken 1 tot en met $t$ .
- Tijdens het trainen voor taak $t+1$ worden gradiënten geblokkeerd voor alle neuronen in $B_t$ (ingevroren), terwijl de overige "plastic" neuronen worden bijgewerkt. Dit zorgt voor stabiele kennisbehoud voor eerdere taken, terwijl flexibiliteit voor nieuwe taken mogelijk blijft.

3. Belangrijkste Bijdragen

Gestandaardiseerde Neuronselectie: Introduceren van een speltheoretisch raamwerk (Shapley-waarden) om de meest kritieke neuronen voor specifieke taken te identificeren, verdergaand dan heuristische of binaire belangrijkheidsscores.
Buffer-vrij en Vaste Capaciteit: Aantonen dat een netwerk met vaste capaciteit sequentiële taken onbepaald kan leren door selectief belangrijke neuronen in te vriezen, waardoor de noodzaak van replay-buffers of architecturale uitbreiding wordt geëlimineerd.
Afweging Stabiliteit-Plasticiteit: Kennisbehoud (via ingevroren stabiele neuronen) wordt expliciet ontkoppeld van het leren van nieuwe taken (via plastic neuronen), wat kruis-taakinterferentie vermindert.
Efficiënte Schatting: Voorstellen van een praktische pijplijn (Monte Carlo + Truncatie + MAB) om Shapley-waarde-schatting rekenkundig haalbaar te maken voor continue learning.

4. Experimentele Resultaten

Experimenten zijn uitgevoerd op CIFAR-100, Tiny-ImageNet en ImageNet-1k met behulp van ResNet-18, waarbij zowel Class-Incremental Learning (CIL) als Task-Incremental Learning (TIL) scenario's zijn behandeld.

Prestatiehoogtepunten

ImageNet-1k (CIL): SNV behaalde 41,30% nauwkeurigheid op 10 taken, 34,20% op 20 taken en 25,60% op 50 taken. Het presteerde consequent beter dan alle buffer-vrije basismethoden (bijv. NFL+, DCNet) en overtrof zelfs de geheugen-gebaseerde methode DyTox (die 20.000 exemplaren opslaat) in het 10-taken scenario.
ImageNet-1k (TIL): SNV behaalde 57,82% nauwkeurigheid met 0,0 backward transfer (BWT), en presteerde beter dan alle buffer-vrije methoden en kwam overeen met of overtrof geheugen-gebaseerde methoden zonder enige data op te slaan.
Vergelijking met Basismethoden:
- In CIL verbeterde SNV de nauwkeurigheid met +2,88% ten opzichte van de op één na beste buffer-vrije methode (NFL+) op 10 taken, waarbij de kloof op 50 taken uitbreidde naar +3,20%.
- In TIL overtrof SNV WSN (Winning SubNetwork) met 15,76% op CIFAR-100 (bij $c=0,5$ ), wat aantoont dat gestandaardiseerde Shapley-selectie superieur is aan binaire heuristische selectie.
Parameter-efficiëntie: Pruning-analyse toonde aan dat SNV parameters efficiënter gebruikt dan methoden zoals PEC of EWC. SNV behield hoge nauwkeurigheid onder diepere pruning voordat het instortte, wat wijst op minder redundantie en een kritieker gebruik van parameters.
Rekenkosten: Hoewel SNV meer FLOPs vereist dan lichtgewicht regularisatoren (bijv. EWC), is de overhead bescheiden (~1,24x die van NFL+). Het blijft aanzienlijk efficiënter dan geheugen-gebaseerde methoden zoals DyTox, die ongeveer 2,8x de FLOPs en 2,1x het GPU-geheugen vereisen.

5. Betekenis en Claims

Het artikel beweert dat SNV een gestandaardiseerde, buffer-vrije oplossing biedt voor catastrofaal vergeten die goed geschikt is voor omgevingen met beperkte middelen en privacygevoelige omgevingen.

Privacy: Door de noodzaak om oude data op te slaan te elimineren, vermijdt SNV de privacyrisico's die gepaard gaan met regelgeving voor databewaring (bijv. AVG).
Schaalbaarheid: Het vermijdt de onbegrensde geheugengroei van methoden met dynamische architectuur.
Effectiviteit: De auteurs betogen dat het simpelweg opslaan en opnieuw afspelen van steekproeven mogelijk niet de optimale strategie is; in plaats daarvan is het identificeren en behouden van de "juiste" neuronen binnen een vast netwerk een robuustere aanpak voor strikte continue learning.
Beperkingen: De auteurs erkennen dat de post-taak Shapley-schattingstap rekenkosten toevoegt, wat een knelpunt kan worden voor zeer grote modellen. Toekomstig werk richt zich op het benaderen van deze waarden online om de aparte schattingsfase te elimineren.

Het werk positioneert SNV als een sterk alternatief voor geheugen-gebaseerde benaderingen, en toont aan dat hoge prestaties in continue learning haalbaar zijn zonder strikte toegangsbeperkingen voor data te schenden.