🤖 machine learning

EVA-0: Test-Time Model Evolution with Only Two Forward Passes per Sample

EVA-0 is een minimaal zeroth-order aanpassingskader dat efficiënte evolutie van modellen tijdens de testfase mogelijk maakt met slechts twee forward passes per steekproef, waarbij het cruciale optimalisatiehindernissen overwint zonder backpropagatie om superieure prestaties en aanzienlijke snelheidswinsten te bereiken ten opzichte van bestaande methoden.

Oorspronkelijke auteurs: Guohao Chen, Shuaicheng Niu, Geng Li, Yunbei Zhang, Shilin Shan, Chunyan Miao, Jianfei Yang

Gepubliceerd 2026-05-20

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Guohao Chen, Shuaicheng Niu, Geng Li, Yunbei Zhang, Shilin Shan, Chunyan Miao, Jianfei Yang

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een hoogopgeleide AI-assistent hebt, zoals een slimme navigatie-app, die is getraind om perfect te rijden op zonnige, heldere snelwegen. Maar nu heb je deze ingezet in een chaotische stad waar het plotseling begint te regenen, de wegen bedekt zijn met sneeuw en de borden wazig zijn.

De meeste AI-systemen zijn "bevroren" zodra ze het lab verlaten. Ze kunnen niet leren van deze nieuwe, rommelige omstandigheden. Om ze te repareren, moeten ingenieurs de auto meestal terugroepen, opnieuw trainen in een enorme garage (met behulp van backpropagation, wat vergelijkbaar is met een zwaar, duur en geheugenvretend proces), en hem vervolgens weer de weg op sturen. Dit is traag, duur en onmogelijk voor kleine apparaten zoals een smartwatch of een drone.

Sommige nieuwere methoden proberen de AI in de loop van de tijd te laten leren zonder die zware hertraining. Maar ze vereisen vaak dat de AI hetzelfde probleem tientallen keren moet "denken" om de juiste richting te vinden, wat nog steeds te traag is voor realtime gebruik.

Presentatie van EVA-0: De "Twee-Gok" Genie

De auteurs van dit artikel stellen een nieuwe methode voor genaamd EVA-0. Hun grote idee is simpel maar krachtig: Kan een AI effectief leren en zich aanpassen door slechts twee keer naar een probleem te kijken?

Ze zeggen "Ja". Hier is hoe ze dit werkend hebben gekregen, met behulp van enkele creatieve analogieën:

1. Het Probleem: De "Afweging"-Valstrik

Stel je voor dat je probeert af te vallen (de AI te verbeteren).

De Afweging: Je zou gewoon helemaal kunnen stoppen met eten. De weegschaal (de verliesfunctie) laat je dan direct zien dat je afvalt, maar je wordt niet echt gezonder; je hongert alleen maar. In AI-termen vindt het model een "afweging" waarbij het een goed antwoord neppt door zijn zekerheidsgetallen enorm op te blazen, in plaats van daadwerkelijk de afbeelding te begrijpen.
De EVA-0 Oplossing: De auteurs hebben een speciaal "dieetplan" ontworpen (een schaal-invariante doelstelling) dat voorkomt dat de AI valstrikken loopt. Het dwingt de AI om de juiste kenmerken daadwerkelijk te leren, in plaats van alleen maar haar zekerheidsgetallen op te blazen om er goed uit te zien.

2. Het Probleem: Verdwalen (Gewichtsdrift)

Stel je voor dat je hike in een mistig bos. Als je willekeurige stappen zet om het pad te vinden, kun je per ongeluk kilometers van het pad afdwalen. Bij AI kan het nemen van willekeurige "gokken" om te verbeteren ervoor zorgen dat het model zo ver van zijn oorspronkelijke training afdrijft dat het alles vergeet wat het wist.

De EVA-0 Oplossing: Ze introduceerden een Anker. Denk hierbij aan een stevige touw dat vastzit aan een boom terug bij de start van het pad. De AI mag afdwalen en verkennen om het nieuwe pad te vinden, maar het touw trekt het zachtjes terug als het begint te afdrijven. Dit houdt de AI stabiel terwijl het toch kan leren.

3. Het Probleem: De Richting Gissen

Meestal, om te weten welke kant je op moet, probeer je misschien vooruit te lopen, te zien of het beter is, dan achteruit te lopen en te vergelijken.

De Oude Manier: Sommige methoden gebruiken een "eenzijdige" gok (gewoon vooruitlopen en hopen). Dit is luidruchtig en onbetrouwbaar.
De EVA-0 Truc: Ze gebruiken een Symmetrische Tweezijdige aanpak. Ze vragen de AI om twee keer naar het probleem te kijken: één keer met een klein "duwtje" naar links, en één keer met een klein "duwtje" naar rechts.
- De Magie: Door de resultaten van deze twee duwtjes te middelen, krijgen ze een zeer helder beeld van wat het antwoord zou zijn geweest zonder enige duw (zodat ze een voorspelling kunnen doen).
- De Efficiëntie: Door het verschil te vergelijken tussen het links-duwtje en het rechts-duwtje, vinden ze precies welke kant ze op moeten om te verbeteren.
- Het Resultaat: Ze krijgen zowel een voorspelling als een leersignaal uit precies dezelfde twee blikken. Geen extra stappen nodig.

Waarom Dit Belangrijk Is

Het artikel testte dit op beelden die beschadigd waren (wazig, luidruchtig, besneeuwd) met behulp van twee soorten AI-modellen (ViT en ResNet).

Snelheid: Het is 14 keer sneller dan eerdere methoden "zonder backpropagation" omdat het niet 28 keer hoeft te gokken zoals de oude methoden; het gokt slechts twee keer.
Geheugen: Het gebruikt een tiny fractie van het geheugen (ongeveer 822MB versus 5GB voor andere methoden), wat betekent dat het kan draaien op kleine, randapparaten zoals telefoons of sensoren.
Prestaties: Het werkt eigenlijk beter dan sommige methoden die wel de zware, dure backpropagation gebruiken, en het is de eerste methode die dit doet zonder enige "brondata" nodig te hebben (het leert puur uit de rommelige nieuwe wereld).

Kortom: EVA-0 is een manier om een AI te laten leren van zijn fouten in realtime, met slechts twee snelle blikken op het probleem, zonder verdwaald te raken, zonder te valsspelen en zonder een supercomputer nodig te hebben. Het verandert een "bevroren" model in een "levend" model dat zich ter plekke kan aanpassen aan de echte wereld.

Technische Samenvatting: EVA-0

Probleemstelling

Moderne AI-modellen worden steeds vaker ingezet in dynamische omgevingen die onderhevig zijn aan veranderingen in verdelingen (bijvoorbeeld variaties in sensoren, veranderend gebruikersgedrag). Hoewel Test-Time Adaptation (TTA) erop gericht is modellen in staat te stellen te leren van ongelabelde ervaringen tijdens het testen, vertrouwen de meeste bestaande methoden op backpropagation (BP). BP brengt aanzienlijke geheugenoverhead met zich mee, waardoor het incompatibel is met randapparatuur met beperkte middelen, gekwantiseerde modellen, gespecialiseerde versnellers of settings met black-box-modellen.

Recente inspanningen hebben BP-vrije TTA onderzocht met behulp van zeroth-order (ZO) optimalisatie. Echter, bestaande ZO-methoden ondervinden aanzienlijke beperkingen:

Efficiëntie versus Prestatie: Methoden zoals FOA vereisen veel forward passes (bijvoorbeeld 28) voor stabiele signalen, terwijl methoden zoals ZOA, die werken onder een strikt budget van twee forward passes, lijden onder grove en ruisachtige update-richtingen.
Optimalisatie-uitdagingen: ZO-optimalisatie is vatbaar voor het leren van "shortcut-oplossingen" (bijvoorbeeld het verminderen van entropie via logit-norm-inflatie in plaats van het verbeteren van beslissingsgrenzen), lijdt aan ongecontroleerde gewichtsdrijf, en heeft moeite met effectieve schatting van update-richtingen onder strikte rekenkundige beperkingen.

De kernvraag die wordt behandeld is: Kan een ingezet model stabiel en effectief evolueren vanuit ongelabelde ervaringen tijdens het testen, uitsluitend gebruikmakend van twee forward passes per steekproef zonder backpropagation?

Methodologie: EVA-0

De auteurs stellen EVA-0 (Evolutionary Adaptation with Zeroth-order gradients) voor, een minimaal raamwerk ontworpen om stabiele model-evolutie tijdens het testen te realiseren onder een strikt budget van twee forward passes. EVA-0 adresseert de geïdentificeerde uitdagingen via drie kernontwerpprincipes:

1. Steekproefspecifieke Symmetrische Tweezijdige Perturbatie (SSD)

Om de ruis en inefficiëntie van eenzijdige ZO-schatters te overwinnen terwijl men zich houdt aan de beperking van twee forward passes:

Mechanisme: Voor elke steekproef $x_i$ evalueert het model twee symmetrische perturbaties: $f_{\theta_t + \mu z_{t,i}}(x_i)$ en $f_{\theta_t - \mu z_{t,i}}(x_i)$ .
Dubbel Nut: Deze twee forward passes dienen een dubbel doel:
- Inferentie: De uitvoer wordt gemiddeld om een schatting te maken van de schone modelvoorspelling (door eerste-orde perturbatietermen te annuleren via Taylor-ontwikkeling), waardoor een derde "schone" forward pass overbodig wordt.
- Adaptatie: Het verschil in verliezen tussen de twee symmetrische uitvoeren levert een schatting van de SPSA-gradiënt met lagere variantie en twee zijden.
Steekproefspecifieke Onafhankelijkheid: In tegenstelling tot perturbaties op batch-niveau, past EVA-0 onafhankelijke perturbaties toe op elke steekproef binnen een mini-batch. Dit verhoogt de diversiteit van onderzochte update-richtingen, wat de uitlijning met ware BP-gradiënten aanzienlijk verbetert in vergelijking met gedeelde batch-perturbaties.

2. Shortcut-Resistente Doelfuncties

Om te voorkomen dat ZO-optimalisatie shortcuts exploiteert (bijvoorbeeld het inflateren van logit-normen om entropie te minimaliseren zonder te leren):

Schaalinvariante Entropie: EVA-0 hanteert een schaal-invariante entropiedoelfunctie ( $E_{SR}$ ). Het normaliseert de logits van geperturbeerde uitvoer door hun gemiddelde norm en past centreringcorrectie toe (aftrekken van een online centrum). Dit voorkomt dat het model entropie reduceert door simpelweg de grootte van de logits op te blazen.
Steekproefspecifieke Feature-uitlijning: Wanneer bronstatistieken beschikbaar zijn, gebruikt EVA-0 een steekproefspecifieke feature-uitlijningsverlies ( $\ell_{SWA}$ ). In plaats van variantie te schatten vanuit één enkele ruisbehaftige steekproef, traint het eerste en tweede momenten van features online via een Exponentiële Moving Average (EMA) om een stabiele variantieschatting voor uitlijning te reconstrueren.

3. Anker-Gestuurde Trajectcontrole

Om de accumulatie van gewichtsdrijf, die vaak voorkomt bij willekeurige ZO-updates, te mitigeren:

Anker-Gestuurde Perturbatie: Een betrouwbaar anker (bijvoorbeeld vooraf getrainde gewichten of een langzaam bewegende EMA van online parameters) wordt gehandhaafd. De perturbatieverdeling $D_t$ is adaptief: een subset van steekproeven verkent willekeurige richtingen, terwijl anderen worden geleid door de vector die naar het anker wijst.
Gewichtsontspanning: Na de ZO-update wordt een zwakke ontspanningsstap toegepast die de bijgewerkte gewichten mengt met het anker ( $\theta_{t+1} = (1-\gamma)\theta'_{t+1} + \gamma\theta_{anc}$ ). Dit fungeert als een zachte grens, dempt het traject en voorkomt dat het model te ver afdrijft naar instabiele gebieden, terwijl het plasticiteit voor adaptatie behoudt.

Belangrijkste Bijdragen

Strikt Twee-Forward Setting: Het artikel vestigt en onderzoekt het uitdagende regime van model-evolutie tijdens het testen met slechts twee forward passes per steekproef en zonder backpropagation, waardoor TTA wordt geduwd naar een zeer efficiënte implementatie in de echte wereld.
Systematische Analyse van ZO-Limieten: De auteurs onthullen drie specifieke obstakels in zeroth-order TTA: vatbaarheid voor shortcut-oplossingen, ongecontroleerde gewichtsdrijf, en inefficiënte schatting van update-richtingen onder strikte budgetten.
EVA-0 Raamwerk: Een geünificeerde methode die schaal-invariante doelfuncties, anker-gestuurde trajectcontrole en steekproefspecifieke symmetrische perturbaties integreert.
Uitgebreide Validatie: Uitgebreide experimenten met CNN's (ResNet50-GN), Vision Transformers (ViT-Base), gekwantiseerde modellen (6-bit/8-bit), continue stromen en black-box settings.

Experimentele Resultaten

Geëvalueerd op ImageNet-C (15 corrupties, ernstniveau 5):

Prestatie: EVA-0 presteert beter dan zowel BP-gebaseerde methoden (bijvoorbeeld DeYO) als BP-vrije baselines (FOA, ZOA, FOZO). Op ViT-Base bereikt EVA-0 een 66,7% gemiddelde nauwkeurigheid, wat DeYO (65,7%) en ZOA (61,3%) overtreft.
Efficiëntie: EVA-0 bereikt een 14× snelheidswinst ten opzichte van FOA (dat 28 forward passes vereist) en vermindert het geheugengebruik aanzienlijk in vergelijking met BP-gebaseerde methoden (822 MB versus 5.350 MB voor DeYO op ViT-Base).
Gekwantiseerde Modellen: EVA-0 stelt een 6-bit gekwantiseerd ViT in staat om een niet-geadapteerde 32-bit ViT met 4,4% te overtreffen in OOD-nauwkeurigheid, wat de levensvatbaarheid voor implementatie op randapparatuur aantoont.
Continue Adaptatie: In langdurige continue TTA-settings waarbij modellen evolueren over domeinen zonder reset, behoudt EVA-0 stabiliteit (45,6% nauwkeurigheid op ResNet50-GN), terwijl andere methoden (bijvoorbeeld FOA, DeYO) aanzienlijke degradatie ondervinden.
Black-Box Adaptatie: EVA-0 past invoer-prompten effectief aan in black-box settings en overtreft FOA met 5,3% onder de beperking van twee forward passes.

Betekenis en Beweringen

Het artikel beweert dat evolutie van modellen uitsluitend via forward passes niet slechts een compromis is voor beperkte scenario's, maar een veelbelovende en schaalbare weg naar adaptieve ingezette intelligentie.

Door shortcut-resistente doelfuncties, trajectcontrole en efficiënte richtingschatting te verenigen, toont EVA-0 aan dat effectieve, stabiele en efficiënte model-evolutie mogelijk is onder uiterst restrictieve implementatiebeperkingen (twee forward passes, geen BP). Dit werk suggereert dat modellen betekenisvol kunnen leren van hun eigen ongelabelde ervaring in real-world, middelen-beperkte omgevingen zonder de zware rekenkundige kosten van backpropagation.