💻 computer science

COPRA: Conditional Parameter Adaptation with Reinforcement Learning for Video Anomaly Detection

COPRA is een nieuw kader dat gebruikmaakt van versterkingsleer om input-specifieke parameterupdates te genereren voor bevroren visueel-taalkundige modellen, wat effectief training-inferentie-mismatches oplost en state-of-the-art prestaties bereikt in video-anomaliedetectie en andere video-interpretatietaken.

Oorspronkelijke auteurs: Darryl Cherian Jacob, Xinyu Liu, Kai Wang, Pan He

Gepubliceerd 2026-05-18

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Darryl Cherian Jacob, Xinyu Liu, Kai Wang, Pan He

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een bewaker inhuurt om duizenden uren bewakingsbeelden te bekijken en problemen op te sporen. Dit is de taak van Video Anomaly Detection (VAD).

Lange tijd was de beste manier om dit te doen het trainen van een superintelligente AI (een Vision-Language Model) om naar de video te kijken en te zeggen: "Dat ziet er normaal uit," of "Dat lijkt op een ongeval."

De auteurs van dit artikel, COPRA, merkten echter een groot gebrek op in de manier waarop deze AI-bewakers momenteel worden getraind. Zij noemen dit de "Shared Parameter Bottleneck" (gezamenlijke parameter-knelpunt).

Het probleem: Het "one-size-fits-all" uniform

Stel je een bewaker voor die voor elke dienst hetzelfde, statische uniform moet dragen, ongeacht wat ze bewaken.

Als ze een bank bewaken, moeten ze op mensen letten die met tassen wegrennen.
Als ze een park bewaken, moeten ze op vechtpartijen letten.
Als ze een weg bewaken, moeten ze op auto-ongevallen letten.

Momenteel proberen de meeste AI-modellen één enkele set regels (één enkel "uniform") te leren die voor alle deze verschillende scenario's tegelijk werkt. Het resultaat? De AI probeert een "compromis" te vinden. Het wordt een beetje goed in het opsporen van bankovervallen, een beetje goed in het opsporen van vechtpartijen in parken, maar niet geweldig in een van beide. Wanneer het een volledig nieuw type probleem ziet dat het nog nooit heeft gezien, raakt het in de war omdat zijn "uniform" niet past bij die specifieke situatie.

Bovendien is er een mismatch tussen hoe ze worden getraind en hoe ze werken:

Training: De AI krijgt een paar willekeurige frames uit een lange video te zien en krijgt te horen: "Er was ergens in dit hele uur een probleem."
Testen: De AI wordt gevraagd om seconde voor seconde naar kleine, dichte stukjes video te kijken om precies te vinden wanneer het probleem plaatsvond.

Het is alsof je een kok traint door hem een foto van een afgewerkt taartje te laten zien en te zeggen "Maak dit", maar hem vervolgens vraagt om het taartje één kruimel tegelijk te bakken. De instructies komen niet helemaal overeen met de taak.

De oplossing: COPRA (Het "op maat gemaakte" pak)

De auteurs stellen een nieuw systeem voor dat COPRA heet. In plaats van de AI te dwingen één statisch uniform te dragen, geeft COPRA de AI een magische kleermaker die voor elke videoclip die hij ziet een op maat gemaakt pak maakt.

Zo werkt het in eenvoudige bewoordingen:

Het bevroren brein: De hoofd-AI (het "brein") blijft bevroren en onveranderd. Het weet al veel over de wereld.
De magische kleermaker (De Generator): Een klein, lichtgewicht helper-netwerk kijkt naar de specifieke videoclip (bijvoorbeeld een verkeerscène versus een winkelcène).
Directe aanpassing: Op basis van wat het ziet, genereert de kleermaker direct een kleine set "aanpassingen" (genaamd LoRA-weights) specifiek voor die clip.
- Als de clip een verkeersvideo is, past de kleermaker de focus van de AI aan om op auto's en voetgangers te letten.
- Als de clip een winkelvideo is, past de kleermaker de AI aan om op winkeldiefstalgedrag te letten.
Het resultaat: De AI trekt dit "op maat gemaakte pak" aan voor dat ene moment, neemt een beslissing en trekt het weer uit. Het hoeft niet één compromisregel voor alles te onthouden; het past zich ter plekke aan.

Hoe ze de kleermaker leerden (Versterkend leren)

Je zou kunnen vragen: "Hoe weet de kleermaker welke aanpassingen hij moet maken?"

De auteurs gebruikten een techniek genaamd Versterkend Leren (Reinforcement Learning). Denk hierbij aan het trainen van een hond met snoepjes:

De AI raadt of een video normaal of abnormaal is.
Als hij het antwoord goed heeft (gebaseerd op het label op video-niveau), krijgt hij een "snoepje" (een beloning).
Als hij het fout heeft, krijgt hij geen snoepje.
Na verloop van tijd leert de "kleermaker" de perfecte op maat gemaakte aanpassingen te genereren die leiden tot de meeste snoepjes.

Wat ze ontdekten

Het artikel beweert dat deze "op maat gemaakte" aanpak veel beter werkt dan de oude "one-size-fits-all" methode:

Betere nauwkeurigheid: Bij standaardtests (zoals het opsporen van misdrijven in bewakingsvideo's) vond COPRA meer anomalieën en maakte minder fouten dan eerdere methoden.
Betere generalisatie: Toen ze COPRA testten op video's die het nog nooit had gezien (zoals verkeersongevallen in plaats van winkelcriminaliteit), presteerde het nog steeds goed. Omdat het leerde hoe het zich moest aanpassen in plaats van alleen te memoriseren, kon het omgaan met nieuwe situaties.
Meer dan alleen alarmen: Ze toonden ook aan dat deze methode de AI helpt betere beschrijvingen te schrijven van wat er gebeurd is (zoals "Een auto heeft een voetganger geraakt") en vragen over de video te beantwoorden, wat bewijst dat het "op maat gemaakte pak" de AI helpt de context beter te begrijpen.

Samenvatting

Kortom, COPRA stopt met proberen één enkel AI-model te dwingen om tegelijk expert in alles te zijn. In plaats daarvan geeft het de AI de mogelijkheid om zich voor elke specifieke video die het bekijkt direct opnieuw te configureren. Het is het verschil tussen een bewaker die voor elke baan een stijf, slecht zittend pak draagt, en een bewaker die zich direct omkleedt in de perfecte uitrusting voor de specifieke situatie waar hij mee te maken heeft.

Technische Samenvatting: COPRA – Conditionele Parameteraanpassing met Versterkend Leren voor Detectie van Videoanomalieën

1. Probleemdefinitie en Motivatie

Detectie van videoanomalieën (VAD) heeft tot doel zeldzame en onverwachte gebeurtenissen in lange video's te identificeren, vaak onder zwakke supervisie waarbij alleen labels op videoniveau beschikbaar zijn. Hoewel Vision-Language Modellen (VLM's) veelbelovend zijn gebleken voor VAD door het benutten van semantische prioren en het bieden van interpreteerbaarheid, identificeert het artikel twee kritieke, onderbelichte beperkingen in bestaande benaderingen:

De Bottleneck van Gedeelde Parameters: Huidige op VLM's gebaseerde VAD-methoden vertrouwen doorgaans op een statische, gedeelde parameterruimte (bijvoorbeeld vaste prompts of globaal fijn afgestemde gewichten) na het trainen. Dit dwingt heterogene anomalietypen (bijvoorbeeld verkeersongevallen versus winkeldiefstal) en diverse scenesituaties in één gecomprimeerde oplossing. Bijgevolg overfitten deze modellen op trainingsverdelingen en falen ze om te generaliseren naar ongezette domeinen of nieuwe anomalietypen.
Mismatch tussen Training en Inferentie: Bestaande pijplijnen trainen vaak op spaarzaam bemonsterde frames uit lange video's met zwakke supervisie op videoniveau, maar voeren inferentie uit op dicht bemonsterde schuifvensters voor fijnmazige lokalisatie. Deze discrepantie leidt tot inconsistenties waarbij parameters die zijn geleerd uit spaarzame inputs worden toegepast op dichte lokale beslissingen, wat de prestaties verslechtert onder variaties in beweging, gezichtshoek en semantiek.

2. Methodologie: Het COPRA-kader

De auteurs stellen COPRA (Conditional PaRameter Adaptation) voor, een kader dat VAD herformuleert als een probleem van instance-geconditioneerde aanpassing. In plaats van één statische update te leren, genereert COPRA dynamisch input-specifieke parameterupdates voor elk videosegment, waardoor een grotendeels bevroren VLM onderweg wordt gemoduleerd.

Kernarchitectuur

Instance-geconditioneerde Parametergeneratie: COPRA maakt gebruik van een lichtgewicht generatornetwerk, $g_{\phi_2}$ , dat een compact visueel conditioneel signaal afleidt uit de inputvideo $V$ en een specifieke parameterupdate $\Delta\theta(V)$ voorspelt.
Visuele Conditionering: De inputvideo wordt uniform bemonsterd (bijvoorbeeld $K=8$ frames) en verwerkt door een bevroren visuele encoder (een submodule van de VLM) om visuele tokens te produceren. Deze tokens dienen als het enige conditionele signaal voor de generator.
Synthese van LoRA-gewichten: De generator is een Transformer die visuele tokens mapt naar getokeniseerde, instance-geconditioneerde LoRA (Low-Rank Adaptation)-gewichten. Deze gewichten worden geïnjecteerd als residu-updates in de bevroren VLM-ruggengraat (specifiek gericht op query-key-value-projecties, gating-modules en output-transformaties).
Hybride Aanpassing: De gegenereerde LoRA-parameters worden geïnitieerd met een leerbare globale latente prior ( $p_{global}$ ), waardoor aanpassingspatronen op datasetniveau worden gecombineerd met input-specifieke residualen. Dit stelt het model in staat om algemene kennis te behouden terwijl het zich specialiseert voor de huidige instance.

Training via Versterkend Leren

COPRA wordt end-to-end getraind met Group Relative Policy Optimization (GRPO) onder supervisie op videoniveau:

Beleid: De generator $g_{\phi_2}$ fungeert als een beleid dat visuele signalen mapt naar parameterupdates.
Ontwerp van Beloningen: Het systeem gebruikt binaire beloningen gebaseerd op de correctheid van de uiteindelijke classificatie op videoniveau (Normaal vs. Anomalie) en naleving van het formaat.
Mechanisme: Voor een gegeven video genereert het model meerdere responssequenties met de aangepaste parameters. Het voordeel wordt berekend via groepsnormalisatie van deze beloningen. Dit moedigt de generator aan om parameterupdates te produceren die leiden tot correcte voorspellingen, waardoor effectief een mechanisme voor "generatie van gewichtenruimte" wordt geleerd zonder expliciete supervisie op de gewichten zelf.

Flexibele Temporele Aanpassing

Om de mismatch tussen training en inferentie aan te pakken, ondersteunt COPRA flexibele bemonsteringsstrategieën. Tijdens inferentie worden video's opgedeeld in overlappende segmenten. Het kader kan parameters genereren voor specifieke temporele chunks (bijvoorbeeld chunks van 120 seconden) en deze hergebruiken voor het scoren van lokale segmenten binnen die context, waardoor contextbewuste parameterdeling mogelijk wordt terwijl temporele granulariteit behouden blijft.

3. Belangrijkste Bijdragen

Identificatie van de Bottleneck van Gedeelde Parameters: Het artikel verduidelijkt hoe statische, gedeelde aanpassingen in op VLM's gebaseerde VAD de generalisatie beperken door heterogene eisen in één compromis te dwingen.
Kader voor Instance-geconditioneerde Aanpassing: COPRA wordt gepresenteerd als het eerste kader dat VAD formuleert als een instance-geconditioneerd probleem, waarbij het gedrag van VLM's dynamisch wordt gespecialiseerd voor elk videosegment via gegenereerde LoRA-gewichten.
RL-gedreven Parametergeneratie: De introductie van een kader voor conditionele parametergeneratie getraind met versterkend leren (GRPO) onder zwakke supervisie, wat dynamische, per-input aanpassing mogelijk maakt zonder volledige fijnafstelling.
Robuuste Generalisatie: Het kader blijkt de mismatch tussen training en inferentie te verlichten en kruis-domeininterferentie te verminderen, waardoor de robuustheid verbetert over diverse anomaliepatronen en temporele dynamieken.

4. Experimentele Resultaten

De auteurs hebben COPRA geëvalueerd op standaard VAD-benchmarks en kruis-domein taken:

Prestaties binnen Domein: Op UCF-Crime en XD-Violence presteerde COPRA consequent beter dan bevroren VLM-baselines en sterke statische aanpassingsmethoden (bijvoorbeeld VERA).
- Op UCF-Crime verbeterde COPRA de AUC van InternVL2-8B van 84,31% naar 87,14%.
- Op XD-Violence verbeterde het de AP van InternVL2-8B van 74,32% naar 76,52%.
- Ablatiestudies bevestigden dat instance-geconditioneerde aanpassing significant beter presteert dan statische GRPO-gebaseerde aanpassing.
Generalisatie over Domeinen: Uitsluitend getraind op UCF-Crime, werd COPRA zero-shot geëvalueerd op:
- VRU-Accident: Verbeterde semantische metrieken voor dichte bijschriften (SPICE, METEOR) en de nauwkeurigheid van meerkeuze VideoQA.
- HIVAU-70K: Versterkte generatie van natuurlijke taalverklaringen op clip-, gebeurtenis- en videoniveau.
Temporele Aanpassing: Experimenten toonden aan dat het genereren van parameters voor grotere temporele chunks (bijvoorbeeld 120s) en het hergebruiken daarvan voor lokale segmenten de beste prestaties opleverde, wat de flexibiliteit van de temporele aanpassingsstrategie valideert.
Kwalitatieve Analyse: t-SNE-visualisaties toonden aan dat COPRA meer discriminerende embeddings produceert, waardoor normale en anomalievideo's beter worden gescheiden in vergelijking met de baseline. De gegenereerde beschrijvingen waren ook coherenter en richtten zich meer op aanwijzingen die relevant zijn voor anomalieën.

5. Betekenis en Claims

Het artikel beweert dat COPRA een effectief mechanisme voor generatie van gewichtenruimte biedt voor fundamentele modellen. Door weg te bewegen van statische, gedeelde parameters naar dynamische, input-geconditioneerde aanpassing, stelt COPRA het volgende in staat:

Schaalbaarheid: Het aanpassen van grote bevroren modellen aan specifieke taken zonder volledige hertraining.
Aanpasbaarheid: Het hanteren van significante verdelingsverschuivingen en nieuwe anomalietypen door de beslissingsgrens voor elke input op maat te maken.
Contextbewustzijn: Het overbruggen van de kloof tussen spaarzame supervisie tijdens training en eisen voor dichte inferentie.

De auteurs erkennen beperkingen, waaronder het ontbreken van theoretische onderbouwing voor de gegenereerde gewichten, beperkte interpreteerbaarheid van de LoRA-gewichten zelf, en de computatiekosten die worden geïntroduceerd door het GRPO-trainingproces (specifiek herhaalde responsbemonstering). Zij suggereren dat deze gebieden toekomstig onderzoek vereisen.

Beschikbaarheid van Code: De code is vrijgegeven op https://github.com/THE-MALT-LAB/COPRA.