⚡ electrical engineering

Activation Steering of Video Generation Models via Reduced-Order Linear Optimal Control

Dit artikel introduceert LA-LQR, een framework voor optimale regeling met een gereduceerde orde dat tekst-naar-video-generatiemodellen stuurt door gesloten lus feedbackinterventies te berekenen in een laagdimensionale latente ruimte om schadelijke inhoud effectief te onderdrukken terwijl de visuele kwaliteit en promptgetrouwheid behouden blijven.

Oorspronkelijke auteurs: Jihoon Hong, Alice Chan, Qiyue Dai, Julian Skifstad, Glen Chou

Gepubliceerd 2026-06-04

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Jihoon Hong, Alice Chan, Qiyue Dai, Julian Skifstad, Glen Chou

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een zeer getalenteerde maar ietwat roekeloze video-makende robot hebt. Je geeft het een tekstuele beschrijving en de robot maakt een video. Omdat deze robot van het hele internet heeft geleerd, voegt hij soms per ongeluk dingen toe die je niet wilde—zoals geweld, naaktheid of auteursrechtelijk beschermde personages.

De auteurs van dit paper, LA-LQR, zijn als een nieuw soort "afstandsbediening" voor deze robot. In plaats van te proberen de robot opnieuw te trainen (wat eeuwen duurt en een fortuin kost) of simpelweg slechte woorden te blokkeren (wat slimme gebruikers gemakkelijk kunnen omzeilen), hebben ze ontdekt hoe ze de hersenen van de robot tijdens het denken een zachte duw kunnen geven om de video naar een veilige uitkomst te sturen zonder de kwaliteit te ruïneren.

Hier is hoe ze het deden, onderverdeeld in eenvoudige concepten:

1. Het Probleen: Het "Brein" van de Robot is Te Groot

Het interne denkproces van de robot (genaamd "activaties") is enorm. Stel je voor dat het brein van de robot 87 miljoen verschillende neuronen tegelijkertijd laat vuren voor elk enkel frame van een video.

Oude methoden probeerden het hele brein van 87 miljoen neuronen tegelijk te besturen. Dit is alsof je een supertanker probeert te sturen door tegelijkertijd op elke klinknagel op de romp te duwen. Het is computationeel onmogelijk en leidt vaak tot verwarring bij de robot, wat resulteert in glitchy, kapotte video's.
De LA-LQR aanpak zegt: "We hoeven niet het hele brein te controleren. We hoeven alleen de specifieke paar neuronen te controleren die bepalen of de video 'veilig' of 'onveilig' is."

2. De Oplossing: Het Vinden van het "Stuurwiel" in een Kleine Kamer

De onderzoekers realiseerden zich dat zelfs al is het brein van de robot enorm, het specifieke concept van "veiligheid" (of "rode kleur", of "geen geweld") slechts in een klein, laag-dimensionaal hoekje van dat brein leeft.

De Analogie: Stel je een enorme bibliotheek voor met miljoenen boeken (het volledige brein). Je bent op zoek naar een specifieke zin over "veiligheid". Je hoeft niet elk boek te lezen; je hoeft alleen maar de specifieke plank te vinden waar die zin zich bevindt.
Hoe ze het deden: Ze lieten de robot paren van prompts zien: één die het slechte ding bevat (bijv. "een naakte persoon") en één die het niet bevat (bijv. "een geklede persoon"). Door de hersenactiviteit van de robot voor deze twee te vergelijken, vonden ze de "verschil-vector"—de specifieke richting in het brein die veiligheid van gevaar scheidt. Ze bouwden vervolgens een kleine, efficiënte kaart (een "latente subspace") specifiek voor die richting.

3. De Motor: De "Zelfcorrigerende Cruise Control"

Zodra ze dit kleine "stuurwiel" hadden gevonden, moesten ze een manier vinden om het te draaien zonder door te slaan.

De Oude Manier: Sommige methoden duwen het stuurwiel gewoon zo hard mogelijk in één richting. Dit is als een auto besturen en de remmen vol in trappen omdat je iets uit koers bent; je eindigt met wild heen en weer zwiepen of een ongeluk krijgen (dit wordt "over-sturen" genoemd, en het ruïneert de video).
De LA-LQR Manier: Ze gebruikten een wiskundig kader genaamd Linear-Quadratic Regulator (LQR). Denk aan dit als een zelfcorrigerend cruise control-systeem voor de video.
- Het controleert constant: "Zitten we op het veilige pad?"
- Als de robot richting gevaar begint te driften, past het systeem een kleine, precieze duw toe om het terug te brengen.
- Als de robot al de goede kant op gaat, doet het systeem niets.
- Dit zorgt ervoor dat de video veilig blijft zonder vreemde glitches te introduceren of het verhaal dat je vroeg te veranderen.

4. De Resultaten: Veilige Video's, Geen Glitches

Het team heeft dit getest op twee krachtige videomodellen (Wan2.1 en HunyuanVideo).

Veiligheid: Ze voerden de robots prompts die bedoeld waren om geweld, pornografie of gevaarlijke handelingen te genereren. Het LA-LQR-systeem slaagde erin om de slechte inhoud te stoppen.
Kwaliteit: Cruciaal is dat de video's er nog steeds geweldig uitzagen. De personages bewogen vloeiend, de belichting was goed en het verhaal kwam overeen met de prompt.
Vergelijking: Andere methoden of faalden om de slechte inhoud te stoppen, of stopten het door de video een kapotte, glitchy puinhoop te maken. LA-LQR slaagde in beide: het stopte het slechte spul én hield de video van hoge kwaliteit.

Samenvatting

Kortom, LA-LQR is een slim, lichtgewicht "duw"-systeem. Het negeert de miljoenen irrelevante details in het brein van een videomodel, vindt de paar kleine hendels die veiligheid controleren, en gebruikt een wiskundige cruise control om de video voorzichtig weg te leiden van gevaar, zodat het eindresultaat zowel veilig als prachtig is.

Technische Samenvatting: Activatie-sturing van Videogeneratiemodellen via Reduced-Order Lineaire Optimale Controle

Probleemstelling

Tekst-naar-video (T2V) modellen, getraind op grootschalige webdata, erven vaak ongewenste concepten, waaronder naaktheid, grafisch geweld, auteursrechtelijk beschermd materiaal en afbeeldingen van publieke figuren. Deze veiligheidsrisico's vereisen interventies die de outputs beperken zonder de visuele kwaliteit of prompt-getrouwheid op te offeren. Bestaande mitigatiestrategieën kampen met aanzienlijke beperkingen:

Finetuning vereist uitgebreide trainingsbronnen.
Modelbewerking (gewichtsaanpassing) kan de outputkwaliteit verslechteren en onvoorspelbaar gedrag induceren.
Prompt-filtering is kwetsbaar voor jailbreaks en indirecte prompts.
Bestaande methoden voor activatie-sturing zijn doorgaans niet-anticiperend; ze passen vaste of kortzichtige interventies toe die geen rekening houden met hoe perturbaties zich door het model voortplanten. Dit leidt vaak tot overmatige sturing (over-steering), degradatie van de inhoud of gevoeligheid voor adversariële prompts.

Bovendien is het direct toepassen van optimale controle op de hoogdimensionale activatieruimtes van T2V-modellen (die de 80 miljoen dimensies kunnen overschrijden) computationeel onhaalbaar, omdat dit petabytes aan geheugen vereist voor volledige Jacobian-matrices.

Methodologie: LA-LQR

De auteurs stellen Latent Activation Linear-Quadratic Regulator (LA-LQR) voor, een reduced-order optimaal controleframework dat is ontworpen voor minimaal invasieve T2V-sturing. De methode formaliseert T2V-inferentie als een dynamisch systeem en berekent closed-loop feedback-interventies.

1. Formalisering van T2V als een Dynamisch Systeem

Het T2V-generatieproces (gebaseerd op Diffusion Transformers, of DiTs) wordt geherformuleerd als een eindig-horizon dynamisch systeem waarbij interne activaties dienen als toestanden (states). Het systeem evolueert over diffusie-tijdstappen $t \in [T]$ en transformer-lagen $l \in [L]$ . De toestandsverandering wordt beheerst door de gewichten en architectuur van het model, waarbij sturingssignalen fungeren als controle-inputs ( $u_s$ ) toegepast op video-token-activaties of tekst-embeddings.

2. Constructie van de Reduced-Order Latente Ruimte

Om controle haalbaar te maken, projecteert LA-LQR hoogdimensionale ruwe activaties ( $x \in \mathbb{R}^{D_{act}}$ ) op een laagdimensionale, taakrelevante latente subspace ( $z \in \mathbb{R}^{D_{lat}}$ ), waarbij $D_{lat} \ll D_{act}$ .

Contrastieve Basis: De subspace wordt afgeleid van contrastieve prompt-paren ( $D^+$ bevat het doelkenmerk, $D^-$ bevat het niet).
Randomized SVD: De auteurs gebruiken streaming randomized Singular Value Decomposition (SVD) op de verschilvectoren van deze prompt-paren om dominante kenmerkrichtingen te identificeren zonder massieve Jacobian-matrices te materialiseren.
Projectie: Activaties worden geprojecteerd op deze basis ( $P_s$ ), en lokale lineaire dynamica worden geschat in deze latente ruimte met behulp van Jacobian-vectorproducten (JVP).

3. Latente Lineaire Kenmerk-setpoints (LLFS)

Binnen de latente ruimte definieert de methode een Latent Linear Feature Setpoint (LLFS) dat de gewenste sterkte van het kenmerk representeert.

Een kenmerkrichting $v^z_s$ wordt berekend door het middelen van geprojecteerde contrastieve vectoren.
Een doelsterkte $\beta^*_s$ wordt ingesteld via een hyperparameter $\lambda$ .
De tracking-fout $\alpha_s$ wordt berekend als het verschil tussen de doelsterkte en de huidige geprojecteerde kenmerksterkte.

4. Optimale Controle via LQR

LA-LQR lost een Linear-Quadratic Regulator (LQR) probleem op in de latente ruimte om het optimale controlesignaal $u^*_s$ te bepalen.

Doelstelling: Minimaliseer een kostenfunctie die afwijkingen van het gewenste kenmerk-setpoint bestraft, terwijl tegelijkertijd onnodige perturbaties (controle-inspanning) worden bestraft.
Closed-Loop Feedback: In tegenstelling tot open-loop methoden, berekent LA-LQR een feedback-gain $K_s$ via Riccati-recursies. De interventie is $u^*_s = \bar{u}_s - K_s \delta z_s$ , waarbij $\delta z_s$ de afwijking is van het nominale traject.
Adaptiviteit: De controller past zich online aan de gerealiseerde latente activatie aan bij elk tijdstip en elke laag, anticiperend op de natuurlijke evolutie van de activatie en intervenerend wanneer dat nodig is om het setpoint te berekenen.

5. Theoretische Garanties

Het artikel biedt theoretische grenzen (bounds) die de latente setpoint-tracking relateren aan de kenmerkcontrole in de ruwe activatieruimte. Het demonstreert dat als de projectie de dominante energie van het kenmerk behoudt (gekwantificeerd door $\rho_s$ ) en de geprojecteerde dynamica lokaal lineair zijn, de tracking-fout van de kenmerken in de ruime vorm begrensd wordt door de latente tracking-fout, de projectieverlies en de linearisatie-residuen.

Belangrijkste Bijdragen

Formalisering: De auteurs formaliseren T2V-generatie als een eindig-horizon dynamisch systeem en stellen een lineair optimaal controleframework voor voor inferentie-tijd sturing, waarbij zij minimaal invasieve online feedback-interventies afleiden.
Behandelbaarheid (Tractability): Ze introduceren een reduced-order latente ruimte-constructie met behulp van contrastieve vectoren, waardoor optimale controle haalbaar wordt voor T2V-modellen door het vermijden van volledige activatie-ruimte Jacobians.
Theoretische Rechtvaardiging: Het artikel kwantificeert het verlies van kenmerkinformatie tijdens projectie en valideert de lokale lineariteit van de latente ruimte, waarbij grenzen worden geboden aan de prestaties van de reduced-order controller.
Empirische Validatie: Uitgebreide evaluatie op concept-sturing en video-veiligheidsbenchmarks toont aan dat LA-LQR onveilige generaties vermindert terwijl de prompt-getrouwheid en visuele kwaliteit behouden blijven, waarbij het bestaande T2V-sturing en veiligheids-baselines overtreft.

Resultaten

De methode werd geëvalueerd op twee state-of-the-art T2V-modellen: Wan2.1-T2V-14B en HunyuanVideo-1.5, met behulp van de benchmarks T2VSafetyBench en SafeSora.

Veiligheidsprestaties: LA-LQR behaalde de laagste schendingspercentages over verschillende categorieën (bijv. Pornografie, Geweld, Publieke Figuren, Auteursrecht) vergeleken met baselines zoals SAFREE [10], weight unlearning [9] en LLM-ondersteunde sturing [69]. Op Wan2.1 daalde het gemiddelde schendingspercentage bijvoorbeeld van ~36,9% (baseline) naar 14,6% met LA-LQR.
Kwaliteitsbehoud: De methode behield hoge Subject Consistency scores (VBench), en kwam vaak overeen met of overtrof de baselines (bijv. 0,971 vs. 0,964 gemiddelde voor Wan2.1), wat aangeeft dat de veiligheidsinterventies de visuele coherentie niet hebben aangetast.
Concept-sturing: Kwalitatieve resultaten toonden effectieve sturing van concepten (bijv. het prominenter maken van "rood" in een scène) met toenemende controlekracht, wat nauwkeurige kenmerkmodulatie demonstreert.
Vergelijking: In tegenstelling tot baselines die ofwel falen op jailbroken prompts (filtering) of ernstige artefacten introduceren bij agressieve tuning (weight editing), slaagde LA-LQR erin om veiligheid en kwaliteit te balanceren door middel van minimal-norm perturbaties.

Betekenis en Claims

Het artikel claimt dat LA-LQR een belangrijke stap voorwaarts is in mechanistische interpreteerbaarheid en veiligheidsalignement voor generatieve videomodellen. Door inferentie te behandelen als een controleprobleem en gebruik te maken van reduced-order optimale controle, bereikt de methode:

Betrouwbaarheid: Het biedt een training-vrije oplossing tijdens de inferentie die robuust is tegen adversariële prompts waar input-niveau filtering faalt.
Precisie: Het maakt minimaal invasieve interventies mogelijk, waardoor de "over-sturing" en visuele degradatie worden voorkomen die gebruikelijk zijn bij eerdere activatie-sturingsbenaderingen.
Schaalbaarheid: Het lost de computationele onhaalbaarheid op van het controleren van hoogdimensionale video-activaties door gebruik te maken van laagdimensionale latente dynamica afgeleid van contrastief leren.

De auteurs positioneren LA-LQR als een veelbelovende richting voor betrouwbare, training-vrije alignment van T2V-modellen, waarbij zij suggereren dat controle-theoretische activatie-sturing effectief schadelijke outputs kan beperken terwijl de bruikbaarheid en kwaliteit van generatieve modellen behouden blijven. Zij merken expliciet op dat de methode gepaard moet gaan met prompt-filtering of output-moderatie, aangezien het uitgaat van white-box toegang en geen veiligheid garandeert tegen alle mogelijke adversariële inputs.