🤖 machine learning

Signed Rectified Flow: Negativity-Controlled Generation

Dit artikel introduceert Signed Rectified Flow, een generatief modelleringskader dat Rectified Flow uitbreidt om met gesigneerde maten om te gaan, waardoor een principiële incorporatie van negatieve informatie mogelijk wordt om ongewenste inhoud (zoals naaktheid of gememoriseerde gegevens) te onderdrukken terwijl de beeldkwaliteit en diversiteit behouden blijven.

Oorspronkelijke auteurs: Runlong Liao, Baiyu Su, Lizhang Chen, Qiang Liu

Gepubliceerd 2026-07-22

📖 8 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Runlong Liao, Baiyu Su, Lizhang Chen, Qiang Liu

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een robot leert schilderen. Je laat het duizenden foto's van prachtige zonsondergangen zien, en het leert om zijn eigen te maken. Maar wat als je het ook wilt leren wat het niet moet schilderen? Missie je bijvoorbeeld niet dat het lelijke krabbels maakt, of wil je misschien dat het een specifiek auteursrechtelijk beschermd personage zoals Mickey Mouse niet kopieert. In de wereld van kunstmatige intelligentie is dit een lastige puzzel. Meestal leren AI-modellen door te worden getoond wat ze moeten doen, maar ze hebben moeite wanneer je alleen zegt: "Doe dat niet." Het is alsoast een hond proberen te vertellen dat hij geen eekhoorn mag jagen door gewoon stil te blijven staan; de hond weet niet wat hij met zijn energie aan moet.

Dit artikel duikt in een specifieke hoek van AI genaamd "generatieve modellering", waarbij computers nieuwe afbeeldingen, geluiden of paden creëren vanuit het niets. De auteurs bouwen voort op een techniek genaamd "Rectified Flow", wat een superefficiënte snelweg is om willekeurige ruis in een helder beeld te veranderen. Denk aan een recht, snel treinspoor dat een chaotische wolk van stof naar een perfect beeldhouwwerk leidt. De grote vraag die zij aanpakken is: Hoe bouwen we een treinspoor dat niet alleen stof naar het beeldhouwwerk leidt, maar het ook actief wegduwt van een stapel afval die we niet willen?

De auteurs introduceren een slimme nieuwe methode genaamd Signed Rectified Flow. In plaats van alleen te proberen de AI weg te sturen van slechte dingen, behandelen ze de "slechte" dingen wiskundig als iets met een "negatieve massa". Stel je de creatieve ruimte van de AI voor als een landschap. Normaal gesproken wordt de AI aangetrokken tot hoog gelegen gebieden (goede plaatjes). Deze nieuwe methode creëert een "negatieve zwaartekracht"-zone boven de slechte plaatjes. Het is alsof je een gigantische, onzichtbare magneet plaatst die de creatieve energie van de AI afstoot, waardoor de AI gedwongen wordt om om de verboden zones heen te stromen en zich alleen in de veilige, mooie gebieden te vestigen. Ze hebben dit getest op alles van 2D-kaarten tot complexe afbeeldingen, en de resultaten suggereren dat het een krachtige manier is om AI veiliger en gehoorzamer te maken zonder de kwaliteit van de kunst te verslechteren.

De magie van "negatieve" zwaartekracht

Om te begrijpen hoe dit werkt, stellen we de reis van de AI voor als een rivier die stroomt van een lawaaierige bergbron (willekeurige statische ruis) naar een rustig meer (het uiteindelijke beeld). In standaard AI bouwen we gewoon een kanaal om het water naar het meer te leiden. Maar wat als er midden in de weg een moeras ligt dat we willen vermijden?

De auteurs stellen een fascinerend idee voor: behandel het moeras alsof het negatief water heeft. In de echte wereld bestaat negatief water niet, maar in de wiskunde wel. Ze creëren een "gesigneerde" kaart waarbij de goede gebieden positief water hebben en de slechte gebieden negatief water hebben. Wanneer de AI door deze kaart probeert te stromen, werkt het negatieve water als een afstotende kracht. Het zit daar niet alleen; het duwt de rivier weg.

Hier komt het coole deel: de AI stroomt niet daadwerkelijk door het negatieve moeras. In plaats daarvan creëert de wiskunde een "geestregio" of een barrière. De rivier buigt vanzelf om de negatieve zone heen en vindt een pad dat volledig in de positieve, veilige gebieden blijft. Het is alsof de AI een wandelaar is die een magnetische aantrekkingskracht weg van een klifrand kan voelen. De wandelaar valt nooit van de klif omdat de grond zelf lijkt af te hellen van het gevaar.

De analogie van het "geladen deeltje"

De auteurs leggen dit uit met een leuke natuurkundige analogie: geladen deeltjes. Stel je voor dat de datapunten van de AI kleine deeltjes zijn. De goede data (zoals een foto van een kat) heeft een positieve lading, en de slechte data (zoals een foto van een hond wanneer je een kat wilde) heeft een negatieve lading.

Wanneer de AI een nieuwe afbeelding genereert, is dat alsof je een positief deeltje loslaat aan het begin van een reis. Terwijl het beweegt, voelt het een sterke afstoting van de negatieve ladingen. Als het te dicht bij de "slechte" zone komt, wordt de afstoting zo sterk dat het werkt als een muur, waardoor het deeltje terug naar de goede kant wordt gestoten. Het papier laat zien dat dit een "bereikbare regio" creëert waar de AI veilig kan verkennen, terwijl de "negatieve regio" volledig onaangetast blijft. De AI stapt nooit per ongeluk het verboden gebied binnen omdat de wiskunde van de stroom het fysiek onmogelijk maakt voor het deeltje om die grens over te steken.

Wat ze in het lab vonden

Het team heeft dit niet alleen bedacht; ze hebben het op verschillende manieren getest, en de resultaten zien er veelbelovend uit.

1. De 2D-speelkaarten
Eerst speelden ze met eenvoudige 2D-kaarten. Stel je een kaart voor met een "goed" eiland en een "slecht" moeras. Wanneer ze oude methoden gebruikten, raakte de AI ofwel vast in het moeras, of werd hij zo ver weggeduwd dat hij in een dorre woestijn terechtkwam. Met Signed Rectified Flow bleef de AI perfect op het goede eiland, waarbij het moeras volledig werd vermeden terwijl het hele eiland nog steeds werd bestreken. Het was als een perfecte GPS die precies wist waar hij niet moest gaan.

2. De "Anti-Memorization" test
Een van de grootste zorgen bij AI is dat het simpelweg plaatjes uit de trainingsdata kan kopiëren (memorisatie). De auteurs gebruikten hun methode om de AI te vertellen: "Kopieer niet de exacte foto's die je in de training hebt gezien." Ze behandelden de trainingsdata als de "negatieve" zone.

Het resultaat: Wanneer ze de AI vroegen om een specifiek hondenras te tekenen, kopieerde de standaard AI soms de exacte foto uit de trainingsset, inclusief vreemde artefacten zoals watermerken of randen. De Signed Rectified Flow AI tekende echter een nieuwe, unieke hond die op het ras leek, maar niet de specifieke trainingsfoto kopieerde. Het slaagde erin de gegenereerde afbeeldingen weg te duwen van de "trainingsdata-moeras" terwijl de hond er nog steeds uitzag als een hond.
De cijfers: In hun tests ontdekten ze dat het gebruik van deze methode de gelijkenis met trainingsafbeeldingen aanzienlijk verminderde. Bijvoorbeeld, met een specifieke instelling verminderden ze de "attack success rate" (hoe vaak de AI faalde om slecht inhoud te vermijden) van 15,19% naar 6,33% in veiligheidstests, terwijl de kwaliteitsscores van de afbeeldingen (CLIP- en esthetische scores) bijna exact hetzelfde bleven.

3. Veiligheid en conceptonderdrukking
Ze testten ook of ze de AI konden stoppen met het tekenen van ongepaste inhoud of specifieke auteursrechtelijk beschermde personages.

De Mickey Mouse test: Ze zeiden tegen de AI om een "cartooneske muis met ronde zwarte oren en rode broek" te tekenen, maar ze zeiden expliciet: "Teken geen Mickey Mouse." De standaard AI tekende vaak alsnog Mickey Mouse. De Signed Rectified Flow AI tekende een muis die alle gevraagde kenmerken had (oren, broek, schoenen), maar er voldoende afweek om de auteursrechtelijk beschermde identiteit te vermijden.
De naaktest: Op een benchmark genaamd "Ring-A-Bell", die probeert AI te misleiden om naaktheid te tekenen, verminderde de nieuwe methode de foutmarge van 15,19% naar 6,33%. Dit betekent dat het veel beter was in het volgen van de "doe dit niet"-regel zonder de afbeeldingen wazig of kapot te maken.

Waarom dit ertoe doet

De schoonheid van deze aanpak is dat het niet slechts een "hack" of een simpel filter is. Het is een fundamentele verandering in hoe de AI door zijn creatieve ruimte beweegt. Door het concept van "negatieve massa" te gebruiken, hebben de auteurs een systeem gecreëerd waarin de AI van nature slechte dingen vermijdt omdat de wiskunde van zijn reis hem wegduwt.

Ze lieten zien dat dit werkt of je nu een robot door een doolhof stuurt, nieuwe afbeeldingen van honden genereert, of probeert te voorkomen dat een AI de trainingsdata kopieert. De methode is flexibel: je kunt de "afstoting" sterker of zwakker maken (met behulp van een parameter genaamd $\alpha$ ) om te bepalen hoe strikt de AI de slechte zaken moet vermijden.

Het artikel suggereert dat dit een principiële, wiskundig onderbouwde manier is om negatieve instructies af te handelen. Het gaat niet alleen over "nee" zeggen; het gaat over het bouwen van een wereld waarin "nee" een fysieke barrière is die de AI niet kan overschrijden. Hoewel de auteurs opmerken dat hun methode iets meer rekenkracht vereist (ongeveer 10% meer tijd en geheugen) om deze afstotende krachten te berekenen, lijkt de ruil voor de extra veiligheid en controle de moeite waard.

Kortom, Signed Rectified Flow geeft AI een nieuw soort gezond verstand: het vermogen om niet alleen te weten wat het moet doen, maar ook echt te begrijpen wat het niet moet doen, terwijl de creatieve vonk behouden blijft.

Technische Samenvatting: Signed Rectified Flow (Signed RF)

Probleemstelling

Veel generatieve modellerings-taken vereisen niet alleen het bevorderen van een gewenste distributie ( $\pi_+$ ), maar ook het expliciet onderdrukken van een ongewenste distributie ( $\pi_-$ ). Dit doet zich voor bij conditionele generatie (het matchen van doelstellingen terwijl inconsistenties worden vermeden), veiligheidsafstemming (het genereren van waarde-gealigneerde outputs terwijl schadelijke outputs worden uitgesloten) en preference learning.

Huidige benaderingen, met name voor flow- en diffusiemodellen, vertrouwen op heuristische sturing tijdens het samplen (bijv. Classifier-Free Guidance). Deze methoden extrapoleren tussen positieve en negatieve velden met behulp van vaste of handmatig afgestemde schalen. Echter, de geïnduceerde samplingsdistributies zijn slecht begrepen, waardoor het onduidelijk blijft welke regio's in de dataruimte effectief worden gepromoveerd of onderdrukt. Bovendien worstelt standaard sturing met het "missing negative data"-probleem, waarbij de afwezigheid van negatieve voorbeelden in de training niet inherent voorkomt dat het model deze genereert.

Methodologie: Signed Rectified Flow

De auteurs stellen Signed Rectified Flow (Signed RF) voor, een principieel kader dat Rectified Flow (RF) generaliseert om met gesigneerde maten om te gaan.

1. De Gesigneerde Target

In plaats van een standaard waarschijnlijkheidsverdeling definieert Signed RF een gesigneerde target-maat:
$\pi_{\text{sign}} = (1 + \alpha)\pi_+ - \alpha\pi_-$
waarbij $\alpha > 0$ . Hierbij vertegenwoordigt $\pi_+$ de distributie die gepromoveerd moet worden, en $\pi_-$ de distributie die onderdrukt moet worden. Hoewel $\pi_{\text{sign}}$ geen geldige waarschijnlijkheidsverdeling is (het kan negatieve waarden aannemen en integreert niet naar 1 in de standaard zin), dient het als een intermediair object om expliciete uitsluitingsrestricties te coderen.

2. Dynamica en Snelheidsveld

Signed RF breidt de RF-snelheidsformule uit naar deze gesigneerde target. Gegeven marginale distributies $\pi^+_t$ en $\pi^-_t$ en hun respectieve snelheidsvelden $v^+_t$ en $v^-_t$ die worden geïnduceerd door lineaire interpolatie van een bronverdeling $\pi_0$ , wordt het Signed RF-snelheidsveld afgeleid als:
$v^{\text{signRF}}_t(x) = \frac{(1 + \alpha)\pi^+_t(x)v^+_t(x) - \alpha\pi^-_t(x)v^-_t(x)}{(1 + \alpha)\pi^+_t(x) - \alpha\pi^-_t(x)}$
Dit kan worden herschreven in een guidance-achtige vorm:
$v^{\text{signRF}}_t(x) = v^+_t(x) + \lambda^\alpha_t(x) \Delta v_t(x)$
waarbij $\Delta v_t(x) = v^+_t(x) - v^-_t(x)$ en de guidance-sterkte $\lambda^\alpha_t(x)$ wordt bepaald door de dichtheidsratio $r_t(x) = \pi^-_t(x)/\pi^+_t(x)$ :
$\lambda^\alpha_t(x) = \frac{\alpha r_t(x)}{(1 + \alpha) - \alpha r_t(x)}$

3. Theoretische Garanties: Bereikbare en Ghost Regio's

Het artikel analyseert het gedrag van bron-geïnitialiseerde trajecten ( $Z_0 \sim \pi_0$ ) onder deze dynamica:

Preservering van de Positieve Regio: Trajecten blijven strikt binnen de positieve regio $\Omega^+_t = \{x : \pi_{\text{sign}}_t(x) > 0\}$ en kruisen nooit de negatieve regio $\Omega^-_t$ .
De Nulset als Barrière: De verzameling waar $\pi_{\text{sign}}_t(x) = 0$ geldt, fungeert als een afstotende barrière. Het snelheidsveld wordt singular bij deze grens, wat penetratie voorkomt.
Bereikbare versus Ghost Regio's: De samplingswet $\pi^{\text{signRF}}_t$ komt exact overeen met de gesigneerde marginale $\pi_{\text{sign}}_t$ op een bereikbare regio $\Omega^r_t \subseteq \Omega^+_t$ . Het resterende deel van de positieve regio wordt de ghost regio ( $\Omega^g_t)$ genoemd. De positieve massa in de ghost regio balanceert exact de negatieve massa die uit de samplingswet is uitgesloten.
Interpretatie: De auteurs bieden een "geladen deeltjes"-interpretatie waarbij positieve en negatieve deeltjes annihileren bij de nul-grens, wat een structurele scheiding creëert tussen de gesamplede trajecten en de negatieve regio's.

4. Praktische Implementatie

Om Signed RF te implementeren, moet de dichtheidsratio $r_t(x)$ worden geschat. Het artikel stelt twee methoden voor:

Classifier-gebaseerd: Het trainen van een binaire classifier op ruisige toestanden van positieve en negatieve takken om de odds ratio te schatten.
Online Ratio Tracking: Het volgen van de log-dichtheidsratio $u_t = \log r_t(z_t)$ langs het traject door een ODE te integreren die afgeleid is van de continuiteitsvergelijking en scorefuncties. Dit voorkomt het trainen van een hulp-classifier.

Belangrijkste Bijdragen en Resultaten

1. Theoretisch Kader

Het artikel stelt vast dat Signed RF een gesigneerde marginale transformeert in een geldige waarschijnlijkheidswet door de gesigneerde dichtheid op de bereikbare regio te preserveren en elders een dichtheid van nul toe te wijzen. Dit biedt een rigoureuze basis voor het incorporeren van negatieve informatie, waarbij bewezen wordt dat de geïnduceerde flow van nature negatieve regio's vermijdt zonder ad-hoc restricties.

2. Empirische Toepassingen

De auteurs demonstreren Signed RF over verschillende domeinen:

2D Toy Examples & PointMaze: Signed RF scheidt positieve en negatieve modi succesvol en navigeert door obstakels (missing negative data problem) waar constante guidance faalt (ofwel niet afstotend, ofwel te sterk afstotend).
ImageNet Class-Conditional Generation: Door gebruik te maken van een vooraf getraind Rectified Flow-model, verbetert Signed RF de fidelity–diversity trade-off. Bij 16 NFE (Number of Function Evaluations) vermindert het de FID van 2.38 (CFG) naar 1.82, terwijl het een hogere recall behoudt bij vergelijkbare precisie.
Anti-Memorization: Door de trainingsset te modelleren als een negatieve distributie, vermindert Signed RF (getiteld "Data Repulsive Flow") de replicatie van trainingsdata. Op risicovolle seeds onderdrukt het dataset-specifieke artefacten (watermerken, randen) en vergroot het de nearest-neighbor afstanden tot de trainingsset, terwijl de generatiekwaliteit behouden blijft (FID 2.03 vs. 7.41 voor SPELL-50).
Concept Onderdrukking & Veiligheid: Toegepast op Stable Diffusion 3.5, vermindert Signed RF de attack success rate (ASR) voor naaktgeneratie van 15.19% naar 6.33% en verlaagt het toxiciteitspercentages, terwijl CLIP- en esthetische scores behouden blijven. Het onderdrukt ook effectief specifieke concepten (zoals auteursrechtelijk beschermde personages zoals Mickey Mouse of Spider-Man) terwijl gewenste visuele attributen behouden blijven.

Betekenis en Claims

Het artikel claimt dat Signed Rectified Flow een principieel en praktisch kader biedt voor het incorporeren van expliciete negatieve distributies in generatieve flows. In tegen tegenstelling tot heuristische guidance-methoden die vertrouwen op vaste schalen, leidt Signed RF een staat-afhankelijke guidance-sterkte af uit de lokale dichtheidsratio tussen positieve en negatieve takken.

Belangrijke claims zijn onder meer:

Theoretische Rigor: Het biedt een wiskundig gefundeerde mechanisme voor uitsluiting, waarbij bewezen wordt dat bron-geïnitialiseerde flows van nature negatieve regio's vermijden via een afstotende barrière bij de gesigneerde nul-set.
Oplossen van Missing Negative Data: Het adresseert de beperking van trainingsdata die een gebrek aan expliciete negatieve voorbeelden heeft, door de gebruiker de mogelijkheid te geven een negatieve distributie (bijv. de trainingsset zelf of een specif concept) te definiëren die onderdrukt moet worden.
Optimalisatie van de Trade-off: Empirisch gezien bereikt het betere fidelity–diversity trade-offs en effectievere concept-onderdrukking dan bestaande baselines (CFG, SPELL, SAFREE) zonder significante computationele overhead (ongeveer 10% toename in runtime en geheugen).

Het werk positioneert Signed RF als een algemene uitbreiding van Rectified Flow die de behandeling van zowel promotie als onderdrukking verenigt binnen één enkel dynamisch systeem, waarmee het verder gaat dan heuristische extrapolatie naar een theoretisch gerechtvaardigde samplingswet.