🤖 machine learning

Signed Rectified Flow: Negativity-Controlled Generation

Questo articolo introduce il Signed Rectified Flow, un framework di modellazione generativa che estende il Rectified Flow per gestire misure con segno, consentendo l'incorporazione basata su principi di informazioni negative per sopprimere contenuti indesiderati (come nudità o dati memorizzati) preservando al contempo la qualità e la diversità delle immagini.

Autori originali: Runlong Liao, Baiyu Su, Lizhang Chen, Qiang Liu

Pubblicato 2026-07-22

📖 7 min di lettura🧠 Approfondimento

CC BY 4.0

Autori originali: Runlong Liao, Baiyu Su, Lizhang Chen, Qiang Liu

Articolo originale sotto licenza CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Questa è una spiegazione generata dall'IA dell'articolo qui sotto. Non è stata scritta né approvata dagli autori. Per precisione tecnica, consulta l'articolo originale. Leggi il disclaimer completo

Immagina di insegnare a un robot come dipingere. Gli mostri migliaia di immagini di tramonti bellissimi e lui impara a crearne di propri. Ma cosa succederebbe se volessi anche insegnargli cosa non dipingere? Magari non vuoi che faccia scarabocchi brutti, o forse vuoi che eviti di copiare un personaggio specifico protetto da copyright come Topolino. Nel mondo dell'intelligenza artificiale, questo è un puzzle complicato. Di solito, i modelli di IA imparano venendo mostrato loro cosa fare, ma faticano quando dici semplicemente: "Non farlo". È come cercare di dire a un cane di non inseguire uno scoiattolo stando semplicemente fermi; il cane non sa cosa fare con la sua energia.

Questo articolo approfondisce un angolo specifico dell'IA chiamato "modellazione generativa", dove i computer creano nuove immagini, suoni o percorsi da zero. Gli autori si stanno basando su una tecnica chiamata "Rectified Flow", che è come un'autostrada super efficiente per trasformare il rumore casuale in un'immagine nitida. Immaginatelo come una linea ferroviaria dritta e veloce che guida una nuvola caotica di polvere verso una statua perfetta. La grande domanda che affrontano è: come possiamo costruire una linea ferroviaria che non solo guidi la polvere verso la statua, ma che la respinga attivamente lontano da un mucchio di spazzatura che non vogliamo?

Gli autori introducono un nuovo metodo ingegnoso chiamato Signed Rectified Flow. Invece di cercare solo di deviare l'IA lontano dalle cose brutte, trattano matematicamente le cose "brutte" come se avessero una "massa negativa". Immaginate lo spazio creativo dell'IA come un paesaggio. Di solito, l'IA è attratta dalle zone alte (immagini belle). Questo nuovo metodo crea una zona di "gravità negativa" sopra le immagini brutte. È come posizionare un enorme magnete invisibile che respinge l'energia creativa dell'IA, costringendola a fluire intorno alle zone proibite e a stabilirsi solo nelle aree sicure e bellissime. Lo hanno testato su tutto, dalle mappe 2D a immagini complesse, e i risultati suggeriscono che sia un modo potente per rendere l'IA più sicura e obbediente senza rovinare la qualità della sua arte.

La magia della gravità "negativa"

Per capire come funziona, immaginiamo il viaggio dell'IA come un fiume che scorre da una montagna sorgente rumorosa (statica casuale) verso un lago calmo (l'immagine finale). Nell'IA standard, costruiamo semplicemente un canale per guidare l'acqua verso il lago. Ma cosa succederebbe se ci fosse una palude nel mezzo che vogliamo evitare?

Gli autori propongono un'idea affascinante: trattare la palude come se avesse acqua negativa. Nel mondo reale, l'acqua negativa non esiste, ma nella matematica sì. Creano una mappa "firmata" dove le aree buone hanno acqua positiva e le aree brutte hanno acqua negativa. Quando l'IA cerca di fluire attraverso questa mappa, l'acqua negativa agisce come una forza repulsiva. Non sta solo lì ferma; spinge l'acqua via.

Ecco la parte interessante: l'IA non scorre effettivamente attraverso la palude negativa. Inveve, la matematica crea una "regione fantasma" o una barriera. Il fiume curva naturalmente attorno alla zona negativa, trovando un percorso che rimanga interamente nelle aree positive e sicure. È come se l'IA fosse un escursionista che può sentire una forza magnetica che lo allontana dal bordo di un precipizio. L'escursionista non cade mai perché il terreno stesso sembra inclinarsi lontano dal pericolo.

L'analogia della "particella carica"

Gli autori spiegano questo concetto usando un divertente' analogia fisica: le particelle cariche. Immaginate che i punti dati dell'IA siano piccole particelle. I dati buoni (come la foto di un gatto) hanno una carica positiva, e i dati cattivi (come la foto di un cane quando volevi un gatto) hanno una carica negativa.

Quando l'IA genera una nuova immagine, è come rilasciare una particella positiva all'inizio di un viaggio. Mentre avanza, sente una forte repulsione dalle cariche negative. Se si avvicina troppo alla zona "brutta", la repulsione diventa così forte da agire come un muro, facendo rimbalzare la particella verso il lato buono. Il documento mostra che questo crea una "regione raggiungibile" dove l'IA può esplorare in sicurezza, mentre la "regione negativa" rimane completamente intoccata. L'IA non entra accidentalmente nell'area proibita perché la matematica del flusso rende fisicamente impossibile per la particella attraversare quel confine.

Cosa hanno scoperto in laboratorio

Il team non si è limitato a sognare questa idea; l'ha testata in diversi modi e i risultati sembrano promettenti.

1. Le mappe 2D di prova
Per prima cosa, hanno giocato con semplici mappe 2D. Immaginate una mappa con un'isola "buona" e una palude "brutta". Quando hanno usato i vecchi metodi, l'IA o rimaneva bloccata nella palude o veniva spinta così lontano da finire in un deserto sterile. Con il Signed Rectified Flow, l'IA è rimasta perfettamente sull'isola buona, evitando la palude e coprendo comunque l'intera isola. Era come un GPS perfetto che sapeva esattamente dove non andare.

2. Il test di "anti-memorizzazione"
Una delle maggiori preoccupazioni riguardo all'IA è che possa semplicemente fare copia-incolla di immagini dai suoi dati di addestramento (memorizzazione). Gli autori hanno usato il loro metodo per dire all'IA: "Non copiare le foto esatte che hai visto durante l'addestramento". Hanno trattato i dati di addestramento come la zona "negativa".

Il Risultato: Quando hanno chiesto all'IA di disegnare una specifica razza di cane, l'IA standard a volte copiava la foto esatta dal suo set di addestramento, inclusi strani artefatti come filigrane o bordi. L'IA con il Signed Rectified Flow, invece, ha disegnato un cane nuovo e unico che somigliava alla razza ma non copiava la foto specifica dell'addestramento. Ha rimosso con successo le immagini generate dalla "palude dei dati di addestramento" pur mantenendo l'aspetto di un cane.
I Numeri: Nei loro test, hanno scoperto che l'uso di questo metodo riduce significativamente la somiglianza con le immagini di addestramento. Ad esempio, con una specifica impostazione, hanno ridotto il "tasso di successo dell'attacco" (quanto spesso l'IA falliva nell'evitare contenuti negativi) dal 15,19% al 6,33% nei test di sicurezza, mantenendo quasi invariati i punteggi di qualità dell'immagine (punteggi CLIP e Aesthetic).

3. Sicurezza e soppressione dei concetti
Hanno anche testato se potevano impedire all'IA di disegnare contenuti inappropriati o personaggi specifici protetti da copyright.

Il test di Topolino: Hanno detto all'IA di disegnare un "topo da cartone con orecchie nere rotonde e pantaloncini rossi", ma hanno esplicitamente detto: "Non disegnare Topolino". L'IA standard spesso disegnava comunque Topolino. L'IA con il Signed Rectified Flow ha disegnato un topo che aveva tutte le caratteristiche richieste (orecchie, pantaloncini, scarpe) ma appariva abbastanza distinto da evitare l'identità protetta da copyright.
Il test della nudità: Su un benchmark chiamato "Ring-A-Bell", che cerca di trarre in inganno l'IA per disegnare nudità, il nuovo metodo ha ridotto il tasso di fallimento dal 15,19% al 6,33%. Ciò significa che è stato molto più bravo a seguire la regola del "non fare questo" senza rendere le immagini sfocate o rotte.

Perché questo è importante

La bellezza di questo approccio è che non è solo un "trucco" o un semplice filtro. È un cambiamento fondamentale nel modo in cui l'IA si muove nel suo spazio creativo. Usando il concetto di "massa negativa", gli autori hanno creato un sistema in cui l'IA evita naturalmente le cose brutte perché la matematica del suo viaggio la respinge.

Hanno dimostrato che questo funziona sia che si guidi un robot attraverso un labirinto, sia che si generino nuove immagini di cani, sia che si cerchi di impedire all'IA di copiare i propri dati di addestramento. Il metodo è flessibile: si può regolare la "repulsione" verso l'alto o verso il basso (usando un parametro chiamato $\alpha$ ) per decidere quanto rigorosamente l'IA debba evitare le cose brutte.

Il documento suggerisce che questo è un modo principista e matematicamente solido per gestire le istruzioni negative. Non si tratta solo di dire "no"; si tratta di costruire un mondo in cui il "no" è una barriera fisica che l'IA non può attraversare. Sebbene gli autori notino che il loro metodo richiede un po' più di potenza di calcolo (circa il 10% in più di tempo e memoria) per calcolare queste forze repulsive, il compromesso sembra valere la pena per la sicurezza e il controllo extra che fornisce.

In breve, il Signed Rectified Flow conferisce all'IA un nuovo tipo di buon senso: la capacità non solo di sapere cosa fare, ma di capire veramente cosa non fare, mantenendo intatto il suo slancio creativo.

Sintesi Tecnica: Signed Rectified Flow (Signed RF)

Definizione del Problema

Molti compiti di modellazione generativa richiedono non solo la promozione di una distribuzione desiderabile ( $\pi_+$ ), ma anche la soppressione esplicita di una indesiderabile ( $\pi_-$ ). Ciò deriva dalla generazione condizionale (far corrispondere i target evitando al contempo le incongruenze), dall'allineamento della sicurezza (generare output coerenti con i valori pur escludendo quelli dannosi) e dall'apprendimento delle preferenze.

Gli approcci attuali, in particolare per i modelli di flusso e diffusione, si affidano a una guida euristica durante il campionamento (ad esempio, Classifier-Free Guidance). Questi metodi estrapolano tra campi positivi e negativi utilizzando scale fisse o regolate manualmente. Tuttavia, le distribuzioni di campionamento indotte sono scarsamente comprese, rendendo poco chiaro quali regioni dello spazio dei dati vengano effettivamente promosse o soppresse. Inoltre, la guida standard fatica con il problema dei "dati negativi mancanti", dove l'assenza di esempi negativi durante l'addestramento non impedisce intrinsecamente al modello di generarli.

Metodologia: Signed Rectified Flow

Gli autori propongono il Signed Rectified Flow (Signed RF), un framework principato che generalizza il Rectified Flow (RF) per gestire misure con segno.

1. Il Target con Segno (Signed Target)

Invece di una distribuzione di probabilità standard, il Signed RF definisce una misura con segno:
$\pi_{\text{sign}} = (1 + \alpha)\pi_+ - \alpha\pi_-$
dove $\alpha > 0$ . Qui, $\pi_+$ rappresenta la distribuzione da promuovere e $\pi_-$ rappresenta la distribuzione da sopprimere. Sebbene $\pi_{\text{sign}}$ non sia una distribuzione di probabilità valida (può assumere valori negativi e non integra a 1 nel senso standard), essa funge da oggetto intermedio per codificare vincoli di esclusione espliciti.

2. Dinamica e Campo di Velocità

Il Signed RF estende la formula della velocità del RF a questo target con segno. Date le distribuzioni marginali $\pi^+_t$ e $\pi^-_t$ e i rispettivi campi di velocità $v^+_t$ e $v^-_t$ indotti dall'interpolazione lineare da una distribuzione sorgente $\pi_0$ , il campo di velocità Signed RF è derivato come:
$v^{\text{signRF}}_t(x) = \frac{(1 + \alpha)\pi^+_t(x)v^+_t(x) - \alpha\pi^-_t(x)v^-_t(x)}{(1 + \alpha)\pi^+_t(x) - \alpha\pi^-_t(x)}$
Questo può essere riscritto in una forma simile alla guida:
$v^{\text{signRF}}_t(x) = v^+_t(x) + \lambda^\alpha_t(x) \Delta v_t(x)$
dove $\Delta v_t(x) = v^+_t(x) - v^-_t(x)$ e la forza di guida $\lambda^\alpha_t(x)$ è determinata dal rapporto di densità $r_t(x) = \pi^-_t(x)/\pi^+_t(x)$ :
$\lambda^\alpha_t(x) = \frac{\alpha r_t(x)}{(1 + \alpha) - \alpha r_t(x)}$

3. Garanzie Teoriche: Regioni Raggiungibili e Fantasma

Il documento analizza il comportamento delle traiettorie inizializzate dalla sorgente ( $Z_0 \sim \pi_0$ ) sotto questa dinamica:

Preservazione della Regione Positiva: Le traiettorie rimangono strettamente all'interno della regione positiva $\Omega^+_t = \{x : \pi_{\text{sign}}_t(x) > 0\}$ e non attraversano mai la regione negativa $\Omega^-_t$ .
L'Insieme Zero come Barriera: L'insieme dove $\pi_{\text{sign}}_t(x) = 0$ agisce come una barriera repulsiva. Il campo di velocità diventa singolare in questo confine, impedendo la penetrazione.
Regioni Raggiungibili vs. Fantasma: La legge di campionamento $\pi^{\text{signRF}}_t$ coincide esattamente con la marginale con segno $\pi_{\text{sign}}_t$ su una regione raggiungibile $\Omega^r_t \subseteq \Omega^+_t$ . La parte rimanente della regione positiva è definita regione fantasma ( $\Omega^g_t$ ). La massa positiva nella regione fantasma bilancia esattamente la massa negativa esclusa dalla legge di campionamento.
Interpretazione: Gli autori forniscono un'interpretazione a "particelle cariche" in cui particelle positive e negative si annichilano al confine dello zero, creando una separazione strutturale tra le traiettorie campionate e le regioni negative.

4. Implementazione Pratica

Per implementare il Signed RF, il rapporto di densità $r_t(x)$ deve essere stimato. Il documento propone due metodi:

Basato su Classificatore: Addestramento di un classificatore binario sugli stati rumorosi dai rami positivo e negativo per stimare il rapporto di probabilità (odds ratio).
Monitoraggio del Rapporto Online: Tracciamento del log-rapporto di densità $u_t = \log r_t(z_t)$ lungo la traiettoria integrando un ODE derivato dall'equazione di continuità e dalle funzioni di score. Questo evita l'addestramento di un classificatore ausiliario.

Contributi Chiave e Risultati

1. Framework Teorico

Il documento stabilisce che il Signed RF rettifica una marginale con segno in una legge di probabilità valida preservando la densità con segno sulla regione raggiungibile e assegnando densità zero altrove. Ciò fornisce una base rigorosa per incorporare informazioni negative, dimostrando che il flusso indotto evita naturalmente le regioni negative senza richiedere vincoli ad hoc.

2. Applicazioni Empiriche

Gli autori dimostrano il Signed RF in diversi domini:

Esempi Ludici 2D e PointMaze: Il Signed RF separa con successo i modi positivi e negativi e naviga tra gli ostacoli (problema dei dati negativi mancanti) dove la guida costante fallisce (ovvero fallendo nel respingere o respingendo eccessivamente).
Generazione Condizionale per Classe su ImageNet: Utilizzando un modello Rectified Flow pre-addestrato, il Signed RF migliora il compromesso fedeltà-diversità. A 16 NFE (Numero di Valutazioni della Funzione), riduce il FID da 2.38 (CFG) a 1.82 mantenendo un recall più elevato a parità di precisione.
Anti-Memorizzazione: Modellando l'insieme di addestramento come una distribuzione negativa, il Signed RF (denominato "Data Repulsive Flow") riduce la replicazione dei dati di addestramento. Sui seed ad alto rischio, sopprime gli artefatti specifici del dataset (watermark, bordi) e aumenta le distanze del vicino più prossimo rispetto al set di addestramento pur preservando la qualità della generazione (FID 2.03 vs. 7.41 per SPELL-50).
Soppressione di Concetti e Sicurezza: Applicato a Stable Diffusion 3.5, il Signed RF riduce il tasso di successo degli attacchi (ASR) per la generazione di nudità dal 15.19% al 6.33% e i tassi di tossicità, preservando al contempo i punteggi CLIP e estetici. Sopprime anche efficacementamente concetti specifici (ad esempio, identità di personaggi protetti da copyright come Mickey Mouse o Spider-Man) mantenendo gli attributi visivi desiderati.

Significato e Claim

Il documento sostiene che il Signed Rectified Flow offre un framework principato e pratico per incorporare distribazioni negative esplicite nei flussi generativi. A differenza dei metodi di guida euristica che si affidano a scale fisse, il Signed RF deriva una forza di guida dipendente dallo stato dal rapporto di densità locale tra i rami positivo e negativo.

I claim principali includono:

Rigore Teorico: Fornisce un meccanismo matematicamente fondato per l'esclusione, dimostrando che i flussi inizializzati dalla sorgente evitano naturalmente le regioni negative tramite una barriera repulsiva al set zero con segno.
Risoluzione dei Dati Negativi Mancanti: Affronta il limite dei dati di addestramento privi di esempi negativi espliciti, permettendo all'utente di definire una distribuzione negativa (ad esempio, il dataset stesso o un concetto specifico) da sopprimere.
Ottimizzazione del Compromesso: Empiricamente, raggiunge migliori compromessi fedeltà-diversità e una soppressione dei concetti più efficace rispetto alle baseline esistenti (CFG, SPELL, SAFREE) senza un sovraccarico computazionale significativo (circa un aumento del 10% in tempo di esecuzione e memoria).

Il lavoro posiziona il Signed RF come un'estensione generale del Rectified Flow che unifica la gestione di promozione e soppressione all'interno di un singolo sistema dinamico, andando oltre l'estrapolazione euristica verso una legge di campionamento teoricamente giustificata.