🤖 machine learning

Signed Rectified Flow: Negativity-Controlled Generation

Este artigo apresenta o Signed Rectified Flow, uma estrutura de modelagem generativa que estende o Rectified Flow para lidar com medidas assinadas, permitindo a incorporação principada de informações negativas para suprimir conteúdo indesejado (como nudez ou dados memorizados) enquanto preserva a qualidade e a diversidade das imagens.

Autores originais: Runlong Liao, Baiyu Su, Lizhang Chen, Qiang Liu

Publicado 2026-07-22

📖 8 min de leitura🧠 Leitura aprofundada

CC BY 4.0

Autores originais: Runlong Liao, Baiyu Su, Lizhang Chen, Qiang Liu

Artigo original sob licença CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Esta é uma explicação gerada por IA do artigo abaixo. Não foi escrita nem endossada pelos autores. Para precisão técnica, consulte o artigo original. Ler aviso legal completo

Imagine que você está ensinando um robô a pintar. Você mostra a ele milhares de fotos de pores do sol deslumbrantes e ele aprende a criar os seus próprios. Mas e se você também quiser ensinar a ele o que não pintar? Talvez você não queira que ele desenhe rabiscos feios, ou talvez queira evitar que ele copie um personagem específico protegido por direitos autorais, como o Mickey Mouse. No mundo da inteligência artificial, este é um quebra-cabeça complicado. Geralmente, os modelos de IA aprendem sendo instruídos sobre o que fazer, mas eles têm dificuldade quando você apenas diz: "Não faça isso". É como tentar dizer a um cachorro para não perseguir um esquilo apenas ficando parado; o cachorro não sabe o que fazer com sua energia.

Este artigo mergulha em um canto específico da IA chamado "modelagem generativa", onde computadores criam novas imagens, sons ou caminhos do zero. Os autores estão construindo sobre uma técnica chamada "Rectified Flow" (Fluxo Retificado), que é como uma rodovia super eficiente para transformar ruído aleatório em uma imagem clara. Pense nisso como uma linha de trem reta e rápida que guia uma nuvem caótica de poeira até uma estátua perfeita. A grande questão que eles abordam é: Como construímos uma linha de trem que não apenas guia a poeira até a estátua, mas também a empurra ativamente para longe de um monte de lixo que não queremos?

Os autores introduzem um novo método astuto chamado Signed Rectified Flow (Fluxo Retificado Assinado). Em vez de apenas tentar desviar a IA de coisas ruins, eles tratam matematicamente as "coisas ruins" como tendo "massa negativa". Imagine o espaço criativo da IA como uma paisagem. Normalmente, a IA é atraída por terrenos altos (fotos boas). Este novo método cria uma zona de "gravidade negativa" sobre as fotos ruins. É como colocar um ímã gigante e invisível que repele a energia criativa da IA, forçando-a a contornar as zonas proibidas e a se estabelecer apenas nas áreas seguras e belas. Eles testaram isso em tudo, desde mapas 2D até imagens complexas, e os resultados sugerem que é uma forma poderosa de tornar a IA mais segura e obediente sem arruinar a qualidade de sua arte.

A Magia da Gravidade "Negativa"

Para entender como isso funciona, vamos imaginar a jornada da IA como um rio fluindo de uma montanha de nascente barulhenta (estática aleatória) para um lago calmo (a imagem final). Na IA padrão, apenas construímos um canal para guiar a água até o lago. Mas e se houver um pântano no meio que queremos evitar?

Os autores propõem uma ideia fascinante: tratar o pântano como tendo água negativa. No mundo real, a água negativa não existe, mas na matemática, ela existe. Eles criam um mapa "assinado" onde as áreas boas têm água positiva e as áreas ruins têm água negativa. Quando a IA tenta fluir através deste mapa, a água negativa atua como uma força repulsiva. Ela não fica apenas parada; ela empurra o rio para longe.

Aqui está a parte legal: a IA não flui realmente através do pântano negativo. Em vez disso, a matemática cria uma "região fantasma" ou uma barreira. O rio naturalmente contorna a zona negativa, encontrando um caminho que permanece inteiramente nas áreas positivas e seguras. É como se a IA fosse um trilheiro que consegue sentir uma atração magnética para longe da beira de um penhasco. O trilheiro nunca cai porque o próprio chão parece inclinar-se para longe do perigo.

A Analogia da "Partícula Carregada"

Os autores explicam isso usando uma analogia divertida da física: partículas carregadas. Imagine que os pontos de dados da IA são pequenas partículas. Os dados bons (como a foto de um gato) têm uma carga positiva, e os dados ruins (como a foto de um cachorro quando você queria um gato) têm uma carga negativa.

Quando a IA gera uma nova imagem, é como liberar uma partícula positiva no início de uma jornada. À medida que ela avança, sente uma forte repulsção das cargas negativas. Se ela chegar muito perto da zona "ruim", a repulsão torna-se tão forte que atua como uma parede, jogando a partícula de volta para o lado bom. O artigo mostra que isso cria uma "região alcançável" onde a IA pode explorar com segurança, enquanto a "região negativa" permanece completamente intocada. A IA nunca entra acidentalmente na área proibida porque a matemática do fluxo torna fisicamente impossível para a partícula cruzar esse limite.

O Que Eles Descobriram no Laboratório

A equipe não apenas sonhou com isso; eles testaram de várias maneiras, e os resultados parecem promissores.

1. Os Mapas de Brinquedo 2D
Primeiro, eles brincaram com mapas 2D simples. Imagine um mapa com uma ilha "boa" e um pântano "ruim". Quando usaram os métodos antigos, a IA ou ficava presa no pântano ou era empurrada tão longe que acabava em um deserto estéril. Com o Signed Rectified Flow, a IA permaneceu perfeitamente na ilha boa, evitando o pântano completamente, enquanto ainda cobria toda a ilha. Foi como um GPS perfeito que sabia exatamente para onde não ir.

2. O Teste de "Anti-Memorização"
Uma das maiores preocupações com a IA é que ela possa apenas copiar e colar imagens de seus dados de treinamento (memorização). Os autores usaram seu método para dizer à IA: "Não copie as fotos exatas que você viu no treinamento". Eles trataram os dados de treinamento como a zona "negativa".

O Resultado: Quando pediram à IA para desenhar uma raça específica de cachorro, a IA padrão às vezes copiava a foto exata de seu conjunto de treinamento, incluindo artefatos estranhos como marcas d'água ou bordas. A IA do Signed Rectified Flow, no entanto, desenhou um cachorro novo e único que parecia a raça, mas não copiou a foto específica do treinamento. Ela conseguiu afastar as imagens geradas do "pântano dos dados de treinamento" enquanto mantinha o cachorro parecendo um cachorro.
Os Números: Em seus testes, descobriram que o uso deste método reduziu significamente a similaridade com as imagens de treinamento. Por exemplo, com uma configuração específica, reduziram a "taxa de sucesso de ataque" (o quão frequentemente a IA falhava em evitar conteúdo ruim) de 15,19% para 6,33% em testes de segurança, mantendo as pontuações de qualidade de imagem (pontuações CLIP e Estética) quase exatamente as mesmas.

3. Segurança e Supressão de Conceitos
Eles também testaram se poderiam impedir a IA de desenhar conteúdo inapropriado ou personagens específicos protegidos por direitos autorais.

O Teste do Mickey Mouse: Eles disseram à IA para desenhar um "rato de desenho animado com orelhas pretas arredondadas e shorts vermelhos", mas disseram explicitamente: "Não desenhe o Mickey Mouse". A IA padrão muitas vezes desenhava o Mickey Mouse de qualquer maneira. O Signed Rectified Flow desenhou um rato que tinha todos os recursos solicitados (orelhas, shorts, sapatos), mas parecia distinto o suficiente para evitar a identidade protegida por direitos autorais.
O Teste de Nudez: Em um benchmark chamado "Ring-A-Bell", que tenta enganar a IA para desenhar nudez, o novo método reduziu a taxa de falha de 15,19% para 6,33%. Isso significa que foi muito melhor em seguir a regra do "não faça isso" sem fazer as imagens parecerem borradas ou quebradas.

Por Que Isso Importa

A beleza desta abordagem é que não é apenas um "truque" ou um filtro simples. É uma mudança fundamental em como a IA se move através de seu espaço criativo. Ao usar o conceito de "massa negativa", os autores criaram um sistema onde a IA naturalmente evita coisas ruins porque a matemática de sua jornada a empurra para longe.

Eles mostraram que isso funciona quer você esteja guiando um robô através de um labirinto, gerando novas imagens de cachorros ou tentando garantir que uma IA não copie seus dados de treinamento. O método é flexível: você pode aumentar ou diminuar a "repulsão" (usando um parâmetro chamado $\alpha$ ) para decidir o quão estritamente a IA deve evitar as coisas ruins.

O artigo sugere que esta é uma forma fundamentada e matematicamente sólida de lidar com instruções negativas. Não é apenas sobre dizer "não"; é sobre construir um mundo onde o "não" é uma barreira física que a IA não pode cruzar. Embora os autores notem que seu método exige um pouco mais de poder computacional (cerca de 10% a mais de tempo e memória) para calcular essas forças repulsivas, a troca parece valer a pena pela segurança e controle extras que proporciona.

Em suma, o Signed Rectified Flow dá à IA um novo tipo de senso comum: a capacidade de não apenas saber o que fazer, mas de realmente entender o que não fazer, mantendo viva sua centelha criativa.

Resumo Técnico: Fluxo Retificado Assinado (Signed RF)

Definição do Problema

Muitas tarefas de modelagem generativa requerem não apenas a promoção de uma distribuição desejável ( $\pi_+$ ), mas também a supressão explícita de uma indesejável ( $\pi_-$ ). Isso surge na geração condicional (correspondência de alvos evitando inconsistências), no alinhamento de segurança (geração de saídas alinhadas a valores enquanto se excluem outras prejudiciais) e no aprendizado de preferências.

Abordagens atuais, particularmente para modelos de fluxo e difusão, dependem de orientação heurística durante a amostragem (ex: Classifier-Free Guidance). Esses métodos extrapolam entre campos positivos e negativos usando escalas fixas ou ajustadas manualmente. No entanto, as distribuições de amostragem induzidas são mal compreendidas, tornando incerto quais regiões do espaço de dados são efetivamente promovidas ou suprimidas. Além disso, a orientação padrão tem dificuldade com o problema dos "dados negativos ausentes", onde a ausência de exemplos negativos no treinamento não impede inerentemente o modelo de gerá-los.

Metodologia: Fluxo Retificado Assinado

Os autores propõem o Fluxo Retificado Assinado (Signed RF), um framework principiado que generaliza o Fluxo Retificado (RF) para lidar com medidas assinadas.

1. O Alvo Assinado

Em vez de uma distribuição de probabilidade padrão, o Signed RF define uma medida alvo assinada:
$\pi_{\text{sign}} = (1 + \alpha)\pi_+ - \alpha\pi_-$
onde $\alpha > 0$ . Aqui, $\pi_+$ representa a distribuição a ser promovida e $\pi_-$ representa a distribuição a ser suprimida. Embora $\pi_{\text{sign}}$ não seja uma distribuição de probabilidade válida (pode assumir valores negativos e não integra para 1 no sentido padrão), ela serve como um objeto intermediário para codificar restrições de exclusão explícitas.

2. Dinâmica e Campo de Velocidade

O Signed RF estende a fórmula de velocidade do RF para este alvo assinado. Dadas as distribuições marginais $\pi^+_t$ e $\pi^-_t$ e seus respectivos campos de velocidade $v^+_t$ e $v^-_t$ induzidos pela interpolação linear de uma distribuição de origem $\pi_0$ , o campo de velocidade do Signed RF é derivado como:
$v^{\text{signRF}}_t(x) = \frac{(1 + \alpha)\pi^+_t(x)v^+_t(x) - \alpha\pi^-_t(x)v^-_t(x)}{(1 + \alpha)\pi^+_t(x) - \alpha\pi^-_t(x)}$
Isso pode ser reescrito em uma forma de orientação:
$v^{\text{signRF}}_t(x) = v^+_t(x) + \lambda^\alpha_t(x) \Delta v_t(x)$
onde $\Delta v_t(x) = v^+_t(x) - v^-_t(x)$ e a força de orientação $\lambda^\alpha_t(x)$ é determinada pela razão de densidade $r_t(x) = \pi^-_t(x)/\pi^+_t(x)$ :
$\lambda^\alpha_t(x) = \frac{\alpha r_t(x)}{(1 + \alpha) - \alpha r_t(x)}$

3. Garantias Teóricas: Regiões Alcançáveis e Fantasmas

O artigo analisa o comportamento das trajetórias inicializadas pela fonte ( $Z_0 \sim \pi_0$ ) sob esta dinâmica:

Preservação da Região Positiva: As trajetórias permanecem estritamente dentro da região positiva $\Omega^+_t = \{x : \pi_{\text{sign}}_t(x) > 0\}$ e nunca cruzam a região negativa $\Omega^-_t$ .
O Conjunto Zero como Barreira: O conjunto onde $\pi_{\text{sign}}_t(x) = 0$ atua como uma barreira repulsiva. O campo de velocidade torna-se singular nesta fronteira, impedindo a penetração.
Regiões Alcançáveis vs. Fantasmas: A lei de amostragem $\pi^{\text{signRF}}_t$ coincide exatamente com a marginal assinada $\pi_{\text{sign}}_t$ em uma região alcançável $\Omega^r_t \subseteq \Omega^+_t$ . A parte restante da região positiva é denominada região fantasma ( $\Omega^g_t$ ). A massa positiva na região fantasma equilibra exatamente a massa negativa excluída da lei de amostragem.
Interpretação: Os autores fornecem uma interpretação de "partícula carregada", onde partículas positivas e negativas se aniquilam na fronteira zero, criando uma separação estrutural entre as trajetórias amostradas e as regiões negativas.

4. Implementação Prática

Para implementar o Signed RF, a razão de densidade $r_t(x)$ deve ser estimada. O artigo propõe dois métodos:

Baseado em Classificador: Treinar um classificador binário em estados ruidosos de ramos positivos e negativos para estimar a razão de chances (odds ratio).
Rastreamento de Razão Online: Rastrear a razão de log-densidade $u_t = \log r_t(z_t)$ ao longo da trajetória integrando uma EDO derivada da equação de continuidade e funções de score. Isso evita o treinamento de um classificador auxiliar.

Principais Contribuições e Resultados

1. Framework Teórico

O artigo estabelece que o Signed RF retifica uma marginal assinada em uma lei de probabilidade válida ao preservar a densidade assinada na região alcançável e atribuir densidade zero em outro lugar. Isso fornece uma base rigorosa para incorporar informação negativa, provando que o fluxo induzido naturalmente evita regiões negativas sem exigir restrições ad-hoc.

2. Aplicações Empíricas

Os autores demonstram o Signed RF em diversos domínios:

Exemplos de Brinquedo 2D & PointMaze: O Signed RF separa com sucesso modos positivos e negativos e navega por obstáculos (problema de dados negativos ausentes) onde a orientação constante falha (ou falha em repelir ou repele excessivamente).
Geração Condicional de Classe ImageNet: Usando um modelo de Fluxo Retificado pré-treinado, o Signed RF melhora o equilíbrio fidelidade–diversidade. Com 16 NFE (Number of Function Evaluations), ele reduz o FID de 2.38 (CFG) para 1.82, mantendo maior recall com precisão comparável.
Anti-Memorização: Ao modelar o conjunto de treinamento como uma distribuição negativa, o Signed RF (denominado "Fluxo Repulsivo de Dados") reduz a replicação de dados de treinamento, suprimindo artefatos específicos do dataset (marcas d'água, bordas) em sementes de alto risco e aumentando as distâncias de vizinho mais próximo em relação ao conjunto de treinamento, preservando a qualidade da geração (FID 2.03 vs. 7.41 para SPELL-50).
Supressão de Conceitos e Segurança: Aplicado ao Stable Diffusion 3.5, o Signed RF reduz a taxa de sucesso de ataque (ASR) para geração de nudez de 15.19% para 6.33% e taxas de toxicidade, preservando também os escores de CLIP e estética. Ele também suprime efetivamente conceitos específicos (ex: identidades de personagens protegidos por direitos autorais como Mickey Mouse ou Spider-Man) enquanto retém atributos visuais desejados.

Significância e Alegações

O artigo afirma que o Signed Rectified Flow oferece um framework principiado e prático para incorporar distribuições negativas explícitas em fluxos generativos. Diferente de métodos de orientação heurística que dependem de escalas fixas, o Signed RF deriva uma força de orientação dependente do estado a partir da razão de densidade local entre os ramos positivo e negativo.

As principais alegações incluem:

Rigor Teórico: Fornece um mecanismo matematicamente fundamentado para exclusão, provando que fluxos inicializados pela fonte evitam naturalmente regiões negativas através de uma barreira repulsiva no conjunto zero assinado.
Resolvendo Dados Negativos Ausentes: Aborda a limitação de dados de treinamento que carecem de exemplos negativos explícitos, permitindo que o usuário defina uma distribuição negativa (ex: o próprio conjunto de treinamento ou um conceito específico) a ser suprimida.
Otimização de Trade-off: Empiricamente, alcança melhores equilíbrios fidelidade–diversidade e uma supressão de conceitos mais eficaz do que as linhas de base existentes (CFG, SPELL, SAFREE) sem aumento significativo no tempo de execução (aproximadamente 10% de aumento em tempo de execução e memória).

O trabalho posiciona o Signed RF como uma extensão geral do Fluxo Retificado que unifica o tratamento de promoção e supressão dentro de um único sistema dinâmico, indo além da extrapolação heurística para uma lei de amostragem teoricamente justificada.