Resumo Técnico: Direcionamento de Ativação de Modelos de Geração de Vídeo via Controle Ótimo de Ordem Reduzida

Declaração do Problema

Modelos de texto-para-vídeo (T2V) treinados em dados de larga escala da web frequentemente herdam conceitos indesejados, incluindo nudez, violência gráfica, material protegido por direitos autorais e representações de figuras públicas. Esses riscos de segurança tornam necessárias intervenções que constranjam os resultados sem sacrificar a qualidade visual ou a fidelidade ao prompt. As estratégias de mitigação existentes enfrentam limitações significativas:

• Finetuning requer recursos extensivos de treinamento.
• Edição de modelo (modificação de pesos) pode degradar a qualidade do resultado e induzir comportamentos imprevisíveis.
• Filtragem de prompts é vulnerável a jailbreaks e prompts indiretos.
• Métodos existentes de direcionamento de ativação são tipicamente não-anticipativos, aplicando intervenções fixas ou míopes que falham em considerar como as perturbações se propagam através do modelo. Isso frequentemente leva ao excesso de direcionamento (over-steering), degradação de conteúdo ou sensibilidade a prompts adversários.

Além disso, aplicar controle ótimo diretamente nos espaços de ativação de alta dimensão de modelos T2V (que podem exceder 80 milhões de dimensões) é computacionalmente intratável, exigindo petabytes de memória para matrizes Jacobianas de espaço total.

Metodologia: LA-LQR

Os autores propõem o Latent Activation Linear-Quadratic Regulator (LA-LQR), um framework de controle ótimo de ordem reduzida projetado para um direcionamento de T2V minimamente invasivo. O método formaliza a inferência T2V como um sistema dinâmico e computa intervenções de feedback de malha fechada.

1. Formalizando T2V como um Sistema Dinâmico

O processo de geração T2V (baseado em Diffusion Transformers, ou DiTs) é recodificado como um sistema dinâmico de horizonte finito onde as ativações internas servem como estados. O sistema evolui ao longo de passos de difusão $t \in [T]$ e camadas de transformer $l \in [L]$. A transição de estado é governada pelos pesos e arquitetura do modelo, com sinais de direcionamento atuando como entradas de controle ($u_s$) aplicadas às ativações de tokens de vídeo ou embeddings de texto.

2. Construção de Espaço Latente de Ordem Reduzida

Para tornar o controle viável, o LA-LQR projeta as ativações brutas de alta dimensão ($x \in \mathbb{R}^{D_{act}}$) em um subespaço latente de baixa dimensão e relevante para a tarefa ($z \in \mathbb{R}^{D_{lat}}$), onde $D_{lat} \ll D_{act}$.

• Base Contrastiva: O subespaço é derivado de pares de prompts contrastivos ($D^+$ contendo a característica alvo, $D^-$ sem ela).
• SVD Aleatorizada: Os autores utilizam a Decomposição de Valor Singular (SVD) aleatorizada de fluxo sobre os vetores de diferença desses pares de prompts para identificar direções de características dominantes sem materializar matrizes Jacobianas massivas.
• Projeção: As ativações são projetadas nesta base ($P_s$), e a dinâmica linear local é estimada no espaço latente usando produtos Jacobiano-vetor (JVP).

3. Pontos de Ajuste de Características Lineares Latentes (LLFS)

Dentro do espaço latente, o método define um Latent Linear Feature Setpoint (LLFS) representando a força desejada da característica.

• Uma direção de característica $v^z_s$ é computada pela média dos vetores contrastivos projetados.
• Uma força alvo $\beta^*_s$ é definida via um hiperparâmetro $\lambda$.
• O erro de rastreamento $\alpha_s$ é calculado como a diferença entre a força da característica alvo e a força da característica projetada atual.

4. Controle Ótimo via LQR

O LA-LQR resolve um problema de Regulador Linear-Quadrático (LQR) no espaço latente para determinar o sinal de controle ótimo $u^*_s$.

• Objetivo: Minimizar uma função de custo que penaliza desvios do ponto de ajuste da característica desejada enquanto penaliza simultaneamente perturbações desnecessárias (esforço de controle).
• Feedback de Malha Fechada: Diferente dos métodos de malha aberta, o LA-LQR computa um ganho de feedback $K_s$ via recursões de Riccati. A intervenção é $u^*_s = \bar{u}_s - K_s \delta z_s$, onde $\delta z_s$ é o desvio da trajetória nominal.
• Adaptatividade: O controlador se adapta online à ativação latente realizada em cada passo de tempo e camada, antecipando a evolução natural da ativação e intervindo apenas quando necessário para atingir o ponto de ajuste.

5. Garantias Teóricas

O artigo fornece limites teóricos relacionando o rastreamento do ponto de ajuste latente ao controle de característica no espaço de ativação bruta. Ele demonstra que, se a projeção retém a energia de característica dominante (quantificada por $\rho_s$) e as dinâmicas projetadas são localmente lineares, o erro de rastreamento de característica no espaço bruto é limitado pelo erro de rastreamento latente, perda de projeção e resíduos de linearização.

Principais Contribuições

1. Formalização: Os autores formalizam a geração T2V como um sistema dinâmico de horizonte finito e propõem um framework de controle ótimo linear para direcionamento em tempo de inferência, derivando intervenções de feedback de malha fechada minimamente invasivas online.
2. Tratabilidade: Eles introduzem uma construção de espaço latente de ordem reduzida usando vetores contrastivos, tornando o controle ótimo viável para modelos T2V ao evitar Jacobianos de ativação de espaço total.
3. Justificativa Teórica: O artigo quantifica a perda de informação de característica durante a projeção e valida a linearidade local do espaço latente, fornecendo limites para o desempenho do controlador de ordem reduzida.
4. Validação Empírica: Uma avaliação extensiva em dois modelos T2V de última geração: Wan2.1-T2V-14B e HunyuanVideo-1.5, usando os benchmarks T2VSafetyBench e SafeSora.

Resultados

O método foi avaliado em dois modelos T2V de última geração: Wan2.1-T2V-14B e HunyuanVideo-1.5, utilizando os benchmarks T2VSafetyBench e SafeSora.

• Desempenho de Segurança: O LA-LQR alcançou as menores taxas de violação em diversas categorias (ex: Pornografia, Gore, Figuras Públicas, Direitos Autorais) comparado aos baselines como SAFREE [10], unlearning de pesos [9] e direcionamento assistido por LLM [69]. Por exemplo, no Wan2.1, a taxa média de violação caiu de ~36,9% (baseline) para 14,6% com o LA-LQR.
• Preservação de Qualidade: O método manteve altos escores de Consistência de Assunto (VBench), frequentemente igualando ou superando os baselines (ex: 0,971 vs 0,964 para o Wan2.1), indicando que as intervenções de segurança não degradaram a coerência visual.
• Direcionamento de Conceito: Resultados qualitativos mostraram o direcionamento eficaz de conceitos (ex: mudar "vermelho" para proeminente em uma cena) com o aumento da força de controle, demonstrando modulação precisa de características.
• Comparação: Ao contrário dos baselines que ou falham em prompts com jailbreak (filtragem) ou introduzem artefatos severos quando ajustados agressivamente (edição de pesos), o LA-LQR equilibrou com sucesso segurança e qualidade através de perturbações de norma mínima.

Significância e Alegações

O artigo afirma que o LA-LQR representa um passo significativo adiante na interpretabilidade mecanística e alinhamento de segurança para modelos de vídeo generativos. Ao tratar a inferência como um problema de controle e utilizar controle ótimo de ordem reduzida, o método alcança:

• Confiabilidade: Fornece uma solução de tempo de inferência, sem necessidade de treinamento, que é robusta contra prompts adversários onde a filtragem de nível de entrada falha.
• Precisão: Permite intervenções minimamente invasivas, evitando o "excesso de direcionamento" (over-steering) e a degradação visual comuns em abordagens anteriores de direcionamento de ativação.
• Escalabilidade: Resolve a intratabilidade computacional de controlar ativações de vídeo de alta dimensão ao aproveitar a dinâmica latente de baixa dimensão derivada de aprendizado contrastivo.

Os autores posicionam o LA-LQR como uma direção promissora para o alinhamento confiável e sem treinamento de modelos T2V, sugerindo que o direcionamento de ativação baseado em teoria de controle pode restringir efetivamente saídas prejudiciais enquanto preserva a utilidade e a qualidade dos modelos generativos. Eles explicitamente observam que o método deve ser acompanhado de filtragem de prompt ou moderação de saída, pois assume acesso de caixa branca e não garante segurança contra todos os possíveis inputs adversários.