⚡ electrical engineering

Activation Steering of Video Generation Models via Reduced-Order Linear Optimal Control

本文介绍了 LA-LQR，这是一种降阶最优控制框架，通过在低维潜空间中计算闭环反馈干预，来引导文本生成视频模型，从而在有效抑制有害内容的同时，保持视觉质量和提示词忠实度。

原作者： Jihoon Hong, Alice Chan, Qiyue Dai, Julian Skifstad, Glen Chou

发布于 2026-06-04

📖 1 分钟阅读☕ 轻松阅读

原作者： Jihoon Hong, Alice Chan, Qiyue Dai, Julian Skifstad, Glen Chou

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你有一个非常有才华但有点鲁莽的视频制作机器人。你给它一段文字描述，它就会创作出一个视频。因为这个机器人是从整个互联网中学习的，所以它有时会不小心包含一些你不想要的东西——比如暴力、裸露或受版权保护的角色。

这篇论文的作者们开发了 LA-LQR，它就像是这种机器人的一种新型“遥控器”。他们并没有尝试重新训练机器人（这既耗时又昂贵），也没有仅仅通过屏蔽关键词（聪明的用户很容易绕过这种限制），而是找到了在机器人思考的过程中轻轻“推”一下它的脑回路的方法，从而在不破坏质量的前提下，将视频引导向安全的结果。

以下是他们实现这一目标的步骤，通过简单的概念进行拆解：

1. 问题所在：机器人的“大脑”太大了

机器人的内部思考过程（称为“激活值”）规模巨大。想象一下，机器人的大脑在处理视频的每一帧时，会有 8700 万个不同的神经元同时在放电。

旧方法试图同时控制这 8700 万个神经元的整个大脑。这就像试图通过同时按压超级油轮上的每一个铆钉来转向一样。这在计算上是不可能的，而且经常会导致机器人变得混乱，产生充满瑕疵、破碎的视频。
LA-LQR 的方法认为：“我们不需要控制整个大脑。我们只需要控制那部分决定视频是‘安全’还是‘不安全’的特定少数神经元。”

2. 解决方案：在小房间里寻找“方向盘”

研究人员意识到，尽管机器人的大脑非常庞大，但“安全性”（或“红色”、“无暴力”）这类特定的概念只存在于大脑中一个极小的、低维度的角落。

类比： 想象一个拥有数百万本书的巨大图书馆（完整的大脑）。你正在寻找关于“安全性”的一句特定句子。你不需要读完所有的书；你只需要找到存放那句话的那个特定书架即可。
他们是如何做到的： 他们向机器人展示了一对提示词：一个包含坏事的内容（例如“一个裸体的人”）和一个不包含坏事的内容（例如“一个穿着衣服的人”）。通过对比这两个提示词下机器人的大脑活动，他们找到了“差异向量”——即在大脑中区分安全与危险的特定方向。然后，他们围绕这个方向构建了一个微型且高效的地图（一个“潜在子空间”）。

3. 引擎： “自我修正的定速巡航系统”

一旦找到了这个微小的“方向盘”，他们就需要找到一种既能转动它又不会过度操作的方法。

旧方法： 有些方法只是尽可能用力地向一个方向推方向盘。这就像开车时因为稍微偏离航线就猛踩刹车；你会导致车辆剧烈摇晃或失控（这被称为“过度转向”，它会毁掉视频）。
LA-LQR 的方法： 他们使用了一个名为 线性二次调节器 (Linear-Quadratic Regulator, LQR) 的数学框架。你可以把它想象成视频的自我修正定速巡航系统。
- 它不断检查：“我们是否在安全的路径上？”
- 如果机器人开始向危险漂移，系统会施加一个微小而精准的推力将其拉回。
- 如果机器人已经在正确的方向上行驶，系统则会保持“不做任何事”。
- 这确保了视频既保持安全，又不会引入奇怪的瑕疵或改变你要求的故事情节。

4. 结果：安全的视频，没有瑕疵

团队在两个强大的视频模型（Wan2.1 和 HunyuanVideo）上测试了该方法。

安全性： 他们向机器人输入了旨在生成暴力、色情或危险行为的提示词。LA-LQR 系统成功阻止了这些不良内容的出现。
质量： 至关重要的是，视频看起来依然非常出色。角色动作流畅，光影效果良好，且故事符合提示词的要求。
对比： 其他方法要么无法阻止不良内容，要么通过让视频变成破碎、充满瑕疵的混乱状态来停止生成。LA-LQR 则兼顾了两点：既阻止了坏事，又保持了视频的高质量。

总结

简而言之，LA-LQR 是一个聪明且轻量化的“推动”系统。它忽略了视频模型大脑中数百万个无关紧要的细节，找到了控制安全性的那几个微小的杠杆，并利用数学上的定速巡航系统，温柔地引导视频远离危险，确保最终结果既安全又美观。

技术摘要：通过降阶线性最优控制实现视频生成模型的激活转向

问题陈述

在海量网络数据上训练的文本生成视频（T2V）模型往往会继承不当概念，包括裸露、暴力、受版权保护的内容以及公众人物的描绘。这些安全风险使得必须进行干预，以在不牺牲视觉质量或提示词忠实度的前提下约束输出。现有的缓解策略面临显著局限性：

微调（Finetuning） 需要大量的训练资源。
模型编辑（Model editing）（权重修改）可能会降低输出质量并引发不可预测的行为。
提示词过滤（Prompt filtering） 容易受到越狱攻击和间接提示词的影响。
现有的激活转向方法（Activation steering methods） 通常是非前瞻性的，采用固定或短视的干预手段，未能考虑到扰动如何在模型中传播。这往往导致过度转向、内容退化或对对抗性提示词的敏感性。

此外，直接将最优控制应用于 T2V 模型的高维激活空间（其维度可能超过 8000 万）在计算上是不可行的，因为获取全空间雅可比矩阵（Jacobian matrices）需要数 PB 的内存。

方法论：LA-LQR

作者提出了 潜激活线性二次型调节器（Latent Activation Linear-Quadratic Regulator, LA-LQR），这是一种旨在实现极低侵入性 T2V 转向的降阶最优控制框架。该方法将 T2V 推理形式化为一个动力系统，并计算闭环反馈干预。

1. 将 T2V 形式化为动力系统

基于扩散 Transformer（DiT）的 T2V 生成过程被重构为一个有限时域动力系统，其中内部激活作为状态。系统在扩散时间步 $t \in [T]$ 和 Transformer 层 $l \in [L]$ 上演化。状态转移由模型的权重和架构控制，而转向信号作为控制输入（ $u_s$ ）作用于视频 Token 激活或文本嵌入。

2. 降阶潜空间构建

为了使控制具有可行性，LA-LQR 将高维原始激活（ $x \in \mathbb{R}^{D_{act}}$ ）投影到一个低维、任务相关的潜空间（ $z \in \mathbb{R}^{D_{lat}}$ ），其中 $D_{lat} \ll D_{act}$ 。

对比基底（Contrastive Basis）： 该子空间源自对比提示词对（包含目标特征的 $D^+$ 与不包含目标的 $D^-$ ）。
随机 SVD： 作者使用流式随机奇异值分解（Streaming Randomized SVD）处理这些提示词对的差异向量，从而在不实例化庞大雅可比矩阵的情况下识别主导特征方向。
投影： 激活被投影到该基底（ $P_s$ ）上，并在该潜空间中使用雅可比向量积（JVP）估计局部线性动力学。

3. 潜线性特征设定点（LLFS）

在潜空间内，该方法定义了一个代表期望特征强度的 潜线性特征设定点（Latent Linear Feature Setpoint, LLFS）。

通过对投影后的对比向量取平均值来计算特征方向 $v^z_s$ 。
通过超参数 $\lambda$ 设置目标强度 $\beta^*_s$ 。
计算追踪误差 $\alpha_s$ ，即目标强度与当前投影特征强度之间的差异。

4. 通过 LQR 实现最优控制

LA-LQR 在潜空间内求解线性二次型调节器（LQR）问题，以确定最优控制信号 $u^*_s$ 。

目标函数： 最小化一个代价函数，该函数在惩罚偏离期望特征设定点的同时，也惩罚不必要的扰动（控制代价）。
闭环反馈： 不同于开环方法，LA-LQR 通过 Riccati 递归计算反馈增益 $K_s$ 。其干预方式为 $u^*_s = \bar{u}_s - K_s \delta z_s$ ，其中 $\delta z_s$ 是相对于标称轨迹的偏差。
自适应性： 控制器在每个时间步和每一层在线适应实际的潜激活，预判激活的自然演化，并仅在必要时进行干预以达到设定点。

5. 理论保证

论文提供了将潜设定点追踪与原始激活空间特征控制联系起来的理论界限。研究表明，如果投影保留了主导特征能量（由 $\rho_s$ 量化）且投影动力学是局部线性的，则原始空间特征追踪误差受限于潜追踪误差、投影损失和线性化残差。

核心贡献

形式化： 作者将 T2V 生成形式化为一个有限时域动力系统，并提出了一种用于推理时转向的线性最优控制框架，推导出极低侵入性的在线反馈干预方案。
可计算性： 他们引入了一种利用对比向量构建的降阶潜空间，通过避免处理高维激活空间的完整雅可比矩阵，使 T2V 模型的控制变得可行。
理论证明： 论文量化了投影过程中的特征信息损失，并验证了潜空间的局部线性，为降阶控制器的性能提供了界限。
实证验证： 在概念转向和视频安全基准测试上的广泛评估表明，LA-LQR 在减少不安全生成的同时，能够保持提示词忠实度和视觉质量，优于现有的 T2V 转向和安全基准。

结果

该方法在两个最先进的 T2V 模型上进行了评估：Wan2.1-T2V-14B 和 HunyuanVideo-1.5，并使用了 T2VSafetyBench 和 SafeSora 基准测试。

安全性能： 与 SAFREE [10]、权重遗忘（Weight Unlearning）[9] 和 LLM 辅助转向 [69] 等基准相比，LA-LQR 在各个类别（如色情、血腥、公众人物、版权）中实现了最低的违规率。例如，在 Wan2.1 上，平均违规率从约 36.9%（基准）降至使用 LA-LQR 后的 14.6%。
质量保持： 该方法保持了较高的主体一致性得分（Subject Consistency scores, VBench），通常能达到或超过基准水平（例如 Wan2.1 的平均分 0.971 对比 0.964），表明安全干预并未降低视觉连贯性。
概念转向： 定性结果显示，随着控制强度的增加，该方法能有效转向特定概念（例如使“红色”在场景中更显著），展示了精确的特征调制能力。
对比分析： 不同于那些要么在面对越狱提示词时失效（过滤法），要么在进行激进调整时引入严重伪影（权重编辑）的基准方法，LA-LQR 通过最小范数扰动成功平衡了安全性与质量。

意义与主张

论文声称 LA-LQR 代表了生成式视频模型机械解释性与安全对齐领域的重要进展。通过将推理视为一个控制问题并利用降阶最优控制，该方法实现了：

可靠性： 它提供了一种无需训练、推理时生效的解决方案，对于输入级过滤失效的对抗性提示词具有鲁棒性。
精准度： 它实现了极低侵入性的干预，避免了以往激活转向方法中常见的“过度转向”和视觉退化问题。
可扩展性： 通过利用从对比学习中提取的低维潜动力学，它解决了控制高维视频激活在计算上的不可行性。

作者将 LA-LQR 定位为 T2V 模型可靠、无需训练对齐的一个有前景的方向，指出控制论驱动的激活转向可以有效地约束有害输出，同时保留生成模型的效用与质量。他们明确指出，该方法应与提示词过滤或输出监测配合使用，因为它假设具备白盒访问权限，且不能保证针对所有可能的对抗性输入都绝对安全。