ActDistill: General Action-Guided Self-Derived Distillation for Efficient Vision-Language-Action Models

1. 研究背景与问题定义 (Problem)

背景：
视觉 - 语言 - 动作（Vision-Language-Action, VLA）模型在机器人操作、视觉导航和交互控制中展现出强大的泛化能力。然而，现有的 VLA 模型通常架构庞大，涉及频繁的跨模态交互和复杂的动作解码，导致巨大的计算开销和推理延迟，难以在实时或资源受限的嵌入式机器人平台上部署。

现有方法的局限性：
当前的 VLA 效率优化策略（如 Token 剪枝、早期退出、轻量级架构设计）主要借鉴自视觉 - 语言模型（VLM），侧重于减少视觉或语言表征的冗余。然而，它们忽视了一个 VLA 系统独有的核心特性：从视觉 - 语言表征到可执行动作信号的渐进式转换过程（VL-to-Action transformation）。

• 关键信息丢失： 现有方法往往基于表征冗余进行压缩，可能无意中丢弃了对动作落地（Grounding）至关重要的感知和语义线索。
• 动作 - 语义不连续： 破坏中间层的转换动态会削弱感知与控制之间的一致性，导致策略稳定性下降。
• 缺乏动作先验引导： 现有方法未利用“动作先验”来指导知识蒸馏和模型压缩，导致压缩后的模型在动作预测上缺乏针对性。

核心问题：
如何在保持 VLA 模型动作预测精度的同时，显著降低计算成本？关键在于如何保留对“视觉 - 语言到动作”转换至关重要的层级结构，并剔除冗余计算。

---

2. 方法论 (Methodology)

作者提出了 ActDistill，一种通用的动作引导自衍生蒸馏框架。其核心思想是将模型压缩与 VL-to-Action 的转换过程显式对齐，利用动作先验作为引导信号。

2.1 整体架构

ActDistill 包含两个主要阶段：

1. 图结构封装（Graph-Structured Encapsulation）： 在教师模型（Teacher）中构建图结构，建模动作预测中的层级依赖。
2. 动作引导的自衍生蒸馏（Action-Guided Self-Derived Distillation）： 学生模型（Student）在动作先验的引导下，自适应地选择计算路径。

2.2 核心组件详解

A. 图结构封装 (Graph-Structured Encapsulation)

• 动机： VLA 中间层的视觉 - 语言表征往往纠缠了空间配置和语义依赖。为了揭示对动作预测至关重要的依赖关系，将教师模型的中间表征重构为图结构。
• 实现：
  • 将第 $l$ 层的隐藏状态 $h_l$ 中的每个 Token 视为图的节点。
  • 计算节点间的亲和度（Affinity），构建 $k$-近邻图（$k$-NN Graph），仅保留最相关的局部邻居，形成稀疏结构。
  • 通过基于注意力的消息传递（Message Passing）聚合邻居信息，生成结构化的语义胶囊（Semantic Capsule）$s_l^{tea}$。
  • 辅助损失： 教师模型通过辅助预测头，强制这些语义胶囊能够预测真实动作，从而确保图结构编码的是与动作控制相关的语义，而非通用的感知相关性。

B. 动作引导的自衍生蒸馏 (Action-Guided Self-Derived Distillation)

• 自衍生学生模型： 学生模型是教师模型的参数高效副本，保留了层级结构但深度更浅。
• 动态路由机制 (Dynamic Router)：
  • 引入一个路由网络 $R$，根据输入（视觉 $v$ 和语言 $l$）预测每一层的门控分数 $g_l$。
  • 训练时： 使用软门控（Soft Gating）联合优化，让路由网络学习哪些层对动作预测至关重要。
  • 推理时： 根据阈值 $\tau$ 将门控离散化。仅执行 $g_l \ge \tau$ 的层，跳过冗余层。
• 蒸馏目标函数：
  • 语义对齐损失 ($L_{sem}$)： 强制学生模型的语义胶囊与教师模型的结构化语义胶囊在实例级和关系级上保持一致。
  • 动作一致性损失 ($L_{act}$)： 包含三重 MSE 损失，确保学生模型的动作预测不仅接近真实标签，还要与教师模型的预测一致，并促进从感知到控制的渐进式细化（通过 Stop-Gradient 操作）。
  • 负载均衡损失 ($L_{lb}$)： 防止路由网络过度跳过所有层或保留所有层，鼓励合理的稀疏性。

2.3 训练与推理流程

• 训练： 教师模型冻结。分两阶段优化：先训练教师的图封装模块，再联合训练学生模型、路由器和投影头。
• 推理： 仅保留学生模型和训练好的路由器。输入指令和观测后，路由器动态决定执行哪些层，最终输出动作。所有辅助组件（如教师图模块、辅助头）均被移除。

---

3. 主要贡献 (Key Contributions)

1. 提出了 ActDistill 框架： 首个显式将模型压缩与"VL-to-Action"转换过程对齐的通用蒸馏框架，实现了面向动作的效率优化。
2. 技术创新：
   • 设计了图结构封装，保留了从视觉 - 语言表征到动作的层级转换结构，解决了动作 - 语义不连续问题。
   • 提出了动作引导的动态路由机制，根据动作需求自适应激活关键计算路径，避免无效计算。
3. 性能突破： 在多个具身智能基准测试中，ActDistill 在减少超过 50% 计算量（FLOPs）的同时，保持了与全尺寸 VLA 模型相当甚至更优的任务成功率，推理速度提升最高达 1.67 倍。

---

4. 实验结果 (Results)

实验在 LIBERO 和 SIMPLER 两个具身操作基准上，基于 OpenVLA（自回归）和 CogACT（扩散式）两种架构进行验证。

• 任务成功率 (Success Rate)：
  • 在 LIBERO 基准上，ActDistill 平均成功率为 73.95%，仅比全尺寸 OpenVLA (74.95%) 低 1%，且优于大多数基线方法（如 VLA-Cache, EfficientVLA）。
  • 在 SIMPLER 基准的 Variant Aggregation 场景（更具挑战性）中，ActDistill 甚至略微超越了基线 CogACT。
• 效率提升：
  • 计算量减少： FLOPs 降低至原始模型的 42.3% - 49.5%（即减少 50% 以上）。
  • 推理加速： 实现了 1.59x - 1.67x 的推理速度提升。
  • 延迟降低： 在 LIBERO 上将延迟从 48.91ms 降至 30.74ms。
• 消融实验：
  • 移除图结构（替换为 MLP）导致性能大幅下降（平均成功率从 74.08% 降至 64.53%），证明了显式关系建模对捕捉空间依赖的重要性。
  • 移除语义损失或动作损失均导致性能显著下降，验证了多级别监督的必要性。
• 真实世界部署：
  • 在 ARX5 机械臂上的真实实验中，ActDistill 保持了与全尺寸模型相同的 62.5% 成功率，但推理时间从 10.2s 缩短至 6.3s（1.62 倍加速），而对比方法 VLA-Cache 成功率大幅下降至 55%。

---

5. 意义与影响 (Significance)

1. 范式转变： ActDistill 改变了 VLA 效率优化的思路，从单纯关注“视觉 - 语言”冗余，转向关注“视觉 - 语言到动作”的转换过程。它证明了动作先验是指导模型压缩的关键信号。
2. 通用性与兼容性： 该方法不依赖特定的模型架构，既适用于自回归模型（OpenVLA），也适用于扩散模型（CogACT），为不同硬件平台上的具身智能提供了通用的解决方案。
3. 实际部署价值： 通过显著降低计算成本和延迟，同时保持高控制精度，ActDistill 使得在资源受限的机器人设备上实时运行高性能 VLA 模型成为可能，推动了具身智能从实验室走向实际应用场景。
4. 可解释性增强： 通过图结构和注意力热力图可视化，ActDistill 能够更聚焦于与动作相关的区域（如物体把手、目标容器），而非分散关注整个场景，提升了模型的可解释性和决策可靠性。

总结： ActDistill 通过引入动作引导的图结构蒸馏和动态路由，成功解决了 VLA 模型在保持高性能的同时实现高效推理的难题，为构建高效、实时的具身智能系统奠定了新的技术基础。