💻 computer science

Jaguar: Fast Private CNN Inference with Power-of-Two Homomorphic Arithmetic

Jaguar 是一个私有的 CNN 推理系统，它利用 2 的幂次密文环来实现高效的标量-多项式卷积和精确的局部截断，从而消除了协议瓶颈，并与最先进的混合 HE/2PC 解决方案相比，实现了显著更低的延迟和通信开销。

原作者： Yewon Jeong, Nayoung Jung, Hyeri Roh, Woo-Seok Choi

发布于 2026-06-11

📖 1 分钟阅读☕ 轻松阅读

原作者： Yewon Jeong, Nayoung Jung, Hyeri Roh, Woo-Seok Choi

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你想请一位超级聪明的厨师（服务器）用你的秘密家族食谱（客户端的数据）为你烹饪一道复杂的菜肴。你不想让厨师看到你的食谱，而厨师也不想泄露他们的烹饪秘诀（模型）。

为了解决这个问题，你们使用了一个特殊的“魔法厨房”，在这里，食材被锁在坚不可摧的盒子里（加密）。厨师可以在不打开盒子的情况下进行烹饪。这被称为隐私推理（Private Inference）。

然而，这里有一个问题：目前的魔法厨房既慢又笨拙。厨师有 99% 的时间都花在研究如何在盒子里混合食材，而且他们必须进行许多额外且不必要的步骤，以确保测量精度。

于是，有了 Jaguar，这是一个旨在解决这些瓶颈的新系统。以下是它的工作原理，使用简单的类比：

1. 旧方法：“质数”陷阱

大多数之前的系统使用基于质数（如 7, 13, 17）的规则来进行盒子内部的数学运算。

问题所在： 质数对于通用数学非常棒，但对于图像识别所需的特定类型“混合”（卷积）来说却很糟糕。这就像试图用圆锯去切割一个完美的正方形蛋糕。你必须进行大量的额外切割和打磨（模约减/modular reduction）才能让零件契合，这让一切都变慢了。
精度混乱： 此外，当厨师混合食材时，测量值会变得过大（双倍精度）。厨师必须用这些巨大的测量值进行烹饪，然后停下来，叫第二个人来把它们修剪成合适的大小（截断/truncation），然后再检查食物是否合格（ReLU）。这是两个单独且缓慢的步骤。

2. Jaguar 的解决方案：“2 的幂”切换

Jaguar 做了一个大胆的改变：它将数学规则从质数切换到了 2 的幂（如 2, 4, 8, 16, 32）。

为什么这有帮助： 在数字世界中，2 的幂就像是“完美契合的乐高积木”。你不需要任何打磨或切割。如果你需要减少一个数字，你只需要“遮盖”（mask）掉多余的部分（就像掰掉一块乐高积木一样）。这使得数学运算变得极其快速。

3. Jaguar 的三个魔术技巧

A. “标量-多项式”厨房 (SPA-CONV)

旧方法： 厨师必须一次性将两个巨大且复杂的食谱相乘。这既沉重又缓慢。
Jaguar 的方法： 因为现在的数学是基于 2 的幂，厨师不需要同时乘两个巨大的食谱。相反，他们只需取一个单一的成分（标量），将其乘以一个食谱，然后将其滑动。他们多次这样做并累加结果。
结果： 这就像是用一个简单的、快速的手持搅拌器取代了沉重的工业搅拌机。论文声称，这使得“混合”步骤比之前的最优系统快 2 到 3 倍。

B. “预修剪”技巧 (精确截断)

旧方法： 厨师用过大的测量值进行烹饪，然后必须停下来叫第二个人来修剪多余部分。
Jaguar 的方法： 因为数学是基于 2 的幂，厨师可以在检查食物是否合格（ReLU）之前，直接移动小数点（“右移”）。
结果： 修剪过程在盒子内部瞬间完成，无需额外的通信。这个“切削”步骤被完全消除了。这节省了大量的时间和数据传输。

C. 厨师的“秘密工具” (NTT 辅助解密)

担忧： 你可能会担心：“如果我们停止使用质数，当厨师最终需要打开盒子查看结果时，他们会不会卡住？”
解决方法： Jaguar 允许厨师仅在打开盒子的最后一步使用一种特殊的、临时的“质数工具”。这个工具对厨师来说是保密的且仅限本地使用。
结果： 厨师在 99% 的工作中享受着“乐高”数学的速度，但在最后的揭晓阶段依然能获得“质数”数学的精度。

最终成绩单

研究人员在著名的图像识别模型（如 ResNet 和 MobileNet）上测试了 Jaguar，并将其与当前的领导者（Cheetah 和 Rhombus）进行了比较。

速度： Jaguar 在端到端任务上快了 2 到 3.7 倍。
通信： 它在客户端和服务器之间传输的数据量减少了 1.1 到 1.7 倍。
准确度： 它保持了与原始模型相同的高准确度。

简而言之： Jaguar 意识到旧的“魔法厨房”规则限制了大家。通过切换到更简单、更符合数字特性的数学系统（2 的幂）并重新组织烹饪步骤，它使隐私、安全的图像识别变得显著更快且更高效。

技术摘要：Jaguar

问题陈述

混合同态加密（HE）与安全两方计算（2PC）框架目前是实现精确隐私卷积神经网络（CNN）推理的最佳设计点，避免了全同态多项式近似带来的精度下降。然而，这些系统面临两个关键瓶颈：

HE 卷积延迟： 线性层计算受限于基于数论变换（NTT）的多项式算术和模素数约减。对 Cheetah 等最先进系统的剖析显示，仅卷积过程就消耗了线性层超过 96% 的延迟，其中 NTT 操作和模约减占据了绝大部分时间。
低效的精度流： 在定点推理中，线性层产生的输出具有两倍的小数位精度（ $2f$ 位）。传统的混合系统将这些宽位宽值直接传递给 ReLU 协议，随后通过一个独立的、交互式的 2PC 截断协议来恢复目标精度。这种方法在 ReLU 期间为更宽的位宽增加了不必要的计算成本，并为截断步骤引入了显著的通信开销。

这两个问题的根源在于对素数模数（特别是对 NTT 友好的素数）算术的依赖，这种设计继承自标准的 FHE 库。虽然这对于通用的多项式乘法是最优的，但对于执行单层线性运算后立即转换为 $\mathbb{Z}_{2^\ell}$ 上加性份额的混合 HE/2PC 系统而言，则是次优的选择。

方法论

Jaguar 通过一个核心设计选择解决了这些瓶颈：采用幂次为二的密文环（ $q = 2^Q, p = 2^P$ ）作为算术基底，而非传统的素数模数。这一选择实现了三个相互关联的技术创新：

1. SPA-CONV：系数域卷积

通过利用幂次为二的环，Jaguar 消除了线性路径中对基于 NTT 的多项式乘法的需求。相反，它采用了标量–多项式累加（SPA-CONV）。

机制： 卷积被评估为一系列移位后的标量–多项式乘积之和。对于每个滤波器权重（标量），系统执行输入密文的系数级移位并累加结果。
优势： 该方法用标量–多项式乘法、系数移位和位掩码（用于模 $2^Q$ 约减）取代了昂贵的逐多项式乘法和模素数约减。它不需要明文–密文多项式乘法，也不需要服务器端的 NTT。

2. ReLU 前精确密文侧截断

幂次为二的模数确保了 BFV 缩放因子 $\Delta = q/p = 2^{Q-P}$ 也是 2 的幂。

机制： 这种整除性允许直接通过算术右移（在无符号残数上实现为逻辑移位）在密文分量上进行精确截断，从而在 ReLU 操作之前完成。
益处： 这消除了对独立的交互式 2PC 截断协议的需求。此外，它将输入到 ReLU 协议的位宽从 $\ell$ 降低到 $\ell-f$ ，从而降低了非线性阶段的通信和计算成本。

3. NTT 辅助解密

虽然服务器端的线性路径避开了 NTT，但客户端在解密过程中仍需执行多项式乘法（ $\hat{c}'_1 \cdot \hat{s}$ ）。

机制： Jaguar 通过使用辅助 NTT 友好素数（ $q_{ntt}$ ）仅在客户端层面恢复了该特定局部操作的 NTT 效率。客户端将系数映射到此辅助素数，通过 NTT 执行乘法，并将结果映射回幂次为二的环。
益处： 这在不干扰幂次为二协议基底或引入服务器端 NTT 开销的前提下，保留了客户端解密的 $O(N \log N)$ 复杂度。

核心贡献

幂次为二算术基底： Jaguar 是首个使用幂次为二密文环作为图像量级 CNN 推理中心算术体制的 HE/2PC 系统，脱离了标准的 NTT 素数后端。
SPA-CONV 内核： 一种新型卷积内核，通过标量–多项式乘积和系数移位的求和来评估逐点（pointwise）、密集（dense）和深度卷积（depthwise），从而消除了线性路径中的 NTT 和模素数约减。
零通信截断： 证明了精确密文侧截断的正确性，从而完全移除了 ReLU 后的截断协议，这是此前的混合系统所不具备的特性。
NTT 辅助解密： 一种客户端本地技术，利用辅助素数在不损害其幂次为二设计的同时保持解密效率。

实验结果

作者在双 Intel Xeon Gold 6250 配置（禁用 AVX）上，针对 ImageNet 量级的 ResNet-18、ResNet-50 和 MobileNetV2 对 Jaguar 进行了评估。

延迟： 与 Cheetah 相比，Jaguar 在 LAN 和 WAN 设置下实现了 2.07–3.72 倍的端到端延迟降低；与 Rhombus 相比，延迟降低了 2.16–3.36 倍。
- 在 ResNet-50 上，卷积内核延迟降低了 79%。
- ReLU+截断阶段的延迟分别降低了 2.32 倍 (LAN) 和 1.80 倍 (WAN)。
通信： Jaguar 比 Cheetah 减少了 1.16–1.76 倍 的通信量。
- 截断阶段的通信降至零。
- 由于输入位宽减小，ReLU 的通信也随之降低。
- 注：在 ResNet-50 上，Jaguar 的通信量略高于 Rhombus (1.28×)，因为 Rhombus 专门针对主导 ResNet-50 通信的逐点和矩阵-向量组件进行了优化，而 Jaguar 则通过牺牲部分通信量来换取整个卷积路径显著的计算性能提升。然而，在 ResNet-18 和 MobileNetV2 上，Jaguar 在延迟和通信方面均优于 Rhombus。
微基准测试： 在仅计算卷积的基准测试中（禁用 AVX），对于打包布局（packed layouts），Jaguar 相比 Cheetah 的几何平均加速比分别为：密集卷积 2.47×、逐点卷积 11.82× 以及深度卷积 11.65×。

意义

本文声称，Jaguar 证明了改变基础 HE 算术体制——从素数模数转向幂次为二——可以释放出巨大的实际隐私 CNN 推理增益，这种增益是仅仅通过在传统后端之上优化打包或通信所无法实现的。通过将密文模数与份额域（ $\mathbb{Z}_{2^\ell}$ ）对齐并实现无约减算术，Jaguar 同时解决了 HE 卷积和精度流的主要瓶颈。该系统证明，只要解决了特定的需求（如卷积中的标量–多项式累加和解密效率问题），幂次为二的环不仅可行，而且在混合 HE/2PC 推理中具有优越性。