GPU-Accelerated Tensor Operations for CKKS-Based CNN Inference on Homomorphically Encrypted Data
本文提出了一种 GPU 加速框架，该框架将 TenSEAL 库与针对 Troy CKKS 库的自定义 CUDA 后端相结合，实现了在紧凑型及边缘设备上高效的张量级加密 CNN 推理，其性能显著优于高端 CPU 服务器和操作级 GPU 基准。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在数字时代，人工智能的承诺往往伴随着一个隐藏的代价：需要将私密数据交给服务器进行处理。无论是医疗记录、金融交易还是个人照片，目前的标准都要求对信息进行解密才能理解其含义，这在过程中使其变得脆弱。同态加密为这一困境提供了一种出路。它是一种数学方法，允许计算机对处于加密锁定状态的数据进行计算。计算机可以在从未见过原始值的情况下进行加法、乘法和分析，并返回一个在解锁后与从原始数据中产生的结果在数学上完全一致的结果。这项技术具有彻底改变隐私保护的潜力，但多年来，由于速度过慢而无法投入实际应用。由于在处理加密数据时所需的计算量极其庞大，处理单张图像可能需要数小时甚至数天，这使得该技术在人脸识别或疾病诊断等实时应用场景中显得毫无用处。
来自西班牙和葡萄牙的一个研究小组现在开发了一种新方法，将这种缓慢的理论技术带入了实用领域，特别是针对使用人工智能进行图像分析的任务。他们专注于一种被称为 CKKS 的特定加密类型，该类型旨在处理图像识别中使用的近似数值，并构建了一个在图形处理器（GPU）上运行这些计算的系统。这些是计算机和智能手机中用于同时处理海量数据的强大芯片。研究人员不仅仅是加速了现有的代码；他们从根本上重新思考了计算机组织工作的方式。他们没有将加密数据视为一条由单个、顺序步骤组成的链条，而是设计了一个能够一次性处理整个图像分析网络层的系统。通过这样做，他们在高级软件指令与现代硬件的原始速度之间架起了一座桥梁，使得复杂的图像识别任务能够在比以往认为快得多的时间内，在加密数据上完成。
其工作的核心涉及一种称为“层级执行”（layer-level execution）的方法。在典型的分析图像的人工智能网络中，数据会经过一系列阶段或“层”。其中一些层寻找边缘和形状，另一些层将相似的像素分组，还有一些层结合信息做出最终决策。在以往尝试在加密数据上运行这些网络的过程中，计算机在每一步数学运算后都必须停止，重新组织数据，然后开始下一步。这种不断的停止与启动造成了巨大的瓶颈。这个新系统集成了名为 TenSEAL 的流行软件框架，它允许计算机在一个连续的爆发过程中执行整个网络的层。它不将加密图像视为一系列孤立的数字，而是将其视为一个可以进行并行操作的大型、有序的块。这类似于图书管理员是去整理一本书，还是同时整理一整排书架；新方法允许计算机同时处理整排书架，而不是一次只处理一本书。
为了测试这个想法，研究人员构建了一套专门的指令，称为“内核”（kernels），它们告诉显卡如何精确处理这些大型加密数据块。他们在两种不同类型的硬件上测试了他们的系统：一种是紧凑型、高性能的服务器芯片，另一种是专为无人机或自动驾驶汽车等边缘设备设计的更小、更节能的芯片。他们将新方法的性能与两个基准进行了比较：一个是拥有九十六个处理器核心的标准强大服务器，另一个是运行在同一显卡上但使用了较慢的逐步处理方法的旧版本软件。结果令人震惊。在处理图像识别所需的复杂数学运算时，运行在紧凑型服务器芯片上的新系统比那个庞大的九十六核服务器快了高达七点五倍。与在同一显卡上运行的旧的逐步处理方法相比，新系统在某些类型的计算中快了高达两百五十八倍。
研究人员不仅测量了原始速度，还验证了新系统的准确性。他们让两个不同的图像识别模型（一个用于识别手写数字，另一个用于分类微小物体）通过他们的加密系统进行测试。他们将加密处理后的最终答案与不使用加密处理相同图像得到的答案进行了对比。差异微乎其微。加密系统做出了与非加密系统相同的正确预测，只有在数字上存在极小的、数学上预料之中的偏差，而这些偏差并不影响最终结果。这证实了速度的提升并非以牺牲准确性或可靠性为代价。该系统成功地在保护数据隐私的同时，提供了与传统方法同样高质量的结果。
该研究最重要的发现之一是，即使在紧凑型和边缘设备上也能实现这种水平的性能。长期以来，同态加密的高昂成本意味着它只能在庞大且耗能的数据中心运行。研究人员证明，他们优化的方法允许这些保护隐私的计算在更小、更便携的硬件上高效运行。这为那些数据无需离开创建设备的场景打开了大门。例如，医疗设备可以在不将原始图像发送到云端服务器的情况下，在本地分析患者的扫描图；或者智能摄像头可以在不将视觉数据传输到中央数据库的情况下识别面部。这项研究证明，计算障碍不再是一道无法逾越的墙，而是一个可以通过正确的架构设计来跨越的障碍。
虽然新系统提供了显著的改进，但研究人员指出，并非过程中的每一个部分都能从这种方法中平等获益。最复杂的运算——即涉及重新组织加密数据以准备进入下一步的操作——仍然消耗大量时间。在这些特定情况下，新方法相对于旧显卡方法的优势虽然仍然显著，但表现得没那么突出。这表明，尽管层级策略是一个巨大的飞跃，但在如何处理最困难的部分方面仍有进一步完善的空间。研究人员计划在未来探索将这些复杂任务映射到硬件的不同方式，旨在榨取更高的效率。
这项工作代表了迈向“隐私与性能不再互斥”之未来的切实一步。通过重新设计加密数据在计算机中的移动方式，该团队展示了在不牺牲速度的情况下，在锁定数据上运行复杂人工智能是可行的。研究结果表明，实用化、保护隐私的机器学习时代不再是一个遥远的理论可能，而是一个可以部署在我们现有硬件上的现实。能够在紧凑型设备上安全且快速地处理图像的能力表明，下一代安全应用将能够独立运行，在提供现代用户所期望的智能洞察的同时，保持敏感信息的安全。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。