Continual Learning With Participation Privacy: An Auditable Buffering-Aggregation Recipe
本文提出了一种可审计的模块化方案，通过采用一种随机缓冲包装器将单次编辑的用户流转换为可管理的汉明风格分箱更新，从而在参与隐私约束下实现持续学习中的轨迹级差分隐私，进而使标准的差分隐私原语能够在存在自适应交互的情况下仍能维持隐私保证。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下你正在主持一场规模宏大的协作烹饪大赛。成千上万名厨师（用户）正一个接一个地向中央评委（服务器）发送他们的秘密食谱（数据），以共同创造出一道完美的终极佳肴（机器学习模型）。
问题在于，评委在每加入几种食材后都会发布一次“品鉴快照”。一个狡猾的观察者（对手）正盯着每一个快照。他们想要弄清楚，像“鲍勃大厨”这样特定的厨师是否曾经参与其中。
在隐私领域，我们通常担心的是保护鲍勃大厨食谱的内容。但这篇文章担心的是保护鲍勃大厨的存在性。即使鲍勃的食谱被隐藏了，他添加食材这一事实本身导致菜肴发生的变化，也可能会暴露他的参与。
以下是该论文解决方案的简单拆解，使用了几种创意类比：
1. 问题：“多米诺效应”式的隐私
通常，隐私工具假设如果你改变一种食材，只有那一个位置的食谱会发生变化。这就像是用一撮盐换成一撮胡椒粉；菜肴的其他部分保持完全不变。
但在这种“参与隐私”场景下，如果鲍勃大厨没有出现，在他之后的所有食材都会向前平移。这就像是从一长排多米诺骨牌中移走了第一块，之后的所有骨牌都会发生不同的位移。这种“偏移”破坏了标准的隐私工具，因为整个菜肴的时间线看起来不再仅仅是一个点的变化，而是整个时间线的剧变。
2. 解决方案：“神秘盒子”传送带
作者提出了一个两步走的“食谱”来解决这个问题：随机缓冲（Randomized Buffering）和认证聚合（Certified Aggregation）。
A 步：神秘盒子（随机缓冲）
想象食材并不是直接送往评委，而是进入了一个带有“神秘盒子”系统的传送带。
- 规则： 系统会等待收集到随机数量的食材（例如 10 到 20 个）之后，才会打开一个盒子并将其发送给评委。
- 魔力： 因为盒子的大小是随机的，且发送的时机也是随机的，所以如果鲍勃大厨缺席了，系统只会多等一会儿，或者用稍微不同的食材填满盒子。这种时间线上的“偏移”就被平滑掉了。
- 结果： 对于评委（以及狡猾的观察者）来说，食材流现在看起来就像一个标准的列表，其中只有一个盒子可能略有不同，而不是整个时间线的整体平移。这把一个“多米诺效应”问题变成了一个简单的“单盒”问题。
注：这确实会引入延迟。食材必须在盒子里等待直到装满为止。论文根据你需要的隐私程度，精确计算了需要多少延迟。
B 步：认证评委（自适应安全性）
一旦食材进入这些“神秘盒子”，它们就会被送往特殊的评委处，由其添加到终极佳肴中。
- 挑战： 评委在处理完每个盒子后都会发布一次快照。狡猾的观察者可能会利用前一个快照来决定下一步的操作（这被称为“自适应交互”）。
- 解决方法： 作者创建了一个“认证清单”。他们证明了只要评委遵循两个简单的规则，即使在观察者监视并做出反应的情况下，隐私依然成立：
- 新鲜骰子： 评委在处理每个盒子时，必须投掷一组全新的、新鲜的骰子（随机性）。他们不能重复使用旧的骰子。
- 稳定上下文： 评委必须确保添加到特定盒子中的“噪声”（隐私保护）仅取决于该盒子本身，而不取决于之前或之后发生了什么。
如果评委遵循这些规则，作者证明了即使在观察者全程监视的情况下，隐私保证依然有效。
3. 最终保证
通过结合神秘盒子（隐藏了因某人加入或离开导致的“偏移”）和认证评委（即使被监视也能保持安全），该系统保证了：
- 最终的佳肴依然美味（模型学习效果良好）。
- 狡猾的观察者无法判断鲍勃大厨是否参与过，即使他们观察了制作佳肴过程中的每一个快照。
- 这种隐私的代价是一个可预测的延迟（即食材在“神秘盒子”中等待的时间）。
一句话总结
本文发明了一种“神秘盒子”系统，通过随机化数据处理的时机来隐藏某人加入或离开的事实，并证明了即使在数据根据观察者所见进行实时生成的过程中，标准的隐私工具依然可以安全工作。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。