Privacy-Preserving Artificial Intelligence in Digital Learning: A Systematic Review of Federated Learning, Differential Privacy, Security, and Educational Utility in Higher Education
这项针对高等教育中隐私保护人工智能的 33 项研究进行的系统综述发现，虽然联邦学习和差分隐私等技术可以维持学习效用，但该领域目前缺乏严格的安全评估、现实世界中的多机构部署以及对教育影响的全面评估。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在现代课堂中，学习不再仅仅是教师与学生之间的对话，而是一股数字足迹的流。每一次点击视频、每一次在测验中的停顿，以及在讨论板上输入的每一个词，都会被记录下来。这些记录拥有强大的力量，能帮助教育者在学生失败之前发现其挣扎之处，从而量身定制课程以满足个人需求，并为未来的课程规划提供更好的参考。然而，同样详尽的信息也是极其私密的。它可能揭示一个学生的残障情况、家庭生活、心理状态或政治观点。如果这些数据被汇集到一个巨大的中央计算机中，它就会成为黑客觊觎的目标，并引发关于谁有权查看这些数据，以及这些数据如何被用于评判或限制一个人未来的严肃问题。
为了解决这个问题，研究人员一直在开发一套工具，旨在让计算机从数据中学习，而无需真正看到原始的私密记录。其中一种被称为“联邦学习”（federated learning）的方法，就像一群邻居想要一起学习如何烤出更好的蛋糕，却从未邀请彼此进入各自的厨房。他们不是将各自的秘密家族食谱发送给一位中央烘焙师，而是各自在自家厨房里烤出一小批，然后只分享如何改进食谱的指令，最后将这些指令结合起来，创造出一份更好的主食谱。另一种被称为“差分隐私”（differential privacy）的方法，则是通过在数据中加入微量的数学“噪声”或“静电干扰”，类似于广播电台在传输信号时带有轻微的嘶嘶声，以防止任何人分离出单一的声音。这确保了最终结果对群体是有用的，但任何个人的贡献都无法被追溯到其本人。当今大学面临的问题是，这些聪明的技巧是否真的能在现实世界中发挥作用，既保护学生，又助力其学习。
一组研究人员试图寻找答案，他们查阅了 2018 年至 2026 年 9 月期间发表在该领域的所有可用研究。他们筛选了近四千篇科学论文，并将重点缩小到 33 项在高等教育环境中测试这些隐私工具的研究。他们的目标是观察这些技术是否已经超越了绘图板，成为了真实学院和大学中可靠且有用的工具。他们的发现是：技术进步飞速，但尚未跟上实际应用的步伐。研究人员发现，这项技术在受控实验中表现良好。在 15 项研究中，这种“邻里式”的联邦学习方法允许计算机在不移动数据本身的情况下从学生数据中学习，其实现的效果几乎与将所有数据汇集一处时一样出色。在其他研究中，通过加入差分隐私的“静电干扰”或创建虚假的合成学生记录，研究人员能够建立起可以预测诸如“谁可能会辍课”等问题的模型，同时保持个人身份的安全。
然而，这项研究揭示了计算机模拟与大学现实情况之间的显著差距。这 33 项研究中的大多数并非针对多校区真实学生的实测，而是在旧数据或由计算机生成的模拟学生群体上进行的实验。研究人员发现，虽然这些隐私工具通常能保留进行准确预测的能力，但它们很少能证明自己能够抵御蓄意的攻击。极少有研究测试过，如果黑客通过观察共享的指令，是否仍能识别出学生的身份，或者恶意行为者是否能误导系统去学习错误的内容。此外，这些研究主要通过计算机预测的准确性来衡量成功，而不是看学生是否学到了更多知识、是否留校更久或是否感到更安全。这项技术展示了它可以在“试管”中保持数据的私密性，但尚未被证明能在大学系统中那复杂、混乱且充满变数的现实中奏效——在那个系统中，预算、法律和人类信任与代码本身同样重要。
该综述还强调，该领域仍处于成熟度的早期阶段。虽然研究数量增长迅速（超过一半的研究出现在过去两年内），但证据仍然是碎片化的。许多研究人员依赖于相同的几组公开数据集，这意味着这些工具是在教育现实的一个狭窄切片上进行的测试，而非在不同学院、语言和文化的多元化世界中进行的测试。研究人员指出，在少数正式衡量隐私保护程度的案例中，保护措施通常很强，但在许多其他情况下，这种保护仅仅是基于“数据留在本地服务器”这一事实而做出的假设。这种假设是危险的，正如研究中所解释的那样，将数据保留在本地并不自动意味着它可以阻止他人对其进行重构或推断。作者总结道，虽然保护隐私的人工智能前景广阔，但它还不是一个成熟的产品。大学不能简单地购买一套系统并期望它是安全且有效的；必须将这些工具视为需要进行仔细、持续测试与治理的潜力基础设施。研究人员建议，前进的道路在于从孤立的计算机模拟转向多所大学之间的现实协作，以便在这些系统中测试应对真实的攻击、真实的成本以及衡量学生是否获得成功的真实标准。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。