🤖 machine learning

SEED: Semi-supervised Continual MalwarE Detection for Tackling ConcEpt Drift on a BuDget

本文提出了SEED，这是一种半监督持续学习框架，它结合了定制的二元交叉熵目标、主动学习和奇异值分解，以在概念漂移且标注数据有限的情况下有效检测恶意软件，并在具有弱语义结构的数据集上显著优于现有的层次对比学习方法。

原作者： Suresh Kumar Amalapuram, Bikraj Shresta, Siva Ram murthy Chebiyam, Bheemarjuna Reddy Tamma, Sumohana S Channappayya

发布于 2026-05-26

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Suresh Kumar Amalapuram, Bikraj Shresta, Siva Ram murthy Chebiyam, Bheemarjuna Reddy Tamma, Sumohana S Channappayya

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象你是一名繁忙机场的安保人员。你的工作是在成千上万无辜的旅客（良性应用）中识别出坏蛋（恶意软件）。

问题所在：“变色龙”罪犯
麻烦在于，坏蛋们不断变换伪装。一个月前，一个罪犯可能戴着红帽子；今天，他们换上了蓝帽子。在计算机领域，这被称为概念漂移。如果你的安全系统仅针对“红帽子”进行训练，那么当后来出现“蓝帽子”时，它将会漏掉它们。

为了跟上步伐，你需要每个月重新训练安全系统。但这里有个陷阱：标注既昂贵又缓慢。 为了教会系统识别“坏蛋”的模样，人类专家必须手动检查并标注样本。你无法负担雇佣足够多的专家来标注每一个旅客。你只有极小的预算来标注少数样本。

旧方法：“配对”陷阱
以前的方法试图通过一种称为对比学习的技术来解决这个问题。想象这是一场“找双胞胎”的游戏。系统试图将长相相似的人归为一组。

缺陷： 如果你拥有一本所有人都被正确标注的相册，这个游戏效果极佳。但如果你只有几张已标注的照片（预算有限），系统就会感到困惑。它试图在陌生人中寻找双胞胎，结果要么将无辜者与罪犯归为一组，要么反之。论文表明，当你尝试在标签有限的情况下使用这种“配对”方法时，安全系统的性能会显著下降。

新方案：SEED（智能媒人）
作者提出了一种名为SEED的新方法。将 SEED 想象成不是一个“找双胞胎”的游戏，而是一个利用“记忆库”的智能媒人。

SEED 的工作原理分为三个简单步骤：

1. “记忆库”（缓冲区）

SEED 在一个特殊的记忆库中保存一小部分经过精心挑选的过去样本（包括好的和坏的）。它不是随机存储它们，而是利用一种称为SVD（奇异值分解）的数学技巧对它们进行组织。

类比： 想象记忆库是一座图书馆。图书管理员（SVD）不是保留每一本书，而是创建了一份最重要故事的“摘要地图”。这张地图紧凑，却捕捉到了过去发生的一切的精髓。这有助于 SEED 记住过去，而不会被过多数据压垮。

2. “媒人”（针对已见任务）

当一个新的、未标注的旅客到来时，SEED 不会猜测。相反，它将此人投射到记忆库的“摘要地图”上。

类比： 它问道：“在我们的历史中，这个人最像谁？”它在过去中找到最接近的匹配项。如果新来的人与上个月的一个已知罪犯非常相似，SEED 也会将其视为罪犯。如果他们看起来像已知的无辜者，就将其视为无辜者。
优势： 这使得系统能够通过将未标注的多数群体与已标注的少数群体联系起来进行学习，而无需强迫它们进入僵化的“双胞胎”配对。

3. “不确定性检测器”（针对未见任务）

有时，会出现一种完全新型的罪犯，他们看起来与记忆库中的任何人都截然不同。

类比： SEED 计算它对这个人感到多么“困惑”。如果此人与记忆库中的每个人都相距甚远（高不确定性），SEED 就会发出警报。
行动： 它对人类专家说：“我不确定这个人。请检查一下，告诉我他们是好是坏。”这确保了人类只将有限的预算花在那些真正需要帮助的样本上。

4. “冷却期”（延迟缓冲区更新）

安全领域最大的风险之一是噪声标签。有时，即使是专家也会犯错，或者自动工具会给出错误的标签。如果你立即将错误的标签放入记忆库，系统就会学到错误的教训，并将该错误传播到未来的任务中。

类比： SEED 引入了一个“冷却期”。当收到新标签时，它不会直接进入记忆库。它会等待几个月（延迟）。
为什么？ 通过等待，系统为标签的验证或“真相”的稳定争取了时间。如果标签是个错误，它可能在被存储之前就被纠正了。这防止了系统用坏数据“污染”自己的记忆。

结果：为何重要

论文在来自 Android 和 Windows 系统的真实世界数据上测试了 SEED。

胜利： 与旧的“配对”方法相比，SEED 在捕捉新的、未见过的罪犯方面表现更好，尤其是在人类专家只能标注少量数据（20%）的情况下。
改进： 在一个数据集上，当标签稀缺时，SEED 的检测率比旧方法提高了40%。在另一个数据集上，提高了14%。
鲁棒性： 即使标签充满错误（噪声），SEED 的“冷却期”策略也能保持系统稳定，而其他方法则崩溃了。

总结
SEED 是一种更聪明的训练安保人员的方法。它不强迫他们死记硬背每一张脸（这太昂贵了），而是帮助他们将新面孔与过去紧凑、有条理的记忆联系起来。它知道何时寻求帮助，并在更新记忆之前等待确保帮助是准确的。这使得安全系统保持敏锐，即使罪犯不断变换伪装。

技术摘要：SEED - 用于应对概念漂移的半监督持续恶意软件检测

1. 问题陈述

基于机器学习的恶意软件检测器会因概念漂移而随时间面临显著的过时问题，即良性与恶意应用程序的统计特性发生演变。这种现象要求在保持对灾难性遗忘（即已学知识的遗忘）的稳定性同时，进行持续适应（开放世界学习）。

部署此类系统的一个关键瓶颈是标注预算。在安全领域，获取完全标注的数据既艰巨又昂贵，且由于标注动态和验证延迟，往往不可靠。虽然最近的最先进（SOTA）方法如HCL（分层对比学习）利用语义结构来处理漂移，但它们严重依赖完全标注的数据。作者观察到，当 HCL 被适配到半监督设置（仅使用部分标签，记为HCL*）时，其性能显著下降，特别是在缺乏强固有语义结构的数据集上（例如 BODMAS 和 AndroZoo）。例如，在 BODMAS 数据集上，与其完全监督的对应版本相比，HCL*的 AUT（时间曲线下面积）从 0.795 下降至 0.613。

本文旨在解决在有限监督和概念漂移下保持鲁棒恶意软件检测的挑战，特别是在强语义结构缺失或标注预算受限的情况下。

2. 方法论：SEED

所提出的方法SEED（用于在预算限制下应对概念漂移的半监督持续恶意软件检测），是一个集成了主动学习和延迟缓冲区更新策略的半监督持续学习框架。它在两个不同的阶段运行：在“已见任务”（部分标注）和“未见任务”（完全未标注）上进行训练。

2.1 使用已见任务（部分标注数据）进行训练

对于包含标注（ $D^l_t$ ）和未标注（ $D^u_t$ ）样本的任务，SEED 采用两步过程来利用未标注数据，而无需依赖对比损失：

通过 SVD 构建表示空间：该方法利用过去任务的标注示例构建潜在表示空间。它不存储所有原始表示，而是对编码后的潜在向量应用**奇异值分解（SVD）**以提取正交基向量。这降低了存储成本并捕捉了数据的最显著特征。
示例选择与成对学习：对于每个未标注样本，SEED 将其投影到基于 SVD 的表示空间中。然后计算余弦距离，以从缓冲区中找到最合适的标注示例（或一组示例）。一个自适应阈值机制根据当前的标注数据比例选择最佳匹配。
损失函数：SEED 不使用对比损失，而是使用定制的**二元交叉熵（BCE）**损失。它在潜在空间中强制未标注样本与其选定的标注对应样本之间的表示相似性。
梯度投影内存（GPM）：为了减轻灾难性遗忘，SEED 利用 GPM。当前任务的梯度被投影到与先前任务（特别是针对恶意软件类别）的梯度方向正交的位置，确保学习新特征不会干扰先前学到的恶意软件定义。

2.2 使用未见任务（完全未标注数据）进行训练

当遇到没有标签的任务时，SEED 采用主动学习策略将任务转化为部分标注任务：

不确定性量化：模型通过测量未标注样本与缓冲区中存储的良性和恶意软件组之间的平均余弦距离，来计算未标注样本的不确定性。
平衡选择：为了避免偏向多数类（良性），该方法基于平衡排名策略选择样本供分析师标注（选择远离或接近特定组的样本，以确保两类都有代表性）。
转换：一旦安全分析师对样本子集进行了标注，该任务即被视为“已见任务”，并使用第 2.1 节描述的方法进行处理。

2.3 延迟缓冲区更新策略

为了解决标签噪声问题（在安全标注中很常见，初始裁决可能不正确或不稳定），SEED 引入了延迟缓冲区更新。新标注的样本不会立即添加到回放缓冲区中。相反，它们会被保留一段固定的延迟时间（例如 1、3 或 11 个月），以允许标签稳定（模拟多引擎杀毒软件裁决的收敛）。这防止了噪声标签在基于回放的学習过程中传播。

3. 主要贡献

识别对比学习的局限性：本文证明，当缺乏强语义结构时，对比学习方法（如 HCL）在半监督设置中会遭受显著的性能下降，突显了替代方法的必要性。
SEED 框架：一种新颖的半监督持续学习方法，其特点包括：
- 利用 SVD 从有限的标注数据中构建鲁棒的表示空间。
- 用定制的 BCE 损失进行的成对相似性学习方法替代对比损失。
- 集成主动学习以从完全未标注的任务中选择信息丰富的样本。
噪声缓解：引入延迟缓冲区更新策略以减轻标签噪声的负面影响，即使在高达 80% 的高噪声比例下也表现出鲁棒性。
综合评估：在 Windows（BODMAS）和 Android（AndroZoo, APIGraph）数据集上进行了广泛的实验，证明了该方法在不同标注预算和噪声水平下的有效性。

4. 实验结果

作者将 SEED 与经典持续学习基线（EWC, A-GEM, MIR, CBRS）和对比学习方法（CADE, HCL, HCL*）进行了评估。

BODMAS（Windows）上的性能：SEED 在不同标注预算下，与 HCL*相比，在 AUT（未见恶意软件检测）方面实现了40% 的平均提升。它显著优于 HCL*（0.810 对比 0.613）和 CADE。
AndroZoo（Android）上的性能：SEED 显示出比 HCL* 14% 的平均提升（0.855 对比 0.780）。
APIGraph（Android）上的性能：在这个具有强语义结构（API 调用）的数据集上，SEED 与 HCL*保持竞争力，AUT 达到 0.930，而 HCL*为 0.948。这表明 SEED 具有多功能性，即使在存在语义结构时也能表现良好，尽管它在缺乏这些结构时表现最为出色。
对标签噪声的鲁棒性：在高标签噪声（高达 80%）下，采用延迟缓冲区策略的 SEED 保持了稳定的性能（例如，AndroZoo 上的未见-AUT(A) 约为 0.85–0.90），而直接在噪声标签上训练的模型性能急剧下降。
敏感性分析：该方法在更高的标注比例下显示出一致的改进，特别是在 BODMAS 上，并证明了 95% 的 SVD 阈值和余弦距离指标提供了最稳定的性能。

5. 意义与主张

本文声称，SEED 为资源受限的开放世界环境中的恶意软件检测提供了一种实用解决方案，在这些环境中无法获得完全标注的数据。其主要意义在于：

与语义结构解耦：与需要强语义关系来形成正/负样本对的对比方法不同，SEED 依赖于投影到基向量空间，使其在各种数据集上均有效，无论其固有结构如何。
预算效率：它有效地利用一小部分标注数据（例如 20%）来适应概念漂移，减少了对详尽人工标注的依赖。
对噪声的稳定性：通过承认安全标签的动态性质，延迟缓冲区策略提供了一种现实的机制来处理标签噪声，而无需复杂的噪声建模。

作者得出结论，SEED 在有限监督下具有鲁棒性，在缺乏强语义结构时优于对比学习，而在存在此类结构时仍保持竞争力，从而为持续恶意软件检测提供了一种平衡的方法。