🤖 machine learning

QC-SMOTE: Quality-Controlled SMOTE for Imbalanced Classification

本文提出了 QC-SMOTE，一种质量控制过采样框架，该框架通过整合复合邻域可信度评分、IPQ 引导的选择策略以及自适应替换机制来生成可靠的合成样本，从而在不平衡数据集上实现了比现有方法更优越的分类性能。

原作者： Parth Upman, Shreyank N Gowda

发布于 2026-06-24

📖 1 分钟阅读☕ 轻松阅读

原作者： Parth Upman, Shreyank N Gowda

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，你正试图教一个机器人识别森林中一种稀有的鸟类。问题在于，你有 1,000 张常见麻雀的照片，但只有 10 张稀有鸟类的照片。如果你只是把这 1,010 张照片全部展示给机器人看，它很可能会学会完全忽略这种稀有鸟类，因为通过猜“麻雀”来获得 99% 的正确率要容易得多。

为了解决这个问题，数据科学家使用了一种叫做 SMOTE 的技巧。SMOTE 不是简单地复制那 10 张稀有鸟类的照片，而是通过将两张真实的稀有鸟类照片进行融合，在它们中间创造出“新”的虚构照片。这就像是把一张鸟在树枝上的照片和一张鸟在空中的照片结合起来，创造出一张处于两者中间状态的鸟的照片。

旧方法的问题
旧方法（SMOTE）有一个缺陷：它假设任何两张稀有鸟类的照片都可以安全地融合。但如果其中一张照片其实是一团模糊的影像，或者是一只站在老鹰（多数类）旁边的鸟呢？如果你融合了一张模糊的照片或一张靠近老鹰的照片，你可能会创造出一张看起来像老鹰或像故障图像的虚假照片。这会干扰机器人，让它的工作表现变得更差。

解决方案：QC-SMOTE（质量控制大厨）
论文作者提出了一种名为 QC-SMOTE 的新方法。你可以把它想象成一位比旧方法更加谨慎的“质量控制大厨”。它是这样运作的，分步骤如下：

1. “信任分数”（检查食材）

在大厨开始烹饪之前，他们会检查每一张稀有鸟类的照片，看看它是否“值得信赖”。

旧方法： 平等对待每一张照片。
QC-SMOTE： 给每张照片一个信任分数。
- 如果一张照片位于其他稀有鸟类环绕的清晰区域，它会获得高分。
- 如果一张照片很孤立、模糊，或者紧挨着一只老鹰，它就会获得低分。
- 类比： 大厨拒绝使用“坏掉的鸡蛋”（低信任度）来做煎蛋卷，即使他们非常缺蛋。他们专注于使用新鲜、高质量的鸡蛋。

2. “K 选 1”品尝法（上菜前试吃）

一旦大厨选出了一张值得信赖的照片（“种子”），他们不会只做一个虚构照片。他们会通过以略微不同的方式将种子与邻居融合，创造出 K 个不同的版本（候选样本）。

旧方法： 做一次融合并立即上菜。
QC-SMOTE： 制作 3 个、5 个或 10 个不同的融合版本。然后，它会对它们进行品尝。
- 它会检查：“这张新的虚构照片看起来像稀有鸟类吗？它离老鹰太近了吗？”
- 它会挑选出最好的一个，并将其他的丢弃。
- 类比： 与其烤一个蛋糕然后祈祷它味道好，不如烤五个小样，尝一尝，然后只呈上那个最完美的。

3. “模式”切换（适应天气）

大厨知道，规则会根据工作的难度而改变。

轻松的日子（低不平衡度）： 如果有很多稀有鸟类且它们远离老鹰，大厨可以动作快一些，进行大幅度的融合。
艰难的日子（高不平衡度/高噪声）： 如果稀有鸟类非常稀少且躲在老鹰旁边，大厨会变得非常保守。他们会进行更小规模、更安全的融合。
类比： 如果天气晴朗，你可以走得快；如果正在暴风雨中，你会放慢速度并注意脚下。QC-SMOTE 会根据数据的“天气”来改变它的速度。

4. “优雅退出”（何时停止烹饪）

有时，某个区域实在太混乱（噪声太大）了，以至于无法安全地制作任何虚构照片。

旧方法： 可能会强行制造一个糟糕的虚构照片，从而损害机器人的性能。
QC-SMOTE： 如果它找不到安全的虚构照片，它就会停止尝试创造新的照片。相反，它会简单地复制一张它已有的、高质量且值得信赖的照片。
类比： 如果厨房着火了，大厨不会尝试烤蛋糕。他们直接把已经做好的完美蛋糕端上来。与其提供一堆烧焦的垃圾，不如提供一份好的东西。

他们发现了什么？

作者在 30 个不同的现实世界问题（如检测欺诈、医疗问题或机器故障）上测试了这个“质量控制大厨”。

结果： QC-SMOTE 在帮助机器人学习方面表现最佳。它获得了比所有其他方法更高的评分，尤其是在数据非常混乱或稀有类别极其稀缺的情况下。
权衡： 它需要更多的时间来“烹饪”（计算），因为它需要品尝多个样本并检查分数。然而，它仍然比一些其他“超级先进”的方法要快得多，而且为了获得更好的结果，这些额外的时间是非常值得的。

核心启示

这篇论文认为，在数据科学中，质量比数量更重要。仅仅创造更多的虚构数据并不能解决问题，如果这些数据是糟糕的。通过仔细检查原始数据的可靠性、在利用新生成的虚构数据前进行品尝，以及知道何时停止，QC-SMOTE 构建了一个更加聪明且可靠的机器人。

技术摘要：QC-SMOTE：用于不平衡分类的质量控制型 SMOTE

1. 问题陈述

类别不平衡仍然是监督学习中的一个关键挑战，特别是在欺诈检测、医学诊断和异常检测等领域，其中少数类代表的是稀有但具有重大影响的事件。在不平衡数据上训练的标准分类器往往会偏向多数类，从而无法识别少数类模式。虽然基于数据层面的重采样方法，特别是合成少数类过采样技术（SMOTE），被广泛用于通过在相邻少数类实例之间进行插值来解决这一问题，但它们存在一个根本性的几何局限性。

SMOTE 假设在附近的少数类点之间进行插值本质上是安全的。然而在实践中，少数类样本往往位于类别边界附近、重叠区域内或作为孤立的离群点存在。从这些点进行插值可能会产生模糊、带有噪声或比真实少数类分布更接近多数类分布的合成样本。现有的变体试图通过关注边界（如 Borderline-SMOTE）或密度（如 Safe-Level-SMOTE）来缓解这一问题，但它们通常依赖于单一的主导原则（例如边界强调或聚类），并且未能将样本级可靠性、候选级质量评估和机制自适应生成统一到一个流程中。因此，它们可能会放大稀疏区域的噪声，或者通过仅集中在安全的密集区域而降低多样性。

2. 方法论：QC-SMOTE

作者提出了 QC-SMOTE，这是一个质量控制型的过采样框架，它将关注点从数量驱动的过采样转向质量感知的数据构建。该方法通过四个集成阶段运行：

A. 邻域可信度估计
QC-SMOTE 并非平等对待所有少数类样本，而是首先使用复合的邻域可信度得分 $T(x_i)$ 来估计每个少数类样本 $x_i$ 的可靠性。该得分结合了三个指标：

安全水平支持 ( $S$ )： $k$ -最近邻中目标类邻居的比例。
局部密度 ( $D$ )： 到少数类邻居的平均距离的倒数，倾向于紧凑区域。
与多数类的隔离度 ( $R$ )： 到非目标（多数）类邻居的平均距离，确保样本不会离 opposing 类别边界太近。
这些组件经过归一化和加权处理，以产生最终得分。高可信度的样本被视为可靠的生成种子，而孤立或受边界污染的样本得分较低。

B. 可靠性加权分配
QC-SMOTE 并不在所有少数类种子上均匀地生成合成样本，而是根据可信度得分分配生成工作量。高信任度的样本被分配更多的生成尝试，而低信任度的离群点则受到抑制。这确保了合成数据集中在特征空间中几何可靠的区域。

C. IPQ 引导的 Best-of- $K$ 候选选择
对于每个选定的种子-邻居对，QC-SMOTE 不仅仅接受一个随机的插值。相反，它会生成 $K$ 个候选样本，并在接受前使用**插值纯度与质量（IPQ）**指标对其进行评估。评估过程包括：

局部纯度： 测量候选样本的目标类邻居比例。
中点纯度： 评估种子与其邻居之间中点的纯度，以确保插值路径不会穿过模糊区域。
多数类净空： 测量与任何多数类样本的最小距离，以确保候选样本与对立类保持足够的距离。
具有最高综合质量得分的候选样本将被选中。

D. 机制自适应生成与优雅降级
该方法根据局部和全局不平衡比 ($IR $) 以及重叠得分 ($ OV$) 调整其行为。

在洁净、低重叠机制下，它使用更宽的插值范围和较少的候选检查。
在高重叠或严重不平衡机制下，它会缩小插值范围，增加候选数量 ( $K$ )，并应用更严格的质量检查。
优雅降级： 如果最高的得分候选样本未达到纯度或净空阈值（表明局部几何结构对于插值而言过于不可靠），该方法会退回到复制局部邻域中最可靠的少数类样本。这防止了在噪声区域注入有害的合成点。

3. 核心贡献

论文概述了四项主要贡献：

复合可信度得分： 一种新型指标，通过整合局部密度、安全水平特性和与多数类的隔离度，显式地对少数类样本的可靠性进行建模。
IPQ 引导的 Best-of- $K$ 机制： 一种候选选择策略，在接受合成样本之前会评估插值区域（包括中点）的质量，超越了简单的端点插值。
机制自适应策略： 一个生成框架，根据不平衡程度和类别重叠的严重程度动态调整插值范围和选择标准，包括在合成生成不安全时的复制回退机制。
统一框架： 一种实用的方法，它耦合了样本级可靠性、候选级质量和机制自适应，解决了依赖单一原则的方法的局限性。

4. 实验结果

作者在 30 个真实的二元不平衡数据集（涵盖从轻微到严重的平衡比例）上通过重复的分层交叉验证对 QC-SMOTE 进行了评估。该方法与广泛的基于 SMOTE 的基准模型进行了比较，包括最新的空间质量感知变体如 VS-SMOTE。

整体性能： QC-SMOTE 在所有对比方法中取得了最强的平均 AUC-ROC (0.9321) 和 Macro F1 (0.8408)，在 30 个数据集中获得了 29 次 AUC-ROC 胜出和 17 次 Macro F1 胜出。
不平衡机制： 性能提升在中度和严重不平衡机制下最为显著。在高不平衡设置（IR $\ge$ 15）下，QC-SMOTE 将 Macro F1 从 0.7018 (VS-SMOTE) 提高到了 0.7621，证明了在少数类样本稀疏且朴素插值不可靠时，其有效性。
消融研究： 去除关键组件（可信度加权、可靠性分配、IPQ 中点纯度或纯度过滤）会导致性能显著下降，尤其是在高不平衡设置下。这证实了可靠性估计与候选级质量控制的结合是必不可少的。
效率： 虽然由于需要进行候选评估，QC-SM后比标准 SMOTE 慢，但它仍然比 VS-SMOTE 高效得多（约为 SMOTE 的 39.5 倍，而 VS-SMOTE 为 208.7 倍），提供了一个理想的计算成本与性能之间的权衡。
统计显著性： 配对 Wilcoxon 符号秩检验确认了 QC-SMOTE 在 AUC-ROC 上较所有基准模型都有显著改进。对于 Macro F1，它在统计上优于大多数基准模型，尽管与 VS-SMOTE 的差异在 0.05 水平上不具有统计学意义，这表明它与最强的现有方法相比极具竞争力。

5. 重要性与主张

论文声称 QC-SMOTE 通过将范式从“数量驱动”的过采样转向“质量感知”的数据构建，解决了不平衡学习中的一个关键空白。作者认为，不平衡分类中的性能提升不仅源于增加少数类样本的数量，更源于控制生成这些样本的区域可靠性。

该工作的意义在于证明了合成过采样在以下三个方面的共同引导下最为有效：

样本可靠性（估计哪些种子是可信的）。
候选质量（评估插值路径和生成的点）。
局部机制自适应（根据重叠和不平衡严重程度调整行为）。

通过整合这些元素，QC-SMOTE 旨在使合成过采样在异构数据条件下（特别是在高不平衡设置下，此时少量不可靠的合成样本可能会不成比例地扭曲学习到的决策边界）更加可靠。作者将 QC-SMOTE 定位为一种鲁棒的替代方案，既能避免噪声放大的陷阱，又能保持分类器无关的集成性。