A Relative Probabilistic Density Weighted Granular-Ball Twin Support Vector Machine for Robust Classification
本文提出了一种名为 RPDLDGBTWSVM 的鲁棒分类方法,该方法通过从高密度真实样本中生成粒度球,并在粒度球中心层面应用基于 KLIEP 的相对概率密度加权,从而增强了孪生支持向量机,以提高其在复杂数据集上的准确性和效率。
原始论文采用 CC BY 4.0 许可(https://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
在机器学习领域,计算机经常被要求将事物分类,例如在医学影像中区分健康组织与病变组织,或者将合法的银行交易与欺诈交易区分开来。在执行这类任务时,最受信任的工具之一是一种被称为支持向量机(Support Vector Machine)的方法。想象一下,计算机正试图在纸上散落的两组点之间画一条线。经典方法会画出单条直线,使两组点之间的距离尽可能大。然而,一种更现代的变体——被称为孪生支持向量机(Twin Support Vector Machine)的方法——则会画出两条独立的线。一条线紧贴第一组点,另一条线紧贴第二组点,从而在它们之间留下一个宽阔的间隔。这种方法通常更快且更具灵活性,但在处理混乱的现实世界数据时,仍然面临着一个显著的障碍。
现实世界的数据很少是完美的。它包含错误、离群值以及位于类别边界上的样本,这使得计算机难以决定在哪里画线。为了解决这个问题,研究人员通常尝试通过将附近的点组合在一起来简化数据,将每个组视为一个单一单元而非数千个独立的点。这种被称为粒度计算(granular-ball computing)的技术,就像是从远处观察森林:你看到的不是每一片叶子的计数,而是树木的轮廓。虽然这加快了处理速度,但以往的聚类方法往往会产生无法真实代表原始数据的虚拟中心,尤其是在数据复杂或稀疏的情况下。此外,这些组在处理噪声时的权重分配往往依赖于简单的距离测量,而这种测量在高维空间中可能会失效。
暨南大学的一个研究团队开发了一种新方法来解决这些特定问题,他们将该系统称为 RPDLDDBTWSVM。他们的这种方法通过改变数据分组的方式以及学习过程中对数据的赋值方式,对现有技术进行了改进。他们的系统不再通过计算数学平均值来寻找组中心(因为这会导致产生一个在原始数据中并不存在的虚拟点),而是选择具有高邻居浓度的真实样本。这些真实的、密集的点成为了各组的锚点。一旦形成了这些组,系统就会评估每个组与其自身类别的符合程度,以及与相反类别的冲突程度。位于自身类别清晰范围内的组会被赋予更高的重要性,而那些模糊不清或靠近另一类别的组则会被赋予较低的权重。这确保了计算机能够专注于最可靠的信息,并忽略令人困惑的噪声。
研究人员在包括信用分类、分子数据和医学图像分析在内的 19 个不同数据集上测试了这一新系统。结果显示,该方法在 18 个数据集上达到了最高或并列最高的准确率,平均准确率为 90.39%。在特定案例中,例如涉及帕金森病诊断的数据集,该新方法的准确率比次优方案提高了三个百分点以上。除了准确性之外,该系统还表现出了极高的效率。在一个涉及垃圾邮件检测的大型数据集上,新方法在不到一秒钟内便完成了任务,而旧方法则需要数秒甚至数分钟。这种速度优势源于该系统在不丢失数据本质细节的情况下,减少了计算机需要处理的项目数量。
然而,这项研究也指出了该方法的局限性。当数据受到严重噪声的影响时(例如数据的特征被严重扭曲时),该系统的压缩数据能力会下降。在一个涉及高噪声水平的帕金森病数据集中,系统无法有效地对数据进行分组,不得不将几乎每个样本都作为个体进行处理,这降低了速度并削弱了准确性。这表明,虽然该方法对典型的误差具有鲁棒性,但它依赖于底层数据结构保持某种程度的完整。研究人员还注意到,对于非常小或简单的数据集,分组带来的益处并不明显,因为这些数据本身就很容易分类。
这项工作的理论基础证实了该新方法在数学上的严谨性。研究人员证明,通过分组引入的近似误差受组大小的控制;更小、更紧密的组所产生的结果,几乎与逐一分析每个点的结果完全一致。他们还证明了通过其方法创建的优化问题是可解且稳定的,这意味着计算机不会陷入停滞或产生不稳定的结果。通过将真实、密集的数据点选择与一种复杂的权重分配方式相结合,这种新模型为机器从复杂、多噪的信息中学习提供了一种更可靠且更高效的方式。它代表了在数据并不干净、并不完美且极具现实意义的应用场景中,使机器学习工具更具实用性的一个进步。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。