Towards Truly Unsupervised Evaluation of Feature Selection
本文批判了现有所谓无监督特征选择评估技术的设计缺陷，证明了它们实际上是监督式的，并提出了一种利用主成分分析和最优传输理论来评估特征选择质量的新型真正无监督框架，且无需任何标签信息。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你是一名正在试图破解谜团的侦探，但你的证据板上贴满了成千上万张便利贴。其中大多数是空白的，有些是重复的，只有极少数记录着关键的线索。如果你试图一次性阅读所有的便利贴，你的大脑会感到不堪重负，从而错过真正的故事。在数据科学的世界里，这被称为“维度之咒”（curse of dimensionality）。当数据拥有过多的特征（就像这些便利贴一样）时，数据会变得稀疏且混乱，使计算机难以学习或发现模式。为了解决这个问题，科学家们使用“特征选择”（feature selection），这是一个挑选出最重要的笔记并扔掉其余部分的过程。目标是在不丢失原始线索意义的前提下，保持故事的清晰并提高计算机的运行速度。
但棘手的部分在于：你如何知道自己挑对了笔记？通常情况下，你会根据答案解析（即“地面真值”或标签）来检查你的答案。但如果没有任何答案解析呢？这就是“无监督”（unsupervised）学习的领域，在这种情况下，计算机必须自己摸索出规律。长期以来，科学家们一直试图通过偷偷窥视答案解析来测试他们的无监督方法，尽管表面上假装自己没看。这篇论文认为，这就像是在考试时拿着答案解析，却声称自己是开卷考试的天才。作者们想要知道：在从未见过答案解析的情况下，我们真的能判断一个侦探有多优秀吗？
这篇论文的作者 Hafiz Saud Arshad、Muhammad Rajabiasab 和 Arthur Zimek 指出，目前测试“无监督”特征选择的方法其实带有一点欺骗性。他们指出，大多数方法声称是无监督的（即在没有标签的情况下工作），但在进行评分时，它们却在秘密使用标签，以查看所选特征是否能帮助将数据分类到正确的组别中。这就像一位老师告诉学生：“你在挑选蛋糕最佳原料方面做得很好，”而这仅仅是因为学生恰好挑选了那些让蛋糕味道符合老师口味的原料。论文认为这并非真正的无监督；这只是戴着面具的监督学习。
为了解决这个问题，团队提出了一个全新的、真正无监督的评估方法。他们不再对照秘密的答案解析，而是将侦探挑选的笔记与一种被称为“主成分分析”（PCA）的技术所创建的“金标准”地图进行对比。你可以把 PCA 想象成一个超级聪明的组织者，它重新排列所有的便利贴，以找到描述整个画面最有效的方式，即使这种方式可能会将笔记混合在一起，使其难以解释。作者建议，一个好的特征选择方法所挑选的笔记，在观察时应该与这个高效的 PCA 地图非常相似。
为了衡量这种相似性，他们使用了“最优传输”（optimal transport）这一数学工具。想象你有两堆沙子（一堆是侦探选择的数据，另一堆是 PCA 地图），最优传输计算的是将沙子从一堆移动到匹配另一堆形状所需的最小努力量。如果侦探选对了笔记，这两堆沙子的形状会几乎完全相同，移动沙子的努力量就会很小。如果侦达选了随机的笔记，这两堆沙子就会完全不同，移动的努力量就会巨大。
研究人员在八个不同的高维数据集上测试了这个想法，涵盖了从生物医学数据到人脸及物体图像的各种领域。他们将这种新的“移动沙子”方法与旧有的基于标签的方法进行了对比。他们发现，他们的新方法能够对不同的特征选择算法进行排序，且这种排序通常与旧方法一致，即便他们从未查看过标签。这表明，他们的新方法是一种有效的、无需使用标签来评判特征选择的方法。
然而，作者们也谨慎地指出，他们的这种方法并非完美且最终的解决方案。他们承认该方法存在一些局限性。首先，这种“移动沙子”的数学计算对于巨大的数据集来说可能非常缓慢且成本高昂。此外，他们的方法依赖于 PCA，而 PCA 本身也有处理数据的规则限制。如果一个数据集的特征数量多于数据点数量，该方法就会遇到瓶颈。他们还注意到，不同类型的“移动沙子”数学计算会给出略微不同的结果，有时排名并不与旧方法完全匹配。他们认为这不一定是件坏事；这可能意味着他们的方法看到了旧方法所忽略的数据的不同侧面。
最后，这篇论文并不声称已经永久解决了特征选择的谜团。相反，它为侦探的工具箱提供了一个全新的、诚实的工具。它证明了即使在没有答案解析的情况下，你也能够评估计算机挑选重要数据的能力。作者们希望这将鼓励更多关于如何无监督地评判数据的研究，从而摆脱使用标签来批改作业的习惯。这是迈向一个我们可以信任数据侦探、即便口袋里没有答案解析的未来的第一步。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。