Is the Statistical Advantage Worth the Cost? An Empirical Comparison of KANs and MLPs for Structured Data Classification
这项实证研究表明，尽管 Kolmogorov-Arnold 网络（KANs）在结构化表格分类任务中的统计表现优于多层感知器（MLPs），但其卓越的泛化能力是以显著更高的计算和参数成本为代价的，这使得 KANs 成为高精度应用的理想选择，而 MLPs 则更适合资源受限的环境。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你正试图教一台计算机根据充满数字和类别的电子表格进行决策，比如预测某种蘑菇是否有毒，或者一名学生是否会辍学。这就是“结构化表格数据”的世界，它是许多现实世界机器学习系统的基石。多年来，完成这项工作的首选工具一直是多层感知器（MLP）。你可以将 MLP 想象成一条僵化的、工厂式的流水线：它接收信息，将其传递给执行固定规则（例如“如果数字很大，则乘以 2”）的各层工人，最后输出一个答案。它可靠且快速，但有时难以发现隐藏在数据中那些微妙、扭曲的模式。
最近，一个名为 Kolmogorov-Arnold 网络（简称 KAN）的新挑战者进入了竞技场。如果说 MLP 是一条僵化的流水线，那么 KAN 更像是一支大师雕塑家团队。KAN 不使用固定的规则，而是每一条连接层与层之间的纽带都是一条灵活的、可学习的曲线，可以根据数据进行弯曲和扭转，就像建筑师使用的样条曲线（一种平滑且灵活的尺子）一样。大家心中最大的疑问是：这种华丽、灵活的雕塑工作是否值得付出额外的努力？它真的能做出更好的预测吗，还是仅仅是一个缓慢且昂贵的玩具？来自菲律宾吕社巴洛斯大学的一组研究人员决定解决这个谜题。
研究人员为这两类 AI 建筑师组织了一场大规模的正面交锋。他们不仅仅观察一两个例子；他们在十二个不同的现实世界数据集上测试了这两种模型，涵盖了从二元选择（是/否）到具有许多可能答案或甚至排名系统的复杂场景。为了确保比赛公平，他们给了两支队伍完全相同的训练计划、相同的数据量和相同的初始规则，拒绝通过调整设置来偏袒其中一方。他们想看看这些模型的“原生”版本在开箱即用时的表现如何。
结果讲述了一个关于两种截然不同优势的故事。在原始准确度方面，灵活的 KAN 雕塑家通常赢得了比赛。在测试中，KAN 在 12 个数据集中的 9 个中正确分类了更多的数据点，并且在 12 个案例中的 10 个中实现了更好的精确率与召回率平衡（F1 分数）。这种差异在统计学上是显著的，这意味着这并非纯属运气；KAN 确实更擅长寻找正确答案，尤其是在二元分类和多分类问题中。研究人员发现，在大多数情况下，KAN 能够比 MLP 更快地达到巅峰性能并更早地趋于稳定。
然而，这里有一个陷阱，而且是一个巨大的陷阱。KAN 的“灵活性”伴随着沉重的代价。虽然 MLP 是一个轻量级的短跑选手，但 KAN 却是一个背着沉重背包的重量级冠军。研究表明，KAN 所需的参数量（AI 学习的内部旋钮和拨盘）大约是 MLP 的 16 倍。这种额外的体积使得它们极其缓慢。在某些测试中，MLP 在不到一秒钟内就完成了训练，而 KAN 则耗时超过一分钟。在推理速度（做出预测）方面，MLP 通常比 KAN 快 100 倍。研究人员计算出，KAN 提供的性能提升属于“中等”水平，而非巨大的、改变游戏规则的飞跃。
那么，谁赢了？论文指出，答案完全取决于你的具体情况。如果你正在处理一个高风险问题，即稍微提高准确度值得等待更长时间并消耗更多的计算能力——比如诊断罕见疾病或进行关键的财务预测——那么 KAN 是更优的选择。它提供了在泛化和寻找模式方面统计学上更优越的能力。但如果你正在开发一个需要在手机或电池及内存有限的设备上即时运行的应用，那么 MLP 仍然是那个稳健、高效且实用的英雄。研究结论认为，虽然 KAN 是结构化数据领域一个充满前景且强大的新方向，但它们并不是让旧有的 MLP 变得过时的灵丹妙药；它们仅仅是针对不同任务的不同工具。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。