ArborEnum: Decision Tree Rashomon Sets over Continuous Features
本文通过利用连续特征的有序结构,引入了首个能够精确枚举决策树 Rashomon 集的算法,并提出了在速度和准确性上显著优于现有基于二值化方法的近似及随时算法,同时揭示了关键的预测多样性。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象一下你正在试图解开一个巨大且缠绕在一起的结。在计算机科学领域,特别是在一个叫做机器学习的领域中,我们经常要求计算机寻找“最佳”的预测方式,比如猜测一名客户是否会购买产品,或者一名患者是否患有某种疾病。长期以来,科学家们一直认为通常只有一个单一的、完美的答案——一个唯一的“黄金模型”。但故事中有一个迷人的转折,叫做罗生门效应(Rashomon effect)。它得名于一部著名的电影,片中四个证人对同一事件讲述了不同的版本;这种效应描述了一种现实:许多完全不同的模型可以表现得几乎完全一样。它们都是“足够好”的,但它们可能使用不同的线索,或者以完全不同的方式观察数据。
为什么这很重要?因为如果你只寻找那一个“黄金”模型,你可能会错过一整群同样优秀的替代方案。其中一些替代方案可能更安全、更容易理解或更公平。为了研究这一点,研究人员会寻找一个罗生门集(Rashomon set):一个包含所有近乎完美模型的集合。挑战在于,寻找这个集合就像试图数清沙滩上的每一粒沙子一样。这是一个巨大的、混乱的工作,尤其是当数据不仅仅是简单的“是或否”(如红或蓝)这类离散答案,而是包含**连续特征(continuous features)**时——这些是可以是任何数值的数字,比如温度、身高或价格,它们可以在数百万个不同的点上进行分割。
正是在这里,一项新研究登场了,它引入了一个聪明的工具,叫做 ArborEnum。把研究人员想象成试图绘制一片浓密、多雾森林地图的探险家。以前,如果他们想绘制森林的地图,必须把森林砍成整齐的、方格状的网格(这个过程叫做二值化/binarization),仅仅是为了让它变得易于处理。但在这样做时,他们往往会错过那些存在于野外连续景观中的隐藏路径、稀有树木和重要的捷径。本文作者构建了一种新型指南针,它能让你在不预先将森林切碎的情况下,精确地探索森林原本的样子,保留其所有的平滑、连续的曲线。他们发现,通过忽略数据的平滑性,旧的方法会遗漏大量的“优秀”模型。他们的新方法可以比以前快得多——有时甚至快数百倍地列出这些模型。更棒的是,他们还创造了一个“智能”版本,它从森林的粗略草图开始,并随着运行时间的增加而不断精细化,变得越来越详细,因此你可以根据需要随时停止。他们通过在现实世界数据上的实验证明,这种方法不仅节省了时间,还发现了旧有的、基于网格的方法完全忽略的重要特征和模型变体。
森林与网格的故事
想象你是一名试图破解谜团的侦探。你有一堆线索,你需要构建一棵决策树——即一个问题的流程图——来查明谁是凶手。通常,你会问这样的问题:“嫌疑人身高是否超过 6 英尺?”或者“嫌疑人是否戴着帽子?”在过去,计算机科学家必须在开始构建树之前,将每一个线索都变成一个简单的“是或否”问题。如果一个线索是一个数字,比如“嫌疑人身高为 5 英尺 11 英寸”,他们就必须将其切分成若干个桶(buckets):“他是否低于 5 英尺 6 英寸?”、“他是否在 5 英尺 6 英寸到 6 英尺之间?”还是“他是否超过 6 英尺?”
这个切割过程被称为二值化(binarization)。这就像是将一条平滑流动的河流强行灌入一系列方形的混凝土渠道。问题在于,通过将水强行塞进这些僵化的方框,你可能会错过一个微小而完美的漩涡,或者一条在缝隙间流过的隐藏暗流。在机器学习的世界里,这意味着你可能会错过一个完美的分割点,因为你的“网格”没有在数据需要的地方精准设置分割线。
罗生门效应是指并不存在唯一的完美流程图。可能存在几十个、甚至数百个不同的流程图,它们都能以同样的高准确度解决谜团。有些可能使用身高,有些可能使用体重,或者两者结合使用。罗生门集就是所有这些同样优秀的流程图的集合。寻找这个集合对于理解哪些线索是真正重要的,以及哪些只是运气好的猜测,是非常有用的。如果一个线索出现在几乎所有的优秀流程图中,它很可能是一个真实的解谜关键。如果它只出现在一个流程图中,它可能只是一个巧合。
旧地图的问题
长期以来,寻找这个罗生门集的唯一方法是使用“混凝土渠道”法(二值化)。研究人员将连续的数字切分成几个桶,然后尝试寻找所有优秀的树。但这有两个大问题。首先,搜索空间已经非常庞大了;仅用 20 个二值化特征,生成的树的数量就已经比地球上的沙粒还要多。第二,通过切割数据,他们丢弃了信息。他们可能会错过一个发生在非常特定数字(比如 5.99 英寸)处的分割,因为他们的桶只有 5.5 和 6.0。
论文指出,这种“粗糙”的二值化就像是在试图通过只看干草堆顶层来寻找针头。你可能会找到一根针,但你会错过那些埋得更深或者形状略有不同的针。作者发现,当他们被迫将数据放入这些粗糙的桶中时,他们遗漏了许多重要的树、重要的特征以及真正的解法多样性(预测多样性/predictive multiplicity)。
新型指南针:ArborEnum
于是,ArborEnum 登场了。作者构建了第一个可以在不预先切碎数据的情况下,探索“连续森林”的算法。它不再强迫数据进入方形的桶,而是尊重数字的自然顺序。它将数据视为一条平滑的线,并寻找切割它的最佳位置,因为它知道存在着成千上上的个可能的切割点。
为了实现这一点,他们使用了一个聪明的技巧。想象你在寻找切断绳子的最佳位置。你不需要测试每一个毫米。如果你知道在 10 英寸处切割很差,在 11 英寸处也同样很差,那么你大概可以推测在 10.5 英寸处切割也不会太好。作者开发了一种利用这些“边界(bounds)”的方法,从而跳过不需要测试的巨大绳段。他们称之为剪枝(pruning)。这就像拥有一张地图,上面写着:“不必去那个整个山谷里寻找,那里没有宝藏。”
他们还引入了一个“代理(proxy)”系统。把代理想象成一个快速、粗略的猜测。在进行繁重的检查工作之前,算法会做一个快速的近似猜测,以查看一条路径是否值得探索。如果猜测结果是“没戏”,它就会跳过整个分支;如果猜测结果是“也许可以”,它就会深入挖掘。这使得算法运行速度极快。在测试中,这种方法比现有方法平均快了 270 倍,在某些情况下,差距甚至更加惊人。
“随时可用”特性:一个不断完善的草图
ArborEnum 最酷的部分之一是它的随时可用算法(anytime algorithm)。通常,如果你想要一张完美的地图,你必须等待计算机完成整个任务。但如果你现在就需要答案呢?带有“随时可用”功能的 ArborEnum 从一个非常粗略的森林草图开始。它可能只观察几个关键的切割点,并根据这个粗略草图给你一份优秀的树列表。
然后,随着你让它运行的时间越长,它会向地图中添加越来越多的切割点。它会不断精细化草图,填补空白。你给它的时间越多,它生成的树的列表就越详细、越准确。最终,如果你让它运行足够长的时间,它会找到所有优秀树的精确列表。最棒的是,你可以随时停止它。如果你需要在 5 分钟内得到答案,你会得到一个不错的近似值;如果你有 5 小时,你会得到一个近乎完美的答案。作者发现,即使使用这种“粗略开始”的方法,他们也找回了几乎所有的重要树木,而且精细化地图所花费的额外时间也非常小——仅比在最终点集上运行非精细化版本的时间多了大约 2.7%。
他们的发现及其意义
实验是在 20 个不同的现实世界数据集上进行的,涵盖了从预测自行车租赁到信用卡违约等各种场景。结果非常明确:
- 粗糙二值化会遗漏很多内容: 当他们将旧有的“切碎”方法与新的连续方法进行比较时,旧方法遗漏了许多树和重要特征。这就像透过一层雾气浓重的窗户看照片:你能看到大致轮廓,但会错过细节。
- 速度是实实在在的: 新方法在数量级上更快。在一个名为“Bike”的数据集上,新的最优方法比唯一能跑完的另一种方法快了 63 倍。
- 准确性很高: 即使使用快速的近似“代理”方法,他们也能找回原有完美方法所发现的 94.5% 到 100% 的树。这意味着你可以在不等待永恒的时间的情况下,获得几乎所有的罗生门集收益。
- “随时可用”的方法行之有效: 这种从粗略开始并逐渐完善的方法被证明非常高效。它能很早就发现重要特征,这意味着你可以快速获得有用的见解,而不必等待完整的计算过程。
这篇论文并不声称已经解决了机器学习中的所有问题。它并没有说连续特征是做这类事情的“唯一”方式,也没有说这种方法适用于每一种类型的模型。但它通过实验的有力证据表明,对于决策树而言,将连续数据视为连续数据是一个游戏规则的改变者。它让我们能够看到“罗生门集”的全貌,而不会因为其复杂性而耗尽我们的精力(或计算机的性能)。
简而言之,ArborEnum 是探索优秀解法景观的一种新方式。它阻止我们将世界强行塞入一个不匹配的网格中,而是让我们行走在那些真实答案往往隐藏其中的平滑、连续的路径上。无论你是一名寻找最佳模型的科学家,还是一个仅仅好奇计算机如何做决定的好奇者,这项工作都表明,世界上存在的优秀答案比我们想象的要多,而我们现在有了更好的方法去寻找它们。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。