On the extensions of the Chatterjee-Spearman test
本文通过引入对称版本扩展了先前提出的 Chatterjee-Spearman 联合独立性检验,确立了其与其他秩相关系数之间的渐近独立性(尤其展示了 Chatterjee-Kendall 变体的优越功效),并探索了多元推广以扩大其适用范围。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象你是一名侦探,试图弄清楚两件事是否有关联。也许你在检查降雨量是否影响人们购买的雨伞数量,或者某个特定基因是否影响酵母细胞的生长。在统计学中,这被称为独立性检验。
长期以来,侦探们拥有两种主要工具:
- “直线”探测器:擅长发现简单的直线关系(例如“降雨越多=雨伞越多”),但极不擅长识别复杂的波浪形或之字形模式。
- “波浪线”探测器:擅长发现复杂的非线性模式(如正弦波),但经常遗漏简单的直线关系。
最近,一种名为Chatterjee 相关系数的新工具被发明出来。它是一种非常聪明且一致的“波浪线”探测器——无论关联多么奇特,它都能发现任何类型的连接。然而,它有一个缺陷:对于现实生活中频繁出现的简单直线关联,它的检测能力并不强。
本文由 Qingyang Zhang 撰写,旨在通过将旧工具与新工具相结合,打造一名超级侦探。以下是作者如何改进这一局面的:
1. “对称”升级(不再猜测谁是主导)
原始的 Chatterjee 工具是非对称的。想象你在检验“降雨”是否导致“雨伞”销售。如果你交换顺序,检验“雨伞”是否导致“降雨”,该工具可能会给出不同的答案。在现实世界中,我们往往不知道哪个变量是“因”,哪个是“果”(例如在基因研究中,基因之间相互影响)。
- 解决方案:作者创建了一个对称版本。这就像一名侦探同时从两个角度审视关系。无论你说是"A 影响 B"还是"B 影响 A",该工具都会给出相同的结果。这使得它在处理基因共表达等复杂数据时更加可靠。
2. “组队”策略(引入新伙伴)
作者之前的工作将新的“波浪”工具与旧的“直线”工具(Spearman 相关系数)结合了起来。本文提出:我们能否与其他伙伴组队?
- 新伙伴:作者测试了与Kendall's Tau和象限相关系数组队。这些是其他的“直线”探测器。
- 发现:作者从数学上证明,当不存在关联时,“波浪”工具与这些“直线”工具是相互独立的。这意味着它们不会互相干扰;它们为分析提供了不同的信息。
- 优胜者:当作者运行数千次计算机模拟时,“波浪”工具与Kendall's Tau的组队(称为Chatterjee-Kendall 检验)被证明是所有侦探中最强大的。它在处理小样本数据或数据略显嘈杂(混乱)时,尤其擅长发现关联。
3. “多变量”扩展(从一对一到群体会商)
到目前为止,我们讨论的都是一次两个变量(A 和 B)。但在现实世界中,我们通常拥有变量的群体(A、B、C 对比 X、Y、Z)。
- 挑战:你不能直接将一组变量塞进专为两个变量设计的工具中。
- 解决方案:作者提出了两种处理群体的方法:
- “秩”方法:使用复杂公式对整个群体进行一次性排序。
- “魔镜”(Borel 同构):一种数学技巧,将一整组变量压缩成单个数值,从而使旧工具能够对其进行处理。
- 裁决:作者发现,“魔镜”技巧并不适用于群体中的“直线”探测器(它会使它们变得过于微弱)。然而,秩方法效果良好,前提是你使用“置换检验”(一种将数据洗牌数千次以观察随机发生情况的方法)来计算最终得分。
现实世界证明
为了证明这些新工具的有效性,作者在两个真实数据集上进行了测试:
- 酵母基因:分析 4000 多个基因,查看哪些与细胞周期相关联。Chatterjee-Kendall检验发现了最多的基因(897 个),捕捉到了其他工具遗漏的模式。它既发现了平滑的趋势,也发现了嘈杂的波浪模式。
- 销售人员数据:检查推理测试分数是否能预测销售业绩。即使样本量很小,新检验也非常敏感,在其他方法效果较差的情况下发现了强烈的关联。
总结
这篇文章本质上是一本构建更优统计侦探的手册。
- 问题:现有工具要么太简单(遗漏复杂模式),要么太复杂(遗漏简单模式)。
- 解决方案:结合两者的最佳之处。
- 关键要点:Chatterjee-Kendall组合是新冠军。它是对称的(不关心顺序),适用于数据群体,并且是在处理混乱的现实世界数据时寻找关联的最强大工具。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。