Valid inference for regression with best subset selection
本文通过将 AIC 选择事件的几何结构表征为区间的并集，为最佳子集选择提出了一种计算高效且在有限样本下有效的推断程序，从而实现了精确的条件化，以产生能够修正传统后选择方法中频率论失效问题的 p 值和置信区间。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
在数据科学领域，研究人员经常面临一个碎片过多的谜题。他们拥有一组事实——衡量收入、温度或测试成绩的数字——并希望找到这些事实的最佳组合，以解释特定的结果，例如一个人的消费金额或植物的生长速度。为了解决这个问题，他们使用一种称为变量选择的方法，这本质上是一个筛选数据的过程，旨在只保留最有用的线索并丢弃其余部分。用于这项工作的最流行工具之一是被称为赤池信息准则（AIC）的规则。可以将它想象成一位严厉的法官，它权衡模型的拟合程度与模型的复杂程度，从而选择出提供最佳平衡的版本。科学家依靠这位法官来告诉他们哪些变量至敛，然后使用标准的统计工具来宣布这些变量是真正显著的，还是仅仅是幸运的巧合。
然而，这种常见的流程中隐藏着一个陷阱。用于衡量显著性的标准工具是为这样一个世界设计的：即在看到任何数据之前，模型就已经被确定了。当研究人员利用数据本身先挑选出模型，然后再将这些标准工具应用于结果时，数学逻辑就会失效。标准工具假设模型是预先固定的，但由于该模型实际上是根据数据选出的，标准工具会变得过于乐观。它们往往会在并不显著的情况下宣布其显著，导致错误的发现以及过于狭窄到无法信任的置信区间。这个问题影响着从医学研究到经济预测的方方面面，因为它可能导致科学家从不稳固的基础上得出确定的结论。
莱斯大学的一支统计学家团队开发了一种修复这种失效数学的新方法。他们专门针对使用赤池信息准则从大量变量列表中挑选最佳子集的情景。他们的做法并非忽略“模型是从数据中挑选出来的”这一事实，而是将这种不确定性直接构建进计算之中。他们发现，选择模型的过程会在数据的行为中创造出一种特定的、可测量的形状。想象一下，结果的可能取值是一条长线；选择过程实际上切掉了这条线上的某些部分，只留下了结果可能落入的特定片段。通过准确理解被切掉的部分，研究人员可以重建结果的正确概率分布。这使得他们即使在模型已被选定的情况下，也能计算出在数学上有效的 p 值和置信区间。
研究人员通过进行数千次计算机模拟证明了这种新方法的有效性。在这些测试中，他们生成了预先已知真相的数据。当使用旧的标准方法时，置信区间未能按预期捕捉到真实答案的频率远高于应有水平，且测试将错误信号宣布为真实发现的比例接近 40%，而非预期的 5%。相比之下，他们新的修正方法将误差率降回到了正确的水平。他们产生的置信区间更宽且更诚实，准确地反映了选择过程引入的不确定性。当选定的模型恰好是全变量集时，这种修正尤为重要，因为在那种情况下，旧方法极易出错。
为了展示这在现实世界中行之有效，该团队将他们的方法应用于一个关于美国个人消费的经典数据集，时间跨度从 1970 年到 2016 年。该数据包含了四个潜在预测因子：个人可支配收入、工业生产、储蓄额以及失业率。当标准软件运行分析时，它选择了包含所有四个变量的完整模型。随后的传统统计检验宣布工业生产是消费的一个显著预测因子，其置信区间不包含零。然而，当研究人员应用他们的新修正方法时，情况发生了变化。修正后的分析显示，工业生产的证据并不足以排除偶然性；其置信区间现在包含了零，这意味着它不再具有统计学上的显著性。修正后的结果与原始的选择得分完美契合，后者已经暗示了收入和储蓄是主导因素，而生产的重要性相对较低。
该团队还解决了第二个更困难的挑战：当数据中的噪声或误差未知时（这在现实生活中几乎是常态）会发生什么。标准做法是猜测噪声水平并将该猜测代入公式，但研究人员发现，这种捷径在较小的数据集中仍会导致误差率上升。为了解决这个问题，他们开发了一种基于计算密集型技术的方法，通过模拟该选择过程数千次来构建一张定制的概率图谱。虽然这需要更多的计算能力，但它确保了即使在噪声水平未知的情况下，结论依然保持有效。他们的工作表明，通过承认模型是如何被选择的这一现实，科学家可以避免陷入虚假自信的陷阱，并获得既在统计上可靠又与证据相一致的发现。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。