Hypothesizing an effect size by considering individual variation
该论文提出了一种通过首先考虑效应分布来构想平均处理效应的方法,并通过医学、经济学和心理学的实例展示了其在实验和观察性研究设计中的应用。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
这篇论文由安德鲁·杰尔曼(Andrew Gelman)等知名统计学家撰写,核心观点非常有趣且反直觉:在预测一个实验或政策的效果时,不要只盯着“平均数”看,而要先想象“每个人会有什么不同的反应”。
为了让你轻松理解,我们可以把这篇论文的核心思想比作**“预测一场暴雨对城市交通的影响”**。
1. 传统做法的陷阱:只盯着“平均降雨量”
现状:
当科学家或政策制定者设计实验时,他们通常问:“这个药/政策平均能带来多大效果?”
这就好比气象学家只告诉你:“明天平均降雨量是 10 毫米。”
问题:
如果你只盯着"10 毫米”这个平均数,你会误判风险。
- 情况 A(理想化): 也许这 10 毫米是均匀洒在每个人头上的,大家鞋都湿了,但没人淹死。
- 情况 B(现实化): 也许 90% 的人完全没淋到雨(因为他们在室内),而剩下的 10% 的人被淋成了落汤鸡,甚至引发了洪水。
论文指出的问题:
很多研究者在设计实验(比如计算需要多少人参与)时,直接假设效果是均匀分布的,或者参考过去的文献(但过去的文献往往只报道了那些“效果显著”的成功案例,就像只报道了“下暴雨”的日子,忽略了“没下雨”的日子)。这导致他们高估了实验成功的概率,或者低估了需要的人数。
2. 论文提出的新方法:先画“人群反应地图”
论文建议,在猜“平均效果”之前,先做一个更宏大的思考:“如果把这个药/政策给到所有人,每个人的反应会是什么样?”
作者提出了一个四步走的“思维体操”:
第一步:想象“完美情况” (The Plausible Effect)
- 比喻: 想象如果这药对每一个需要它的人都能起效,且效果达到最大值,那会是多少?
- 例子: 假设一种新药能救活所有濒死的人,效果是 100%。
第二步:考虑“现实世界的杂音” (Real-world Range)
- 比喻: 但现实中,不是每个人都会吃药,也不是每个人吃了药都能吸收。
- 例子: 也许有些人忘了吃药,有些人身体代谢不了,有些人本来就不会死。所以,实际效果的范围可能是从 0%(完全没用)到 100%(完美救活)。
第三步:给人群“分分类” (The Distribution)
- 比喻: 把人群分成三六九等。
- 纯无效组(Nulls): 比如那些本来就不会死的人,或者根本不吃药的人。他们占了很大比例(比如 50% 甚至 90%)。
- 部分有效组: 吃了药,好了一点点。
- 超级有效组: 吃了药,起死回生。
- 关键点: 大多数干预措施(如教育、营销、新药),对大多数人来说其实是没感觉的(效果为 0)。只有对特定的一小部分人,效果才巨大。
第四步:重新计算“平均数”
- 比喻: 现在,你不再猜“平均降雨量”,而是根据你刚才画的“人群地图”来算。
- 计算逻辑:
- 如果 90% 的人没反应(效果 0),只有 10% 的人有巨大反应(效果 100)。
- 那么平均效果 = (90% × 0) + (10% × 100) = 10%。
- 结论: 这个"10%"才是你真正应该用来设计实验的“平均效果”。它比直接猜"50%"要现实得多,也保守得多。
3. 为什么要这么做?(三个生动的例子)
例子一:救命药 vs. 普通感冒药
- 传统思维: 医生觉得这药能提升 25% 的存活率,于是设计了一个小规模的实验。
- 新思维: 医生开始想:“这药只对那些‘本来会死但能被救活’的人有用。对于那些‘本来就会死’或‘本来就会活’的人,药没用。”
- 结果: 医生发现,在真实的大众里,真正能被救活的人可能只占 20%。所以,真实的平均效果可能只有 5%,而不是 25%。如果按 25% 去设计实验,实验大概率会失败(因为样本量不够大,测不出这微小的 5%)。
例子二:认识同性恋朋友会改变对婚姻的看法吗?
- 传统思维: 以前研究认为,认识一个同性恋朋友,对态度的改变很大(比如从 1 分变成 4 分)。
- 新思维: 让我们看看人群:
- 30% 的人本来就极度反对,认识朋友也改变不了(效果 0)。
- 30% 的人本来就极度支持,认识朋友也没变化(效果 0)。
- 只有中间那 40% 的“摇摆人”可能会改变。
- 而且,改变可能只是从“中立”变成“稍微支持”(比如从 3 分变 4 分),而不是翻天覆地的变化。
- 结果: 算下来,平均改变可能只有 0.1 分(在 1-5 分的量表上)。这解释了为什么很多研究测出来的效果很小,甚至像是噪音。如果你一开始就预期会有大变化,你就会觉得研究失败了;但如果你预期只有微小的变化,你就知道需要多大的样本才能测出来。
例子三:儿童早期教育能让人成年后多赚 42% 的钱?
- 传统思维: 有个著名研究说,上幼儿园能让人以后多赚 42%。这听起来太棒了!
- 新思维: 这真的可能吗?
- 对于某些孩子,这个教育可能彻底改变了命运(赚 100% 更多)。
- 但对于大多数孩子,可能只是稍微好一点点,或者完全没影响。
- 如果要让平均提升 42%,意味着要么所有人都提升 42%(不太可能),要么少数人提升 100% 以上,而其他人提升很少。
- 结论: 这种“平均数”往往掩盖了巨大的个体差异。如果效果真的因人而异,那么那个"42%"的结论可能只是运气好,或者是因为样本里恰好都是那些“容易被改变”的孩子。
4. 核心启示:从“寻找真理”到“理解分布”
这篇论文想告诉我们要**“倒置”**我们的思考顺序:
- 旧顺序: 先猜一个平均数 -> 设计实验 -> 发现结果不显著 -> 困惑。
- 新顺序: 先想象每个人会有什么不同反应 -> 算出真实的平均数 -> 设计足够大的实验 -> 得到可靠的结论。
一句话总结:
不要试图用一个数字(平均效果)去概括复杂的世界。就像预测天气,不要只说“平均降雨量”,要先想“哪里会下暴雨,哪里会干旱”。只有理解了个体差异(Heterogeneity),你才能做出更聪明的实验设计,避免被“虚假的平均数”误导,也能更客观地看待科学研究的成败。
这不仅是统计学的技巧,更是一种更谦逊、更现实的看待世界的方式。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。