Selection on the Outcome: The Fraction of Nonresponse Bias That Survey Weighting Removes, with an Application to Subjective Well-Being
本文表明,基于社会人口统计变量的调查加权仅能消除与这些变量所能解释的结果变量方差比例相等的无应答偏差,这揭示了此类加权在主观幸福感研究中很大程度上是无效的,因为人口统计预测因子对幸福感的方差解释极小。
原始论文采用 CC BY 4.0 许可(https://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
每当研究人员想要了解人们对生活的感受时,他们通常会要求一组样本人群填写调查问卷。其目标是利用这几千名受访者的答案来描述数百万人的感受。但问题在于:并非每个人都会接听电话或填写表格。有些人太忙,有些人病了,还有些人单纯不想和陌生人说话。这被称为“无应答”(nonresponse),它在那些回答问题的人与那些没有回答的人之间制造了一道鸿沟。如果留在家里的人在研究者试图衡量的那个维度上与回答问题的人有所不同,那么最终的数字就会出错。几十年来,解决这一问题的标准方法是“加权”(weighting)。研究人员获取现有的答案,并通过数学手段对其进行调整,使其与全国已知的统计特征相匹配,例如年龄、性别、受教育程度以及居住地。其逻辑是,如果样本在纸面上看起来与总体一致,那么其答案也必然具有代表性。
当人们跳过调查的原因与这些人口统计学事实相关时,这种方法效果很好。如果老年人不太可能回答问题,而研究人员知道国家中有多少老年人,他们只需增加老年受访者的权重,即可平衡天平。然而,一项新的分析表明,当人们跳过调查的原因正是被衡量的内容本身——即他们自己的幸福感时,这种标准修正手段就会彻底失效。如果不快乐的人因为感到情绪低落而不太愿意参与,或者非常快乐的人因为正忙于享受生活而无法回答,那么任何人口统计学的调整都无法修复由此产生的误差。该论文指出,在主观幸福感领域,标准的修正几乎无法消除偏差,导致最终的数字以一种研究人员在很大程度上未能察觉的方式发生了偏移。
由谢伊·查巴恩(Shay Tsaban)领导的研究,深入调查了在研究人员应用常规加权技术后,究竟还残留了多少这种隐藏的误差。其核心发现是,修正的效果完全取决于一个人的幸福感在多大程度上可以由其背景来预测。如果幸福感与年龄或收入强相关,那么标准的加权法会运作良好。但数十年的研究已经确立了相反的结论:一个人的生活境遇对于解释其为何感到快乐或悲伤几乎没有作用。该论文计算出,用于加权的变量——年龄、性别、种族、受教育程度和地区——仅能解释近7万人参加的“综合社会调查”(General Social Survey)中报告的幸福感差异的约1.7%。由于这些变量的解释力如此微弱,加权过程只能消除由不快乐者退出调查所导致的约1.7%的偏差。它留下了超过98%未被触及的误差。
这一发现颠覆了研究界的一个常见统计常识。多年来,研究人员引用人口统计学较低的预测力作为证据,证明幸福感是一种内在状态,而非仅仅是物质环境的产物。查巴恩的工作表明,这个相同的低数值也是该领域标准修正手段的“修复率”。正是因为境遇并不决定感受,才使得标准的调查修正手段如此无效。论文通过一个鲜明的对比展示了这一点:在另一项涉及丹麦健康数据的研究中,研究人员可以访问包含参与者和非参与者医疗记录的国家登记系统。由于健康记录是预测谁会退出研究的强有力指标,那里的加权变量解释了结果的大部分原因。在那种情况下,加权成功地消除了大部分偏差。这两个案例之间的区别不在于数学质量的高低,而在于进行数学运算时所拥有的信息量。在幸福感研究中,标准的统计数据中根本不存在所需的这类信息。
这一疏忽所带来的后果对于我们理解世界具有重大意义。该论文考察了幸福感调查中常见的六种结论类型,例如比较不同国家的幸福感、追踪随时间的变化或观察不同年龄组之间的差异。在几乎所有案例中,偏差都呈现出一种可预测的方向。由于不快乐的人更有可能退出调查,剩余的群体往往比真实的总体更快乐。这意味着,国家平均水平可能被高估了,且快乐群体与不快乐群体之间的差距实际上比表现出来的要大。例如,当研究人员观察到幸福感随年龄增长而上升时,论文指出这可能是一种错觉,其成因是那些最不快乐的老年人已经停止了参与。同样,当研究人员观察幸福感的不平等现象时,数据很可能低估了现实中的不平等程度,因为处于底层的极度痛苦个体在数据中缺失了。
尽管问题严重,但论文指出研究界几乎没有对此给予关注。通过对顶级幸福感期刊中1,600多篇近期文章的审计发现,虽然其中72%依赖于调查数据,但只有约1.4%提到了无应答、损耗或样本局限性的问题。研究人员花费数十年时间来完善提问方式,并检查不同文化是否对词汇有相同的理解,却在很大程度上忽略了回答问题的人是否真的代表了整个总体。论文认为这是一个关键的盲点。解决方案并不需要一套关于幸福感的新理论,而是需要改变研究人员处理数据的方式。研究人员不应假设加权已经解决了问题,而应该报告仍有多少偏差存在,并使用来自医学研究的方法来界定可能的误差范围。这包括承认最终的数字是一个带有已知显著误差范围的估计值,而非对总体情绪的精确测量。
研究结论认为,该领域必须停止将加权平均值视为完美的解决方案。标准的统计学调整并不是让消失的人重新出现的魔杖;它们只是一种局部修正,仅在缺失原因与人口统计学特征相关时才有效。当人们因为自身感受而缺失时,这种修正便会失效。未来的路径在于接受当前数据是不完整的,并使用新工具来衡量这种差距的大小。通过借鉴医学研究中的技术(在医学研究中,数据缺失被视为对有效性的严重威胁),幸福感研究人员才能真正开始看到人类幸福感的全貌,包括那些目前仍隐藏在沉默者之中的部分。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。