How can the use of different modes of survey data collection introduce bias? A simple introduction to mode effects using directed acyclic graphs (DAGs)
本文利用有向无环图(DAGs)来解释混合模式调查设计如何通过“模式效应”和“模式选择”引入偏差,论证了像条件化这种朴素的统计调整可能会在无意中产生碰撞偏差,并提倡将定量偏差分析作为一种更稳健的解决方案。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象一下,你正试图弄清楚人们到底有多喜欢某种特定类型的食物。为了做到这一点,你让他们填写一份调查问卷。但这里有一个转折:你让他们自行选择如何回答。有些人填写纸质表格,有些人通过网站回答,还有一些人通过电话与人交谈。
这篇论文指出,让人们在“如何”回答上拥有选择权,实际上会从两个隐蔽的方式上搞乱你的结果。作者使用了一种叫做“有向无环图”(Directed Acyclic Graphs,简称 DAGs)的工具——它们基本上是显示因果关系的简单流程图——来解释为什么会发生这种情况以及如何避免被误导。
以下是问题的分解和解决方案,使用了日常类比。
两个大问题
1. “模式效应”(面具问题)
想象你在问人们:“你吃蔬菜吗?”
- 场景 A: 你面对面地询问,面前是一位友好的访谈员。人们可能会说“是的!”,因为他们不想在人类面前表现得不好(他们在进行社交礼貌)。
- 场景 B: 你通过一个私密的电脑屏幕询问。他们可能会输入“不”,因为他们感到安全且可以诚实。
关于他们饮食习惯的“真相”并没有改变,但由于他们使用的“模式”(方法)的不同,他们的“回答”改变了。这被称为模式效应(Mode Effect)。这就像戴着一个面具,根据看你的人是谁,你的脸会发生变化。
2. “模式选择”(自我选择问题)
现在,想象谁来选择这种方法。
- 精通技术的年轻人可能更喜欢网站。
- 年长的人或没有网络的人可能更倾向于电话通话。
这意味着使用网站回答的人群与使用电话回答的人群是不同的。这就是模式选择(Mode Selection)。这就像如果你只询问拥有汽车的人关于他们的驾驶习惯,你的样本本身就已经存在偏差了,因为非汽车拥有者不在其中。
陷阱:为什么“修复”它会让情况变得更糟
这篇论文的主要警告是,如果你在没有考虑“自我选择问题”的情况下试图修复“面 Mask 问题”,会发生什么。
天真的修复方法:
如果你注意到网站上的人说“不”吃蔬菜,而电话里的人说“是”,研究人员可能会想:“好吧,我只需把数据分开并进行比较。”或者,“我只需在我的数学方程中加入一个‘模式’框来抵消差异。”
陷阱(碰撞偏倚/Collider Bias):
作者说,如果类型的人(例如,他们的年龄或受教育程度)同时影响了他们选择了哪种方法以及他们的回答,那么这样做是危险的。
把它想象成一个俱乐部的保镖:
- “保镖”是调查模式(网站 vs. 电话)。
- “VIP”是那些选择网站的人(可能是年轻人)。
- “常客”是那些选择电话的人(可能是年长者)。
如果你试图通过强制对比 VIP 和常客来“修复”数据,你可能会无意中创造出一种原本并不存在的联系。
论文的警告:
如果你试图通过“控制”调查模式(通过分离数据或调整数学计算)来处理数据,而这些人的特征又影响了他们对模式的选择,你可能会无意中创造出一种虚假的联系。这就像你观察到一群人都拥有红色的车并且都喜欢披萨,然后得出结论说“红色的车导致了对披萨的热爱”,但实际上,是那些同时喜欢这两者的人恰好加入了红车俱乐部。
论文使用流程图(DAGs)来展示:
- 如果调查模式仅仅是一个“面具”(影响回答但不受个人特征影响),那么你可以通过分离模式来修复它。
- 如果调查模式是一个“保镖”(由人的特征决定),那么尝试通过分离模式来修复它实际上会产生新的错误(称为碰撞偏倚)。
研究人员应该怎么做?
论文根据具体情况提出了三种处理方法:
- 不要触碰它(条件化/Conditioning): 如果你确定人们没有根据其特征选择模式,你可以简单地按模式分离数据。但如果他们确实是根据特征选择的,那就不要这样做!
- 猜测并填充(插补/Imputation): 你可以尝试猜测“网站人群”如果使用“电话方法”会如何回答,并填补空白。论文警告说这是有风险的,因为它假设缺失的数据是随机的,而事实通常并非如此。这就像是在试图猜测一个朋友在没被问及时会如何回答问题,并假设他们的回答会和其他人一样。
- “如果……会怎样”游戏(定量偏倚分析/Quantitative Bias Analysis): 这是作者最推荐的方法。与其试图神奇地修复数据,不如承认数据是混乱的。你可以说:“好吧,让我们假设模式效应是这么大的。这会如何改变我们的结果?”然后尝试不同的规模。如果无论你假设误差有多大,你的主要结论都保持不变,那么你就可以对你的发现充满信心。
核心结论
当你混合使用不同的数据收集方式(如电话、网络和纸质)时,你必须非常小心。
- 方法很重要: 它改变了人们的回答方式(面具)。
- 人很重要: 不同的人选择了不同的方法(保镖)。
如果你在没有意识到“保镖”存在的情况下试图修复“面具”问题,你可能会无意中编造出一个虚假的故事。最好的方法是绘制出你的假设(使用这些流程图),意识到你无法总是完美地修复数据,而是去测试如果误差变大或变小,你的结果会发生怎样的变化。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。