Reliability of decisions based on tests: Fourier analysis of Boolean decision functions
本文利用布尔函数的傅里叶分析,结合测试理论与图模型概念,旨在证明加权总分是提供最可靠且最稳定测试结果决策函数的最佳方式,通过确保对测量误差和题目比例影响的鲁棒性。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象一下你是一位高风险游戏节目的评委,参赛者需要回答一系列是或否的问题。你的职责是决定他们是合格还是不合格。在心理学和教育领域,这正是考试每天发生的事情:学生回答一系列问题,然后根据分数决定他们能否毕业、获得执照或通过医学考试。几十年来,科学家们一直依赖复杂的、看不见的“幽灵”(称为潜变量)来解释人们为什么会那样回答问题。他们想象存在一种隐藏的特质(比如“智力”)在周围游荡并导致了这些答案。但如果我们不需要这个幽灵呢?如果我们只观察问题本身以及它们是如何相互交流的呢?这篇论文深入探讨了这个问题,提出了:我们如何确保我们的“合格/不合格”决策是公平的,并且不会仅仅因为某人在一个问题上犯了一个微小的错误就发生剧烈波动?为了理解这一点,我们需要了解“布尔函数”(它们只是复杂的数学术语,指代接收一系列是/否输入并输出单个是/否输出的规则)和“傅里叶分析”(一种通常用于将声波分解为音符的工具,但在这里被用于将决策规则分解为其最基本的组成部分)。作者们想要知道,标准的测试评分方式——仅仅是累加分数——是否真的是做出决策的最优、最稳定的方式,或者是否存在一种更好的权重分配方式。
该论文的作者 Lourens Waldorp、Maarten Marsman 和 Denny Borsboom 决定不将测试视为一个需要用隐形幽灵去破解的谜团,而是将其视为一个朋友们互相交谈的网络。他们使用了一种称为布尔函数傅里叶分析的数学技术来研究我们的测试决策到底有多可靠。把测试想象成一台巨大的、复杂的机器,每一个问题都是一个齿轮。如果你推动一个齿轮(学生将一个正确答案改成了错误答案),整台机器是否会停止运转并给出不同的结果?或者这台机器足够坚固,以至于微小的推动并不会产生影响?
研究人员发现,最常见的测试评分方式——仅仅是累加正确答案(“总分”)或使用其加权版本——实际上是一个非常特殊且稳健的选择。他们发现,这种他们称之为线性阈值函数 (LTF) 的方法,就像一座坚固的桥梁。如果几辆车(答案)发生了转向或犯了错,桥梁也不会坍塌;“合格”或“不合格”的决策依然保持不变。事实上,他们从数学上证明了,如果你想要一种既稳定(可靠)又公平对待所有问题的决策规则,那么总分法是你能够使用的最好的工具之一。它是唯一满足被称为梅定理 (May's Theorem) 的著名公平性准则的规则类型,该准则基本上是在说:“如果你想要一个公平、一致且不会让单个问题劫持整个结果的决策,你应该使用总分法。”
为了弄清这一点,团队使用了一个聪明的技巧。他们设想了一个“噪声”实验,即随机翻转一些答案(比如学生在猜测或犯了一个愚蠢的错误),并观察最终决策的变化情况。通过他们的傅里叶分析,他们可以精确地看到每个问题对最终判决产生了多少“影响力”。他们发现,如果一个问题是孤立的——也就是说它不能很好地与其他问题连接起来——那么它几乎没有任何影响力,这对一个好的测试来说是个坏兆头。但如果问题之间连接良好,总分法就像一个完美的过滤器,平滑掉噪声,从而使最终决策保持稳定。
论文还提出了一种看待“真实分数”的新方式。与其想象存在一个导致答案的隐藏“智力”,他们建议将学生的真实能力定义为他们与直接相关的题目所给出的特定答案模式。这就像是在说,你对某个话题的“真实”观点并不是你内在的一种隐藏感觉,而是由你的朋友们(其他问题)如何影响你所构成的总和。这种方法使他们能够在不需要相信那些隐形幽灵的情况下,计算出测试的信度。
在模拟实验中,研究人员用一个由 35 个问题组成的虚构测试测试了这个想法。他们发现,即使他们无法完美地绘制出哪些问题相互连接(即测试的“图”结构),傅里叶分析仍然能给出关于测试稳定性的准确结果。他们表明,只要测试是“平衡的”——意味着没有单个问题过于强大或过于弱小——总分法仍然是最可靠的决策者。如果一个测试有一个“独裁者”问题(即一个问题就能独自决定结果),那么决策就会变得不稳定且不公平。但在平衡的总分法下,决策是稳健的,这意味着一些错误不会毁掉一个学生通过考试的机会。
最终,这篇论文认为,我们不需要依赖复杂且未经证实的关于隐藏特质的理论来了解一个测试是否优秀。通过观察问题如何相互作用的数学逻辑,我们可以证明,仅仅是累加分数的简单行为,就是一种科学合理、稳定且公平的做出改变命运的决策的方式。事实证明,有时,最简单的计票方式也是决定胜负最可靠的方式。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。