Deep Generalised Mixed Models: a Novel Neural Network Structure for Analysing Hierarchical Data
本文提出了一种新颖的深度广义混合模型架构,该架构将混合效应集成到深度学习中,以解决高维纵向研究(如 GrowIt! 青少年情绪数据集)中随机缺失数据导致的选择偏差问题,尽管该方法目前面临模型不稳定的挑战。
原始论文采用 CC BY 4.0 许可(http://creativecommons.org/licenses/by/4.0/)。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性,请参阅原始论文。 阅读完整免责声明
想象一下,你正试图了解一群朋友每天的情绪变化。你要求他们每周多次记录自己的情绪、压力水平和无聊程度。这被称为“经验采样法”(Experience Sampling),就像是在记录一个人的一年里拍了一千张微小的快照,而不是在年底只拍一张大合影。问题在于,生活总是很混乱。有时候你的朋友忘了打卡,或者因为正处于糟糕的一天而完全停止了记录。在数据科学领域,这被称为“缺失数据”。
长期以来,统计学家一直使用一种名为“混合模型”(Mixed Models)的工具来处理这个问题。你可以把这些模型想象成一位聪明的教练,他既了解比赛的一般规则(大多数人的感受),又为每位球员准备了一个特别的笔记本,用以记录他们独特的怪癖。然而,这些传统的教练在面对过于庞大或复杂的数据时会感到力不从心。另一方面,现代的“机器学习”(Machine Learning)教练速度极快,能够处理海量数据,但它们很容易被误导。如果一名球员因为心情低落而停止比赛,标准的机器学习教练可能会忽略这一事实,并猜测该球员状态良好,从而导致错误的预测。科学家们提出的核心问题是:我们能否构建出一种既能快速处理海量数据,又能理解人们为何退出,从而避免得出错误答案的教练?
这篇论文介绍了一种全新的、实验性的教练——深度广义混合模型(Deep Generalised Mixed Model, DGMM)。作者是来自荷兰的一个研究团队,他们希望看看是否可以将传统统计教练和现代机器学习教练的最佳部分结合成一个超级结构。他们利用一种被称为“神经网络”的人工智能技术构建了这个新模型,神经网络就像是一个由连接节点组成的数字大脑。具体来说,他们使用了一个巧妙的技巧,叫做“变分自编码器”(Variational Auto-Encoder)。你可以把它看作是一个由两部分组成的机器:一部分(编码器)试图将一个人混乱、不完整的数据压缩成一个关于其“隐藏情绪状态”的简单摘要;另一部分(解码器)则试图将这个摘要重新展开,以预测他们未来的日子会是什么样子。
研究人员在来自“GrowIt!”应用(该应用在疫情期间被青少年用于追踪情绪)的真实数据上测试了这个新模型。他们还运行了数百次计算机模拟,以观察该模型在不同条件下的表现,包括当人们因为心情特别消极而导致数据缺失的情况。
结果喜忧参半。即使在数据完美且完整的情况下,新的 DGMM 也没有达到标准机器学习模型的预测性能;事实上,它的准确性略低于标准的“循环神经网络”(RNN)。然而,当数据变得混乱且缺失时(这正是现实生活中发生的情况),情况变得更加复杂。在针对青少年的真实世界测试中,DGMM 的整体拟合度不如 RNN。然而,RNN 被描述为“非常不稳定”,其预测结果会剧烈波动。相比之下,对于某些个体而言,DGMM 实际上比 RNN 更能准确地遵循真实的趋势,而后者有时会预测出巨大的、不准确的情绪跌幅。
作者认为,这种不稳定性可能是因为该模型对设置方式非常敏感,并且在处理青少年数据的特定缺失方式时遇到了困难。然而,在他们的计算机模拟中,当模型能够正确运作时,它在预测那些退出研究的人的未来表现方面,实际上优于标准模型。它成功地捕捉到了一个线索,即那些停止打卡的人很可能正经历着一段艰难时期,而标准模型却忽略了这个线索。
最终,论文得出结论:虽然深度广义混合模型是一个引人入胜的新想法,可能成为理解复杂人类行为的强大工具,但它尚未准备好取代旧有的工具。它就像一辆拥有卓越引擎但方向盘却会晃动的原型车。研究人员发现,目前医生和心理学家应该专注于观察他们实际拥有的数据,而不是依赖于模型对“可能发生的情况”的预测。不过,他们也认为,通过一些调优和更好的稳定性技巧,这种新的架构有朝一日有望成为分析我们如何感受、思考以及随时间变化的黄金标准。
您所在领域的论文太多了?
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要,使用您的语言。