Reading Between the Signs: Predicting Future Suicidal Ideation from Adolescent Social Media Texts
本文介绍了 Early-SIB，这是一种基于 Transformer 的模型，通过顺序分析青少年在社交媒体上的帖子来预测未来的自杀意念与行为，该模型在一个荷兰青少年论坛上实现了 0.73 的平衡准确率，并利用 Shapley 加性解释提供了具有可解释性的见解。
原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
想象一下，你是一名试图破解谜题的侦探，但线索隐藏在一个巨大且嘈杂的图书馆里，那里每秒钟都有数百万人向彼此低声诉说着他们的秘密。这就是社交媒体的世界，一个青少年往往在向医生或父母开口之前，就先在这里分享他们内心深处恐惧、挫折和梦想的数字空间。几十年来，科学家们一直试图通过观察“风险因素”——比如悲伤、不幸的童年或绝望感——来预测一个人是否处于伤害自己的危险之中。把这些因素想象成检查一个人的背包，看看他是否背负着沉重的石头；虽然沉重的石头是一个坏兆头，但许多背着石头的人从未放下它们，而有些人放下石头时，背包里甚至根本没有明显的重物。事实上，在过去的五十年里，试图利用这些传统的清单来预测自杀，就像抛硬币一样；它的效果仅仅比瞎猜好那么一点点。但是，如果我们能在一个人亲口说出那些可怕的词汇之前，先听到图书馆里的这些低语呢？这正是这篇论文所提出的核心问题：我们能否在青少年发布关于想要结束生命的信息之前，就捕捉到他们在网络聊天中的预警信号？
这项研究背后的研究人员与一个名为“De Kindertelefoon”的荷兰青少年求助论坛合作，决定构建一个名为 EARLY-SIB 的数字侦探。他们的目标是观察他们是否可以仅根据用户在那个时刻之前所写的内容和回复，来预测该用户最终是否会发布关于自杀念头或行为的内容。这就像是通过观察鸟类如何飞行和风如何吹动，来预判一场风暴即将到来，而不是等待第一滴雨落下。
为了实现这一目标，他们并没有仅仅寻找“自杀”这个词。相反，他们训练了一个聪明的计算机程序（一种被称为 Transformer 的人工智能）来阅读数千条帖子和回复。该程序学会了识别用户历史记录中的微妙模式——比如语气的突然变化、谈论学业压力过大，或者询问如何停止伤害自己的建议——这些模式可能预示着麻烦正在酝酿。团队必须非常谨慎。他们首先教会计算机如何识别一条真正提到自杀的帖子（它做得非常出色，准确率约为 96%）。然后，他们利用这项技能创建了一个用户名单，这些用户尚未发布过自杀内容，但未来却会发布相关内容。
当他们在这一群体上测试 EARLY-SIB 模型时，结果令人振奋。该模型能够以 0.73 的“平衡准确率”（balanced accuracy）预测未来的自杀念头。在预测领域，随机猜测通常只能得到约 0.50，因此这是一个显著的进步。这意味着该模型在识别风险人群方面远优于随机猜测。然而，论文明确指出，这并不是一个神奇的水晶球。模型仍然会犯错；它会漏掉一些处于风险中的人（“假阴性”），有时也会标记一些并无危险的人（“假阳性”）。事实上，该模型在发现那些确实处于风险中的人方面表现更好（捕捉到了约 71% 的人），但在确保被标记的人完全准确方面却表现一般（其标记中的正确率仅为 10%）。这是因为数据极度不平衡：在每 100 名用户中，大约只有 4 人处于风险之中，因此误判是非常容易发生的。
研究人员还使用了一种名为 SHAP 的特殊工具来窥探计算机的大脑，看看它为什么做出这些预测。他们发现，模型并不依赖于某一条巨大的、戏剧性的帖子。相反，它观察的是一系列互动的综合体，就像是由许多小碎片组成的拼图。例如，一条关于学业压力过大的帖子，结合一条询问如何停止自残技巧的回复，便构成了一个模型能够识别出的危险模式。研究表明，模型能阅读的历史记录越多（最多可达 30 次互动），它的表现就越好，这表明预警信号是分散在时间轴上的，而非仅仅存在于某一瞬间。
作者们谨慎地表示，这是一个“启发性”的发现，而非已解决的问题。他们认为，尽管他们的工具比旧方法更好，但尚未准备好取代人类医生或咨询师。他们将其视为一种“早期预警系统”，可以帮助论坛的人类管理员更早地注意到可能需要帮助的用户。然而，他们也提出了警告。如果系统标记了一个实际上并不处于危险中的人，可能会引起不必要的恐慌或侵犯隐私。如果它漏掉了处于危险中的人，后果可能是悲剧性的。论文总结道，虽然这项技术表明从社交媒体文本中预测这些风险是“可能的”，但真正的挑战在于如何负责任、合乎伦理且有效地在现实世界中使用这一工具，确保当警报响起时，真的有人在那里提供帮助。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。