What Counts as Harmful Eating Disorder Content? A Delphi Study Developing Consensus-Based Harm Identification Rules with Lived Experience and Professional Experts
本研究采用改良的德尔菲法，通过 41 位专家（结合了专业经验与亲身经历视角）制定了 45 条基于共识的规则，旨在识别社交媒体上显性的及依赖于语境的有害进食障碍内容，以支持自动化检测和个性化审核，同时保留有益内容。
原始论文采用 CC BY 4.0 许可（https://creativecommons.org/licenses/by/4.0/）。 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。 阅读完整免责声明
社交媒体已成为许多人生活中形影不离的伴侣，塑造着他们看待自身以及与世界互动的方式。对于那些正在挣扎于进食障碍或面临患病风险的人来说，这些数字空间可能具有特别强大的影响力，有时会强化关于身体形象、食物和体重的有害想法。算法——即决定向用户展示什么内容的计算机程序——通常会从一个人的点击和观看时长中学习。如果有人在关于节食或极端消瘦的帖子旁停留较久，系统可能会向其展示更多类似内容，从而创造一个循环，让危险的想法显得既正常又不可避免。虽然社交媒体公司已经试图阻止最明显的有害内容（例如公开鼓励饥饿的帖子），但它们在处理“灰色地带”方面仍感到吃力。例如，一段关于某人午餐吃了什么的视频，表面上看可能并无大碍，但实际上可能在秘密地推广限制性饮食习惯，或触发他人进行身体比较。平台面临的挑战在于，如何在不误删有益的康复故事或正常健康信息的前提下，准确地划定界限。
为了解决这个难题，一个研究小组汇集了两个截然不同的群体，共同制定了一套识别有害内容的新规则。他们并没有仅仅依赖计算机或凭空猜测；相反，他们使用了一种被称为德尔菲法（Delphi study）的结构化过程，这是一种通过反复反馈在专家之间建立共识的方法。该团队召集了二十一名专业人士，包括从事进食障碍领域的医生、研究人员和临床医生，以及二十名过去曾患有进食障碍但目前已不再符合诊断标准的个体。通过将专业知识与经历过该疾病者的现实生活洞察相结合，研究人员旨在建立一个清晰、共享的定义，以界定什么是危险的网络内容。
该过程始于研究人员审查现有研究并进行访谈，以起草一份长长的潜在规则清单。他们最初提出了六十七个关于可能造成伤害的想法，范围涵盖了从展示肋骨以鼓励消瘦的帖子，到宣传未经医疗建议使用特定减肥药物的视频。这些初步想法随后通过一系列调查进行了测试和完善。首先，由一个小型的指导委员会对规则进行审查，然后由更广泛的专家组进行投票。在每一轮中，专家们会对一条规则是否应该被保留进行评分，并分享关于某条规则为何过于模糊或过于严苛的看法。研究人员利用这些评论来重写规则，使其更加精准，然后再请该小组再次投票。这个循环进行了多次，直到该小组在最终的一套准则上达成了高度一致。
结果是一份最终确定的、包含四十五条规则的清单，可用于识别有害的进食障碍内容。专家们发现，某些类型的有害内容很容易达成共识。针对明显危险行为的规则——例如推广极端断食、展示可见的骨骼以暗示消瘦是令人向往的，或销售未经监管的减肥药——获得了近乎一致的认同。这些都是客观上不安全的帖子类型。然而，专家组发现，对于高度依赖语境的内容，很难达成共识。例如，一段关于运动或营养的帖子本身并非有害；只有当它将这些活动框架化为惩罚身体的方式，或者暗示一个人的价值取决于其外表时，它才会变得有害。专家们指出，区分健康的康复故事与触发性的帖子，往往需要理解创作者的意图和观众的脆弱性。
最终，研究得出结论，不存在一种单一、简单的过滤器可以在不误伤有益内容的情况下捕捉到每一个有害帖子。最终的规则表明，伤害不仅在于说了什么或展示了什么，还在于如何进行框架化描述以及谁在观看。虽然专家们可以轻易识别出美化饥饿或推广不安全医疗捷径的帖子，但在针对身体测量数据或康复叙事等更具歧义的话题制定僵化的规则时却感到困难。研究人员认为，这些发现为更好的自动化检测系统提供了基础，但也强调了人类判断和语境敏感型审核的必要性。通过结合专家和亲历者的视角来准确理解究竟什么构成了伤害，社交媒体平台可以在保护脆弱用户的同时，保留支持康复的有益内容。
您所在领域的论文太多了？
获取与您研究关键词匹配的最新论文每日摘要——附技术摘要，使用您的语言。