What Counts as Harmful Eating Disorder Content? A Delphi Study Developing Consensus-Based Harm Identification Rules with Lived Experience and Professional Experts
본 연구는 소셜 미디어 상의 명시적 및 맥락 의존적 섭식 장애 유해 콘텐츠를 식별하기 위한 45가지 합의 기반 규칙을 개발하기 위해 전문가와 당사자 경험 관점을 결합한 41명의 전문가를 대상으로 수정된 델파이 방법론을 활용하였으며, 이는 유익한 자료를 보존하면서 자동 탐지 및 개인화된 조절을 지원하는 것을 목표로 한다.
원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
소셜 미디어는 많은 사람에게 끊임없는 동반자가 되었으며, 사람들이 자신을 바라보고 세상과 상호작용하는 방식을 형성하고 있습니다. 섭식 장애를 겪고 있거나 그 위험이 있는 사람들에게 이러한 디지털 공간은 특히 강력할 수 있으며, 때로는 신체 이미지, 음식, 체중에 대한 해로운 생각을 강화하기도 합니다. 사용자가 무엇을 클릭하고 얼마나 오래 시청하는지를 결정하는 컴퓨터 프로그램인 알고리즘은 사용자의 행동으로부터 학습합니다. 만약 누군가가 다이어트나 극단적인 마름에 관한 게시물에 오래 머문다면, 시스템은 그와 유사한 콘텐츠를 더 많이 보여줌으로써 위험한 생각이 정상적이고 피할 수 없는 것처럼 느껴지는 순환 구조를 만들 수 있습니다. 소셜 미디어 기업들은 굶주림을 공개적으로 조장하는 게시물과 같이 가장 명백하게 해로운 콘텐츠를 차단하려고 노력해 왔지만, '회색 지대'를 다루는 데에는 어려움을 겪고 있습니다. 예를 들어, 누군가가 점심으로 무엇을 먹었는지 보여주는 영상은 표면적으로는 무해해 보일 수 있지만, 은밀하게 제한적인 식습u 습관을 조장하거나 자신의 몸을 비교하도록 유발할 수 있습니다. 플랫폼의 과제는 도움이 되는 회복 이야기나 일반적인 건강 정보를 실수로 삭제하지 않으면서도 정확히 어디에 선을 그어야 할지 아는 것입니다.
이 문제를 해결하기 위해, 한 연구팀은 해로운 콘텐츠를 식별하기 위한 새로운 규칙 세트를 구축하고자 두 개의 서로 다른 집단을 모았습니다. 그들은 컴퓨터나 추측에만 의존하지 않고, 전문가들 사이의 피드백을 통한 반복적인 합의를 도출하는 방법인 델파이 기법(Delphi study)이라는 구조화된 과정을 사용했습니다. 연구팀은 섭식 장애 분야에서 활동하는 의사, 연구자, 임상의를 포함한 21명의 전문가와, 과거에 섭식 장애를 경험했으나 현재는 진단 상태가 아닌 20명의 경험자를 모았습니다. 전문적인 지식과 질병을 직접 겪은 이들의 실질적인 통찰력을 결합함으로써, 연구진은 무엇이 온라인 콘텐츠를 위험하게 만드는지에 대한 명확하고 공유된 정의를 만들고자 했습니다.
과정은 연구진이 기존 연구들을 검토하고 인터뷰를 진행하여 긴 잠재적 규칙 목록을 초안하는 것으로 시작되었습니다. 그들은 갈비뼈가 드러나는 모습을 보여주며 마른 것을 권장하는 게시물부터, 의학적 조언 없이 특정 체중 감량 약물을 홍보하는 영상에 이르기까지 67가지의 다양한 아이디어로 시작했습니다. 이러한 초기 아이디어들은 일련의 설문 조사를 통해 테스트되고 정제되었습니다. 먼저 소규모 운영 위원회가 규칙을 검토했고, 그 다음 더 큰 규모의 전문가 그룹 41명이 투표했습니다. 각 단계에서 전문가들은 해당 규칙을 유지해야 하는지에 대해 찬성 여부를 평가했으며, 왜 어떤 규칙이 너무 모호하거나 엄격한지에 대한 의견을 공유했습니다. 연구진은 이러한 의견을 바탕으로 규칙을 더 정밀하게 재작성한 후, 그룹에 다시 투표를 요청했습니다. 이 순환 과정은 그룹이 최종 가이드라인에 대한 강력한 합의에 도달할 때까지 여러 차례 반복되었습니다.
그 결과, 해로운 섭식 장애 콘텐츠를 포착하는 데 사용할 수 있는 45개의 최종 규칙 목록이 만들어졌습니다. 전문가들은 어떤 유형의 콘텐츠가 해로운지에 대해 쉽게 합의할 수 있다는 것을 발견했습니다. 극단적인 단식을 조장하거나, 마른 모습이 바람직하다는 것을 암시하기 위해 드러난 뼈를 보여주거나, 규제되지 않은 체중 감량 알약을 판매하는 것과 같이 명확하고 위험한 행동을 겨냥한 규칙들은 거의 만장일치의 합의를 얻었습니다. 이것들은 객관적으로 안전하지 않은 게시물들입니다. 그러나 그룹은 맥락에 크게 의존하는 콘텐츠에 대해서는 합의하는 데 훨씬 더 어려움을 겪었습니다. 예를 들어, 운동이나 영양에 관한 게시물은 그 자체로 나쁜 것이 아니지만, 이러한 활동을 신체를 벌주는 수단으로 묘사하거나 신체적 외형에 따라 사람의 가치가 결정된다고 암시할 경우 해로워질 수 있습니다. 전문가들은 건강한 회복 이야기와 트리거(자극)가 되는 게시물을 구별하는 데 있어 종종 제작자의 의도와 시청자의 취약성을 이해해야 한다고 언급했습니다.
결국, 이 연구는 도움이 되는 게시물을 함께 잡아내지 않으면서 모든 해로운 게시물을 잡아낼 수 있는 단 하나의 단순한 필터는 존재하지 않는다는 결론을 내렸습니다. 최종 규칙들은 해로움이 단순히 무엇을 말하고 보여주느냐의 문제가 아니라, 그것이 어떻게 프레임화되는지, 그리고 누가 그것을 보느냐에 달려 있음을 보여줍니다. 전문가들은 굶주림을 미화하거나 안전하지 않은 의료적 지름길을 조장하는 게시물은 쉽게 식별할 수 있었지만, 신체 치수나 회복 서사와 같이 모호한 주제에 대해 엄격한 규칙을 만드는 데에는 어려움을 겪었습니다. 연구진은 이러한 발견이 더 나은 자동 탐지 시스템을 위한 토대를 제공하지만, 인간의 판단력과 맥락에 민가한 중재의 필요성 또한 강조한다고 제언합니다. 전문가와 실제 경험자의 눈을 통해 무엇이 해로움을 구성하는지 정확히 이해함으로써, 소셜 미디어 플랫폼은 회복을 지원하는 유익한 콘텐츠를 보존하면서 동시에 취약한 사용자들을 보호하는 방향으로 나아갈 수 있습니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.