What Counts as Harmful Eating Disorder Content? A Delphi Study Developing Consensus-Based Harm Identification Rules with Lived Experience and Professional Experts
本研究では、ソーシャルメディアにおける明示的および文脈依存的な摂食障害に関する有害なコンテンツを特定するための45の合意に基づくルールを策定するために、41名の専門家（専門的知見と当事者としての経験の両方の視点を組み合わせたもの）を用いた修正デルファイ法を活用し、有益な素材を維持しながら自動検出とパーソナライズされたモデレーションを支援することを目指した。
原論文は CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) でライセンスされています。 これは以下の論文のAI生成解説です。著者が執筆または承認したものではありません。技術的な正確性については原論文を参照してください。 免責事項の全文を読む
ソーシャルメディアは多くの人々にとって絶え間ない伴侶となり、人々が自分自身をどのように捉え、世界とどのように関わるかを形作っています。摂食障害に苦しんでいる人や、そのリスクがある人々にとって、これらのデジタル空間は特に強力な影響力を持ち、時には身体像、食物、そして体重に関する有害な思考を助長することがあります。アルゴリズム、つまりユーザーにどのコンテンツを見せるかを決定するコンピュータプログラムは、個人のクリックや視聴時間から学習します。もし誰かがダイエットや極端な痩身に関する投稿を長く見ていれば、システムは同様のコンテンツをさらに表示させる可能性があり、危険な考えが当たり前で避けられないものであるかのように感じさせるサイクルを生み出します。ソーシャルメディア企業は、飢餓を公然と推奨するような最も明白な有害コンテンツを阻止しようと試みてきましたが、「グレーゾーン」への対応には苦慮しています。例えば、ある人が昼食に何を食べたかという動画は、表面上は無害に見えるかもしれませんが、密かに制限的な食事習慣を助長したり、自分の身体と比較させたりして、誰かをトリガー（引き金）にする可能性があります。プラットフォームにとっての課題は、有益な回復の物語や通常の健康情報を誤って削除することなく、どこに線を引くべきかを正確に判断することです。
このパズルを解くために、ある研究チームは、有害なコンテンツを特定するための新しい一連のルールを構築すべく、2つの異なるグループを集めました。彼らはコンピュータや推測だけに頼るのではなく、「デルファイ法」と呼ばれる構造化されたプロセスを用いました。これは、繰り返しのフィードバックを通じて専門家の間の合意を形成する手法です。研究チームは、摂食障害の分野で活動する医師、研究者、臨床医を含む21人の専門家と、過去に摂食障害を経験しているが現在は診断を受けていない20人の個人を集めました。専門的な知識と、病を生き抜いてきた人々の実体験に基づく洞察を組み合わせることで、研究者たちは、オンライン上の何がコンテンツを危険なものにするのかについて、明確で共有可能な定義を作ることを目指しました。
プロセスは、研究者が既存の研究をレビューし、インタビューを実施して、潜在的なルールの長いリストを作成することから始まりました。彼らは、痩せていることを強調するために肋骨を見せる投稿から、医学的助言なしに特定の減量薬を宣伝する動画に至るまで、67種類の異なるアイデアからスタートしました。これらの初期のアイデアは、一連の調査を通じてテストされ、洗訳されました。まず、小さな運営委員会がルールをレビューし、次に、より大きなグループである40人の専門家がそれらに投票しました。各ラウンドにおいて、専門家たちはそのルールを維持すべきかどうかを評価し、なぜそのルールが曖昧すぎたり厳しすぎたりするのかについての意見を共有しました。研究者はこれらのコメントを用いて、ルールをより精密に書き換え、その後、グループに再度投票を求めました。このサイクルは、グループが最終的なガイドラインに対して強い合意に達するまで、数回繰り返されました。
結果として、有害な摂食障害コンテンツを特定するために使用できる、確定した45のルールが作成されました。専門家たちは、何が有害であるかについて合意を得やすいタイプのコンテンツがあることを見出しました。極端な断食を助長する、痩せていることが望ましいことを示唆するために骨が見える様子を見せる、あるいは未承認の減量薬を販売するといった、明確で危険な行動を対象としたルールは、ほぼ普遍的な合意を得られました。これらは客観的に安全ではないタイプの投稿です。しかし、グループは、文脈に大きく依存するコンテンツについては合意を得るのが非常に困難であることを見出しました。例えば、運動や栄養に関する投稿は、それ自体は決して悪いものではありませんが、それらが身体を罰するための手段として描かれていたり、あるいは個人の価値が外見に依存すると示唆していたりする場合、有害なものとなります。専門家たちは、健康的な回復の物語と、トリガーとなる投稿を区別するには、制作者の意図や視聴者の脆弱性を理解する必要があると指摘しました。
最終的に、この研究は、有益な投稿を捉えることなくすべての有害な投稿を捉えることができる単一の単純なフィルターは存在しない、と結論付けました。最終的なルールは、有害性は単に何を言い、何が示されているかだけでなく、それがどのように枠付けられ、誰に見られているかによって決まることを示しています。専門家たちは、飢餓を美化したり不安全な医学的近道を推奨したりする投稿を容易に特定できましたが、身体のサイズや回復の物語といった、より曖昧なトピックに対して厳格なルールを作成することには苦慮しました。研究者らは、これらの知見がより優れた自動検出システムの基礎を提供すると同時に、人間の判断と文脈に応じたモデレーションの必要性を浮き彫りにしていると示唆しています。専門家と実体験を持つ者の両方の視点を通じて、何が有害であるかを正確に理解することで、ソーシャルメディア・プラットフォームは、回復を支援する有益なコンテンツを維持しながら、脆弱なユーザーを保護することへと進むことができるのです。
自分の分野の論文に埋もれていませんか？
研究キーワードに一致する最新の論文のダイジェストを毎日受け取りましょう——技術要約付き、あなたの言語で。