What Counts as Harmful Eating Disorder Content? A Delphi Study Developing Consensus-Based Harm Identification Rules with Lived Experience and Professional Experts
Diese Studie nutzte eine modifizierte Delphi-Methodik mit 41 Experten (die sowohl professionelle als auch lebensweltliche Perspektiven vereinten), um 45 konsensbasierte Regeln für die Identifizierung sowohl expliziter als auch kontextabhängiger schädlicher Essstörungs-Inhalte in sozialen Medien zu entwickeln, mit dem Ziel, die automatisierte Erkennung und personalisierte Moderation zu unterstützen und gleichzeitig nützliches Material zu bewahren.
Originalarbeit lizenziert unter CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Soziale Medien sind für viele Menschen zu einem ständigen Begleiter geworden, der beeinflusst, wie sie sich selbst sehen und mit der Welt interagieren. Für diejenigen, die mit Essstörungen kämpfen oder Gefahr laufen, eine zu entwickeln, können diese digitalen Räume besonders einflussreich sein, da sie mitunter schädliche Gedanken über das Körperbild, das Essen und das Gewicht verstärken. Algorithmen – jene Computerprogramme, die entscheiden, welche Inhalte einem Nutzer gezeigt werden – lernen oft aus den Klicks und der Sehdauer einer Person. Wenn jemand länger bei einem Beitrag über Diäten oder extreme Schlankheit verweilt, zeigt das System möglicherweise mehr davon an, wodurch ein Kreislauf entsteht, in dem gefährliche Ideen normal und unvermeidlich erscheinen. Während Social-Media-Unternehmen versucht haben, die offensichtlichsten schädlichen Inhalte, wie etwa Beiträge, die offen zum Hungern ermutigen, zu stoppen, haben sie Schwierigkeiten mit den „Grauzonen“. Ein Video darüber, was jemand zu Mittag gegessen hat, kann beispielsweise oberflächlich betrachtet harmlos wirken, könnte aber im Verborgenen restriktives Essverhalten fördern oder jemanden dazu bringen, den eigenen Körper zu vergleichen. Die Herausforderung für die Plattformen besteht darin, genau zu wissen, wo sie die Grenze ziehen können, ohne versehentlich hilfreiche Genesungsgeschichten oder normale Gesundheitsinformationen zu entfernen.
Um dieses Rätsel zu lösen, brachte ein Forscherteam zwei unterschiedliche Gruppen von Menschen zusammen, um einen neuen Satz von Regeln für die Identifizierung schädlicher Inhalte zu erstellen. Sie verließen sich nicht allein auf Computer oder Vermutungen; stattdessen nutzten sie ein strukturiertes Verfahren namens Delphi-Studie, bei der es sich um eine Methode zum Aufbau von Konsens unter Experten durch wiederholte Feedbackrunden handelt. Das Team versammte einundzwanzig Fachleute, darunter Ärzte, Forscher und Kliniker, die auf dem Gebiet der Essstörungen tätig sind, sowie zwanzig Personen, die in der Vergangenheit persönlich eine Essstörung erlebt hatten, aber derzeit nicht mehr diagnostiziert sind. Durch die Kombination von professionellem Wissen mit den praktischen Erkenntnissen derer, die die Krankheit durchlebt haben, zielten die Forscher darauf ab, eine klare, gemeinsame Definition dafür zu schaffen, was Online-Inhalte gefährlich macht.
Der Prozess begann damit, dass die Forscher bestehende Studien überprüften und Interviews durchführten, um eine lange Liste potenzieller Regeln zu entwerfen. Sie begannen mit siebenundsechzig verschiedenen Ideen darüber, was schädlich sein könnte, von Beiträgen, die sichtbare Rippen zeigen, um Schlankheit zu forcieren, bis hin zu Videos, die bestimmte Abnehmmedikamente ohne ärztlichen Rat bewerben. Diese anfänglichen Ideen wurden dann in einer Reihe von Umfragen getestet und verfeinert. Zuerities überprüfte ein kleines Lenkungsausschuss die Regeln, und dann stimmte die größere Gruppe von vierzig Experten darüber ab. In jeder Runde bewerteten die Experten, ob sie zustimmten, dass eine Regel beibehalten werden sollte, und sie teilten ihre Gedanken darüber mit, warum eine Regel zu vage oder zu streng sein könnte. Die Forscher nutzten diese Kommentare, um die Regeln neu zu formulieren und präziser zu gestalten, bevor sie die Gruppe erneut zur Abstimmung baten. Dieser Zyklus wiederholte sich mehrmals, bis die Gruppe eine starke Übereinkunft über einen endgültigen Satz von Richtlinien erreichte.
Das Ergebnis war eine finalisierte Liste von fünfundvierzig Regeln, die verwendet werden können, um schädliche Inhalte im Zusammenhang mit Essstörungen zu erkennen. Die Experten stellten fest, dass es einige Arten von Inhalten gab, bei denen man sich leicht einig war, dass sie schädlich seien. Regeln, die sich gegen eindeutige, gefährliche Verhaltensweisen richteten, wie etwa die Förderung von extremem Fasten, das Zeigen sichtbarer Knochen, um Schlankheit als erstrebenswert darzustellen, oder den Verkauf unregulierter Abnehmpillen, erhielten nahezu universelle Zustimmung. Dies sind die Arten von Beiträgen, die objektiv unsicher sind. Die Gruppe stellte jedoch fest, dass es viel schwieriger war, sich bei Inhalten zu einigen, die stark vom Kontext abhängen. Zum Beispiel ist ein Beitrag über Bewegung oder Ernährung nicht an sich schlecht; er wird erst dann schädlich, wenn er diese Aktivitäten als Weg darstellt, den Körper zu bestrafen, oder wenn er suggeriert, dass der Wert eines Menschen von seinem körperlichen Erscheinungsbild abhängt. Die Experten merkten an, dass die Unterscheidung zwischen einer gesunden Genesungsgeschichte und einem triggernden Beitrag oft ein Verständnis der Absicht des Erstellers und der Verletzlichkeit des Betrachters erfordert.
Letztlich kam die Studie zu dem Schluss, dass es keinen einzelnen, einfachen Filter gibt, der jeden schädlichen Beitrag erfassen kann, ohne auch hilfreiche Beiträge mitzufangen. Die endgültigen Regeln zeigen, dass es nicht nur darauf ankommt, was gesagt oder gezeigt wird, sondern darauf, wie es gerahmt wird und wer es sieht. Während die Experten problemlos Beiträge identifizieren konnten, die das Verhungern verherrlichen oder unsichere medizinische Abkürzungen bewerben, hatten sie Schwierigkeiten, starre Regeln für eher zweideutige Themen wie Körpermaße oder Genesungsberichte zu erstellen. Die Forscher schlagen vor, dass diese Erkenntnisse eine Grundlage für bessere automatisierte Erkennungssysteme bieten, aber sie unterstreichen auch die Notwendigkeit von menschlichem Urteilsvermögen und kontextsensitiver Moderation. Indem sie genau verstehen, was durch die Augen von Experten und Betroffenen als schädlich empfunden wird, können Social-Media-Plattformen den Weg finden, vulnerable Nutzer zu schützen und gleichzeitig die hilfreichen Inhalte zu bewahren, die die Genesung unterstützen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.