What Counts as Harmful Eating Disorder Content? A Delphi Study Developing Consensus-Based Harm Identification Rules with Lived Experience and Professional Experts
Deze studie maakte gebruik van een aangepaste Delphi-methodologie met 41 experts (een combinatie van professionele en ervaringsdeskundige perspectieven) om 45 op consensus gebaseerde regels te ontwikkelen voor het identificeren van zowel expliciete als contextafhankelijke schadelijke eetstoornissen-gerelateerde inhoud op sociale media, met als doel geautomatiseerde detectie en gepersonaliseerde moderatie te ondersteunen terwijl waardevolle content behouden blijft.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Sociale media zijn voor veel mensen een constante metgezel geworden en vormen de manier waarop zij naar zichzelf kijken en met de wereld omgaan. Voor mensen die worstelen met of het risico lopen op het ontwikkelen van een eetstoornis, kunnen deze digitale ruimtes bijzonder krachtig zijn, waarbij ze soms schadelijke gedachten over lichaamsbeeld, voedsel en gewicht versterken. Algoritmen, de computerprogramma's die bepalen welke inhoud aan gebruikers wordt getoond, leren vaak van de klikken en de kijktijd van een persoon. Als iemand langer bij een bericht over diëten of extreme dunheid blijft hangen, kan het systeem meer van hetzelfde laten zien, waardoor een cyclus ontstaat waarin gevaarlijke ideeën normaal en onvermijdelijk aanvoelen. Hoewel sociale mediabedrijven hebben geprobeerd de meest voor de hand liggende schadelijke inhoud, zoals berichten die openlijk uithongering aanmoedigen, worstelen ze met de "grijze gebieden". Een video over wat iemand heeft geluncht, kan bijvoorbeeld aan de oppervlakte onschuldig lijken, maar kan in stilte restrictief eetgedrag promoten of iemand triggeren om het eigen lichaam te vergelijken. De uitdaging voor platforms is om precies te weten waar de grens te trekken zonder per ongels nuttige herstelverhalen of normale gezondheidsinformatie te verwijderen.
Om dit puzzelstuk op te lossen, bracht een team van onderzoekers twee verschillende groepen mensen samen om een nieuwe set regels op te stellen voor het identificeren van schadelijke inhoud. Ze vertrouwden niet alleen op computers of gissingen; in plaats daarvan gebruikten ze een gestructureerd proces genaamd een Delphi-studie, wat een methode is om consensus tussen experts te bereiken door middel van herhaalde rondes van feedback. Het team verzamelde eenentwintig professionals, waaronder artsen, onderzoekers en clinici die werkzaam zijn in het vakgebied van eetstoornissen, en twintig individuen die persoonlijk eetstoornissen hebben ervaren maar momenteel niet meer gediagnosticeerd zijn. Door professionele kennis te combineren met de praktische inzichten van degenen die de ziekte hebben doorleefd, wilden de onderzoekers een duidelijke, gedeelde definitie creëren van wat online inhoud gevaarlijk maakt.
Het proces begon met het beoordelen van bestaande studies en het afnemen van interviews door een lange lijst met potentiële regels op te stellen. Ze begonnen met zesënzestig verschillende ideeën over wat schadelijk zou kunnen zijn, variërend van berichten die zichtbare ribben laten zien om magerheid te stimuleren, tot video's die specifieke afslankmiddelen zonder medisch advies promoten. Deze initiële ideeën werden vervolgens getest en verfijnd via een reeks enquêtes. Eerst beoordeelde een kleine stuurgroep de regels, en daarna stemde de grotere groep van veertig experts erover. In elke ronde beoordeelden de experts of zij ermee instemden dat een regel behouden moest blijven, en deelden zij hun gedachten over waarom een regel te vaag of te strikt zou zijn. De onderzoekers gebruikten deze commentaren om de regels te herschrijven, waardoor ze nauwkeuriger werden, voordat ze de groep opnieuw lieten stemmen. Deze cyclus herhaalde zich meerdere keren totdat de groep een sterke overeenstemming bereikte over een definitieve set richtlijnen.
Het resultaat was een gefinaliseerde lijst van drieënveertig regels die gebruikt kunnen worden om schadelijke inhoud gerelateerd aan eetstoornissen op te sporen. De experts ontdekten dat sommige soorten inhoud gemakkelijk als schadelijk te bestempelen waren. Regels die zich richtten op duidelijk schadelijk gedrag, zoals het promoten van extreem vasten, het tonen van zichtbare botten om te suggereren dat magerheid wenselijk is, of het verkopen van ongecontroleerde afslankpillen, kregen bijna universele instemming. Dit zijn de soorten berichten die objectief onveilig zijn. De groep vond het echter veel moeilijker om het eens te worden over inhoud die sterk afhankelijk is van de context. Een bericht over lichaamsbeweging of voeding is bijvoorbeeld niet inherent slecht; het wordt pas schadelijk als het deze activiteiten frameert als een manier om het lichaam te straffen of als het suggereert dat iemands waarde afhangt van het fysieke uiterlijk. De experts merkten op dat het onderscheid maken tussen een gezond herstelverhaal en een triggerend bericht vaak begrip vereist voor de intentie van de maker en de kwetsbaarheid van de kijker.
Uiteindelijk concludeerde de studie dat er geen enkele, eenvoudige filter is die elke schadelijke post kan vangen zonder ook welzijnbevorderende inhoud te vangen. De uiteindelijke regels laten zien dat schade niet alleen gaat over wat er wordt gezegd of getoond, maar over hoe het wordt geframed en wie het ziet. Terwijl de experts gemakkelijk berichten konden identificeren die uithongering verheerlijken of onveilige medische kortwegen promoten, hadden zij moeite met het creëren van rigide regels voor meer ambigue onderwerpen zoals lichaamsmaten of herstelverhalen. De onderzoekers suggereren dat deze bevindingen een fundament bieden voor betere automatische detectiesystemen, maar ze benadrukken ook de noodzaak van menselijk oordeel en contextgevoelige moderatie. Door precies te begrijpen wat schade inhoudt door de ogen van zowel experts als degenen met geleefde ervaring, kunnen sociale mediaplatforms bewegen naar het beschermen van kwetsbare gebruikers terwijl ze de begunstige inhoud die herstel ondersteunt, behouden.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.