What Counts as Harmful Eating Disorder Content? A Delphi Study Developing Consensus-Based Harm Identification Rules with Lived Experience and Professional Experts
Cette étude a utilisé une méthodologie Delphi modifiée impliquant 41 experts (combinant des perspectives d'expérience professionnelle et de vécu) pour élaborer 45 règles fondées sur le consensus afin d'identifier les contenus nuisibles liés aux troubles de l'alimentation, qu'ils soient explicites ou dépendants du contexte, sur les réseaux sociaux, dans le but de soutenir la détection automatisée et la modération personnalisée tout en préservant les contenus bénéfiques.
Article original sous licence CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Les réseaux sociaux sont devenus un compagnon constant pour de nombreuses personnes, façonnant la manière dont elles se perçoivent et interagissent avec le monde. Pour ceux qui luttent contre des troubles du comportement alimentaire ou qui risquent d'en développer, ces espaces numériques peuvent être particulièrement puissants, renforçant parfois des pensées néfastes sur l'image corporelle, l'alimentation et le poids. Les algorithmes, ces programmes informatiques qui décident du contenu à montrer aux utilisateurs, apprennent souvent des clics et du temps de visionnage d'une personne. Si quelqu'un s'attarde sur une publication concernant un régime ou une maigreur extrême, le système peut lui montrer davantage de contenus similaires, créant un cycle où les idées dangereuses semblent normales et inévitables. Bien que les entreprises de médias sociaux aient tenté de stopper les contenus les plus manifestement nocifs, tels que les publications encourageant ouvertement la famine, elles peinent face aux « zones grises ». Une vidéo sur ce que quelqu'un a mangé pour le déjeuner, par exemple, peut sembler inoffensive en apparence, mais pourrait secrètement promouvoir des habitudes alimentaires restrictives ou pousser quelqu'un à comparer son propre corps. Le défi pour les plateformes est de savoir exactement où tracer la limite sans supprimer accidentellement des récits de rétablissement utiles ou des informations de santé normales.
Pour résoudre ce casse-tête, une équipe de chercheurs a réuni deux groupes distincts de personnes afin d'établir un nouvel ensemble de règles pour identifier le contenu nocif. Ils ne se sont pas appuyés uniquement sur l'informatique ou sur des suppositions ; ils ont utilisé un processus structuré appelé étude Delphi, qui est une méthode visant à construire un consensus entre experts grâce à des cycles répétés de rétroaction. L'équipe a rassemblé vingt et un professionnels, incluant des médecins, des chercheurs et des cliniciens travaillant dans le domaine des troubles du comportement alimentaire, ainsi que vingt personnes ayant personnellement vécu des troubles du comportement alimentaire par le passé mais n'étant plus actuellement diagnostiquées. En combinant le savoir professionnel et les perspectives concrètes de ceux qui ont vécu la maladie, les chercheurs visaient à créer une définition claire et partagée de ce qui rend un contenu en ligne dangereux.
Le processus a débuté par l'examen d'études existantes et la conduite d'entretiens afin de rédiger une longue liste de règles potentielles. Ils avaient commencé avec soixante-sept idées différentes sur ce qui pourrait être nocif, allant de publications montrant des côtes visibles pour encourager la minceur, à des vidéos promouvant des médicaments spécifiques pour la perte de poids sans avis médical. Ces idées initiales ont ensuite été testées et affinées à travers une série de sondages. D'abord, un petit comité de pilotage a examiné les règles, puis le groupe plus large de quarante experts a voté sur celles-ci. À chaque tour, les experts évaluaient si un accord existait pour maintenir une règle, et partageaient leurs réflexions sur la raison pour laquelle une règle pourrait être trop vague ou trop stricte. Les chercheurs utilisaient ces commentaires pour réécrire les règles, les rendant plus précises, avant de demander à nouveau au groupe de voter. Ce cycle s'est répété plusieurs fois jusqu'à ce que le groupe parvienne à un accord solide sur un ensemble final de directives.
Le résultat fut une liste finalisée de quarante-cinq règles pouvant être utilisées pour repérer le contenu nocif lié aux troubles du comportement alimentaire. Les experts ont constaté que certains types de contenus étaient faciles à identifier comme nocifs. Les règles ciblant des comportements clairement dangereux, tels que la promotion du jeûne extrême, le fait de montrer des os apparents pour suggérer que la minceur est désirable, ou la vente de pilules minceur non réglementées, ont reçu un accord quasi universel. Ce sont les types de publications qui sont objectivement dangereux. Cependant, le groupe a trouvé beaucoup plus difficile de s'accorder sur un contenu qui dépend fortement du contexte. Par exemple, une publication sur l'exercice physique ou la nutrition n'est pas intrinsèquement mauvaise ; elle ne devient nocive que si elle présente ces activités comme un moyen de punir le corps ou si elle suggère que la valeur d'une personne dépend de son apparence physique. Les experts ont noté que distinguer un récit de rétablissement sain d'une publication déclenchante nécessite souvent de comprendre l'intention du créateur et la vulnérabilité du spectateur.
En fin de compte, l'étude a conclu qu'il n'existe pas de filtre unique et simple capable de capturer chaque publication nocive sans aussi capturer les publications utiles. Les règles finales montrent que la nocivité ne dépend pas seulement de ce qui est dit ou montré, mais de la manière dont c'est présenté et de qui le voit. Si les experts pouvaient identifier facilement les publications qui glorifient la famine ou promeuvent des raccourcis médicaux dangereux, ils ont eu du mal à créer des règles rigides pour des sujets plus ambigus comme les mesures corporelles ou les récits de rétablissement. Les chercheurs suggèrent que ces résultats fournissent une base pour de meilleurs systèmes de détection automatisée, mais ils soulignent également la nécessité d'un jugement humain et d'une modération sensible au contexte. En comprenant précisément ce qui constitue un préjudice à travers les yeux des experts et de ceux ayant une expérience vécue, les plateformes de médias sociaux peuvent progresser vers la protection des utilisateurs vulnérables tout en préservant le contenu bénéfique qui soutient le rétablissement.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.