Warning Message Content Increases Help Seeking in a Large-Scale Dark Web CSAM Intervention
Cette expérience de terrain à grande échelle sur le moteur de recherche Tor Ahmia.fi démontre que les messages d'avertissement contenant un contenu axé sur la nocivité augmentent considérablement les taux de clics vers des ressources d'aide anonymes parmi les utilisateurs recherchant du matériel de pédocriminalité, surpassant ainsi les messages neutres et les autres cadrages thématiques.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez l'internet comme une ville vaste et bouillonnante. La plupart des gens marchent dans les rues principales (le « web clair »), mais il existe aussi des ruelles cachées et brumeuses (le « dark web ») où les gens peuvent cacher leur identité. Dans ces ruelles, certaines personnes recherchent du matériel illégal et nuisible impliquant des enfants.
Ce document décrit une expérience massive menée dans l'une de ces ruelles cachées, plus précisément sur un moteur de recherche appelé Ahmia.fi. Les chercheurs voulaient répondre à une question simple : si nous arrêtons quelqu'un qui cherche ce genre de choses malveillantes et que nous lui montrons un panneau d'avertissement, que devrait dire ce panneau pour l'inciter à demander de l'aide ?
Voici l'histoire de ce qu'ils ont fait et de ce qu'ils ont trouvé, décomposée en parties simples.
La mise en place : Un géant panneau « Arrêtez-vous et réfléchissez »
Pendant 140 jours, les chercheurs ont observé presque 20 millions de recherches. Environ 3 millions de ces recherches concernaient des termes liés à la pédocriminalité. Lorsqu'un utilisateur tapait l'un de ces mots interdits, le moteur de recherche ne se contentait pas de dire « Aucun résultat trouvé ». Au lieu de cela, un message d'avertissement apparaissait.
Voyez cela comme un videur à l'entrée d'un club. Au lieu de simplement vous mettre dehors, le videur vous arrête et vous dit : « Hé, vous avez l'air d'être en difficulté. Voici un plan pour trouver un endroit sûr où vous pouvez obtenir de l'aide. »
Les chercheurs ont testé neuf versions différentes de ce « discours de videur » pour voir laquelle fonctionnait le mieux :
- Le panneau neutre : Disait simplement : « Nous avons un programme d'aide. » (C'était le groupe de contrôle).
- Les panneaux « C'est illégal » : Avertissaient sur le risque d'être arrêté ou de perdre son emploi.
- Les panneaux « Cela fait du mal aux enfants » : Se concentraient sur la douleur causée aux enfants.
- Les panneaux « Vous pouvez contrôler cela » : Disaient aux gens qu'ils ont le pouvoir de changer.
- Les panneaux « Vous souffrez » : Demandaient si la recherche les faisait se sentir coupables ou anxieux.
Chacun de ces thèmes a été testé de deux manières :
- Cadrage négatif : « Si vous faites cela, de mauvaises choses arriveront. »
- Cadrage positif : « Si vous demandez de l'aide, de bonnes choses arriveront. »
L'expérience : Le test du « Jour aléatoire »
Pour s'assurer que les résultats étaient équitables, les chercheurs ont instauré sept jours spéciaux où le message d'avertissement était choisi de manière totalement aléatoire pour chaque utilisateur. C'est comme lancer un dé pour décider quel panneau une personne verra. Cela garantissait que les résultats n'étaient pas simplement dus au jour de la semaine ou à un autre facteur extérieur.
Les résultats : Qu'est-ce qui a fonctionné ?
Les chercheurs ont mesuré le succès par une seule chose : la personne a-t-elle cliqué sur le lien pour obtenir de l'aide ?
- N'importe quel panneau est meilleur qu'aucun signe : Chaque message d'avertissement (même ceux qui n'étaient pas les « meilleurs ») a incité plus de personnes à cliquer pour obtenir de l'aide que le message neutre et ennuyeux.
- Le message sur le « Mal » a gagné : Le message qui a le mieux fonctionné est celui qui se concentrait sur le mal causé aux enfants.
- La version qui disait : « Cette imagerie cause du tort aux enfants », puis expliquait comment obtenir de l'aide permet de stopper ce cycle, était la plus efficace.
- Curieusement, la version qui se concentrait sur les conséquences négatives (basée sur la peur) fonctionnait légèrement mieux que la version qui se concentrait sur le résultat positif (basée sur l'espoir), bien que les deux soient très efficaces.
- Le grand bond : Avant cette expérience, environ 8,7 % des personnes cliquaient pour obtenir de l'aide. Pendant l'expérience avec les nouveaux messages, plus performants, ce chiffre est passé à 15,7 %. C'est presque le double du nombre de personnes cherchant de l'aide.
Qu'est-ce qui n'a pas changé ?
Les chercheurs se sont également demandé si ces panneaux feraient arrêter les gens de chercher ces contenus malveillants. Ils ont vérifié si le nombre de personnes effectuant ces recherches diminuait.
- Le résultat : Le nombre de recherches est resté sensiblement le même. Les panneaux n'ont pas empêché les gens de taper les mots, mais ils ont réussi à convaincre davantage de ces personnes de cliquer sur le bouton « Aide » plutôt que de poursuivre leur recherche.
La conclusion
Considérez l'internet comme une autoroute. Parfois, les gens s'engagent dans une impasse dangereuse. Cette étude montre que si vous placez un panneau à cette impasse, ce que le panneau dit est important.
- Un panneau qui dit simplement « L'aide est ici » fonctionne correctement.
- Un panneau qui dit « Cela fait du mal aux enfants, et vous pouvez arrêter cette souffrance » fonctionne bien mieux.
L'étude proue que dans ces lieux à haut risque et anonymes, changer les mots sur un écran d'avertissement peut augmenter considérablement le nombre de personnes qui décident de demander de l'aide. Cela suggère que nous ne devrions pas nous contenter d'un seul message « parfait », mais que nous devrions continuer à tester et à affiner nos panneaux pour nous assurer qu'ils touchent les gens au moment où ils sont le plus vulnérables.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.