An AI-Based Approach to Early Reporting and Justice Initiation in Image-based Sexual Abuse. A Pilot Study

À l'ère du numérique, Internet est devenu une arme à double tranchant, offrant la connexion tout en créant simultanément de nouvelles voies pour des préjudices profonds. L'une des formes les plus éprouvantes de ce préjudice est l'abus sexuel basé sur l'image, un crime où des images intimes ou privées d'une personne sont partagées en ligne sans son consentement. Cela peut se produire par le piratage d'appareils personnels, la distribution non consensuelle de photos partagées dans le cadre de relations de confiance, ou la création d'images réalistes mais fausses à l'aide de l'intelligence artificielle. Pour les survivants de ces actes, le traumatisme est souvent aggravé par le sentiment d'être exposé au monde entier, ce qui amène beaucoup d'entre eux à se retirer et à éviter de demander de l'aide. Le chemin vers la justice est fréquemment bloqué par un obstacle spécifique et paralysant : la difficulté de rédiger un rapport formel. Les survivants sont souvent confrontés à ce que les experts appellent « l'anxiété de la page blanche », un état de détresse où la peur de décrire l'événement parfaitement, dans le langage juridique approprié, empêche de faire le premier pas pour signaler le crime à la police ou aux plateformes en ligne.

Les chercheurs Mattia Falduti et Anca Radu ont exploré un moyen de lever cette barrière en utilisant un nouveau type d'assistant numérique. Leur travail se concentre sur l'étude pilote d'un outil d'intelligence artificielle conçu spécifiquement pour aider les survivants d'abus sexuels basés sur l'image à rédiger leurs rapports initiaux. L'idée centrale est simple mais transformatrice : si un ordinateur peut poser les bonnes questions et transformer le récit d'un survivant en un document formel, il pourrait être possible d'amener plus de personnes à chercher justice. Les chercheurs ont construit un agent numérique qui agit comme un intervieweur de soutien, guidant l'utilisateur à travers une conversation calme pour recueillir les faits essentiels nécessaires à un rapport de police ou à une demande de suppression de contenu sur un site web. Cet outil ne remplace pas les avocats ou les officiers de police humains ; il sert plutôt de pont, traduisant l'expérience brute d'un survivant en un texte structuré que les autorités peuvent comprendre et traiter.

L'équipe a conçu cet outil pour qu'il soit accessible et sûr, fonctionnant comme une solution en ligne sans code (no-code) qui utilise le traitement avancé du langage pour communiquer dans plusieurs langues. Le processus commence lorsqu'un utilisateur arrive sur l'outil et sélectionne sa langue préférée. L'agent numérique se présente clairement comme une ressource de soutien pour les survivants et commence ensuite une enquête douce, étape par étape. Il demande des détails spécifiques tels que l'endroit où le survivant se trouve actuellement, l'endroit où l'incident s'est produit et quand l'abus a été découvert. Il demande également une brève description de ce qui s'est passé et si le survivant possède un lien vers l'image abusive. Tout au long de cette interaction, l'agent est programmé pour éviter de demander des identifiants personnels sensibles comme les noms ou les adresses, garantissant ainsi que l'utilisateur se sente en sécurité. Au lieu de cela, il recueille l'ossature factuelle de l'histoire, laissant un espace pour que l'utilisateur ajoute ses détails personnels plus tard, lorsqu'il sera prêt à soumettre le rapport aux autorités.

Une fois les informations nécessaires recueillies, l'outil remplit sa fonction la plus critique : il synthétise les réponses en un projet de rapport formel. Ce document est structuré pour répondre aux normes juridiques, contenant tous les détails temporels et spatiaux requis pour lancer une enquête ou une demande de suppression de contenu. L'agent présente ensuite ce projet à l'utilisateur, résumant les faits pour garantir l'exactitude avant de demander une confirmation. Le résultat final est un texte que le survivant peut copier et coller directement auprès des agences de police ou des plateformes numériques. L'outil fournit également des conseils pratiques immédiats, rappelant à l'utilisateur de remplir ses informations personnelles et fournissant des numéros de contact d'urgence, tels que le 112 pour l'Europe ou le 911 pour les États-Unis, afin qu'il sache exactement comment procéder.

Pour tester si cette approche fonctionne réellement, les chercheurs ont invité trois experts juridiques à interagir avec l'outil et à évaluer son résultat. Ces experts comprenaient un avocat ayant une expérience devant les tribunaux, un officier de police avec trente ans de service, et un professionnel du droit ayant une formation tant dans les tribunaux que dans le bureau du procureur public. Les experts ont été invités à juger si les informations recueillies étaient suffisantes pour entamer un processus juridique, si les instructions étaient clentes et si le texte généré pouvait être utilisé pour signaler l'abus. Les résultats ont été extrêmement positifs. Les trois experts ont convenu que les informations recueillies étaient suffisantes pour entamer le processus de justice. Ils ont trouvé les instructions précises et les rapports générés utilisables pour contacter les autorités. Un expert a noté que l'outil pouvait efficacement « mettre les rouages de la justice en mouvement », tandis qu'un autre a souligné que le temps minimal requis pour créer le projet était un avantage significatif pour les survivants qui sont souvent accablés.

Malgré ces résultats prometteurs, les chercheurs prennent soin de présenter cela comme une étude pilote plutôt que comme une solution finale. L'évaluation a été menée auprès d'un petit groupe d'experts, et les auteurs reconnaissent que l'outil doit être testé avec de véritables survivants pour voir comment il se comporte dans des scénarios réels. Ils suggèrent également que les versions futures pourraient inclure un soutien plus complet, tel que des liens vers des lignes d'assistance et des services d'aide juridique, et que l'outil pourrait éventuellement être directement intégré dans les sites web des plateformes numériques où l'abus se produit. L'étude suggère que les solutions actuelles d'intelligence artificielle ont le potentiel de guider les survivants vers la bonne voie immédiatement après un incident, transformant un environnement numérique qui semble souvent être une source de traumatisme en un espace qui offre une aide réelle, efficace et accessible. En abordant l'obstacle initial de la rédaction d'un rapport, cette approche offre un moyen tangible de faciliter l'accès à la justice pour ceux qui ont subi des abus sexuels basés sur l'image.