An AI-Based Approach to Early Reporting and Justice Initiation in Image-based Sexual Abuse. A Pilot Study

In het digitale tijdperk is het internet een tweesnijdend zwaard geworden, dat verbinding biedt terwijl het tegelijkertijd nieuwe wegen voor diepgaande schade creëert. Een van de meest schrijnende vormen van deze schade is beeldgebaseerd seksueel misbruik, een misdaad waarbij intieme of privébeelden van een persoon zonder toestemming online worden gedeeld. Dit kan gebeuren door het hacken van persoonlijke apparaten, de niet-consensuele verspreiding van foto's die in vertrouwde relaties zijn gedeeld, of de creatie van realistische maar neppe afbeeldingen met behulp van kunstmatige intelligentie. Voor de overlevenden van deze daden wordt het trauma vaak verergerd door het gevoel aan de hele wereld te zijn blootgesteld, wat ertoe leidt dat velen zich terugtrekken en het zoeken naar hulp vermijden. De weg naar gerechtigheid wordt vaak geblokkeerd door een specifieke, verlammende hindernis: de moeilijkheid van het schrijven van een formeel rapport. Overlevenden worden vaak geconfronteerd met wat experts "blank page anxiety" (angst voor het lege blad) noemen, een staat van stress waarbij de angst om de gebeurtenis perfect te beschrijven, in de juiste juridische taal, hen verhindert de eerste stap te zetten om de misdaad te melden bij de politie of online platforms.

Onderzoekers Mattia Falduti en Anca Radu hebben een manier verkend om deze barrière te verwijderen met behulp van een nieuw soort digitale helper. Hun werk richt zich op een pilotstudie van een kunstmatige intelligentie-tool die specifiek is ontworpen om overlevenden van beeldgebaseerd seksueel misbruik te helpen bij het opstellen van hun eerste meldingen. De kern van het idee is eenvoudig maar transformatief: als een computer de juiste vragen kan stellen en het verhaal van een overlevende kan omzetten in een formeel document, dan is het mogelijk om meer mensen aan te moedigen op zoek te gaan naar gerechtigheid. De onderzoekers hebben een digitale agent gebouwd die fungeert als een ondersteunend interviewer, die de gebruiker door een kalm gesprek leidt om de essentiële feiten te verzamelen die nodig zijn voor een politiebericht of een verzoek om inhoud van een website te laten verwijderen. Deze tool vervangt geen menselijke advocaten of politieagenten; in plaats daarvan dient het als een brug, die de rauwe ervaring van een overlevende vertaalt naar een gestructureerde tekst die autoriteiten kunnen begrijpen en waar zij actie op kunnen ondernemen.

Het team heeft deze tool zo ontworpen dat deze toegankelijk en veilig is, werkend als een no-code online oplossing die gebruikmaakt van geavanceerde taalverwerking om in meerdere talen te communiceren. Het proces begint wanneer een gebruiker bij de tool aankomt en de voorkeurstaal selecteert. De digitale agent introduceert zichzelf duidelijk als een ondersteuningsbron voor overlevenden en begint vervolgens een zachte, stapsgewijze ondervraging. Het vraagt om specifieke details zoals waar de overlevende zich momenteel bevindt, waar het incident plaatsvond en wanneer het misbruik werd ontdekt. Het vraagt ook om een korte beschrijving van wat er is gebeurd en of de overlevende een link heeft naar de misbruikende afbeelding. Tijdens deze interactie is de agent geprogrammeerd om geen gevoelige persoonlijke identificatiegegevens zoals namen of adressen te vragen, zodat de gebruiker zich veilig voelt. In plaats daarvan verzamelt het de feitelijke kern van het verhaal, waarbij een ruimte wordt vrijgelaten voor de gebruiker om later hun persoonlijke details toe te voegen wanneer zij er klaar voor zijn om het rapport bij de autoriteiten in te dienen.

Zodra de noodzakelijke informatie is verzameld, voert de tool haar meest cruciale functie uit: het synthetiseert de antwoorden tot een conceptverslag van een formele aard. Dit document is gestructureerd om aan juridische standaarden te voldoen, met daarin alle temporele en ruimtelijke details die nodig zijn om een onderzoek te starten of een verzoek tot verwijdering van inhoud in te dienen. De agent presenteert dit concept vervolgens aan de gebruiker, waarbij de feiten samenvat om de nauwkeurigheid te waarborgen voordat er om bevestiging wordt gevraagd. De uiteindelijke output is een tekst die de overlevende rechtstreeks kan kopiëren en plakken naar wetshandhavingsinstanties of digitale platforms. De tool biedt ook onmiddellijke, praktische begeleiding door de gebruiker eraan te herinneren hun persoonlijke informatie in te vullen en biedt noodnummers, zoals 112 voor Europa of 911 voor de Verenigde Staten, om ervoor te zorgen dat zij precies weten hoe zij verder moeten gaan.

Om te testen of deze aanpak daadwerkelijk werkt, hebben de onderzoekers drie juridische experts uitgenodigd om met de tool te interageren en de output te evalueren. Deze experts omvatten een advocaat met proceservaring, een politieagent met dertig jaar dienst en een juridisch professional met een achtergrond in zowel de rechtbanken als het openbaar ministerie. De experts werden gevraagd te beoordelen of de verzamelde informatie voldoende was om een juridisch proces te starten, of de instructies duidelijk waren en of de gegenereerde tekst bruikbaar was om het misbruik te melden. De resultaten waren overweldigend positief. Alle drie de experts waren het erover eens dat de verzamelde informatie voldoende was om het proces van rechtsbedeling te starten. Zij vonden de instructies accuraat en de gegenereerde rapporten bruikbaar voor het contact opnemen met de autoriteiten. Eén expert merkte op dat de tool effectief "de wielen van de gerechtigheid in beweging kon zetten", terwijl een ander benadrukte dat de minimale tijd die nodig is om het concept te maken een aanzienlijk voordeel is voor overlevenden die vaak overweldigd zijn.

Ondanks de veelbelovende resultaten zijn de onderzoekers voorzichtig om dit te presenteren als een pilotstudie in plaats van een definitieve oplossing. De evaluatie werd uitgevoerd met een kleine groep experts, en de auteurs erkennen dat de tool getest moet worden met daadwerkelijke overlevenden om te zien hoe deze presteert in realistische scenario's. Ze suggereren ook dat toekomstige versies uitgebreidere ondersteuning kunnen bevatken, zoals links naar hulplijnen en juridische hulpdiensten, en dat de tool uiteindelijk direct in de websites van digitale platforms kan worden ingebed waar het misbruik plaatsvindt. De studie suggereert dat huidige oplossingen voor kunstmatige intelligentie het potentieel hebben om overlevenden direct na een incident naar het juiste pad te leiden, waardoor een digitale omgeving die vaak aanvoelt als een bron van trauma, wordt getransformeerd in een ruimte die echte, effectieve en toegankelijke hulp biedt. Door de initiële hindernis van het schrijven van een rapport aan te pakken, biedt deze benadering een tastbare manier om de toegang tot het recht te vergemakkelijken voor degenen die slachtoffer zijn geworden van beeldgebaseerd seksueel misbruik.