An AI-Based Approach to Early Reporting and Justice Initiation in Image-based Sexual Abuse. A Pilot Study

Nell'era digitale, internet è diventata un'arma a doppio taglio, offrendo connessione e contemporaneamente creando nuove vie per danni profondi. Una delle forme più angoscianti di questo danno è l'abuso sessuale basato su immagini, un crimine in cui immagini intime o private di una persona vengono condivise online senza il suo consenso. Ciò può accadere attraverso l'hacking di dispositivi personali, la distribuzione non consensuale di foto condivise in relazioni di fiducia o la creazione di immagini realistiche ma false utilizzando l'intelligenza artificiale. Per i sopravvissuti a questi atti, il trauma è spesso aggravato dalla sensazione di essere esposti al mondo intero, il che porta molti a ritirarsi ed evitare di cercare aiuto. Il percorso verso la giustizia è spesso bloccato da un ostacolo specifico e paralizzante: la difficoltà di scrivere una denuncia formale. I sopravvissuti affrontano spesso quella che gli esperti chiamano "ansia dal foglio bianco", uno stato di angoscia in cui la paura di descrivere l'evento perfettamente, nel linguaggio legale corretto, impedisce loro di compiere il primo passo per denunciare il crimine alla polizia o alle piattaforme online.

I ricercatori Mattia Falduti e Anca Radu hanno esplorato un modo per rimuovere questa barriera utilizzando un nuovo tipo di aiutante digitale. Il loro lavoro si concentra su uno studio pilota di uno strumento di intelligenza artificiale progettato specificamente per assistere i sopravvissuti dell'abuso sessuale basato su immagini nella stesura delle loro denunce iniziali. L'idea centrale è semplice ma trasformativa: se un computer può porre le domande giuste e trasformare la storia di un sopravvissuto in un documento formale, potrebbe essere possibile spingere più persone a cercare giustizia. I ricercatori hanno costruito un agente digitale che agisce come un intervistatore di supporto, guidando l'utente attraverso una conversazione calma per raccogliere i fatti essenziali necessari per una denuncia alla polizia o una richiesta di rimozione di contenuti da un sito web. Questo strumento non sostituisce gli avvocati o gli agenti di polizia umani; serve invece come un ponte, traducendo l'esperienza grezza di un sopravvissuto in un testo strutturato che le autorità possano comprendere e su cui possano agire.

Il team ha progettato questo strumento per essere accessibile e sicuro, operando come una soluzione online "no-code" che utilizza l'elaborazione avanzata del linguaggio per comunicare in più lingue. Il processo inizia quando un utente arriva allo strumento e seleziona la propria lingua preferita. L'agente digitale si presenta chiaramente come una risorsa di supporto per i sopravvissuti e inizia un'indagine gentile e passo dopo passo. Chiede dettagli specifici come dove si trova attualmente il sopravvissuto, dove è avvenuto l'incidente e quando l'abuso è stato scoperto. Chiede anche una breve descrizione di quanto accaduto e se il sopravvissuto possiede un link all'immagine abusiva. Durante questa interazione, l'agente è programmato per evitare di chiedere identificatori personali sensibili come nomi o indirizzi, garantendo che l'utente si senta al sicuro. Invece, raccoglie l'ossatura fattuale della storia, lasciando uno spazio affinché l'utente possa aggiungere i propri dettagli personali in seguito, quando sarà pronto per presentare la denuncia alle autorità.

Una volta raccolte le informazioni necessarie, lo strumento svolge la sua funzione più critica: sintetizza le risposte in una bozza di rapporto formale. Questo documento è strutturato per soddisfare gli standard legali, contenendo tutti i dettagli temporali e spaziali necessari per avviare un'indagine o richiedere la rimozione di un contenuto. L'agente presenta quindi la bozza all'utente, riassumendo i fatti per garantirne l'accuratezza prima di chiedere conferma. L'output finale è un testo che il sopravvissuto può copiare e incollare direttamente alle agenzie di legge o alle piattaforme digitali. Lo strumento fornisce anche una guida pratica immediata, ricordando all'utente di inserire le proprie informazioni personali e fornendo numeri di contatto di emergenza, come il 112 per l'Europa o il 911 per gli Stati Uniti, per garantire che sappia esattamente come procedere.

Per testare se questo approccio funzioni effettivamente, i ricercatori hanno invitato tre esperti legali a interagire con lo strumento e valutarne l'output. Questi esperti includevano un avvocato con esperienza in tribunale, un agente di polizia con trent'anni di servizio e un professionista legale con un background sia nelle corti che nella procura del pubblico ministero. Gli esperti sono stati chiamati a giudicare se le informazioni raccolte fossero sufficienti per avviare un processo legale, se le istruzioni fossero chiare e se il testo generato potesse essere utilizzato per denunciare l'abuso. I risultati sono stati estremamente positivi. Tutti e tre gli esperti hanno concordato che le informazioni raccolte fossero sufficienti per iniziare il processo di giustizia. Hanno ritenuto le istruzioni accurate e i rapporti generati utilizzabili per contattare le autorità. Un esperto ha osservato che lo strumento potrebbe efficacemente "mettere in moto le ruote della giustizia", mentre un altro ha sottolineato che il tempo minimo richiesto per creare la bozza è un vantaggio significativo per i sopravvissuti che sono spesso sopraffatti.

Nonostante i risultati promettenti, i ricercatori sono cauti nel presentare questo come uno studio pilota piuttosto che una soluzione definitiva. La valutazione è stata condotta con un piccolo gruppo di esperti, e gli autori riconoscono che lo strumento deve essere testato con i sopravvissuti reali per vedere come si comporta in scenari del mondo reale. Suggeriscono inoltre che le versioni future potrebbero includere un supporto più completo, come collegamenti a linee di assistenza e servizi di assistenza legale, e che lo strumento potrebbe eventualmente essere integrato direttamente nei siti web delle piattaforme digitali dove avviene l'abuso. Lo studio suggerisce che le attuali soluzioni di intelligenza artificiale abbiano il potenziale per guidare i sopravvissuti verso il percorso giusto immediatamente dopo un incidente, trasformando un ambiente digitale che spesso sembra una fonte di trauma in uno spazio che offre aiuto reale, efficace e accessibile. Affrontando l'ostacolo iniziale della stesura di un rapporto, questo approccio offre un modo tangibile per facilitare l'accesso alla giustizia per coloro che hanno subito abusi sessuali basati su immagini.