An AI-Based Approach to Early Reporting and Justice Initiation in Image-based Sexual Abuse. A Pilot Study

Na era digital, a internet tornou-se uma faca de dois gumes, oferecendo conexão ao mesmo tempo em que cria novas vias para danos profundos. Uma das formas mais angustiantes desse dano é o abuso sexual baseado em imagens, um crime onde imagens íntimas ou privadas de uma pessoa são compartilhadas online sem o seu consentimento. Isso pode ocorrer por meio da invasão de dispositivos pessoais, da distribuição não consensual de fotos compartilhadas em relacionamentos de confiança ou da criação de imagens realistas, porém falsas, usando inteligência artificial. Para os sobreviventes desses atos, o trauma é frequentemente agravado pela sensação de estarem expostos ao mundo inteiro, levando muitos a se retraírem e evitarem buscar ajuda. O caminho para a justiça é frequentemente bloqueado por um obstáculo específico e paralisante: a dificuldade de redigir um relatório formal. Os sobreviventes frequentemente enfrentam o que os especialistas chamam de "ansiedade da página em branco", um estado de angústia onde o medo de descrever o evento perfeitamente, na linguagem jurídica correta, impede que deem o primeiro passo para denunciar o crime à polícia ou às plataformas online.

Os pesquisadores Mattia Falduti e Anca Radu exploraram uma forma de remover essa barreira usando um novo tipo de assistente digital. O trabalho deles foca em um estudo piloto de uma ferramenta de inteligência artificial projetada especificamente para auxiliar sobreviventes de abuso sexual baseado em imagens na redação de seus relatórios iniciais. A ideia central é simples, porém transformadora: se um computador puder fazer as perguntas certas e transformar a história de um sobrevivente em um documento formal, pode ser possível fazer com que mais pessoas busquem justiça. Os pesquisadores construíram um agente digital que atua como um entrevistador de apoio, guiando o usuário através de uma conversa calma para reunir os fatos essenciais necessários para um relatório policial ou um pedido de remoção de conteúdo de um site. Esta ferramenta não substitui advogados ou policiais humanos; em vez disso, serve como uma ponte, traduzindo a experiência bruta de um sobrevivente em um texto estruturado que as autoridades possam compreender e sobre o qual possam agir.

A equipe projetou esta ferramenta para ser acessível e segura, operando como uma solução online "no-code" que utiliza processamento de linguagem avançado para se comunicar em múltiplos idiomas. O processo começa quando um usuário chega à ferramenta e seleciona seu idioma preferido. O agente digital apresenta-se claramente como um recurso de apoio para sobreviventes e inicia uma investigação suave e passo a passo. Ele solicita detalhes específicos, como onde o sobrevivente está localizado atualmente, onde o incidente ocorreu e quando o abuso foi descoberto. Também pergunta por uma breve descrição do que aconteceu e se o sobrevivente possui um link para a imagem abusiva. Durante toda essa interação, o agente é programado para evitar solicitar identificadores pessoais sensíveis, como nomes ou endereços, garantindo que o usuário se sinta seguro. Em vez disso, ele coleta a estrutura factual da história, deixando um espaço para o usuário adicionar seus detalhes pessoais mais tarde, quando estiver pronto para enviar o relatório às autoridades.

Uma vez coletadas as informações necessárias, a ferramenta realiza sua função mais crítica: ela sintetiza as respostas em um rascunho de relatório formal. Este documento é estruturado para atender aos padrões legais, contendo todos os detalhes temporais e espaciais necessários para iniciar uma investigação ou solicitar a remoção de conteúdo. O agente então apresenta este rascunho ao usuário, resumindo os fatos para garantir a precisão antes de pedir a confirmação. O resultado final é um texto que o sobrevivente pode copiar e colar diretamente para agências de aplicação da lei ou plataformas digitais. A ferramenta também fornece orientação prática imediata, lembrando o usuário de preencher suas informações pessoais e fornecendo números de contato de emergência, como 112 para a Europa ou 911 para os Estados Unidos, para garantir que saibam exatamente como proceder.

Para testar se essa abordagem realmente funciona, os pesquisadores convidaram três especialistas jurídicos para interagir com a ferramenta e avaliar seu resultado. Esses especialistas incluíam um advogado com experiência em tribunal, um oficial de aplicação da lei com trinta anos de serviço e um profissional jurídico com experiência tanto nos tribunais quanto no Ministério Público. Os especialistas foram encarregados de julgar se as informações coletadas eram suficientes para iniciar um processo legal, se as instruções eram claras e se o texto gerado poderia ser usado para denunciar o abuso. Os resultados foram extremamente positivos. Todos os três especialistas concordaram que as informações coletadas eram suficientes para iniciar o processo de justiça. Eles consideraram as instruções precisas e os relatórios gerados utilizáveis para contatar as autoridades. Um especialista observou que a ferramenta poderia efetivamente "colocar as engrenagens da justiça em movimento", enquanto outro destacou que o tempo mínimo necessário para criar o rascunho era uma vantagem significativa para sobreviventes que estão frequentemente sobrecarregados.

Apesar dos resultados promissores, os pesquisadores são cuidadosos em enquadrar isso como um estudo piloto, e não como uma solução final. A avaliação foi conduzida com um pequeno grupo de especialistas, e os autores reconhecem que a ferramenta precisa ser testada com sobreviventes reais para ver como ela se comporta em cenários do mundo real. Eles também sugerem que versões futuras poderiam incluir suporte mais abrangente, como links para linhas de apoio e serviços de assistência jurídica, e que a ferramenta poderia eventualmente ser incorporada diretamente nos sites das plataformas digitais onde o abuso ocorre. O estudo sugere que as soluções atuais de inteligência artificial têm o potencial de guiar os sobreviventes pelo caminho certo imediatamente após um incidente, transformando um ambiente digital que muitas vezes parece uma fonte de trauma em um espaço que oferece ajuda real, eficaz e acessível. Ao abordar o obstáculo inicial de escrever um relatório, esta abordagem oferece uma maneira tangível de facilitar o acesso à justiça para aqueles que sofreram abuso sexual baseado em imagens.