An AI-Based Approach to Early Reporting and Justice Initiation in Image-based Sexual Abuse. A Pilot Study

En la era digital, el internet se ha convertido en un arma de doble filo, ofreciendo conexión mientras simultáneamente crea nuevas vías para un daño profundo. Una de las formas más angustiantes de este daño es el abuso sexual basado en imágenes, un delito en el que se comparten imágenes íntimas o privadas de una persona en línea sin su consentimiento. Esto puede ocurrir mediante el hackeo de dispositivos personales, la distribución no consentida de fotos compartidas en relaciones de confianza, o la creación de imágenes realistas pero falsas utilizando inteligencia artificial. Para los sobrevivientes de estos actos, el trauma a menudo se ve agravado por la sensación de estar expuestos al mundo entero, lo que lleva a muchos a retirarse y evitar buscar ayuda. El camino hacia la justicia está frecuentemente bloqueado por un obstáculo específico y paralizante: la dificultad de redactar un informe formal. Los sobrevivientes a menudo enfrentan lo que los expertos llaman "ansiedad de la página en blanco", un estado de angustia donde el miedo a describir el evento perfectamente, en el lenguaje legal correcto, les impide dar el primer paso para denunciar el delito ante la policía o las plataformas digitales.

Los investigadores Mattia Falduti y Anca Radu han explorado una forma de eliminar esta barrera utilizando un nuevo tipo de ayudante digital. Su trabajo se centra en un estudio piloto de una herramienta de inteligencia artificial diseñada específicamente para asistir a los sobrevivientes de abuso sexual basado en imágenes en la redacción de sus informes iniciales. La idea central es simple pero transformadora: si una computadora puede hacer las preguntas adecuadas y convertir la historia de un sobreviviente en un documento formal, podría ser posible que más personas busquen justicia. Los investigadores construyeron un agente digital que actúa como un entrevistador de apoyo, guiando al usuario a través de una conversación tranquila para recopilar los hechos esenciales necesarios para un informe policial o una solicitud para eliminar contenido de un sitio web. Esta herramienta no reemplaza a abogados humanos o agentes de policía; en su lugar, sirve como un puente, traduciendo la experiencia cruda del sobreviviente en un texto estructurado que las autoridades puedan entender y sobre el cual puedan actuar.

El equipo diseñó esta herramienta para que fuera accesible y segura, operando como una solución en línea sin código (no-code) que utiliza procesamiento de lenguaje avanzado para comunicarse en múltiples idiomas. El proceso comienza cuando un usuario llega a la herramienta y selecciona su idioma preferido. El agente digital se presenta claramente como un recurso de apoyo para los sobrevivientes y luego comienza una indagación suave y paso a paso. Solicita detalles específicos como dónde se encuentra el sobreviviente actualmente, dónde tuvo lugar el incidente y cuándo se descubrió el abuso. También pregunta por una breve descripción de lo sucedido y si el sobreviviente tiene un enlace a la imagen abusiva. Durante toda esta interacción, el agente está programado para evitar solicitar identificadores personales sensibles como nombres o direcciones, asegurando que el usuario se sienta seguro. En su lugar, recopila la base fáctica de la historia, dejando un espacio para que el usuario añada sus datos personales más tarde, cuando esté listo para presentar su denuncia ante las autoridades.

Una vez que se ha recopilado la información necesaria, la herramienta realiza su función más crítica: sintetiza las respuestas en un borrador de informe formal. Este documento está estructurado para cumplir con los estándares legales, conteniendo todos los detalles temporales y espaciales requeridos para iniciar una investigación o solicitar la eliminación de contenido. El agente presenta entonces este borrador al usuario, resumiendo los hechos para asegurar la exactitud antes de pedir su confirmación. El resultado final es un texto que el sobreviviente puede copiar y pegar directamente en las agencias de aplicación de la ley o plataformas digitales. La herramienta también proporciona orientación práctica inmediata, recordando al usuario que debe completar su información personal y proporcionando números de contacto de emergencia, como el 112 en Europa o el 911 en los Estados Unidos, para asegurar que sepa exactamente cómo proceder.

Para probar si este enfoque realmente funciona, los investigadores invitaron a tres expertos legales a interactuar con la herramienta y evaluar su resultado. Estos expertos incluían a un abogado con experiencia en tribunales, un oficial de la ley con treinta años de servicio y un profesional jurídico con trayectoria tanto en los tribunales como en la fiscalía. Se les pidió a los expertos que juzgaran si la información recopilada era suficiente para iniciar un proceso legal, si las instrucciones eran claras y si el texto generado podía utilizarse para denunciar el abuso. Los resultados fueron abrumadoramente positivos. Los tres expertos coincidieron en que la información recopilada era suficiente para comenzar el proceso de justicia. Consideraron que las instrucciones eran precisas y que los informes generados eran utilizables para contactar a las autoridades. Un experto señaló que la herramienta podría efectivamente "poner en marcha los engranajes de la justicia", mientras que otro destacó que el tiempo mínimo requerido para crear el borrador era una ventaja significativa para los sobrevivientes que a menudo se sienten abrumados.

A pesar de los prometedores resultados, los investigadores son cuidadosos en presentar esto como un estudio piloto en lugar de una solución final. La evaluación se realizó con un pequeño grupo de expertos, y los autores reconocen que la herramienta necesita ser probada con sobrevivientes reales para ver cómo se desempeña en escenarios del mundo real. También sugieren que las versiones futuras podrían incluir un apoyo más integral, como enlaces a líneas de ayuda y servicios de asistencia legal, y que la herramienta podría eventualmente integrarse directamente en los sitios web de las plataformas digitales donde ocurre el abuso. El estudio sugiere que las soluciones actuales de inteligencia artificial tienen el potencial de guiar a los sobrevivientes hacia el camino correcto inmediatamente después de un incidente, transformando un entorno digital que a menudo se siente como una fuente de trauma en un espacio que ofrece ayuda real, efectiva y accesible. Al abordar el obstáculo inicial de redactar un informe, este enfoque ofrece una forma tangible de facilitar el acceso a la justicia para quienes han sufrido abuso sexual basado en imágenes.