An AI-Based Approach to Early Reporting and Justice Initiation in Image-based Sexual Abuse. A Pilot Study

Im digitalen Zeitalter ist das Internet zu einem zweischneidigen Schwert geworden, das zwar Verbindung bietet, gleichzeitig aber auch neue Wege für tiefgreifende Schäden schafft. Eine der belastendsten Formen dieses Schadens ist der bildbasierte sexuelle Missbrauch – ein Verbrechen, bei dem intime oder private Bilder einer Person ohne deren Zustimmung im Internet geteilt werden. Dies kann durch das Hacken persönlicher Geräte, die nicht einvernehmliche Verbreitung von Fotos geschehen, die in vertrauensvollen Beziehungen geteilt wurden, oder durch die Erstellung realistischer, aber gefälschter Bilder mittels künstlicher Intelligenz geschehen. Für die Überlebenden dieser Taten ist das Trauma oft dadurch verstärkt, dass sie das Gefühl haben, der ganzen Welt ausgesetzt zu sein, was viele dazu führt, sich zurückzuziehen und keine Hilfe zu suchen. Der Weg zur Gerechtigkeit wird häufig durch eine spezifische, lähmende Hürde blockiert: die Schwierigkeit, einen formellen Bericht zu verfassen. Überlebende sind oft mit dem konfrontiert, was Experten als „Blanko-Seite-Angst“ (blank page anxiety) bezeichnen – ein Zustand der Not, in dem die Angst, das Ereignis perfekt und in der korrekten Rechtssprache zu beschreiben, sie daran hindert, den ersten Schritt zu machen, um den Vorfall der Polizei oder Online-Plattformen zu melden.

Die Forscher Mattia Falduti und Anca Radu haben einen Weg untersucht, um diese Barriere mithilfe eines neuen Typs digitaler Helfer zu beseitigen. Ihre Arbeit konzentriert sich auf eine Pilotstudie eines Werkzeugs der künstlichen Intelligenz, das speziell darauf ausgelegt ist, Überlebende von bildbasiertem sexuellem Missbrauch beim Entwerfen ihrer ersten Berichte zu unterstützen. Die Kernidee ist einfach, aber transformativ: Wenn ein Computer die richtigen Fragen stellen und die Geschichte eines Überlebenden in ein formelles Dokument verwandeln kann, könnte es möglich sein, mehr Menschen dazu zu bewegen, nach Gerechtigkeit zu suchen. Die Forscher entwickelten einen digitalen Agenten, der als unterstützender Interviewer fungiert und den Nutzer durch ein ruhiges Gespräch durch die wesentlichen Fakten führt, die für eine Polizeimeldung oder eine Anfrage zur Entfernung von Inhalten von einer Website benötigt werden. Dieses Tool ersetzt keine menschlichen Anwälte oder Polizeibeamten; stattdin dient es als Brücke, die die rohe Erfahrung eines Überlebenden in einen strukturierten Text übersetzt, den Behörden verstehen und bearbeiten können.

Das Team hat dieses Tool so konzipiert, dass es zugänglich und sicher ist, indem es als No-Code-Online-Lösung arbeitet, die fortschrittliche Sprachverarbeitung nutzt, um in mehreren Sprachen zu kommunizieren. Der Prozess beginnt, wenn ein Nutzer das Tool aufruft und seine bevorzugte Sprache auswählt. Der digitale Agent stellt sich klar als Unterstützungsressource für Überlebende vor und beginnt mit einer sanften, schrittweisen Befragung. Er fragt nach spezifischen Details wie dem aktuellen Standort des Überlebenden, dem Ort des Geschehens und wann der Missbrauch entdeckt wurde. Er fragt auch nach einer kurzen Beschreibung dessen, was passiert ist, und ob der Überlebende einen Link zum missbräuchlichen Bild hat. Während dieser Interaktion ist der Agent so programmiert, dass er keine sensiblen persönlichen Identifikatoren wie Namen oder Adressen abfragt, um sicherzustellen, dass sich der Nutzer sicher fühlt. Stattdessen sammelt er das faktische Grundgerüst der Geschichte und lässt einen Platz frei, damit der Nutzer seine persönlichen Details später hinzufügen kann, wenn er bereit ist, den Bericht bei den Behörden einzureichen.

Sobald die notwendigen Informationen gesammelt wurden, nimmt das Tool seine wichtigste Funktion wahr: Es synthetisiert die Antworten zu einem formellen Entwurfbericht. Dieses Dokument ist so strukturiert, dass es rechtlichen Standards entspricht und alle zeitlichen und räumlichen Details enthält, die erforderlich sind, um eine Untersuchung einzuleiten oder die Entfernung von Inhalten zu beantragen. Der Agent präsentiert diesen Entwurf dann dem Nutzer, fasst die Fakten zusammen, um die Genauigkeit zu gewährleisten, bevor er um Bestätigung bittet. Das Endergebnis ist ein Text, den der Überlebende direkt kopieren und an Strafverfolgungsbehörden oder digitale Plattformen senden kann. Das Tool bietet zudem unmittelbare, praktische Anleitung, erinnert den Nutzer daran, seine persönlichen Informationen zu ergänzen, und stellt Notrufnummern bereit – wie etwa 112 für Europa oder 911 für die Vereinigten Staaten –, um sicherzustellen, dass er genau weiß, wie er weiter vorgehen soll.

Um zu testen, ob dieser Ansatz tatsächlich funktioniert, luden die Forscher drei Rechtsexperten ein, mit dem Tool zu interagieren und dessen Ergebnisse zu bewerten. Zu diesen Experten gehörten ein Anwalt mit Gerichtserfahrung, ein Polizeibeamter mit dreißig Dienstjahren und eine Juristin mit Hintergrund sowohl in den Gerichten als auch in der Staatsanwaltschaft. Die Experten wurden gebeten zu beurteilen, ob die gesammelten Informationen ausreichend waren, um einen rechtlichen Prozess einzuleiten, ob die Anweisungen klar waren und ob der generierte Text zur Meldung des Missbrauchs verwendet werden konnte. Die Ergebnisse waren überwältigend positiv. Alle drei Experten waren sich einig, dass die gesammelten Informationen ausreichten, um den Justizprozess einzuleiten. Sie fanden die Anweisungen präzise und die generierten Berichte für die Kontaktaufnahme mit den Behörden nutzbar. Ein Experte merkte an, dass das Tool effektiv „die Räder der Justiz in Bewegung setzen“ könne, während ein anderer hervorhob, dass die minimale Zeit, die für die Erstellung des Entwurfs benötigt wurde, ein bedeutender Vorteil für Überlebende sei, die oft überfordert sind.

Trotz der vielversprechenden Ergebnisse sind die Forscher vorsichtig darin, dies als Pilotstudie und nicht als endgültige Lösung zu rahmen. Die Bewertung wurde mit einer kleinen Gruppe von Experten durchgeführt, und die Autoren räumen ein, dass das Tool mit tatsächlichen Überlebenden getestet werden muss, um zu sehen, wie es in realen Szenarien abschneidet. Sie schlagen zudem vor, dass zukünftige Versionen umfassendere Unterstützung bieten könnten, wie etwa Links zu Hotlines und Rechtsberatungsdiensten, und dass das Tool schließlich direkt in die Websites der digitalen Plattformen eingebettet werden könnte, auf denen der Missbrauch stattfindet. Die Studie legt nahe, dass aktuelle Lösungen der künstlichen Intelligenz das Potenzial haben, Überlebende unmittelbar nach einem Vorfall auf den richtigen Weg zu führen und so ein digitales Umfeld, das sich oft wie eine Quelle des Traumas anfühlt, in einen Raum zu verwandeln, der echte, effektive und zugängliche Hilfe bietet. Indem sie die erste Hürde des Verfassens eines Berichts adressiert, bietet dieser Ansatz einen greifbaren Weg, um den Zugang zur Justiz für diejenigen zu erleichtern, die von bildbasiertem sexuellem Missbrauch betroffen sind.