An Intelligent Decision Support System for Detecting Coercive Control: A Privacy-Preserving Approach

Stellen Sie sich vor, Sie sind ein Detektiv, der versucht, ein Verbrechen aufzuklären, aber der Tatort ist ein geheimes Gespräch zwischen zwei Personen. Das Problem ist, dass das Gesetz sehr strenge Regeln hat: Sie können nicht einfach die echten Chat-Protokolle an sich nehmen, da dies die Privatsphäre der Menschen verletzen würde. Dies hinterlässt für den Detektiv eine riesige Leere an der Stelle, an der sich die Beweise befinden sollten – eine „forensische Datenlücke“. Um Verbrechen wie dieses zu lösen, müssen Wissenschaftler normalerweise Tausende von echten Beispielen studieren, um ihren Computern beizubringen, was „schlechtes Verhalten“ ausmacht. Aber wenn das schlechte Verhalten subtil ist, wie etwa ein Elternteil, der ein Kind langsam in den Wahnsinn treibt, oder ein Partner, der durch Schweigen und Schuldgefühle langsam die Kontrolle übernimmt (bekannt als „coercive control“ bzw. koaktive Kontrolle), ist es unglaublich schwer, echte Beispiele zu finden, ohne gegen Datenschutzgesetze zu verstoßen.

Hier kommt ein Zweig der Wissenschaft namens Natural Language Processing (NLP) ins Spiel. Betrachten Sie NLP als eine Art, Computer lehren zu lassen, menschliche Sprache zu lesen und zu verstehen – nicht nur, indem man zählt, wie oft ein schlechtes Wort vorkommt, sondern indem man die Geschichte, den zeitlichen Ablauf und die Stimmung versteht. Normalerweise sind Computer gut darin, offensichtliche Hassrede zu erkennen (wie das Schreien von „Ich hasse dich!“), aber sie sind schlecht darin, die leisen, heimlichen Arten des Missbrauchs zu erkennen, die über Wochen oder Monate hinweg stattfinden. Diese Arbeit versucht, diese leere Beweislücke zu schließen, indem sie einen „virtuellen Tatort“ erschafft. Anstatt echte private Chats zu stehlen, nutzten die Forscher eine leistungsstarke KI, um tausende von gefälschten Gesprächen zu schreiben, die so realistisch sind, dass sie genau wie das Original wirken und sich auch so anfühlen, aber ohne die Privatsphäre von jemandem zu verletzen.

Die große Idee: Einen virtuellen Tatort erschaffen

Die Forscher Dhruv Patel, Abhishek Kaushik und Anju Johnson standen vor einem schwierigen Problem: Wie untersucht man psychischen Missbrauch, ohne die privaten Nachrichten echter Opfer einzusehen? Sie entschieden sich dafür, einen „synthetischen“ Datensatz zu erstellen. Stellen Sie sich einen Videospielentwickler vor, der ein neues Level testen muss. Anstatt darauf zu warten, dass echte Spieler stecken bleiben, erstellt er eine perfekte, simulierte Version des Levels, um die Spielmechaniken zu testen. Genau das haben diese Wissenschaftler getan, aber für menschliches Verhalten.

Sie verwendeten eine intelligente KI (speziell ein Modell namens GPT-4), um gefälschte Gespräche zwischen einem „Täter“ und einem „Opfer“ zu schreiben. Aber sie ließen die KI nicht einfach wahllos chatten. Sie gaben ihr ein strenges Regelwerk basierend auf echten medizinischen Lehrbüchern (dem DSM-5), die eine spezifische Art von Persönlichkeitsstörung beschreiben, nämlich die narzisstische Persönlichkeitsstörung (NPD). Sie wiesen die KI an, bestimmte Verhaltensweisen zu spielen, wie zum Beispiel „Grandiosität“ (so zu tun, als sei man besser als alle anderen), „Mangel an Empathie“ (das Ignorieren, wenn jemand traurig ist) und „Ausbeuterische Verhaltensweise“ (Menschen zum eigenen Vorteil nutzen).

Der kreativste Teil ihres Rezepts war das Hinzufügen von „Zeit“ in die Mischung. Im wirklichen Leben nutzen Missbrauchstäter Schweigen oft als Waffe. Sie warten vielleicht 14 Stunden, um auf eine Nachricht zu antworten, um die andere Person in Angst zu versetzen, oder sie antworten sofort auf eine traurige Nachricht, nur um diese abzutun. Die Forscher brachten der KI bei, spezielle „Zeit-Token“ in die gefälschten Chats einzufügen, wie zum Beispiel <DELAY: 14 HOURS>. Dies zwang die KI dazu, das langsame, manipulative Tempo eines echten Missbrauchs zu simulieren, anstatt nur wütende Worte zu schreiben. Sie erstellten 275 dieser gefälschten Gesprächspaare mit insgesamt über 2.400 Nachrichten, die als ihr Trainingsgelände dienten.

Dem Computer beibringen, das Unsichtbare zu erkennen

Sob sobald sie ihre gefälschten Beweise hatten, mussten sie einem Computer beibringen, wie er diese erkennt. Sie trainierten ein kleineres, schnelleres KI-Modell namens DistilBERT mit diesen gefälschten Gesprächen. Ihr Ziel war es zu sehen, ob dieser Computer lernen konnte, das Muster des Missbrauchs zu erkennen, selbst wenn die Worte selbst höflich klingen würden.

Die Ergebnisse waren recht interessant. Als sie den Computer gegen ältere, einfachere Methoden testeten (wie Programme, die lediglich nach schlechten Wörtern zählen), gewann die neue KI deutlich. Die alten Methoden scheiterten kläglich, weil sie den „Subtext“ nicht sehen konnten. Wenn ein Missbrauchstäter beispielsweise sagt: „Ich mache das nur, weil ich mich um deine psychische Gesundheit sorge“, sieht ein einfacher Wortzähler das Wort „Sorge“ und hält es für eine nette Nachricht. Aber die neue KI, die die gefälschten Muster studiert hatte, erkannte den kontrollierenden Ton hinter den netten Worten.

Der auf den gefälschten Daten trainierte Computer konnte koaktive Kontrolle mit einem F1-Score von 0,75 erkennen. In der Welt der Informatik ist dies ein starkes Signal dafür, dass das Modell tatsächlich das Verhalten lernt und nicht nur rät. Noch beeindruckender war, dass sie diesen Computer an echten Daten testeten, die er noch nie gesehen hatte – wie etwa tatsächliche Gerichtsprotokolle aus dem Vereinigten Königreich und echte Reddit-Threads – und er dennoch gut abschnitt, mit einem Wert von 0,72 bei den Rechtstexten und 0,65 bei den Reddit-Daten. Dies deutet darauf hin, dass die „gefälschten“ Trainingsdaten gut genug waren, um den Computer zu lehren, das „Echte“ zu erkennen.

Was der Computer nicht kann (und warum das okay ist)

Das Papier ist sich sehr klar darüber, was dieses Werkzeug nicht ist. Es ist kein magischer Kristallball, der eine Person mit einer psychischen Erkrankung diagnostizieren kann. Es ist auch nicht perfekt. Der Computer machte Fehler, meistens dadurch, dass er zu vorsichtig war. Er markierte einige normale, hitzige Diskussionen als Missbrauch (ein „False Positive“). Die Forscher erklären, dass dies tatsächlich ein Merkament und kein Fehler ist, und zwar aus einem bestimmten Grund.

Stellen Sie sich einen Rauchmelder in einem Haus vor. Man möchte, dass er so empfindlich ist, dass er schon losgeht, wenn man nur ein Stück Toast verbrennt, denn man möchte lieber einen Fehlalarm haben als einen echten Brand zu übersehen. In gleicher Weise ist diese KI als „Triage-Werkzeug“ für menschliche Ermittler konzipiert. Sie soll verdächtige Gespräche markieren, damit ein menschlicher Experte sie prüfen kann. Der Computer sagt: „Hey, dieses Gespräch weist einige seltsame Muster auf, bitte überprüfe es“, und der Mensch entscheidet dann, ob es sich tatsächlich um Missbrauch handelt. Das Papier betont, dass der Computer den menschlichen Urteilssinn nicht ersetzen kann, da er die komplexe soziale Geschichte zwischen zwei Menschen nicht versteht; er sieht nur den Text und den zeitlichen Ablauf.

Das Urteil: Ein neues Werkzeug für eine datenschutzfreundliche Zukunft

Die Hauptbotschaft dieser Studie ist, dass wir die „forensische Datenlücke“ schließen können, ohne die Privatsphäre von jemandem zu verletzen. Indem sie strikte medizinische Regeln zur Generierung gefälschter Gespräche verwendeten, schufen die Forscher einen Datensatz, der so realistisch ist, dass ein darauf trainierter Computer erfolgreich reale Missbrauchsmuster erkennen kann. Sie haben bewiesen, dass man keine privaten Geheimnisse stehlen muss, um Werkzeuge zu entwickeln, die Menschen schützen.

Die Autoren betonen jedoch vorsichtig, dass dies ein „aufschlussreicher“ Schritt nach vorne ist, aber keine endgültige Lösung. Die gefälschten Daten funktionierten gut in ihren Tests, aber es ist weitere Forschung nötig, um zu sehen, ob sie auch über verschiedene Kulturen und Sprachen hinweg funktionieren. Sie merkten auch an, dass der Computer immer noch Schwierigkeiten mit einigen subtilen Formen der Manipulation hat, etwa wenn ein Missbrauchstäter seine Kontrolle hinter „vorgetäuschter Fürsorge“ verbirgt.

Letztendlich bietet dieses Papier einen hoffnungsvollen neuen Weg: eine Möglichkeit, intelligente Werkzeuge zu bauen, die Ermittlern und Sozialarbeitern helfen, psychischen Missbrauch zu erkennen, während sie gleichzeitig das Privatleben der wahren Opfer vollständig schützen. Es ist ein wenig so, als würde man einen Wachhund mit einem realistisch aussehenden Roboterhund trainieren; der Wachhund lernt, die Bedrohung zu erkennen, aber es wurden nie echte Tiere in Gefahr gebracht, um ihn zu lehren.