CASE: An Agentic AI Framework for Enhancing Scam Intelligence in Digital Payments
Dieses Papier stellt CASE vor, ein Agentic-AI-Framework, das konversationale Agenten nutzt, um Betrugsopfer proaktiv zu befragen und strukturierte Erkenntnisse zu extrahieren, was bei der Implementierung auf Google Pay India zu einer Steigerung des Betrugsbekämpfungsvolumens um 21 % führte.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie versuchen, einen Dieb zu fassen, der Ihr digitales Geldbeutel bestiehlt. In der Vergangenheit bewachten Sicherheitskräfte (die automatisierten Systeme der Zahlungs-App) nur die Tresortür. Wenn der Dieb mit einem gefälschten Ausweis hereinkam, der perfekt aussah, ließen die Wachen ihn passieren, weil alles innerhalb der Transaktion normal wirkte.
Das Problem ist, dass diese Diebe (Betrüger) normalerweise nicht durch die Tresortür einbrechen. Sie halten sich im Flur auf (Nachrichten-Apps, soziale Medien) und überzeugen Sie, die Tür selbst zu öffnen. Die Sicherheitskräfte im Tresor können nicht sehen, was im Flur passiert ist, daher merken sie nicht, dass Sie getäuscht wurden, bis es zu spät ist.
Dieser Beitrag stellt CASE (Conversational Agent for Scam Elucidation – Konversationsagent zur Aufklärung von Betrug) vor, einen neuen „digitalen Detektiv", der entwickelt wurde, um diese Blindecke zu beheben. So funktioniert es, aufgeteilt in einfache Teile:
1. Der Interviewer (Der einfühlsame Detektiv)
Wenn ein Nutzer meldet: „Ich glaube, ich wurde betrogen", geben traditionelle Apps ihm lediglich ein Textfeld, um eine Beschwerde einzugeben. Das ist so, als würde man einem Zeugen verlangen, einen Bericht zu schreiben, während er noch zittert und verwirrt ist; sie lassen oft entscheidende Details aus.
CASE ersetzt das Textfeld durch einen intelligenten, konversationellen KI-Agenten. Stellen Sie sich diesen Agenten als einen hochqualifizierten, geduldigen Detektiv vor, der mit Ihnen am Telefon sprechen kann.
- Er stellt die richtigen Fragen: Anstatt darauf zu warten, dass Sie die ganze Geschichte erzählen, fragt er sanft nach, zum Beispiel: „Wo haben Sie diese Person zum ersten Mal getroffen?" oder „Welche Geschichte erzählte er Ihnen, um Ihr Vertrauen zu gewinnen?"
- Er bleibt sicher: Der Agent ist mit strengen Regeln programmiert. Er verspricht Ihnen niemals Ihr Geld zurück (was er nicht kann) und gibt niemals Finanzberatung. Er weiß genau, wann er aufhören muss, wenn Sie verärgert sind oder auflegen möchten.
- Das Ziel: Eine klare, detaillierte Schilderung zu erhalten, wie der Betrug stattfand, selbst wenn der Betrug außerhalb der App geschah.
2. Der Schreiber (Der Datenübersetzer)
Sobald der Detektiv das Interview beendet hat, liegt ein langes, unübersichtliches Gesprächsprotokoll vor. Ein menschliches Sicherheitsteam kann nicht Tausende dieser Geschichten jeden Tag lesen.
Hier kommt der zweite Teil von CASE ins Spiel: der Informationsextraktor.
- Stellen Sie sich dies als einen superschnellen Schreiber vor, der die Notizen des Detektivs anhört und die unordentliche Geschichte sofort in eine saubere, organisierte Checkliste verwandelt.
- Er extrahiert spezifische Fakten: „War dies ein Fake-Job-Betrug?", „Hat es auf WhatsApp begonnen?", „Wurde der Nutzer tatsächlich getäuscht?"
- Er wandelt diese Geschichten in ein Format um, das Computer lesen und sofort verwenden können.
3. Das Ergebnis: Mehr Diebe fangen
Der Beitrag testete dieses System bei Google Pay in Indien. Hier ist, was passierte:
- Bessere Geschichten: Das System hielt die Nutzer erfolgreich bei der Stange; fast die Hälfte der Gespräche ging tief genug, um die vollständige Betrugsmethode aufzudecken.
- Hohe Genauigkeit: Der „Schreiber" konnte etwa 84 % der Fälle korrekt identifizieren, ob jemand betrogen wurde, und etwa 75 % der Fälle die spezifische Art des Betrugs bestimmen, im Vergleich zu menschlichen Prüfern.
- Der große Gewinn: Durch das Hinzufügen dieser neuen, detaillierten Geschichten zu ihren bestehenden Sicherheitswerkzeugen konnte die Zahlungsplattform 21 % mehr Betrugsfälle aufdecken als zuvor.
Warum das wichtig ist
Der Beitrag argumentiert, dass die Bekämpfung moderner Betrugsfälle wie ein Krieg ist, in dem sich der Feind im Schatten versteckt. Man kann nicht nur auf das Schlachtfeld schauen (die Transaktion); man muss mit den Soldaten (den Nutzern) sprechen, um die Taktiken des Feindes zu verstehen.
CASE bietet einen sicheren, skalierbaren Weg, diese Gespräche zu führen. Es verwandelt vage Beschwerden in harte Daten und ermöglicht es der Zahlungsplattform, ihre Abwehr schneller zu aktualisieren und die Betrüger zu stoppen, bevor sie die nächste Person täuschen.
Kurz gesagt: Der Beitrag zeigt, dass die Verwendung eines freundlichen, intelligenten KI-Systems zur Befragung von Betrugsopfern – und die Umwandlung dieser Befragungen in Daten – Zahlungs-Apps hilft, deutlich mehr Betrug aufzudecken als durch die reine Überwachung der Transaktionen allein.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.