Characterising Mobile Money Phishing Attacks Using Imitation Learning Relying on Expert Demonstrations

In de bruisende digitale economieën van Afrika zijn mobiele telefoons meer geworden dan alleen communicatiemiddelen; ze zijn de primaire bankrekeningen voor miljoenen mensen die voorheen geen toegang hadden tot traditionele banken. Dit systeem stelt gebruikers in staat om direct geld te storten, op te nemen en te versturen, een gemak dat het dagelijks leven heeft getransformeerd en de economische groei over het continent heeft aangewakkerd. Deze snelle expansie heeft echter een schaduw geworpen: oplichters hebben geleerd om de preciesheid van het vertrouwen dat het systeem werkzaam maakt, te exploiteren. In plaats van complexe computercodes te hacken, gebruiken deze aanvallers sociale manipulatie, een vorm van manipulatie die mensen misleidt om hun wachtwoorden te onthullen of vrijwillig geld te versturen. Ze doen zich voor als bankmedewerkers of telecommedewerkers, waarbij ze misleidende tekstberichten sturen of telefoontjes plegen om slachtoffers in een val te lokken. Het begrijpen van hoe deze criminelen denken en handelen is de eerste stap naar het stoppen van hen, maar het bestuderen van menselijke misleiding is berucht moeilijk omdat het rust op onvoorspelbaar menselijk gedrag in plaats van op vaste softwarekwetsbaarheden.

Onderzoekers proberen deze aanvallen al lang te modelleren met computerprogramma's die leren door middel van vallen en opstaan, een methode die bekend staat als reinforcement learning (versterkend leren). In deze benadering probeert een computeragent verschillende acties uit om te zien wat een beloning oplevert, vergelijkbaar met een hond die leert te zitten voor een traktatie. Deze methode worstelt echter vaak wanneer de "beloning" moeilijk te definiëren is, zoals het complexe, verschuende doel van een menselijke oplichter die zich aanpast aan de aarzeling of achterdocht van een slachtoffer. Een nieuwe studie van een team onderzoekers uit Kameroen, Rwanda en de Centraal-Afrikaanse Republiek stelt een ander pad voor. In plaats van een computer te leren raden wat een oplichter wil, besloten zij de computer te leren wat een oplichter daadwerkelijk doet. Door de aanvaller als een expert te behandelen en gebruik te maken van een techniek genaamd imitation learning (imitatie-leren), bouwde het team een model dat direct leert van voorbeelden van echt aanvalsgedrag, waardoor het handmatig programmeren van de regels van misleiding wordt omzeild.

De onderzoekers begonnen door een mobile money phishing-aanval onder te verdelen in een eenvoudige reis van vier stadia. De eerste fase is het initiële contact, waarbij de oplichter informatie verzamelt en een nepbericht stuurt of een oproep pleegt. De tweede fase is de kwetsbaarheidsfase, waarin de aanvaller probeert vertrouwen op te bouwen en de emoties van het slachtoffer te peilen. Als het slachtoffer ontvankelijk lijkt, beweegt de aanval zich naar de derde fase, de werkelijke poging om geld of gegevens te stelen. Ten slotte, in de vierde fase, verzamelt de aanvaller ofwel de gestolen fondsen en verbreekt het contact, of trekt hij zich terug als het slachtoffer wantrouwig wordt. Om dit te bestuderen, creëerde het team een gesimuleerde omgeving waarin zij konden observeren hoe een "expert"-aanvaller deze fasen zou navigeren, reagerend op de reacties van een slachtoffer, die positief (vertrouwend), neutraal (aarzelend) of negatief (wantrouwend) konden zijn. Vervolgens voedden zij deze geobserveerde acties in twee verschillende leeralgoritmen om te zien of een computer de strategie van de aanvaller kon imiteren.

Het eerste algoritme dat zij testten, werd Behavior Cloning genoemd. Deze methode werkt als een leerling die het huiswerk van een leraar kopieert; het kijkt naar een dataset van succesvolle aanvallen en leert de volgende zet te voorspellen die de aanvaller zou doen in een gegeven situatie. De resultaten waren grotendeels succesvol. De computer leerde de acties van de aanvaller met hoge nauwkeurigheid te reproduceren, waarbij het correct identificeerde dat een aanvaller meestal vroeg contact zou proberen te leggen en pas om geld zou vragen zodelijs het vertrouwen is gevestigd. Het model presteerde het best wanneer het werd afgesteld met een specifieke leersnelheid, waardoor het de patronen kon absorberen zonder in de war te raken. De onderzoekers merkten echter een beperking op wanneer de aanval de laatste fase bereikte. Als de oplichter er niet in slaagde het geld te bemachtigen, was de beslissing of hij opnieuw zou proberen met een nieuw excuus, het gesprek zou hervatten of zich volledig zou terugtrekken, moeilijk te voorspellen voor het model. Dit splitsingspunt, waar de aanvaller na een tegenslag een nieuw pad moet kiezen, bleek lastig voor een systeem dat simpelweg voorbeelden uit het verleden kopieert zonder de diepere strategie te begrijpen.

De tweede benadering, bekend als Generative Adversarial Imitation Learning, koos een meer competitieve route. In deze opstelling speelden twee computerprogramma's een spel tegen elkaar. Eén programma, de generator, probeerde nep-aanvalscycli te creëren die op de echte leken. Het andere programma, de discriminator, trad op als een rechter en probeerde het verschil te zien tussen de zetten van de echte aanvaller en de neptjes van de generator. Het doel was dat de generator zo goed zou worden in het imiteren van de aanvaller dat de rechter het verschil niet meer kon zien tussen echt en nep. Gedurende vijftig trainingssessies werd de rechter steeds beter in het herkennen van de neptjes, terwijl de generator moeite had om zijn prestaties te verbeteren. De gegevens toonden aan dat de pogingen van de generator nog steeds onderscheidbaar bleven van het gedrag van de echte aanvaller, wat erop wees dat het model de strategie binnen de toegestane tijd nog niet volledig onder de knie had gekregen. Deze uitkomst onderstreepte een bekend probleem bij deze methode: het balanceren van de twee concurrerende programma's zodat de leerling de expert kan inhalen.

De studie concludeert dat hoewel geen van beide methoden een perfecte replica van een oplichter produceerde, beide een waardevolle nieuwe manier boden om de mechanica van mobile money-fraude te begrijpen. De onderzoekers benadrukken dat deze modellen niet zijn ontworpen om te fungeren als detectoren die verdachte berichten voor gebruikers signaleren; het zijn eerder instrumenten om de geest van de aanvaller in kaart te brengen. Door succesvol de strategie van de aanvaller te leren via demonstraties, toonde het team aan dat imitation learning een levensvatbaar alternatief is voor de oudere trial-and-error-methoden. De bevindingen suggereren dat om deze aanvallen effectief te bestrijden, verdedigers moeten begrijpen welke specifieke stappen een aanvaller neemt en hoe zij zich aanpassen aan de reacties van een slachtoffer. De onderzoekers erkennen dat hun werk gebaseerd is op gesimuleerde gegevens en dat toekomstige inspanningen grotere sets van echte voorbeelden zullen moeten verzamelen om deze modellen te verfijnen. Uiteindelijk verschuift dit werk de focus van het simpelweg opsporen van de leugen naar het begrijpen van de logica achter de misleiding, wat een duidelijk pad biedt naar de ontwikkeling van betere verdedigingsmechanismen voor de miljoenen mensen die dagelijks op mobile money vertrouwen.