Evaluating the Generation and Detection of Arabic-Based Phishing Attacks Using LLMs
Deze studie toont empirisch aan dat grote taalmodellen zeer overtuigende Arabische phishing-e-mails kunnen genereren die menselijke detectie te slim af zijn, terwijl op LLM gebaseerde classificatiesystemen mensen aanzienlijk overtreffen in het identificeren van deze cultureel genuanceerde aanvallen, wat de dringende behoefte aan door AI gestuurde cybersecurity-verdedigingen in de Golfregio onderstreept.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
In de digitale wereld is een phishingaanval een digitale valstrik vermomd als een betrouwbaar bericht. Het ziet eruit als een e-mail van een bank, een baas of een overheidsinstantie, maar het werkelijke doel is om de ontvanger te misleiden om wachtwoorden of geld af te staan. Decennialang vereiste het creëren van deze vallen een menselijke crimineel met voldoende vaardigheid om een overtuigende leugen in de juiste taal te schrijven. Die barrière is nu verdwenen. Large language models, die krachtige computerprogramma's zijn getraind om menselijke taal te begrijpen en te genereren, kunnen nu deze misleidende berichten direct en in elke taal schrijven, waardoor de noodzaak voor een bekwame menselijke auteur vervalt. Deze verschuiving heeft de dreiging van phishing breder verspreid en moeilijker te stoppen gemaakt, vooral in regio's waar de taal complex en cultureel specifiek is, zoals de Arabisch sprekende wereld.
Een team van onderzoekers aan de Zayed University in de Verenigde Arabische Emiraten zette zich af om te begrijpen hoe deze nieuwe technologie het spel voor Arabisch sprekenden verandert. Ze wilden twee dingen weten: konden deze computerprogramma's daadwerkelijk overtuigende phishing-e-mails in het Arabisch schrijven, en konden andere computerprogramma's of gewone mensen ze herkennen? Om dit te ontdekken, bouwden ze een gecontroleerd experiment. Ze vroegen drie verschillende large language models om honderden gesimuleerde e-mails te schrijven. Sommige van deze e-mails waren ontworpen om eruit te zien als legitieme zakelijke berichten, terwijl andere waren gemaakt om eruit te zien als scams, waarbij om dringende actie of gevoelige informatie werd gevraagd. De onderzoekers vroegen vervolgens aan drie andere computermodellen en een groep van vijveenveertig menselijke vrijwilligers om deze e-mails te lezen en te beslissen welke echt waren en welke nep.
De resultaten onthulden een verrassende wending in het verhaal van digitale misleiding. De computerprogramma's waren opmerkelijk goed in het schrijven van de scams. Alle drie de geteste modellen slaagden erin om Arabische phishing-e-mails te genereren die hun eigen veiligheidsfilters omzeilden wanneer ze een specifiek academisch verzoek kregen. Belangrijker nog, de geproduceerde inhoud was niet alleen grammaticaal correct, maar ook cultureel overtuigend. Eén model, dat kleiner was en specifiek werd ontwikkeld met een focus op de Golfregio, creëerde e-mails die het meest authentiek aanvoelden voor lokale lezers. Deze e-mails gebruikten de specifieke taal en toon van lokale financiële instellingen zo goed dat ze het moeilijkst voor mensen te identificeren waren als vervalsingen. Deze bevinding daagt de algemene aanname uit dat alleen de grootste, krachtigste computermodellen in staat zijn om gevaarlijke dreigingen te creëren; in dit geval bleek een kleiner, regionaal afgestemd model het meest misleidend te zijn.
Wat het herkennen van de vallen betreft, presteerden de computermodellen aanzienlijk beter dan de mensen. De menselijke vrijwilligers, die een mix vormden van beroepen en achtergronden, identificeerden de phishing-e-mails slechts ongeveer drieënzes van de tijd. Dit betekent dat meer dan één op vijf van de door de computer gegenereerde scams de mensen die de berichten lazen, succesvol hadden misleid. De mensen misten de scams vaak omdat de berichten er zo professioneel uitzagen en geen duidelijke waarschuwingssignalen bevatten. Ze maakten ook fouten door legitieme e-mails als scams te markeren, meestal omdat het e-mailadres van de afzender er iets anders uitzag dan ze verwachtten.
In contrast hiermee waren de computermodellen die werden gebruikt om de scams te detecteren veel nauwkeuriger. Eén van de detectiemodellen behaalde een perfecte score, waarbij elke enkele phishing-e-mail en elk legitiem bericht correct werd geïdentificeerd. Een ander presteerde met zeer hoge nauwkeurigheid, terwijl een derde moeite had door te veel veilige e-mails als gevaarlijk te markeren. De onderzoekers merkten een duidelijk verschil op in hoe de twee groepen over het probleem dachten. De mensen vertrouwden zwaar op het controleren van het e-mailadres van de afzender, waarbij ze zochten naar kleine fouten in de domeinnaam. De computermodellen analyseerden echter de gehele tekst op patronen van urgentie, verzoeken om persoonlijke informatie en de algehele toon van het bericht. Omdat de mensen zoveel scams misten terwijl de computers dat zelden deden, suggereren de onderzoekers dat de beste verdediging een partnerschap tussen de twee is. Een systeem waarbij een computermodel fungeert als een eerste verdedigingslinie om de overduidelijke dreigingen op te vangen, waardoor alleen de moeilijke grensgevallen aan een mens worden overgelaten om te beoordelen, zou waarschijnlijk veel effectiever zijn dan het vertrouwen op één van beiden alleen.
De studie benadrukte ook een kritiek gat in de huidige beveiligingstraining. Het vermogen om een phishing-e-mail te herkennen hing niet af van de mate van opleiding van een persoon, maar eerder van hun beroep. Mensen die werkzaam waren in de financiële sector, technologie of beveiliging waren beter in het detecteren van de scams dan mensen in andere velden. Dit suggereert dat generieke veiligheidstraining misschien niet genoeg is; organisaties moeten hun waarschuwingen in plaats daarvan afstemmen op de specifieke risico's die verschillende functies met zich meebrengen. Bovendien vonden de onderzoekers dat de meest effectieve verdediging tegen deze geavanceerde, door computers gegenereerde leugens een eenvoudige technische controle is: het verifiëren van het adres van de afzender. Aangezien de menselijke deelnemers het vaakst werden misleid door e-mails die er echt uitzagen maar van net iets verkeerde adressen kwamen, zou het afdwingen van strikte regels op e-mailauthenticatie veel van deze aanvallen kunnen stoppen voordat ze zelfs maar worden gezien.
Uiteindelijk levert dit onderzoek het eerste duidelijke bewijs van hoe kunstmatige intelligentie het landschap van cybercriminaliteit in de Arabische taal vormgeeft. Het laat zien dat de dreiging niet langer beperkt is tot bekwame menselijke hackers, maar nu een geautomatiseerde, toegankelijke capaciteit is die zeer overtuigende lokale inhoud kan produceren. De studie bevestigt dat hoewel computers momenteel beter zijn in zowel het creëren als het detecteren van deze scams dan mensen, het gevaarlijkste aspect niet de omvang van het computerprogramma is, maar het vermogen om de culturele en linguïstische nuances van een specifieke regio na te bootsen. Naarmoot de evolutie van deze hulpmiddelen, zal de verdediging tegen hen een combinatie vereisen van geavanceerde technologie en menselijk oordeel, met een scherpe focus op de specifieke details die een bericht echt laten aanvoelen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.