Characterising Mobile Money Phishing Attacks Using Imitation Learning Relying on Expert Demonstrations

在非洲繁荣的数字经济中，手机已不仅仅是通信工具；对于数百万此前无法接触传统银行业务的人们来说，手机已成为他们的主要银行账户。这一系统允许用户即时存款、取款和转账，这种便利性改变了日常生活，并推动了整个大陆的经济增长。然而，这种快速扩张也投下了阴影：诈骗者已经学会了利用支撑这一系统的信任。这些攻击者并非通过破解复杂的计算机代码，而是使用社会工程学——一种通过操纵手段诱导人们泄露密码或自愿转账的心理战术。他们冒充银行官员或电信工作人员，发送欺骗性的短信或拨打电话，将受害者诱入陷阱。了解这些罪犯如何思考和行动是阻止他们的第一步，但研究人类的欺骗行为极其困难，因为它依赖于不可预测的人类行为，而非固定的软件漏洞。

长期以来，研究人员一直尝试使用通过试错来学习的计算机程序（一种被称为强化学习的方法）来模拟这些攻击。在这种方法中，一个计算机代理会尝试不同的动作以观察哪些能获得奖励，就像狗学习坐下以换取零食一样。然而，当“奖励”难以定义时，这种方法往往会遇到困难，例如人类诈骗者那复杂且不断变化的、针对受害者犹豫或怀疑情绪而调整的目标。来自喀麦隆、卢旺达和中非共和国的一个研究小组提出了一条不同的路径。他们不再试图教计算机去猜测诈骗者想要什么，而是决定教它去模仿诈骗者实际所做的行为。通过将攻击者视为“专家”并使用一种称为模仿学习的技术，该团队构建了一个模型，该模型直接从真实的攻击行为示例中学习，从而绕过了手动编写欺骗规则的需求。

研究人员首先将一次移动货币网络钓鱼攻击分解为一个简单的四个阶段的旅程。第一阶段是初步接触，即诈骗者收集信息并发送虚假信息或拨打电话。第二阶段是脆弱性阶段，攻击者试图建立信任并评估受害者的情绪。如果受害者表现出接受的态度，攻击就会进入第三阶段，即实际窃取资金或数据的尝试。最后，在第四阶段，攻击者要么收割赃款并切断联系，要么在受害者产生怀疑时撤退。为了研究这一点，团队创建了一个模拟环境，可以在其中观察“专家”攻击者如何应对这些阶段，并对受害者的反应做出反应，这些反应可能是积极的（信任）、中性的（犹豫）或消极的（怀疑）。随后，他们将这些观察到的行为输入到两种不同的学习算法中，以观察计算机是否能学会模仿攻击者的策略。

他们测试的第一种算法被称为行为克隆（Behavior Cloning）。这种方法就像学生模仿老师的作业一样；它观察一个成功的攻击数据集，并学习预测攻击者在特定情况下会采取的下一步行动。结果在很大程度上是成功的。计算机学会了高精度地重现攻击者的行为，正确识别出攻击者通常会在早期尝试接触，并且只有在建立信任后才会索要钱财。该模型在经过特定的学习速率调优后表现最佳，使其能够吸收模式而不至于产生混乱。然而，研究人员注意到当攻击进入最后阶段时存在局限性。如果诈骗者未能骗到钱，模型很难预测其决定是尝试用另一个借口再试一次、重新开始对话，还是彻底放弃。这个在挫折后必须选择新路径的分支点，对于一个仅仅是复制过去示例而无法理解深层策略的系统来说，显得颇为棘手。

第二种方法被称为生成对抗模仿学习（Generative Adversarial Imitation Learning），它采取了一种更具竞争性的路线。在这种设置中，两个计算机程序互相博弈。其中一个程序，即生成器，试图创造出看起来像真实攻击序列的伪造攻击；另一个程序，即判别器，充当裁判，试图分辨出生成器的伪造动作与真实攻击者动作之间的区别。目标是让生成器变得如此擅长模仿攻击者，以至于裁判无法分辨它们。在五十次训练课中，裁判变得越来越擅长识破伪造品，而生成器的表现却在艰难挣扎。数据显示，生成器的尝试仍然与真实攻击者的行为有别，这表明该模型在允许的时间内尚未完全掌握该策略。这一结果凸显了这种方法的一个已知挑战：如何平衡这两个相互竞争的程序，以便学习者能够赶上“专家”。

研究结论指出，虽然这两种方法都没有产生完美的诈骗者副本，但它们都为理解移动货币欺诈的机制提供了一种极具价值的新途径。研究人员强调，这些模型的设计初衷并非作为向用户标记可疑信息的检测器；相反，它们是用于绘制攻击者思维图谱的工具。通过成功地从演示中学习攻击者的策略，该团队证明了模仿学习是替代传统试错方法的有效途径。研究结果表明，为了有效应对这些攻击，防御者需要了解攻击者采取的具体步骤以及他们如何根据受害者的反应进行调整。研究人员承认，他们的工作是基于模拟数据，未来的工作需要收集更大规模的真实案例来完善这些模型。最终，这项工作将焦点从单纯地识别谎言转向理解欺骗背后的逻辑，为每天依赖移动货币的数百万人提供了一条更清晰的防御路径。