💻 computer science

An LLM-based Chain-of-Response Counter-Scam System

本文介绍了 Counter Scam，这是一个统一的基于大语言模型（LLM）的多智能体框架，旨在加速从检测到调查的端到端在线诈骗缓解过程，其特点是具备安全数据指南、一个专门的九项任务自然语言处理（NLP）系统，以及一个证明其性能优于商业模型的规模化诈骗语料库。

原作者： Heedou Kim, Mogan Gim, Donghee Choi, Hoonick Lee, Soonil Bae, Mi-Young Kim, Jaewoo Kang

发布于 2026-06-02

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Heedou Kim, Mogan Gim, Donghee Choi, Hoonick Lee, Soonil Bae, Mi-Young Kim, Jaewoo Kang

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，网络诈骗就像是一个运作高效、组织严密的犯罪集团，像一台精密的机器一样运转。他们使用巧妙的诡计（比如冒充你的银行或遇到困难的亲人）在任何人按下“暂停”键之前就窃取资金。根据这篇论文，问题在于试图阻止他们的人——警察、银行和安全团队——往往在各自的房间里工作，说着不同的电话，行动速度太慢，无法抓捕罪犯。

作者提出了一种名为 Counter-Scam 的解决方案。不要仅仅把它看作一个单一的工具，而要把它看作一支由人工智能（AI）驱动的高度组织化的数字特警队（SWAT team）。

以下是它的工作原理，分为几个简单的部分：

1. 问题：“太慢”的问题

目前，当诈骗发生时，响应是碎片化的。

类比： 想象一个窃贼闯入了房子。邻居看到了并报警。警察打电话给银行以冻结账户。银行再打电话给电信公司以拦截号码。等到所有人完成电话沟通和文书工作时，窃贼已经转走了银行账户里的钱并逃往国外了。论文指出，目前的系统之所以太慢，是因为它依赖于人类互相传递纸条。

2. 解决方案：数字“指挥家”

Counter-Scam 是一个利用大语言模型（LLMs）——即驱动聊天机器人的那种 AI——但将其组织成特定团队结构的框架。它不是让一个 AI 做所有事情，而是使用了一个多智能体系统（multi-agent system）。

你可以把它想象成一个交响乐团：

指挥家（情况分析智能体）： 这个 AI 倾听传入的警报（一条可疑短信或电话）。它判断这属于哪种紧急情况：是诈骗电话？身份窃取？还是转账诈骗？然后它会告诉乐团的其他部分需要演奏什么。
保安（诈骗预防智能体）： 如果指挥家说“停止”，这个智能体就会立即行动。它会拦截该恶意电话号码，标记恶意链接，并实时向受害者发出警告。
第一响应者（应急响应智能体）： 如果受害者已经损失了钱财，这个智能体就会投入战斗。它能迅速将受害者的陈述总结成一份简短、清晰的报告提交给警察和银行，帮助他们更快地冻结账户。
侦探（调查智能体）： 在即时危险过去之后，这个智能体开始工作。它会阅读成千上万份案件档案，寻找模式（例如“这个相同的虚假银行账户在 500 起其他诈骗案中都被使用过”），并帮助律师确定具体违反了哪些法律，从而建立强有力的证据链。

3. 秘诀：安全性与训练数据

你可能会问：“我们不能直接用 ChatGPT 这样的公共 AI 吗？”论文给出了两个主要原因，说不行：

安全性： 你不能把真实的诈骗对话喂给公共 AI，因为诈骗者可能会利用这些数据来学习新的手段。作者创建了一个特殊的“安全”数据集，其中所有的敏感细节（如真实的电话号码或姓名）都已被隐藏，但犯罪的结构得以保留，以便 AI 进行学习。
专业化训练： 公共 AI 就像全科医生；它们博而不精。作者训练了自己的小型、专门化的 AI 模型（称为 sLLMs），专门针对警察手册、法律条文和真实的诈骗案例进行训练。
- 结果： 这些经过“警察训练”的专门化 AI 在识别诈骗和理解法律细节方面，实际上比那些昂贵的、著名的商业模型表现得更好。事实上，在大多数任务中，它们的表现比大型商业模型高出约 10%。

4. “食谱手册”（数据集）

为了教导这些 AI 智能体，研究人员并没有凭空猜测。他们与 37 位现实世界的专家（警察、调查员和政策分析师）合作。

他们建立了一个庞大的库，包含 185,300 起诈骗案例和 38,587 条法律知识。
他们把 AI 当作学生来对待：给它布置“作业”（例如“总结这段紧急通话”或“找出这段文本中的虚假银行账户”），并对其进行评分。
通过这种特定的“作业”进行“微调”后的 AI，在处理这类任务时比仅凭常识进行猜测的 AI 要聪明得多。

5. 他们的发现

论文得出结论，该系统在处理诈骗响应的“重体力活”方面表现出色：

速度： 它分析和总结紧急通话的速度比人类快得多。
准确性： 专门化的 AI 非常擅长发现特定的犯罪细节（如假名或恶意链接），而商业 AI 经常会忽略这些细节。
局限性： AI 目前还不完美。它在处理非常复杂的法律推理或总结极其冗长、混乱的紧急报告时仍然存在困难。它是一个强大的助手，但仍需要人类专家来复核最终的工作，尤其是在涉及安全方面。

核心结论

Counter-Scam 是一个蓝图，描绘了一个 AI 作为中心枢纽，将受害者、警察和银行即时连接在一起的未来。它不再是缓慢的电话链条传递，而是创造了一种快速、协调的响应机制，其行动速度能与犯罪分子抗衡，利用专门在真实警察数据上训练的 AI 智能体，在资金消失之前拦截诈骗。

技术摘要：COUNTER-SCAM

问题陈述

网络诈骗已演变成一种跨国威胁，其特征是高度复杂的社会工程学手段和极速的资金提取能力，这使得传统的检测与响应机制难以应对。现有系统由于机构间协调碎片化和依赖人工分析，导致存在严重的响应延迟。虽然大语言模型（LLMs）在检测诈骗内容方面展现出潜力，但现有的研究主要集中在以“检测”为中心，未能解决应急干预（如冻结账户）及事后调查所需的下游协同问题，导致受害者在面对脱节的系统时，往往错失了资金追回的关键窗口期。此外，由于缺乏安全、高质量的数据集，且商业模型无法在执法部门典型的受限、封闭网络环境中运行，阻碍了 LLMs 在该领域的部署。

方法论

作者提出了 COUNTER-SCAM，这是一个统一的、基于 LLM 的多智能体框架，旨在编排从初步检测到犯罪调查的全流程响应。该系统构建在三大核心支柱之上：

1. 核心准则与安全性（CSRD 基础）

为了应对数据隐私和滥用风险，该框架建立了严格的准则：

数据滥用预防： 不发布真实的诈骗对话数据。相反，系统利用经过策划的良性数据和官方生成的文本（如紧急报告、法律摘要）。
专家参与： 由 37 名利益相关者（包括警察、调查员和政策分析师）指导智能体设计、任务定义和数据标注。
安全数据构建： 开发了 CASE ANALYSIS NER 流水线，在保留具有分析意义的信号（如恶意链接、冒充身份）的同时，对敏感的受害者和犯罪嫌疑人信息进行脱敏处理。

2. 多智能体框架 (CSRA)

该系统通过四个专门的智能体来模拟诈骗响应生命周期，每个智能体都有明确的角色、目标和利益相关者（公民、网络安全团队、警察、银行）：

态势分析智能体 ( $A_{SA}$ ): 评估诈骗态势，识别用户的当前状态，并确定适当的响应路径（预防、紧急或调查）。
诈骗预防智能体 ( $A_{SP}$ ): 对诈骗对话和消息进行实时检测，向公民发布警告，并为网络安全团队提取用于拦截的恶意指标。
应急响应智能体 ( $A_{ER}$ ): 生成受害者报告的快速摘要，以促进冻结账户等即时行动，并与执法部门和金融机构进行协调。
调查智能体 ( $A_{I}$ ): 通过评估刑事责任、映射适用法律以及提取工具手段来支持事后分析，从而追踪有组织的犯罪网络。

3. 任务集与数据集 (CSRT & CSRD)

该框架通过九个特定的 NLP 任务（CSRT）将智能体角色具体化，并由包含 185,300 起诈骗案例 和 38,587 条知识条目 的大规模数据集（CSRD）提供支持。

任务： 包括犯罪检测、业务问答、诈骗场景检测、消息分类、紧急电话摘要、犯罪假设评估、法条映射和要素分析。
数据来源： 该数据集整合了真实的语音钓鱼对话、受害者举报的短信、匿名化的紧急电话转录文本以及法律基准，并辅以合成案例和警察操作手册。

4. 评估策略

考虑到现实世界的约束（封闭网络、有限算力），作者将微调后的轻量级大语言模型（sLLMs）与商业模型（GPT-4o, Gemini）进行了对比评估。

测试模型： Llama-3.1-8B, SOLAR-10.7B, Llama-3.2-1B 以及经过韩语微调的 EEVE-Korean-Instruct-10.8B。
训练： 使用 QLoRA 技术在 CSRD 上对 sLLMs 进行微调。
指标： 准确率、F1 分数，以及针对开放式任务的 “LLM 作为评判者”（LLM-as-a-Judge）框架，并根据人类专家标注进行验证。

关键结果

微调 sLLMs 的卓越表现： 微调后的 sLLMs 在 9 项任务中的 6 项 表现优于商业模型（GPT-4o, Gemini），平均性能提升超过 10%。
诈骗特定 NER： 微调后的模型在犯罪领域 NER 上的 F1 分数达到 0.59，显著超过了商业模型（平均 F1 为 0.35）。在识别“虚假职位”、“被指控姓名”和“犯罪工具”等实体方面，提升尤为明显。
诈骗检测稳定性： 在诈骗场景检测任务中，微调后的 sLLMs 表现出更高的稳定性，与商业模型相比，误报率显著降低（例如，Gemini 将 351 条非诈骗消息误判为诈骗，而表现最好的 sLLM 仅误判了 4 条）。
特定任务增益： 诈骗消息分类 任务表现出最剧烈的提升，微调模型的性能超过零样本（zero-shot）基准达 0.55。
局限性： 复杂的推理任务，如 紧急电话摘要 和 法律分析 仍具挑战性。较小的模型在处理长上下文时表现挣扎，部分任务尚未达到成熟的准确度水平，表明仍需进一步的训练优化。

重要性与贡献

本文声称是首个超越单一诈骗检测，进而提出覆盖整个在线诈骗响应生命周期的集成化“智能体-任务-数据”框架的工作。其主要贡献在于：

COUNTER-SCAM 框架： 一个能够实现公民、安全团队、执法部门和银行之间快速、协作式缓解的统一系统。
实用部署组件： 通过 37 名领域专家的深度参与，开发了 CSRA（智能体）、CSRT（任务）和 CSRD（具备抗滥用性的数据），填补了理论 AI 与实战执法需求之间的鸿沟。
实证验证： 证明了微调后的可部署 sLLMs 在诈骗响应特定任务上可以显著超越大型商业模型，验证了在执法部门本地部署 AI 方案的可行性。
协作基础： 通过发布该框架和大规模数据集，作者旨在为规模化部署和跨国诈骗缓解中的跨境协作提供基础。

作者总结道，尽管复杂推理仍面临挑战，但 COUNTER-SCAM 验证了 AI 智能体作为缓解全球在线诈骗的实用伙伴的潜力，为弥合目前被跨国犯罪网络所利用的响应缺口提供了路径。