💻 computer science

Enhancing Smart Contract Vulnerability Detection in DApps Leveraging Fine-Tuned LLM

本文提出了一种新颖的方法，该方法利用在包含 215 个真实世界 DApp 项目的综合数据集上进行微调的大型语言模型（Llama3-8B 和 Qwen2-7B），以显著增强对智能合约漏洞的检测，特别是传统工具经常遗漏的复杂逻辑错误，例如代币价格操纵。

原作者： Jiuyang Bu, Wenkai Li, Zongwei Li, Zeng Zhang, Xiaoqi Li

发布于 2026-02-03

📖 1 分钟阅读☕ 轻松阅读

CC BY 4.0

原作者： Jiuyang Bu, Wenkai Li, Zongwei Li, Zeng Zhang, Xiaoqi Li

原始论文采用 CC BY 4.0 许可（http://creativecommons.org/licenses/by/4.0/）。 ✨ 这是对下方论文的AI生成解释。它不是由作者撰写或认可的。如需技术准确性，请参阅原始论文。阅读完整免责声明

想象一下，**智能合约（Smart Contract）**就像是一个运行在区块链上的数字自动售货机。一旦你投入资金，它就会根据你编写的规则，自动为你提供苏打水（或数字代币）。问题在于，如果程序员在代码中犯了错，这台机器可能会白送苏打水、偷走你的钱，或者永远卡死在那里。因为这些机器是“不可篡改”的（一旦建成，规则就无法更改），所以在上线前发现这些错误至关重要。

这篇论文关于构建一个超级聪明的保安，在这些自动售货机开业前检查它们是否存在缺陷。

问题所在：旧保安 vs. 新花招

传统上，保安使用“规则手册”（静态分析工具）。他们会寻找特定的、已知的错误，比如“地板上有洞吗？”或者“门锁好了吗？”

问题在于： 黑客变得越来越聪明了。他们不只是破坏锁具，还在寻找奇特的、逻辑上的漏洞。例如，“如果我在上午 9:00 买入一个代币，并在 9:01 买入，我能否欺骗机器，让它认为价格比实际价格更高？”
局限性： 旧的规则手册看不见这些复杂的逻辑诡计。它们就像是一个只知道检查窗户是否破损，却不懂得小偷如何撬锁的保安。

解决方案：一个“专业化”的 AI 保安

作者决定使用一种大语言模型（LLM）——一种非常擅长阅读和理解人类语言及代码的 AI。把标准的 LLM 想象成一个通才图书管理员。他们博学多才，但并未专门研究过“区块链安全”。

如果你问一位通才图书管理员：“这段代码安全吗？”他们可能会猜测，但经常会猜错，因为他们看过的特定错误代码案例还不够多。

作者的创新点： 他们并没有只是让图书管理员去瞎猜，而是针对性地训练了这位图书管理员，让他们研读了大量的真实世界区块链灾难案例。他们将这位通才转变为了一名专业的安全专家。

他们是如何打造专家的

训练数据（“案卷”）：
大多数之前的研究使用的是微小的、简单的代码示例（比如一段 40 行的脚本）。这就像是用玩具自动售货机来训练保安。
- 他们的做法： 团队收集了 215 个真实的开源项目，其中包含近 5,000 个合约。他们甚至包含了难以检测的复杂“逻辑错误”，例如代币价格操纵（即黑客通过欺骗系统来改变货币价值）。
- 工具： 他们构建了一个名为 "SmartCollect" 的机器人工具，用于收集构成一个真实应用的所有杂乱且相互关联的文件，确保 AI 看到的是全貌，而不仅仅是孤立的代码片段。
解决不平衡问题（“罕见病”问题）：
在现实世界中，大部分代码是安全的，只有极少数是损坏的。这就像一名医生试图学习如何诊断一种罕见病，但 99% 的患者都是健康的。AI 会因此感到困惑，为了保险起见，它只会说“一切正常”。
- 解决方法： 他们使用了名为**随机过采样（Random Over Sampling, ROS）**的技术。想象一下，把那些少量的“损坏机器”的例子进行复印，让 AI 看到这些损坏案例的频率与看到“正常机器”的频率一样高。这迫使 AI 必须关注这些缺陷。
训练方法（两种教学方式）：
- 全参数微调（Full-Parameter Fine-Tuning, FFT）： 这就像是重写 AI 的整个大脑以使其专业化。这种方法很重，需要消耗大量能量，但它能让 AI 成为真正的专家。
- LoRA（低秩自适应）： 这就像是给 AI 原有的脑中添加一本专门的笔记本。它更轻量、更快，但论文发现它在捕捉那些棘手的 Bug 方面不如全量重写的效果好。
“双重审计”系统：
AI 不仅仅是靠直觉猜测。它扮演两个角色：
- 审计员（Auditor）： 查看代码并表示：“我认为这里有问题。”
- 验证员（Verifier）： 双重检查审计员的工作，以确保它不是在产生幻觉。

结果：奏效了吗？

论文将他们的专业化 AI 与“通才型”AI（即没有经过训练、直接提问的 AI）以及其他安全工具进行了对比。

通才型 AI： 准确率仅为 20% 左右。它基本上是在瞎猜。
专业化 AI（经过全量训练）： 准确率达到了约 83%（F1 分数）。
击败竞争对手： 他们的方案优于其他顶尖工具（如 GPTLENS 和 GPTSCAN）。
“不可审计”类别的胜利： 最大的胜利在于抓住了价格操纵类的缺陷。这些是计算机通常会忽略的“逻辑错误”。他们的 AI 在处理这类问题时达到了 97% 的精确度（即当它说“这坏了”时，几乎每次都是正确的）。

核心结论

论文指出，要抓住最聪明的黑客，你不能只使用通用的 AI 或简单的规则手册。你需要获取一个强大的 AI，喂给它海量的、真实的、混乱的、复杂的代码，并专门训练它去识别那些人类和旧式计算机都会遗漏的微妙逻辑诡计。通过这种方式，他们为去中心化应用（DApps）的世界创造了一个更加可靠的保安。

技术摘要：利用微调大语言模型增强 DApp 中的智能合约漏洞检测

问题陈述
由于底层智能合约存在的漏洞，去中心化应用（DApps）面临着严峻的安全风险。虽然传统的检测方法（如静态分析和状态转换验证）对于已知模式（例如重入攻击、算术错误）非常有效，但它们难以应对新兴威胁和“机器无法审计”的逻辑缺陷。近期统计数据表明，近 80% 的合约漏洞属于逻辑错误，包括代币价格操纵等复杂问题，这些问题往往能避开常规的程序分析。此外，现有的基准测试通常依赖于简化的数据集（合约行数少于 40 行），无法代表真实世界 DApp 项目的复杂性。目前的生成式大语言模型（LLM）方法在使用提示工程（Prompt Engineering）或检索增强生成（RAG）时也表现出局限性，由于缺乏对 Solidity 编程语言的特定领域适配，其准确率仅为 40–60%。

方法论
本文提出了一个利用微调大语言模型来增强 DApp 漏洞检测的新型框架。该方法由四个核心部分组成：

全面的数据收集：
作者构建了一个包含 215 个真实世界 DApp 项目和 4,998 个智能合约的新数据集。与以往的数据集不同，该集合是使用名为 SmartCollect 的自定义 Python 工具收集的，该工具可以恢复完整的项目依赖关系，包括公共库和外部合约。该数据集专门针对逻辑错误示例稀缺的问题，包含了 23 个具有代币价格操纵漏洞的合约，以及重入、算术问题和时间戳依赖等标准漏洞。
数据增强 (ROS)：
为了解决漏洞检测中固有的严重类别不平衡问题（即漏洞案例属于少数派），本研究采用了**随机过采样（Random Over Sampling, ROS）**技术。该技术通过复制少数类别的样本来平衡数据集，从而减轻深度学习模型在处理不平衡真实数据时常见的性能下降问题。
双角色 LLM 架构：
所提出的系统利用两步审计流程，通过提示工程激活 LLM 的两个不同角色：
- 智能合约审计师（Smart Contract Auditor）： 审查代码以识别潜在漏洞并生成推理过程。
- 验证器（Verifier）： 进一步验证已识别的漏洞类型，以确保准确性和严谨性。
  提示词设计采用了思维链（Chain-of-Thought, CoT）推理，要求模型通过理解上下文、分析逻辑并提供结构化输出，来模拟审计师的工作流。
微调策略：
研究评估了在主流开源模型（Llama3-8B 和 Qwen2-7B）上的两种微调方法：
- 全参数微调 (Full-Parameter Fine-Tuning, FFT)： 通过梯度下降更新所有模型参数，以实现最优的任务特定性能。
- 低秩自适应 (Low-Rank Adaptation, LoRA)： 一种参数高效的方法，通过冻结基础模型权重并训练低秩矩阵（ $A$ 和 $B$ ）来近似权重更新，从而降低计算开销。

核心贡献

真实世界数据集： 创建了一个包含 215 个 DApp 项目（4,998 个合约）的大规模、具代表性的数据集，其中包含了复杂的逻辑错误和代币价格操纵缺陷，填补了简化基准测试留下的空白。
微调框架： 证明了领域特定微调（FFT 和 LoRA）在检测智能合约漏洞方面显著优于基于提示的 LLM 和最先进的工具（GPTLENS, GPTSCAN）。
逻辑错误检测： 特别关注“机器无法审计”的漏洞，证明了微调后的 LLM 可以有效检测如价格操纵等逻辑缺陷，而传统工具则无法检测此类问题。
数据增强验证： 通过实证证据表明，ROS 显著提升了模型在不平衡漏洞数据集上的性能。

实验结果
研究通过对比实验回答了关于性能、微调影响、逻辑错误检测和数据增强的四个研究问题：

性能对比基准： 微调后的模型显著优于非微调的基于提示的方法。虽然标准的 Qwen2-7B 提示词 F1 分数仅为 0.20，但微调后的 Llama3-8B-FFT 达到了 0.73 的 F1 分数（精确率：0.78，召回率：0.70）。
与 SOTA 对比： 微调后的模型（Llama3-8B-FFT 和 Qwen2-7B-FFT）实现了 0.78 的精确率，超过了 GPTLENS (0.64) 和 GPTSCAN (0.57)。
逻辑错误检测： 该方法在检测价格操纵漏洞（PMV）方面展现了卓越的能力。Llama3-8B-FFT 模型在 PMV 上的精确率达到 0.97，召回率达到 0.68，突显了其处理非机器可审计缺陷的能力。
数据增强的影响： 在微调过程中应用 ROS 带来了进一步的提升。Llama3-8B-FFT-ROS 模型实现了 0.83 的 F1 分数（精确率：0.84，召回率：0.79），与非增强的 FFT 基准相比，精确率提升了 6–7%，召回率提升了 9–16%。

重要性
本文断言，大语言模型的领域特定微调结合 ROS 等数据增强技术，为区块链生态系统中不断演变的安全性挑战提供了强有力的解决方案。通过超越预定义的漏洞模式和通用提示，这种方法有效地解决了真实世界 DApp 中复杂、逻辑性强且机器无法审计的漏洞检测问题。研究结果强调了微调后的 LLM 作为区块链保护关键层级的潜力，特别是在识别构成现代智能合约主要风险的复杂逻辑错误方面。