技術要約：軽量LLMによるデカップル型スマートコントラクト監査

問題提起

スマートコントラクトは、一度ブロックチェーン上にデプロイされると不変であるため、壊滅的な金融損失（例：DAOハック）につながるセキュリティ脆弱性に非常に脆弱です。大規模言語モデル（LLM）は自動セキュリティ監査において有望な成果を示していますが、既存のアプローチには以下の3つの決定的な限界があります。

1. 計算効率の低さ： 現在の最先端（SOTA）ソリューションは、巨大でモノリシックなLLM（7B–34Bパラメータ）に依存しており、多大なGPU VRAM（多くの場合12–24 GBを超える）を必要とします。これにより、標準的なコンシューマー向けハードウェアを使用する独立した開発者や小規模なチームにとって、利用が困難になっています。
2. 実行可能な出力の欠如： 多くのアプローチはバイナリな脆弱性検出に焦点を当てており、重要度の分類や具体的な、実行可能な修正推奨事項という極めて重要なニーズを軽視しています。
3. アーキテクチャ上の欠陥： 統一されたプロンプティング戦略は、単一のモデルに対して多様な推論タスク（検出、説明、重要度、推奨）を同時に実行させることを強いるため、エラーの伝播、フォーマットのハルシネーション（幻覚）、および高レイテンシを引き起こします。

メソドロジー

著者らは、軽量でオープンソースのLLM（0.6B–4Bパラメータ）を使用して、人間のセキュリティエキスパートのワークフローを複製する、効率的なデカップル型エンドツーエンド・フレームワークを提案しています。このフレームワークは、監査プロセスを4つの特化した逐次モジュールに分割します。

1. 脆弱性検出器（Vulnerability Detector）： コードに脆弱性が含まれているかどうかを識別する分類タスク。
2. 脆弱性説明器（Vulnerability Explanator）： 脆弱性の性質とそれがどのように悪用され得るかを説明する生成タスク。
3. 重要度決定器（Severity Determinant）： 重要度レベル（Low, Medium, High）を割り当てる分類タスク。
4. 推奨器（Recommender）： 修復のための実行可能なコードパッチを提供する生成タスク。

主要な技術コンポーネント

• Rank-Stabilized Low-Rank Adapters (rsLoRA)： フルファインチューニングや標準的なLoRAの代わりに、著者らはrsLoRAを採用しています。この手法はスケーリング係数 $\gamma_r = \alpha / \sqrt{r}$ を修正することで、パラメータ効率を損なうことなく、勾配崩壊を防ぎ、より大きなランクを可能にします。
• マルチプロンプト投票メカニズム： 分類タスク（検出および重要度）において、モデルは5つの異なるテンプレートプロンプトを処理します。最終的な出力は多数決によって決定され、コンセンサスに基づいた信頼スコアが算出されます。
• 修正版Chain-of-Verification (CoVe) 集約： 生成タスク（説明および推奨）では、フレームワークは「候補生成器」を使用して複数の独立したドラフト回答を生成します。その後、カスタムの「集約器」が修正されたCoVe戦略を用いて以下を実行します：
  1. コンテキストをコードに接地（グラウンディング）させる。
  2. 各候補に対して検証質問を生成する。
  3. これらの質問に独立して回答し、主張を事実確認する。
  4. ハルシネーションを破棄し、単一の検証済みレポートを合成する。
• 知識蒸留（Knowledge Distillation）： 学生モデル（Qwen3-4B）の推論能力を高めるために、著者らは強力な教師モデル（Qwen3-30B-A3B）からChain-of-Thought (CoT) 推論を蒸留しています。教師のCoT出力は、ステップバイステップの推論を学生モデルに教えるためのトレーニングデータの一部として使用されます。

データセット構築

本研究では、信頼できるソース（Code4rena、Shieldify Security、およびトップTVLプロジェクト）から派生した2つの異なるデータセットを利用しました。

• 検出データセット： 930個の脆弱なコードサンプルと969個の無害なコードサンプル。無害なサンプルは、モデルが表面的な長さのバイアスを学習することを防ぐため、グラフベースの層化サンプリングアルゴリズムを用いて、脆弱なスニペットと長さのパリティを確保するように処理されました。
• 脆弱性データセット： コードと監査メタデータ（説明、重要度、推奨事項）がペアになった1,000以上のサンプル。このデータセットは、トレーニングセットとテストセット間でのデータ漏洩を防ぐため、プロジェクト認識型の層化戦略を用いて分割されました。

実験結果

フレームワークは、Zero-ShotおよびFine-Tuned設定の両方において、SOTAのデンスコーダーモデル（例：CodeLlama-34B、DeepSeek-Coder-33B、Qwen2.5-Coder-32B）と比較して評価されました。

• 脆弱性検出： 提案された0.6Bモデルは、98.25%の精度と0.9824のF1スコアを達成し、34Bのファインチューニング済みモデルを含むすべてのベースラインを上回りました。
• 重要度分類： フレームワークは、64.58%の精度と0.5877のマクロF1スコアを達成しました。
• 生成タスク（説明および推奨）： LLM-as-a-Judge指標（LMUnit 70B）を用いた結果、フレームワークは説明で0.4375、推奨で0.7639のアライメントスコアを達成し、ベースライン（それぞれ約0.22および約0.37）を大幅に上回りました。
• リソース効率： デカップル型アプローチは、分類に約3.11 GBのVRAM、生成に約8.64 GBのVRAMで動作し、8–12 GBのVRAMを備えたコンシューマー向けハードウェアに快適に収まります。これに対し、SOTAのベースラインは21–24 GBを必要とします。

主要な貢献と知見

1. デカップル型アーキテクチャ： 本論文は、複雑な監査ワークフローを特化したモジュールに分離することが、統一されたモノリシックなプロンプティングよりも大幅に優れた性能を発揮し、エラーの伝播とハルシネーションを減少させることを実証しています。
2. 軽量モデルの優位性： 本研究は、ターゲットを絞ったファインチューニングと集約戦略を用いることで、高度に最適化された軽量モデル（0.6B–4B）が、特定のセキュリティタスクにおいて、はるかに大規模な（7B–34B）デンスモデルを一貫して上回ることができることを経験的に検証しています。
3. 重要度中心バイアス（Severity Centrality Bias: SCB）： 新たな経験的発見として、現在のLLM（ゼロショットおよびファインチューニングの両方）は、損失を最小化するために「Medium」の重要度に不当に偏る「重要度中心バイアス」を示し、「Low」や「High」のエッジケースを正確に区別できないことが明らかになりました。提案されたフレームワークはこのバイアスを軽減しますが、完全には排除できていません。
4. 相乗的最適化： アブレーション研究により、rsLoRA、知識蒸留、および修正されたCoVe集約の組み合わせが相乗効果を生み出し、いずれか一つのコンポーネントを削除すると大幅な性能低下を招くことが確認されました。

重要性

本論文は、スマートコントラクトのセキュリティの民主化が可能であることを証明することにより、将来のLLM支援型監査における重要なベンチマークを確立したと主張しています。リソース消費の激しいモノリシックなモデルから、モジュール化された軽量なパイプラインへと移行することで、高価なクラウドGPUインスタンスを必要とせずに、日常の開発ワークフローに継続的な「シフトレフト」型のセキュリティ監査を統合するための実用的な経路を提供しています。また、重要度中心バイアスの特定は、自動的なリスク評価において今後取り組むべき、未解決の課題を浮き彫りにしています。