An Insight into Security Code Review with LLMs: Capabilities, Obstacles, and Influential Factors

タイトル: LLM を用いたセキュリティコードレビューへの洞察：能力、課題、および影響要因

問題定義
セキュリティコードレビューは、データ漏洩や金銭的損失を防ぐために不可欠でありながら、多大な労力を要するプロセスである。組織はコードレビューにセキュリティ分析を統合する傾向を強めているが、既存の自動化ツール（静的/動的/ハイブリッド分析）は、汎用性の低さ、高い誤検知率、粗い検出粒度という欠点に悩まされている。さらに、従来の機械学習や深層学習に基づくデータ駆動型アプローチは、現実的なトレーニングデータセットの不足により堅牢性に欠け、実世界のプロジェクトでは性能が低い。大規模言語モデル（LLM）はさまざまなソフトウェア工学タスクにおいて有望な成果を示しているが、セキュリティコードレビューという微細な文脈におけるその具体的な能力、限界、および性能に影響を与える要因は、依然としてほとんど探求されていない。

手法
著者らは、コードレビュー中のセキュリティ欠陥を検出する LLM の潜在能力を評価するための実証研究を実施した。本研究では、4 つのオープンソースプロジェクト（OpenStack Nova/Neutron および Qt Base/Creator）から派生し、614 件のセキュリティ関連レビューコメントを含む、手作業でキュレーションされた 534 個のコードファイル（Python 258 件、C/C++ 276 件）のデータセットを利用した。

• 評価対象モデル: 7 つの LLM をテストした。これには、プロプライエタリモデル（GPT-4、GPT-4 Turbo、Gemini Pro）、オープンソースモデル（Llama 2 7B、Llama 2 70B）、および推論最適化モデル（DeepSeek-R1）が含まれる。
• プロンプトエンジニアリング: ベストプラクティスと過去の戦略に基づき、5 つの異なるプロンプトテンプレートを開発した。
  1. 基本プロンプト ($P_b$): コードレビューを直接指示する。
  2. プロジェクト情報 ($P_r$): プロジェクト名のコンテキストを追加する。
  3. 一般的な CWE 指示 ($P_c$): CWE を参照するよう指示する。
  4. 特定の CWE 指示 ($P_{cid}$): トップレベルの CWE リストを提供する。
  5. 思考の連鎖 (Chain-of-Thought, $P_{cot}$): コミットメッセージからコードコンテキストを生成し、その後に欠陥を分析するよう求める 2 段階のプロンプト。生成されたコンテキストの影響を分離するため、「ガードレール」版（$P_{cot-guardrail}$）もテストした。
• 評価指標: 回答を 4 つのカテゴリに手動でラベル付けした。Instrumental（正確な欠陥タイプ、場所、説明）、Helpful（部分的に正確）、Misleading（検出失敗または偽陰性）、Uncertain（不確実）。指標には I-Score、IH-Score、M-Score を含めた。一貫性は、3 回の実験実行における回答エントロピーで測定した。
• 分析: 本研究では、LLM の性能を最先端の静的分析ツール（CodeQL、Bandit、CppCheck など）と比較した。最高性能を示したモデルについては、言語分析により品質上の問題（幻覚、曖昧さなど）を特定した。最後に、累積リンク回帰モデルを構築し、11 の要因（トークン数、コードの複雑さ、欠陥タイプなど）が性能に与える影響を分析した。

主な貢献

1. 微細粒度の評価: 二値分類を超えて、欠陥の局所化、説明、および修正提案を評価する、セキュリティコードレビューにおける人気 LLM の包括的な評価を提供した。
2. 非決定性の分析: セキュリティコードレビュー結果の一貫性に対する LLM の非決定性の影響を測定した。
3. 品質問題の定量化: 最高性能モデルの回答において、事実および忠実性に関する幻覚を含む、特定の品質問題を特定し定量化した。
4. 要因影響分析: 特定のコードおよびプロジェクト属性が、この分野における LLM の性能にどのように影響するかを統計的に検証する、初の回帰分析を実施した。

結果

• ベースラインとの性能比較: LLM は、セキュリティコードレビューにおいて、最先端の静的分析ツールを大幅に上回った。LLM の中では、推論最適化モデル（DeepSeek-R1）が汎用モデルを上回った。
• 最高性能モデル: DeepSeek-R1 が総合的に最高性能を達成し、次いで GPT-4（ChatGPT プラットフォーム経由）が続いた。
  • 最適なプロンプト: DeepSeek-R1 は、コミットメッセージと思考の連鎖（CoT）ガイダンスを組み合わせたプロンプト（$P_{cot-guardrail}$）で最も良好な性能を示した。GPT-4（ChatGPT）は、特定の CWE リストを含むプロンプト（$P_{cid}$）で最も良好な性能を示した。
• 品質上の問題:
  • GPT-4 (ChatGPT): 曖昧な表現を頻繁に生成し、指示の遵守（行番号の欠落など）に苦労したが、コード詳細に関する事実誤認は少なかった。
  • DeepSeek-R1: 指示の遵守能力は高かったものの、不正確なコード詳細（誤った行番号や関数名など）を生成する傾向が強く、「誤った事実」に関する幻覚の発生率が高かった。
• 影響要因:
  • トークン数: LLM はトークンの少ないファイルの欠陥を特定する能力が高かった。一般的に、トークン数が増加するにつれて性能は低下した。
  • 注釈: コード内にセキュリティ関連の注釈が存在すると、検出能力が向上した。
  • 複雑さ: コードの複雑さが高いほど、DeepSeek-R1 において特定の欠陥タイプ（メモリ関連を除く）の検出能力が向上した。これは、複雑さが常に検出を妨げるという仮説とは対照的であった。
  • 一貫性: 検出能力の高いモデル（DeepSeek-R1、GPT-4 ChatGPT）は、能力の低いモデルと比較して、実行間の一貫性が低く（エントロピーが高い）、変動が大きかった。

意義と主張
本論文は、現在の LLM は人間のレビューヤーを代替するものではないが、セキュリティ欠陥の検出において従来の静的分析ツールを大幅に上回る強力な補助ツールとして機能すると主張している。本研究は、LLM の有効性がプロンプトエンジニアリング（特にコミットメッセージ、CoT、または CWE リストの含意）と、レビュー対象のコードの具体的な特性（トークン数、複雑さ、注釈）に強く依存することを浮き彫りにしている。

著者らは、LLM の非決定性が両刃の剣であることを強調している。より深い推論（したがってより優れた検出）を行う能力を持つモデルは、より一貫性の低い出力を生み出す傾向がある。彼らは結論として、多重層のレビュー戦略が必要であると述べている。すなわち、LLM がトークンの少ない低難易度のコードの初期レビューを担当し、人間専門家が高難易度のコードに注力して LLM の発見を検証するという戦略である。また、本研究は、コード詳細に関する幻覚への対処と、検出感度を犠牲にすることなく LLM 出力の安定性を向上させるための今後の研究の必要性も強調している。