LLM4C2Rust: 大規模言語モデルを用いた自動メモリ安全コードトランスパレーション

技術的サマリー（日本語）

本論文「LLM4C2Rust」は、メモリ安全性が欠如したレガシーな C/C++ コードを、メモリ安全性を保証する Rust へ自動変換（トランスパレーション）するための、大規模言語モデル（LLM）と検索拡張生成（RAG）を組み合わせた新しいフレームワークを提案するものです。

以下に、問題定義、手法、主要な貢献、結果、および意義について詳細をまとめます。

---

1. 背景と問題定義

• メモリ安全性の課題: C/C++ はシステムプログラミングの基盤ですが、手動メモリ管理に起因するバッファオーバーフローやダングリングポインタなどの脆弱性が、セキュリティ侵害の約 70% を占めています。
• Rust の可能性: Rust はコンパイル時に厳格な所有権と借用のモデルを強制し、メモリ安全性を保証する一方、C/C++ に匹敵するパフォーマンスを提供します。
• 既存手法の限界:
  • 手動変換: 時間とコストがかかり、人的ミスが発生しやすい。
  • ルールベースの自動化: 柔軟性が低く、C の低レベルな慣習（unsafe ブロックなど）を維持したままの出力が多く、Rust の真の安全性を享受できない。
  • 従来の LLM 単独アプローチ: 文脈を学習してコードを生成できるが、ハルシネーション（虚偽の生成）が発生しやすく、構文は正しくてもメモリ安全性の保証が不十分になる傾向がある。

研究課題:

1. RQ1: LLM は C/C++ を、機能同等性を保ちつつ、慣習的でメモリ安全な Rust コードへ効果的かつ効率的に変換できるか？
2. RQ2: RAG パイプラインを統合することで、コード生成における LLM のハルシネーションを軽減し、変換されたコードの正確性を向上させることができるか？

---

2. 提案手法：RAG 支援型トランスパレーションフレームワーク

本研究では、LLM の生成能力と外部知識（RAG）の文脈付けを組み合わせるハイブリッドアプローチを提案しています。

アーキテクチャの主要コンポーネント

1. コードのセグメンテーション戦略:
   • 単一関数単位ではなく、C/C++ ソースコードを「括弧（{}）のバランスが取れ、かつ 500 文字以上」のブロック単位で分割します。
   • これにより、関数の途中での切断を防ぎつつ、LLM のトークン制限内に収まる適切なコンテキストサイズを維持します。
2. 2 段階トランスパレーション:
   • 第 1 段階（初期変換）: 分割された C コードを、Rust の unsafe ブロックや生ポインタの使用を許容しつつ、機能的に等価な Rust コードに変換します。
   • 第 2 段階（安全化リファインメント）: 生成された Rust コードを再度 LLM に渡し、RAG で取得したドキュメントやベストプラクティスを参照させながら、メモリ安全性を向上させます。具体的には、生ポインタの参照（RPD）や unsafe な型キャスト（UTC）の削減・排除を指示します。
3. RAG パイプライン:
   • Rust の公式ドキュメント、コンパイラエラーメッセージ、安全なポインタ処理のパターンなどを外部知識源として準備します。
   • 生成タスク時に、関連するドキュメントチャンクを検索し、LLM のプロンプトに追加して、ハルシネーションを抑制し、Rust 固有の安全な慣習（idiomatic Rust）を促します。
4. 検証レイヤー:
   • 自己評価: LLM 自身が生成コード内の不安全な構造物数を推定します。
   • コンパイラ検証: 生成された Rust コードを rustc でコンパイルし、特定のエラーコード（RPD 関連：E0133, E0392, E0793 など）や unsafe ブロックの数をスクリプトで抽出・カウントします。これにより、LLM の自己評価と真の安全性を比較し、ハルシネーション率を測定します。

使用モデル

• LLM: GPT-4o, GPT-4-Turbo
• SLM (Small Language Model): o3-mini
• 設定: 再現性を高めるため、Temperature を 0 に固定し、最初の生成結果のみを使用。

---

3. 実験と評価

• データセット: GNU Coreutils パッケージから選定された 7 つの C プログラム（uniq, cat, pwd, truncate, head, split, tail）。
• 評価指標:
  • RPD (Raw Pointer Dereferences): 生ポインタの参照数。
  • UTC (Unsafe Type Casts): 不安全な型キャストの数。
  • ULoC (Unsafe Lines of Code): unsafe ブロック内のコード行数。
  • ハルシネーション率: LLM の自己評価数とコンパイラ検証数の乖離。
• ベースライン: 既存の手法（C2SaferRust, LAC2R）との比較。

---

4. 主要な結果

実験結果は、RAG 支援型 LLM が既存手法を上回る性能を示すことを示しています。

• メモリ安全性の向上:
  • GPT-4-Turbo が最も優れた結果を示しました。7 つのプログラムのうち 5 つ（uniq, truncate, head, split, cat）で、RPD と UTC を完全にゼロに削減し、コンパイラ検証とも完全に一致しました。
  • GPT-4o も同様に多くのプログラムで RPD と UTC を大幅に削減しましたが、複雑なプログラム（tail など）では若干の過小評価が見られました。
  • o3-mini (SLM) は構文的に正しいコードを生成しますが、安全性の改善度を過大評価する傾向（ハルシネーション）が強く、コンパイラ検証との乖離が大きかったため、メモリ安全性重視の変換には適さないことが示唆されました。
• ハルシネーションの軽減:
  • RAG を使用したことで、LLM の自己評価とコンパイラ検証結果の乖離が縮小しました。特に GPT-4o と GPT-4-Turbo は、不安全構造物の削減傾向を正確に捉え、数値の精度も向上しました。
• 既存手法との比較:
  • 提案手法は、C2SaferRust や LAC2R などの先行研究と比較して、RPD や ULoC の削減率（%）において顕著な改善を示しました。

---

5. 主要な貢献

1. 新規フレームワークの提案: LLM と RAG を統合し、C/C++ からメモリ安全な Rust への変換品質（特にセキュリティ）を向上させる新しいトランスパレーションフレームワークを構築しました。
2. LLM の能力評価: 最先端の LLM が、機能的同等性を保ちつつメモリ安全な Rust コードを生成できる能力を実証しました。
3. ハルシネーション対策の実証: 関連するドキュメントやコンテキストを RAG 経由でプロンプトに追加することで、コード生成におけるハルシネーションを軽減し、生成コードの正確性を高めることができることを示しました。

---

6. 意義と将来展望

• レガシーシステムの近代化: 本アプローチは、膨大な C/C++ レガシーコードを、手作業の負担を減らしつつ、Rust の高いセキュリティレベルへ移行させるための実用的な解決策を提供します。
• AI 支援ソフトウェア工学 (AI4SE): 単なるコード生成だけでなく、ドメイン知識（Rust の安全原則）を外部から注入する RAG の有効性を、セキュリティクリティカルな領域で実証しました。
• 将来の展望: 本研究は 7 つの Coreutils プログラムに限定されていますが、今後はより大規模なコードベース（LAERTES ベンチマークなど）への拡張や、Rust 同士のリファクタリング、産業レベルのシステムへの適用が計画されています。

結論:
LLM4C2Rust は、RAG によって補強された LLM が、従来のルールベースや単独 LLM 手法を超えて、C/C++ からメモリ安全な Rust への自動変換を可能にする有望なアプローチであることを示しました。特に、GPT-4-Turbo などの高性能モデルを用いることで、不安全な構造物をほぼ完全に排除できる可能性が確認されました。