Wrong Code, Right Structure: Learning Netlist Representations from Imperfect LLM-Generated RTL

本論文は、機能的に不完全でも構造的なパターンが機能意図を反映する LLM 生成 RTL を活用して合成ネットリストの表現学習を行う新たなフレームワークを提案し、実世界の回路設計におけるデータ不足というボトルネックを解消することを示しています。

要約

この論文は、**「完璧でなくても、構造が正しければ役立つ」**という面白いアイデアを提案しています。

専門用語を避け、日常の例え話を使ってわかりやすく解説しますね。

🏗️ 核心となるアイデア：「間違ったレシピでも、料理の形は残っている」

この研究の主人公は、**「大規模言語モデル（LLM）」**という AI です。この AI は、電子回路の設計図（RTL というコード）を大量に作ることができます。

しかし、問題があります。この AI が作った設計図は、**「機能面では間違っていることが多い」**のです。
例えば、「足し算をする回路」を作れと言われたのに、AI は「引き算」をしてしまったり、計算結果が少しズレたりします。

これまでの常識：
「設計図に間違いがあるなら、ゴミ箱に捨てて使えない！」と考えられていました。
そのため、正しい設計図（ラベル付きデータ）を集めるには、人間が一つ一つチェックして手作業でラベルを貼る必要があり、非常に時間とお金がかかり、データが不足していました。

この論文の発見（ひらめき）：
著者たちは、ある重要なことに気づきました。
**「AI が作った回路は、計算結果（機能）は間違っていても、回路の『形』や『構造』は、本来の正しい回路と非常によく似ている」**ということです。

🍳 料理の例えで説明します

• 正しい設計図（Golden）： 完璧な「パスタのレシピ」。
• AI の設計図（Wrong Code）： 塩の量が間違っていたり、火加減が少し違う「失敗したパスタのレシピ」。

味（機能）は微妙に違うかもしれませんが、「パスタを茹でて、ソースをかけて、皿に盛る」という「手順の構造」は同じです。

この論文は、**「味（機能）が多少違っても、構造（レシピの手順）が正しければ、AI はその『構造の形』を学習して、他の料理（新しい回路）を識別できるようになる」**と主張しています。

---

🚀 彼らがやったこと：3 つのステップ

彼らは、この「不完全な AI の設計図」をどうやって有効活用するか、3 つのステップで仕組みを作りました。

1. 大量に作らせる（AI 料理人の雇い方）

まず、AI に「パスタを作れ」「ピザを作れ」と指示を出して、大量の設計図を生成させます。

• ポイント： AI は、同じ「パスタ」でも、イタリア風、アメリカ風、和風など、作り方のバリエーション（アーキテクチャ）が豊富に作れます。人間が手作業でルールを決めるだけでは出せない多様性があります。

2. 選別する（味見と構造チェック）

生成された設計図には「機能エラー」が多いので、そのまま使うと危険です。そこで 2 つのフィルターを使います。

• フィルター A（構造の類似度）： 「この失敗したパスタのレシピは、本物のパスタの『手順の構造』と似ているか？」をチェックします。似ていれば採用。
• フィルター B（投票システム）： 「この 10 個のレシピの中から、最も独創的で良い構造のものを選んでください」と AI 自身に投票させます。これにより、多様性のある良いデータだけを残します。

3. 学習させる（AI 教育）

選別された「味は少し違うけど、構造は正しい」大量のデータを使って、回路を分析する AI（GNN という技術）を訓練します。

• 結果： この AI は、**「機能の正しさ」ではなく「回路の構造のパターン」**を覚えるようになります。

---

🌟 何がすごいのか？（成果）

この方法を実際にテストしたところ、驚くべき結果が出ました。

1. 少ないデータでも勝てる：
   通常、高性能な AI を作ろうとすると、人間が一生懸命ラベルを付けた「高品質なデータ」が大量に必要です。しかし、この方法では、「不完全な AI データ」だけで訓練した AI が、高品質データで訓練した AI と同じか、それ以上の性能を発揮しました。

   • 例え： 完璧な料理本が 1 冊しかない状況で、味は少し違うけど構造が正しい「練習用レシピ集」を 100 冊作って勉強させたら、プロの料理人になれる、という感じです。

2. 複雑な回路も識別できる：
   以前は、単純な「足し算回路」や「引き算回路」のような小さな部品（オペレーターレベル）しか識別できませんでした。
   しかし、この新しい方法を使えば、「CPU」や「メモリ」のような巨大で複雑なシステム全体（IP レベル）の境界線を、見知らぬ回路の中から見つけることができました。

💡 まとめ

この論文が伝えているメッセージはシンプルです。

「完璧なデータが手に入らないなら、不完全なデータでも、その『構造』さえ正しければ、AI はそれを学び、素晴らしい成果を出せる」

これにより、半導体業界で長年悩まされていた「学習データの不足」というボトルネックを、AI 自身を使って解決する道が開かれました。まるで、「間違ったレシピ集」から「料理の構造」を学び、結果として「どんな料理も判別できるプロ」を育てたようなものです。

技術概要

以下は、提示された論文「Wrong Code, Right Structure: Learning Netlist Representations from Imperfect LLM-Generated RTL」の技術的な要約です。

1. 背景と課題 (Problem)

回路網リスト（Netlist）の表現学習は、IP 海賊版検出、機能理解、リバースエンジニアリング、ハードウェアセキュリティ監査など、多くの下流タスクにおいて不可欠です。しかし、この分野のデータ駆動型アプローチ（教師あり学習や自己教師あり学習）は、高品質なラベル付きデータの不足という深刻なボトルネックに直面しています。

• 既存の課題: 実際の設計は知的財産権（IP）で保護されており、ラベル付けには莫大なコストがかかるため、既存の研究は小規模でクリーンなデータセット（ISCAS-85 や EPFL など）に限定されがちです。これにより、複雑な実世界の設計への汎化能力が制限されています。
• LLM の可能性と限界: 大規模言語モデル（LLM）はスケーラブルに RTL（レジスタ転送レベル）コードを生成できますが、生成されたコードは機能的に誤りを含みやすいです。従来のアプローチでは、機能的に正しいサンプルのみをフィルタリングする必要があり、そのコストが非常に高いため、LLM 生成コードの活用は困難でした。

2. 核心的な洞察 (Key Insight)

本研究は、**「LLM によって生成された RTL が機能的に不完全であっても、合成された網リスト（Netlist）には、意図された機能を強く示唆する構造的パターンが保持されている」**という重要な洞察に基づいています。
つまり、機能（Function）と構造（Structure）はある程度分離可能であり、機能的なノイズ（誤り）を含んでいても、構造的特徴は学習に有用であるという仮説を立てています。

3. 提案手法 (Methodology)

本研究では、不完全な LLM 生成 RTL をトレーニングデータとして体系的に活用する、コスト効率の高いデータ拡張およびトレーニングフレームワークを提案しています。このエンドツーエンドのパイプラインは以下の 3 つの主要な段階で構成されます。

A. 回路データ拡張 (Circuit Data Augmentation)

ラベル付きデータの不足を解消するため、設計仕様（または既存 RTL）を入力として、LLM を用いて大規模かつ多様な網リストを生成します。

1. LLM ベースの RTL 生成パイプライン:
   • ユーザー提供の仕様または既存 RTL から機能仕様を抽出し、LLM に RTL を再生成させます。
   • 合成ツールのエラーログを解析する「デバッグエージェント」を導入し、生成された RTL が合成可能（Synthesizable）であることを保証します。
   • 下位モジュールごとに仕様を生成するボトムアップ方式を採用し、階層構造の整合性を保ちます。
2. 網リストレベルのフィルタリング機構 (Netlist-level Filtering):
   • 生成された網リストの品質を制御します。
   • 構造類似性フィルタ: 生成された網リストと「ゴールデン（正解）」網リストのグラフ埋め込み間のコサイン類似度を計算し、閾値（$\tau$）以上の構造的特徴を持つもののみを保持します。これにより、機能的に無関係な設計を排除しつつ、アーキテクチャ的な多様性は維持します。
3. RTL レベルのアーキテクチャ投票 (RTL-level Architecture Voting):
   • 構造的多様性を促進するため、LLM に複数の生成候補（例：10 個）を評価させ、アーキテクチャの多様性と実装の複雑さに基づいて上位の候補（例：3 個）を選択します。これにより、同じ機能でも異なる実装（例：リップルキャリ加算器 vs キャリー・ルックアヘッド加算器）を学習データに含めます。

B. 網リスト表現学習 (Netlist Representation Learning)

拡張されたデータセットを用いて、グラフニューラルネットワーク（GNN）をトレーニングします。

• グラフ変換: 網リストをノード（論理ゲート）とエッジ（配線）からなるグラフに変換します。
• 特徴量抽出: 各ノードに対して、接続情報（PI/PO 接続の有無）、機能特徴（AND, XOR などのワンホットエンコーディング）、構造特徴（次数など）を初期特徴ベクトルとして付与します。
• GNN トレーニング: GraphSAINT を用いたサブグラフサンプリングにより大規模グラフを効率的に学習し、ノード埋め込みを生成します。

C. 分類タスク (Classification Tasks)

学習された埋め込みを用いて、以下の下流タスクを実行します。

• ノードレベル分類: フラット化された網リスト内のサブ回路境界の特定（どのゲートがどの機能モジュールに属するか）。
• グラフレベル分類: 回路全体の機能分類やコンポーネント識別。

4. 実験結果 (Results)

ベンチマークの規模を拡大し、演算子レベルから IP レベルまで評価を行いました。

• サブ回路境界特定タスク（演算子レベル）:
  • 既存の教師あり学習手法（GNN-RE ベースライン）と比較し、LLM 生成データでトレーニングしたモデルは、F1-Macro 93.79% を達成し、ベースライン（90.15%）を 3.64% 上回りました。
  • 少量の高品質データに依存する従来の手法よりも、大規模なノイズを含む合成データの方が優れた汎化性能を示しました。
• アーキテクチャ多様性の効果:
  • フィルタリングなしの LLM 生成データ（LLM-Raw）よりも、アーキテクチャ投票機構を組み込んだデータセット（Voting）の方が、未見のアーキテクチャに対する汎化性能が大幅に向上しました（F1-Micro 94.45%）。
• IP レベルのケーススタディ（PicoRV32 vs NEORV32）:
  • PicoRV32 の仕様でトレーニングし、完全に異なる設計（NEORV32）の網リストに対して CPU コアの境界を特定するタスクを行いました。
  • 従来のルールベースのデータ拡張（FGNN2 など）と比較して、提案手法は精度（Precision）と F1 スコアを大幅に改善しました（F1: 58.28% → 68.35%）。
  • 特に、構造類似性フィルタを導入することで、CPU コアと無関係なノイズを除去し、境界特定精度が向上することが確認されました。

5. 主要な貢献 (Key Contributions)

1. 不完全な RTL の価値の再評価: 機能誤りを含んでいても、網リストの構造的特徴は機能的な誤りに対して頑健であり、表現学習に有効であることを実証しました。
2. コスト効率の高い学習フレームワークの提案: 手動アノテーションやルールベースの拡張に代わり、設計仕様のみから大規模で多様なトレーニングデータを生成する初の体系的なフレームワークを構築しました。データ準備コストを桁違いに削減しつつ、アーキテクチャ的多様性を確保しています。
3. 実世界スケーラビリティの実証: 演算子レベルから IP レベル（SoC 全体）までタスクを拡張し、限られた高品質ラベルに依存せず、実世界の複雑な設計に対する表現学習のボトルネックを解決する実用的なソリューションを提供しました。

6. 意義 (Significance)

この研究は、ハードウェア設計における AI 応用の大きな障壁であった「ラベル付きデータの不足」を、LLM の生成能力と「構造と機能の分離」という洞察によって克服する道筋を示しました。機能的に完璧である必要はなく、構造的特徴さえ保持されていれば、LLM 生成の「不完全なコード」が高度な回路解析タスクにおいて強力な教師信号となり得ることを実証しました。これにより、大規模な回路設計の自動解析、セキュリティ監査、リバースエンジニアリングなどの分野において、データ駆動型アプローチの実用性が飛躍的に高まることが期待されます。