🤖 machine learning

Beyond Tokens: Enhancing RTL Quality Estimation via Structural Graph Learning

Dieses Paper stellt StructRTL vor, ein neuartiges strukturbewusstes Graph-Self-Supervised-Learning-Framework, das Steuerungsdatenflussgraphen und Wissensdestillation aus Post-Mapping-Netlisten nutzt, um bestehende LLM-basierte Methoden bei der Schätzung von RTL-Designqualitätsmetriken wie Fläche und Verzögerung signifikant zu übertreffen.

Ursprüngliche Autoren: Yi Liu, Hongji Zhang, Yiwen Wang, Dimitris Tsaras, Lei Chen, Mingxuan Yuan, Qiang Xu

Veröffentlicht 2026-06-01

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Yi Liu, Hongji Zhang, Yiwen Wang, Dimitris Tsaras, Lei Chen, Mingxuan Yuan, Qiang Xu

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Stellen Sie sich vor, Sie sind ein Architekt, der einen massiven, komplexen Wolkenkratzer entwirft. Noch bevor Sie auch nur den ersten Kubikmeter Beton gießen oder den ersten Ziegel legen, wollen Sie wissen: Wird dieses Gebäude zu schwer sein? Werden die Aufzüge zu langsam sein?

In der Welt des Computerchip-Designs stehen Ingenieure genau vor diesem Problem. Sie schreiben Code (genannt RTL), um zu beschreiben, wie ein Chip funktionieren soll. Um herauszufinden, ob der Chip schnell genug oder klein genug sein wird, müssen sie normalerweise eine massive, langsame Computersimulation namens „Logik-Synthese“ durchführen. Das ist so, als müsste man erst ein maßstabsgetreues Modell des Wolkenkratzers bauen, nur um dessen Maße zu bestimmen. Dies dauert sehr lange und verlangsamt den gesamten Designprozess.

Das vorliegende Paper stellt ein neues Werkzeug namens StructRTL vor. Betrachten Sie es als ein „superschnelles Kristallkugel-Instrument“, das in der Lage ist, den Bauplan (den Code) zu lesen und sofort das Gewicht und die Geschwindigkeit des Gebäudes zu schätzen, ohne dass zuvor ein Modell gebaut werden muss.

So funktioniert es, unterteilt in einfache Konzepte:

1. Das Problem: Das „falsche“ Buch lesen

Frühere Versuche, diese „Kristallkugel“ zu bauen, nutzten zwei Hauptmethoden, die beide Mängel aufwiesen:

Die „Token“-Methode (LLMs): Dies ist, als würde man einen intelligenten Roboter bitten, den Bauplan Zeile für Zeile und Wort für Wort zu lesen. Obwohl der Roboter hervorragend Grammatik und Vokabular versteht, übersieht er oft das „Große Ganze“ – also wie die Räume miteinander verbunden sind. Er sieht die Wörter „Tür“ und „Flur“, begreift aber nicht vollständig den komplexen strukturellen Fluss dazwischen.
Die „Handgefertigte“-Methode: Dies ist, als würde man einen Menschen bitten, die Anzahl der Fenster und Türen zu zählen und diese Zahlen in einen einfachen Taschenrechner einzugeben. Es ist zu starr und übersieht die subtilen, komplexen Beziehungen im Design.

2. Die Lösung: Die „Strukturkarte“ (CDFG)

Die Autoren erkannten, dass man, um vorherzusagen, wie ein Chip performt, sein Skelett sehen muss, nicht nur den Text. Sie verwenden eine spezielle Karte, die als Control Data Flow Graph (CDFG) bezeichnet wird.

Die Analogie: Stellen Sie sich vor, Sie nehmen den Bauplan und verwandeln ihn in einen U-Bahn-Plan.
- Knoten (Stationen): Dies sind die Operationen (wie das Addieren von Zahlen) oder Speicher (wie Register).
- Kanten (Gleise): gleichen: Sie zeigen, wie Daten von einer Station zur nächsten fließen.
- Der Unterschied: Im Gegensatz zu einem Textdokument zeigt diese Karte explizit, wie die Teile miteinander verbunden sind. Sie offenbart die „Verkehrsstaus“ (Verzögerungen) und die „Baukosten“ (Fläche), die im Code verborgen liegen.

3. Wie StructRTL lernt: Das „Lückentext“-Spiel

Anstatt nur die Karte auswendig zu lernen, bringt sich StructRTL selbst etwas bei, indem es ein Spiel namens Self-Supervised Learning spielt. Es ist, als würde ein Lehrer Teile eines U-Bahn-Plans verstecken und den Schüler fragen, was fehlt.

Aufgabe 1: Den Stationstyp erraten (Masked Node Modeling): Der Computer deckt eine Station auf dem Plan ab und fragt: „Ist dies eine ‚Bahnhofstation‘ (ein Addierer) oder ein ‚Bushaltestelle‘ (ein Speicherregister)?“ Um korrekt zu raten, muss die KI den Kontext der umliegenden Gleise verstehen. Dies lehrt sie, was jeder Teil tut.
Aufgabe 2: Die Gleise erraten (Edge Prediction): Der Computer verbirgt die Linien, die die Stationen verbinden, und fragt: „Führt ein Gleis von Station A nach Station B?“ Dies zwingt die KI, die Struktur und den Fluss des Designs zu verstehen.

Indem die KI diese Spiele Millionen von Malen an tausenden Designs spielt, lernt sie, die Struktur eines Chips zu „fühlen“. Sie lernt, dass bestimmte Verbindungsmuster meist bedeuten, dass ein Chip langsam sein wird, während andere bedeuten, dass er klein sein wird.

4. Das Geheimnis: „Lehrer-Schüler“-Coaching

Selbst mit einer guten Karte ist die Vorhersage des endgültigen Gewichts und der Geschwindigkeit schwierig, da die Karte nur eine abstrakte Skizze ist und nicht das fertige Gebäude. Um noch besser zu werden, nutzt StructRML eine Knowledge Distillation-Strategie.

Die Analogie: Stellen Sie sich einen Meister-Baumeister (den „Lehrer“) vor, der den Wolkenkratzer bereits gebaut hat und dessen exaktes Gewicht und Geschwindigkeit kennt.
Der Prozess: Der Meister-Baumeister betrachtet das fertige Gebäude und erklärt dem Schüler (StructRTL) die Details. Der Schüler versucht, das Verständnis des Meisters nachzuahmen.
Das Ergebnis: Der Schüler lernt die „Low-Level-Geheimnisse“ des fertigen Gebäudes und wendet sie auf die Baupläne an. Dies ermöglicht es dem Schüler, unglaublich genaue Vorhersagen allein durch den Blick auf die Karte zu treffen, ohne das ganze Gebäude bauen zu müssen.

5. Die Ergebnisse: Schnell und Genau

Das Paper behauptet, dass diese neue Methode eine enorme Verbesserung darstellt:

Geschwindigkeit: Es sagt die Qualität des Chips in einem Bruchteil einer Sekunde voraus (etwa 0,1 Sekunden), während die traditionelle Methode etwa 14 Sekunden benötigt. Das ist eine 145-fache Beschleunigung.
Genauigkeit: Es ist bei der Schätzung sowohl der Größe (Fläche) als auch der Geschwindigkeit (Verzögerung) des Chips weitaus besser als bisherige Methoden, einschließlich solcher, die riesige KI-Sprachmodelle nutzen.
Geringe Datenmenge: Es funktioniert auch dann gut, wenn man nicht über eine massive Menge an Trainingsdaten verfügt, was besonders wichtig für neue Chip-Technologien ist, bei denen Daten knapp sind.

Zusammenfassung

StructRML ist eine neue Art, vorherzusagen, wie gut ein Computerchip-Design sein wird. Anstatt den Code wie eine Geschichte zu lesen oder Teile wie eine Tabelle zu zählen, verwandelt es den Code in eine Strukturkarte und trainiert eine KI darauf, die Verbindungen auf dieser Karte zu verstehen. Indem es die KI lehrt, fehlende Teile der Karte zu ergänzen und sie von einem „Meister-Baumeister“ lernen lässt, der die Chips bereits gebaut hat, kann es Ingenieuren sofort sagen, ob ihr Design schnell und effizient sein wird – und spart ihnen so stundenlange Wartezeiten.

Technisches Resümee: Beyond Tokens: Enhancing RTL Quality Estimation via Structural Graph Learning

Problemstellung

Im EDA-Workflow (Electronic Design Automation) ist die Schätzung der Qualität von Register-Transfer-Level (RTL)-Designs – insbesondere Metriken wie Fläche (Area) und Verzögerung (Delay) – entscheidend, um sofortiges Feedback zu geben, ohne den Rechenaufwand einer vollständigen Logiksynthese zu verursachen. Während jüngere Ansätze Large Language Models (LLMs) genutzt haben, um Embeddings aus RTL-Code-Tokens abzuleiten, argumentieren die Autoren, dass diese Methoden die essenzielle strukturelle Semantik vernachlässigen. Token-basierte Ansichten kodieren strukturelle Informationen implizit, während Control Data Flow Graphs (CDFGs) die strukturellen Merkmale eines Designs explizit offenlegen und somit reichhaltigere Hinweise für das Representation Learning bieten. Darüber hinaus verlassen sich bestehende graphbasierte Methoden oft auf oberflächliche, handgefertigte Merkmale, die nicht in der Lage sind, die komplexen Muster zu erfassen, die die nachgelagerte Performance beeinflussen.

Methodik

Das Paper stellt StructRTL vor, ein strukturbewusstes Graph-Self-Supervised-Learning-Framework, das darauf ausgelegt ist, die Qualitätsschätzung von RTL-Designs zu verbessern. Die Methodik besteht aus vier Hauptkomponenten:

1. CDFG-Konstruktion

Anstatt rohe RTL-Code-Tokens zu verarbeiten, operiert StructRTL auf Control Data Flow Graphs (CDFGs). Die Konstruktionspipeline umfasst:

Die Kompilierung des RTL-Quellcodes in eine RTL Intermediate Language (RTLIL) mittels Yosys.
Die Generierung eines Abstract Syntax Tree (AST) aus der RTLIL unter Verwendung des Stagira Verilog Parsers.
Das Durchlaufen des AST zur Extraktion des CDFG, wobei Knoten Operationen oder Speicherelemente repräsentieren und gerichtete Kanten Daten- oder Steuerungsabhängigkeiten angeben.

2. Modellarchitektur

StructRTL verwendet eine hybride Architektur, die ein Graph Neural Network (GNN) und einen Transformer-Encoder kombiniert:

Initialisierung: Die Knoten-Embeddings werden durch die Konkatenation der One-Hot-Kodierung des Knotentyps und der Knotenbreite (Node Width) initialisiert.
GNN-Verarbeitung: Ein Graph Isomorphism Network (GIN) führt Message Passing durch, um kontextsensitive Embeddings zu generieren.
Positional Encoding: Um die strukturellen Informationen zu bewahren, die beim Flattening des Graphen für den Transformer verloren gehen, werden globale Position-Embeddings unter Verwendung der Eigenvektoren der symmetrisch normalisierten Laplace-Matrix des gerichteten Graphen berechnet.
Transformer-Encoder: Die kontextsensitiven Embeddings werden zusammen mit den Position-Embeddings von einem Transformer-Encoder verarbeitet, um die finalen, strukturinformierten Embeddings zu erzeugen.

3. Self-Supervised Pretraining

Um reichhaltige Repräsentationen zu erlernen, durchläuft das Modell zwei maßgeschneiderte Pretraining-Aufgaben auf den CDFGs:

Strukturbewusste Maskierte Knotenmodellierung (Masked Node Modeling): Im Gegensatz zum Standard-Masking von rohen Features maskiert diese Aufgabe post-GNN kontextsensitive Embeddings. Das Modell sagt den ursprünglichen Knotentyp (ein 32-Klassen-Klassifizierungsproblem) für maskierte Knoten voraus. Um die starke Klassenimbalance (z. B. seltene Operatoren vs. häufige Leitungen/Wires) zu adressieren, verwenden die Autoren stratifiziertes Masking (Sicherstellung eines Mindestanzahl an Samples pro Klasse) und einen klassenbalancierten Focal Loss.
Kanten-Vorhersage (Edge Prediction): Da das Flattening des Graphen für den Transformer die Konnektivität verschleiert, behandelt diese Aufgabe die Kantenwiederherstellung als binäres Klassifizierungsproblem. Das Modell sagt voraus, ob eine Kante zwischen zwei Knoten existiert, basierend auf deren finalen Embeddings, unter Verwendung eines Multi-Layer Perceptrons (MLP).

4. Wissensdestillation (Knowledge Distillation)

Um die Lücke zwischen RTL-level CDFGs und den tatsächlichen Post-Mapping (PM) Netlisten, in denen Fläche und Verzögerung gemessen werden, zu schließen, integrieren die Autoren eine Wissensdestillationsstrategie:

Ein PM-basierter Prädiktor wird zuerst auf synthetisierten Netlisten (unter Verwendung eines GIN) trainiert und eingefroren.
Dieser Prädiktor leitet den CDFG-basierten Prädiktor (StructRTL), indem er dessen Final-Layer-Aktivierungen über eine Verlustfunktion kombiniert, die Kosinus-Ähnlichkeit und den mittleren quadratischen Fehler (MSE) umfasst. Dies überträgt tiefe Erkenntnisse aus der Gate-Level-Perspektive auf das RTL-Level-Modell.

Zentrale Beiträge

StructRTL-Framework: Ein neuartiges Self-Supervised-Learning-Framework, das explizit CDFGs anstelle von Token-Sequenzen nutzt, um strukturelle Semantik zu erfassen.
Maßgeschneiderte Pretraining-Aufgaben: Die Einführung von strukturbewusster maskierter Knotenmodellierung und Kanten-Vorhersage, die speziell an computationale Graphen angepasst wurden und die Ambiguitätsprobleme adressieren, die mit dem Masking roher CDFG-Knoten einhergehen.
Cross-Stage Supervision: Die Integration von Wissensdestillation von Post-Mapping-Netlisten zur Verbesserung der Vorhersagegenauigkeit von RTL-Level-Estimatoren.
Open Source: Der Code wird veröffentlicht, um die weitere Forschung zu fördern.

Experimentelle Ergebnisse

Die Autoren evaluierten StructRTL auf einem Datensatz von 13.200 Designs und verglichen es mit graphbasierten Baselines (Graph-XGBoost, Graph-GNN) sowie LLM-basierten Baselines (CodeV-Varianten).

Performance: Ohne Wissensdestillation erreichte StructRTL einen $R^2$ -Score von 0,7463 für die Flächenvorhersage und 0,7630 für die Verzögerungsvorhersage und übertraf damit signifikant die bisherigen State-of-the-Art LLM-basierten Methoden (die jeweils ca. 0,63 und 0,52 erreichten).
Mit Wissensdestillation: Durch die Einbeziehung der Destillationsstrategie verbesserte sich StructRTL weiter auf 0,8676 ( $R^2$ ) für die Fläche und 0,8872 für die Verzögerung und übertraf damit alle Baselines.
Ablationsstudien: Das Entfernen einer der Pretraining-Aufgaben (maskierte Knotenmodellierung oder Kanten-Vorhersage) führte zu einer Verschlechterung der Performance, was die Notwendigkeit beider Aufgaben bestätigt.
Dateneffizienz: StructRTL behielt eine wettbewerbsfähige Performance auch bei Training mit nur 20 % der Daten bei und übertraf dabei die LLM-Baselines mit vollem Datensatz.
Industrielle Evaluierung: Bei 102 industriellen RTL-Modulen erreichte StructRTL eine Genauigkeit von 82,35 % bei der Flächen-Rangfolge (Area Ranking) und 88,23 % bei der Verzögerungs-Rangfolge (Delay Ranking) für Paarvergleiche.
Inferenzgeschwindigkeit: StructRTL liefert nahezu instantanes Feedback mit durchschnittlich 0,096 Sekunden pro Design im Vergleich zu 13,97 Sekunden für die Logiksynthese (eine 145-fache Beschleunigung).

Bedeutung und Ansprüche

Das Paper behauptet, dass die Kombination aus struktureller Repräsentationslernung und Cross-Stage-Supervision neue State-of-the-Art-Ergebnisse in der RTL-Qualitätsschätzung etabliert. Die Autoren betonen, dass die explizite Kodierung der strukturellen Semantik in CDFGs, gepaart mit Self-Supervised Learning und Wissensdestillation, es dem Modell ermöglicht, komplexe Designmuster zu erfassen, die von Token-basierten LLMs übersehen werden. Dieser Ansatz bietet eine praktische Lösung zur Beschleunigung von Designzyklen, indem er präzises, frühzeitiges Feedback zur Qualität ermöglicht, ohne den Rechenaufwand einer vollständigen Synthese, während er gleichzeitig effizient genug für iterative Design-Workflows bleibt. Die Arbeit hebt hervor, dass LLMs zwar exzellent in der Codegenerierung sind, aber möglicherweise nicht über den expliziten strukturellen Inductive Bias verfügen, der für eine präzise Hardware-Qualitätsschätzung erforderlich ist – eine Lücke, die durch strukturelles Graph-Learning effektiv geschlossen wird.