🤖 machine learning

Beyond Tokens: Enhancing RTL Quality Estimation via Structural Graph Learning

Dit artikel introduceert StructRTL, een nieuw structuurbewust graph self-supervised learning framework dat controle-datastroomgrafen en kennisdistillatie van post-mapping netlists benut om bestaande LLM-gebaseerde methoden aanzienlijk te overtreffen bij het schatten van RTL-ontwerpkwaliteitsmetrieken zoals oppervlakte en vertraging.

Oorspronkelijke auteurs: Yi Liu, Hongji Zhang, Yiwen Wang, Dimitris Tsaras, Lei Chen, Mingxuan Yuan, Qiang Xu

Gepubliceerd 2026-06-01

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Yi Liu, Hongji Zhang, Yiwen Wang, Dimitris Tsaras, Lei Chen, Mingxuan Yuan, Qiang Xu

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een architect bent die een enorme, complexe wolkenkrabber ontwerpt. Nog voordat je zelfs maar beton stort of stenen legt, wil je weten: Wordt dit gebouw te zwaar? Worden de liften te traag?

In de wereld van computerchipontwerp is dit precies waar ingenieurs voor staan. Ze schrijven code (genoemd RTL) om te beschrijven hoe een chip moet werken. Om erachter te komen of de chip snel genoeg of klein genoeg zal zijn, moeten ze meestal een enorme, trage computersimulatie draaien die "logische synthese" wordt genoemd. Het is alsof je een op ware grootte bestaand model van de wolkenkrabber bouwt, alleen maar om de afmetingen te meten. Dit kost veel tijd en vertraagt het hele ontwerpproces.

De paper die je hebt verstrekt, introduceert een nieuwe tool genaamd StructRTL. Denk aan StructRTL als een "supersnelle kristallen bol" die naar de blauwdrukken (de code) kan kijken en direct kan raden naar het gewicht en de snelheid van het gebouw, zonder dat er eerst een model gebouwd hoeft te worden.

Dit is hoe het werkt, onderverdeeld in eenvoudige concepten:

1. Het Probleem: Het "Verkeerde" Boek Lezen

Eerdere pogingen om deze "kristallen bol" te bouwen gebruikten twee hoofdmethoden, die beide gebreken hadden:

De "Token"-methode (LLM's): Dit is alsof je een slimme robot vraagt om de blauwdruk regel voor regel, woord voor woord te lezen. Hoewel de robot uitstekend is in het begrijpen van grammatica en vocabulaire, mist hij vaak het grote plaatje van hoe de kamers met elkaar verbonden zijn. Hij ziet de woorden "deur" en "gang", maar begrijpt de complexe structurele doorstroom tussen hen niet volledig.
De "Handmatig Gemaakte" Methode: Dit is alsof je een mens vraagt om het aantal ramen en deuren te tellen en die getallen in een eenvoudige rekenmachine in te voeren. Het is te rigide en mist de subtiele, complexe relaties in het ontwerp.

2. De Oplossing: De "Structurele Kaart" (CDFG)

De auteurs realiseerden zich dat je, om te voorspellen hoe een chip presteert, de skeletbouw moet zien, niet alleen de tekst. Ze gebruiken een speciale kaart die een Control Data Flow Graph (CDFG) wordt genoemd.

De Analogie: Stel je voor dat je de blauwdruk neemt en deze verandert in een metrokaart.
- Nodes (Stations): Dit zijn de operaties (zoals het optellen van getallen) of opslag (zoals geheugenregisters).
- Edges (Spoorlijnen): Deze laten zien hoe data van de ene naar de andere station stroomt.
- Het Verschil: In tegenstelling tot een tekstdocument, laat deze kaart expliciet zien hoe de onderdelen met elkaar verbonden zijn. Het onthult de "files" (vertragingen) en de "bouwkosten" (oppervlakte) die verborgen zitten in de code.

3. Hoe StructRTL Leert: Het "Invulspel"

In plaats van alleen de kaart te memoriseren, leert StructRTL zichzelf door een spel te spelen genaamd Self-Supervised Learning. Het is also al een leraar die delen van een metrokaart verbergt en de leerling vraagt om te raden wat er ontbreekt.

Taak 1: Raad het Stationstype (Masked Node Modeling): De computer bedekt een station op de kaart en vraagt: "Is dit een 'Treinstation' (een adder) of een 'Bushalte' (een geheugenregister)?" Om correct te raden, moet de AI de context van de omliggende spoorlijnen begrijpen. Dit leert de AI wat elk onderdeel doet.
Taak 2: Raad de Spoorlijnen (Edge Prediction): De computer verbergt de lijnen die de stations verbinden en vraagt: "Loopt er een spoor van Station A naar Station B?" Dit dwingt de AI om de structuur en de doorstroom van het ontwerp te begrijpen.

Door deze spellen miljoenen keren te spelen op duizenden ontwerpen, leert de AI de structuur van een chip te "voelen". De AI leert dat bepaalde patronen van verbindingen er meestal voor zorgen dat een chip traag is, terwijl andere patronen betekenen dat hij klein is.

4. De "Secret Sauce": "Docent-Student" Coaching

Zelfs met een goede kaart is het voorspellen van het uiteindelijke gewicht en de snelheid moeilijk, omdat de kaart een abstracte schets is en geen voltooid gebouw. Om nog beter te worden, gebruikt StructRTL een Knowledge Distillation strategie.

De Analogie: Stel je een Meesterbouwer (de "Docent") voor die de wolkenkrabber al heeft gebouwd en de exacte massa en snelheid kent.
Het Proces: De Meesterbouwer kij je naar het voltooide gebouw en legt de details uit aan de Student (StructRTL). De Student probeert het begrip van de Meester na te bootsen. De Student probeert de details van het voltooide gebouw te imiteren.
Het Resultaat: De Student leert de "laag-niveau geheimen" van het voltooide gebouw en past deze toe op de blauwdrukken. Hierdoor kan de Student ongelooflijk nauwkeurige voorspellingen doen door enkel naar de kaart te kijken, zonder dat het hele gebouw gebouwd hoeft te worden.

5. De Resultaten: Snel en Nauwkeurig

De paper beweert dat deze nieuwe methode een enorme verbetering is:

Snelheid: Het voorspelt de kwaliteit van de chip in een fractie van een seconde (ongeveer 0,1 seconden), terwijl de traditionele methode ongeveer 14 seconden duurt. Dat is een 145x versnelling.
Nauwkeurigheid: Het is veel beter in het raden van zowel de grootte (oppervlakte) als de snelheid (vertraging) van de chip dan eerdere methoden, inclusief die welke gebruikmaken van enorme AI-taalmodellen.
Kleine Datasets: Het werkt goed, zelfs als je niet over een enorme hoeveelheid trainingsdata beschikt, wat ideaal is voor nieuwe chiptechnologieën waar data schaars is.

Samenvatting

StructRTL is een nieuwe manier om te voorspellen hoe goed een computerchipontwerp zal zijn. In plaats van de code te lezen als een verhaal of onderdelen te tellen als een spreadsheet, verandert het de code in een structurele kaart en traint het een AI om de verbindingen op die kaart te begrijpen. Door de AI te leren de ontbrekende delen van de kaart in te vullen en het te laten leren van een "Meesterbouwer" die de chips al heeft gebouwd, kan het ingenieurs direct vertellen of hun ontwerp snel en efficiënt zal zijn, wat hen uren aan wachttijd bespaart.

Technische Samenvatting: Beyond Tokens: Enhancing RTL Quality Estimation via Structural Graph Learning

Probleemstelling

In de Electronic Design Automation (EDA) workflow is het schatten van de kwaliteit van Register Transfer Level (RTL) ontwerpen—specifiek metrieken zoals oppervlakte (area) en vertraging (delay)—cruciaal voor het bieden van directe feedback zonder de computationele kosten van volledige logische synthese. Hoewel recente benaderingen Large Language Models (LLMs) hebben ingezet om embeddings af te leiden uit RTL-codetokens, stellen de auteurs dat deze methoden essentiële structurele semantiek over het hoofd zien. Token-gebaseerde weergaven coderen structurele informatie impliciet, terwijl Control Data Flow Graphs (CDFGs) de structurele kenmerken van het ontwerp expliciet blootleggen, wat rijkere aanwijzingen biedt voor representation learning. Bovendien vertrouwen bestaande graafgebaseerde methoden vaak op oppervlakkige, handmatig ontworpen kenmerken die er niet in slagen de complexe patronen te vangen die de downstream prestaties beïnvloeden.

Methodologie

Het artikel introduceert StructRTL, een structuurbewust graph self-supervised learning framework dat is ontworpen om de kwaliteitsschatting van RTL-ontwerpen te verbeteren. De methodologie bestaat uit vier hoofdonderdelen:

1. CDFG Constructie

In plaats van ruwe RTL-codetokens te verwerken, werkt StructRTL op Control Data Flow Graphs (CDFGs). De constructie-pipeline omvat:

Het compileren van RTL-broncode naar RTL Intermediate Language (RTLIL) met behulp van Yosys.
Het genereren van een Abstract Syntax Tree (AST) uit RTLIL met behulp van de Stagira Verilog parser.
Het doorlopen van de AST om de CDFG te extraheren, waarbij knopen operaties of opslagelementen vertegenwoordigen, en gerichte randen (edges) data- of controleafhankelijkheden aangeven.

2. Modelarchitectuur

StructRTL maakt gebruik van een hybride architectuur die een Graph Neural Network (GNN) en een Transformer-encoder combineert:

Initialisatie: Node-embeddings worden geïnitialiseerd door de one-hot codering van het knooptype en de knoopbreedte (node width) te concateneren.
GNN Verwerking: Een Graph Isomorphism Network (GIN) voert message passing uit om contextbewuste embeddings te genereren.
Positional Encoding: Om structurele informatie te behouden die verloren gaat bij het afvlakken van de graaf voor de Transformer, worden globale positionele embeddings berekend met behulp van de eigenvectoren van de symmetrisch genormaliseerde Laplacian-matrix van de gerichte graaf.
Transformer Encoder: De contextbewuste embeddings, gecombineerd met positionele embeddings, worden door een Transformer-encoder verwerkt om uiteindelijke structuur-geïnformeerde embeddings te produceren.

3. Self-Supervised Pretraining

Om rijke representaties te leren, ondergaat het model twee op maat gemaakte pretraining-taken op de CDFGs:

Structure-Aware Masked Node Modeling: In tegenstelling tot standaard masking van ruwe kenmerken, maskeert deze taak post-GNN contextbewuste embeddings. Het model voorspelt de oorspronkelijke knooptype (een 32-klasse classificatieprobleem) voor gemaskeerde knopen. Om ernstige klasse-imbalans aan te pakken (bijv. zeldzame operatoren versus veelvoorkomende draden), gebruiken de auteurs gestratificeerde masking (het garanderen van een minimum aantal samples per klasse) en klasse-gebalanceerde focal loss.
Edge Prediction: Omdat het afvlakken van de graaf voor de Transformer de connectiviteit maskeert, behandelt deze taak edge-herstel als een binaire classificatieopgave. Het model voorspelt of er een rand bestaat tussen twee knopen op basis van hun uiteindelijke embeddings, met behulp van een Multi-Layer Perceptron (MLP).

4. Knowledge Distillation

Om de kloof te overbruggen tussen RTL-niveau CDFGs en de werkelijke post-mapping (PM) netlijsten waar oppervlakte en vertraging worden gemeten, integreren de auteurs een kennisdistillatiestrategie:

Een PM-gebaseerde voorspeller wordt eerst getraind op gesynthetiseerde netlijsten (met behulp van een GIN) en bevroren.
Deze voorspeller stuurt de CDFG-gebaseerde voorspeller (StructRTL) aan door hun final-layer activaties af te stemmen via een loss-functie die cosine similarity en mean squared error combineert. Dit draagt lage-niveau inzichten over van het gate-level perspectief naar het RTL-niveau model.

Belangrijkste Bijdragen

StructRTL Framework: Een nieuw self-supervised learning framework dat expliciet CDFGs gebruikt in plaats van tokensequenties om structurele semantiek te vangen.
Op Maat Gemaakte Pretraining Taken: De introductie van structure-aware masked node modeling en edge prediction, specifiek aangepast voor computationele grafen, wat de ambiguïteitsproblemen aanpakt die inherent zijn aan het maskeren van ruwe CDFG-knopen.
Cross-Stage Supervision: De integratie van kennisdistillatie van post-mapping netlijsten om de voorspellende nauwkeurigheid van RTL-niveau estimators te verbeteren.
Open Source: De code wordt vrijgegeven om verder onderzoek te faciliteren.

Experimentele Resultaten

De auteurs evalueerden StructRTL op een dataset van 13.200 ontwerpen, waarbij ze het vergeleken met graafgebaseerde baselines (Graph-XGBoost, Graph-GNN) en LLM-gebaseerde baselines (CodeV varianten).

Prestaties: Zonder kennisdistillatie behaalde StructRTL een $R^2$ score van 0,7463 voor oppervlaktevoorspelling en 0,7630 voor vertragingsvoorspelling, wat aanzienlijk beter is dan de vorige state-of-the-art LLM-gebaseerde methoden (die respectievelijk ~0,63 en ~0,52 scoorden).
Met Knowledge Distillation: Bij het toepassen van de distillatiestrategie verbeterde StructRTL verder naar 0,8676 ( $R^2$ ) voor oppervlakte en 0,8872 voor vertraging, waarmee het alle baselines overtrof.
Ablatie-studies: Het verwijderen van een van de pretraining-taken (masked node modeling of edge prediction) resulteerde in een verslechtering van de prestaties, wat de noodzaak van beide taken bevestigt.
Data-efficiëntie: StructRTL behield competitieve prestaties, zelfs wanneer het werd getraind op slechts 20% van de data, waarbij het de volledige LLM-baselines met volledige datasets overtrof.
Industriële Evaluatie: Op 102 industriële RTL-modules bereikte StructRTL 82,35% nauwkeurigheid in oppervlakte-ranking en 88,23% in vertragings-ranking voor paarvergelijkingen.
Inference Snelheid: StructRTL biedt bijna onmiddellijke feedback, met een gemiddelde van 0,096 seconden per ontwerp vergeleken met 13,97 seconden voor logische synthese (een 145× versnelling).

Betekenis en Claims

Het artikel beweert dat het combineren van structurele representatie learning met cross-stage supervisie nieuwe state-of-the-art resultaten vestigt voor RTL-kwaliteitsschatting. De auteurs benadrukken dat de expliciete codering van structurele semantiek in CDFGs, samen met self-supervised learning en kennisdistillatie, het model in staat stelt om complexe ontwerp patronen te vangen die token-gebaseerde LLM's missen. Deze aanpak biedt een praktische oplossing voor het versnellen van ontwerpcycli door nauwkeurige, vroegtijdige kwaliteitsfeedback te bieden zonder de computationele last van volledige synthese, terwijl het computationeel efficiënt genoeg blijft voor iteratieve ontwerpprocessen. Het werk benadrukt dat hoewel LLM's uitblinken in codegeneratie, ze mogelijk niet beschikken over de expliciete structurele inductieve bias die vereist is voor nauwkeurige hardware-kwaliteitsschatting, een gat dat structurele graaf-learning effectief opvult.