Sintesi Tecnica: Oltre i Token: Migliorare la Stima della Qualità RTL tramite l'Apprendimento di Grafi Strutturali

Definizione del Problema

Nel flusso di lavoro dell'Electronic Design Automation (EDA), stimare la qualità dei design RTL (Register Transfer Level)—specificamente metriche come area e ritardo—è fondamentale per fornire un feedback istantaneo senza l'onere computazionale della sintesi logica completa. Sebbene approcci recenti abbiano sfruttato i Large Language Models (LLM) per derivare embedding dai token del codice RTL, gli autori sostengono che questi metodi trascurino la semantica strutturale essenziale. Le viste basate su token codificano le informazioni strutturali implicitamente, mentre i Control Data Flow Graphs (CDFG) espongono esplicitamente le caratteristiche strutturali del design, offrendo indizi più ricchi per l'apprendimento delle rappresentazioni. Inoltre, i metodi basati su grafi esistenti spesso si affidano a feature superficiali e artigianali che non riescono a catturare i pattern complessi che influenzano le prestazioni a valle.

Metodologia

Il documento presenta StructRTL, un framework di apprendimento auto-supervisionato basato su grafi strutturali progettato per migliorare la stima della qualità del design RTL. La metodologia si compone di quattro componenti principali:

1. Costruzione del CDFG

Invece di elaborare i token del codice sorgente RTL, StructRTL opera su Control Data Flow Graphs (CDFG). La pipeline di costruzione prevede:

• La compilazione del codice sorgente RTL in RTL Intermediate Language (RTLIL) utilizzando Yosys.
• La generazione di un Abstract Syntax Tree (AST) da RTLIL tramite il parser Stagira Verilog.
• La traversata dell'AST per estrarre il CDFG, dove i nodi rappresentano operazioni o elementi di memoria e gli archi diretti indicano dipendenze di dati o di controllo.

2. Architettura del Modello

StructRTL impiega un'architettura ibrida che combina una Graph Neural Network (GNN) e un encoder Transformer:

• Inizializzazione: Gli embedding dei nodi sono inizializzati concatenando l'encoding one-hot del tipo di nodo e la larghezza del nodo.
• Elaborazione GNN: Una Graph Isomorphism Network (GIN) esegue il passaggio di messaggi per generare embedding contestualizzati.
• Codifica Posizionale: Per preservare l'informazione strutturale persa quando il grafo viene appiattito per il Transformer, vengono calcolati embedding posizionali globali utilizzando gli autovettori della matrice Laplaciana simmetrica normalizzata del grafo diretto.
• Encoder Transformer: Gli embedding contestualizzati, combinati con gli embedding posizionali, sono elaborati da un encoder Transformer per produrre gli embedding finali informati dalla struttura.

3. Pre-addestramento Auto-supervisionato

Per apprendere rappresentazioni ricche, il modello è sottoposto a due compiti di pre-addestramento su misura sui CDFG:

• Modellazione di Nodi Mascherati Sensibile alla Struttura (Structure-Aware Masked Node Modeling): A differenza del mascheramento standard delle feature grezze, questo compito maschera gli embedding contestualizzati post-GNN. Il modello predice il tipo di nodo originale (un problema di classificazione a 32 classi) per i nodi mascherati. Per affrontare il grave squilibrio delle classi (es. operatori rari vs fili comuni), gli autori utilizzano il mascheramento stratificato (garantendo campioni minimi per classe) e la loss focal class-balanced.
• Predizione degli Archi (Edge Prediction): Poiché l'appiattimento del grafo per il Transformer oscura la connettività, questo compito tratta il recupero degli archi come un problema di classificazione binaria. Il modello predice se esiste un arco tra due nodi basandosi sui loro embedding finali, utilizzando un Multi-Layer Perceptron (MLP).

4. Distillazione della Conoscenza

Per colmare il divario tra i CDFG a livello RTL e i netlist post-mapping (PM) dove vengono misurati area e ritardo, gli autori incorporano una strategia di distillazione della conoscenza:

• Un predittore basato su PM viene prima addestrato su netlist sintetizzate (usando una GIN) e poi congelato.
• Questo predittore guida il predittore basato su CDFG (StructRTL) allineando le loro attivazioni dell'ultimo strato tramite una funzione di perdita che combina la similarità del coseno e l'errore quadratico medio. Ciò trasferisce intuizioni di basso livello dalla vista a livello di gate al modello a livello RTL.

Contributi Chiave

• Framework StructRTL: Un nuovo framework di apprendimento auto-supervisionato che sfrutta esplicitamente i CDFG invece delle sequenze di token per catturare la semantica strutturale.
• Compiti di Pre-addestramento Su Misura: L'introduzione della modellazione di nodi mascherati sensibile alla struttura e della predizione degli archi specificamente adattati per i grafi computazionali, affrontando i problemi di ambiguità inerenti al mascheramento dei nodi CDFG grezzi.
• Supervisione Cross-Stage: L'integrazione della distillazione della conoscenza dai netlist post-mapping per migliorare l'accuratezza predittiva degli stimatori a livello RTL.
• Open Source: Il codice è rilasciato per facilitare ulteriori ricerche.

Risultati Sperimentali

Gli autori hanno valutato StructRTL su un dataset di 13.200 design, confrontandolo con baseline basate su grafi (Graph-XGBoost, Graph-GNN) e baseline basate su LLM (varianti di CodeV).

• Prestazioni: Senza la distillazione della conoscenza, StructRTL ha ottenuto un punteggio $R^2$ di 0,7463 per la predizione dell'area e 0,7630 per la predizione del ritardo, superando significativamente i precedenti metodi LLM allo stato dell'arte (che hanno ottenuto rispettivamente ~0,63 e ~0,52).
• Con la Distillazione della Conoscenza: Incorporando la strategia di distillazione, StructRiL è migliorato ulteriormente a 0,8676 ($R^2$) per l'area e 0,8872 per il ritardo, superando tutte le baseline.
• Studi di Ablazione: Rimuovere uno dei compiti di pre-addestramento (modellazione dei nodi mascherati o predizione degli archi) ha causato un degrado delle prestazioni, confermando la necessità di entrambi i compiti.
• Efficienza dei Dati: StructRTL ha mantenuto prestazioni competitive anche quando addestrato su solo il 20% dei dati, superando le baseline LLM con dataset completi.
• Valutazione Industriale: Su 102 moduli RTL industriali, StructRTL ha raggiunto l'82,35% di accuratezza nel ranking dell'area e l'88,23% nel ranking del ritardo per confronti a coppie.
• Velocità di Inferenza: StructRTL fornisce un feedback quasi istantaneo, con una media di 0,096 secondi per design rispetto ai 13,97 secondi della sintesi logica (un'accelerazione di 145×).

Significato e Rivendicazioni

Il documento afferma che la combinazione dell'apprendimento delle rappresentazioni strutturali con la supervisione cross-stage stabilisce nuovi risultati allo stato dell'arte nella stima della qualità RTL. Gli autori sottolineano che l'encoding esplicito della semantica strutturale nei CDFG, unito all'apprendimento auto-supervisionato e alla distillazione della conoscenza, consente al modello di catturare pattern di design complessi che gli LLM basati su token perdono. Questo approccio offre una soluzione pratica per accelerare i cicli di progettazione, consentendo un feedback precoce sulla qualità con un feedback accurato senza l'onere computazionale della sintesi completa, rimanendo al contempo sufficientemente efficiente dal punto di vista computazionale per i flussi di lavoro iterativi. Il lavoro evidenzia come, sebbene gli LLM eccellano nella generazione di codice, possano mancare dell'esplicito bias induttivo strutturale necessario per una precisa stima della qualità dell'hardware, un vuoto che l'apprendimento di grafi strutturali colma efficacemente.