Sintesi Tecnica: UniRTL

Definizione del Problema

Lo sviluppo di rappresentazioni efficaci per i design a livello di trasferimento di registro (RTL) è fondamentale per accelerare il flusso di lavoro della progettazione hardware, in particolare per compiti come la predizione delle prestazioni e il recupero del codice. Gli approoli esistenti si affidano tipicamente a una singola modalità di dati: o il codice sorgente RTL o una rappresentazione basata su grafi (come un Control Data Flow Graph, CDFG). Questa dipendenza unimodale limita la capacità espressiva e di generalizzazione delle rappresentazioni apprese. Mentre il codice codifica esplicitamente informazioni semantiche e funzionali, le modalità basate su grafi catturano relazioni strutturali critiche spesso opache nel codice. Inoltre, i precedenti tentativi multimodali nel dominio del software (ad esempio, GraphCodeBERT) o nel dominio dell'hardware (ad esempio, CircuitFusion) soffrono di strategie di allineamento deboli, rappresentazioni di grafi incomplete (che omettono operatori e flusso di controllo) o meccanismi di fusione a grana grossa che non riescono a sfruttare appieno la natura complementare dei dati di codice e di grafo.

Metodologia

Gli autori propongono UniRTL, un framework di pretraining multimodale progettato per apprendere rappresentazioni RTL unificate sfruttando congiuntamente il codice RTL e i CDFG. La metodologia si basa su tre componenti principali:

1. Costruzione del Dataset

Il framework utilizza un dataset di 132.008 design RTL raccolti da fonti tra cui RTLCoder, MG-Verilog, DeepRTL e DeepCircuitX. Questi design sono accoppiati con riassunti funzionali. Per generare i CDFG, i design vengono compilati in un linguaggio intermedio RTL (RTLIL) tramite Yosys, analizzati in Alberi di Sintassi Astratta (AST) tramite Stagira ed estratti attraverso la navigazione per ottenere i CDFG. Sebbene 38.888 design siano stati convertiti con successo in CDFG, i restanti campioni rumorosi (che hanno fallito la conversione) sono mantenuti per l'allineamento testo-codice al fine di massimizzare l'utilizzo dei dati.

2. Architettura del Modello

UniRTL impiega un'architettura Transformer unificata (basata su CodeBERT-base-mlm) per integrare diverse modalità, evitando la complessità di encoder specifici per ogni modalità.

• Tokenizer Graph-Aware: A differenza del lavoro precedente che appiattisce i nodi delle variabili, UniRTL introduce un tokenizer specializzato che combina una Graph Isomorphism Network (GIN) e un Transformer leggero. Questo tokenizer codifica i tipi di nodi, le larghezze e le descrizioni testuali, catturando sia le dipendenze strutturali locali che le informazioni contestuali globali all'interno del CDFG.
• Strategia di Training Gerarchico:
  • Pretraining: Il tokenizer graph-aware viene prima preaddestrato utilizzando la modellazione di nodi mascherati consapevole della struttura e la predizione degli archi.
  • Allineamento Testo-Codice: Prima di incorporare i dati del grafo, il modello attraversa una fase di warm-up allineando i riassunti funzionali (testo) e il codice sorgente RTL tramite la modellazione di mascheramento reciproco. Ciò massimizza l'utilizzo dei dati data l'abbondanza di coppie testo-codice.
  • Incorporazione del Grafo: Infine, l'informazione del grafo viene integrata. Il modello impiega la modellazione di mascheramento reciproco per ottenere un allineamento cross-modale a grana fine. In questa fase, i token mascherati nel testo e nel codice vengono recuperati utilizzando il contesto delle altre modalità, e i nodi del grafo mascherati vengono recuperati utilizzando il contesto del testo e del codice. Vengono aggiunti codifiche posizionali globali derivate dal Laplaciano del grafo per preservare la struttura topologica.

Contributi Chiave

• Framework Multimodale Unificato: UniRmente, UniRTL è il primo framework che sfrutta congiuntamente il codice RTL e i CDFG completi per l'apprendimento della rappresentazione, affrontando i limiti degli approcci unimodali.
• Allineamento a Grana Fine: Attraverso la modellazione di mascheramento reciproco, UniRTL raggiunge un allineamento a grana fine tra codice e grafo, superando l'apprendimento contrastivo a grana grossa utilizzato in lavori precedenti come CircuitFusion.
• Rappresentazione del Grafo Completa: Il framework utilizza CDFG che preservano l'informazione completa del design (inclusi operatori e flusso di controllo) e possono essere fedelmente riconvertiti in codice, a differenza dei flussi di dati semplificati o dei sottocircuiti a livello di registro utilizzati negli studi precedenti.
• Training Gerarchico: La strategia di preaddestrare un tokenizer graph-aware e di eseguire l'allineamento testo-codice prima dell'integrazione del grafo ottimizza l'utilizzo dei dati e le prestazioni del modello.

Risultati Sperimentali

UniRTL è stato valutato su due task downstream in molteplici configurazioni:

1. Predizione delle Prestazioni: Il modello ha predetto l'area e il ritardo post-sintesi, sia con che senza informazioni sul netlist.

   • Risultati: UniRTL ha superato costantemente tutti i baseline, inclusi StructRTL, VeriDistill, DeepRTL2 e GraphCodeBERT, in tutte le metriche (MAE, MAPE, R2, RRSE).
   • Ablazione: Rimuovere la componente del grafo ha degradato significativamente le prestazioni, confermando la necessità delle informazioni strutturali. Rimuovere la componente del codice ha causato un lieve calo, indicando un valore complementare.
   • Integrazione Netlist: Anche incorporando le informazioni del netlist tramite distillazione della conoscenza (usando un modello teacher addestrato sui netlist), UniRTL ha raggiunto risultati state-of-the-art.

2. Recupero del Codice: Il modello è stato testato su Ricerca del Codice tramite Linguaggio Naturale e Verifica dell'Equivalenza di Funzionalità.

   • Risultati: UniRTL ha ottenuto i punteggi F1 più alti nella Ricerca del Codice tramite Linguaggio Naturale e l'Average Precision (AP) più alto nella Verifica dell'Equivalenza di Funzionalità, superando i modelli di embedding generici e i modelli RTL specializzati.
   • Ablazione: La variante "UniRTL (w/o graph)" ha performato significativamente peggio del modello completo nella ricerca del codice, evidenziando l'importanza delle informazioni del grafo per la comprensione semantica.

Significato e Rivendicazioni

Il paper afferma che UniRTL stabilisce una base più robusta e potente per far avanzare l'automazione della progettazione hardware. Integrando modalità complementari attraverso un allineamento a grana fine, UniRTL supera i limiti espressivi degli approcci a singola modalità. Gli autori sottolineano che il loro approccio fornisce una comprensione completa dei design RTL, consentendo un feedback istantaneo sulle metriche di qualità e un efficiente riutilizzo dei moduli di design. Il lavoro è presentato come un passo verso sistemi di generazione di codice RTL più efficaci basati sulla generazione aumentata dal recupero (RAG) e stime delle prestazioni più accurate senza dipendere dalla lenta sintesi logica.

Gli autori segnalano limitazioni, tra cui la dipendenza dalla conversione riuscita dei CDFG, l'attuale restrizione a Verilog e la valutazione sotto impostazioni di sintesi fisse. Identificano l'estensione del framework ad altri linguaggi di descrizione hardware, a design industriali più grandi e a diversi flussi di sintesi come importanti lavori futuri.