Resumen Técnico: Más allá de los tokens: Mejora de la estimación de la calidad de RTL mediante el aprendizaje de grafos estructurales

Planteamiento del problema

En el flujo de trabajo de la Automatización de Diseño Electrónico (EDA), la estimación de la calidad de los diseños de Transferencia de Registro a Nivel de Lógica (RTL)—específicamente métricas como el área y el retardo—es crítica para proporcionar retroalimentación instantánea sin el gasto computacional de la síntesis lógica completa. Aunque enfoques recientes han aprovechado los Modelos de Lenguaje de Gran Escala (LLMs) para derivar embeddings de los tokens de código RTL, los autores argumentan que estos métodos pasan por alto la semántica estructural esencial. Las visiones basadas en tokens codifican la información estructural de forma implícita, mientras que los Grafos de Flujo de Datos de Control (CDFG) exponen explícitamente las características estructurales del diseño, ofreciendo pistas más ricas para el aprendizaje de representaciones. Además, los métodos basados en grafos existentes suelen depender de características superficiales y artesanales que no logran capturar los patrones complejos que afectan el rendimiento downstream.

Metodología

El artículo presenta StructRTL, un marco de aprendizaje auto-supervisado de grafos consciente de la estructura diseñado para mejorar la estimación de la calidad del diseño RTL. La metodología consta de cuatro componentes principales:

1. Construcción del CDFG

En lugar de procesar los tokens de código RTL bruto, StructRTL opera sobre Grafos de Flujo de Datos de Control (CDFG). El pipeline de construcción implica:

• Compilar el código fuente RTL en un Lenguaje Intermedio de RTL (RTLIL) utilizando Yosys.
• Generar un Árbol de Sintaxis Abstracta (AST) a partir de RTLIL usando el parser Stagira Verilog.
• Recorrer el AST para extraer el CDFG, donde los nodos representan operaciones o elementos de almacenamiento, y las aristas dirigidas indican dependencias de datos o de control.

2. Arquitectura del Modelo

StructRTL emplea una arquitectura híbrida que combina una Red Neuronal de Grafos (GNN) y un codificador Transformer:

• Inicialización: Los embeddings de los nodos se inicializan concatenando la codificación one-hot del tipo de nodo y el ancho del nodo.
• Procesamiento GNN: Una Red de Isomorfismo de Grafos (GIN) realiza el paso de mensajes para generar embeddings conscientes del contexto.
• Codificación Posicional: Para preservar la información estructural que se pierde al aplanar el grafo para el Transformer, se computan embeddings posicionales globales utilizando los autovectores de la matriz Laplaciana simétrica normalizada del grafo dirigido.
• Codificador Transformer: Los embeddings conscientes del contexto, combinados con los embeddings posicionales, son procesados por un codificador Transformer para producir los embeddings finales informados por la estructura.

3. Preentrenamiento Auto-supervisado

Para aprender representaciones ricas, el modelo se somete a dos tareas de preentrenamiento adaptadas a los CDFG:

• Modelado de Nodos Enmascarados Consciente de la Estructura: A diferencia del enmascaramiento estándar de características brutas, esta tarea enmascara los embeddings conscientes del contexto post-GNN. El modelo predice el tipo de nodo original (un problema de clasificación de 32 clases) para los nodos enmascarados. Para abordar el severo desequilibrio de clases (por ejemplo, operadores raros frente a cables comunes), los autores emplean enmascaramiento estratificado (asegurando muestras mínimas por clase) y pérdida focal balanceada por clase.
• Predicción de Aristas: Dado que el aplanado del grafo para el Transformer oscurece la conectividad, esta tarea trata la recuperación de aristas como un problema de clasificación binaria. El modelo predice si existe una arista entre dos nodos basándose en sus embeddings finales, utilizando un Perceptrón de Capa Múltiple (MLP).

4. Destilación de Conocimiento

Para cerrar la brecha entre los CDFG a nivel de RTL y los netlists reales post-mapeo (PM) donde se miden el área y el retardo, los autores incorporan una estrategia de destilación de conocimiento:

• Un predictor basado en PM se entrena primero en netlists sintetizados (usando una GIN) y se congela.
• Este predictor guía al predictor basado en CDFG (StructRTL) alineando sus activaciones de la última capa mediante una función de pérdida que combina la similitud de coseno y el error cuadrático medio. Esto transfiere conocimientos de bajo nivel desde la vista a nivel de compuerta hacia el modelo a nivel de RTL.

Contribuciones Clave

• Marco StructRTL: Un nuevo marco de aprendizaje auto-supervisado que aprovecha explícitamente los CDFG en lugar de secuencias de tokens para capturar la semántica estructural.
• Tareas de Preentrenamiento Adaptadas: La introducción de modelado de nodos enmascarados consciente de la estructura y predicción de aristas específicamente adaptadas para grafos computacionales, abordando los problemas de ambigüedad inherentes al enmascaramiento de nodos de CDFG brutos.
• Supervisión de Etapas Cruzadas: La integración de la destilación de conocimiento desde netlists post-mapeo para mejorar la precisión predictiva de los estimadores a nivel de RTL.
• Código Abierto: El código se libera para facilitar la investigación posterior.

Resultados Experimentales

Los autores evaluaron StructRL en un conjunto de datos de 13,200 diseños, comparándolo con baselines basados en grafos (Graph-XGBoost, Graph-GNN) y baselines basados en LLM (variantes de CodeV).

• Rendimiento: Sin la destilación de conocimiento, StructRTL logró un puntaje $R^2$ de 0.7463 para la predicción de área y 0.7630 para la predicción de retardo, superando significativamente a los métodos anteriores basados en LLM (que puntuaron ~0.63 y ~0.52 respectivamente).
• Con Destilación de Conocimiento: Al incorporar la estrategia de destilación, StructRTL mejoró aún más a 0.8676 ($R^2$) para área y 0.8872 para retardo, superando a todos los baselines.
• Estudios de Ablación: Eliminar cualquiera de las tareas de preentrenamiento (modelado de nodos enmascarados o predicción de aristas) resultó en una degradación del rendimiento, confirmando la necesidad de ambas tareas.
• Eficiencia de Datos: StructRTL mantuvo un rendimiento competitivo incluso cuando se entrenó con solo el 20% de los datos, superando a los baselines de LLM con datos completos.
• Evaluación Industrial: En 102 módulos RTL industriales, StructRTL logró un 82.35% de precisión en el ranking de área y un 88.23% en el ranking de retardo para comparaciones por pares.
• Velocidad de Inferencia: StructRTL proporciona retroalimentación casi instantánea, promediando 0.096 segundos por diseño en comparación con los 13.97 segundos de la síntesis lógica (una aceleración de 145×).

Significado y Reivindicaciones

El artículo afirma que la combinación del aprendizaje de representación estructural con la supervisión de etapas cruzadas establece nuevos resultados de vanguardia en la estimación de la calidad de RTL. Los autores enfatizan que la codificación explícita de la semántica estructural en los CDFG, junto con el aprendizaje auto-supervisado y la destilación de conocimiento, permite al modelo capturar patrones de diseño complejos que los LLM basados en tokens pasan por alto. Este enfoque ofrece una solución práctica para acelerar los ciclos de diseño al permitir una retroalimentación de calidad temprana y precisa sin la carga computacional de la síntesis completa, manteniéndose lo suficientemente eficiente computacionalmente para flujos de trabajo de diseño iterativos. El trabajo destaca que, si bien los LLMs sobresalen en la generación de código, pueden carecer del sesgo inductivo estructural explícito requerido para una estimación precisa de la calidad del hardware, un vacío que el aprendizaje de grafos estructurales llena eficazmente.