Technische Samenvatting: AUTOGATE

Probleemstelling

Fine-grain clock gating (FGCG) is een cruciale techniek voor het verminderen van het dynamische vermogen in VLSI-systemen door kloksignalen naar inactieve groepen flip-flops te onderdrukken. De huidige industriële optimalisatie-flows vertrouwen echter sterk op handmatige RTL-restructuring om workload-afhankelijke gating-mogelijkheden bloot te leggen die commerciële synthesetools niet automatisch kunnen afleiden.

Recente pogingen om dit proces te automatiseren met behulp van Large Language Models (LLMs) worden geconfronteerd met twee fundamentele beperkingen:

1. Contextbeperkingen: Effectieve FGCG vereist het analyseren van cyclusnauwkeurige schakelgedragingen over miljoenen klokcycli. Ruwe waveform-traces overschrijden de contextvensters van huidige LLMs, waardoor ze niet direct kunnen redeneren over langetermijn-togglingpatronen.
2. Schaalbaarheid: Bestaande LLM-gebaseerde optimalisatiebenaderingen zijn grotendeels beperkt tot kleine, enkelvoudige module-ontwerpen. Ze schalen niet naar grote, hiërarchische industriële codebases met complexe cross-module afhankelijkheden, waarbij een single-agent aanpak de optimalisatie over de gehele ontwerp-hiërarchie niet kan coördineren.

Methodologie

De auteurs presenteren AUTOGATE, het eerste agentic framework dat is ontworpen voor industrie-waardige RTL-vermogensoptimalisatie. Het maakt gebruik van een Machine Learning (ML) en LLM co-design strategie om waveform-niveau analyse te overbruggen met RTL-rewriting, gebruikmakend van een hiërarchische multi-agent architectuur.

Het framework werkt in vier afzonderlijke stadia:

1. Hiërarchie Detectie en Pre-Profiling

AUTOGATE hanteert een divide-and-conquer strategie om grote codebases te beheren:

• Hiërarchie Parsing: Een orchestrator LLM parseert de RTL-bronboom om ouder-kind relaties op te lossen en onafhankelijk optimaliseerbare modules te identificeren.
• Power Bottleneck Analyse: Het systeem voert per-module pre-profiling uit, waarbij gate-level vermogensschattingen terugmappen naar RTL-regio's om modules te rangschikken op basis van optimalisatiepotentieel.
• Workload Extractie: Om handmatige testbench-creatie te vermijden, extraheert AUTOGATE module-niveau testbenches rechtstreeks uit volledige design-simulatietraces. Het parseert interfaces en scope waveform-data om standalone testbenches te genereren die realistische workload-inputs herafspelen voor specifieke bottleneck-modules.

2. Adaptieve Stabiliteit-gebaseerde FGCG Exploratie

Deze fase vervangt ruwe waveform-verwerking door een ML-gestuurde analyse die de LLM stuurt:

• Toggle-Aware Pre-Filtering: Registers worden gepartitioneerd in lage, middelste en hoge toggle-rate banden. Alleen de "middelste" band (registers met matige activiteit) wordt verwerkt voor clustering, aangezien extreme waarden weinig gating-voordeel bieden.
• Automatische Drempelwaarde Ontdekking: In plaats van te vertrouwen op handmatig afgestemde efficiëntiedrempels, berekent het systeem een groepsgewijze efficiëntiespectrum om natuurlijke hiaten in gating-efficiëntie te identificeren, waardoor optimale clustering-drempels automatisch worden bepaald.
• Stabiliteit-gebaseerde Clustering: Registers worden geclusterd op basis van hun binaire stabiliteitspatronen (sequenties die aangeven of een register bij elke klokrand van staat verandert). Het algoritme voegt clusters alleen samen als de logische AND van hun stabiliteitspatronen voldoet aan een minimale efficiëntiedrempel.
• Gestructureerde Rapportage: De clusteringresultaten worden gedestilleerd in compacte, gestructureerde rapporten die inefficiënte Integrated Clock Gating (ICG) cellen identificeren en specifieke RTL-regio's aanbevelen voor herschrijven.

3. LLM-gestuurde Parallelle Rewriting

Een multi-agent systeem voert de optimalisatie uit:

• Orchestratie: Een orchestrator wijst modules toe aan sub-agents en plant de optimalisatie bottom-up (eerst de bladeren), om ervoor te zorgen dat kind-modules geoptimaliseerd zijn voordat de ouders worden aangepakt.
• Rewrite Agents: Dedicated agents gebruiken de clusteringrapporten en een bibliotheek van clock-gating rewrite templates (bijv. enable/hold extractie, value-change-based gating, control-signal factoring, en register decompositie) om functioneel equivalente RTL-varianten te generen.
• Iteratieve Verfijning: Een reflectie-agent evalueert power en area trade-offs en destilleert lessen in "playbooks" om daaropvolgende iteraties te sturen. Agents genereren fine-, medium- en coarse-grain varianten om de balans te bewaren tussen vermogensreductie en area overhead.

4. Formele Verificatie en QoR-bewuste Merge

• Validatie: Alle kandidaten ondergaan syntax checking, simulatie, commerciële formele equivalentie-checking en timing validatie.
• Selectie: Kandidaten worden gesynthetiseerd om dynamisch vermogen, area en timing te profileren. Het systeem selecteert de variant die het dynamische vermogen maximaliseert terwijl het voldoet aan de area en timing restricties.
• Hiërarchische Merge: Geaccepteerde patches worden hiërarchisch samengevoegd en opnieuw gevalideerd op het niveau van de ouder.

Belangrijkste Bijdragen

1. Eerste Agentic Framework voor Industriële RTL: AUTOGATE is het eerste framework dat workload-bewuste FGCG mogelijk maakt over grote, hiërarchische codebases met behulp van een multi-agent architectuur.
2. ML-LLM Co-Design: Het adresseert de LLM-contextbeperking door een ML-gebaseerd clusteringalgoritme te gebruiken om ruwe waveform-traces te distilleren tot gestructureerde representaties. Dit stelt LLMs in staat om RTL-rewriting uit te voeren zonder direct ruwe schakeldata te verwerken.
3. Schaalbaarheid via Divide-and-Conquer: Het framework overwint schaalbaarheidsproblemen door complexe designs te deconstrueren in beheersbare modules, wat gecoördineerde optimalisatie mogelijk maakt terwijl cross-module correctheid behouden blijft.
4. Prestaties voorbij Commerciële Flows: Het systeem legt gating-mogelijkheden bloot die commerciële synthesetools met agressieve automatische inferentie missen, waarbij significante vermogensreducties worden bereikt met minimale area overhead.

Experimentele Resultaten

De auteurs hebben AUTOGATE geëvalueerd op 10 designs, inclus\n bij kleine benchmarks, industriële grade open-source designs (NVDLA, BlackParot) en hoog-geoptimaliseerde propriëtaire product designs.

• Kleine Benchmarks: Op een suite van kleine designs verminderde AUTOGATE het dynamische vermogen met gemiddeld 49,31% met slechts 0,15% gemiddelde area overhead. Bijvoorbeeld, het verminderde het dynamische vermogen van een booth multiplier met 86,21% en een counter met 55,33%.
• Industriële Designs:
  • NVDLA: Bereikte 19,34% dynamische vermogensreductie op het totale design, met specifieke partities die tot wel 47,60% reductie vertoonden onder specifieke workloads.
  • BlackParrot: Bereikte 7,96% dynamische vermogensreductie met slechts 0,04% area overhead.
• Propriëtaire Product Designs: Op hoog-geoptimaliseerde product designs bereikte AUTOGATE tot wel 6,86% dynamische vermogensreductie. De studie merkte op dat optimaliseren over meerdere workloads (de "Combined" strategie) de robuustheid verbeterde en het risico op overfitting aan een enkele workload verminderde vergeleken met single-workload optimalisatie.
• Vergelijking: In alle gevallen presteerde AUTOGATE consistent beter dan baselines die gebruikmaken van POET (een evolutionaire zoekmethode) en ROVER (een regel-gebaseerde methode), die verwaarloosbare of zelfs negatieve verbeteringen lieten zien op grote hiërarchische designs.

Betekenis en Claims

Het artikel claimt dat AUTOGATE de levensvatbaarheid van ML-LLM co-designed RTL rewriting voor industriële schaal vermogensoptimalisatie aantoont. De betekenis ligt in:

• Het Overbruggen van de Kloof: Het succesvol integreren van gespecialiseerde ML-analyse voor lange sequentie waveform-data met de redeneerkracht van LLMs voor codegeneratie.
• Schaalbaarheid: Het bewijzen dat agentic frameworks kunnen schalen van enkele modules naar massieve, multi-file industriële repositories zonder correctheid op te offeren.
• Praktische Impact: Het leveren van substantiële dynamische vermogensbesparingen op product-grade designs waar handmatige optimalisatie momenteel de enige optie is en bestaande geautomatiseerde tools falen.

De auteurs erkennen bescheiden dat de aanpak afhankelijk is van workload-afgeleide schakelactiviteit en mogelijk overfit aan specifieke workloads, met name in kleinere designs. Ze suggereren dat toekomstig werk zich moet richten op de automatische identificatie van representatieve workloads om robuustheid over diverse productie-use cases te garanderen.