ChipletPart: Cost-Aware Partitioning for 2.5D Systems

Il lavoro presenta ChipletPart, un partizionatore 2.5D guidato dai costi che integra un modello di costo sofisticato con algoritmi genetici e ricottura simulata per ottimizzare l'assegnazione tecnologica e il posizionamento dei chiplet, riducendo significativamente i costi rispetto alle soluzioni esistenti e garantendo la fattibilità del layout e delle interconnessioni.

L'essenziale

Immagina di dover costruire una città futuristica (un processore computer molto potente) invece di un singolo grattacielo enorme.

In passato, per fare questi "grattacieli" (i chip), si usava un unico blocco di silicio gigante. Ma costruire un unico edificio così grande è costoso, rischioso (se c'è un errore in un mattone, l'intero edificio crolla) e difficile da progettare.

Oggi, l'industria sta passando a un approccio diverso: i Chiplet. È come costruire la città non con un unico blocco, ma assemblando molti quartieri (i chiplet) più piccoli su una grande piazza centrale (l'interposer). Ogni quartiere può essere costruito con materiali diversi: alcuni con mattoni di lusso (tecnologia avanzata e costosa), altri con mattoni economici ma robusti.

Il problema? Come si decide quale quartiere costruire, di che dimensioni deve essere e con quali materiali? Se sbagli il progetto, i collegamenti tra i quartieri (i cavi) potrebbero essere troppo lunghi per funzionare, o potresti spendere una fortuna per materiali inutili.

L'Invenzione: ChipletPart

Gli autori di questo articolo hanno creato un architetto digitale intelligente chiamato ChipletPart. È un software che risolve il problema di come dividere un sistema enorme in questi piccoli quartieri in modo da risparmiare il più possibile, senza violare le regole della fisica.

Ecco come funziona, spiegato con metafore semplici:

1. Il Problema: La "Mappa del Tesoro" Complessa

Dividere un chip non è come tagliare una pizza in fette uguali.

• Non è solo tagliare: Non basta dividere i pezzi a caso. Devi considerare quanto costano i materiali per ogni pezzo.
• Il limite dei cavi: Immagina che ogni quartiere abbia dei "pneumatici" (i pin di I/O) che devono collegarsi agli altri. Questi pneumatici hanno una lunghezza massima che possono raggiungere. Se due quartieri sono troppo lontani, il cavo si rompe o costa troppo per essere rinforzato.
• Materiali misti: Alcuni pezzi del cervello del computer hanno bisogno di tecnologia super-veloce (e costosa), altri possono funzionare bene con tecnologia più lenta (ed economica). ChipletPart deve decidere chi usa cosa.

2. La Soluzione: Tre Strumenti Magici

ChipletPart usa una combinazione di tre tecniche per trovare la soluzione migliore:

• L'Algoritmo Genetico (L'Evolutionista):
  Immagina di avere 50 architetti diversi che propongono 50 progetti di città diversi.

  1. Loro "si accoppiano": prendono le idee migliori di due progetti e ne creano uno nuovo (incrocio).
  2. A volte fanno un errore casuale (mutazione) per scoprire qualcosa di nuovo.
  3. I progetti peggiori vengono scartati, e i migliori sopravvivono per la prossima generazione.
     Questo permette al software di "evolvere" verso un progetto che costa meno, provando migliaia di combinazioni di materiali e divisioni.

• Il Simulated Annealing (Il Ricercatore Paziente):
  Una volta che l'architetto ha un progetto, deve assicurarsi che sia fisicamente possibile. Immagina di avere un puzzle 3D. Il software prova a spostare i pezzi, a ingrandirli o a cambiarne la forma per vedere se i cavi riescono a collegarsi senza superare la loro lunghezza massima.
  Se un pezzo è troppo lontano, il software lo "allarga" o lo sposta finché tutto funziona. Questo è il Floorplanner: assicura che la città sia costruita in modo che i cavi arrivino a destinazione.

• Il Modello dei Costi (Il Contabile):
  Tutto questo viene valutato da un "contabile" molto preciso. Non guarda solo quanto costa il silicio, ma anche quanto costa assemblare i pezzi, quanto ne va sprecato per difetti di produzione e quanto costano i cavi speciali.

3. I Risultati: Risparmiare Soldi e Tempo

Il paper mostra che ChipletPart è molto meglio dei metodi precedenti:

• Risparmio enorme: Rispetto ai vecchi metodi che tagliavano i chip a caso, ChipletPart ha ridotto i costi fino al 58% in alcuni casi.
• Nessun errore: A differenza di altri software che a volte disegnano città impossibili da costruire (cavi troppo lunghi), ChipletPart garantisce sempre che la soluzione sia fattibile.
• Flessibilità: Ha dimostrato che mescolare tecnologie diverse (usare il materiale costoso solo dove serve davvero) fa risparmiare fino al 43% rispetto a usare tutto lo stesso materiale.

4. Un'Alternativa: L'Intuizione Matematica (Bayesian Optimization)

Gli autori hanno anche provato un altro metodo, chiamato Ottimizzazione Bayesiana. È come avere un genio matematico che, invece di provare a caso, "indovina" dove cercare la soluzione migliore basandosi su ciò che ha già visto.

• Pro: A volte trova soluzioni leggermente migliori (risparmiando un altro 5%).
• Contro: È lentissimo. Ci mette fino a 4 volte di più rispetto al metodo genetico.
  Quindi, per la maggior parte delle persone, il metodo genetico (ChipletPart) è il migliore: veloce ed efficace.

In Sintesi

ChipletPart è come un super-architetto che sa esattamente come dividere un enorme progetto tecnologico in piccoli pezzi, scegliendo i materiali giusti per ogni pezzo e assicurandosi che tutti i collegamenti funzionino. Il risultato? Computer più potenti che costano molto meno da produrre, perché non si spreca denaro in materiali costosi dove non servono e non si costruiscono città impossibili da collegare.

È un passo fondamentale per rendere l'hardware del futuro più economico, efficiente e accessibile a tutti.

Sommario tecnico

Ecco un riassunto tecnico dettagliato del paper "ChipletPart: Cost-Aware Partitioning for 2.5D Systems" in italiano.

1. Il Problema

L'adozione industriale dei chiplet (sistemi 2.5D composti da più piccoli chip integrati su un interposer) è in crescita per ridurre i costi e migliorare le rese di produzione, permettendo anche l'uso di tecnologie di processo eterogenee. Tuttavia, partizionare un sistema grande in chiplet non è banale e presenta sfide uniche rispetto al tradizionale partizionamento di netlist (min-cut):

• Obiettivo complesso: Non si tratta solo di minimizzare il numero di connessioni tagliate (cutsize), ma di minimizzare il costo totale del sistema, che include costi NRE (non ricorrenti), costi di assemblaggio, rese (yield) e costi di produzione dei singoli chiplet.
• Vincoli di I/O (Reach): Le connessioni tra chiplet sono limitate dalla distanza massima che un transceiver I/O può coprire (reach). Un partizionamento che ignora questi vincoli può risultare fisicamente irrealizzabile (infeasible).
• Assegnazione eterogenea: È necessario assegnare dinamicamente diverse tecnologie di processo (es. 7nm, 14nm) a diversi chiplet per ottimizzare costi e prestazioni, rendendo il problema sensibile alle etichette dei partizioni (a differenza del min-cut classico).
• Mancanza di strumenti esistenti: Gli strumenti attuali (come hMETIS o Floorplet) spesso ignorano la fattibilità del floorplan o non gestiscono l'eterogeneità tecnologica durante il partizionamento.

2. Metodologia: ChipletPart

Gli autori propongono ChipletPart, il primo framework open-source unificato che combina partizionamento multi-way guidato dal costo, assegnazione di tecnologia eterogenea e floorplanning consapevole dei vincoli di I/O.

Il framework utilizza un approccio modulare basato su due algoritmi di ottimizzazione principali:

1. Algoritmo Genetico (GA) per l'assegnazione della tecnologia:
   • Il GA gestisce l'assegnazione dei nodi tecnologici ai chiplet.
   • Ogni "genoma" rappresenta una sequenza di assegnazioni tecnologiche.
   • Il GA esplora lo spazio delle soluzioni per trovare il miglior compromesso tra costi di produzione, NRE e prestazioni, permettendo l'uso misto di nodi tecnologici (es. logica su 7nm, memoria su 14nm).
2. Simulated Annealing (SA) per il Floorplanning e la fattibilità:
   • Un motore di floorplanning basato su SA valuta la fattibilità fisica di ogni soluzione di partizionamento.
   • Utilizza una rappresentazione "Sequence Pair" e operatori di perturbazione (scambio, ridimensionamento, espansione) per garantire che le distanze tra i chiplet rispettino i vincoli di reach degli I/O.
   • Se un partizionamento viola i vincoli di reach, viene penalizzato o corretto modificando la forma o la posizione dei chiplet.

Flusso di lavoro (Core-ChipletPart):

• Generazione di un pool iniziale di partizioni usando diverse tecniche (partizionamento spettrale, espansione nodi ad alto grado, random, METIS).
• Pruning (potatura) delle soluzioni di bassa qualità basata su modelli statistici.
• Rifinitura (Refinement) usando algoritmi FM (Fiduccia-Mattheyses) e KL (Kernighan-Lin) che chiamano ripetutamente il modello di costo e il floorplanner per valutare i guadagni.
• Il ciclo GA valuta la "fitness" di ogni soluzione basandosi sul costo totale calcolato dal modello.

Modello di Costo:
Il paper utilizza e ottimizza (traslando da Python a C++) un modello di costo dettagliato che considera:

• Area del chiplet e dell'interposer.
• Resa (Yield) dipendente dall'area e dalla densità di difetti.
• Costi di assemblaggio e I/O (che dipendono dal tipo di tecnologia e dal reach).
• Costi NRE e volumi di produzione.

3. Contributi Chiave

• Primo framework unificato: ChipletPart è il primo strumento open-source che integra partizionamento, assegnazione tecnologica eterogenea e vincoli di floorplan in un unico flusso automatizzato.
• Fattibilità garantita: A differenza dei partizionatori min-cut classici, ChipletPart garantisce che tutte le soluzioni generate siano I/O-feasible (rispettano i vincoli di reach), evitando soluzioni teoricamente valide ma fisicamente impossibili.
• Ottimizzazione Eterogenea: Permette di esplorare trade-off di costo assegnando diverse tecnologie a diversi chiplet, una funzionalità non supportata da strumenti precedenti come Floorplet o Chipletizer.
• Ecosistema Open-Source: Il codice, il modello di costo (in C++ per velocità) e un generatore di testcase sono resi disponibili alla comunità.
• Valutazione di Bayesian Optimization (BO): Gli autori esplorano l'uso della BO come alternativa al GA, trovando che può offrire soluzioni leggermente migliori su design complessi ma con un overhead di runtime significativamente maggiore (fino a 4x).

4. Risultati Sperimentali

Il framework è stato testato su una suite di benchmark (Waferscale, MemPool, casi industriali e design commerciali come AMD EPYC e NVIDIA GA100) confrontandolo con lo stato dell'arte (hMETIS, TritonPart, Floorplet, Chipletizer) e con partizioni manuali.

• Riduzione dei Costi:
  • Rispetto ai partizionatori min-cut (hMETIS/TritonPart): riduzione dei costi fino al 58% (media geometrica del 20%).
  • Rispetto a Floorplet: riduzione dei costi fino al 47% (media geometrica del 6%).
  • Rispetto a Chipletizer: riduzione dei costi fino al 48% (media geometrica del 30%), con la differenza cruciale che ChipletPart produce sempre soluzioni I/O-feasible, mentre Chipletizer fallisce su diversi testcase.
  • Rispetto a partizioni manuali: miglioramento fino al 34% (media geometrica del 13%).
• Vantaggio dell'Eterogeneità: L'uso di tecnologie miste riduce i costi fino al 43% rispetto a implementazioni omogenee.
• Fattibilità: ChipletPart produce soluzioni fattibili nel 100% dei casi testati, mentre i partizionatori tradizionali falliscono spesso nei vincoli di reach.
• Performance: La traduzione del modello di costo in C++ ha portato a un speedup di 5x rispetto alla versione Python e oltre 100x in implementazione multithread.

5. Significato e Impatto

Questo lavoro rappresenta un passo fondamentale verso l'automazione del design di sistemi 2.5D complessi.

• Validazione Pratica: Dimostra che l'ottimizzazione congiunta di partizionamento, tecnologia e vincoli fisici è essenziale per realizzare i benefici economici dei chiplet, che altrimenti potrebbero essere vanificati da costi di interconnessione o assemblaggio eccessivi.
• Strumento per la Ricerca: Fornendo un benchmark standardizzato e open-source, ChipletPart permette alla comunità di ricerca di confrontare nuovi algoritmi su problemi realistici, superando la limitazione di testcase troppo piccoli o semplificati.
• Flessibilità: L'approccio "black-box" permette di integrare facilmente modelli di costo più complessi (es. termici, di affidabilità) in futuro, rendendo lo strumento scalabile per le evoluzioni future delle tecnologie di packaging.

In sintesi, ChipletPart colma il divario tra la teoria del partizionamento di circuiti e le realtà fisiche ed economiche dei sistemi 2.5D moderni, offrendo soluzioni superiori sia in termini di costo che di fattibilità fisica.