ChipletPart: Cost-Aware Partitioning for 2.5D Systems

O artigo apresenta o ChipletPart, uma ferramenta de particionamento de sistemas 2.5D orientada a custos que combina modelos de custo sofisticados com algoritmos genéticos e recozimento simulado para otimizar a atribuição de tecnologias e o layout de chiplets, reduzindo significativamente os custos e garantindo a viabilidade física das soluções em comparação com métodos existentes.

O essencial

Imagine que você está construindo um castelo gigante de Lego. Antigamente, para fazer um castelo enorme e complexo, você precisava de uma única peça de Lego gigante que tivesse todas as funções: torres, muralhas, portões e até um pequeno lago. O problema é que, se essa peça gigante tivesse um defeito minúsculo (um "pixel" errado), o castelo inteiro era descartado. Além disso, fabricar essa peça única era caríssimo e difícil.

A solução moderna, chamada Chiplets (ou "pequenos chips"), é como construir o castelo juntando várias peças menores e separadas. Se uma peça quebrar, você só troca aquela, não o castelo todo. E o melhor: você pode usar peças de cores e materiais diferentes para partes diferentes do castelo (por exemplo, peças de plástico mais barato para as paredes e peças de metal de alta qualidade para as torres).

Mas aqui surge um novo problema: Como organizar essas peças?

• Se você colocar as peças muito longe, os fios que as conectam ficam longos demais e o sinal não chega (o "reach" ou alcance do fio é limitado).
• Se você colocar peças de materiais diferentes lado a lado, pode ficar mais barato, mas é difícil de montar.
• Se você tentar montar tudo de uma vez, pode acabar com um plano de montagem que é impossível de construir na prática.

É aqui que entra o ChipletPart, o "herói" deste artigo.

O que é o ChipletPart?

Pense no ChipletPart como um arquiteto de castelos superinteligente e econômico. Ele não é apenas um organizador; ele é um "caçador de economia".

O trabalho dele é pegar um projeto gigante (o seu sistema de computador) e decidir:

1. Quais blocos vão juntos? (Dividir o projeto em pequenos chips).
2. Qual tecnologia usar para cada bloco? (Usar a tecnologia mais barata para as paredes e a mais cara para o processador).
3. Como montar tudo no "chão" (o substrato)? Garantindo que os fios entre as peças não fiquem esticados demais e que o castelo caiba na caixa.

Como ele funciona? (A Metáfora do Quebra-Cabeça e do Adivinho)

O ChipletPart usa duas técnicas principais de "pensamento" para encontrar a solução perfeita:

1. O Algoritmo Genético (O "Evolutionário"):
   Imagine que você tem 50 pessoas tentando montar o castelo de formas diferentes. O ChipletPart olha para todas as tentativas, pega as melhores ideias das pessoas mais inteligentes (os que gastaram menos dinheiro) e as "cruza" para criar uma nova geração de soluções. Ele faz isso repetidamente, como se estivesse evoluindo a solução, até encontrar o plano mais barato e viável.

2. O Simulated Annealing (O "Resfriador"):
   Imagine que você tem uma massa de modelar quente. Se você tentar moldá-la rápido, ela quebra. Mas se você a deixar esfriar devagar, ela se ajusta perfeitamente à forma desejada. O ChipletPart usa essa técnica para garantir que, mesmo que a solução seja barata, ela seja fisicamente possível de montar. Ele verifica se os fios entre as peças são curtos o suficiente para funcionar. Se não forem, ele "resfria" a solução, movendo as peças até que tudo se encaixe.

Por que isso é revolucionário?

O artigo mostra que o ChipletPart é muito melhor do que as ferramentas antigas usadas pelos engenheiros:

• Economia Real: Enquanto os métodos antigos focavam apenas em cortar o projeto em pedaços iguais (como cortar um bolo), o ChipletPart foca em economizar dinheiro. Ele consegue reduzir o custo do sistema em até 58% em alguns casos!
• Não é só teoria: Muitas ferramentas antigas diziam "aqui está a solução mais barata", mas quando você tentava montar, descobria que os fios eram longos demais e o projeto falhava. O ChipletPart garante que a solução seja viável antes mesmo de você começar a fabricar.
• Mistura de Tecnologias: Ele é o único que consegue dizer: "Use a tecnologia de 7 nanômetros para o cérebro do computador (porque precisa ser rápido) e a de 14 nanômetros para a memória (porque é mais barata e funciona bem)", tudo isso enquanto mantém o custo baixo.

O Resultado Final

O ChipletPart é como ter um consultor financeiro e um engenheiro de construção trabalhando juntos em tempo real.

• Ele diz: "Não faça tudo de um bloco só, é caro."
• Ele diz: "Não separe demais, ou os fios vão estourar."
• Ele diz: "Use materiais diferentes para partes diferentes para economizar."

E o melhor de tudo: eles tornaram esse "arquiteto" de código aberto. Isso significa que qualquer pessoa na comunidade de tecnologia pode usar essa ferramenta para construir seus próprios sistemas mais baratos, mais rápidos e mais eficientes, sem precisar reinventar a roda.

Em resumo: O ChipletPart transforma a complexa arte de montar computadores gigantes em um processo inteligente, econômico e, acima de tudo, funcional.

Resumo técnico

Resumo Técnico: ChipletPart – Particionamento Consciente de Custos para Sistemas 2.5D

1. Problema e Motivação

A adoção de chiplets (pequenos blocos de circuito integrado) em sistemas 2.5D (empacotados em um interposer) tem crescido como uma solução custo-efetiva para sistemas de alto desempenho. No entanto, dividir um grande sistema monolítico em chiplets introduz desafios complexos que os métodos de particionamento tradicionais não abordam adequadamente:

• Limitações de Alcance de I/O: Diferente da comunicação intra-chip, a comunicação entre chiplets (inter-chiplet) tem um alcance físico limitado pelos transceptores de I/O. Se dois blocos conectados forem particionados em chiplets distantes, a conexão pode ser fisicamente inviável.
• Otimização de Custo Complexa: O custo total não é apenas uma função do tamanho do corte de rede (cutsize), mas envolve custos de manufatura (NRE e RE), rendimento (yield), área do interposer, e a escolha de tecnologias de fabricação heterogêneas para diferentes chiplets.
• Viabilidade de Floorplan: Particionadores tradicionais (como min-cut) ignoram a viabilidade física do floorplan, frequentemente gerando soluções que não podem ser implementadas devido a restrições de roteamento ou alcance de I/O.
• Atribuição de Tecnologia: Decidir qual tecnologia de fabricação (ex: 7nm, 10nm, 14nm) usar para cada chiplet é crucial para otimizar o custo, mas é um problema combinatório difícil que a maioria das ferramentas existentes não resolve durante o particionamento.

O objetivo deste trabalho é desenvolver um particionador que otimize o custo total do sistema 2.5D, garantindo simultaneamente a viabilidade do floorplan (respeitando os limites de alcance de I/O) e explorando a integração heterogênea de tecnologias.

2. Metodologia: O Framework ChipletPart

Os autores propõem o ChipletPart, um framework unificado e de código aberto que combina particionamento multi-way orientado a custos, atribuição de tecnologia heterogênea e floorplanning consciente de alcance de I/O.

2.1 Formulação do Problema

O problema é definido como a minimização do custo total do sistema 2.5D, dado por:
$$\phi_{overall}(C) = \frac{\phi_{assembly} + \sum \phi_{die}}{Y_{die} \cdot Y_{assembly}} + \frac{g(\omega)}{V}$$
Onde:

• $\phi_{die}$: Custo de silício de cada chiplet.
• $\phi_{assembly}$: Custo de montagem.
• $Y$: Rendimentos de die e montagem.
• $g(\omega)$: Custos não recorrentes de engenharia (NRE) baseados na atribuição de tecnologia $\omega$.
• $V$: Volume de manufatura.
• Restrição: A viabilidade de I/O (nenhuma conexão deve exceder o alcance máximo do transceptor).

2.2 Arquitetura do Framework

O ChipletPart utiliza uma abordagem modular baseada em meta-heurísticas:

1. Atribuição de Tecnologia (Algoritmo Genético - GA):

   • O GA gerencia a atribuição de nós de tecnologia (ex: 7nm, 10nm) aos chiplets.
   • Um "genoma" é uma sequência de atribuições de tecnologia para os chiplets gerados.
   • O GA explora o espaço de soluções para encontrar combinações de tecnologias que minimizem o custo total, permitindo a heterogeneidade.

2. Particionamento e Refinamento (Core-ChipletPart):

   • Para cada atribuição de tecnologia do GA, o módulo Core-ChipletPart gera uma solução de particionamento.
   • Pool Inicial: Gera soluções iniciais usando múltiplos algoritmos (particionamento espectral, expansão de nós de alto grau, aleatório e METIS).
   • Poda (Pruning): Filtra soluções de baixa qualidade usando critérios estatísticos (Z-score e custo relativo).
   • Refinamento: Aplica algoritmos de refinamento baseados em Fiduccia-Mattheyses (FM) e Kernighan-Lin (KL) para melhorar a qualidade da partição.

3. Floorplanning Consciente de Alcance (Simulated Annealing - SA):

   • Um floorplanner baseado em Simulated Annealing verifica a viabilidade física de cada solução de particionamento.
   • Utiliza a representação Sequence Pair para o posicionamento.
   • Operadores de Movimento: Inclui troca de chiplets, redimensionamento (reshaping) e expansão (bloating) de chiplets para resolver violações de alcance de I/O. Se um chiplet precisa de mais área para acomodar I/Os e atender ao alcance, ele é expandido.
   • O objetivo do floorplanner é minimizar penalidades de violação de alcance, área do chiplet e área do pacote.

4. Modelo de Custo:

   • Os autores portaram um modelo de custo de chiplets (originalmente em Python) para C++, resultando em uma aceleração de 5x a 100x.
   • O modelo considera área, rendimento, custos de NRE, custos de montagem e restrições de I/O.

2.3 Alternativa: Otimização Bayesiana (BO)

Os autores também exploraram a Otimização Bayesiana como uma alternativa ao GA. Para lidar com o espaço de busca discreto e de alta dimensão, eles utilizaram embeddings espectrais para criar uma relaxação contínua do problema de particionamento. Embora a BO possa encontrar soluções ligeiramente melhores em alguns casos, ela impõe uma sobrecarga de tempo de execução significativamente maior (até 4x).

3. Principais Contribuições

1. Primeiro Framework Unificado de Código Aberto: O ChipletPart é a primeira ferramenta que integra particionamento orientado a custos, atribuição de tecnologia heterogênea e floorplanning consciente de I/O em um fluxo automatizado.
2. Viabilidade de Floorplan Garantida: Diferente de particionadores min-cut tradicionais (como hMETIS ou TritonPart), o ChipletPart garante que todas as soluções geradas respeitem as restrições de alcance de I/O, evitando soluções fisicamente inviáveis.
3. Atribuição de Tecnologia Heterogênea: É a primeira ferramenta a realizar a atribuição de nós de tecnologia durante o processo de particionamento, permitindo trade-offs de custo em sistemas heterogêneos.
4. Modelo de Custo Otimizado: A implementação em C++ do modelo de custo permite uma avaliação rápida e precisa, essencial para a otimização iterativa.
5. Ecossistema Aberto: O código-fonte, o modelo de custo e os testcases (incluindo designs industriais e comerciais) foram disponibilizados para a comunidade.

4. Resultados Experimentais

Os autores avaliaram o ChipletPart em diversos benchmarks (Waferscale, MemPool, Industrial e comparações com designs comerciais como AMD EPYC e NVIDIA GA100) comparando-o com o estado da arte (hMETIS, TritonPart, Floorplet, Chipletizer e particionamento manual).

• Redução de Custo vs. Particionadores Tradicionais:
  • Redução de custo de até 58% (média geométrica de 20%) comparado a particionadores min-cut de última geração (hMETIS, TritonPart), que frequentemente geram soluções inviáveis.
• Redução de Custo vs. Ferramentas Especializadas:
  • Até 47% de redução de custo (média geométrica de 6%) comparado ao Floorplet.
  • Até 48% de redução de custo (média geométrica de 30%) comparado ao Chipletizer, com a vantagem de sempre produzir soluções viáveis de I/O.
• Comparação com Soluções Manuais:
  • O ChipletPart gerou soluções 34% melhores (média geométrica de 13%) que as particionadas manualmente por engenheiros.
• Impacto da Heterogeneidade:
  • A integração heterogênea (usar diferentes tecnologias para diferentes chiplets) reduziu o custo em até 43% (média geométrica de 15%) em comparação com implementações homogêneas.
• Trade-off GA vs. BO:
  • O GA oferece o melhor equilíbrio entre qualidade e tempo de execução. A Otimização Bayesiana (BO) melhorou o custo em até 5,3% em alguns casos grandes, mas com um custo de tempo de 4x maior.

5. Significado e Impacto

O trabalho do ChipletPart é significativo porque preenche uma lacuna crítica no fluxo de projeto de sistemas 2.5D. Enquanto a indústria avança para chiplets, as ferramentas de EDA existentes ainda tratam o particionamento como um problema puramente lógico (min-cut), ignorando as restrições físicas e econômicas específicas de sistemas multi-chip.

Ao fornecer uma ferramenta que garante a viabilidade física (alcance de I/O) enquanto otimiza o custo através da heterogeneidade tecnológica, o ChipletPart permite que os designers explorem espaços de projeto mais amplos e econômicos. A disponibilidade do código e dos benchmarks padronizados facilita a pesquisa futura e a adoção pela indústria, estabelecendo um novo padrão para a avaliação de técnicas de particionamento de chiplets.

Além disso, o estudo detalhado sobre como parâmetros de empacotamento (como o alcance de I/O e o tipo de célula de I/O) afetam o particionamento fornece insights valiosos para o co-design de arquitetura e empacotamento.