ODIN-Based CPU-GPU Architecture with Replay-Driven Simulation and Emulation

Este artigo apresenta uma metodologia de validação baseada em replay para a arquitetura de chiplets ODIN, que integra subsistemas de CPU e GPU em um único banco de dados de design, permitindo a reprodução confiável de cargas de trabalho complexas e acelerando significativamente o ciclo de depuração e integração do sistema.

O essencial

Imagine que você está construindo um supercomputador do futuro, algo capaz de rodar jogos incríveis e inteligência artificial ao mesmo tempo. Para fazer isso, os engenheiros da Intel precisaram juntar duas peças muito diferentes: o CPU (o "cérebro" que toma decisões e controla tudo) e a GPU (o "músculo" que faz bilhões de cálculos ao mesmo tempo).

O problema? Juntar essas duas peças é como tentar fazer um maestro de orquestra (CPU) tocar em perfeita sincronia com um exército de 1000 guitarristas elétricos (GPU) que estão em salas diferentes, conectados por um sistema de telefonia complexo (a rede interna do chip).

Aqui está a história de como eles resolveram os problemas de validação dessa "máquina" chamada ODIN, usando uma técnica genial chamada Replay (Reprodução).

1. O Grande Desafio: O Caos da Integração

Quando você tenta testar esse sistema antes de fabricá-lo (no mundo virtual), as coisas ficam caóticas:

• O "Cérebro" e o "Músculo" não conversam bem: Eles têm protocolos complexos e, às vezes, o comportamento é imprevisível (não determinístico).
• O "Simulador" é lento: Testar tudo em um computador comum leva meses.
• O "Emulador" (um hardware gigante que simula o chip) é rápido, mas cego: Você vê o resultado final, mas não consegue ver por que algo deu errado no meio do caminho.
• O pesadelo do "Bugs": Quando algo falha, é como tentar achar uma agulha num palheiro. Você não sabe se o erro foi no cérebro, no músculo ou no fio que os conecta.

2. A Solução Mágica: A Máquina do Tempo (Replay Engine)

Em vez de tentar recriar todo o comportamento da GPU do zero (o que seria como tentar ensinar um ator a improvisar uma cena perfeita toda vez), os engenheiros criaram um gravador de memórias.

Eles pensaram assim: "E se, em vez de tentar adivinhar o que a GPU vai fazer, nós apenas gravarmos exatamente o que ela fez quando estava sozinha, e depois fizermos o resto do sistema 'assistir' a esse filme?"

É assim que funciona o Replay Engine:

• A Gravação (Capture): Primeiro, eles testam a GPU sozinha. Eles gravam cada movimento, cada comando e cada resposta dela, como se fosse um vídeo de alta definição de uma partida de futebol.
• O Arquivo (ROM): Eles transformam esse vídeo em um arquivo de dados compacto (como um arquivo de música MP3, mas para sinais elétricos) e o colocam dentro do chip.
• A Reprodução (Replay): Agora, quando o chip inteiro (CPU + GPU + Rede) é testado, a GPU não precisa "pensar" ou "decidir" nada. Ela apenas toca o arquivo. Ela diz: "No segundo 1, eu pedi dados. No segundo 2, recebi dados."

3. Por que isso é genial? (Analogias do Dia a Dia)

• O Maestro e a Orquestra:
  Imagine que você quer testar uma orquestra inteira. Antigamente, você tinha que pedir para cada músico tocar sua parte e torcer para que o maestro acertasse o ritmo. Se alguém errasse, você não sabia quem.
  Com o Replay, você dá um fone de ouvido para o maestro. Ele ouve uma gravação perfeita da orquestra tocando. Agora, ele só precisa garantir que ele está tocando no tempo certo com a gravação. Se a música inteira sair errada, você sabe imediatamente que o erro não foi na gravação (que é perfeita), mas sim no maestro ou nos instrumentos.

• O Teste de Carro:
  Testar um carro novo é difícil. Você não quer dirigir em uma pista de corrida real (lento e caro) nem apenas olhar para o motor parado (não vê o problema).
  O Replay é como colocar o carro em um simulador de direção que usa um vídeo gravado de uma pista real. O carro segue o vídeo perfeitamente. Se o carro bater, você sabe que o problema é o carro, não a pista ou o motorista.

4. Os Benefícios Reais

Graças a essa técnica, a equipe conseguiu:

1. Velocidade: Conseguiram ligar o sistema e rodar tarefas complexas em um único trimestre (3 meses), algo que antes levaria muito mais tempo.
2. Precisão: Como a gravação é idêntica na simulação (no computador) e na emulação (no hardware), eles nunca mais tiveram que se preocupar com "ah, na simulação funcionou, mas no hardware não". O comportamento é determinístico (sempre igual).
3. Fim do "Bugs" Invisíveis: Quando algo dá errado, eles podem "voltar no tempo" e ver exatamente o que aconteceu, porque a gravação é perfeita.

Resumo Final

A Intel criou um sistema onde, para testar a parte mais difícil de um chip supercomplexo, eles simplesmente tocam um "disco de ouro" com as instruções perfeitas da GPU. Isso permite que o resto do sistema seja testado com segurança, rapidez e sem surpresas.

É como se, para validar um novo avião, em vez de tentar fazer o piloto improvisar o voo, eles usassem um voo gravado de um piloto lendário para garantir que a aeronave aguenta o tranco. Se o avião cair, a culpa é do avião, não do piloto.

Resumo técnico

Resumo Técnico: Validação Orientada a Replay em Arquiteturas CPU-GPU Baseadas em Chiplets

1. O Problema

A integração de subsistemas de CPU e GPU em Arquiteturas de Chip-on-Chip (SoC) é fundamental para cargas de trabalho modernas de IA e gráficos. No entanto, à medida que os sistemas evoluem para modelos baseados em chiplets (como a arquitetura ODIN da Intel), a validação pré-silício torna-se extremamente desafiadora devido a:

• Complexidade de Validação: Configuração de frameworks complexos, grande escala de design e alta concorrência.
• Não-Determinismo: Comportamento de execução não determinístico e interações de protocolo intrincadas nas fronteiras dos chiplets.
• Ineficiência de Testes Tradicionais: A validação direcionada (directed testing) é insuficiente para detectar problemas de integração que só surgem sob cargas de trabalho realistas.
• Fragmentação de Ambientes: A transição entre simulação e emulação tradicionalmente exige mudanças significativas em modelos (BFM - Bus Functional Models), compilação e infraestrutura, levando à manutenção de bancos de dados de design separados e dificultando a correlação de depuração (debug).
• Dificuldade de Diagnóstico: Identificar a causa raiz de falhas em nível de SoC (seja no IP, na lógica de integração ou na interação do sistema) é demorado e consome muitos recursos.

2. Metodologia: Validação Orientada a Replay (Replay-Driven Validation)

O artigo apresenta uma metodologia inovadora que utiliza um Motor de Replay (Replay Engine) para capturar e reproduzir deterministicamente o tráfego orientado pela GPU, tanto em simulação quanto em emulação, utilizando um único banco de dados de design.

Principais Componentes e Fluxo:

• Captura de Ondas (Waveform Capture): Durante a validação independente do IP da GPU, o Motor de Replay captura ondas de tempo precisas nas interfaces periféricas da GPU. Isso inclui sinais de dados, controle e respostas.
• Processamento Offline e Inicialização de ROM: As ondas capturadas são processadas offline para extrair sinais relevantes e convertê-los em uma representação de bits ordenada por ciclo. Esses dados são codificados e usados para inicializar estruturas de armazenamento baseadas em ROM dentro do design do SoC.
• Reprodução Determinística: Durante a execução do SoC (simulação ou emulação), o Motor de Replay lê o conteúdo pré-inicializado da ROM. Ele recria os sinais de solicitação (stimulus) e as respostas correspondentes exatamente nos mesmos ciclos de clock em que foram observados originalmente.
• Eliminação de BFM em Tempo de Execução: Diferente das abordagens tradicionais que dependem de Modelos Funcionais de Barramento (BFM) ativos para gerar respostas, esta metodologia não requer um BFM em tempo de execução. A resposta está embutida no artefato de replay.

Fluxo de Validação:

• Simulação: Utilizada para depuração detalhada e visibilidade de ondas, permitindo a análise de ordenação de protocolos e dependências de tempo com precisão de ciclo.
• Emulação: Utilizada para execução de alta velocidade de cargas de trabalho de longo prazo e cenários de sistema. O mesmo artefato de replay usado na simulação é reutilizado, garantindo consistência funcional.

3. Contribuições Chave

• Unificação de Simulação e Emulação: A metodologia permite que simulação e emulação compartilhem o mesmo banco de dados de design e os mesmos artefatos de estímulo (replay), eliminando a necessidade de manter collateral de teste separado e inconsistente para cada ambiente.
• Aceleração do "Bring-up" do SoC: Ao reutilizar o comportamento de protocolo validado no IP da GPU (capturado durante a validação independente), a equipe eliminou a necessidade de desenvolver e manter collateral de testebench ou BFM dedicado para a integração do SoC.
• Depuração Eficiente: A natureza determinística do replay permite a reprodução confiável de falhas em interfaces bem definidas, reduzindo drasticamente o espaço de busca para encontrar a causa raiz de falhas em nível de sistema.
• Escalabilidade para Chiplets: A abordagem demonstra como validar sistemas heterogêneos complexos (CPU-GPU-NoC) em arquiteturas de chiplets, preservando a modularidade enquanto garante a integridade da integração.

4. Resultados

• Ciclo de Validação Acelerado: A equipe conseguiu realizar o boot completo do sistema e a execução de cargas de trabalho da GPU orientadas por replay dentro de um único trimestre.
• Sucesso em Emulação em Escala: O design completo do SoC (CPU-GPU-NoC) foi mapeado com sucesso para a plataforma de emulação EP1 (utilizando 16 placas FPGA). A tabela de recursos mostrou que o design coube na capacidade disponível, com margem para lógica de depuração adicional.
• Validação de Funcionalidade: A metodologia permitiu a execução bem-sucedida de testes de boot e cargas de trabalho complexas, com resultados de saída comparados e validados contra uma referência "golden" na simulação.
• Redução de Overhead: A abordagem reduziu o tempo de turnaround para depuração e evitou a duplicação de esforços de integração.

5. Significado e Lições Aprendidas

• Importância do Determinismo: A captura de ondas determinística foi essencial para permitir a reprodutibilidade confiável em ambientes de simulação e emulação.
• Desafios de Relógio: Para a emulação, foi necessário desabilitar a randomização de flops (usada para validação de metastabilidade) e assumir frequências fixas, pois o modelo de relógio baseado em simulação não suporta mudanças dinâmicas de frequência.
• Otimização de Recursos: Foi alcançada uma redução na footprint da ROM ao utilizar replay baseado em geração de relógio em vez de capturar toda a lógica de relógio interno.
• Futuro das Arquiteturas Chiplet: Este trabalho estabelece um framework de validação prático e escalável para sistemas SoC heterogêneos futuros. A validação baseada em replay permite verificação precisa nas fronteiras de subsistemas e chiplets, superando as limitações das abordagens tradicionais de BFM.

Conclusão:
O artigo demonstra que a validação orientada a replay é uma metodologia robusta e escalável para a integração de arquiteturas CPU-GPU complexas baseadas em chiplets. Ao unificar a simulação e a emulação através de artefatos de replay reutilizáveis, a Intel conseguiu acelerar significativamente o ciclo de integração, melhorar a confiança na validação pré-silício e reduzir o tempo e os recursos necessários para depurar falhas complexas de sistema.