ChatNeuroSim: An LLM Agent Framework for Automated Compute-in-Memory Accelerator Deployment and Optimization

O artigo apresenta o ChatNeuroSim, um framework baseado em agentes de modelos de linguagem que automatiza o fluxo de trabalho de simulação e otimização de aceleradores de Computação na Memória (CIM), reduzindo significativamente o tempo de exploração do espaço de design e facilitando a implantação rápida de configurações ótimas para cargas de trabalho de redes neurais profundas.

O essencial

Imagine que você é um arquiteto tentando construir a casa mais eficiente do mundo, mas em vez de tijolos e cimento, você está usando circuitos de computador e inteligência artificial. O desafio é que a "caixa de ferramentas" (o simulador) é tão complexa, cheia de manuais gigantescos e parâmetros confusos, que você precisa passar meses apenas tentando entender como usá-la antes de realmente começar a construir.

É aqui que entra o ChatNeuroSim, a solução apresentada neste artigo. Vamos descomplicar tudo usando analogias do dia a dia.

1. O Problema: O Labirinto da "Memória que Calcula"

Hoje em dia, os computadores gastam muita energia e tempo apenas movendo dados de um lugar para outro (da memória para o processador). Para resolver isso, os engenheiros criaram uma tecnologia chamada CIM (Compute-in-Memory), que é como ter uma cozinha onde você cozinhar e comer na mesma mesa, sem precisar correr para a despensa a cada ingrediente.

O problema é que projetar essas cozinhas super eficientes é um pesadelo:

• Manuais Confusos: Os engenheiros precisam ler milhares de páginas de regras para saber como configurar os "ingredientes" (hardware).
• Tentativa e Erro: Eles têm que testar milhares de combinações manualmente, o que leva anos e custa uma fortuna.
• O "Gargalo": Antes de fabricar o chip, eles usam simuladores (como o NeuroSim) para prever o desempenho, mas configurar esses simuladores é lento e propenso a erros humanos.

2. A Solução: O "Chef de Cozinha" com IA (ChatNeuroSim)

Os autores criaram o ChatNeuroSim. Pense nele como um assistente pessoal superinteligente (um Agente de IA) que fala a linguagem dos engenheiros e a linguagem do computador ao mesmo tempo.

Em vez de você ler o manual e digitar códigos complexos, você apenas conversa com o ChatNeuroSim como se estivesse mandando uma mensagem no WhatsApp:

"Quero projetar um chip para rodar o modelo de IA 'Swin Transformer' usando tecnologia de 22nm, com o menor consumo de energia possível."

O que o ChatNeuroSim faz por você?

1. O Tradutor (Agente de Análise): Ele entende seu pedido em linguagem natural e sabe exatamente qual tipo de tarefa é (simulação simples, teste múltiplo ou otimização).
2. O Organizador (Agente de Parâmetros): Ele pega seu pedido e preenche automaticamente a "ficha técnica" complexa do simulador. Se você esqueceu um detalhe (como o tipo de memória), ele pergunta: "Você quer usar SRAM ou RRAM?" e ajusta tudo sozinho.
3. O Executor: Ele gera o código, roda o simulador e te devolve os resultados (quanto tempo leva, quanto energia gasta, qual o tamanho do chip).

Resultado: O que antes levava dias de configuração manual, agora leva minutos de conversa.

3. O Truque de Mestre: "Poda" do Espaço de Projetos

A parte mais brilhante do artigo não é apenas o chat, mas como ele otimiza a busca pela melhor solução.

Imagine que você está procurando um tesouro em uma ilha gigante (o espaço de design).

• Sem o truque: Você teria que caminhar em cada grama de areia da ilha, o que levaria séculos.
• Com o ChatNeuroSim (Poda de Espaço de Design): O sistema usa a experiência de outras ilhas que já foram exploradas.
  • Se você está procurando tesouro na Ilha A (um novo chip), o sistema olha para a Ilha B (um chip antigo que já conhecemos) e diz: "Olha, na Ilha B, o tesouro nunca estava na parte norte. Vamos ignorar o norte da Ilha A também."
  • Isso é chamado de Poda. Ele corta as áreas que provavelmente não têm a solução, focando apenas nas áreas promissoras.

Mas e se o tesouro estiver onde cortamos?
O sistema é esperto. Ele tem um mecanismo de "Des-poda". Se depois de um tempo ele percebe que não está encontrando nada bom na área restante, ele devagarzinho volta a explorar as áreas que havia cortado, garantindo que não perdeu nada importante.

4. Os Resultados na Prática

Os autores testaram isso em modelos de IA modernos (como os usados em reconhecimento de imagem e visão computacional).

• Velocidade: O sistema foi capaz de encontrar a configuração ideal 2 a 3 vezes mais rápido do que os métodos tradicionais.
• Precisão: Em testes, o ChatNeuroSim acertou 100% das tarefas de gerar os códigos corretos, sem erros humanos.
• Versatilidade: Funciona bem tanto para chips simples quanto para os modelos de IA mais complexos de hoje (Transformers).

Resumo Final

O ChatNeuroSim é como ter um engenheiro sênior que trabalha 24 horas por dia, que:

1. Fala a sua língua (conversa com você).
2. Conhece todos os manuais de cabeça.
3. Sabe exatamente onde procurar para não perder tempo (a "poda").

Isso permite que as empresas criem chips de IA mais rápidos e eficientes em muito menos tempo, acelerando a chegada de tecnologias inteligentes para o nosso dia a dia. É a automação da criatividade e da engenharia de hardware.

Resumo técnico

Título: ChatNeuroSim: Um Framework de Agente LLM para Implantação e Otimização Automatizada de Aceleradores de Computação em Memória (CIM)

1. Problema e Motivação

As arquiteturas de Computação em Memória (CIM) são fundamentais para acelerar redes neurais profundas (DNNs), reduzindo o custo de transferência de dados entre memória e unidades de processamento. No entanto, o fluxo de design tradicional enfrenta desafios significativos:

• Complexidade de Uso: Os simuladores de nível de sistema (como o NeuroSim) exigem que os designers interpretem manuais extensos, entendam dependências complexas de parâmetros e realizem conversões manuais de intenções de design para parâmetros de entrada.
• Ciclo de Design Prolongado: A exploração do espaço de design (DSE) envolve iterações extensivas de simulação para encontrar configurações ótimas sob restrições de hardware (área, potência, desempenho), o que consome muito tempo e recursos humanos.
• Limitações de Otimização: Algoritmos de otimização baseados em aprendizado de máquina (ML) existentes muitas vezes não são suficientes para workloads complexos (como Vision Transformers), que possuem espaços de design vastos e latências de simulação elevadas.

2. Metodologia: O Framework ChatNeuroSim

O trabalho propõe o ChatNeuroSim, um framework baseado em Agentes de Grandes Modelos de Linguagem (LLM) que automatiza todo o fluxo de trabalho de CIM, desde a solicitação do usuário até a geração de resultados de PPA (Potência, Desempenho e Área).

Arquitetura do Agente:
O sistema utiliza três agentes LLM coordenados:

1. Agente de Análise de Tarefa (Task Parsing Agent): Classifica a solicitação do usuário em quatro categorias:
   • Chamada Única: Simulação com um conjunto fixo de parâmetros.
   • Chamada Múltipla: Simulações com múltiplos conjuntos de parâmetros explícitos.
   • Auto-design de Testbench: O usuário define a intenção de alto nível (ex: analisar tendências de tecnologia) e o agente determina os valores de varredura.
   • Otimização de PPA: Busca automática da configuração ótima sob restrições.
2. Agente de Análise de Parâmetros (Parameter Parsing Agent): Extrai parâmetros estruturados da linguagem natural do usuário, consultando esquemas (schemas) do simulador para validar valores, unidades e dependências.
3. Agente de Ajuste de Parâmetros (Parameter Adjustment Agent): Gerencia solicitações de modificação, preenchendo parâmetros faltantes com valores padrão ou ajustando valores inválidos com base na intenção do usuário e nas regras do esquema.

Otimizador CIM com Poda do Espaço de Design (Design Space Pruning):
Além da automação do fluxo, o framework integra um otimizador heurístico com uma estratégia inovadora de poda de espaço de design:

• Projeção de Restrições entre Espaços: Utiliza regressão de lei de potência para mapear restrições de hardware (ex: área, potência) de um "modelo base" (ex: ResNet-50) para um "modelo alvo" (ex: Swin Transformer).
• Poda Top-K: Filtra o espaço de design do modelo alvo mantendo apenas os valores de parâmetros associados às configurações de alto desempenho do modelo base.
• Des-poda Estocástica (Stochastic De-pruning): Um mecanismo de recuperação que restaura gradualmente valores de parâmetros excluídos durante a otimização para evitar ótimos locais e garantir robustez.

3. Principais Contribuições

1. Framework de Agente LLM para CIM: Primeiramente framework a automatizar o fluxo de ponta a ponta de CIM (do parsing de requisição à execução do simulador NeuroSim), eliminando a necessidade de intervenção manual para interpretação de documentação.
2. Técnica de Poda de Espaço de Design: Propõe um otimizador que transfere conhecimento de workloads anteriores para acelerar a busca em workloads complexos (como Transformers), reduzindo drasticamente o tempo de simulação.
3. Avaliação Abrangente: Validação rigorosa do framework em 40 casos de teste (cobrindo todas as categorias de requisição) e análise detalhada da eficácia da poda em diferentes algoritmos (GA, SA, TPE), restrições de hardware e métricas de desempenho.

4. Resultados Experimentais

Os experimentos foram conduzidos utilizando o simulador NeuroSim V1.5 e modelos de LLM como GPT-5.1 e DeepSeek.

• Precisão do Agente: O ChatNeuroSim alcançou 100% de precisão na geração de scripts executáveis e resultados de simulação quando acionado pelo modelo GPT-5.1, demonstrando robustez na interpretação de requisições complexas.
• Redução de Tempo de Otimização:
  • Para o workload Swin Transformer Tiny (Swin-T) em tecnologia de 22nm, o otimizador com poda de espaço de design (baseado em ViT-B) reduziu o tempo de execução médio em 0,42x a 0,79x e o tempo P95 (pior caso) em 0,29x a 0,69x comparado a algoritmos sem poda.
  • O algoritmo de Recozimento Simulado (Simulated Annealing - SA) mostrou-se consistentemente superior em velocidade de convergência em comparação a Algoritmos Genéticos (GA) e TPE.
• Generalidade: A técnica de poda demonstrou eficácia em diferentes objetivos de otimização (Eficiência Energética, Eficiência Computacional, Throughput, FoM) e sob diversas restrições de área e potência, especialmente quando o modelo base possui características arquitetônicas similares ao alvo (ex: ViT-B para Swin-T).

5. Significado e Impacto

O ChatNeuroSim representa um avanço significativo na área de EDA (Electronic Design Automation) para hardware de IA:

• Democratização do Design: Reduz a barreira de entrada para o uso de simuladores complexos de CIM, permitindo que pesquisadores e engenheiros foquem na intenção de design em vez de detalhes de implementação de scripts.
• Aceleração do Time-to-Market: Ao reduzir o ciclo de exploração de design de horas/dias para minutos/horas, o framework facilita a rápida iteração e implantação de aceleradores CIM otimizados.
• Sinergia LLM + Otimização: Demonstra como LLMs podem ser integrados não apenas para interfaces conversacionais, mas como orquestradores de workflows técnicos complexos, combinados com técnicas avançadas de otimização de espaço de busca.

O framework e a interface de usuário (UI) foram disponibilizados como código aberto para a comunidade de pesquisa, permitindo testes e adoção imediata.