ChatNeuroSim: An LLM Agent Framework for Automated Compute-in-Memory Accelerator Deployment and Optimization

Ce papier présente ChatNeuroSim, un cadre d'agents basé sur les grands modèles de langage qui automatise le déploiement et l'optimisation des accélérateurs de mémoire calculante (CIM) en intégrant un élagage de l'espace de conception pour réduire considérablement le temps de cycle de recherche et d'exploration.

L'essentiel

🧠 ChatNeuroSim : Le "Cocher Intelligent" pour les Futurs Ordinateurs

Imaginez que vous voulez construire la voiture la plus rapide et la plus économe en carburant au monde. Mais au lieu de conduire vous-même, vous devez parler à un mécanicien très pointu mais très exigeant : NeuroSim.

NeuroSim est un simulateur informatique qui permet de tester comment fonctionnent les futurs puces électroniques (appelées CIM ou "Calcul en Mémoire") avant de les fabriquer réellement. Le problème ? Ce mécanicien parle un langage technique complexe, remplit des formulaires interminables et exige que chaque paramètre soit parfait. Si vous faites une erreur de virgule, il refuse de travailler.

C'est là qu'intervient ChatNeuroSim. C'est un nouvel outil qui agit comme un assistant personnel ultra-intelligent (basé sur une intelligence artificielle de type "Chatbot") pour vous aider à parler à ce mécanicien.

Voici comment cela fonctionne, étape par étape, avec des analogies simples :

1. Le Problème : Un Labyrinthe de Paramètres

Dans le monde des puces électroniques, il y a des millions de façons de configurer une puce (taille des composants, type de mémoire, vitesse, etc.).

• L'analogie : Imaginez un labyrinthe géant où chaque chemin représente une configuration différente. Pour trouver le chemin le plus court (la puce la plus efficace), un ingénieur humain doit essayer des milliers de chemins, lire des manuels épais et corriger ses erreurs manuellement. C'est long, fatiguant et coûteux.

2. La Solution : ChatNeuroSim (Le Traducteur et le Guide)

Les auteurs de l'article ont créé ChatNeuroSim, un système composé de trois "agents" (des petits robots logiciels) qui travaillent ensemble :

• L'Agent "Traducteur" (Task Parsing) :

  • Ce qu'il fait : Vous lui dites simplement : "Je veux une puce rapide pour faire tourner ce jeu vidéo, mais elle ne doit pas consommer trop d'énergie."
  • L'analogie : C'est comme un serveur de restaurant qui prend votre commande en langage naturel ("Je veux un steak saignant") et la traduit en langage de cuisine précis pour le chef ("Cuisson à 180°C pendant 4 minutes"). Il comprend ce que vous voulez vraiment, même si vous ne connaissez pas les termes techniques.

• L'Agent "Vérificateur" (Parameter Parsing & Adjustment) :

  • Ce qu'il fait : Il vérifie si votre commande est possible. Si vous oubliez de préciser le type de carburant, il vous demande : "Hé, vous avez oublié de dire si vous voulez de l'essence ou du diesel !" Il remplit les trous avec des valeurs par défaut intelligentes.
  • L'analogie : C'est le contrôleur de sécurité à l'aéroport. Il s'assure que vous avez tous vos documents (paramètres) avant de vous laisser passer. Il empêche les erreurs bêtes qui bloqueraient le simulateur.

• L'Agent "Optimiseur" (Le Chasseur de Trésors) :

  • Ce qu'il fait : Au lieu d'essayer tous les chemins du labyrinthe au hasard, il utilise une astuce géniale appelée l'élagage de l'espace de conception (Design Space Pruning).
  • L'analogie : Imaginez que vous cherchez un trésor. Au lieu de creuser partout, l'agent regarde une carte d'un trésor similaire trouvé précédemment dans une autre région. Il se dit : "Hé, dans cette région, le trésor était toujours sous un arbre rouge. Je vais donc ignorer tous les arbres verts et ne chercher que sous les arbres rouges."
  • Grâce à cette astuce, il élimine 90% des chemins inutiles dès le début, ce qui rend la recherche beaucoup plus rapide.

3. Les Résultats : Plus Rapide et Plus Intelligent

Les chercheurs ont testé ce système sur des modèles de puces très complexes (comme ceux utilisés pour l'intelligence artificielle moderne, les "Transformers").

• Vitesse : Grâce à l'agent qui "élague" les mauvaises options, ils ont trouvé les meilleures configurations 2 à 3 fois plus vite que les méthodes traditionnelles.
• Fiabilité : Le système a réussi à comprendre et exécuter 100% des demandes des utilisateurs (même les plus complexes) sans erreur, là où un humain aurait pu se tromper en lisant le manuel.
• Simplicité : Vous n'avez plus besoin de lire des manuels de 500 pages. Vous posez vos questions en langage courant, et ChatNeuroSim fait le gros du travail.

En Résumé

ChatNeuroSim, c'est comme avoir un co-pilote expert à bord de votre avion (le processus de conception de puces).

• Avant, le pilote (l'ingénieur) devait tout faire seul : lire les cartes, vérifier le carburant, ajuster les volets.
• Maintenant, le co-pilote (ChatNeuroSim) comprend vos instructions, vérifie que tout est en ordre, et utilise l'expérience des vols précédents pour éviter les zones de turbulence (les configurations inefficaces).

Le résultat ? On arrive à destination (la puce parfaite) beaucoup plus vite, avec moins de stress et moins d'erreurs. C'est une avancée majeure pour rendre l'intelligence artificielle plus rapide et moins énergivore dans le futur.

Résumé technique

Titre : ChatNeuroSim : Un cadre d'agents basés sur les LLM pour le déploiement et l'optimisation automatisés d'accélérateurs Compute-in-Memory (CIM)

1. Problématique

Les architectures Compute-in-Memory (CIM) sont essentielles pour accélérer les réseaux de neurones profonds (DNN) en réduisant les transferts de données entre la mémoire et les unités de calcul. Cependant, la conception de ces systèmes se heurte à deux défis majeurs :

• Complexité d'utilisation des simulateurs : Les simulateurs de niveau système (comme NeuroSim) nécessitent une expertise approfondie pour interpréter les manuels, comprendre les dépendances complexes entre les paramètres et convertir les intentions de conception de haut niveau en paramètres valides. Le flux de travail manuel (exploration de l'espace de conception ou DSE) est long, coûteux en main-d'œuvre et sujet aux erreurs.
• Efficacité de l'optimisation : L'espace de conception des architectures CIM est vaste et fortement couplé (types de mémoires, tailles de sous-blocs, précision des convertisseurs ADC, etc.). Identifier la configuration optimale sous des contraintes matérielles (surface, puissance) nécessite de nombreuses itérations de simulation, ce qui rend les algorithmes d'optimisation classiques (algorithmes génétiques, recuit simulé) trop lents, en particulier pour des charges de travail complexes comme les Transformers (ex: Swin Transformer).

2. Méthodologie

L'article propose ChatNeuroSim, un cadre d'agents piloté par un Grand Modèle de Langage (LLM) qui automatise l'ensemble du flux de travail CIM, de la requête utilisateur à l'optimisation des performances.

A. Architecture de l'Agent (Framework)
Le système repose sur trois agents LLM coordonnés et une interface utilisateur conversationnelle :

1. Agent d'Analyse de Tâche (Task Parsing Agent) : Classe la requête de l'utilisateur dans l'une des quatre catégories : appel unique, appel multiple, conception automatique de bancs d'essai (testbench auto-design), ou optimisation PPA (Power, Performance, Area).
2. Agent d'Analyse de Paramètres (Parameter Parsing Agent) : Extrait les paramètres structurés de la requête naturelle en se référant à un schéma de définition (types, unités, valeurs valides). Il gère la validation et détecte les paramètres manquants.
3. Agent d'Ajustement de Paramètres (Parameter Adjustment Agent) : Permet à l'utilisateur de modifier, ajouter ou supprimer des paramètres. Il gère la cohérence entre les paramètres communs et spécialisés lors de la modification des bancs d'essai.

Le système utilise des techniques de Prompt Engineering et de RAG (Retrieval-Augmented Generation) pour accéder aux manuels du simulateur NeuroSim, garantissant une génération de scripts d'exécution correcte et une invocation fiable du simulateur.

B. Optimiseur CIM avec Élagage de l'Espace de Conception (Design Space Pruning)
Pour accélérer l'optimisation, l'article introduit un algorithme d'optimisation basé sur l'apprentissage automatique (ML) intégrant une stratégie d'élagage de l'espace de conception :

• Projection de contraintes inter-espaces : Utilise une régression de loi de puissance pour mapper les contraintes de validité d'un modèle de base (ex: ResNet-50) vers un modèle cible (ex: Swin-T).
• Élagage Top-K : Réduit l'espace de recherche en ne conservant que les valeurs de paramètres associés aux meilleures performances du modèle de base.
• Dés-élagage Stochastique (De-pruning) : Un mécanisme de récupération qui restaure progressivement les valeurs élaguées pendant l'optimisation pour éviter de rester piégé dans des optima locaux et garantir la robustesse de la solution finale.

3. Contributions Clés

1. Framework d'Agent LLM pour CIM : Première application d'agents LLM multi-tâches pour automatiser le déploiement et l'optimisation de simulateurs CIM complexes (NeuroSim), éliminant la nécessité d'une intervention manuelle pour la conversion des paramètres.
2. Technique d'Élagage Adaptatif : Proposition d'un optimiseur qui transfère les connaissances d'architectures antérieures (modèles de base) pour réduire drastiquement l'espace de recherche, tout en intégrant des mécanismes de récupération pour maintenir la qualité de la solution.
3. Validation Rigoureuse : Évaluation sur un jeu de données de 40 requêtes CIM couvrant divers scénarios, démontrant une précision de 100 % dans la génération de scripts avec un LLM de pointe (GPT-5.1).

4. Résultats

Les évaluations ont été menées sur des charges de travail CNN (ResNet-50) et Vision Transformers (Swin-T, ViT-B) avec une technologie de 22 nm.

• Précision de l'Agent : ChatNeuroSim a atteint 100 % de réussite dans la génération de scripts exécutables pour toutes les catégories de requêtes (appel unique, multiple, auto-design, optimisation) en utilisant GPT-5.1. Les modèles plus légers (GPT-5-mini, DeepSeek) ont montré des taux de réussite légèrement inférieurs (77-95 %), soulignant l'importance du modèle de base pour la complexité des tâches.
• Accélération de l'Optimisation :
  • L'optimisation de Swin-T sans élagage prend plusieurs heures (jusqu'à 6-7 heures pour les 5 % des cas les plus longs).
  • Avec l'élagage de l'espace de conception (basé sur ViT-B comme modèle de base), le temps d'exécution moyen est réduit d'un facteur 0,42x à 0,79x.
  • Le temps d'exécution au 95e percentile (P95) est réduit d'un facteur 0,29x à 0,69x.
• Robustesse et Généralité :
  • L'algorithme de Recuit Simulé (Simulated Annealing) s'est avéré plus efficace que les algorithmes génétiques (GA) et l'estimateur de Parzen (TPE) pour converger rapidement.
  • L'élagage basé sur un modèle de base similaire (ViT-B pour Swin-T) est plus efficace que celui basé sur des CNN (ResNet-50), surtout pour les contraintes matérielles variées.
  • La technique améliore non seulement la vitesse, mais aussi la qualité de la solution (FoM - Figure of Merit) lorsque le budget d'itérations est limité.

5. Signification et Impact

Ce travail représente une avancée significative dans le domaine de l'automatisation de la conception électronique (EDA) pour les architectures neuromorphes et CIM :

• Réduction du Time-to-Market : En automatisant l'interprétation des documents techniques et l'exécution des simulations, ChatNeuroSim réduit considérablement le temps et l'effort humain nécessaires à l'exploration de l'espace de conception.
• Démocratisation de la Conception CIM : Le framework permet aux concepteurs de se concentrer sur les objectifs de haut niveau (intentions) plutôt que sur la syntaxe complexe des simulateurs, rendant l'optimisation CIM accessible à un public plus large.
• Efficacité pour les Architectures Avancées : La méthode d'élagage proposée est particulièrement cruciale pour les architectures modernes comme les Transformers, où l'espace de recherche est trop vaste pour une exploration exhaustive manuelle ou par des algorithmes classiques.

Le code source et l'interface utilisateur (UI) de ChatNeuroSim sont open-sourcés, favorisant l'adoption par la communauté de recherche pour le développement rapide d'accélérateurs CIM haute performance.