Resource-Efficient Iterative LLM-Based NAS with Feedback Memory

Cet article propose une méthode de recherche d'architecture neuronale (NAS) économe en ressources qui utilise des modèles de langage (LLM) de taille modeste et une mémoire de feedback itérative pour concevoir et optimiser automatiquement des architectures de réseaux de neurones performantes pour la classification d'images sur un seul GPU grand public, sans nécessiter de fine-tuning ni d'infrastructure cloud.

L'essentiel

🏗️ Le Grand Projet : Construire un Moteur avec un Chatbot

Imaginez que vous devez concevoir le moteur le plus efficace possible pour une voiture, mais vous n'avez pas de budget énorme pour tester des milliers de prototypes dans un laboratoire de haute technologie. De plus, vous n'avez qu'un seul petit atelier (un ordinateur personnel) et un seul assistant très intelligent, mais qui n'a jamais été spécifiquement formé pour la mécanique (un modèle de langage ou "LLM").

C'est exactement ce que les chercheurs ont fait avec cette nouvelle méthode appelée NAS (Recherche d'Architecture de Réseau Neuronale). Au lieu de faire construire des réseaux de neurones (les "cerveaux" des IA) par des humains, ils ont demandé à une IA de le faire pour eux, mais avec une astuce géniale : l'IA apprend de ses propres erreurs.

🔄 La Boucle Magique : Le Cycle de l'Apprentissage

Le système fonctionne comme un atelier de réparation en boucle fermée avec trois acteurs principaux :

1. Le Constructeur (Le Générateur de Code) : C'est l'IA qui dessine les plans du nouveau moteur (le réseau de neurones) et écrit le code informatique pour le faire fonctionner.
2. Le Testeur (L'Évaluateur) : C'est l'atelier qui prend le moteur, le lance sur une piste d'essai très courte (une seule journée de course, ou "un epoch" en jargon technique) pour voir à quelle vitesse il va.
3. Le Mécanicien Chef (L'Améliorateur de Prompts) : C'est le cerveau de l'opération. Il regarde le résultat du test. Si le moteur a explosé, il note pourquoi. S'il est lent, il note comment l'améliorer.

🧠 L'Innovation Clé : La "Mémoire à Court Terme"

C'est ici que la magie opère. La plupart des anciennes méthodes d'IA jetaient les échecs à la poubelle. Si l'IA se trompait, elle recommençait de zéro, oubliant pourquoi elle avait échoué.

Dans cette nouvelle méthode, le Mécanicien Chef utilise une mémoire historique (comme un carnet de bord).

• Il ne se souvient que des 5 dernières tentatives (comme une fenêtre glissante).
• Pour chaque tentative, il note un "triple diagnostic" :
  1. Le problème : "Le moteur a surchauffé."
  2. La solution suggérée : "Réduire la taille du piston."
  3. Le résultat : "Ça a marché !" ou "Ça a explosé."

Grâce à cette petite mémoire, l'IA ne répète pas les mêmes bêtises. Elle apprend de ses échecs récents, un peu comme un humain qui apprend à faire du vélo : "J'ai tombé à gauche, donc la prochaine fois, je penche moins à gauche."

🛠️ Deux IA Spécialisées pour un seul Atelier

Pour ne pas surcharger leur petit ordinateur (une seule carte graphique grand public), les chercheurs ont divisé le travail en deux rôles distincts :

• Une IA qui écrit le code (le constructeur).
• Une IA qui analyse les erreurs et donne des conseils (le mécanicien).

Comme elles travaillent ensemble sur le même petit ordinateur, elles sont obligées de créer des moteurs compacts et économes. Elles ne peuvent pas se permettre de concevoir des monstres géants qui ne rentrent pas dans l'atelier. C'est une contrainte qui devient un avantage : elles découvrent naturellement des designs parfaits pour les petits appareils (comme les téléphones ou les drones).

📈 Les Résultats : De Zéro à Héros

Les chercheurs ont testé cette méthode avec trois IA différentes (DeepSeek, Qwen, GLM) sur des jeux de données classiques (reconnaître des chats, des chiens, des voitures).

• Au début : Les IA étaient un peu perdues. Par exemple, sur l'image de chats (CIFAR-10), la première tentative de DeepSeek n'avait qu'28 % de réussite.
• Après 2000 essais : Grâce à la boucle de rétroaction, DeepSeek est monté à 69 %. Qwen est allé jusqu'à 71 %.
• Le coût ? Tout cela a été fait sur un seul ordinateur de bureau (une RTX 4090) en 18 heures de calcul. Pas de super-ordinateurs, pas de nuage, pas de formation coûteuse de l'IA.

💡 En Résumé : Pourquoi c'est génial ?

Imaginez que vous apprenez à cuisiner.

• L'ancienne méthode : Vous essayez une recette, ça brûle, vous jetez tout et vous essayez une autre recette au hasard sans vous souvenir de ce qui a brûlé.
• Cette nouvelle méthode : Vous avez un carnet de cuisine. À chaque fois que ça brûle, vous écrivez : "J'ai mis le feu trop haut". La prochaine fois, vous baissez le feu. Vous n'avez besoin que de vous souvenir des 5 derniers plats ratés pour devenir un chef étoilé.

Cette recherche prouve qu'on n'a pas besoin de modèles géants et coûteux pour inventer de nouvelles architectures d'IA. Avec un peu de mémoire, de patience et un ordinateur standard, on peut faire des miracles. C'est une méthode économique, reproductible et accessible à tous.

Résumé technique

1. Problématique

La Recherche d'Architecture Neurale (NAS) vise à automatiser la conception de réseaux de neurones, mais les méthodes conventionnelles (apprentissage par renforcement, algorithmes évolutionnaires) sont extrêmement coûteuses en ressources computationnelles (souvent des milliers de jours GPU). Bien que des approches récentes utilisant des Modèles de Langage (LLM) aient émergé pour générer du code d'architecture directement, la plupart se limitent à une génération "en un seul coup" (single-shot) sans mécanisme d'amélioration itérative basée sur les échecs. De plus, les méthodes existantes nécessitent souvent des modèles massifs, un fine-tuning coûteux ou opèrent dans des espaces de recherche contraints (structures cellulaires prédéfinies), limitant l'innovation architecturale.

L'objectif de cet article est de proposer un pipeline NAS itératif, fermé et économe en ressources, capable de faire évoluer des architectures de réseaux de neurones convolutifs (CNN) pour la classification d'images en utilisant uniquement un GPU grand public et des LLM gelés (≤7B paramètres) sans aucun fine-tuning.

2. Méthodologie

Les auteurs proposent un pipeline en boucle fermée composé de trois modules principaux, illustrés dans la Figure 1 de l'article :

A. Générateur de Code (Code Generator)

• Un LLM instructé (ex: DeepSeek-Coder, Qwen2.5, GLM-5) génère une implémentation complète d'un modèle PyTorch (nn.Module) à partir d'un prompt.
• Le prompt inclut la description de la tâche, le code de la meilleure architecture trouvée à ce jour ($A^*$), et les suggestions d'amélioration de l'itération précédente.
• La génération utilise un échantillonnage stochastique (température $\tau=0.7$) pour assurer la diversité architecturale.

B. Évaluateur (Evaluator)

• Le code généré est validé (vérification des formes de sortie).
• Les modèles valides sont entraînés pendant une seule époque (one-epoch) sur des datasets (CIFAR-10, CIFAR-100, ImageNette) pour obtenir une métrique de proxy (précision).
• Cette approche "proxy" permet une itération rapide sans le coût d'un entraînement complet.

C. Améliorateur de Prompt avec Mémoire de Rétroaction Historique (Prompt Improver with Historical Feedback Memory)

C'est le cœur de l'innovation. Contrairement aux méthodes qui ignorent les échecs, ce module analyse les résultats et maintient une mémoire glissante des $K=5$ tentatives d'amélioration les plus récentes.

• Structure de la mémoire : Chaque entrée est un triple diagnostique structuré :
  1. Le problème identifié (ex: erreur de compilation, mauvaise précision).
  2. La modification suggérée.
  3. Le résultat obtenu (succès ou type d'erreur).
• Propriété de Markov : La décision d'amélioration à l'étape $t$ dépend uniquement de l'architecture actuelle et de la fenêtre historique bornée, évitant ainsi le débordement de contexte (context overflow) tout en fournissant un signal suffisant pour apprendre des motifs d'échec.
• Spécialisation Dual-LLM : Le système sépare les tâches entre un générateur de code et un analyseur de diagnostic pour réduire la charge cognitive par appel.

3. Contributions Clés

1. Pipeline NAS Itératif en Boucle Fermée : Une méthode qui fait évoluer les architectures via la génération de code, l'évaluation et le raffinement des prompts, permettant une découverte progressive.
2. Mémoire de Rétroaction Historique Bornée : L'introduction d'une fenêtre glissante de $K=5$ tentatives sous forme de triples diagnostiques. Cela permet au LLM d'apprendre de ses propres erreurs (échecs de compilation ou mauvaises performances) sans nécessiter une mémoire contextuelle infinie.
3. Efficacité sur Matériel Grand Public : Démonstration que des LLMs gelés de petite taille (≤7B paramètres) peuvent effectuer une recherche d'architecture efficace sur un seul GPU grand public (RTX 4090, 24 Go) en moins de 18 heures pour 2000 itérations, sans fine-tuning.
4. Espace de Recherche Ouvert : Contrairement aux méthodes basées sur des cellules fixes, cette approche opère dans un espace de code Python/PyTorch non contraint, permettant une invention architecturale plus flexible.

4. Résultats Expérimentaux

Les expériences ont été menées sur trois LLMs différents et trois datasets. Les résultats montrent une amélioration significative par rapport à la génération initiale (single-shot) :

• CIFAR-10 :
  • DeepSeek-Coder-6.7B : Amélioration de 28,2 % à 69,2 % (gain absolu de +41,0 %).
  • Qwen2.5-7B : Atteint le pic le plus élevé, passant de 50,0 % à 71,5 %, bien qu'avec un taux de réussite plus faible (stratégie d'exploration plus audacieuse).
  • GLM-5 : Amélioration de 43,2 % à 62,0 % avec un taux de réussite très élevé (91 %) sur seulement 100 itérations.
• CIFAR-100 et ImageNette : Des tendances positives similaires sont observées, bien que la complexité accrue réduise parfois le taux de réussite ou la corrélation.
• Ablation Study : La suppression de la mémoire de rétroaction ou de l'architecture de référence entraîne une stagnation ou une dégradation des performances, prouvant que la modélisation explicite des échecs est cruciale.
• Coût : Une recherche complète de 2000 itérations prend environ 18 heures GPU sur une RTX 4090.

5. Signification et Impact

Ce travail établit un nouveau paradigme pour la NAS accessible et reproductible :

• Démocratisation : Il rend la recherche d'architecture accessible aux chercheurs disposant de ressources limitées, sans dépendre d'infrastructures cloud massives ou de modèles propriétaires géants.
• Apprentissage par l'Échec : En traitant les échecs d'exécution de code comme des signaux d'apprentissage de premier ordre (via les triples diagnostiques), le système surmonte la fragilité inhérente à la génération de code par les LLMs.
• Efficacité Matérielle : L'architecture du pipeline (partage de VRAM entre le LLM et l'entraînement) favorise implicitement la découverte de modèles compacts et adaptés au déploiement sur des dispositifs aux ressources limitées (Edge AI).
• Validation de l'Approche : Les résultats confirment que même des modèles de 7 milliards de paramètres, lorsqu'ils sont équipés d'une boucle de rétroaction structurée, peuvent surpasser les approches "single-shot" et rivaliser avec des méthodes plus coûteuses.

En conclusion, cette étude démontre qu'une approche itérative, économe en ressources et basée sur la mémoire historique permet d'automatiser efficacement la conception de réseaux de neurones, ouvrant la voie à une exploration architecturale plus vaste et plus durable.