🤖 machine learning

Delta-Based Neural Architecture Search: LLM Fine-Tuning via Code Diffs

Ce papier présente la Recherche d'Architecture Neurale Basée sur les Deltas, une méthode économe en tokens où des LLMs affinés génèrent des diffs de code compacts pour affiner des modèles de base, atteignant des taux de validité et de précision nettement supérieurs avec des longueurs de sortie considérablement réduites par rapport à la synthèse complète de modèles traditionnelle sur plusieurs jeux de données.

Auteurs originaux : Santosh Premi Adhikari, Radu Timofte, Dmitry Ignatov

Publié 2026-05-07

📖 4 min de lecture☕ Lecture pause café

CC BY 4.0

Auteurs originaux : Santosh Premi Adhikari, Radu Timofte, Dmitry Ignatov

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Imaginez que vous essayez d'améliorer une machine complexe, comme un moteur de voiture.

L'Ancienne Méthode (Génération Complète) :
Autrefois, lorsque les chercheurs utilisaient l'IA pour concevoir de meilleures réseaux de neurones (les « cerveaux » de l'IA), ils demandaient à l'IA de rédiger le manuel d'instructions complet d'un tout nouveau moteur à partir de zéro, à chaque fois.

Le Problème : C'est comme demander à un écrivain de taper un livre entier juste pour changer une virgule. Cela prend énormément de temps, consomme une quantité massive de puissance informatique et aboutit souvent à un code désordonné et redondant. Si l'IA commet une petite erreur au milieu, tout le moteur échoue.

La Nouvelle Méthode (Recherche Basée sur les Delta) :
Ce papier présente une approche plus intelligente appelée Génération de Code Delta. Au lieu d'écrire un nouveau manuel complet, on demande à l'IA de rédiger un minuscule « correctif » ou « diff » (une liste de changements spécifiques) pour réparer un moteur existant et fonctionnel.

L'Analogie : Pensez-y comme l'utilisation de la fonction « Suivi des modifications » dans un traitement de texte. Au lieu de réécrire tout le document, vous surlignez simplement la phrase spécifique que vous souhaitez corriger et vous dites : « Remplacez ce mot par celui-là. »
Le Résultat : L'IA n'écrit que 30 à 50 lignes de code (le correctif) au lieu de plus de 200 lignes (le manuel complet). Cela économise environ 75 à 85 % de l'effort informatique.

Comment Ils L'Ont Testé

Les chercheurs ont traité cela comme un concours de cuisine avec trois chefs IA différents (tous des modèles de classe « 7B », qui sont comme des assistants très intelligents mais pas surdimensionnés) :

DeepSeek-Coder (Un chef spécialisé dans le codage).
Qwen2.5-Coder (Un autre spécialiste du codage).
Mistral-7B (Un chef polyvalent qui n'est pas spécifiquement entraîné uniquement pour le code).

Ils ont demandé à ces chefs d'améliorer des recettes (architectures de réseaux de neurones) pour six types de plats différents (ensembles de données comme CIFAR-10, MNIST, CelebA, etc.), allant de chiffres simples à des visages complexes.

Les Résultats

Efficacité : La méthode par « correctif » était incroyablement efficace. Les chefs IA ont produit des instructions beaucoup plus courtes et plus claires.
Performance : Étonnamment, les chefs qui n'ont écrit que des correctifs ont performé aussi bien (et souvent mieux) que les chefs qui ont rédigé des manuels complets.
- Sur un test standard (CIFAR-10), les chefs par correctif ont obtenu des scores de précision autour de 85 %, tandis que l'ancienne méthode « manuel complet » n'atteignait que 64 %.
- Même le chef polyvalent (Mistral), qui n'était pas un spécialiste du codage, a performé aussi bien que les spécialistes du codage. Cela prouve que la méthode d'écriture de correctifs est la sauce secrète, et non pas simplement le modèle d'IA spécifique utilisé.
Fiabilité : La méthode par « correctif » était beaucoup plus fiable. Environ 75 % des correctifs ont fonctionné parfaitement, alors que l'ancienne méthode ne fonctionnait que dans 50 % des cas.

Pourquoi Cela Compte

Le papier soutient que cette approche « Delta » est un changement de paradigme car :

C'est Moins Cher : Cela utilise beaucoup moins de puissance informatique (tokens) pour obtenir de meilleurs résultats.
C'est Flexible : Cela fonctionne sur de nombreux types de problèmes différents (ensembles de données) sans avoir besoin de réentraîner l'IA pour chacun d'eux.
C'est Plus Intelligent : En s'appuyant sur du code existant et fonctionnel, l'IA n'a pas besoin de « réinventer la roue » à chaque fois ; elle se concentre simplement sur l'amélioration des éléments nécessaires.

En résumé, le papier montre que ajuster une solution existante est souvent meilleur, plus rapide et plus fiable que d'essayer d'en construire une nouvelle à partir de zéro.

Résumé Technique : Recherche d'Architecture Neurale Basée sur les Deltas via des Diffs de Code

Énoncé du Problème

La Recherche d'Architecture Neurale (NAS) vise à automatiser la conception de réseaux de neurones profonds. Bien que les approches récentes utilisant des Modèles de Langage à Grande Échelle (LLM) pour générer du code PyTorch exécutable aient montré des promesses, elles souffrent d'une limitation critique : le paradigme de génération complète. Les méthodes existantes exigent que le LLM synthétise des implémentations de modèles complètes à partir de zéro à chaque itération. Cette approche est coûteuse en calcul, produit des sorties verbeuses (généralement plus de 200 lignes de code) et ne parvient pas à exploiter les connaissances structurelles intégrées dans les architectures existantes et fonctionnelles. De plus, les travaux antérieurs sur la NAS basée sur les LLM ont été largement contraints à des évaluations sur un seul jeu de données (par exemple, CIFAR-10) ou à des scopes multi-jeux de données limités, restreignant l'évaluation des capacités de généralisation.

Méthodologie : Génération de Code Delta

Les auteurs proposent la Génération de Code Delta, un paradigme où des LLM fine-tunés génèrent des unified diffs (deltas) compacts pour affiner des architectures de base existantes plutôt que de synthétiser des modèles entiers. Cette approche s'inspire des pratiques d'ingénierie logicielle où le code est modifié via des patches plutôt que réécrit.

Pipeline Central

Le cadre fonctionne selon un protocole itératif de 22 cycles :

Sélection de la Base : Le système échantillonne des architectures de base à partir du jeu de données LEMUR, une collection curatée de réseaux de neurones avec des annotations de performance sur plusieurs jeux de données.
Génération du Delta : Le LLM reçoit le code source de la base et un descripteur de jeu de données. Au lieu de produire un fichier complet, il génère une sortie XML structurée contenant :
- <delta> : Un unified diff au format patch standard (lignes de contexte, ajouts, suppressions).
- <hp> et <tr> : Balises structurées pour les hyperparamètres et les transformations de données (suivant les conventions NNGPT), bien que l'évaluation utilise les hyperparamètres originaux de la base pour isoler les changements architecturaux.
Application et Validation : Le diff généré est appliqué au code de base en utilisant des utilitaires de patch standard. Les patches réussis subissent une validation syntaxique, des vérifications d'instanciation et un entraînement d'une seule époque.
Filtrage : Pour maintenir la diversité structurelle et la qualité, les architectures admises doivent passer deux filtres :
- Filtre de Précision : Le modèle doit atteindre au moins 40 % de précision de validation top-1 après une époque.
- Filtre de Nouveauté : En utilisant la similarité MinHash-Jaccard, le code généré doit présenter au moins 90 % de dissimilarité structurelle ( $\tau_{nov} = 0.90$ ) par rapport au corpus existant pour éviter l'effondrement de mode.
Fine-Tuning : Le LLM est itérativement fine-tuné via LoRA (Low-Rank Adaptation) sur le corpus LEMUR statique et curaté. Crucialement, les données d'entraînement pour LoRA restent fixes ; le pool croissant d'architectures générées sert uniquement d'ensemble diversifié de bases pour la génération de deltas future, et non comme données d'entraînement pour le LLM lui-même.

Configuration Expérimentale

L'étude évalue trois LLM de classe 7B sur six jeux de données de classification d'images diversifiés (CIFAR-10, CIFAR-100, MNIST, SVHN, ImageNette, CelebA) :

DeepSeek-Coder-7B-Instruct-v1.5 (Spécialisé en code)
Qwen2.5-Coder-7B-Instruct (Spécialisé en code)
Mistral-7B-Instruct-v0.3 (Instruction générale, non spécialisé en code)

Tous les modèles subissent 22 cycles de fine-tuning avec 50 candidats par cycle (1 100 candidats au total par LLM). La performance est mesurée en utilisant la précision de validation de la première époque comme proxy, conformément à la littérature antérieure sur la NAS basée sur les LLM.

Résultats Clés

1. Efficacité et Longueur de Sortie

Le paradigme delta réalise une réduction massive de la consommation de tokens. Pour les trois LLM, les longueurs de sortie sont uniformément compactes :

DeepSeek : 30,4 lignes (réduction de 85 % par rapport à la génération complète)
Qwen : 31,4 lignes (réduction de 84 %)
Mistral : 49,5 lignes (réduction de 75 %)
Cela représente une réduction de 75 à 85 % par rapport aux ~200+ lignes typiques des bases de génération complète, se traduisant par une économie agrégée d'environ 5,4 fois en tokens de sortie.

2. Fiabilité de la Génération et Précision

Sous un protocole de cluster partagé avec un pool de base équilibré sur six jeux de données, les trois LLM surpassent significativement la base de génération complète (Khalid et al. [24]) et l'approche itérative à LLM gelé (Gu et al. [13]) :

Taux de Génération Valide : DeepSeek (75,3 %), Qwen (72,1 %), Mistral (66,6 %) contre Génération Complète (50,6 %).
Précision Moyenne de la Première Époque : DeepSeek (65,8 %), Qwen (64,6 %), Mistral (66,1 %) contre Génération Complète (42,3 %).
Meilleure Précision de la Première Époque (CIFAR-10) : Mistral (85,5 %), DeepSeek (85,2 %), Qwen (80,6 %) contre Génération Complète (63,98 %) et Gu et al. (71,5 %).

3. Généralisation Multi-Jeux de Données

Contrairement aux travaux antérieurs restreints à CIFAR-10 ou à trois jeux de données, l'approche delta généralise avec succès sur les six jeux de données, y compris la classification fine difficile (CIFAR-100) et les attributs faciaux (CelebA). Les trois LLM ont atteint les meilleures précisions de première époque de 99,5 % sur MNIST et ~95 % sur SVHN.

4. Agnosticisme du Modèle

Les gains de performance sont pilotés par le paradigme (génération de delta) plutôt que par le choix spécifique du LLM. Malgré les différences de pré-entraînement (spécialisé en code vs instruction générale), les trois modèles se regroupent étroitement sur toutes les métriques principales, avec des intervalles de confiance qui se chevauchent. Même le Mistral-7B à usage général, qui génère des diffs légèrement plus longs, atteint la précision CIFAR-10 la plus élevée (85,5 %).

Signification et Revendications

Le papier positionne la Recherche d'Architecture Neurale Basée sur les Deltas comme une alternative économe en tokens, multi-domaines et agnostique aux LLM par rapport à la synthèse de modèles complets. Les auteurs formulent trois revendications principales concernant la signification de leur travail :

Paradigme plutôt que Modèle : Le passage de la génération de fichiers complets à la génération basée sur des diffs est le principal moteur des gains de performance. Cela est démontré par le fait que le remplacement du format de sortie pour le même LLM de base (DeepSeek-Coder-7B) et le même protocole itératif déplace le taux de génération valide en dehors de l'intervalle de confiance de la base de génération complète.
Couverture Multi-Jeux de Données comme Dimension de Conception : En opérant sur des diffs, le pipeline préserve l'échafaudage spécifique au jeu de données fonctionnel des bases, permettant la généralisation à six jeux de données diversifiés sans réentraîner le LLM par domaine. Cela contraste avec les travaux antérieurs évalués presque exclusivement sur CIFAR-10.
Efficacité Asymptotique : La réduction de 75 à 85 % de la longueur de sortie se cumule sur les itérations, rendant l'approche nettement plus réalisable pour un déploiement local sur des GPU grand public où l'inférence LLM est le coût dominant.

Les auteurs notent que toutes les revendications de précision reposent sur le proxy de validation de la première époque, qu'ils valident via une étude d'entraînement complet de 50 époques sur les 20 meilleures architectures. Cette étude confirme que le proxy d'une époque préserve de manière fiable les classements de performance ( $\rho$ de Spearman = 0,926 pour Mistral), plaçant la méthode à l'extrémité supérieure des corrélations de proxy NAS rapportées dans la littérature.

L'ouvrage conclut que, bien que le format de diff introduise un mode de défaillance unique de "désaccord de contexte", les avantages globaux en termes d'efficacité, d'intégrité structurelle et de généralisation multi-domaines établissent la génération basée sur les deltas comme une avancée robuste dans la NAS pilotée par les LLM.