🤖 AI

Decaf: Improving Neural Decompilation with Automatic Feedback and Search

L'article présente Decaf, un système qui exploite les retours du compilateur et la recherche pour améliorer considérablement la correction sémantique des sorties de décompilation neuronale, portant le taux de réussite sur la partition Real-O2 de 26,0 % à 83,9 % sans compromettre la similitude avec le code source original.

Auteurs originaux : Alexander Shypula, Osbert Bastani, Edward Schwartz

Publié 2026-05-13

📖 6 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Alexander Shypula, Osbert Bastani, Edward Schwartz

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

Le Grand Problème : La « Traduction Perdue »

Imaginez que vous avez un livre écrit dans une langue complexe et de haut niveau (comme l'anglais). Une machine traduit ce livre en un code secret (code machine) pour l'exécuter sur un ordinateur. Une fois la traduction effectuée, la machine jette le livre original, les titres de chapitres, les noms des personnages et même les règles de grammaire.

Maintenant, imaginez que vous êtes un détective essayant de deviner quelle était l'histoire originale, mais vous n'avez que le code secret. C'est la décompilation.

Les outils traditionnels (comme Ghidra) sont comme un traducteur très littéral. Ils peuvent transformer le code secret en mots, mais le résultat est un désordre. Les phrases sont maladroites, les noms sont remplacés par « Variable_1 » et « Variable_2 », et la logique est difficile à suivre. C'est techniquement correct, mais impossible à lire.

D'un autre côté, l'IA moderne (les grands modèles de langage) est comme un écrivain créatif. Elle peut deviner l'histoire, inventer de superbes noms de personnages et rédiger des phrases fluides. Mais parce qu'elle est si créative, elle hallucine parfois. Elle pourrait inventer un rebondissement qui n'est jamais arrivé ou manquer un détail crucial, rendant l'histoire factuellement fausse même si elle se lit magnifiquement.

La Solution : « Decaf » (Décompilation avec Feedback Automatisé)

Les auteurs de ce papier, Alexander Shypula et son équipe, ont réalisé que se fier à une seule hypothèse de l'IA ne suffisait pas. Ils ont construit un système appelé Decaf qui fonctionne comme un concours de talents avec un juge strict.

Voici comment le processus Decaf fonctionne, étape par étape :

1. Le « Concours de Talents » (Échantillonnage de nombreux candidats)

Au lieu de demander à l'IA d'écrire l'histoire une seule fois et d'espérer le meilleur, Decaf demande à l'IA d'écrire 32 versions différentes de l'histoire.

Analogie : Imaginez demander à 32 chefs différents de préparer le même plat. Certains pourraient le brûler, d'autres le rendre trop salé, mais l'un d'eux pourrait par hasard préparer la version parfaite.
Le papier a montré que si vous ne demandez qu'un seul plat, vous avez 60 % de chances d'obtenir quelque chose de mangeable. Si vous en demandez 32, vous avez 88 % de chances qu'au moins l'un d'eux soit parfait.

2. Le « Test de Goût » (Feedback Automatique)

Maintenant, vous avez 32 versions différentes du code. Comment savoir laquelle est le vrai original ? Vous ne pouvez pas simplement les lire ; elles ressemblent toutes à du code.

L'astuce : Decaf prend chaque version générée par l'IA et la recompile. Il transforme le code à nouveau en code machine secret.
La comparaison : Il compare ensuite ce nouveau code secret avec le code secret original avec lequel vous avez commencé.
Analogie : Imaginez que vous avez la recette secrète originale. Vous prenez les plats des 32 chefs, les retransformez en ingrédients, et voyez quel ensemble d'ingrédients correspond exactement à la liste originale. Si les ingrédients correspondent, le plat est correct.

3. Le « Juge en Chef » (Le Réordonneur Neural)

Parfois, l'étape de recompilation ne suffit pas car les ingrédients pourraient sembler légèrement différents mais avoir le même goût. Alors, Decaf utilise une deuxième IA, appelée Réordonneur, pour agir comme le Juge en Chef.

Ce juge examine le « code secret » de l'original et le « code secret » de la supposition de l'IA.
Il ne regarde pas seulement les mots ; il examine la logique. Il se demande : « Ces deux morceaux de code font-ils exactement la même chose ? »
Le juge choisit le gagnant et élimine le reste.

Les Résultats : Pourquoi cela compte

Le papier a testé ce système sur un vaste ensemble de référence appelé ExeBench. Voici ce qui s'est passé :

Avant Decaf : Les meilleurs modèles d'IA ne pouvaient obtenir la logique correcte que dans environ 26 % des cas. Ils étaient soit trop désordonnés (comme les outils traditionnels), soit trop créatifs (hallucinant des erreurs).
Avec Decaf : Le système a bondi à 83,9 % de précision.
La « Correspondance Parfaite » : Encore mieux, le code produit par Decaf était si similaire à l'original que, dans 70,9 % des cas, si vous le recompiliez, le code informatique était identique octet par octet à l'original.

Un Exemple du Monde Réel du Papier

Le papier montre une fonction spécifique (un petit morceau de code) qui calcule des nombres.

Outil Traditionnel (Ghidra) : A donné une réponse correcte mais moche avec des noms comme iVar1 et iVar2.
IA Standard (LLM4Decompile) : A donné une réponse belle et lisible, mais elle manquait une étape critique (une condition de « break »), rendant la logique fausse.
Decaf : A généré 32 versions. Il a trouvé celle qui avait de beaux noms et la logique correcte. Il a réussi à choisir le gagnant en utilisant son « test de goût » et son « Juge en Chef ».

Le « Test de Stress »

Les auteurs ont également testé si leur système fonctionnait lorsque les « ingrédients » changeaient. Ils ont essayé d'utiliser un compilateur différent (Clang au lieu de GCC) pour vérifier les réponses.

Résultat : Le système fonctionnait toujours bien, bien qu'il soit devenu légèrement moins précis. C'est comme un juge habitué à goûter de la cuisine italienne mais invité à juger de la cuisine française ; il peut toujours dire si le plat est bon, mais il n'est pas tout à fait aussi parfait que lorsqu'il juge sa cuisine natale.

Résumé

Decaf n'essaie pas de rendre l'IA plus intelligente en lui donnant plus de données. Au lieu de cela, il change la stratégie :

Générer de nombreuses options (ne pas se contenter de la première hypothèse).
Les vérifier automatiquement en les retransformant en code machine.
Utiliser un juge intelligent pour choisir celui qui est à la fois lisible et factuellement correct.

Cette approche transforme un « jeu de devinettes » en un processus de « recherche et vérification », améliorant considérablement la capacité à comprendre le code informatique qui a été compilé et dépouillé de son sens original.

Résumé Technique : DECAF - Amélioration du Décompilation Neurale par Feedback Automatique et Recherche

1. Énoncé du Problème

La décompilation est le processus de traduction du code assembleur de bas niveau vers du code source de haut niveau. Bien que les décompilateurs traditionnels (par exemple, Ghidra, Hex-Rays) utilisent des analyses de programme sophistiquées pour récupérer les variables et les flux de contrôle, ils échouent souvent à reconstruire une syntaxe idiomatique, des noms d'identifiants significatifs et des types de données personnalisés. À l'inverse, les récents modèles de décompilation neuronale, en particulier ceux basés sur les grands modèles de langage (LLM), excellent dans la génération de code lisible et idiomatique mais souffrent d'« hallucinations ». Ces modèles produisent fréquemment du code sémantiquement incorrect, omettent des logiques critiques (telles que les conditions de rupture) ou génèrent du code qui ne se compile pas ou ne s'exécute pas correctement.

Le défi central abordé par cet article est le compromis entre l'idiomaticité (lisibilité et structure) et la correction fonctionnelle (équivalence sémantique avec le binaire original). Les approches neuronales existantes génèrent généralement une seule sortie candidate, laissant le potentiel de solutions correctes inexploité si la première hypothèse du modèle est erronée. De plus, vérifier la correction du code décompilé est un problème indécidable dans le cas général, rendant difficile la sélection automatique du meilleur candidat parmi un ensemble de possibilités.

2. Méthodologie

Les auteurs proposent DECAF (DECompilation with Automated Feedback), un système qui améliore la décompilation neuronale en générant plusieurs décompilations candidates et en sélectionnant automatiquement la plus prometteuse à l'aide d'un feedback du compilateur et d'un réordonnanceur neuronal entraîné.

2.1. Le Pipeline DECAF

Le système fonctionne en trois étapes principales :

Décompilation Initiale : Un décompilateur traditionnel (Ghidra) traite le binaire cible pour produire une représentation initiale, souvent non idiomatique, de type C.
Génération de Candidats : Cette sortie est alimentée dans un modèle générateur neuronal (un LLM). Au lieu d'une seule inférence, le système utilise un échantillonnage par température pour générer un ensemble diversifié de $N$ décompilations candidates (par exemple, $N=32$ ).
Feedback Automatique et Réordonnancement :
- Filtre de Compilation : Chaque candidat est compilé (par exemple, en utilisant gcc -c). Les candidats qui échouent à la compilation sont rejetés.
- Réordonnancement : Les candidats restants sont évalués par rapport au binaire original. Les auteurs proposent trois stratégies de réordonnancement :
  - Probabilité Logarithmique : Classement basé sur la probabilité logarithmique normalisée du modèle générateur.
  - Distance Byte : Compilation du candidat et calcul d'une distance de Levenshtein modifiée entre les octets binaires du candidat et ceux du binaire original. Cette distance prend en compte les artefacts de relocation en traitant des décalages spécifiques comme des caractères génériques.
  - Réordonnanceur Neuronal : Un LLM dédié (Decaf-ReRanker) entraîné pour prédire la probabilité que deux séquences d'assembleur (l'original et le candidat recompilé) soient fonctionnellement équivalentes.

2.2. Données et Entraînement

Modèle Générateur : Les auteurs ont affiné LLM4Decompile-Ref-22b-v2 (22 milliards de paramètres) sur le jeu de données EXEBENCH. Ils ont introduit une supervision consciente des types, entraînant le modèle à générer les déclarations #include, les déclarations avant et les définitions de types nécessaires pour garantir que la sortie est compilable. Ils ont également entraîné des modèles sur des binaires strippés pour simuler des scénarios de rétro-ingénierie réels.
Modèle de Réordonnancement : Un modèle de 32 milliards de paramètres (QWEN3-32B) a été entraîné pour distinguer les paires d'assembleur fonctionnellement équivalentes des paires non équivalentes. Les données d'entraînement ont été construites en générant plusieurs candidats, en les exécutant contre des cas de test, et en appariant les exécutions réussies (positives) avec des échecs ou des incohérences (négatives).
Récupération de Vulnérabilités : Pour des expériences spécifiques, les auteurs ont utilisé la Juliet Test Suite pour évaluer la capacité du système à récupérer du code contenant des vulnérabilités connues (classes CWE) à partir de binaires strippés.

3. Contributions Clés

Système DECAF : Un cadre novateur qui combine la génération neuronale avec un feedback de compilateur et une recherche (échantillonnage de plusieurs candidats) pour résoudre le compromis entre lisibilité et correction.
Decaf-Gen-22b : Un nouveau modèle générateur LLM qui surpasse les décompilateurs neuronaux de l'état de l'art existants (y compris LLM4Decompile et Idioms-Gemma-7b) en termes de précision fonctionnelle et de correspondance au niveau des octets, en particulier lorsqu'il est entraîné avec une supervision consciente des types et des entrées de binaires strippés.
Decaf-ReRanker-32b : Un modèle de réordonnancement spécialisé qui identifie efficacement les décompilations fonctionnellement correctes parmi un ensemble de candidats, surpassant significativement les heuristiques simples de probabilité logarithmique ou de distance byte dans de nombreux scénarios.
Insight Méthodologique : La démonstration que l'échantillonnage de plusieurs candidats (par exemple, 32) augmente considérablement la probabilité de trouver une solution fonctionnellement correcte (élevant la limite supérieure d'environ 60 % à environ 88 % dans certaines partitions), à condition qu'un mécanisme de réordonnancement efficace soit en place.
Généralisabilité : Des preuves indiquant que la méthodologie de réordonnancement peut amplifier des modèles plus faibles (par exemple, l'application du réordonnanceur DECAF aux sorties de LLM4Decompile produit des gains significatifs).

4. Résultats Expérimentaux

Les auteurs ont évalué leur approche sur le jeu de données EXEBENCH à travers diverses partitions (Réel/Synthétique, Strippé/Non-strippé, -O0/-O2).

Correction Fonctionnelle : Sur la partition Stripped REAL -O2, DECAF a atteint un taux de correction fonctionnelle de 83,9 % avec réordonnancement, contre 26,0 % pour le meilleur modèle neuronal précédent (Idioms-Gemma-7b) et 59,1 % pour le générateur seul (échantillon unique).
Correspondance au Niveau des Octets : DECAF a atteint une correspondance exacte au niveau des octets de 70,9 % sur la même partition, surpassant significativement les 19,1 % de Idioms-Gemma-7b.
Similarité avec la Source : Contrairement à l'intuition selon laquelle l'optimisation de la correction pourrait réduire la lisibilité, les auteurs ont constaté que le réordonnancement pour la correction fonctionnelle améliorait généralement la similarité (distance d'édition plus faible) avec le code source original.
Récupération de Vulnérabilités : Sur la Juliet test suite, DECAF a obtenu un score F1 de 29,8 % pour la récupération de vulnérabilités, surpassant considérablement Ghidra (1,7 %) et démontrant une haute précision (95,5 %).
Robustesse : Lors des tests avec un compilateur différent (Clang) pour le feedback que celui utilisé pour la génération (GCC), la performance du réordonnanceur neuronal a chuté sur les partitions non strippées en raison d'un décalage de distribution, mettant en évidence une dépendance à la diversité des données d'entraînement.

5. Importance et Revendications

L'article soutient que les limitations des décompilateurs neuronaux actuels ne sont pas uniquement dues à un manque de données ou de taille de modèle, mais plutôt à l'absence de vérification et de recherche. En traitant la décompilation comme un problème de recherche où plusieurs candidats sont générés et filtrés via un feedback de compilateur, le système peut récupérer un code source de haute qualité qui est à la fois lisible et sémantiquement correct.

Les auteurs affirment que DECAF représente une avancée significative dans l'état de l'art de la décompilation neuronale, dépassant le paradigme de la « meilleure hypothèse unique ». Ils soulignent que leur approche est générale et peut être appliquée pour amplifier tout décompilateur neuronal capable de produire des candidats diversifiés. Le travail met également en évidence l'utilité pratique de ces méthodes dans des tâches de sécurité, telles que la récupération de vulnérabilités à partir de binaires strippés, où les outils traditionnels échouent souvent à fournir du code de haut niveau exploitable.

Les auteurs reconnaissent des limitations, notamment la dépendance à l'accès à la configuration du compilateur de référence pour la correspondance au niveau des octets et les défis de généralisation à différentes architectures de compilateurs (par exemple, Clang vs GCC) sans entraînement spécifique. Ils concluent que les travaux futurs devraient se concentrer sur l'entraînement de réordonnanceurs sur des configurations de compilateurs plus diversifiées et l'exploration de l'apprentissage par renforcement pour un raffinement itératif.