💬 NLP

GoCoMA: Hyperbolic Multimodal Representation Fusion for Large Language Model-Generated Code Attribution

Le papier présente GoCoMA, un cadre multimodal qui fusionne les représentations de la stylométrie du code et des artefacts binaires dans un espace hyperbolique pour améliorer l'attribution de la source des codes générés par les grands modèles de langage.

Auteurs originaux : Nitin Choudhury, Bikrant Bikram Pratap Maurya, Bhavinkumar Vinodbhai Kuwar, Arun Balaji Buduru

Publié 2026-04-21

📖 5 min de lecture🧠 Analyse approfondie

CC BY 4.0

Auteurs originaux : Nitin Choudhury, Bikrant Bikram Pratap Maurya, Bhavinkumar Vinodbhai Kuwar, Arun Balaji Buduru

Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète

🕵️‍♂️ Le Problème : Qui a écrit ce code ?

Imaginez que vous trouvez un roman magnifique. Il est si bien écrit qu'il ressemble à s'y méprendre à un livre écrit par un humain célèbre. Mais en réalité, c'est un Intelligence Artificielle (IA) qui l'a généré.

Aujourd'hui, les IA comme ChatGPT ou Gemini écrivent du code informatique (le "squelette" des logiciels) si bien qu'il est impossible de faire la différence avec un code écrit par un humain. C'est un problème :

Si le code contient un virus, qui est responsable ?
Si le code viole une licence, d'où vient-il ?
Si l'IA a halluciné et inventé une librairie qui n'existe pas, comment le prouver ?

Les détectives actuels (les chercheurs) regardent le texte du code pour trouver des indices (la façon dont les variables sont nommées, la structure des phrases). Mais les IA sont trop intelligentes pour laisser ces traces faciles. Il faut un nouvel outil.

🔍 La Solution : GoCoMA (Le Détective à Double Vue)

Les auteurs de l'article ont créé GoCoMA. Pour faire simple, c'est un détective qui ne regarde pas seulement le texte, mais qui regarde deux choses en même temps :

Le Code Source (Le Texte) : C'est le code que l'on voit, écrit en langage humain (Python, Java, etc.).
L'Image du "Moule" (Le BPEA) : C'est l'astuce géniale. Quand un code est compilé (transformé pour être exécuté par l'ordinateur), il devient une suite de chiffres bruts (des octets). Les chercheurs ont transformé cette suite de chiffres en image.

L'analogie du gâteau :

Le Code Source, c'est la recette du gâteau (les mots, les ingrédients).
L'Image du BPEA, c'est la photo du gâteau une fois cuit, vu de très près. Même si deux cuisiniers utilisent la même recette, leur four, leur façon de mélanger et leur style de cuisson laissent des traces invisibles à l'œil nu sur la photo finale (la texture, la couleur exacte).

GoCoMA regarde donc la recette ET la photo du gâteau cuit pour dire : "Ah ! Ce gâteau a été fait par le four de l'IA X, pas par l'humain Y !"

🌌 Le Secret : La Géométrie Hyperbolique (L'Univers en Entonnoir)

C'est ici que ça devient scientifique, mais restons simples.

Normalement, quand on mélange deux informations (texte + image), on les met dans un "plat" plat (comme une table). C'est ce qu'on appelle l'espace Euclidien. Le problème, c'est que si vous avez beaucoup d'informations complexes, tout se mélange et devient flou sur une table plate.

GoCoMA utilise une géométrie spéciale appelée Hyperbolique.

L'analogie de l'entonnoir (ou du champignon) : Imaginez un espace qui ressemble à un entonnoir ou à une selle de cheval. Au centre, c'est large, et plus vous allez vers les bords, plus l'espace s'étend rapidement.
Pourquoi c'est utile ? Dans ce monde en forme d'entonnoir, on peut ranger les informations par "niveaux" :
- Le centre (le haut de l'entonnoir) contient les grandes idées (le style général de l'IA).
- Les bords (le bas de l'entonnoir) contiennent les détails précis (les petits bits de l'image du code compilé).

GoCoMA utilise cette forme spéciale pour garder les grandes idées et les petits détails bien séparés mais connectés, ce qui est impossible sur une table plate. C'est comme si le détective avait une loupe magique qui voit à la fois la forêt et chaque feuille individuellement sans se perdre.

🧠 Comment ça marche ? (Le Processus)

Transformation : Le code est transformé en image (comme une photo de la texture du métal).
Deux Experts :
- Un expert lit le texte (le code).
- Un expert regarde l'image (la texture du code compilé).
La Fusion Magique : Au lieu de simplement coller leurs notes ensemble, ils entrent dans l'entonnoir hyperbolique. Là-bas, ils utilisent une technique spéciale (appelée GCSA) pour se parler et se comprendre parfaitement, en tenant compte de la forme de l'entonnoir.
Le Verdict : Le résultat est ramené dans notre monde normal (la table plate) pour dire : "C'est bien l'IA GPT-4 qui a écrit ça !"

🏆 Les Résultats

Les chercheurs ont testé GoCoMA sur deux grands ensembles de données (des concours de code).

Les méthodes anciennes (qui ne regardent que le texte ou qui mélangent mal les infos) ont obtenu environ 75-80% de réussite.
GoCoMA a atteint près de 99% de réussite !

C'est comme si un détective qui ne regardait que le texte avait 80% de chances de trouver le coupable, tandis que GoCoMA, avec son double regard et sa loupe magique, le trouve presque à chaque fois.

En Résumé

GoCoMA est un nouveau détective numérique qui résout le mystère "Qui a écrit ce code ?" en :

Regardant à la fois le texte et la "photo" du code compilé.
Utilisant un espace mathématique spécial (l'hyperbolique) pour ne pas mélanger les indices.

C'est une avancée majeure pour la sécurité, car cela permet de tracer l'origine des codes générés par les IA, même quand ils sont parfaits et indétectables par les méthodes habituelles.

1. Problématique et Contexte

L'utilisation croissante des Grands Modèles de Langage (LLM) pour la génération de code soulève des préoccupations critiques concernant la sécurité, les licences et le plagiat. Les LLMs entraînés sur de vastes corpus de code produisent désormais des scripts quasi indistinguables de ceux écrits par des humains. Cela rend la reconnaissance d'auteur de code (Code Authorship Attribution - CAA) essentielle pour l'analyse forensique, afin d'identifier l'origine d'un code (humain ou quel LLM spécifique) en cas de vulnérabilité ou de problème de licence.

Les approches existantes se concentrent principalement sur les caractéristiques du code source (stylométrie, syntaxe, AST) ou sur des approches de filigrane (watermarking), qui sont souvent peu fiables ou inapplicables aux codes générés avant leur mise en œuvre. L'article postule qu'il existe un manque dans les représentations profondes : l'exploitation des signaux de bas niveau dérivés des artefacts binaires pré-exécutables (BPEA) et leur relation avec les indices stylistiques de haut niveau du code source.

2. Méthodologie : Le Framework GoCoMA

GoCoMA (Geodesic Cosine similarity-based cross-Modal Attention) est un cadre multimodal novateur qui fusionne deux types de signaux complémentaires dans un espace géométrique spécifique :

A. Dualité des Modalités

Représentation du Code (Haut niveau) : Utilisation de modèles de langage pré-entraînés pour le code (Code PLMs) tels que CodeT5+, Qwen2.5-Coder, UniXcoder et CodeBERT. Ces modèles capturent la sémantique, la syntaxe et la stylométrie du code source.
Représentation de l'Artefact Binaire (Bas niveau) : Le code source est compilé en artefacts binaires pré-exécutables (fichiers .o, .class, .pyc, etc.). Ces fichiers binaires sont transformés en images (flux d'octets mappés en pixels RGB). Des modèles de vision pré-entraînés (Vision PTMs) comme ViT, ConvNeXt, EfficientNetV2 et MaxViT analysent ces images pour capturer des motifs d'optimisation, de mise en page et des empreintes de compilation invisibles dans le code source.

B. Fusion Hyperbolique (Espace de Poincaré)

L'hypothèse centrale est que la relation entre le code source (abstrait) et les artefacts binaires (concrets) forme une hiérarchie extrinsèque. La fusion classique dans un espace euclidien (concaténation, attention standard) échoue à préserver cette structure hiérarchique et souffre de problèmes de « encombrement » (crowding).

GoCoMA résout cela en projetant les embeddings euclidiens dans un espace hyperbolique (Boule de Poincaré) à courbure négative, où les volumes croissent exponentiellement, permettant de mieux modéliser les structures arborescentes et hiérarchiques.

Le processus se déroule en trois étapes :

Projection : Transformation des embeddings euclidiens ( $h^{(E)}$ ) en embeddings hyperboliques ( $h^{(H)}$ ) via l'application exponentielle riemannienne.
Fusion par Attention GCSA : Utilisation d'une Attention Croisée basée sur la Similarité Cosinus Géodésique (GCSA).
- Les requêtes, clés et valeurs sont calculées via des cartes linéaires de Möbius (adaptées à la courbure).
- La similarité est calculée en utilisant la distance géodésique dans la boule de Poincaré.
- Cela permet d'aligner les représentations de bas niveau (binaire) et de haut niveau (code) tout en respectant la courbure de l'espace.
Rétro-projection : La représentation fusionnée est projetée de retour dans l'espace euclidien via l'application logarithmique pour la classification finale.

3. Contributions Clés

Perspective Multimodale : Première approche à modéliser conjointement le code source et les images dérivées des artefacts binaires pré-exécutables (BPEA) pour la CAA.
Architecture GoCoMA : Introduction d'un cadre de fusion géométriquement conscient utilisant l'espace hyperbolique et l'attention GCSA pour capturer la hiérarchie entre les niveaux d'abstraction.
Validation Empirique : Démonstration de performances supérieures par rapport aux modèles unimodaux, aux méthodes de fusion euclidiennes et aux approches basées sur le prompting de LLMs.

4. Résultats Expérimentaux

Les expériences ont été menées sur deux benchmarks open-source : CoDET-M4 (multi-langages, multi-domaines) et LLMAuthorBench (attribution fine-grain multi-classe).

Performance Supérieure : GoCoMA surpasse systématiquement les baselines unimodales et multimodales euclidiennes.
- Sur LLMAuthorBench, la meilleure configuration (CodeT5+ + ViT avec fusion GoCoMA) atteint 98,92 % de précision et 93,82 % de macro-F1.
- Sur CoDET-M4, la même configuration atteint 88,67 % de précision et 80,97 % de macro-F1.
Comparaison avec les LLMs : GoCoMA dépasse largement les LLMs généraux (GPT-5.1, DeepSeek, Gemini) utilisés en mode zero-shot ou few-shot. Par exemple, alors que GPT-5.1 atteint ~75 % en few-shot, GoCoMA atteint ~89-98 %, prouvant que la modélisation hiérarchique spécialisée est cruciale pour cette tâche.
Analyse d'Abattement : L'étude montre que la fusion dans l'espace hyperbolique apporte le gain le plus significatif, confirmant que la courbure négative préserve mieux les relations hiérarchiques entre les signaux stylométriques et sémantiques.

5. Signification et Limites

Signification :
Ce travail établit que les artefacts binaires contiennent des informations d'auteur discriminantes qui, lorsqu'elles sont fusionnées avec le code source via une géométrie hyperbolique, permettent une attribution d'auteur extrêmement précise. Cela ouvre la voie à des outils forensiques robustes capables de tracer l'origine du code généré par l'IA, indépendamment des techniques de filigrane.

Limites :

Généralisation : Les résultats sont basés sur deux benchmarks ; la généralisation à d'autres langages, dépôts ou systèmes de construction n'est pas garantie.
Sensibilité à la Toolchain : La transformation binaire-vers-image est sensible aux compilateurs, aux flags d'optimisation et aux liens, ce qui peut modifier la distribution des images.
Robustesse : La méthode n'a pas été testée contre des obfuscations de style, des normalisations de formatage ou des modifications préservant la sémantique qui pourraient dégrader les performances.

En conclusion, GoCoMA représente une avancée majeure dans la forensique logicielle en démontrant que l'exploitation conjointe du code source et de ses artefacts binaires dans un espace hyperbolique offre une solution supérieure pour identifier l'origine des codes générés par les LLMs.