Robust and Secure Code Watermarking for Large Language Models via ML/Crypto Codesign
Le document présente RoSeMary, un nouveau cadre de co-conception ML/Crypto qui utilise l'entraînement de bout en bout avec CodeT5 et des preuves à divulgation nulle de connaissance pour intégrer des tatouages numériques robustes, fonctionnels et respectueux de la vie privée dans le code généré par les LLM, répondant efficacement aux défis de la faible entropie et de la vérification sécurisée.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez un monde où les ordinateurs ne se contentent pas de discuter avec nous, mais rédigent réellement les plans de nos vies numériques. C'est le domaine des grands modèles de langage (LLM) pour le code, ces assistants IA ultra-intelligents capables de générer des fonctions logicielles, de corriger des bugs et de construire des programmes entiers simplement en lisant une instruction. Mais voici le hic : quand ces IA écrivent du code, il est souvent difficile de savoir à qui il appartient réellement. Est-ce un ingénieur humain qui l'a écrit, ou est-ce une IA ? Et si c'est une IA, l'IA de quelle entreprise ? C'est un enjeu majeur car le code est une propriété intellectuelle précieuse, comme une recette secrète ou une invention brevetée.
Pour résoudre cela, des scientifiques tentent de « tatouer » le code de l'IA. Voyez cela comme une encre invisible numérique ou un filigrane caché sur un billet de banque. Vous voulez pouvoir prouver : « Hé, ce code a été fabriqué par mon IA », sans pour autant modifier le fonctionnement du code. Mais il y a un problème délicat : le code est très rigide. Contrairement à un récit où l'on peut remplacer des mots par des synonymes, le code doit suivre des règles strictes pour s'exécuter. Si vous modifiez trop de choses pour cacher un message secret, le programme se casse. De plus, pour prouver la propriété devant un tribunal, il faut généralement présenter la clé secrète (le tatouage) à un juge. Or, si vous montrez la clé, des personnes malintentionnées peuvent la voler et fabriquer leurs propres tatouages plus tard. C'est un jeu de cache-cache frustrant où les règles du jeu rendent la victoire presque impossible sans perdre quelque chose d'autre.
C'est là qu'intervient un nouveau cadre appelé RoSeMary, agissant comme un magicien habile capable de cacher un message secret dans une boîte verrouillée sans jamais montrer la clé. Les chercheurs, une équipe de l'Université de Californie à San Diego et de l'Université d'État de San Diego, ont conçu un système qui combine l'apprentissage automatique (la partie IA) et la cryptographie (la partie mathématique secrète). Ils ont trouvé comment intégrer une signature cachée dans le code généré par l'IA qui soit difficile à supprimer, qui conserve parfaitement le fonctionnement du code et, surtout, qui permette à un juge de vérifier la propriété sans jamais voir la signature secrète elle-même.
Voici comment RoSeMary réalise ce tour de magie. D'abord, il utilise un modèle d'IA pré-entraîné appelé CodeT5, qui est comme un chef cuisinier expert ayant goûté des millions de recettes. Au lieu de simplement modifier le code de manière aléatoire, ce chef comprend la « saveur » du code. Il prend le code original et un message secret (le tatouage) et décide de la meilleure façon de modifier légèrement le code — comme renommer une variable de x en item ou changer une boucle while en une boucle for — afin que le message secret soit caché à l'intérieur de ces infimes changements. Parce que le chef connaît les règles de la cuisine (la programmation), le code a toujours exactement le même goût (fonctionne parfaitement), même avec l'ingrédient secret ajouté.
Mais le véritable miracle se produit au moment de vérifier l'authenticité du code. Habituellement, vous devriez remettre la recette secrète à un juge. RoSeMary utilise un outil cryptographique appelé Preuve à connaissance nulle (ZKP - Zero-Knowledge Proof). Imaginez que vous vouliez prouver à un ami que vous connaissez la combinaison d'un coffre-fort, mais que vous ne voulez pas lui donner les chiffres. Vous pourriez ouvrir le coffre devant lui, lui montrer le trésil à l'intérieur, puis le refermer. Il saura que vous connaissez la combinaison, mais il n'aura jamais vu les chiffres. RoSeMary fait quelque chose de similaire. Le propriétaire de l'IA exécute un circuit mathématique complexe qui vérifie si la signature cachée est présente. Il génère une petite « preuve » numérique qui dit : « Oui, la signature est valide », sans révéler ce qu'est réellement la signature.
L'équipe a testé ce système sur des milliers d'exemples de code dans des langages comme Python, Java et C++. Ils ont découvert que RoSeMary est incroyablement efficace dans sa tâche. Il a réussi à cacher le tatouage dans 97,64 % des cas (ce qui signifie que le code fonctionnait toujours) et il pouvait détecter le tatouage avec un score de précision de 0,97 (où 1,0 est la perfection). Même lorsque des acteurs malveillants ont tenté de briser le tatouage en renommant des variables ou en utilisant une autre IA pour réécrire le code, RoSeMary a toujours trouvé le message caché 98 % du temps.
Peut-être la partie la plus impressionnante est la vitesse et la confidentialité. Le système peut générer une preuve de propriété en environ 7,15 secondes, et un juge peut vérifier cette preuve en seulement 118,6 millisecondes (moins d'un clin d'œil). Crucialement, durant tout ce processus, le juge ne voit jamais le tatouage secret réel. Cela signifie que le propriétaire peut réutiliser le même tatouage encore et encore sans craindre que quelqu'un ne le vole pour forger une fausse revendication de propriété.
En résumé, RoSeMary résout un tir à la corde tripartite qui a longtemps laissé les chercheurs perplexes. Il parvient à maintenir le fonctionnement du code (fidélité), rendre le tatouage facile à trouver (détectabilité) et le rendre difficile à briser (robustesse), tout en gardant la clé secrète à l'abri des regards indiscrets. C'est une étape significative dans la protection de la propriété intellectuelle de la révolution de l'IA, garantissant que lorsqu'une IA écrit un chef-d'œuvre, l'artiste reçoit le crédit — et la protection — qu'il mérite.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.