Towards the Readability of LLM-Generated Codes through Multitask Representation Engineering

Résumé Technique : Vers la lisibilité du code généré par les LLM via l'Ingénierie de Représentation Multitâche

Énoncé du Problème
Bien que les grands modèles de langage (LLM) aient considérablement fait progresser la génération de code, la recherche actuelle se concentre principalement sur la garantie de la correction du code (fidélité fonctionnelle), négligeant souvent la lisibilité (facilité de compréhension et de maintenance). La lisibilité du code est intrinsèquement subjective, variant selon les développeurs en fonction de leur expérience et de leurs préférences, et est typiquement évaluée par des métriques telles que la densité de commentaires, les conventions de nommage et la complexité cyclomatique. Les méthodes actuelles pour améliorer la lisibilité, comme le prompt engineering, manquent de stabilité entre les modèles et les tâches, tandis que le réglage fin de l'ensemble des paramètres (full-parameter fine-tuning) est coûteux en calcul et gourmand en données. De plus, les approches existantes d'Ingénierie de Représentation (RepE) visent principalement le contrôle d'une tâche unique, échouant à relever le défi de la coordination de multiples métriques de lisibilité potentiellement interférentes. Un écart critique subsiste dans la compréhension et la gestion du compromis entre l'amélioration de la lisibilité et la préservation de la correction du code lors de l'application d'un contrôle ciblé.

Méthodologie
Les auteurs proposent MRepE (Multitask Representation Engineering), un cadre conçu pour améliorer la lisibilité du code généré par les LLM via des vecteurs de pilotage multitâches sans mettre à jour les poids du modèle. La méthodologie se compose de trois étapes principales :

1. Préparation des Données : Le cadre construit des ensembles de données contrastifs pour trois métriques de lisibilité spécifiques : la densité de commentaires (CD), les conventions de nommage (NC) et la complexité cyclomatique (CC). Pour chaque métrique, des paires de prompts sont créées où l'un des exemples satisfait la métrique (haute lisibilité) et l'autre non (basse lisibilité). Les représentations d'états cachés du modèle pour ces paires sont calculées, et les vecteurs de différence sont recentrés pour isoler les décalages de représentation associés à chaque métrique.
2. Extraction des Vecteurs de Pilotage (MOC-JPCA) : Pour traiter l'interférence qui se produit lors de l'extraction et de l'injection indépendante de vecteurs de pilotage pour plusieurs tâches, les auteurs introduisent l'algorithme MOC-JPCA (Joint Principal Component Analysis with Multidimensional Orthogonal Constraints). Contra contrairement à la PCA standard, le MOC-JPCA estime conjointement la première composante principale pour chaque métrique sous la contrainte que tous les vecteurs de pilotage résultants soient orthogonaux deux à deux. Cela est réalisé en optimisant une somme pondérée des variances projetées sur une variété de Stiefel, garantissant que les directions de pilotage pour CD, NC et CC sont géométriquement désengagées et ne s'interfèrent pas mutuellement. L'algorithme est prouvé comme convergeant vers un point stationnaire du premier ordre.
3. Injection des Vecteurs de Pilotage : Lors de l'inférence, les vecteurs orthogonaux extraits sont injectés dans des couches cachées sélectionnées du LLM. L'injection est additive, modifiant l'état caché $h^{(l)}$ par une somme pondérée des vecteurs de pilotage ($v^{(l)}_k = c_k \cdot d^{(l)}_k$), où $c_k$ représente le coefficient de force de pilotage. Cela permet un ajustement dynamique du compromis entre les différentes dimensions de lisibilité et la préservation de la correction.

Analyse Théorique
Le document fournit un cadre théorique pour quantifier l'impact du pilotage multitâche :

• Amélioration de la Lisibilité (Théorème 2) : Les auteurs établissent une borne inférieure pour l'amélioration de la lisibilité du code. Ils prouvent qu'à mesure que les coefficients de pilotage augmentent, la probabilité que le modèle génère des réponses positives aux requêtes liées à la lisibilité est garantie d'augmenter, bornée par une fonction de la force de pilotage et de la performance initiale du modèle.
• Compromis de Correction (Théorème 3) : Inversement, les auteurs dérivent une borne supérieure pour l'impact négatif sur la correction du code. Le théorème caractérise comment l'injection de vecteurs de pilotage de lisibilité influence la capacité du modèle à identifier le code correct, démontrant que la dégradation de la correction est bornée et peut être contrôlée par la magnitude des coefficients de pilotage.

Résultats Expérimentaux
Le cadre a été évalué sur trois modèles de fondation : Deepseek R1 14b, Qwen2.5-Coder 14b Instruct, et CodeLlama 13b Instruct, en utilisant un ensemble de données MBPP étendu.

• Performance de la Lisibilité : Les expériences ont démontré une augmentation significative et stable de la probabilité que les modèles fournissent des réponses positives aux requêtes liées à la lisibilité (CD, NC, CC) à mesure que les coefficients de pilotage augmentaient. Les résultats empiriques concordent étroitement avec les bornes inférieures théoriques prédites par le Théorème 2.
• Impact sur la Correction : À mesure que la force de pilotage augmentait, les performances des modèles sur les requêtes de correction de code ont montré une tendance à la baisse. Cependant, ce déclin est contenu dans les bornes supérieures théoriques établies par le Théorème 3.
• Optimisation du Compromis : L'étude a identifié des combinaisons de coefficients spécifiques qui atteignent un équilibre favorable. Par exemple, avec Deepseek R1 14b, une configuration spécifique a amélioré la lisibilité de manière significative tout en réduisant la correction de seulement 0,79 %. Des compromis contrôlables similaires ont été observés pour les autres modèles, validant la capacité à ajuster le système selon les besoins d'applications spécifiques.

Contributions Clés et Signification
Le document revendique les contributions suivantes :

1. Cadre MRepE : Un nouveau cadre de pilotage multitâche qui permet un contrôle coordonné sur plusieurs métriques de lisibilité du code (densité de commentaires, conventions de nommage, complexité cyclomatique) sans réentraîner le modèle.
2. Algorithme MOC-JPCA : Un nouvel algorithme pour l'extraction de vecteurs de pilotage qui impose une orthogonalité multidimensionnelle, supprimant efficacement l'interférence mutuelle entre les différentes métriques de lisibilité et fournissant des bases de pilotage stables et complémentaires.
3. Caractérisation Théorique : Une analyse théorique qui quantifie le compromis entre la lisibilité du code et la correction, fournissant des bornes inférieures pour les gains de lisibilité et des bornes supérieures pour les pertes de correction.
4. Validation Empirique : Des expériences exhaustives sur plusieurs LLM démontrant que MRepE peut améliorer la lisibilité de manière cohérente tout en limitant la dégradation de la correction à des niveaux acceptables.

La signification de ce travail réside dans son passage d'un contrôle de tâche unique à une approche multitâche pour la qualité du code, répondant à la nature subjective et multidimensionnelle de la lisibilité. En fournissant une méthode légère et à faible dépendance de données (RepE) avec des garanties théoriques sur le compromis lisibilité-correction, les auteurs offrent un mécanisme pratique permettant aux développeurs d'adapter le code généré par les LLM aux préférences humaines spécifiques et aux exigences de maintenance sans sacrifier la fiabilité fonctionnelle.