What Makes Code Generation Ethically Sourced?

Cet article introduit le concept de génération de code éthiquement sourcée (ES-CodeGen) en établissant une taxonomie de 11 dimensions basée sur une revue de littérature et une enquête auprès de praticiens, tout en soulignant la nécessité de mieux intégrer les aspects éthiques et sociaux dans le développement de ces modèles.

L'essentiel

Voici une explication simple et imagée de ce papier de recherche, conçue pour être comprise par tout le monde, même sans être expert en informatique.

🌱 Le Grand Jardin du Code : Qui a planté les graines ?

Imaginez que les modèles d'intelligence artificielle qui écrivent du code (comme ceux qui vous aident à programmer) sont comme de grands chefs cuisiniers ou des jardiniers. Pour créer un plat délicieux ou faire pousser un arbre magnifique, ils ont besoin d'ingrédients ou de graines.

Dans le monde du code, ces "ingrédients", ce sont les millions de lignes de code écrites par des humains sur internet (comme sur GitHub).

Le problème, c'est que jusqu'à présent, ces chefs cuisiniers prenaient souvent les ingrédients sans demander la permission, sans payer les fermiers, et sans vérifier si les graines étaient saines. C'est ce qu'on appelle un "approvisionnement non éthique".

Ce papier de recherche pose une question simple mais cruciale : Comment s'assurer que tout le processus de création de ces chefs cuisiniers est "éthique", du champ à l'assiette ?

Les auteurs appellent cela ES-CodeGen (Code Généré de Source Éthique).

---

🕵️‍♂️ La Grande Enquête : Comment ont-ils fait ?

Pour répondre à cette question, les chercheurs ont mené une enquête en deux temps, un peu comme des détectives :

1. L'Enquête de Bibliothèque (La Revue de Littérature) : Ils ont lu 803 articles scientifiques (comme si on lisait 803 livres de cuisine et de droit) pour voir ce que les gens pensaient déjà de l'éthique dans d'autres domaines (médecine, économie, etc.). Ils ont trouvé 10 règles d'or (dimensions) pour un code éthique.
2. L'Interview des Chefs (Le Sondage) : Ensuite, ils ont interrogé 32 professionnels (des développeurs, des chercheurs, et même des gens dont le code avait été utilisé sans leur accord). Ils ont demandé : "Est-ce que ces règles vous semblent importantes ? Qu'est-ce qu'on a oublié ?"

---

📋 Les 11 Piliers de la Cuisine Éthique

Grâce à cette enquête, ils ont affiné leur liste pour obtenir 11 dimensions essentielles. Voici les plus importantes, expliquées avec des métaphores :

• 🤝 Le Consentement (Les Droits du Sujet) : C'est la règle la plus importante. Si un chef utilise des tomates d'un fermier, il doit demander la permission. Dans le code, cela signifie que les auteurs de code devraient pouvoir dire "Oui, utilisez mon code" (consentement opt-in) plutôt que de devoir courir pour dire "Non, enlevez-le" (consentement opt-out).
• ⚖️ La Propriété Intellectuelle (Les Droits d'Auteur) : C'est comme respecter les droits d'auteur d'un livre. On ne peut pas juste copier-coller un chapitre entier et dire que c'est notre œuvre.
• 🌍 L'Environnement (La Planète) : Cuisiner prend de l'énergie. Les gros modèles d'IA consomment énormément d'électricité. Un code éthique doit aussi penser à ne pas gaspiller la planète (comme un chef qui trie ses déchets).
• 👷 Les Droits des Travailleurs (Les Salaires Justes) : Souvent, des humains sont payés très peu pour nettoyer les données ou étiqueter les images pour entraîner l'IA. C'est comme si le chef cuisinier exploitait ses commis. L'éthique exige qu'ils soient payés équitablement.
• 💻 La Qualité du Code (La Nouveauté !) : C'est une découverte surprise du sondage. Les gens ont dit : "Si l'IA écrit du code qui a l'air bien mais qui est en fait faux ou dangereux, c'est aussi une question d'éthique !" C'est comme servir un plat empoisonné même si l'assiette est belle.

---

⚠️ Les Conséquences d'une Mauvaise Cuisine

Que se passe-t-il si on ignore ces règles ? Les chercheurs ont listé les risques :

• Des procès : Comme un restaurant qui se fait poursuivre pour avoir volé une recette secrète.
• De la méfiance : Les gens arrêtent d'utiliser l'outil s'ils ont peur que leurs données soient volées.
• L'exploitation : Les petits développeurs qui partagent leur code gratuitement se sentent volés et arrêtent de contribuer à l'open source.
• Des bugs dangereux : Un code mal fait peut créer des failles de sécurité.

---

🚧 Le Constat Amère : Où en sommes-nous ?

La conclusion est un peu dure mais nécessaire. Les chercheurs ont demandé aux participants : "Est-ce que les outils d'IA actuels (comme Copilot, Code Llama, etc.) respectent ces règles ?"

La réponse ? Non, ou très partiellement.
La plupart des outils actuels sont comme des restaurants qui utilisent des ingrédients volés, ne paient pas leurs fournisseurs, et ne disent pas d'où vient la nourriture. Ils sont efficaces, mais pas "éthiques".

💡 La Leçon à Retenir

Ce papier nous dit qu'il ne suffit pas de créer une IA qui écrit du code vite et bien. Il faut aussi s'assurer que :

1. On a demandé la permission pour utiliser les ingrédients.
2. On a payé les gens qui ont préparé les ingrédients.
3. On ne gaspille pas la planète.
4. Le plat final est sain et sûr.

C'est un appel à transformer l'industrie du code pour qu'elle soit juste, transparente et durable, comme une vraie chaîne d'approvisionnement responsable, mais pour le monde numérique.

Résumé technique

Voici un résumé technique détaillé de l'article de recherche intitulé "What Makes Code Generation Ethically Sourced?" (Ce qui rend la génération de code éthiquement sourced), présenté à la conférence ICSE '26.

1. Problématique

L'essor des modèles de génération de code (comme Code Llama, Codex, etc.) a soulevé des préoccupations majeures concernant la responsabilité de l'IA. Bien que ces modèles réduisent les coûts de développement, leur adoption est freinée par des risques éthiques et juridiques :

• Propriété intellectuelle et licences : Incertitudes sur les droits d'auteur et les risques de plagiat (ex. : 60 % des réponses de GPT-3.5 contenant du contenu plagié selon une étude).
• Vie privée : Risques de fuite de données sensibles (ex. : interdiction de l'utilisation de l'IA par Apple et Samsung).
• Impact environnemental : L'empreinte carbone du calcul des modèles d'IA.
• Manque de cadre : Contrairement à la synthèse vocale ou à la génération d'images, la notion de "Génération de Code Éthiquement Sourced" (ES-CodeGen) n'était pas définie ni structurée pour le domaine du logiciel.

L'objectif de l'étude est de définir ce concept, d'identifier ses dimensions, ses étapes de la chaîne d'approvisionnement et les conséquences de son absence.

2. Méthodologie

Les auteurs ont adopté une approche mixte en deux phases pour construire une taxonomie complète :

Phase 1 : Revue Systématique de la Littérature

• Portée : Une recherche interdisciplinaire couvrant l'économie, la médecine, la religion, puis spécifique à l'IA et la génération de code.
• Processus :
  • Recherche initiale sur Google Scholar (112 000 résultats, 100 examinés manuellement).
  • Recherche spécifique dans les bases de données informatiques (IEEE, ACM, Scopus, Google Scholar) avec des requêtes combinant "éthique", "IA" et "génération de code".
  • Snowballing : Analyse des références (rétrograde) et des citations (progrès) des articles pertinents.
• Volume : 803 articles examinés au total, aboutissant à 71 articles pertinents.
• Analyse : Analyse thématique pour extraire les dimensions initiales (10 dimensions identifiées).

Phase 2 : Enquête auprès des Praticiens

• Participants : 32 praticiens (chercheurs, développeurs, ingénieurs ML) ayant une expérience avec les modèles de génération de code.
• Groupe spécial : Inclusion de 6 "utilisateurs impactés", c'est-à-dire des développeurs qui ont soumis des issues GitHub pour se désinscrire (opt-out) du jeu de données "The Stack" utilisé pour l'entraînement.
• Questionnaire : Composé de questions ouvertes, de choix multiples, d'échelles de Likert (5 points) et de matrices pour évaluer la pertinence des dimensions, leur applicabilité aux étapes/artefacts, les compromis acceptables et les conséquences négatives.

3. Contributions Clés

A. Définition de l'ES-CodeGen

L'article introduit le concept de ES-CodeGen comme la gestion de tous les processus (de la collecte de données au déploiement post-vente) via des pratiques éthiques et durables, en s'inspirant du concept de "chaîne d'approvisionnement éthique" (supply chain).

B. Taxonomie Élargie (11 Dimensions)

La revue de littérature a initialement identifié 10 dimensions, mais l'enquête a permis d'en ajouter une onzième cruciale : la Qualité du Code.
Les 11 dimensions sont regroupées en trois domaines :

1. Source : Droits des sujets (consentement, vie privée), Équité (diversité, biais), Accès, Responsabilité (transparence), Droits de Propriété Intellectuelle (licences, attribution), Intégrité (absence de contamination).
2. Société : Responsabilité sociale (bénéfice pour les communautés), Acceptabilité sociale (culture, religion), Droits du travail (salaires justes, conditions de travail).
3. Environnement : Durabilité (consommation énergétique, émissions).

Note technique : La dimension Qualité du Code (précision, fiabilité) a été ajoutée car les praticiens ont souligné que la génération de code erroné ou dangereux (ex. : tutoriels pour fabriquer des bombes) constitue un préjudice éthique direct.

C. Chaîne d'Approvisionnement et Artefacts

L'étude cartographie l'applicabilité de ces dimensions sur l'ensemble du cycle de vie :

• Étapes : Collecte de données, annotation, nettoyage, entraînement, évaluation, déploiement, post-déploiement (surveillance).
• Artefacts : Données d'entraînement, dépendances, métadonnées du modèle, documentation, prompts, et sorties (outputs).
• Résultat : Toutes les étapes et tous les artefacts sont considérés comme pertinents pour la gestion éthique.

4. Résultats Principaux

• Perception des Praticiens :
  • Les dimensions les plus critiques sont les Droits des sujets, les Droits de Propriété Intellectuelle et la Durabilité environnementale.
  • Les dimensions les plus souvent ignorées par les praticiens (bien que jugées pertinentes) sont la Responsabilité sociale, l'Acceptabilité sociale et les Droits du travail.
• Consentement Opt-in vs Opt-out :
  • Les "utilisateurs impactés" (ceux qui ont demandé le retrait de leurs données) privilégient fortement le consentement Opt-in (autorisation explicite préalable) par rapport au mécanisme actuel d'Opt-out (retrait après coup), jugé insuffisant et potentiellement illégal.
• Conséquences d'une Génération Non-Éthique (UnES-CodeGen) :
  • Les risques les plus redoutés sont les poursuites judiciaires (violation de droits d'auteur) et les risques de sécurité/vie privée.
  • Nouvelles menaces identifiées : Exploitation des développeurs, génération de code de mauvaise qualité, monopolisation de l'IA par quelques acteurs, et impact négatif sur les communautés open-source (réduction des contributions).
• Compromis Acceptables (Trade-offs) :
  • Perte de précision : Inacceptable pour la majorité. Seulement 28,1 % acceptent une perte allant jusqu'à 10 %.
  • Contamination : 31,3 % des participants jugent qu'aucune contamination n'est acceptable. Les sources de données inconnues et les licences incompatibles sont les plus inacceptables.
• État de l'Art :
  • La majorité des participants (68,8 %) estiment qu'aucun modèle de génération de code actuel ne correspond pleinement à la définition d'ES-CodeGen. La plupart sont considérés comme "partiellement alignés", manquant principalement de transparence et de mécanismes de consentement Opt-in.

5. Signification et Implications

• Changement de paradigme : L'étude déplace le focus éthique de la simple évaluation des sorties (outputs) vers une gestion holistique de la chaîne d'approvisionnement (de la donnée brute au modèle déployé).
• Appel à l'action pour la recherche :
  • Nécessité de développer des systèmes de gestion de consentement à grande échelle pour les dépôts open-source.
  • Intégration de la qualité du code comme métrique éthique fondamentale.
  • Conception de modèles qui respectent les licences et les droits des auteurs de données d'entraînement.
• Impact sociétal : L'étude met en lumière le risque d'exploitation des travailleurs humains (labelers) et des contributeurs open-source, appelant à une régulation plus stricte et à des pratiques de rémunération équitables.

En conclusion, cet article fournit le premier cadre structuré (taxonomie) pour évaluer et construire des modèles de génération de code véritablement éthiques, soulignant que l'absence de ces pratiques menace non seulement la légalité, mais aussi la qualité technique et la durabilité de l'écosystème logiciel.