AI Policy, Disclosure, and Human in the Loop: How Are Contribution Guidelines Adapting to GenAI?
Cette étude empirique de 1 000 dépôts GitHub révèle que si la majorité des projets open source autorisent désormais les contributions assistées par l'IA, la plupart imposent des exigences strictes concernant la divulgation de l'usage de l'IA et le maintien d'une supervision humaine dans le processus de développement.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez le monde du développement logiciel comme une ville immense et bouillonnante où des millions de personnes construisent, réparent et agrandissent constamment un gigantesque gratte-ciel partagé appelé « Open Source ». Pendant des années, cette ville a fonctionné selon une règle simple : si vous voulez ajouter une nouvelle pièce ou réparer une fenêtre cassée, vous devez faire le travail vous-même, et les inspecteurs bénévoles de la ville (appelés « mainteneurs ») vérifient vos plans pour s'assurer qu'ils sont sûrs. Mais récemment, un nouveau type d'équipe de construction est arrivé : l'IA générative. Considérez-les comme des robots magiques et super rapides capables de rédiger des plans entiers en quelques secondes. Bien que cela ressemble à un rêve, cela a créé un certain embouteillage. Les robots sont si rapides qu'ils inondent la ville de milliers de nouveaux plans chaque jour, submergeant les inspecteurs humains. Certains plans rédigés par des robots sont brillants, mais d'autres sont de la « fange de l'IA » (AI slop) — des brouillons désordonnés et de faible qualité qui semblent corrects au premier coup d'œil, mais qui s'effondrent dès que l'on tente de construire avec. La grande question pour la ville n'est plus seulement « Pouvons-nous construire ? », mais plutôt « Comment laisser les robots nous aider sans les laisser prendre le contrôle du chantier ? »
Ce document explore précisément cette question en examinant les « livrets de règles » (directives de contribution) de 1 000 des projets logiciels les plus populaires sur GitHub. Les chercheurs ont voulu voir comment ces projets s'adaptent à la main-d'œuvre robotique. Ils ont découvert que la plupart des projets ne bannissent pas les robots ; au lieu de cela, ils essaient de mettre en place un système de « l'humain dans la boucle » (Human-in-the-Loop). Imaginez un chantier de construction où le robot peut mélanger le béton et poser les briques, mais où un chef de chantier humain doit se tenir juste là, tenant la truelle, comprenant chaque étape et validant le travail avant qu'il ne devienne partie intégrante du bâtiment. L'étude a analysé 118 livrets de règles spécifiques mentionnant l'IA et a découvert un schéma clair : bien que 78 % des projets disent « Oui, vous pouvez utiliser l'IA », ils exigent presque toujours deux choses. Premièrement, vous devez lever la main et dire : « J'ai utilisé un robot pour ceci » (Divulgation). Deuxièmement, vous devez prouver que vous, l'humain, comprenez réellement ce que le robot a construit (L'humain dans la boucle).
Les chercheurs ont constaté que 51 % des projets exigent explicitement que vous divulguiez l'utilisation de l'IA, traitant cela comme une étiquette de sécurité sur un emballage alimentaire. Ils veulent que les inspecteurs sachent : « Hé, cette partie a été rédigée par une IA, donc veuillez la vérifier attentivement ». Un autre 27 % autorise l'IA mais ne l'encourage pas explicitement, tandis qu'un groupe plus restreint (22 %) dit : « Pas de robots autorisés ; nous voulons du code 100 % fait par l'homme ». Cependant, la découverte la plus frappante est que 74 % des projets insistent sur la présence d'un humain dans la boucle. Cela signifie que même si un robot écrit le code, un humain doit le lire, le comprendre et en assumer l'entière responsabilité. Le document suggère que sans cette surveillance humaine, la ville risque d'être inondée de « fange de l'IA » — du code de faible qualité qui fait perdre le temps de tout le monde.
Il est intéressant de noter que, bien que de nombreux projets aient ces règles, les instructions sont parfois un peu floues. Certains livrets de règles disent « divulguez si l'IA a effectué une quantité significative de travail », mais ils ne définissent pas toujours précisément ce que signifie « significative ». C'est comme un professeur qui dirait : « Dites-moi si vous avez utilisé une calculatrice », mais sans préciser si cela concerne un seul problème mathématique ou l'examen entier. Les auteurs suggèrent que les projets doivent être plus précis pour éviter la confusion. Ils préviennent également que, bien que certains projets tentent de bloquer les soumissions de faible qualité générées par l'IA en les fermant automatiquement, cela pourrait accidentellement agacer de vrais contributeurs humains qui utilisent simplement des outils d'IA. En fin de compte, le document conclut que l'avenir de l'open source n'est pas de choisir entre les humains et les robots, mais de s'assurer que l'humain reste fermement aux commandes, utilisant le robot comme un outil puissant plutôt que de le laisser conduire la voiture.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.