Building an Internal Coding Agent at Zup: Lessons and Open Questions
Ce papier présente CodeGen, un agent de codage interne chez Zup, et démontre que des décisions d'ingénierie telles que la conception d'outils ciblés, les garde-fous de sécurité et la supervision humaine progressive sont plus déterminantes pour la fiabilité et l'adoption en production que la simple qualité du modèle ou le réglage des invites.
Article original sous licence CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Ceci est une explication générée par l'IA de l'article ci-dessous. Elle n'a pas été rédigée ni approuvée par les auteurs. Pour une précision technique, consultez l'article original. Lire la clause de non-responsabilité complète
Imaginez que vous embauchez un stagiaire très intelligent, capable de lire des livres entiers en une seconde et d'écrire du code informatique. C'est ce qu'on appelle un agent de codage (ou "coding agent").
Zup, une grande entreprise brésilienne, a décidé de créer son propre stagiaire numérique, qu'ils ont nommé CodeGen. Mais comme tout nouveau venu, ce robot a fait des bêtises au début. Ce papier raconte comment ils ont transformé ce prototype fragile en un employé de confiance, et surtout, ce qu'ils ont appris en cours de route.
Voici l'histoire de CodeGen, racontée simplement :
1. Le Problème : Le "Super-Stagiaire" qui casse tout
Au début, beaucoup pensaient que pour avoir un super robot, il suffisait d'avoir le modèle d'intelligence artificielle le plus puissant du monde (le "cerveau").
Mais en réalité, c'est comme donner un marteau géant à un enfant : s'il n'a pas de gants de protection ni de règles claires, il va casser la maison.
- Le risque : Si le robot réécrit un fichier entier, il peut effacer par erreur 90 % du code. S'il a le droit de lancer n'importe quelle commande sur l'ordinateur, il pourrait effacer tout le disque dur de l'entreprise (comme la commande
rm -rfqui est le "couteau suisse" de la destruction). - La leçon : Avoir un cerveau brillant ne suffit pas. Il faut construire un corps (les outils) et un système de sécurité solides.
2. La Solution : Comment ils ont construit CodeGen
Au lieu de suivre les modes et d'utiliser des boîtes à outils toutes faites (comme des cadres de développement complexes), l'équipe de Zup a décidé de construire la mécanique de base elle-même, brique par brique.
Voici les 4 piliers de leur réussite, expliqués avec des analogies :
A. Les Outils : Des "Ciseaux" plutôt qu'un "Camion-benne"
C'est la découverte la plus importante.
- L'erreur initiale : Ils avaient demandé au robot : "Réécris tout ce fichier". Le robot, comme un écrivain fatigué, coupait souvent la fin de l'histoire ou inventait des choses.
- La solution : Ils ont changé les outils. Au lieu de donner un camion-benne pour déplacer une maison entière, ils ont donné des ciseaux de précision.
- Le robot ne réécrit plus tout le fichier. Il dit : "Trouve cette phrase précise et remplace-la par celle-ci".
- Analogie : C'est la différence entre reconstruire toute une maison pour changer une fenêtre, et simplement remplacer la vitre cassée. C'est plus sûr et moins risqué.
B. La Sécurité : Le "Bouclier à plusieurs couches"
Le robot a besoin de pouvoir lancer des commandes (comme tester un logiciel), mais c'est dangereux.
- L'approche : Ils ont mis en place des barrières.
- Niveau 1 : Interdire les commandes trop dangereuses (comme effacer des dossiers).
- Niveau 2 : Si le robot veut faire quelque chose de risqué, il doit demander la permission à un humain (mode "Approbation").
- Niveau 3 : Tout ce que le robot fait est noté dans un journal (comme une caméra de surveillance) pour qu'on puisse vérifier après coup.
- Leçon clé : Si vous interdisez à un robot de toucher à un dossier, mais que vous lui laissez un outil qui peut faire la même chose par un autre chemin, la sécurité est inutile. Il faut surveiller tous les chemins.
C. La Confiance : Le "Permis de conduire progressif"
Comment faire confiance à un robot ? On ne lui donne pas les clés de la voiture tout de suite.
- Le processus :
- Mode Apprentissage : Au début, le robot propose une action, et l'humain doit cliquer sur "Oui, c'est bon" avant que ce soit fait.
- Mode Confiance : À mesure que le robot fait bien son travail, l'humain commence à lui faire confiance et le laisse agir seul (mode autonome).
- Analogie : C'est comme un permis de conduire. On commence sur un terrain d'entraînement avec un moniteur, puis on roule dans la ville, et enfin, on conduit seul sur l'autoroute. Personne ne force le robot à être autonome ; la confiance s'acquiert naturellement.
D. L'Architecture : Construire avant d'acheter
L'équipe a d'abord construit le système à la main, sans utiliser de logiciels tout faits.
- Pourquoi ? Parce que les outils du marché étaient faits pour des choses simples (comme une chaîne de montage), alors que le robot devait faire des boucles complexes (penser, agir, vérifier, recommencer).
- Le résultat : En construisant eux-mêmes, ils ont compris exactement comment ça marchait. Plus tard, quand de nouveaux outils sont arrivés sur le marché qui faisaient exactement la même chose, ils ont pu les utiliser en toute confiance, car ils savaient déjà comment ça fonctionnait sous le capot.
3. Les Questions qui restent (Les mystères non résolus)
Même avec un robot très performant, l'équipe se pose encore des questions :
- Comment écrire les règles ? Comment décrire les outils au robot pour qu'il ne les comprenne jamais mal ? (C'est comme écrire un manuel d'utilisation parfait).
- Où s'arrête le cerveau du robot ? Quand doit-il réfléchir tout seul, et quand doit-il attendre qu'un humain prenne la décision ?
- La mémoire : Le robot se souvient-il de ce qu'il a fait hier ? Comment gérer sa mémoire sans qu'il devienne confus ou qu'il oublie les règles de sécurité ?
En résumé
Ce papier nous dit une chose fondamentale : Le succès d'un robot ne dépend pas seulement de son intelligence (le modèle), mais de la qualité de ses outils, de ses règles de sécurité et de la façon dont les humains apprennent à lui faire confiance.
C'est comme construire une voiture de course : avoir un moteur puissant est bien, mais sans volant, sans freins et sans conducteur qui apprend à conduire, vous n'irez nulle part. Zup a passé plus de temps à construire les freins et le volant qu'à choisir le moteur, et c'est ce qui a fait la différence.
Noyé(e) sous les articles dans votre domaine ?
Recevez des digests quotidiens des articles les plus récents correspondant à vos mots-clés de recherche — avec des résumés techniques, dans votre langue.