Building an Internal Coding Agent at Zup: Lessons and Open Questions
Dit artikel beschrijft hoe Zup's interne coderingsagent 'CodeGen' aantoont dat engineeringbeslissingen rondom toolontwerp, veiligheid en menselijk toezicht belangrijker zijn voor de productieklaarheid dan de technische kwaliteit van het model zelf.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een zeer slimme, maar nog wat onervaren stagiair hebt die je wilt helpen met het bouwen van een complexe machine (in dit geval: software). Je noemt deze stagiair een "AI-agent".
Dit artikel vertelt het verhaal van hoe Zup, een groot technologiebedrijf in Brazilië, zo'n stagiair heeft opgeleid en in dienst heeft genomen. Ze noemen hem CodeGen.
Hier is wat ze hebben geleerd, vertaald naar alledaags taalgebruik:
1. Het Grote Misverstand: De Motor is niet alles
Veel bedrijven dachten: "Als we de slimste motor (het AI-model) kopen, werkt de auto vanzelf."
Maar Zup ontdekte dat dit niet zo is. Je kunt de snelste Ferrari-motor hebben, maar als je het stuur loslaat, de remmen niet werkt en de bestuurder niet weet hoe hij moet schakelen, raak je nergens.
De echte uitdaging was niet de "slimheid" van de AI, maar hoe je hem aanstuurt. Het ging om de gereedschapskist, de veiligheidsregels en het vertrouwen van de mens.
2. De Oplossing: Een Slimme Werkplek
In plaats van de AI gewoon alles te laten doen, bouwden ze een specifiek systeem met drie belangrijke onderdelen:
- De Werkbank (De CLI): De AI werkt niet op een server in de wolken, maar direct op de computer van de ontwikkelaar. Het is alsof de stagiair naast je staat en met je eigen gereedschappen werkt, in plaats van ergens anders te proberen te raden wat je nodig hebt.
- De Regisseur (Maestro): Dit is de manager die de AI aanstuurt. Hij zorgt dat de AI niet in de war raakt, dat hij stap voor stap werkt en dat hij niet verdwaalt.
- De Veiligheidscontrole (De Lijst met Regels): Dit is het belangrijkste deel.
3. De Drie Gouden Regels van CodeGen
A. Geef de AI geen "Schrijfblok", maar een "Plak- en Knip-Tool"
Als je een AI vraagt om een heel groot boek (een computerprogramma) opnieuw te schrijven, maakt hij vaak fouten. Hij vergeet pagina's, of hij schrijft halve zinnen.
De oplossing: Ze gaven de AI een tool die alleen kleine stukjes tekst mag vervangen (zoals "verander deze zin in die zin").
- Analogie: In plaats van de AI te laten zeggen: "Schrijf dit hele hoofdstuk opnieuw", zeggen ze: "Verander alleen deze ene zin." Dit voorkomt dat de AI in de war raakt en fouten maakt.
B. Kijk Eerst, Pas Dan aan (De "Lees-voor-Werk" Regel)
Soms denkt de AI dat hij weet hoe een bestand eruitziet, terwijl het al is veranderd. Dan past hij de verkeerde code aan.
De oplossing: De AI moet altijd eerst het bestand lezen voordat hij iets mag wijzigen.
- Analogie: Het is alsof je een schilderij wilt overpainten. Je mag niet zomaar beginnen met verf; je moet eerst goed kijken hoe het schilderij er nu precies uitziet.
C. De Gevaarlijke Knop (De Schelp-tool)
De AI kan ook commando's geven aan de computer, zoals "wis alles" of "stuur naar de server". Dit is als een knop met een rode waarschuwing: Gevaar!
De oplossing: Ze hebben een "veiligheidsriem" toegevoegd.
- Eerste fase (De Oefenriem): Als de AI iets wil doen dat gevaarlijk is (zoals bestanden wissen), moet een mens eerst op "OK" klikken. De AI wacht geduldig.
- Tweede fase (De Vrije Riem): Als de AI bewezen heeft dat hij betrouwbaar is, mag hij zelfstandig werken zonder dat de mens elke keer hoeft te klikken.
4. Hoe Bouw je Vertrouwen? (De "Leerling"-Strategie)
Het grootste geheim van hun succes was niet de technologie, maar het vertrouwen.
Ze dwongen niemand om de AI direct volledig te vertrouwen.
- Start als stagiair: De AI werkt eerst onder toezicht. Alles wat hij doet, moet door een mens goedgekeurd worden.
- Groei naar zelfstandigheid: Naarmate de AI beter wordt en de mens ziet dat hij geen fouten maakt, krijgt hij meer vrijheid.
- Geen blind vertrouwen: Mensen mogen de AI nooit blindelings vertrouwen. Het systeem is zo ontworpen dat je altijd kunt zien wat hij doet en kunt ingrijpen als het misgaat.
5. Waarom Ze Geen "Klaar-Maken" Framework Gebruikten
Aan het begin wilden ze een kant-en-klaar systeem gebruiken (zoals een voorgebouwd huis). Maar ze merkten dat die systemen niet goed werkten voor hun specifieke situatie.
De les: Ze bouwden het eerst zelf, handmatig. Pas toen ze precies wisten hoe het moest, keken ze of er kant-en-klaar systemen waren die hetzelfde deden.
- Analogie: In plaats van een kant-en-klaar huis te kopen dat misschien niet past bij je gezin, bouwden ze eerst een schuur. Toen ze wisten wat ze nodig hadden, zagen ze dat de kant-en-klaar huizen uiteindelijk precies hetzelfde ontwerp hadden. Nu kunnen ze die kant-en-klaar systemen veilig gebruiken.
Conclusie: Wat betekent dit voor ons?
De boodschap van dit artikel is simpel: Technologie alleen is niet genoeg.
Als je een slimme AI wilt inzetten in een bedrijf, moet je niet alleen kijken naar hoe slim de AI is. Je moet kijken naar:
- Hoe geef je hem de juiste gereedschappen?
- Hoe voorkom je dat hij per ongeluk de hele fabriek afbrandt?
- Hoe leer je je mensen om de AI te vertrouwen zonder bang te zijn?
Het is niet de motor die de auto laat rijden, maar de bestuurder, de remmen en de wegenkaart. CodeGen werkt omdat ze die drie dingen perfect op elkaar hebben afgestemd.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.