No Accidental Software Agent First Canonical Code for Human Code Entropy Reduction and 30 to 500 times Lower Frontier Model Requirements
Dit artikel stelt "agent-first canonical code" voor, een bewijsdragend substraat ontworpen om accidentele entropie uit menselijke software-repositories te strippen door equivalente coderingen samen te voegen tot beheerde representanten, met als doel de trainingsvereisten voor frontier-modellen en de kosten van geverifieerde wijzigingen met 30 tot 500 keer te verminderen en daarmee een falsifieerbaar pad naar een "No-Accident Horizon" te vestigen.
Oorspronkelijk artikel vrijgegeven aan het publieke domein onder CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Het Grote Probleem: De "Rommelige Garage" versus Het "Blauwdruk"
Stel je voor dat je een robot probeert te leren hoe je een huis bouwt. Momenteel voer je de robot miljoenen foto's van huizen die mensen hebben gebouwd.
Het probleem is dat menselijke huizen rommelig zijn. De ene bouwer gebruikt rode bakstenen, een ander blauwe. De een zet de keuken aan de linkerkant, een ander aan de rechterkant. Sommige huizen hebben een geheime deur in de kelder die niet op het originele plan stond, maar die wel werkt. Sommige hebben een vreemde bedrading die alleen werkt als je op een specifieke stoel staat.
De robot moet al zijn tijd en energie besteden aan het uitzoeken van al deze willekeurige, accidentele details, alleen maar om het basisconcept van "hoe bouw je een keuken" te leren. Hij verspilt zijn hersencapaciteit aan de "ongelukjes" van menselijke bouwgewoonten in plaats van aan de werkelijke wetenschap van het bouwen.
De claim van het paper:
We kunnen stoppen met het voeren van de rommelige foto's aan de robot. In plaats daarvan kunnen we al die menselijke huizen eerst vertalen naar een perfecte, gestandaardiseerde blauwdruk. In deze blauwdruk:
- Staat de keuken altijd op dezelfde plek.
- Is de bedrading altijd op dezelfde manier uitgevoerd.
- Zijn de "geheime deuren" ofwel verwijderd, ofwel duidelijk gelabeld als "optioneel".
Als we dit doen, hoeft de robot niet meer te gokken. Hij kan de kernregels van het bouwen veel sneller leren, minder fouten maken en het kost veel minder om te draaien.
Het Kernidee: "Canonical Code"
De auteurs noemen deze gestandaardiseerde versie "Agent-First Canonical Code."
Denk aan een vertaalservice.
- Ruwe menselijke code: Dit is als een gesprek in een drukke kamer waar iedereen verschillende dialecten spreekt, straattaal gebruikt en elkaar onderbreekt. Het zit vol waardevolle informatie, maar het is luidruchtig.
- Canonical Code: Dit is hetzelfde gesprek, maar vertaald naar één perfecte taal waar elk woord een strikte definitie heeft en de grammatica foutloos is.
Het paper betoogt dat we niet alleen de "slechte" code moeten filteren. We moeten de code herschrijven naar dit perfecte formaat voordat we de AI ermee trainen.
De Vier Keer Waarvoor We de Rommel Betalen
Het paper stelt dat wanneer we rommelige menselijke code gebruiken, we de verwarring vier keer betalen:
- Training: We moeten de AI miljoenen voorbeelden laten zien om hem de basis te leren.
- Zoeken (Searching): Wanneer de AI een bug probeert te repareren, moet hij door rommelige mappen graven om te vinden waar de code zich bevindt.
- Redeneren (Reasoning): De AI moet raden wat de regels zijn omdat ze niet duidelijk zijn opgeschreven.
- Beoordelen (Reviewing): Mensen moeten urenlang het werk van de AI controleren omdat de AI de rommelige context mogelijk verkeerd heeft begrepen.
Door de "Canonical Blauwdruk" te gebruiken, schrappen we de eerste drie kosten bijna volledig. De AI weet precies waar hij moet kijken en wat de regels zijn.
De "Gedragscellen" (De Lego-analogie)
Stel je voor dat je een stad bouwt.
- De huidige manier: Elke keer dat er een "brandweerkazerne" nodig is, tekent een menselijke architect er een nieuwe vanaf nul. Soms is hij van hout, soms van baksteen. Soms gaat de deur naar links open, soms naar rechts.
- De manier van het paper: We maken een "Brandweerkazerne-cel." Het is een vooraf gemaakt, gecertificeerd Lego-blokje. Het heeft een deur, een dak en een slangaansluiting. Het is gegarandeerd dat het werkt.
Wanneer de AI een stad moet bouwen, tekent hij niet een brandweerkazerne. Hij klikt simpelweg de "Brandweerkazerne-cel" op zijn plaats.
- De claim: Het paper suggereert dat 70% tot 90% van de software (zoals inloggen, rekeningen betalen of gegevens opslaan) gewoon het "herhalen" van deze standaard blokken is. Als we deze blokken kunnen identificeren, hoeft de AI alleen de nieuwe dingen te verzinnen (de "nieuwheid"), en niet de saaie, repetitieve zaken.
De "No-Accident Horizon"
Het paper heeft een gedurfd doel genaamd de "No-Accident Horizon."
Stel je een wereld voor waarin software nul ongelukken heeft.
- Geen accidentele bestandsnamen.
- Geen accidentele beveiligingslekken.
- Geen accidentele verwarring over wat een knop doet.
In deze wereld is het enige wat overblijft voor mensen (en AI) om te doen de creatieve, nieuwe dingen. Alles wat overblijft is een vooraf goedgekeurd, veilig en gecertificeerd blokje dat op zijn plaats wordt geklikt.
Het paper geeft toe dat we niet 100% perfectie kunnen bereiken voor elk mogelijk toekomstig programma (omdat sommige dingen simpelweg te nieuw of te vreemd zijn). Maar voor de routinematige software die we dagelijks gebruiken (zoals bankapps, e-commerce sites en interne tools), geloven ze dat we de kosten en inspanning met 30 tot 500 keer kunnen verminderen.
Wat het Paper Eigenlijk Bewijst (en Niet)
Het is belangrijk om vast te houden aan wat het paper daadwerkelijk zegt:
- Wat ze WEL hebben gedaan: Ze hebben een kleine set programmeer-voorbeelden genomen, deze vertaald naar dit "perfecte blauwdruk"-formaat, en een kleine AI-modellen geleerd om deze te begrijpen. Het model leerde snel en maakte geen fouten over de "regels" van de blauwdruk.
- Wat ze NOG NIET hebben bewezen: Ze hebben nog niet bewezen dat dit werkt voor alle software in de wereld. Ze hebben niet bewezen dat het miljarden dollars zal besparen (hoewel ze wel een plan hebben om dat te meten). Ze stellen een onderzoeksprogramma voor om deze ideeën te testen.
De Kern van de Zaak
Het paper zegt eigenlijk: "Stop met het leren van de AI om rommelig menselijk handschrift te lezen. Leer het eerst een perfecte, gestandaardiseerde blauwdruk te lezen."
Als we dit doen, zal de AI stoppen met tijd verspillen aan het raden hoe mensen meestal dingen doen, en beginnen met tijd besteden aan het daadwerkelijk oplossen van de moeilijke, nieuwe problemen. Het resultaat zou software zijn die goedkoper is om te bouwen, veiliger is om te gebruiken en veel sneller te creëren is.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.