AI for software engineering: from probable to provable
Dit paper pleit voor het combineren van de creativiteit van AI met formele specificaties en verificatie om de problemen van prompt engineering en hallucinaties bij 'vibe coding' op te lossen en zo van waarschijnlijk naar bewezen correcte software te gaan.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
🤖 De Droom van de "Vibe-coder" vs. De Realiteit van Software
Stel je voor dat je een kok bent die een gerecht wil maken. Vroeger moest je zelf het recept lezen, de ingrediënten afwegen en stap voor stap koken. Nu zegt de AI: "Geef me gewoon een idee van wat je wilt eten, en ik kook het voor je!"
Dit is wat "vibe coding" genoemd wordt. Je typt een paar zinnen (prompt engineering), en de AI schrijft de code. Het klinkt als een droom, net als de beloften van vroeger: "In de jaren '60 zouden we geen programmeurs meer nodig hebben dankzij COBOL, in de jaren '90 dankzij componenten..." Maar die beloften kwamen nooit uit.
Bertrand Meyer, een ervaren software-expert, waarschuwt: Deze keer is het anders, maar ook niet helemaal zoals we hopen.
🎲 De Gok van de AI: "Waarschijnlijk" vs. "Bewezen"
De AI werkt als een zeer slimme, maar slordige student. Hij heeft alles gelezen, is beleefd en zegt snel "sorry" als hij een fout maakt. Maar hij werkt niet op basis van logica, maar op basis van kans. Hij kiest het antwoord dat het meest waarschijnlijk is, gebaseerd op wat hij eerder heeft gezien.
- Waar dit goed werkt: Bij het vertalen van een tekst of het herkennen van een foto. Als de AI de foto van een hond 99% van de tijd goed herkent, is dat prima. Soms denkt hij dat het een kat is, maar dat is niet erg.
- Waar dit faalt: Bij software. Software is als een vliegtuig. Als een vliegtuig 99% van de tijd veilig landt, maar 1% van de tijd neerstort, is dat een ramp. Software werkt of het werkt niet. Er is geen "bijna goed".
🕳️ De "Duivelse" Lus: De Valstrik van het Zelfvertrouwen
Het grootste gevaar is de hallucinatielus.
Stel je voor dat je een huis bouwt. De AI zegt: "Ik heb de fundering gelegd!" Hij ziet er prachtig uit, maar in werkelijkheid is het een huis van kaarten. Omdat de AI zo zelfverzekerd klinkt, ga je erop vertrouwen. Je bouwt de muren erop, en dan stort het hele huis in.
Je vraagt de AI om het te repareren, maar omdat de basis verkeerd is, maakt hij het erger. Je blijft vastlopen in een lus van zelfvertrouwen en fouten, totdat je opgeeft. Dit gebeurt vaak omdat de AI niet redeneert, maar raadt.
🧩 De Oplossing: De Huwelijk tussen de Hippie en de Disciplinair
Meyer stelt een oplossing voor: we moeten de creativiteit van de AI koppelen aan de strenge regels van de wiskunde.
Stel je dit huwelijk voor:
- De AI (de Hippie): Hij is creatief, snel en heeft geweldige ideeën. Hij kan een recept bedenken of een ontwerp schetsen.
- De Software-ingenieur (de Disciplinair): Hij is streng, saai en houdt van wiskunde. Hij zegt: "Leuk idee, maar bewijs eerst dat het werkt voordat we het bouwen."
In het verleden waren deze twee groepen elkaars tegenpolen. De ingenieurs wilden alles bewijzen met formele methoden (wiskundige bewijzen), maar dat was te moeilijk en duur. De AI-gebruikers wilden alleen maar snel code.
De nieuwe strategie:
Gebruik de AI om de code (en zelfs de regels) te schrijven, maar gebruik formele verificatie om het te controleren.
- Formele verificatie is als een onfeilbare wiskundige controleur. In plaats van het programma te testen (waarbij je misschien net die ene fout niet ziet), bewijst de computer wiskundig dat het programma altijd correct werkt, voor elke mogelijke situatie.
🏗️ Hoe ziet de toekomst eruit?
De toekomst is geen "AI doet alles", maar "AI helpt, en de wiskunde controleert".
Het proces ziet er zo uit:
- Jij en de AI werken samen om een recept te schrijven (de specificatie).
- De AI schrijft het gerecht (de code).
- Een wiskundig bewijssysteem (zoals een super-keurmeester) kijkt na of het gerecht exact overeenkomt met het recept.
- Als het niet klopt, krijgen jullie een foutmelding en proberen jullie het opnieuw.
Dit noemt Meyer "Vibe-contracting". Je gebruikt de "vibe" (de sfeer en creativiteit) van de AI, maar je koppelt het aan een strikt contract dat door de computer wordt bewezen.
🎯 Conclusie
We gaan niet stoppen met programmeren. Integendeel, we gaan het beter doen.
- Voor simpele dingen (zoals een demo voor een investeerder) is "vibe coding" prima.
- Maar voor alles wat belangrijk is (ziekenhuizen, banken, vliegtuigen), moeten we de hallucinaties van de AI temmen met wiskundige zekerheid.
De boodschap is simpel: Laat de AI dromen, maar laat de wiskunde controleren. Alleen dan kunnen we van "waarschijnlijk goed" gaan naar "bewezen goed".
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.