Specifications for Humans, Agents, and Tooling
Dit tool paper introduceert het Bosque API (BAPI) ecosysteem, een polyglot specificatietaal die ontworpen is om softwareontwikkeling te verbeteren door middel van expliciete, heldere en betrouwbare specificaties die de volledige applicatielevenscyclus ondersteunen, inclusclusief testgeneratie, validatie en beveiliging voor agentic AI-systemen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een zeer slimme, maar lichtelijk roekeloze robotassistent inhuurt om je bankrekening te beheren. Je zegt tegen de robot: "Betaal de rekening," en de robot gaat ermee aan de slag. Maar wat als de robot denkt dat met "rekening" je hele levensspaargeld wordt bedoeld? Of wat als de robot per ongeluk geld naar de verkeerde persoon stuurt omdat de instructies vaag waren?
Dit artikel introduceert een nieuwe manier om instructies te geven aan zowel mensen als AI-robots, genaamd BAPI (BOSQUE API). Denk aan BAPI niet alleen als een lijst met regels, maar als een zeer gedetailleerd, onbreekbaar contract dat geen ruimte laat voor gissen.
Hier is hoe het artikel het onderverdeelt, met behulp van eenvoudige analogieën:
1. Het Probleem: Vage Instructies zijn Gevaarlijk
Het artikel begint met een slecht voorbeeld van een instructie: "Maak geld over van Rekening A naar Reking B."
Dit is alsof je tegen een robot zegt: "Ga iets halen om te eten." Het is te vaag. De robot kan een biefstuk van $10.000 kopen, of hij kan je portemonnee stelen om het te betalen. In de wereld van AI-agents (robots die beslissingen nemen), leiden vage instructies tot gevaarlijke fouten.
2. De Oplossing: Het "Foutbestendige" Blauwdruk
De auteurs stellen een nieuwe taal voor (BAPI) die werkt als een Lego-instructieboekje in plaats van een vaag schetsje.
- Het "Poke-Yoke" Concept: In de productie betekent "poke-yoke" dat je dingen zo ontwerpt dat je ze niet fout kunt assembleren (zoals een USB-C-stekker die er maar op één manier in past). BAPI doet dit voor software. Het dwingt je om exact te definiëren hoe een "User ID" eruit ziet (bijv. "alleen letters en cijfers, 2 tot 30 tekens lang"), zodat het systeem direct alles wat afwijkt afwijst.
- De "Guardrails" (Leuningen): In plaats van alleen te zeggen "maak geld over", dwingt BAPI je om leuningen toe te voegen:
- Logica: "Het bedrag moet groter zijn dan nul en minder dan $100."
- Machtigingen: "Je mag alleen deze specifieke bankrekening aanraken, niet de hele bank."
- Omgeving: "Je kunt dit alleen doen als je een speciale 'Autorisatie-token' in je zak hebt."
3. Het "Tijdreis"-logboek
Een van de coolste functies is het omgaan met tijd.
Stel je voor dat je wilt zeggen: "Je mag alleen geld overmaken als de gebruiker eerder 'Ja' heeft gezegd tegen deze specifiepecifieke transactie."
Oude systemen hebben hier moeite mee. BAPI gebruikt een onvervalstbaar dagboek (Event Log). Voordat de robot een zet doet, controleert hij het dagboek: "Heeft de mens dit eerder goedgekeurd?" Als het dagboek leeg is, stopt de robot. Dit voorkomt dat de robot beslissingen neemt op basis van zaken die nog niet zijn gebeurd of zaken die vergeten zijn.
4. De Gereedschapskist: Robots die zichzelf testen
Het artikel beschrijft een reeks hulpmiddelen die bij deze nieuwe taal horen:
- De "Stress-tester" (TECTON): Stel je een robot voor die jouw instructies leest en onmiddellijk probeert ze te breken door duizenden vreemde, extreme scenario's te genereren (zoals proberen geld over te maken met een negatief bedrag of enorme bedragen). Het vindt bugs voordat mensen de code ooit te zien krijgen.
- Het "Wiskundig Bewijs" (SUNDEW): Dit hulpmiddel werkt als een super-wiskundige. Het raadt niet alleen of de code werkt; het bewijst dat het werkt. Het controleert elke mogelijke kleine invoer om te garanderen dat de robot nooit iets gevaarlijks doet. Als het een fout vindt, geeft het je een specifiek voorbeeld van hoe je het kunt breken, zodat je het kunt repareren.
5. AI leren met Voorbeelden
Soms is het moeilijk om een perfecte logische regel te schrijven. Het artikel suggereert om voorbeelden toe te voegen aan de instructies, zoals het laten zien aan een robot: "Hier is een lijst met getallen: 3, 1, 2. Hier is het resultaat: 1, 2, 3."
Dit helpt de AI om de intentie (sorteren) te begrijpen zonder in de war te raken door de logica. Het is alsof je een kind een foto van een "hond" laat zien in plaats van alleen de biologische definitie van een canide te beschrijven.
De Kernboodschap
Het artikel betoogt dat om veilig met AI-agents te werken, we moeten stoppen met het schrijven van vage beschrijvingen en moeten beginnen met het schrijven van uitvoerbare, strikte contracten.
- De Oude Manier: "Hier is een vaag idee van wat ik wil. Succes, AI."
- De BAPI-manier: "Hier is een strikt, wiskundig bewezen contract met leuningen, tijdcontroles en voorbeelden. Als je dit volgt, ben je veilig. Als je probeert het te breken, stopt het systeem je."
Het doel is om een softwarewereld te bouwen waarin AI-agents als hooggetrainde piloten zijn die niet per ongeluk een vliegtuig in een berg kunnen vliegen omdat het vluchtplan (de specificatie) zo duidelijk is en de veiligheidssystemen zo robuust zijn dat fouten fysiek onmogelijk zijn.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.