Execution-bound advisory automation for agentic AI: a reproducible AIBOM-driven CSAF-VEX framework
Dit artikel presenteert een reproduceerbaar, protocolgestuurd framework dat Software en AI Bill of Materials (SBOM/AIBOM) integreert met deterministische omgevingscapturing en runtime-telemetrie om cryptografisch CSAF VEX-advisories te genereren en te valideren voor Agentic AI-systemen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Het Grote Probleem: De "Statische Lijst" versus de "Levende Machine"
Stel je voor dat je een hoogtechnologisch slim huis bezit. Om het veilig te houden, heb je een Software Bill of Materials (SBOM). Zie dit als een boodschappenbonnetje of een onderdelenlijst voor je huis. Er staat op: "Dit huis heeft een slot op de voordeur, een camera in de woonkamer en een slimme thermostaat."
In de wereld van cybersecurity kijken beveiligingsexperts naar deze lijst en zeggen: "Oei, het slot op de voordeur heeft een bekend gebrek! We moeten dit onmiddellijk repareren!"
Het argument van het paper: Deze aanpak is gebrekkig voor moderne Agentic AI (AI-systemen die zelfstandig handelen). Waarom? Omdat het feit dat een onderdeel in het huis zit, niet betekent dat het op dit moment ook daadwerkelijk wordt gebruikt.
- Misschien is de voordeur van binnenuit vergrendeld, zodat een dief niet naar binnen kan, zelfs als het slot kapot is.
- Misschien is de camera uitgeschakeld.
- Misschien staat de thermostaat in een kamer waar niemand komt.
Het paper betoogt dat huidige beveiligingsmethoden lijken op het controleren van een boodschappenbonnetje en panikeren over elk item, zelfs als dat item niet wordt gebruikt of aan gevaar wordt blootgesteld.
De Oplossing: Het "Execution-Bound" Framework
De auteurs stellen een nieuwe manier voor om veiligheid te controleren, genaamd een Execution-Bound Advisory. In plaats van alleen naar de onderdelenlijst te kijken, kijken ze naar het huis terwijl er in geleefd wordt.
Ze gebruiken hiervoor drie hoofdinstrumenten, die ze MCP, A2A en AGNTCY noemen. Zo werken ze in onze analogie:
De "Snapshot" (MCP - Model Context Protocol):
Voordat de AI begint met werken, maakt het systeem een perfecte, onveranderlijke foto van alles: de code, de AI-modellen, de instellingen en de beveiligingsregels. Het is also kind als het maken van een foto van het huis met alle lichten aan en de deuren dicht, en het vervolgens in een glazen vitrine afsluiten zodat niemand het later kan veranderen.De "Beveiligingscamera" (A2A - Agent2Agent Protocol):
Terwijl de AI aan het werk is, houden kleine digitale "camera's" (agents) in de gaten wat er daadwerkelijk gebeurt. Ze raden niet alleen; ze leggen de realiteit vast.- Heeft de AI daadwerkelijk geprobeerd de voordeur te openen?
- Heeft het geprobeerd een extern telefoonnummer te bellen?
- Heeft het geprobeerd de camera te gebruiken?
Als de AI het kapotte slot nooit aanraakt, ziet de camera dat het slot veilig is voor deze specifieke taak, zelfs als het slot technisch gezien kapot is.
De "Rechter" (AGNTCY):
Dit is de scheidsrechter. Deze neemt de "Snapshot" en de beelden van de "Beveiligingscamera", controleert deze tegen een lijst van bekende boeven (kwetsbaarheden) en brengt een definitief oordeel uit. De rechter voorziet het oordeel van een digitale stempel om te bewijzen dat het echt is en niet vervalst kan worden.
De Nieuwe "Bill of Materials" (AIBOM)
Het paper introduceert een nieuw concept genaamd AIBOM (Artificial Intelligence Bill of Materials).
- Oude SBOM: Somt software-ingrediënten op (zoals Python-libraries).
- Nieuwe AIBOM: Somt het volledige AI-recept op. Dit bevat niet alleen de software, maar ook de AI-hersenen (het model), de instructies (prompts) en de tools die de AI mag gebruiken.
Denk aan het als een recept voor een cake. De oude lijst zei alleen: "Bloem, Suiker, Eieren." De nieuwe lijst zegt: "Bloem, Suiker, Eieren, plus de specifieke oventemperatuur, de specifieke mengkom en de regel dat 'we alleen een cake bakken als de oven aan staat'."
De Resultaten: Minder Paniek, Meer Precisie
De onderzoekers testten dit systeem met ongeveer 10.000 verschillende softwareonderdelen en gesimuleerde AI-taken. Dit is wat ze vonden:
- Minder Vals Alarm: Traditionele methoden markeerden kwetsbaarheden 42% vaker als gevaarlijk dan nodig was. Het nieuwe systeem besefte dat veel "kapotte sloten" nooit werden aangeraakt, waardoor het stopte met het signaleren van deze zaken als noodsituaties.
- Betere Nauwkeurigheid: Het systeem identificeerde gevaarlijke situaties in 93% van de gevallen correct (een score die de F1-score wordt genoemd).
- Reproduceerbaar Bewijs: Als je exact dezelfde AI-taak twee keer uitvoert met exact dezelfde instellingen, produceert het systeem elke keer exact hetzelfde veiligheidsrapport. Het is alsof je twee keer dezelfde cake bakt en telkens exact hetzelfde resultaat krijgt, wat bewijst dat het proces betrouwbaar is.
De Kernboodschap
Het paper beweert dat voor moderne AI-systemen je niet simpelweg naar een statische lijst met onderdelen kunt kijken om te weten of je veilig bent. Je moet kijken naar wat de AI daadwerkelijk doet terwijl deze draait.
Door een onderdelenlijst (AIBOM) te combineren met live observatie (telemetrie) en strikte regels (policies), creëert het nieuwe framework een veiligheidsrapport dat:
- Echt is: Gebaseerd op wat er daadwerkelijk is gebeurd, niet op wat er zou kunnen gebeuren.
- Specifiek is: Het vertelt je precies welke kapotte onderdelen ertoe doen en welke niet.
- Betrouwbaar is: Wiskundig bewezen reproduceerbaar en ondertekend door een digitale autoriteit.
Kortom: Kijk niet alleen naar de ingrediënten; kijk mee tijdens het koken. Als de AI het kapotte gereedschap niet gebruikt, hoef je niet te panikeren over het feit dat het kapot is.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.