🤖 machine learning

VNN-LIB 2.0: Rigorous Foundations for Neural Network Verification

Dit artikel presenteert VNN-LIB 2.0, een strikt geformaliseerde standaard voor verificatie van neurale netwerken die een abstractie van "netwerktheorie" introduceert om de specificatie te ontkoppelen van evoluerende ONNX-modellen, terwijl het een nauwkeurige syntaxis, typesysteem en semantiek biedt die in Agda zijn gemecaniseerd om interne consistentie en interoperabiliteit te waarborgen.

Oorspronkelijke auteurs: Ann Roy, Allen Antony, Andrea Gimelli, Matthew L. Daggitt

Gepubliceerd 2026-05-11

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Ann Roy, Allen Antony, Andrea Gimelli, Matthew L. Daggitt

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je probeert een team van verschillende robots samen een puzzel te laten oplossen. In de wereld van Kunstmatige Intelligentie zijn deze "robots" neuronale netwerken (de hersenen achter AI), en is de "puzzel" verificatie (controleren of de AI een veilige of correcte beslissing zal nemen).

Lange tijd spraken de mensen die deze robots bouwden en de mensen die ze controleerden niet dezelfde taal. Ze gebruikten een standaard genaamd VNN-LIB 1.0, maar het was als een woordenboek met ontbrekende woorden, zonder grammaticaregels, en definities die elke keer veranderden als iemand ernaar keek.

Dit artikel introduceert VNN-LIB 2.0, een gloednieuwe, rigoureuze "taal" die deze problemen oplost. Hieronder leggen de auteurs het uit met behulp van eenvoudige concepten:

1. Het Probleem: Een Gebroken Vertaler

Denk aan VNN-LIB 1.0 als een vertaler die probeerde twee talen tegelijk te spreken, maar voortdurend in de war raakte.

Geen Grammatica: Het had geen strenge regels voor hoe je een vraag moest stellen. Dus, één robot zou een zin op één manier kunnen begrijpen, en een andere robot zou het anders kunnen interpreteren.
Beperkte Woordenschat: Het kon alleen eenvoudige puzzels aan (één invoer, één uitvoer). Wereldwijde AI heeft vaak complexe invoer (zoals een afbeelding en wat tekst) en meerdere uitvoer.
Verwarring met Vlottende Komma's: Computers gebruiken "benaderende" getallen (zoals 3,14159...), maar de oude standaard gaf niet aan of je ze als exacte wiskunde of als ruwe benaderingen moest behandelen. Dit leidde tot gevaarlijke fouten waarbij een robot dacht dat het veilig was, terwijl dat niet zo was.
Het "Zwarte Doos"-Probleem: De oude standaard vertrouwde op een bestandsformaat genaamd ONNX (het blauwdruk voor de AI). Maar ONNX had geen strenge, officiële definitie van wat zijn symbolen betekenden. Het was alsof je een robot een blauwdruk gaf getekend met potloden die voortdurend van mening veranderde over wat een "muur" is.

2. De Oplossing: De "Netwerktheorie" (De Universele Adapter)

De grootste innovatie in dit artikel is een concept genaamd een Netwerktheorie.

Stel je voor dat je een universele stroomadapter bouwt. Je wilt niet voor elk land een nieuwe adapter bouwen voor elke stopcontact (elke versie van ONNX). In plaats daarvan creëer je een universele interface die zegt: "Zolang het stopcontact elektriciteit, spanning en aarding levert, kan ik aansluiten."

De Netwerktheorie ( $\Psi$ ): Dit is die universele interface. Het geeft niet om exact hoe het ONNX-blauwdruk is getekend. Het vraagt gewoon: "Heb je een manier om een getal te definiëren? Een vorm? Een verbinding?"
Het Resultaat: VNN-LIB 2.0 kan nu met elke versie van ONNX praten, zelfs toekomstige, zonder herschreven te hoeven worden. Het scheidt de vraag (de query) van het blauwdruk (het model), waardoor ze onafhankelijk van elkaar kunnen evolueren.

3. De Nieuwe Taal: VNN-LIB 2.0

Met deze nieuwe basis bouwden de auteurs een veel slimmere taal met drie belangrijke upgrades:

Rijkere Zinnen (Syntaxis): Je kunt nu vragen over complexe scenario's. In plaats van alleen één robot te controleren, kun je vragen: "Als Robot A en Robot B samenwerken, blijven ze dan veilig?" Je kunt ook in de "hersenen" van de robot kijken om zijn verborgen gedachten (verborgen lagen) te controleren, niet alleen het uiteindelijke antwoord.
Strenge Grammatica (Type Systeem): De taal dwingt je nu om precies te zijn. Als je probeert een "temperatuur" bij een "kleur" op te tellen, zal de taal zeggen: "Nee, dat heeft geen zin." Dit voorkomt dat de computer wiskundige fouten maakt door verschillende soorten getallen door elkaar te halen.
Duidelijke Betekenis (Semantiek): Elk woord in de nieuwe taal heeft een wiskundig bewezen definitie. Er is geen gissen. Als je een query schrijft, weet de computer exact welk wiskundig probleem hij voor je moet oplossen.

4. De "Wereldwerkelijkheid" vs. "Perfecte Wiskunde" Optie

Het artikel erkent een lastige situatie: Sommige robots worden gecontroleerd met behulp van "perfecte wiskunde" (Reële getallen), terwijl de daadwerkelijke robot draait op "benaderende wiskunde" (vlottende-komma-getallen).

De Oude Manier: Dit was een verborgen gevaar. De controleur zou zeggen "Veilig", maar de echte robot zou kunnen crashen.
De Nieuwe Manier: VNN-LIB 2.0 laat je expliciet zeggen: "Ik weet dat dit benaderende wiskunde gebruikt, maar ik wil het toch controleren met perfecte wiskunde." Het plaatst een waarschuwingslabel op de query: "Ga met voorzichtigheid te werk, dit kan iets onnauwkeurig zijn." Dit stelt onderzoekers in staat krachtige tools te gebruiken zonder te doen alsof de wiskunde perfect is als dat niet zo is.

5. De "Gouden Standaard" Bewijs

Om zeker te weten dat ze geen fouten maakten bij het schrijven van deze nieuwe taal, schreven de auteurs het niet alleen op; ze programmeerden het in een wiskundebewijzende robot genaamd Agda.

Denk aan Agda als een super-strenge redacteur die elke enkele regel van de nieuwe taal controleert om te zorgen dat er geen logische gaten zijn.
Omdat de taal in Agda is "gemecaniseerd", kan iedereen nu dit bewijs gebruiken om te verifiëren dat hun eigen tools (oplossers) correct werken. Het verandert de standaard van een "suggestie" in een "wiskundig gegarandeerd contract".

Samenvatting

Kortom, VNN-LIB 2.0 is een nieuwe, strenge en flexibele taal voor het stellen van AI-veiligheidsvragen. Het repareert de gebroken grammatica van het verleden, staat complexe vragen toe over meerdere AI-modellen, en biedt een wiskundig bewezen fundament zodat wanneer een tool zegt "Deze AI is veilig", we er daadwerkelijk op kunnen vertrouwen dat het precies betekent wat het zegt.

Technische Samenvatting: VNN-LIB 2.0: Rigoureuze Fundamenten voor Verificatie van Neuronale Netwerken

Probleemstelling

De gemeenschap voor verificatie van neuronale netwerken is steeds meer gaan vertrouwen op de VNN-LIB-standaard (Versie 1.0) om interoperabiliteit tussen oplosprogramma's en hogere-niveaugereedschappen te faciliteren. Echter, Versie 1.0 lijdt aan vier kritieke tekortkomingen die het beletten om als een rigoureuze formele basis te fungeren:

Gebrek aan Formele Syntaxis: Versie 1.0 definieert de syntaxis van de querytaal niet formeel, wat leidt tot wederzijds incompatibele implementaties door verschillende oplosprogramma's.
Beperkte Expressiviteit: De standaard veronderstelt een enkel netwerk met één invoer en één uitvoer. Het kan geen meerdere netwerken, meerdere invoeren/uitvoeren of toegang tot verborgen lagen op een natuurlijke manier ondersteunen, waardoor gebruikers modellen kunstmatig moeten samenvoegen, wat de relatie tussen geverifieerde artefacten en ingezette modellen verduistert.
Afwezigheid van een Typesysteem: Er is geen mechanisme om numerieke typen (bijvoorbeeld zwevendekommagetallen versus reëelwaardig) te specificeren, wat ambiguïteit en potentiële onzekerheid creëert wanneer oplosprogramma's rekenen met eindige precisie behandelen als reëelwaardig.
Gebrek aan Semantiek: De standaard mist een formele semantiek, waardoor het onmogelijk is om de correctheid van oplosprogramma's, querygeneratoren of transformaties formeel te bewijzen, en dit belemmert de ontwikkeling van bewijscertificaten.

Een unieke uitdaging voor VNN-LIB, die het onderscheidt van standaarden zoals SMT-LIB, is dat queries niet zelfstandig zijn; ze specificeren eigenschappen van externe modellen van neuronale netwerken (meestal in ONNX-formaat). Aangezien ONNX zelf geen formele semantiek heeft en blijft evolueren, vereist het definiëren van een rigoureuze VNN-LIB-standaard het ontkoppelen van de querytaal van specifieke ONNX-versies terwijl compatibiliteit behouden blijft.

Methodologie

De auteurs gaan deze uitdagingen aan door de theoretische fundamenten voor VNN-LIB 2.0 te ontwikkelen. De kern methodologische innovatie is de introductie van de Netwerktheorie ( $\Psi$ ).

1. Abstractie van Netwerktheorie

De auteurs definiëren een "netwerktheorie" als een abstracte specificatie die de minimale syntaxis, typeoordelen en semantiek vastlegt die vereist zijn van een formaat voor modellen van neuronale netwerken om VNN-LIB te definiëren.

Ontkoppeling: $\Psi$ fungeert als een interface. Een concrete implementatie van $\Psi$ (bijvoorbeeld voor ONNX v1.20.0) biedt specifieke definities voor elementtypen, tensorrepresentaties, modelstructuren en verwijzingen naar knoopuitvoer.
Modulariteit: VNN-LIB 2.0 is gedefinieerd ten opzichte van een abstract $\Psi$ . Dit stelt de standaard in staat stabiel te blijven zelfs als ONNX evolueert; alleen de instantiatie van $\Psi$ hoeft te worden bijgewerkt voor nieuwe ONNX-versies, niet de VNN-LIB-standaard zelf.
Formalisering: De gehele standaard, inclusief syntaxis, typen en semantiek, is gemechaniseerd in de interactieve theoremaprover Agda om interne consistentie te waarborgen en ambiguïteiten uit te sluiten.

2. Formele Syntaxis en Expressiviteit

Op basis van de netwerktheorie definiëren de auteurs een formele grammatica voor VNN-LIB 2.0 die de expressiviteit aanzienlijk uitbreidt:

Meerdere Netwerken: Queries kunnen meerdere netwerken declareren, wat scenario's ondersteunt zoals verificatie van leraar-leerling of encoder-decoder-architecturen.
Netwerkequivalentie: De standaard introduceert equal-to (verwijzend naar exact hetzelfde modelbestand) en isomorphic-to (verwijzend naar modellen met dezelfde grafstructuur maar mogelijk verschillende gewichten) declaraties. Dit stelt oplosprogramma's in staat om afleidingen (bijvoorbeeld variabele grenzen) te delen over netwerkkopieën heen.
Verborgen Knopen: Het construct declare-hidden stelt beperkingen op uitvoer van tussenliggende lagen toe, wat essentieel is voor redeneren over coderingen of attentiemechanismen.
Meerdimensionale I/O: Ondersteuning voor willekeurige aantallen invoeren en uitvoeren, wat meervoudige modale netwerken accommoderen.

3. Typesysteem en Semantiek

Typen: Een formeel typesysteem handhaaft numerieke zekerheid. Het zorgt ervoor dat rekenkundige bewerkingen en vergelijkingen worden uitgevoerd op compatibele typen (bijvoorbeeld het voorkomen van het mengen van float32 en int32 zonder expliciete coercieregels). Het typesysteem vertrouwt op de oordelen die worden geleverd door de onderliggende netwerktheorie $\Psi$ .
Semantiek: De semantiek van een query wordt gedefinieerd als een wiskundig satisfiabiliteitsprobleem. Gegeven een verzameling modellen $M$ (geïnstancierd vanuit $\Psi$ ) en een toewijzing van invoer $X$ , bepaalt de semantiek of er een toewijzing bestaat waarbij alle beweringen waar zijn.
Reëelwaardige Queries: Om bestaande oplosprogramma's te accommoderen die modellen behandelen als functies over reële getallen ( $\mathbb{R}$ ), introduceert de standaard een mechanisme voor "reëelwaardige queries". Door een onderscheidend real-type te gebruiken, autoriseert de auteur van de query het oplosprogramma expliciet om modellen over $\mathbb{R}$ te interpreteren, waarbij potentiële onzekerheid door zwevendekommaberekening wordt erkend. Dit wordt bereikt door een specifieke netwerktheorie $\Psi_{\mathbb{R}}$ afgeleid van de basistheorie te construeren.

Belangrijkste Bijdragen

Netwerktheorie ( $\Psi$ ): De introductie van een nieuwe abstractie die de minimale semantische interface definieert die vereist is van een modelformaat, waardoor VNN-LIB onafhankelijk van specifieke ONNX-versies kan worden gedefinieerd.
Formele Syntaxis en Grammatica: Een precieze, contextvrije grammatica voor VNN-LIB 2.0 die meerdere netwerken, verborgen lagen en complexe invoer/uitvoerstructuren ondersteunt.
Formeel Typesysteem: Een typesysteem dat numerieke typezekerheid handhaaft ten opzichte van de netwerktheorie, en ambiguïteit in numerieke representaties aanpakt.
Formele Semantiek: Een rigoureuze wiskundige definitie van querysemantiek geparametriseerd door de netwerktheorie, wat formele bewijzen van correctheid mogelijk maakt voor gereedschappen die VNN-LIB consumeren of genereren.
Mechanisatie: De volledige standaard is geformaliseerd in Agda, wat een canonieke referentie-implementatie biedt en een fundament voor machine-gecontroleerde bewijzen vormt.
Reëelwaardige Uitbreiding: Een modulaire aanpak om reëelwaardige analyses te ondersteunen via een afgeleide netwerktheorie, waarbij de behoefte aan zekerheid wordt gebalanceerd met de realiteit van de huidige capaciteiten van oplosprogramma's.

Resultaten en Validatie

Interne Consistentie: De Agda-formalisatie valideert de interne consistentie van de syntaxis, typen en semantiek, en zorgt ervoor dat de standaard vrij is van de ambiguïteiten die in Versie 1.0 aanwezig waren.
Demonstratie van Expressiviteit: Het artikel demonstreert hoe een eenvoudige transformatie van de netwerktheorie $\Psi$ een complete instantie oplevert voor reëelwaardige queries, wat de flexibiliteit van de abstractie toont.
Adoptie door de Gemeenschap: De standaard heeft positieve feedback ontvangen van de verificatiegemeenschap. Toonaangevende teams van oplosprogramma's hebben zich gecommitteerd tot ondersteuning van VNN-LIB 2.0, en de nieuwe standaard is gepland om te worden gebruikt in de VNN-COMP 2026-wedstrijd.
Ondersteuning voor Gereedschappen: De auteurs hebben een hoogpresterende C++-bibliotheek (met Python- en Julia-bindings) uitgebracht die een parser en typeschecker implementeert die conform is met de nieuwe standaard, naast de Agda-formalisatie.

Betekenis

Het artikel beweert dat VNN-LIB 2.0 robuste en rigoureuze fundamenten biedt voor betrouwbare verificatie van neuronale netwerken. De betekenis ligt in twee complementaire gebieden:

Praktische Interoperabiliteit: Door expressiviteit uit te breiden (meerdere netwerken, verborgen knopen) en syntaxis te standaardiseren, stelt het de gemeenschap in staat om rijkere eigenschappen op een uniforme manier te specificeren en te verifiëren, wat betere benchmarking en vergelijking van gereedschappen faciliteert.
Theoretische Rigor: Door formele semantiek en een typesysteem te bieden, vestigt het een "rigoureus contract" tussen gereedschappen en oplosprogramma's. Dit maakt formele verificatie van de gereedschappen zelf (oplosprogramma's, optimaliseerders, bewijscheckers) mogelijk en lost subtiele problemen op met betrekking tot numerieke zekerheid (bijvoorbeeld het onderscheiden tussen reëelwaardige en zwevendekommasemantiek).

De auteurs benadrukken dat hoewel het werk theoretisch is, het concrete gevolgen heeft: het zorgt voor een eenduidige interpretatie van queries, biedt de taal om technische problemen op te lossen, en legt de basis voor formeel geverifieerde bewijscertificaten in de toekomst.