Stel je voor dat je een huis bouwt. Decennialang hadden we een perfecte set blauwdrukken en instrumenten om te meten hoe sterk de muren zijn, hoe veilig de sloten zijn en hoe groot de kans is dat een inbreker een specifiek slot kraakt. Deze instrumenten werken geweldig voor standaardhuizen gemaakt van hout en baksteen. Maar nu stel je je voor dat we plotseling huizen bouwen van levende, denkende wolken die met je kunnen praten, je e-mails kunnen schrijven en zelfs je auto kunnen besturen. De oude instrumenten werken hier niet. Je kunt de "sterkte" van een wolk niet met een hamer meten, en een dief hoeft geen slot te kraken; hij heeft alleen een geheim wachtwoord nodig om de wolk te fluisteren zodat deze hem binnenlaat. Dit is de wereld van Kunstmatige Intelligentie (AI). Het is een nieuwe soort technologie die leert van data in plaats van alleen maar een vaste lijst met instructies te volgen. Omdat deze AI-systemen zo nieuw en zo verschillend zijn, missen de oude veiligheidslijstjes die we voor reguliere computersoftware gebruiken de belangrijkste onderdelen van de puzzel. We hebben een nieuwe manier nodig om de risico's te begrijpen, anders komen we misschien terecht in een huis dat veilig lijkt, maar eigenlijk vol onzichtbare barsten zit.

Dit artikel, geschreven door Shubham Paikrao, is als een nieuwe, op maat gemaakte gereedschapskist die specifiek is ontworpen voor deze "denkende wolk"-huizen. De auteur betoogt dat de veiligheidsscores die we vandaag de dag gebruiken, lijken op het proberen te meten van het gewicht van een wolk met een badkaminaal: ze passen er simpelweg niet bij. Het artikel suggereft dat we, in plaats van te proberen een nieuw getal op oude instrumenten te dwingen, naar AI-risico moeten kijken via vijf specifieke "lenzen" of dimensies die de huidige instrumenten volledig negeren. Deze lenzen zijn: Attack Surface (Aanvalsoppervlak: hoeveel deuren en ramen de AI open heeft staan), Model Exploitability (Model Exploiteerbaarheid: hoe gemakkelijk de AI kan worden misleid of gemanipuleerd), Data Integrity (Dataintegriteit: hoe betrouwbaar de informatie waar de AI van heeft geleerd werkelijk is), Regulatory Exposure (Regulatoire Blootstelling: hoeveel problemen de AI het bedrijf met de wet kan opleveren) en Control Maturity (Controle Volwassenheid: hoe goed het bedrijf de AI in de gaten houdt).

Het artikel beweert niet dat het een magische rekenmachine heeft die direct een perfect dollarbedrag voor elk risico geeft. Sterker nog, het zegt expliciet dat we nog niet genoeg geschiedenis van AI-rampen hebben om die precieze financiële voorspellingen te doen. In plaats daarvan biedt het een "conceptueel kader", wat een chique manier is om te zeggen dat het een stevig steigerwerk of een gedeelde woordenschat biedt. Het is een manier waarop bazen, beveiligers en overheidsregulatoren allemaal dezelfde taal kunnen spreken wanneer ze over AI-gevaren praten. De auteur suggereert dat organisaties door deze vijf dimensies te gebruiken, kunnen stoppen met gissen en kunnen beginnen met het voeren van duidelijke, gestructureerde gesprekken over waar hun AI zwak is en waar ze sterkere verdedigingen moeten bouwen. Het is geen afgewoond product, maar wel de noodzakelijke eerste stap om te voorkomen dat onze AI-toekomst onder zijn eigen gewicht bezwijkt.

Het probleem met oude veiligheidsscores

Stel je voor dat je een beveiligingsbeambte bent in een museum. Jarenlang heb je een speciale scanner gebruikt om schilderijen op scheurtjes te controleren. Als een schilderij een scheur heeft, piept de scanner en geeft het een score van 1 tot 10. Dit werkt perfect voor schilderijen. Maar dan besluit het museum een robot tentoon te stellen die zelf zijn eigen schilderijen kan maken. De robot heeft geen scheurtjes, maar heeft "hallucinaties" (waarbij hij dingen ziet die er niet zijn), hij kan worden misleid door een bezoeker die een vreemde zin fluistert (genaamd "prompt injection"), en hij kan langzaam vergeten hoe hij correct moet schilderen (genaamd "model drift").

Als je je oude schilderijscanner op de robot probeert te gebruiken, zal deze niets piepen. Het zal zeggen dat de robot perfect veilig is omdat het geen scheurtjes in de code kan vinden. Maar de robot is eigenlijk in gevaar! Het artikel wijst erop dat onze huidige veiligheidstools, zoals de CVSS (die scoort hoe erg een softwarefout is) en FAIR (die probeert te raden hoeveel geld een ramp zal kosten), zijn gebouwd voor de oude wereld van statische software. Ze zijn blind voor de unieke trucs die AI kunnen breken.

De paper merkt bijvoorbeeld op dat CVSS uitstekend is in het vertellen hoe makkelijk het is om een deur te breken, maar het heeft geen manier om te meten hoe gemakkelijk een robot kan worden misleid om de deur te openen omdat iemand hem een grappig grapje vertelde. Op dezelfde manier is FAIR uitstekend in het berekenen van financieel risico, maar het heeft historische gegevens nodig (zoals "hoe vaak is dit vorig jaar gebeurd?") om te kunnen werken. Omdat AI zo nieuw is, hebben we niet genoeg geschiedenis van deze specische AI-rampen om de machine te voeden. Het artikel betoogt dat het gebruik van deze oude tools voor AI is als het proberen te meten van de temperatuur van een vuur met een liniaal; het instrument heeft gewoon de verkeerde vorm voor de klus.

De vijf nieuwe lenzen

Om dit op te lossen, introduceert het artikel vijf nieuwe manieren om naar AI-risico te kijken. Zie dit als vijf verschillende zaklampen die je op je AI-systeem moet schijnen om het hele plaatje te zien.

1. Attack Surface: De open deuren
Dit gaat over hoeveel manieren een kwaadwillende actor heeft om binnen te komen. Voor een normale computer kan dit een paar open poorten zijn. Voor een AI is dit veel groter. Elke keer dat je met een chatbot praat, een bestand uploadt of de AI verbinding laat maken met je e-mail, open je een nieuwe deur. Het artikel benadrukt dat als je een AI-agent (een robot die dingen kan doen) laat communiceren met je bankrekening of je e-mail, je een enorme "attack surface" hebt. Het is alsoك de voordeur, achterdeur, de garagedeur en de kelderramen wijd open laten staan. Hoe meer manieren de AI kan interageren met de buitenwereld, hoe meer blootgesteld hij is.

2. Model Exploitability: De listige geest
Dit meet hoe gemakkelijk het is om de AI te misleiden. Sommige AI's zijn "black boxes" (we weten niet hoe ze denken), terwijl andere open zijn. Het artikel suggereert dat als de instructies van een AI publiek zijn of als het bedrijf traag is met het oplossen van bekende trucs, de AI zeer "exploiteerbaar" is. Het is als een goochelaar die zijn geheimen is vergeten; als iemand de truc kent, kunnen ze de goochelaar alles laten doen. Het artikel merkt op dat prompt injection (het misleiden van de AI met tekst) een fundamenteel onderdeel is van hoe deze modellen werken, wat betekent dat het niet volledig "gerepareerd" kan worden zoals een kapot slot; het moet constant beheerd worden.

3. Data Integrity: De vergiftigde bron
AI leert van data, net zoals een student leert van tekstboeken. Als de tekstboeken vol leugens of gif zitten, zal de student leugens leren. Deze dimensie kijkt naar drie dingen:

• Poisoning (Vergiftiging): Is er slechte data in de training van de AI gesmokkeld?
• Drift (Drift): Is de AI vergeten hoe hij moet werken omdat de echte wereld veranderd is? (Stel je een arts-AI voor die getraind is op data uit 2020 en probeert een virus uit 2026 te diagnosticeren; hij kan het fout hebben).
• Hallucinations (Hallucinaties): Beroert de AI zelfverzekerd feiten die niet bestaan?
  Het artikel benadrukt dat, in tegen tegenstelling tot een kapot computerprogramma dat gewoon stopt met werken, een "drifting" AI mogelijk blijft werken maar je maandenlang subtiel foute antwoorden geeft zonder dat iemand het merkt.

4. Regulatory Exposure: Het waakzame oog van de wet
Dit gaat over de kosten van het overtreden van de regels. Overheden maken nieuwe wetten voor AI, zoals de EU AI Act en regels van de SEC. Als jouw AI de wet overtreedt, kun je enorme boetes krijgen (tot 35 miljoen euro of 7% van je wereldwijde omzet, volgens het artikel) of moet je je fouten openbaar maken. Het artikel wijst erop dat oude risicotools deze juridische kosten niet meerekenen. Het is als autorijden zonder verzekering; de auto kan prima rijden, maar als je een ongeluk krijgt, is de financiële klap enorm.

5. Control Maturity: De vaardigheid van de beveiligingsbeambte
Dit is het laatste stuk: hoe goed is het bedrijf in het beheren van de risico's? Zelfs als een AI veel open deuren heeft (hoge attack surface) en gemakkelijk te misleiden is (hoge exploitability), is het risico lager als het bedrijf een supervaardige beveiligingsbeambte heeft die 24/7 toezicht houdt. Dit omvat zaken als het testen van de AI met slechte inputs (red-teaming), het monitoren van de outputs en het laten controleren van belangrijke beslissingen door mensen. Het artikel betoogt dat een bedrijf met een "volwassen" controlesysteem in een veel betere positie verkeert dan een bedrijf dat er gewoon op hoopt dat het goed gaat.

Hoe het in de echte wereld werkt

Het artikel gebruikt drie voorbeelden om te laten zien hoe dit nieuwe kader ons denken over risico verandert.

• De Chatbot van de Bank: Deze AI praat met klanten en kan accountinformatie opzoeken. Het heeft een Hoge attack surface (iedereen kan ermee praten) en een Hoge exploitability (het is een black box). Het heeft een Medium regulatoir risico. Het artikel suggereert dat dit een Cruciaal risico is omdat het zo gemakkelijk aan te vallen is en zo publiek is.
• De Triage-AI van het Ziekenhuis: Deze AI helpt artsen beslissen wie eerst hulp nodig heeft. Het heeft een Medium attack surface (alleen artsen gebruiken het) maar een Hoog risico op dataintegriteit (als het hallucineert, kan een patiënt gewond raken). Het heeft ook een Cruciaal regulatoir risico vanwege gezondheidswetten. Het artikel zegt dat dit ook Cruciaal is, maar om verschillende redenen. De oplossing is niet alleen "de deur vergrendelen"; het is "zorgen dat de AI niet liegt".
• De Code-Assistent van het Softwarebedrijf: Deze AI helpt programmeurs bij het schrijven van code. Het heeft een Lage attack surface (alleen werknemers gebruiken het) en een Laag regulatoir risico. Zelfs als het fouten maakt, is dat geen groot probleem. Het artikel zegt dat dit risico Beheerst is en niet zoveel aandacht nodig heeft.

De belangrijkste les is dat twee systemen beide "Cruciale" risico's kunnen zijn, maar om totaal verschillende redenen. De oude tools zouden ze gewoon één enkel getal geven, waardoor het onmogelijk zou zijn om te weten hoe je ze moet oplossen. Dit nieuwe kader vertelt je precies waar je je energie op moet richten.

Wat het artikel wel en niet doet

Het is belangrijk om te begrijpen wat dit artikel niet beweert. De auteur is zeer duidelijk dat dit geen magische rekenmachine is die je nu een perfect dollarbedrag voor risico geeft. We hebben nog niet genoeg data om te zeggen: "Deze AI zal ons $50.000 kosten als deze faalt." Het artikel geeft toe dat de cijfers voor hoe vaak deze AI-rampen voorkomen, ontbreken. In plaats daarvan biedt het artikel een structuur voor het denken. Het is een manier om het gesprek te organiseren zodat we, wanneer we in de toekomst wél de data hebben, weten hoe we die moeten gebruiken.

Het artikel sluit ook de mogelijkheid uit dat we gewoon de oude tools kunnen aanpassen. Het betoogt dat je niet zomaar een paar nieuwe instellingen aan CVSS of FAIR kunt toevoegen om ze voor AI te laten werken. Het probleem is dieper; de hele manier waarop we over risico denken moet veranderen om deze nieuwe dimensies te bevatten.

Waarom dit ertoe doet

Het artikel concludeert dat het grootste probleem dat we ervaren niet is dat we niet genoeg weten over de dreigingen; het is dat we geen gedeelde taal hebben om erover te praten. Regulatoren, verzekeringsmaatschappijen en beveiligingsteams spreken allemaal verschillende talen. Dit kader stelt een gemeenschappelijke woordenschat voor. Het geeft een directie een manier om het risico te begrijpen zonder een computerdeskundige te hoeven zijn, en het geeft beveiligingsteams een duidelijke checklist van wat ze moeten bouden.

Uiteindelijk suggereert het artikel dat we in een "scaffolding"-fase (een fase van steigerbouw) zitten. We bouwen de structuur die uiteindelijk een volledig gekwantificeerd, precies systeem van AI-risicobeheer zal ondersteunen. Totdat we de data hebben om de cijfers in te vullen, is dit vijfdimensionale kader het beste hulpmiddel dat we hebben om te zorgen dat we onze toekomst niet op een fundament van zand bouwen. Het is een speelse, praktische en noodzakelijke stap om ervoor te zorgen dat onze AI-vrienden niet per ongeluk het huis in brand steken.