The science and practice of proportionality in AI risk evaluations

Dit artikel onderzoekt hoe het juridische beginsel van proportionaliteit kan worden toegepast om de evaluatie van systemische risico's van geavanceerde AI-modellen onder de EU-AI-wetgeving effectief te maken zonder de innovatie onnodig te belemmeren.

De kern

De Kunst van de Gouden Middenweg: Hoe we AI-risico's testen zonder de motor te laten oververhitten

Stel je voor dat de Europese Unie een nieuwe verkeerswet heeft gemaakt voor zelfrijdende auto's (in dit geval: kunstmatige intelligentie of AI). De wet zegt: "We moeten controleren of deze auto's veilig zijn voordat ze de weg op gaan." Maar er is een probleem: als we elke auto te grondig testen, duurt het zo lang dat niemand er ooit een kan bouwen of verkopen. Als we ze te weinig testen, kunnen ze gevaarlijk zijn.

Dit artikel uit Science (geschreven door experts van o.a. de Europese Commissie) gaat over het proportionaliteitsbeginsel. Dat is een heel groot woord voor een simpel idee: "Gebruik de juiste maatstaf voor het juiste probleem." Je gebruikt geen sledgehamer om een noot te kraken, maar je gebruikt ook geen tandenstoker om een boom om te hakken.

Hier is hoe dat werkt, vertaald naar alledaagse taal:

1. De Drie Regels van de Gouden Middenweg

De wet zegt dat elke controle (evaluatie) drie dingen moet zijn:

• Geschikt (Suitability): De test moet echt iets vertellen over het gevaar.
  • Analogie: Als je wilt weten of een brug stevig is, moet je er niet alleen op lopen (dat is te makkelijk), maar ook zware vrachtwagens over laten rijden. Als je test niet past bij de werkelijkheid (bijvoorbeeld: je test de auto alleen in een leeg parkeerterrein terwijl hij in de regen moet rijden), dan is de test nutteloos.
• Noodzakelijk (Necessity): Is er een makkelijkere manier om hetzelfde resultaat te krijgen?
  • Analogie: Als je wilt weten of een sleutel past, hoef je niet de hele deur uit elkaar te halen. Als er een simpele manier is om te zien of de sleutel werkt, is het "overkill" om de deur te slopen. Je zoekt de minst ingrijpende manier die wel werkt.
• Evenwichtig (Balancing): Weegt het nut zwaarder dan de moeite?
  • Analogie: Het is niet logisch om een dure, uren durende medische scan te doen voor een simpele verkoudheid. Maar voor een levensgevaarlijke ziekte is het de moeite waard. De last (tijd, geld, privacy) mag niet veel zwaarder wegen dan het voordeel (veiligheid).

2. Hoe test je een AI? (De "Cyber-veiligheid" voorbeeld)

Het artikel geeft een concreet voorbeeld: hoe test je of een AI een hacker kan helpen om software te kraken? Ze vergelijken drie methoden, alsof je drie verschillende sportwedstrijden hebt:

1. De Simpele Test (HonestCyberEval):

   • Wat is het? Je geeft de AI een raadsel met een duidelijke hint.
   • Voordeel: Snel en goedkoop.
   • Nadeel: Als de AI dit haalt, is het misschien nog niet gevaarlijk. Maar als hij faalt, weten we zeker dat hij niet slim genoeg is voor de echte wereld.
   • Gebruik: Dit is je eerste screening. "Past de sleutel in het slot?"

2. De Realistische Test (BountyBench):

   • Wat is het? Je zet de AI in een omgeving die lijkt op een echte hacker-situatie, zonder hints.
   • Voordeel: Je ziet precies hoe slim de AI is.
   • Nadeel: Het kost meer tijd en rekenkracht.
   • Gebruik: Als de AI de simpele test haalt, ga je hiermee verder.

3. De Ultieme Test (CyberGym):

   • Wat is het? Een gigantische, complexe simulatie met duizenden scenario's.
   • Voordeel: Je hebt 100% zekerheid.
   • Nadeel: Het is extreem duur en zwaar.
   • Gebruik: Alleen nodig als de eerdere tests twijfel laten bestaan of als het risico enorm groot is.

3. De "Trapsgewijze" Aanpak

De auteurs zeggen: doe het stap voor stap!
Begin met de simpele, goedkope test.

• Faalt de AI? Geweldig! Dan is hij veilig genoeg. Je stopt hiermee. Geen dure tests nodig.
• Haalt hij de test? Dan moet je een stapje verder gaan. Ga naar de realistischere test.
• Haalt hij die ook? Dan moet je misschien de zware, dure test doen om zeker te zijn.

Dit is slim omdat het bedrijven niet onnodig belast. Kleine bedrijven met een veilige AI hoeven geen dure tests te doen. Alleen de grote, geavanceerde AI's die echt risico's kunnen vormen, krijgen de "zware" tests.

4. Waarom is dit belangrijk?

Zonder deze regels kunnen twee dingen gebeuren:

1. Te streng: De overheid vraagt om tests die zo duur en moeilijk zijn dat niemand AI meer ontwikkelt. De innovatie stopt.
2. Te slap: De tests zijn zo makkelijk dat ze geen enkel gevaar opsporen. Dan krijgen we gevaarlijke AI's die de wereld in gaan.

De conclusie in één zin:
De wetgever en de wetenschappers moeten samenwerken om te vinden waar de "sweet spot" ligt: een test die veilig genoeg is om ons te beschermen, maar niet zo zwaar dat hij de toekomst van technologie verstikt. Het gaat om slim testen, niet om hard testen.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het artikel "The science and practice of proportionality in AI risk evaluations" in het Nederlands.

Titel: De wetenschap en praktijk van proportionaliteit bij AI-risicobeoordelingen

Auteurs: Carlos Mougan et al.
Publicatie: Science, 19 februari 2026

---

1. Het Probleem

De Europese Unie (EU) heeft met de AI Act een bindend, risicogebaseerd kader ingevoerd voor kunstmatige intelligentie (AI). Een centrale uitdaging is het vinden van een evenwicht tussen effectief risicomanagement en het behoud van innovatie. Sinds augustus 2025 moeten providers van geavanceerde General-Purpose AI (GPAI)-modellen systemische risico's evalueren.

Het fundamentele probleem is dat er geen duidelijke, wetenschappelijk onderbouwde methodologieën bestaan om te bepalen wanneer het eisen van een specifieke evaluatie "evenredig" (proportioneel) is. Zonder deze methodologieën lopen regelgevers het risico:

• Onvoldoende bescherming te bieden door te lichte eisen te stellen.
• Onnodig zware lasten op te leggen aan providers, wat innovatie kan belemmeren.
• Te veel ruimte te laten voor subjectieve normatieve oordelen in plaats van evidence-based beleid.

Het artikel adresseert de vraag: Hoe vertalen we het juridische principe van proportionaliteit naar concrete, wetenschappelijke praktijken voor AI-evaluaties?

2. Methodologie en Conceptueel Kader

De auteurs baseren hun aanpak op het juridische principe van proportionaliteit uit het EU-recht, dat stelt dat maatregelen drie criteria moeten vervullen: geschiktheid (suitability), noodzaak (necessity) en evenwichtigheid (balancing). Ze vertalen deze juridische concepten naar technische criteria voor AI-evaluaties.

A. Geschiktheid (Suitability)

Een evaluatie moet een minimumniveau van effectiviteit bereiken om een risico daadwerkelijk te kunnen beoordelen. Effectiviteit wordt gemeten aan de hand van informatiewaarde. Vier technische criteria worden geïntroduceerd om geschiktheid te bepalen:

1. Realistisch: De evaluatie moet real-world omstandigheden weerspiegelen (bijv. ruis, onvolledige informatie, menselijke factoren).
2. Gevoelig (Sensitive): De evaluatie moet in staat zijn om betekenisvolle veranderingen in modelprestaties te detecteren (geen verzadigde benchmarks).
3. Specifiek: De evaluatie moet direct gekoppeld zijn aan het specifieke risico of aanvalsscenario.
4. Rigor (Strenge wetenschappelijke basis): De evaluatie moet voldoen aan wetten van meetkunde (validiteit, betrouwbaarheid, standaardisatie).

B. Noodzaak (Necessity)

Een evaluatie is alleen noodzakelijk als er geen minder belastend alternatief is dat even effectief is. Dit vereist een vergelijking tussen verschillende evaluatiemethoden.

• Lasten (Burden): Omvat intrusiviteit (ingreep in bedrijfsprocessen/infrastructuur) en resources (ontwikkelkosten, rekenkracht, tijd).
• Pareto-frontier: De auteurs introduceren het concept van de Pareto-frontier in de ruimte van "last vs. effectiviteit". Een evaluatie is noodzakelijk als deze op deze frontier ligt (d.w.z. je kunt de effectiviteit niet verhogen zonder de last te verhogen, of de last niet verlagen zonder de effectiviteit te verlagen).

C. Evenwichtigheid (Balancing)

Hier wordt de informatie-waarde van een evaluatie afgewogen tegen de last die deze oplevert.

• Risicoprofiel: De evaluatie moet aansluiten bij de huidige schatting van het risico (waarschijnlijkheid en ernst) en het vertrouwen daarin.
• Capaciteit van de provider: De last moet relatief worden gewogen ten opzichte van de grootte en middelen van de provider.
• Iteratieve aanpak: De auteurs stellen een gefaseerde methode voor: begin met goedkope, minst intrusieve methoden. Als deze inconclusief zijn of hoog risico aangeven, schakel dan over naar zwaardere methoden. Dit sluit aan bij het voorzorgsprincipe.

3. Case Study: Cyberveiligheid

Om de theorie te illustreren, analyseren de auteurs drie methoden voor het evalueren van het risico dat AI wordt gebruikt om kwetsbaarheden in open-source code te vinden:

1. HonestCyberEval: Laagste last, maar vereist synthetische hints (minder realistisch). Goed als screening.
2. BountyBench: Hogere last, maar meer realistisch en gevoelig. Vereist complexe systeemintegratie.
3. CyberGym: Hoogste last, maar biedt de hoogste specificiteit, gevoeligheid en statistische betrouwbaarheid door end-to-end scenario's.

Resultaat van de case study: Geen enkele methode is per se "de beste". Afhankelijk van het specifieke model en het risicoprofiel kunnen punten op de Pareto-frontier worden geselecteerd. Een regulator kan bijvoorbeeld eisen dat eerst HonestCyberEval wordt uitgevoerd; alleen bij falen of twijfel wordt de zwaardere CyberGym vereist. Dit illustreert hoe proportionaliteit werkt in de praktijk.

4. Belangrijkste Bijdragen

• Operationalisering van Proportionaliteit: Het artikel vertaalt abstracte juridische principes naar concrete technische criteria (Realistisch, Gevoelig, Specifiek, Rigoureus) voor AI-evaluaties.
• Het Pareto-Frontier Concept: Het introduceert een wiskundig/economisch kader om te bepalen wanneer een evaluatie "noodzakelijk" is door last en effectiviteit tegen elkaar af te wegen.
• Iteratieve Evaluatiestrategie: Een praktische aanbeveling om te beginnen met lichte tests en alleen zwaardere tests toe te passen als dat nodig is voor voldoende risicobekendheid.
• Identificatie van Onderzoeksuitdagingen: Het benoemt drie cruciale gebieden voor toekomstig onderzoek:
  1. Het definiëren van de minimale informatie-waarde voor geschiktheid.
  2. Het ontwikkelen van methoden om "even effectieve" evaluaties te vergelijken.
  3. Het verlagen van de lasten (resources/intrusiviteit) zonder de informatie-waarde te verliezen.

5. Resultaten en Conclusies

De studie concludeert dat er momenteel een gat bestaat tussen wet, wetenschap en evaluatiepraktijk. Zonder gestandaardiseerde methodologieën om proportionaliteit te meten, blijft de regulering van AI-risico's onvoorspelbaar en potentieel inefficiënt.
De auteurs stellen dat regelgevers en onderzoekers moeten samenwerken om:

• Evaluaties te documenteren en te vergelijken op basis van hun last-effectiviteitsprofiel.
• Methodologieën te ontwikkelen die de "informatiewaarde" kwantificeerbaar maken.
• Een dynamisch systeem te creëren waarin evaluatie-eisen evolueren naarmate meer informatie over het risico beschikbaar komt.

6. Significatie

Dit artikel is van groot belang voor de toekomst van AI-regulering wereldwijd, en specifiek voor de implementatie van de EU AI Act. Het biedt een wetenschappelijke onderbouwing om:

• Innovatie te beschermen: Door te voorkomen dat onnodig zware evaluaties worden opgelegd aan kleinere spelers of voor lage risico's.
• Veiligheid te waarborgen: Door te garanderen dat bij hoge risico's voldoende robuuste en realistische evaluaties worden uitgevoerd.
• Juridische zekerheid te bieden: Door een objectief kader te bieden voor het beoordelen van de redelijkheid van regelgeving, wat juridische uitdagingen kan verminderen.

Kortom, het artikel pleit voor een verschuiving van een "one-size-fits-all" benadering naar een evidence-based, gefaseerde en evenredige aanpak van AI-risicobeoordeling.