Qualifying and Quantifying Risk under the EU AI Act
Dit artikel stelt een "severity-first" tweestaps-framework voor om de kwalitatieve focus van de EU AI Act op fundamentele rechten te verzoenen met de kwantitatieve risicodefinitie, terwijl het waarschuwt dat het delegeren van risicokwantificatie aan aanbieders "risico-hacking" en onderclassificatie door de toezichthouder zou kunnen faciliteren.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je de burgemeester bent van een bruisende, futuristische stad waar robots overal zijn. Sommige robots zijn onschadelijk, zoals een broodrooster die leert wat jouw favoriete instelling voor brood is. Anderen zijn krachtig, zoals een robotrechter of een drone die gezichten scant in het park. De grote vraag voor elke stadsleider is: "Hoe houden we iedereen veilig zonder de coole nieuwe uitvindingen te stoppen?" Dit is de kern van een vakgebied genaamd risicoregulering. Het is de kunst van het uitzoeken hoe waarschijnlijk iets slechts is (waarschijnlijkheid) en hoe verschrikkelijk het zou zijn als het gebeurt (ernst). Meestal proberen leiders een snelle rekensom te maken: vermenigvuldig de kans op een ongeluk met hoe erg het ongeluk is. Als het getal klein is, zeggen ze: "Het is prima!" Maar wat als het "slechte ding" iets is dat je niet gemakkelijk kunt tellen, zoals het verliezen van je privacy of je vrijheid? Dat is waar het ingewikkeld wordt. Als je geen prijskaartje kunt hangen aan een mensenrecht, hoe doe je dan de wiskunde? Dit is precies het puzzelstuk waar de Europese Unie voor staat terwijl zij probeert regels te schrijven voor Kunstmatige Intelligentie (AI).
Dit artikel, geschreven door onderzoekers uit Duitsland en de VS, duikt in de nieuwe "AI Act" van de EU, een enorme wet die ontworpen is om AI-systemen in drie bakjes te sorteren: "No Go" (verboden), "Hoog Risico" (heeft strikte regels nodig) en "Minimaal Risico" (vrij om te gaan). De auteurs merken een grappige spanning op in de wet. Aan de ene kant definieert de wet "risico" als een wiskundige vergelijking: Waarschijnlijkheid × Ernst. Aan de andere kant probeert de wet "fundamentele rechten" te beschermen (zoals waardigheid, privacy en eerlijkheid), die meestal worden behandeld als speciale, niet-kwantificeerbare waarden. Je kunt "waardigheid" niet echt meten in dollars of percentages. De auteurs suggereren dat als we proberen een simpele wiskundige formule op deze complexe mensenrechten te dwingen, bedrijven het systeem kunnen manipuleren. Ze zouden hun cijfers kunnen aanpassen om een gevaarlijke robot veilig te laten lijken, een truc die de auteurs "risk hacking" noemen.
Dus, wat stellen de auteurs voor? Ze suggereren een nieuwe manier om naar het probleem te kijken, zoals een tweestapsdans. Stap 1 is om naar het doel van de robot te kijken en te vragen: "Is de schade die het zou kunnen veroorzaken zo ernstig dat het een fundamenteel recht schendt, ongeacht hoe vaak het gebeurt?" Dit is wat zij een "severity-first" (eerst de ernst) aanpak noemen. Denk aan een uitsmijter bij een club die er niet om geeft hoe waarschijnlijk een vechtpartij is; als iemand een granaat vasthoudt (hoge ernst), wordt hij direct geweigerd, zelfs als hij er nog nooit een heeft gegooid. Stap 2 is om naar de "wiskunde" van de situatie te kijken: Hoe waarschijnlijk is de schade? En wat zijn de kosten om de robot te stoppen?
Het artikel betoogt dat de EU AI Act deze "severity-first" logica eigenlijk al gebruikt, zelfs als het dat niet hardop zegt. Bijvoorbeeld, de wet verbiedt bepaalde AI-toepassingen (zoals het lezen van emoties op de werkplek) omdat de potentiële schade aan de privacy gewoon te hoog is, zelfs als de kans dat het gebeurt laag is. De auteurs suggereren dat toezichthouders deze volgorde moeten aanhouden: controleer eerst de ernst, en maak je dan pas zorgen over de waarschijnlijkheid. Als we bedrijven zelf de wiskunde laten bepalen, kunnen ze proberen te argumenteren dat een "lage waarschijnlijkheid" van een "catastrofale" gebeurtenis eigenlijk een "laag risico" is, waardoor gevaarlijke AI door de mazen van het net glipt. Door de focus eerst te houden op hoe erg de schade zou kunnen zijn, kunnen we mensenrechten beschermen terwijl we toch nuttige technologie laten groeien. Het artikel beweert niet dat het elk wiskundig probleem heeft opgelost, maar het biedt een helder stappenplan om "risk hacking" te stoppen en ervoor te zorgen dat de regels daadwerkelijk werken voor mensen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.