Position: AI Governance Needs ISO-like Interoperability Protocols, Not Just Laws
Dit position paper betoogt dat effectief mondiaal AI-bestuur een verschuiving vereist van gefragmenteerde, jurisdictie-specifieke wetgeving naar ISO-achtige interoperabiliteitsprotocollen en gestandaardiseerde, machineleesbare "voedingsetiketten" die grensoverschrijdende risicocommunicatie mogelijk maken, de nalevingslast voor mkb's verminderen en het publieke vertrouwen bevorderen zonder innovatie te verstikken.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Kunstmatige intelligentie is niet langer slechts een hulpmiddel voor het sorteren van foto's of het aanbevelen van liedjes; het is de onzichtbare motor geworden die de meest kritieke systemen ter wereld aanstuurt, van ziekenhuizen die patiënten diagnosticeren tot banken die leningen goedkeuren. Naarmate deze systemen krachtiger en complexer worden, hebben overheden wereldwijd haast gezocht naar regels om ze veilig en eerlijk te houden. Deze regels zijn echter momenteel geschreven in verschillende talen. Het ene land kan een specifiek type veiligheidscontrole eisen, terwijl het buurland een totaal andere set documenten vereist, en een derde land kan vertrouwen op vrijwillige richtlijnen die bedrijven naar eigen inzicht kunnen negeren. Deze lappendeken van tegenstrijdige regelgeving creëert een verwarrend doolhof voor ontwikkelaars, wat het moeilijk maakt om behulpzame technologie over grenzen heen in te zetten en het publiek onzeker laat over de vraag of de systemen die zij gebruiken werkelijk veilig zijn.
Een team van onderzoekers voert aan dat de oplossing voor deze wereldwijde verwarring niet het schrijven van meer wetten is, maar het bouwen van een universele technische taal die naast hen bestaat. In hun visie is het uitsluitend vertrouwen op juridische statuten als het proberen te beheren van de wereldwijde scheepvaartindustrie door voor elke haven nieuwe verdragen te schrijven; het is traag, duur en foutgevoelig. In plaats daarvan stellen zij voor om een reeks gestandaardiseerde, machineleesbare "voedingsetiketten" voor kunstmatige intelligentie te creëren. Net zoals voedseletiketten een consument precies vertellen wat er in een verpakking zit — calorieën, ingrediënten en allergenen — zouden deze nieuwe digitale labels de toezichthouders en gebruikers precies vertellen wat er in een AI-systeem zit: hoeveel energie het verbruikt, waar de trainingsdata vandaan komt en hoe het presteert op het gebied van eerlijkheid.
De onderzoekers suggereren, voortbouwend op de geschiedenis van hoe de wereld succesvol de privacy van gegevens heeft beheerd, dat wetten de doelen moeten stellen, maar dat technische standaarden het zware werk moeten doen om te bewijzen dat die doelen zijn behaald. Ze wijzen naar de Algemene Verordening Gegevensbescherming van de Europese Unie, een strikte privacywet die niet alleen wereldwijd effectief werd vanwege de wet zelf, maar omdat deze werd ondersteund door praktische, gestandaardiseerde beveiligingsprotocollen die bedrijven daadwerkelijk konden volgen. Voor kunstmatige intelligentie stellen zij een vergelijkbaar pad voor: een gedeeld technisch formaat dat een AI-systeem in staat stelt om zijn eigen bewijs van veiligheid en naleving met zich mee te dragen terwijl het van het ene land naar het andere beweegt. Dit zou betekenen dat een bedrijf in Seoul een enkel, gestandaardiseerd document kan maken dat bewijst dat hun systeem tegelijkertijd voldoet aan de veiligheidseisen van de Europese Unie, de Verenigde Staten en China, zonder dat ze hun code hoeven te herschrijven of hun modellen voor elke regio opnieuw hoeven te trainen.
Om dit idee te laten werken, heeft het team een specifieke structuur voor deze labels ontworpen, die zij "AI-risicomanifesten" noemen. Dit zijn geen eenvoudige samenvattingen bedoeld voor menselijke lezers; het zijn gestructureerde databestanden die computers automatisch kunnen scannen en verifiëren. De onderzoekers identificeerden drie cruciale stukken informatie die elk label moet bevatten. Ten eerste moet het rapporteren over bias, door te laten zien hoe het systeem verschillende groepen mensen behandelt en of het onrechtvaardige beslissingen neemt. Ten tweede moet het het energieverbruik bijhouden, met details over de elektriciteit die wordt gebruikt om het model te trainen en te draaien, wat een groeiende zorg is voor het milieu. Ten derde moet het een duidelijke geschiedenis bieden van de gegevens die zijn gebruikt om het systeem te onderwijzen, waarbij de oorsprong ervan wordt getraceerd om te verzekeren dat deze niet gestolen of gemanipuleerd is. Door te standaardiseren hoe deze informatie wordt gerapporteerd, argumenteren de onderzoekers dat toezichthouders kunnen stoppen met gissen en kunnen beginnen met controleren, door gebruik te maken van geautomatiseerde tools om te verifiëren of een systeem veilig is voordat het mag functioneren.
Het artikel behandelt ook een veelvoorkomende angst: dat het creëren van dergelijke strikte standaarden innovatie zal verstikken of het te moeilijk zal maken voor kleine bedrijven om te concurreren. De auteurs counteren dit door te suggereren dat het huidige gefragmenteerde systeem juist de grootste barrière voor innovatie is, omdat het kleine bedrijven dwingt om door een dozijn verschillende, incompatibele regelboeken te navigeren. Hun voorgestelde oplossing is om de standaarden modulair en flexibel te maken, zodat ze kunnen evolueren naarmate de technologie verandert, vergelijkbaar met software-updates. Ze voorzien een systeem waarin de kernregels stabiel blijven, maar specifieke details kunnen worden aangepast naarmate er nieuwe soorten AI verschijnen. Deze aanpak zou volgens hen de kosten van naleving voor iedereen verlagen, waardoor kleinere spelers de markt kunnen betreden terwijl grote corporaties een duidelijk pad hebben om wereldwijd te opereren.
Uiteindelijk pleiten de onderzoekers voor een verschuiving in de manier waarop de wereld over de governance van technologie denkt. Zij geloven dat hoewel wetten noodzakelijk zijn om te definiëren wat goed en fout is, ze op zichzelf niet genoeg zijn om te garanderen dat complexe, snel bewegende systemen veilig functioneren. Het echte werk van veiligheid vindt volgens hen plaats in de technische details — de metrieken, de dataloggen en de verificatiestappen. Door een gedeelde, machineleesbare taal voor deze details te bouwen, kan de wereld bewegen van een staat van regelgevende verwarring naar een staat van wereldwijde samenwerking, waarbij vertrouwen niet wordt gebouwd op beloften, maar op verifieerbare feiten die met de technologie zelf meereizen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.