AI Governance Under Political Constraints: The Case for Ex Post Liability
Dit artikel betoogt dat ex post strikte aansprakelijkheid het meest robuuste AI-governance-instrument is onder politieke beperkingen, omdat het de problemen van capture en consensus vermijdt die de ex ante regelgeving teisteren, terwijl het een kader biedt om complementaire instrumenten te classificeren en inspanningen om civiele aansprakelijkheid te verzwakken te evalueren.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Kunstmatige intelligentie beweegt sneller dan de regels die bedoeld zijn om het te sturen. Terwijl deze systemen krachtiger worden, beloven ze moeilijke problemen in de geneeskunde en wetenschap op te lossen, maar ze dragen ook het potentieel voor ernstige schade, van wijdverbreide fraude tot het verlies van menselijke controle over kritieke machines. Regeringen over de hele wereld proberen te beslissen hoe ze deze macht kunnen beheren voordat het schade veroorzaakt. De centrale vraag is niet alleen welke regels er geschreven moeten worden, maar hoe ze geschreven kunnen worden op een manier die daadwerkelijk werkt. De uitdaging is dat niemand het er precies over eens is hoe gevaarlijk deze systemen zijn, en de mensen die ze bouwen hebben veel meer invloed op politici dan het algemene publiek. Deze onbalans maakt het moeilijk om strikte wetten aan te nemen die bedrijven verplichten om te bewijzen dat hun technologie veilig is voordat ze deze vrijgeven, omdat politici er niet over eens kunnen worden wat "veilig" betekent of hoeveel risico acceptabel is.
Een nieuw artikel van Gabriel Weil, een onderzoeker aan de University of Houston, betoogt dat de beste manier om met deze onzekerheid om te gaan, is door te stoppen met het voorspellen van de toekomst en te beginnen met het betalen voor het verleden. In plaats van bedrijven te dwingen toestemming van de overheid te krijgen voordat ze een nieuwe kunstmatige intelligentie bouwen of vrijgeven, stelt het artikel een systeem voor waarbij bedrijven financieel verantwoordelijk worden gehouden voor de werkelijke schade die hun technologie veroorzaakt. Deze benadering, bekend als "ex post aansprakelijkheid", legt de last van veiligheid bij de ontwikkelaars zelf. Als de technologie goed werkt en geen problemen veroorzaakt, betaalt het bedrijf niets. Als het een ramp veroorzaakt, moeten zij voor de schade opdraaien. Weil's analyse suggereert dat deze methode robuuster is tegen politieke druk en beter geschikt is voor de onbekende aard van de technologie dan het vooraf vaststellen van strikte regels.
Het artikel begint met het uitleggen van waarom de gebruikelijke methoden van regulering waarschijnlijk zullen falen in de wereld van kunstmatige intelligentie. Typisch proberen overheden risico's te beheersen door regels vast te stellen, licenties te vereisen of bedrijven te belasten voor de risico's die zij creëren. Bijvoorbeeld, een overheid kan zeggen dat een bedrijf moet bewijzen dat zijn systeem veilig is voordat het gebruikt mag worden, of het kan een belasting heffen op basis van hoeveel rekenkracht het systeem gebruikt. Deze methoden vereisen echter een duidelijke overeenstemming over hoe gevaarlijk de technologie is. Om een belastingtarief of een veiligheidsregel vast te stellen, moeten politici eerst precies beslissen hoeveel schade zij verwachten. Weil wijst erop dat experts het hier niet over eens zijn. Sommigen geloven dat het risico op een catastrofe bijna zeker is, terwijl anderen denken dat het verwaarloosbaar is. Omdat de technologie zo nieuw en complex is, is er geen solide data om dit debat te beslechten. Zonder een gedeeld begrip van het risico, zal elke regel of belasting die door politici wordt vastgesteld, waarschijnlijk ofwel te zwak zijn om een ramp te voorkomen, ofwel zo strikt dat het alle vooruitgang stopt.
Bovendien betoogt het artikel dat het politieke proces zelf nadelig is voor effectieve regulering. De mensen die de gevolgen zouden ondervinden van een fout van een kunstmatige intelligentie-systeem zijn het algemene publiek, dat verspreid en ongeorganiseerd is. De bedrijven die deze systemen bouwen zijn weinig in aantal, rijk en zeer gemotiveerd om hun belangen te beschermen. In een politiek systeem hebben georganiseerde groepen met geld meestal meer invloed dan het diffuse publiek. Als een overheid probeert strikte regels vast te stellen, kunnen deze bedrijven lobbyen om de regels te verzwakken of gemakkelijker te omzeilen. Ze kunnen ook hun technische expertise gebruiken om regulatoren te verwarren, die vaak afhankelijk zijn van de bedrijven zelf om uit te leggen hoe de technologie werkt. Dit creëert een situatie waarin de regels uiteindelijk de bedrijven beschermen in plaats van het publiek.
Weil stelt voor dat het verantwoordelijk houden van bedrijven voor de werkelijke schade die zij veroorzaken, deze politieke vallen vermijdt. Onder een systeem van strikte aansprakelijkheid hoeft een bedrijf geen toestemming te krijgen om een systeem te bouwen, noch hoeft het een specifiek risiconiveau met de overheid af te spreken. In plaats daarvan weet het bedrijf simpelweg dat als het systeem iemand schade berokkent, het moet betalen. Dit werkt goed, zelfs wanneer niemand precies weet hoe gevaarlijk de technologie is. Als de technologie goed blijkt te zijn, betaalt het bedrijf niets. Als het blijkt dat de technologie gevaarlijk is, betaalt het bedrijf voor de schade. Dit creëert een krachtige prikkel voor het bedrijf om zelf uit te zoeken hoe ze het systeem veilig kunnen maken, omdat zij degenen zijn die de rekening moeten betalen als het misgaat.
Het artikel behandelt ook een veelvoorkomende zorg: wat als een ramp zo groot is dat het bedrijf het niet kan betalen? In gevallen waar de schade te groot is voor een enkel bedrijf om te dekken, stelt de auteur het gebruik van punitieve schadevergoedingen voor. Dit betekent dat als een bedrijf een risico neemt dat tot een catastrofe zou kunnen leiden, zelfs als de catastrofe nog niet heeft plaatsgevonden, ze zwaar beboet kunnen worden als ze er dichtbij komen. Deze boete zou worden berekend op basis van het potentiële gevaar dat zij hebben gecreëerd, en niet alleen op de werkelijke schade die zij hebben veroorzaakt. Dit zorgt ervoor dat bedrijven nog steeds een reden hebben om voorzichtig te zijn met de grootste risico's, zelfs als ze denken dat ze niet gepakt zullen worden. Om het probleem aan te pakken waarbij bedrijven niet genoeg geld hebben om voor kleinere ongelukken te betalen, stelt het artikel voor hen te verplichten verzekeringen af te sluiten. Verzekeringsmaatschappijen zouden dan fungeren als private regulatoren, die de veiligheid van de systemen controleren en hogere prijzen vragen voor risicovollere systemen.
De auteur contrasteert deze benadering met andere ideeën die momenteel worden besproken, zoals het geven van een "safe harbor" (veilige haven) of immuniteit tegen rechtszaken aan bedrijven als zij aan bepaalde overheidsregels voldoen. Het artikel betoogt dat dit een slechte deal is. Als een bedrijf de mogelijkheid krijgt om niet te hoeven betalen voor schade simpelweg omdat ze een checklist hebben gevolgd, hebben ze minder reden om verder te gaan dan de minimale eisen om hun systemen echt veilig te maken. Het artikel kijkt ook naar recente wetsvoorstellen in de Verenigde Staten en Europa die proberen aansprakelijkheid in te ruilen voor regulering. Weil concludeert dat geen van deze voorstellen een goede waarde biedt. Ze hebben de neiging om het systeem van het verantwoordelijk houden van bedrijven te verzwakken zonder een sterk genoeg alternatief te bieden om mensen veilig te houden.
Het artikel concludeert dat hoewel andere instrumenten zoals transparantievereisten en veiligheidsonderzoek nuttig zijn, ze een systeem van aansprakelijkheid moeten ondersteunen, niet vervangen. De meest effectieve manier om kunstmatige intelligentie te besturen, is door de markt en de rechtbanken het werk te laten doen om de risico's in kaart te brengen. Door ontwikkelaars de schade te laten betalen die zij veroorzaken, dwingt het systeem hen om de kosten van hun fouten te internaliseren. Deze benadering vereist niet dat politici zich een toekomst voorstellen, noch geeft het hen de macht om vooruitgang willekeurig te stoppen. Het zorgt er simpelweg voor dat degenen die de technologie bouwen, ook degenen zijn die de kosten dragen als het misgaat. In een wereld waar de risico's onbekend zijn en de politiek moeilijk is, biedt deze methode de meest betrouwbare weg naar veiligheid.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.