International Agreements to Limit Frontier AI: Objectives and Exit

Technische Samenvatting: Internationale Verdragen om de Beperking van Frontier AI: Doelstellingen en Exit

Probleemstelling
Het artikel behandelt het kritieke gat in voorstellen voor internationale overeenkomsten om de ontwikkeling van frontier AI te beperken. Terwijl de bestaande literatuur (bijv. Scher et al., 2025; Miotti & Wasil, 2023) zich zwaar concentreert op de mechanismen voor het opleggen van restricties (zoals limieten op rekenkracht), verwaarloost deze grotendeels de voorwaarden waaronder deze restricties versoepeld of de overeenkomst beëindigd zouden moeten worden. De auteurs stellen dat het gebrek aan een duidelijke, overeengekomen "exitstrategie" of versoepelingsmechanisme zorgt voor onzekerheid bij ondertekenaars, wat potentieel een barrière vormt voor het sluiten van dergelijke overeenkomsten. Het kernprobleem is het bepalen van de specifieke criteria die de overgang van een fase van beperkte ontwikkeling naar een fase van versoepelde of beëindigde ontwikkeling moeten triggeren, waarbij een balans wordt gezocht tussen de noodzaak om existentiële risico's te mitigeren en de potentiële economische en maatschappelijke voordelen van AI.

Methodologie
De auteurs maken gebruik van een vergelijkende beleidsanalyse en een conceptueel kader:

1. Onderzoek naar Bestaande Verdragen: Het artikel analyseert beëindigings- en terugtrekkingsclausules in acht belangrijke internationale overeenkomsten, waaronder het Strategic Arms Reduction Treaty (START), het Non-Proliferation Treaty (NPT), het Biologische Wapensverdrag en het Parijs-akkoord.
2. Definitie van Desiderata: De auteurs systematiseren de selectie van versoepelingsvoorwaarden door vier belangrijke criteria (desiderata) voor te stellen:
   • Nauwkeurigheid: De voorwaarde moet accuraat reflecteren of de AI-risico's voldoende zijn gemitigeerd.
   • Verifieerbaarheid: De vervulling van de voorwaarde moet ondubbelzinnig en bewijsbaar zijn.
   • Behoud van Soevereiniteit: Ondertekenaars moeten een plausibel pad behouden om uit te treden als hun risicobeoordelingen veranderen.
   • Precedent: Voorwaarden zouden idealiter leunen op mechanismen met een geschiedenis van succes in het internationaal recht.
3. Scenario-modellering: De analyse gaat uit van een specifieke context: een overeenkomst ondertekend door NATO-lidstaten en China, die een bovengrens oplegt aan de rekenkracht voor het trainen van AI. De auteurs gaan uit van een "pessimistisch" scenario waarbij ondertekenaars niet beschikken over de technische infrastructuur om elkaars ontwikkeling eenzijdig te stoppen, en in plaats daarvan vertrouwen op reputatieskosten en wederzijds vertrouwen.
4. Evaluatie van Kandidaten: Verschillende typen versoepelingsvoorwaarden worden geëvalueerd tegen de vastgestelde desiderata.

Belangrijkste Bijdragen en Voorgestelde Voorwaarden
Het artikel categoriseert en evalueert verschillende mogelijke typen versoepelingsvoorwaarden:

• Afwezigheid van een Versoepelingsvoorwaarde: Een permanente ban. De auteurs merken op dat dit een lage precedentwerking voor beëindiging heeft en een laag behoud van soevereiniteit biedt, hoewel het een hoge verifieerbaarheid biedt.
• Vaste Tijdslimiet: Een ingestelde duur waarna de restricties worden beoordeeld. Dit scoort hoog op verifieerbaarheid en precedent, maar laag op nauwkeurigheid, omdat het geen rekening houdt met de werkelijke staat van AI-veiligheidsonderzoek.
• Individuele Intrekking / Buitengewone Gebeurtenissen: Het toestaan dat staten zich terugtrekken als "buitengewone gebeurtenissen" plaatsvinden (vergelijkbaar met het NPT en de ABM-verdragen). Dit behoudt de soevereiniteit, maar lijdt onder lage verifieerbaarheid en de potentie voor geschillen over legitimiteit.
• Vooruitgang in Paraatheid: Het opheffen van restricties op basis van vooruitgang in AI-veiligheid (bijv. alignment, interpreteerbaarheid) of maatschappelijke veerkracht. Dit scoort hoog op nauwkeurigheid, maar staat voor uitdagingen op het gebied van verifieerbaarheid en het definiëren van specifieke mijlpalen (bijv. "bewijsbare garanties" of "expertconsensus").
• Afwezigheid van AI-gerelateerde Incidenten: Het gebruik van het uitblijven van schadelijke incidenten als signaal voor versoepeling. De auteurs merken op dat dit kwetsbaar is voor manipulatie en geen garantie biedt voor veiligheid onder onbeperkte omstandigheden.
• Creatie van een Globaal AI-ontwikkelingsproject: Het vereisen van de vorming van een verenigde, wereldwijd gemonitorde ontwikkelingsentiteit. Dit adresseert coördinatiefouten, maar vereist ongekende internationale samenwerking en zal waarschijnlijk moeilijk te verzadigen zijn.
• Uitstel naar een Latere Specificatie: Een twee-fasen-overeenkomst waarbij de eerste fase restricties instelt, en een nieuw gevormde organisatie de specifieke versoepelingsvoorwaarden voor de tweede fase definieert.

Resultaten en Aanbevelingen
Op basis van de afwegingen tussen nauwkeurigheid, verifieerbaarheid, soevereiniteit en precedent, stellen de auteurs een specifieke hybride aanbeveling voor een voorbeeldscenario voor:

1. Vaste Initiële Periode: De overeenkomst moet gedurende een vaste periode van 5 jaar van kracht zijn.
2. Oprichting van een Nieuwe Organisatie: Tijdens deze periode moet een nieuwe internationale organisatie worden opgericht.
3. Specificatie van Voorwaarden: Deze organisatie krijgt de taak om de specifieke versoepelingsvoorwaarden te definiëren die gericht zijn op paraatheid voor rogue AI, catastrofaal misbruik en maatschappelijke ontwrichting.
4. Besluitvormingsmechanisme: Na 5 jaar moeten ondertekenaars het eens worden over deze voorwaarden. Als zij het niet eens kunnen worden, kunnen zij de overeenkomst met 2 jaar verlengen of beëindigen.
5. Intrekkingsclausule: Een bepaling voor individuele intrekking op basis van buitengewone gebeurtenissen (bijv. een niet-ondertekenende staat die frontier-capaciteiten verwerft) met een opzegtermijn van 4 maanden.

De auteurs betogen dat deze aanpak een balans vindt tussen de noodzaak van een definitieve veiligheidsbeoordeling (via de nieuwe organisatie) en de noodzaak om de staatsoevereiniteit te waarborgen en toekomstige consensus mogelijk te maken.

Betekenis
Het artikel stelt dat de primaire betekenis ligt in het illustreren van de overwegingen die nodig zijn om een internationale overeenkomst voor AI-beperking levensvatbaar te maken. Door de focus te verschuiven van de restricties zelf naar het "exit"-mechanisme, beogen de auteurs een kader te bieden dat de politieke frictie kan verminderen die het sluiten van dergelijke verdragen in de weg staat. Het werk suggereert dat zonder een geloofwaardig en overeengekomen pad naar versoepeling, ondertekenaars mogelijk niet bereid zullen zijn om zich te binden aan restricties die aanzienlijke economische voordelen kunnen opofferen. De auteurs presenteren dit niet als een definitieve oplossing, maar als een noodzakelijke stap in het technische bestuur van AI om het "grootste enkelvoudige risico" dat de mensheid vandaag de dag bedreigt, aan te pakken.