Scaling, Lock-In, and Proxy Compliance: A Political Economy of Responsible AI

Technische Samenvatting: Schaalbaarheid, Lock-in en Proxy-compliance

Probleemstelling
Het artikel behandelt een centraal raadsel binnen Verantwoorde AI: de aanhoudende coëxistentie van zichtbare naleving (bijv. modelkaarten, gestandaardiseerde evaluaties, documentatie) en inadequate substantiële schadebeperking. Hoewel kaders zoals de EU AI Act uitgebreide documentatieverplichtingen opleggen, suggereren terugkerende schade en verantwoordelijkheidstekorten dat organisaties er rationeel voor kunnen kiezen om te vertrouwen op "proxy-compliance": het produceren van observeerbare signalen van verantwoordelijkheid terwijl er ondergeïnvesteerd wordt in werkelijke risicoreductie. De auteurs stellen dat dit niet louter een falen van ethische kaders is, maar een structureel resultaat van institutionele parameters: specifiek, de wisselwerking tussen door leveranciers gecontroleerde bewijsvoering, de overstapkosten voor gebruikers (lock-in) en handhavingsmechanismen die rusten op verifieerbare bewijslast.

Methodologie
De auteurs ontwikkelen een sequentieel politiek-economisch spel met drie agenten: een AI-leverancier, een gebruiker (deployer) en een regulator. Het model is statisch en richt zich op een enkele leverancier, waarbij schaal en marktconcentratie als institutionele achtergrond worden behandsteld in plaats van als endogene variabelen.

• Tijdlijn:

  1. De leverancier kiest voor auditbaarheid ($t$) en substantiële mitigatie ($e$).
  2. De gebruiker observeert deze keuzes, besluit over adoptie, en kiest bij adoptie een niveau van monitoring ($m$). Adoptie brengt overstapkosten ($s$) met zich mee, wat staat voor lock-in.
  3. Schade ($h$) wordt gerealiseerd. Bewijs wordt gegenereerd met waarschijnlijkheid $p(t, m)$, die afhankelijk is van zowel auditabiliteit als monitoring.
  4. Handhaving vindt plaats indien er actiegericht bewijs is gevonden.

• Kernmechanismen:

  • Auditabiliteit ($t$): Helpt bij het voldoen aan minimale inkoopvereisten (procurement floors), maar vergroot ook de kans op detectie.
  • Mitigatie ($e$): Vermindert direct de waarschijnlijkheid van schade.
  • Lock-in ($s$): Vermindert de effectieve rechtsmiddelen van de gebruiker ($\delta_{eff}$), wat de prikkel tot monitoring verzwakt.
  • Handhaving: Rust op verifieerbare bewijslast. De leverancier wordt geconfronteerd met boetes proportioneel aan de waarschijnlijkheid van detectie ($p + \Delta$), waarbij $\Delta$ de onafhankelijke auditcapaciteit vertegenwoordigt.

• Equilibriumbegrip: De auteurs lossen een subgame-perfect evenwicht op waarbij de leverancier anticipeert op de monitoringrespons van de gebruiker. De gebruiker monitort alleen als het verwachte voordeel van rechtsmiddelen (verminderde blootstelling aan schade) opweegt tegen de kosten van monitoring, een berekening die zwaar wordt beïnvloed door overstapkosten.

Belangrijkste Bijdragen

1. Formalisering van Proxy-compliance: Het artikel definieert "proxy-compliance" als een evenwicht waarbij de leverancier voldoet aan de minimale observeerbare inkoopnorm ($t^* = \bar{t}$), maar kiest voor een mitigatieniveau ($e^*$) dat strikt lager ligt dan de sociale eerste beste optie ($e_{FB}$). Dit gebeurt wanneer hoge overstapkosten de monitoring door de gebruiker dempen, wat op zijn beurt de verwachte handhavingsblootstelling van de leverancier verlaagt, waardoor de prikkel voor substantiële mitigatie afneemt.
2. Endogene Monitoring: In tegenstelling tot modellen waarbij monitoring exogeen is, staat dit kader toe dat de leverancier anticipeert op hoe hun mitigatiekeuzes de intensiteit van de monitoring door de gebruiker beïnvloeden. Hogere mitigatie vermindert de resterende schade, wat paradoxaal genoeg de prikkel voor de gebruiker om te monitoren kan verminderen, waardoor een feedbackloop ontstaat.
3. Analyse van Beleidsinstrumenten: De auteurs leiden comparatieve statica af voor vier onderscheidende institutionele instrumenten: onafhankelijke auditrechten, portabiliteit (het verminderen van overstapkosten), incidentrapportage en uitkomstgebonden aansprakelijkheid.

Resultaten
De analyse levert een uniek interieur-evenwicht op en karakteriseert de condities voor volledige mitigatie (de hoekoplossing waarbij schade wordt geëlimineerd).

• Proposition 4.4 (Bestaan van Proxy-compliance): Bij de afwezigheid van sterke onafhankelijke detectie ($\Delta = 0$) en met voldoende hoge overstapkosten ($s$), convergeert het evenwicht naar proxy-compliance. Naarmate $s \to \infty$, daalt $m^* \to 0$, en valt $e^*$ terug naar een niveau dat uitsluitend wordt bepaald door de basislijn van de auditabiliteit, vaak ver onder het sociale optimum.
• Proposition 4.5 (Verantwoordelijkheid): Het verhogen van onafhankelijke detectie ($\Delta$) of het verlagen van overstapkosten ($s$) verhoogt de evenwichtsmitigatie. Echter, het effect van $\Delta$ wordt gedempt door de monitoringrespons (naarmate mitigatie stijgt, daalt monitoring), hoewel dit het positieve effect van $\Delta$ nooit volledig omkeert.
• Theorem 5.1 (Auditrechten): Voldoende sterke onafhankelijke auditrechten ($\Delta$) kunnen proxy-compliance elimineren en volledige mitigatie ($e^* = e_{FB}$) bereiken, ongeacht het niveau van lock-in ($s$). Dit is het krachtigste enkele instrument in het model.
• Proposition 5.2 (Portabiliteit): Het verminderen van overstapkosten verhoogt de mitigatie door de hefboomwerking en de prikkel tot monitoring van de gebruiker te herstellen.
• Proposition 5.3 (Incidentrapportage): Verplichte rapportage creëert een onafhankelijk bewijskanaal ($\mu\rho$) dat fungeert als substituut voor de door de leverancier beheerde toegang, wat mitigatie verhoogt zelfs als de auditabiliteit laag blijft.
• Proposition 5.4 (Uitkomstgebonden Aansprakelijkheid): Aansprakelijkheid die direct gekoppeld is aan de gerealiseerde schade ($\lambda_{OFO}$) verhoogt de mitigatie onafhankelijk van de detectiekans ($p(t, m)$), wat een robuuste prikkel biedt wanneer verificatie zwak is.

Betekenis en Claims
Het artikel claimt een hanteerbare institutionele verklaring te bieden voor waarom "zichtbare naleving en beperkte mitigatie als rationele keuzes naast elkaar kunnen bestaan." Het betoogt dat de kloof tussen observeerbare verantwoordelijkheidssignalen en schadebeperking niet noodzakelijkerwijs een falen van implementatie is, maar een evenwichtsuitkomst die wordt gedreven door:

1. Controle van de leverancier over bewijsvoering: Wanneer leveranciers de infrastructuur controleren voor het genereren van verifieerbaar bewijs (bijv. API-toegang, logs), kunnen zij de auditabiliteit beperken.
2. Lock-in: Hoge overstapkosten verzwakken het vermogen van de gebruiker om als disciplinerend mechanisme op te treden.
3. Bewijs-afhankelijke handhaving: Wanneer boetes afhangen van gedetecteerd bewijs in plaats van uitkomsten, hebben leveranciers een prikkel om transparantie te minimaliseren als de marginale kosten van auditabiliteit hoger zijn dan de marginale toename van de verwachte boetes.

De auteurs benadrukken dat hun model een benchmark is, en geen claim dat een enkel governance-instrument voldoende is. Ze waarschuwen dat audit-onafhankelijkheid, rapportagebereik en geloofwaardige sancties randvoorwaarden zijn om deze mechanismen te laten werken. Het artikel concludeert dat verantwoording zowel verifieerbaarheid (onafhankelijke toegang tot bewijs) als handelingsbekwaamheid (geloofwaardige rechtsmiddelen voor gebruikers) vereist, wat suggereert dat procedurele naleving (documentatie) zonder deze structurele steunpunten waarschijnlijk zal resulteren in persistente proxy-compliance.