Technische Samenvatting: Verantwoordelijk Agentic AI Vereist Expliciete Provenantie

1. Probleemstelling

De snelle proliferatie van Agentic AI—systemen die capable zijn van autonoom plannen, gebruik van hulpmiddelen en meervoudige uitvoering in real-world omgevingen—heeft de ontwikkeling van verantwoordelijkheidsstructuren ingehaald. Hoewel individuele componenten (bijv. vaardigheden, hulpmiddelen, modellen) veiligheidsaudits kunnen doorstaan, leidt hun compositie binnen een agent vaak tot emergente schade, schendingen van regelgeving en verspreide verantwoordelijkheid.

Huidige benaderingen van "betrouwbare AI" vertrouwen op component-niveau benchmarking en ex-post auditing. Deze methoden falen omdat:

• Compositional Risk: Veiligheidseigenschappen die geïsoleerd zijn geverifieerd, overleven interactie niet.
• Diffuse Accountability: Schade ontstaat uit trajecten met een lange horizon en verspreide causale ketens die door geen enkele actor van begin tot eind zijn ontworpen of gecontroleerd.
• Gebrek aan Berekenbaarheid: Verantwoordelijkheid blijft een subjectief, niet-afdwingbaar concept omdat er geen expliciet, traceerbaar record (provenantie) is dat specifieke schade koppelt aan specifieke partijen en causale bijdragen.

Het artikel betoogt dat zonder expliciete provenantie over de volledige agentic levenscyclus, verantwoordelijkheid niet berekenbaar, handelbaar of afdwingbaar kan worden gemaakt.

2. Methodologie en Formalisering

De auteurs stellen een raamwerk voor dat is gebaseerd op expliciete provenantie om verantwoordelijkheid berekenbaar te maken. Dit impliceert het formaliseren van de noodzakelijke bewijzen en structurele lagen die vereist zijn om verantwoordelijkheid toe te wijzen.

2.1 Kerndefinities

• Agentic Traject ($\tau$): Een eindige reeks omgevingsstaten en gezamenlijke agentacties.
• Causale Bijdrage ($\kappa$): Een maatstaf van de causale invloed van een partij op een schadegebeurtenis $\omega$. Het wordt gedefinieerd als het verschil in de waarschijnlijkheid dat schade optreedt met de beslissingen van de partij versus een contrafactual traject waarbij die beslissingen worden geneutraliseerd:
  $$\kappa(p, \omega, \tau) = \Pr[\omega | \tau] - \Pr[\omega | \tau_{-p}]$$
• Epistemische Positie ($\varepsilon$): Een maatstaf van wat een partij wist of redelijkerwijs had moeten voorzien, gezien hun rol en beschikbare informatie op tijdstip $t$.
• Berekenbare Verantwoordelijkheid ($\rho$): Een functie die een verantwoordelijkheidsgewicht toekent aan elke partij $p$ voor schade $\omega$, waarbij wordt voldaan aan:
  1. Proportionaliteit: $\rho \propto \kappa \cdot \mathbb{1}[\text{voorzienbaar}]$.
  2. Volledigheid: De som van individuele verantwoordelijkheden plus de resterende institutionele verantwoordelijkheid is gelijk aan 1.
  3. Niet-ontduiking: Partijen kunnen niet aan verantwoordelijkheid voor voorzienbare bijdragen ontsnappen via systeemcomplexiteit.
• Verantwoordelijkheidstensor ($R$): Een multidimensionale structuur $R \in [0, 1]^{|P| \times |\Omega| \times |D|}$ die verantwoordelijkheid codeert over partijen, schadegebeurtenissen en socio-technische dimensies (bijv. standaarden, regelgeving, professionaliteit).

2.2 Het Vier-Lagen Levenscyclus-Agenda

Om deze definities te operationaliseren, schetst het artikel een onderzoeksagenda van vier lagen:

1. L1 (Ontwerp): Het opzetten van een causaal afhankelijkheidsgrafiek ($G$) die partijen, modellen en vaardigheden voorafgaand aan implementatie vertegenwoordigt. Dit zorgt ervoor dat het systeem is ontworpen om de noodzakelijke provenantie te produceren.
2. L2 (Engineering): Implementatie van online trajectmonitoring om trajectrisico ($\Pr[\omega | e_t, \alpha_{t:T}]$) in real-time te schatten. Deze laag moet gestructureerde, op fouten afgestemde uitvoeringsrecords produceren om zowel traceerbaarheid (retrospectief) als interventiecapaciteit (prospectief) te ondersteunen.
3. L3 (Implementatie): Het vertalen van technische provenantie naar normatieve oordelen. Dit impliceert het definiëren van "verantwoordelijkheidsomhulsels", dimensiegewichten ($w_k$) en incidentresponsplannen om causale signalen te koppelen aan specifieke partijen.
4. L4 (Ervaring): Het adresseren van cumulatieve schade (bijv. erosie van autonomie, versterking van bias) die optreedt over lange horizons zonder dat er drempels van enkele stappen worden overschreden. Dit vereist monitoring op populatieniveau van keuzestelsels van gebruikers en afwijkingen in overtuigingen.

3. Belangrijkste Resultaten en Experimenten

Het artikel presenteert voorlopige experimentele validatie voor de L2 (Engineering) laag, met name gericht op de schatbaarheid van causale signalen online.

• Experimentele Opzet: De auteurs maakten gebruik van een plug-in Neuro-Symbolische (NeSy) monitoringarchitectuur die is gekoppeld aan agentic systemen. Deze architectuur converteert ruwe agenttraces naar canonieke stap-niveau representaties en scoort deze met verschillende monitors (Neurale sequentiemodellen, Eindige-Staatmachines, Transformers, GRU's) zonder de interne werking van de agent te wijzigen.
• Datasets: Experimenten werden uitgevoerd over vier benchmarks: WebArena, TAU2Bench, SkillsBench en TerminalBench.
• Maatstaf: Area Under the Precision-Recall Curve (AUPRC) werd gebruikt om te meten hoe goed monitors falende trajecten identificeren voordat schade zich manifesteert.
• Vondsten:
  • Gelernde monitors presteerden significant beter dan willekeurige baselines en zero-shot LLM-baselines.
  • Finite-State-varianten slaagden erin waarschuwinggedrag te comprimeren tot symbolische staten die leesbaar zijn voor menselijke auditors, waardoor het controleerbare bewijs wordt geboden dat vereist is voor traceerbaarheid.
  • Monitors identificeerden hoog-risico voorvoegsels vroeg genoeg om interventie te ondersteunen voordat onomkeerbare gevolgen zich ophoopten, waarmee de vereiste interventiecapaciteit werd gevalideerd.
• Casestudie: De auteurs demonstreerden hoe deze symbolische staten (bijv. "misaligneerd zoekopdracht", "omleiding naar externe zoekopdracht") kunnen worden teruggekoppeld naar specifieke partijen in de implementatieketen (bijv. ontwikkelaars van vaardigheden, platformoperators) om de Verantwoordelijkheidstensor te vullen, waardoor subjectieve schuld wordt omgezet in een berekenbare toewijzing.

4. Betekenis en Claims

Het artikel positioneert expliciete provenantie niet als een optionele verfijning, maar als een noodzakelijke voorwaarde voor verantwoord Agentic AI.

• Structurele Noodzaak: De auteurs betogen dat het huidige "vertrouwensdeficit" in AI-adoptie structureel is, niet louter technisch. Verantwoordelijkheidskloven bestaan omdat geen enkele partij de kwantificeerbare, traceerbare en interventieerbare records produceert die nodig zijn om schuld toe te wijzen wanneer schade voortkomt uit compositional gedrag.
• Verschuiving in Paradigma: Het werk verplaatst het veld van "benchmark-gedreven evaluatie" (die capaciteit beoordeelt in isolatie) naar "provenantie-gegronde verantwoordingsplicht" (die verantwoordelijkheid beoordeelt over de volledige levenscyclus).
• Handelbaarheid: Door verantwoordelijkheid te formaliseren als een berekenbare functie gebaseerd op causale bijdrage en voorzienbaarheid, claimt het artikel het concept van verantwoordelijkheid handelbaar te maken voor regelgevers, ontwikkelaars en instellingen.
• Institutioneel Vertrouwen: De auteurs betogen dat de bottleneck voor de adoptie van Agentic AI niet een gebrek aan capaciteit is, maar een gebrek aan vertrouwen. Expliciete provenantie-infrastructuur wordt gepresenteerd als het mechanisme om het institutionele vertrouwen te bouwen dat vereist is voor grootschalige delegatie van autoriteit.

Het artikel concludeert dat het dichten van de kloof tussen snelle technologische vooruitgang en verantwoordelijkheidsstructuren een gedeelde verplichting is, die duurzame samenwerking vereist tussen informatica, recht, ethiek en sociale wetenschappen om de verantwoordingsinfrastructuur te ontwerpen die Agentic AI eist.