🤖 AI

Update Opacity: Epistemic Accessibility and Governance Under AI System Change

Dit artikel behandelt de governance-uitdaging van "update-opaciteit" in AI-systemen door een kader voor te stellen dat de EU AI Act en Machine Learning Operations combineert om drempelgebaseerde openbaarmaking van materieel relevante wijzigingen te implementeren, waardoor de epistemische toegankelijkheid voor gebruikers wordt gewaarborgd zonder informatieoverbelasting te veroorzaken.

Oorspronkelijke auteurs: Andrea Ferrario, Joshua Hatherley

Gepubliceerd 2026-06-02

📖 7 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Andrea Ferrario, Joshua Hatherley

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Kernprobleem: De "Stille Verschuiving"

Stel je voor dat je een zeer slimme, behulpzame GPS-app hebt. Je gebruikt deze al jaren. Je weet precies hoe de app zich gedraagt: als je "Koffietentje" typt, stuurt hij je meestal naar de tent aan de Main Street, omdat daar de minste drukte is. Je hebt een "onderbuikgevoel" of een kalibratie opgebouwd over hoe de app werkt.

Stel je nu voor dat de ontwikkelaars van de app de code vannacht stilletjes hebben bijgewerkt om de app sneller te maken. Ze vertellen je niets. De volgende ochtend typ je "Koffietentje" en plotseling stuurt de app je naar een andere zaak in een andere straat. Het is nog steeds een geldige koffietent en de app werkt nog steeds "correct" volgens de eigen interne standaarden. Maar jij bent in de war. Je weet niet waarom het antwoord veranderd is. Je weet niet of je de nieuwe route wel moet vertrouwen.

Het artikel noemt dit Update Opacity (Update-ondoorzichtigheid). Het is niet zo dat de AI kapot is; het is dat de AI is veranderd op een manier die jij, de gebruiker, niet kunt zien of begrijpen. Dit is gevaarlijk in situaties met hoge inzet (zoals een arts die AI gebruikt om een patiënt te diagnosticeren of een bank die het gebruikt om leningen goed te keuren), omdat gebruikers vertrouwen op hun "onderbuikgevoel" over hoe het systeem werkt. Als het systeem stilletjes verandert, wordt dat onderbuikgevoel onjuist, wat leidt tot slechte beslissingen.

De Twee Huidige Oplossingen (en waarom ze niet genoeg zijn)

De auteurs kijken naar twee bestaande manieren waarop we proberen AI-wijzigingen te beheren, maar ze zeggen dat geen van beide alleen werkt:

De "Regelboek"-aanpak (de EU AI Act):
- De Analogie: Denk hierbij aan een strikte bouwvoorschrift. Als je een huis wilt bouwen, moet je specifieke regels volgen. Als je besluit een dragende muur te slopen of een hele nieuwe verdieping toe te voegen, moet je een nieuwe vergunning aanvragen en een inspecteur laten controleren.
- Het Probleem: Dit regelboek is geweldig voor grote, gevaarlijke veranderingen. Maar wat als de bouwer gewoon de kleur van de verf heeft aangepast of een lichtknopje heeft verplaatst? Het regelboek geeft daar niet om. Maar voor de mensen die in het huis wonen, kunnen die kleine veranderingen nog steeds irritant of verwarrend zijn. Het regelboek is te "grofmazig" (te groot) om de kleine, verwarrende verschuivingen op te vangen die binnen het systeem plaatsvinden.
De "Dashboard van de Ingenieur"-aanpak (MLOps):
- De Analogie: Dit is als het dashboard in een racewagen. Het houdt elke kleine trilling, temperatuurverandering en brandstoffluctuatie bij. De ingenieurs kunnen alles zien wat er in de motor gebeurt.
- Het Probleem: Als je dat dashboard aan de bestuurder (de gebruiker) zou laten zien, zou hij overweldigd raken. Hij hoeft niet te weten dat "Brandstofinjector #3 met 0,04% is verschoven." Hij moet alleen weten of de auto veilig is om te besturen. MLOps houdt de veranderingen bij, maar het vertelt ons niet welke veranderingen er werkelijk toe doen voor de persoon die het systeem gebruikt.

De Oplossing van de Auteurs: Het "Betrouwbaarheidplateau"

De auteurs stellen een nieuwe manier voor om dit te beheruken door het Regelboek en het Dashboard te combineren. Ze suggereren dat we de AI niet langer moeten zien als één enkel "model", maar als een Betrouwbaar Systeem dat verschillende "niveaus" van veiligheid heeft.

Dit is hun driestappenplan:

Stap 1: De "Veilige Zone" (Het Plateau)

Stel je voor dat de prestaties van de AI een vlak plateau zijn. Zolang de AI op dit plateau blijft, wordt deze als "veilig" en "conform" beschouwd.

Grote Veranderingen: Als de AI van de klif valt (bijv. het stopt met werken of overtreedt de wet), is dat een crisis. Je stopt alles en vraagt een nieuwe vergunning aan (zoals de EU AI Act vereist).
Kleine Veranderingen: De meeste updates vinden plaats op het plateau. De AI wordt iets beter of iets anders, maar is nog steeds veilig.

Stap 2: Het "Betrouwbaarheidsprofiel"

In plaats van alleen te controleren of de AI "juist" is, houden we een specifieke lijst bij van zaken die belangrijk zijn voor de gebruiker. Laten we dit het Betrouwbaarheidsprofiel noemen.

Voor een medische AI kan dit zijn: "Hoe nauwkeurig is het voor oudere patiënten?" "Hoe snel is het?" "Verwart het geen vergelijkbare ziekten?"
We vertalen dit naar een score. Zolang de score binnen een bepaalde marge blijft, bevindt de AI zich op het "Veilige Plateau".

Stap 3: De "Materialiteitsdrempel" (De Alarmbel)

Dit is het belangrijkste deel. Zelfs als de AI op het "Veilige Plateau" blijft, kan het nog steeds ver afdriften van waar het begon.

De Analogie: Stel je voor dat je over een vlak veld loopt. Je begint bij punt A. Als je 1,5 meter naar rechts loopt, ben je nog steeds op het veld. Als je 150 meter naar rechts loopt, ben je nog steeds op het veld, maar je bent nu in een heel ander deel van het veld.
De auteurs zeggen: We hebben een Drempel nodig. Als de AI zo veel verandert dat het een bepaalde afstand van het startpunt overschrijdt (zelfs als het nog steeds "veilig" is), moeten we een bel laten rinkelen.
Deze bel vertelt de gebruiker: "Hé, het systeem is genoeg veranderd zodat je oude 'onderbuikgevoel' misschien niet meer werkt. Dit is wat er veranderd is."

Hoe dit in de praktijk werkt (Het Medische Voorbeeld)

Het artikel gebruikt een Stroke Triage AI (een systeem dat artsen helpt beslissen of een patiënt naar een groot ziekenhuis of een lokaal ziekenhuis moet) om te laten zien hoe dit werkt.

De Situatie: De AI wordt bijgewerkt om nieuwe soorten CT-scanners aan te kunnen. De update is "veilig" (het overtreedt de regels niet). De algemene nauwkeurigheid wordt zelfs iets beter.
De Verborgen Verandering: Echter, de update zorgt ervoor dat de AI iets vaker ouderen naar het grote ziekenhuis stuurt, zelfs als hun symptomen twijfelachtig zijn.
De Oude Manier: De arts blijft de AI gebruiken en vertrouwt op zijn oude gewoontes. De arts kan de subtiele verschuiving missen, wat leidt tot een patiënt die naar de verkeerde plek wordt gestuurd.
De Nieuwe Manier (Het Raamwerk van de Auteurs):
1. Het systeem houdt de verandering bij.
2. Het ziet dat de verandering voor "ouderen" de Drempel heeft overschreden.
3. De Openbaarmaking: In plaats van een saai technisch rapport, verschijnt er een korte, duidelijke melding op het scherm van de arts: "Model bijgewerkt: Aanbevelingen voor patiënten ouder dan 75 kunnen nu afwijken. Tik voor details."
4. De arts ziet de waarschuwing, past zijn denkwijze aan en maakt een veilige beslissing.

De Kernboodschap

Het artikel betoogt dat we gebruikers niet alles over elke update moeten vertellen (dat zou te veel informatie zijn). We kunnen ze ook niet niets vertellen (dat zou gevaarlijk zijn).

We hebben een slimme filter nodig. We moeten de "Betrouwbaarheid" van de AI meten, kijken hoeveel het afwijkt van het startpunt, en pas de alarmbel laten rinkelen wanneer de verandering groot genoeg is om de gebruiker te verwarren. Dit houdt de AI veilig, legaal en begrijpelijk, zelfs terwijl deze constant evolueert.

Technische Samenvatting: Actualisering van Opaciteit, Epistemische Toegankelijkheid en Governance bij Veranderingen in AI-systemen

1. Probleemdefinitie: Update-opaciteit

Het artikel behandelt update-opaciteit (update-ondoorzichtigheid), een fenomeen dat optreedt wanneer deskundige gebruikers, bij inspectie, niet kunnen verklaren waarom een huidige versie van een AI-systeem voor een gegeven input ( $x$ ) een andere output ( $y$ ) produceert dan een vorige versie ( $z \neq y$ ). In tegenstelling tot statische model-opaciteit (die betrekking heeft op de interne mechanica van een enkel model), is update-opaciteit diachroon en comparatief; het ontstaat uit de temporele evolutie van gedeplyoide systemen.

Het kernprobleem wordt geformuleerd als een falen van epistemische toegankelijkheid. In domeinen met een hoog risico (bijv. de gezondheidszorg, de financiële sector) vertrouwen gebruikers op geaccumuleerde kalibratie—geleerde verwachtingen over systeemgedrag, betrouwbaarheid en foutmodi—om AI-outputs te integreren in hun besluitvorming. Wanneer een systeem onderhevig is aan model-beïnvloedende updates (her-training, her-kalibratie, revisies van de pipeline, updates van afhankelijkheden) zonder transparante communicatie, raakt deze kalibratie aan de zijde van de gebruiker ontstemd met het werkelijke gedrag van het systeem. Deze ontstemming ondermijnt gerechtvaardigde betrouwbaarheid, verhoogt de cognitieve belasting en verzwakt de verantwoording.

De auteurs stellen dat update-opaciteit een governance-probleem is dat wordt gekenmerkt door een spanning tussen drie onbevredigende extremen:

Totale Transparantie: Het openbaar maken van elke update is onhaalbaar en contraproductief, wat leidt tot informatie-overload en verstoring van de workflow.
Stilte: Het niet communiceren van iets staat toe dat stille gedragsveranderingen de gerechtvaardigde betrouwbaarheid uithollen.
Het Bevriezen van Updates: Het staken van alle updates is onhoudbaar in niet-stationaire omgevingen, wat leidt tot achteruitgang in prestaties.

De centrale uitdaging is bepalen welke veranderingen materieel relevant zijn, wanneer ze gemeld moeten worden, en aan wie, om epistemische toegankelijkheid te behouden zonder de gebruikers te overweldigen.

2. Methodologie: Het samenvoegen van twee Governance-culturen

De voorgestelde oplossing integreert twee complementaire governance-culturen: de EU AI Act (AIA) en Machine Learning Operations (MLOps).

De EU AI Act (Normatieve Perimeter)

De AIA biedt het normatieve kader voor het definiëren van de "perimeter" van relevante verandering.

Substantiële Wijziging: De AIA maakt onderscheid tussen veranderingen die een nieuwe conformiteitsbeoordeling triggeren (substantiële wijzigingen, bijv. veranderingen in de beoogde functie of naleving van eisen voor hoog-risico systemen) en veranderingen die dat niet doen.
Beperking: Hoewel de AIA identificeert wanneer een verandering juridisch significant is (identiteitsbrekend), is deze te grofmazig voor het epistemische probleem. Veel toegestane veranderingen (binnen de "conformiteitsenvelop") kunnen nog steeds de betrouwbaarheid van de gebruiker en de verwachtingen binnen de workflow materieel veranderen zonder een juridische herbeoordeling te triggeren.

MLOps (Operationele Machinerie)

MLOps biedt de operationele instrumenten voor het volgen en beheren van verandering.

Drift Detectie & Monitoring: MLOps maakt gebruik van continue telemetrie, versiebeheer en drift-detectie (het vergelijken van operationele data met baselines) om interventies te triggeren (her-training, rollback).
Beperking: MLOps is gericht op engineering-controle en technische metrieken (bijv. nauwkeurigheid, drift-indicatoren). Het bepaalt niet inherent welke gemonitorde veranderingen epistemisch materieel zijn voor specifieke belanghebbenden (bijv. clinici versus auditors) of hoe deze gecommuniceerd moeten worden om gekalibreerde betrouwbaarheid te waarborgen.

Het Voorgestelde Kader: Vertrouwenswaardigheids-gebaseerde Governance

De auteurs stellen een kader voor dat deze culturen samenvoegt om update-opaciteit te besturen via drie specifieke stappen:

Stap 1: Tolerabele versus Niet-tolerabele Veranderingen

Het kader maakt onderscheid tussen:

Niet-tolerabele veranderingen: Veranderingen die buiten de beoordeelde vertrouwenswaardigheidsenvelop vallen (en een AIA-herbeoordeling triggeren).
Tolerabele veranderingen: Veranderingen die binnen de envelop blijven maar potentieel de betrouwbaarheid van de gebruiker beïnvloeden. Het kader richt zich op het besturen van deze tweede categorie.

Stap 2: Vertrouwenswaardigheidsprofielen en -niveaus

De auteurs introduceren een formeel model voor de systeemtoestand:

Vertrouwenswaardigheidsprofiel ( $P_A$ ): Een verzameling vooraf bepaalde, kwantificeerbare dimensies ( $d_i$ ) en meetprotocollen ( $m_i$ ) die ex ante zijn gedefinieerd (bijv. nauwkeurigheid, robuustheid, stabiliteit van subgroepen, integriteit van de datapipeline).
Vertrouwenswaardigheidsniveau Functie ( $T_A$ ): Een functie die tijd-geïndexeerde meetvectoren ( $m_A(t)$ $m_{A} (t)$ ) koppelt aan discrete vertrouwenswaardigheidsniveaus ( $1, \dots, K$ $1, \dots, K$ ).
- $T_A(t) = L_A(m_A(t))$ , waarbij $L_A$ een niveau-toewijzingsfunctie is.
- Stapsgewijze Koppeling: De auteurs pleiten voor stapsgewijze (plateau) koppelingen in plaats van vloeiende curven. Dit voorkomt "governance-spanning" veroorzaakt door kleine fluctuaties nabij overgangspunten, waardoor ervoor wordt gezorgd dat alleen significante verschuivingen in het regime van het systeem een escalatie triggeren.

Stap 3: Drempelwaarde-gebaseerde Openbaarmaking

Om opaciteit binnen een enkel vertrouwenswaardigheidsniveau (binnen een plateau) aan te pakken, introduceert het kader een dissimilariteitsfunctie ( $\Delta_A$ ) en een context-relatieve drempelwaarde ( $\epsilon_A$ ).

Mechanisme: Voor een systeem $A$ dat op $t_0$ is ingezet met een baseline profiel $m_A(t_0)$ , triggert een update op tijdstip $t_i$ een openbaarmaking als:
$\Delta_A(m_A(t_0), m_A(t_i)) > \epsilon_A$
Epistemische Materialiteit: De drempelwaarde $\epsilon_A$ wordt strikt binnen het toegestane plateau ingesteld. Het fungeert als een filter voor "epistemische materialiteit": zelfs als het systeem binnen hetzelfde regulatoire niveau blijft, wordt het alsnog als een melding vereist beschouwd als de cumulatieve verandering $\epsilon_A$ overschrijdt, omdat dit de gekalibreerde betrouwbaarheid kan verstoren.
Implementatie: $\Delta_A$ kan worden geïnstantieerd met behulp van standaard MLOps-monitoring samenvattingen (bijv. $L_1$ -afstand tussen meetvectoren), waarbij eventueel gewogen wordt om specifieke degradaties zwaarder te bestraffen.

3. Belangrijkste Bijdragen

Epistemische Interpretatie van Update-opaciteit: Het herformuleren van update-opaciteit, niet louter als een technisch gebrek aan verklaarbaarheid, maar als een diachroon falen van epistemische toegankelijkheid waarbij materieel relevante veranderingen er niet in slagen toegankelijk te blijven voor gebruikers onder hun praktische beperkingen.
Integratie van AIA en MLOps: Het voorstellen van een hybride governance-model waarbij de AIA de omvang van de relevante verandering (de envelop) definieert en MLOps de mechanismen biedt voor het volgen en triggeren van openbaarmaking binnen deze envelop.
Vertrouwenswaardigheidsprofielen en -niveaus: Het formaliseren van de systeemtoestand via discrete vertrouwenswaardigheidsniveaus om onderscheid te maken tussen tolerabele achtergrondruis en governance-relevante gebeurtenissen, wat de broosheid van continue monitoring voorkomt.
Drempelwaarde-gebaseerde Openbaarmakingsregel: Het introduceren van een proportionaliteitscriterium waarbij openbaarmaking niet wordt getriggerd door de loutere aanwezigheid van een update, maar door de omvang van de verandering ten opzichte van een baseline, specifiek wanneer dit de gekalibreerde betrouwbaarheid bedreigt.
Rolgevoelig Ontwerp van Openbaarmaking: Betogen dat openbaarmaking gecontextualiseerd moet zijn. Frontlijngebruikers (bijv. clinici) hebben behoefte aan beknopte, actiegerichte informatie ingebed in de workflow, terwijl auditors behoefte hebben aan volledige traceerbaarheid. Het kader ondersteunt een gelaagde benadering van openbaarmaking.

4. Resultaten en Illustratie

Het artikel presenteert geen empirische experimentele resultaten, maar biedt een conceptuele demonstratie via een medisch AI-voorbeeld: Stroke Triage Decision Support (Besluitvormingsondersteuning bij beroerte-triage).

Scenario: Een ingezet systeem voor beroerte-triage ondergaat een modelupdate vanwege covariate drift (wijzigingen in de firmware van CT-scanners). De update verbetert de globale AUROC en blijft binnen het hoogste vertrouwenswaardigheidsniveau (geen AIA-herbeoordeling getriggerd).
De Opaciteit: Ondanks de globale stabiliteit, verandert de update de feature-gewichten, wat de transfer-aanbevelingen voor specifieke subgroepen (bijv. oudere patiënten) wijzigt en de alert-patronen verandert. Clinici, die vertrouwen op hun eerdere kalibratie, zijn zich niet bewust van deze verschuivingen.
Toepassing van het Kader:
- De dissimilariteitsfunctie detecteert dat de cumulatieve verandering in het gedrag van subgroepen de drempelwaarde $\epsilon_A$ overschrijdt.
- Openbaarmaking Getriggerd: In plaats van een generieke changelog, toont een in de workflow ingebedde banner de melding: "Model bijgewerkt [datum]. Aanbevelingen voor transfer bij patiënten ouder dan 75 kunnen afwijken."
- Verantwoording: Dit creëert een gesloten epistemische lus. Als een patiënt na de update onterecht wordt onder-getriageerd, kan het systeem aantonen dat de aanbieder de verandering heeft gecommuniceerd en de gebruiker hiervan op de hoogte was, waardoor de "accountability lacuna" (verantwoordelijkheidsleemte) wordt gesloten die anders zou bestaan als de update stilzwijgend was geweest.

5. Betekenis en Claims

Het artikel beweert dat het besturen van AI-systeemupdates niet enkel een kwestie is van technisch onderhoud of juridische naleving, maar een fundamentele vereiste voor het behouden van de voorwaarden waaronder veranderende systemen begrijpelijk blijven.

Bescheiden Omvang: De auteurs beweren niet alle transparantieproblemen op te lossen of een universeel algoritme voor alle AI-systemen te bieden. Ze stellen expliciet dat keuzes met betrekking tot profieldimensies, dissimilariteitsfuncties en drempelwaarden contextgevoelig zijn en per geval gerechtvaardigd moeten worden.
Praktisch Nut: Het kader biedt een principieel, operationeel alternatief voor de "alles-of-niets"-benadering van transparantie. Het stelt aanbieders in staat om transparant te blijven door waarschuwingen te geven wanneer veranderingen binnen de envelop materieel relevant worden voor de gebruikers en de betrokken partijen.
Toekomstig Werk: De auteurs identificeren de noodzaak voor toekomstig onderzoek om de domeinspecifieke keuzes voor profieldimensies en dissimilariteitsfuncties te verfijnen, en om empirisch te testen hoe verschillende interfaces voor openbaarmaking de gekalibreerde toepassing in omgevingen met hoge risico's beïnvloeden.

Samenvattend betoogt het artikel dat update-opaciteit een governance-falen is van de epistemische toegankelijkheid. Door de normatieve grenzen van de EU AI Act te combineren met de operationele monitoring van MLOps, en door een drempelwaarde-gebaseerde openbaaringsregel toe te passen, is het mogelijk om de evolutie van systemen te beheren terwijl de gekalibreerde betrouwbaarheid behouden blijft die nodig is voor veilige en verantwoorde inzet van AI.