🤖 AI

Adaptive auditing of AI systems with anytime-valid guarantees

Dit artikel introduceert een adaptief auditkader voor generatieve AI-systemen dat gebruikmaakt van Safe Anytime-Valid Inference (SAVI) en een "testen door te wedden"-benadering om statistisch rigoureuze, op elk moment geldende garanties voor modelrobuustheid te bieden met aanzienlijk minder observaties dan traditionele methoden.

Oorspronkelijke auteurs: Siyu Zhou, Patrick Vossler, Venkatesh Sivaraman, Yifan Mai, Jean Feng

Gepubliceerd 2026-05-11

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Siyu Zhou, Patrick Vossler, Venkatesh Sivaraman, Yifan Mai, Jean Feng

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een kwaliteitscontroleur bent voor een nieuwe, superintelligente robotkok. Je wilt weten of deze kok echt "robuust" is—dat wil zeggen, kan hij een perfecte maaltijd bereiden, ongeacht welke ingrediënten je op hem afvuurt, of heeft hij geheime zwaktes (zoals het verbranden van toast als het brood iets oud is)?

Het probleem is dat het controleren van elke mogelijke combinatie van ingrediënten eeuwig duurt en een fortuin kost. Dus, in plaats van alles te controleren, besluit je een slimme, adaptieve inspecteur te zijn. Je kijkt naar de eerdere fouten van de robot, gokt waar hij als volgende zou kunnen falen, en test alleen die lastige plekken.

Dit artikel introduceert een nieuwe, wiskundig rigoureuze manier om precies dat te doen zonder de regels van de statistiek te schenden. Hier is hoe het werkt, opgesplitst in eenvoudige concepten:

1. Het Probleem: "Peek" breekt de regels

In de traditionele wetenschap, als je een hypothese wilt testen, moet je van tevoren precies beslissen hoeveel tests je zult uitvoeren en welke. Als je halverwege van gedachten verandert (bijvoorbeeld: "Oh, deze test ziet er interessant uit, laten we er nog één doen!"), riskeer je jezelf voor de gek te houden door te denken dat je een probleem hebt gevonden terwijl dat niet zo is. Dit wordt "peeken" genoemd, en het verpest meestal de wiskunde.

Maar in de echte wereld moeten AI-auditors moeten peeken. Ze moeten hun tests aanpassen aan wat ze zien. De auteurs zeggen: "Oké, laten we stoppen met doen alsof we niet kunnen peeken. Laten we een nieuw regelboek bouwen dat peeken toestaat, maar de wiskunde eerlijk houdt."

2. De Oplossing: Een "Duel"-spel

De auteurs stellen voor om de audit te bekijken als een spel tussen twee spelers: Het Model (de robotkok) en De Auditor (jij, de inspecteur).

Speler 1: De claim van het Model (De "Ik ben Perfect"-hypothese)
Het model zegt: "Ik ben robuust! Ik kan elke groep ingrediënten die je op mij afvuurt aan. Er zijn geen zwakke plekken."
- Doel: Als je zelfs maar één groep vindt waar de robot faalt, win jij (je verwerpt de claim van het model).
Speler 2: De claim van de Auditor (De "Ik kan een fout vinden"-hypothese)
De auditor zegt: "Ik heb een strategie. Als ik lang genoeg blijft testen, zal ik uiteindelijk een zwakke plek vinden."
- Doel: Als je tijd of middelen opraken en nog steeds geen fout kunt vinden, win jij (je verwerpt de claim van de auditor, wat betekent dat de robot jouw specifieke audit heeft doorstaan).

De Magische Twist:
Meestal zijn deze twee claims niet perfecte tegenpolen. Maar de auteurs bewijzen dat als de Auditor slim genoeg is (asymptotisch consistent), deze twee claims perfecte spiegels van elkaar worden.

Als het Model echt perfect is, zal de Auditor uiteindelijk opgeven en zeggen: "Ik kan geen fout vinden."
Als het Model een fout heeft, zal de slimme Auditor die uiteindelijk vinden.

Dit maakt van de audit een binaire schakelaar: Of de robot is globaal robuust, of hij is het niet.

3. Het Mechanisme: "Testen door te Wedden"

Hoe houd je de wiskunde eerlijk terwijl je peekt? De auteurs gebruiken een concept genaamd "Safe Anytime-Valid Inference" (SAVI), wat ze beschrijven als "Testen door te Wedden".

Stel je voor dat je een gokker bent in een casino:

Het Huis (De Nulhypothese): Het casino beweert dat het spel eerlijk is (de robot is robuust).
De Gokker (De Auditor): Jij wedt tegen het casino. Je wedt geld dat de robot zal falen bij de volgende specifieke testcase die jij kiest.
De Regel: Als het casino eigenlijk eerlijk is (de robot is perfect), zou je nooit je geld consistent kunnen verdubbelen. Je "vermogen" (een statistische score genaamd een e-proces) zou laag moeten blijven.
De Win: Als je het wel lukt om een groot bedrag aan "vermogen" op te bouwen (je score overschrijdt een hoge drempel), bewijst dit dat het casino rigged is (de robot heeft een fout).

Vanwege de wiskunde achter "e-processen" kun je op elk moment stoppen met wedden. Als je vermogen hoog is, kun je direct stoppen en zeggen: "Ik win, de robot is kapot!" zonder je zorgen te maken dat je bedrogen hebt door te peeken.

4. De Resultaten: Sneller en Slimmer

De auteurs hebben deze methode op twee manieren getest:

Gesimuleerde Data: Ze creëerden neppe AI-scenario's met bekende fouten. Hun "wedden"-methode vond de fouten veel sneller (soms met zo weinig als 20 tests) dan traditionele methoden die vooraf geplande, rigide tests vereisten.
Real-world Medische AI: Ze testten een AI die doktersnotities leest om sociale problemen te vinden (zoals dakloosheid of mentale gezondheid). Hun methode slaagde erin vast te stellen dat de AI slecht was in bepaalde categorieën (zoals "patiëntcontacten") en stopte de audit snel zodra de fout was bevestigd.

Samenvatting

Dit artikel geeft AI-auditors een "veilige" manier om flexibel te zijn. In plaats van gedwongen te worden om vast te houden aan een rigide, vooraf geschreven script, kunnen auditors nu adaptief op zoek gaan naar zwaktes in real-time. Ze gebruiken een "wedden"-systeem dat garandeert: Als je een fout vindt, is het een echte fout. Als je er geen vindt na een rigoureus zoektocht, is het systeem waarschijnlijk robuust.

Het verandert het chaotische proces van "pogingen om een AI te breken" in een wiskundig onderbouwde game waar je kunt stoppen op het moment dat je een definitief antwoord hebt.

Technische Samenvatting: Adaptieve Audit van AI-systemen met Altijd-Geldende Garanties

Probleemstelling

De karakterisering van faalmodi in generatieve AI-systemen wordt momenteel geblokkeerd door de hoge kosten en de tijd die nodig zijn voor annotatie en evaluatie. Bijgevolg hebben praktijkmensen adaptieve testparadigma's aangenomen, waarbij testcases en steekproefomvang opportunistisch worden bepaald op basis van eerdere resultaten (bijvoorbeeld red-teaming, actief leren of verfijning met menselijke tussenkomst). Hoewel deze workflows praktisch zijn, schenden ze klassieke statistische aannames: steekproefomvang is vaak klein (10–50 gevallen) en steekproef-/stopbeslissingen worden dynamisch genomen in plaats van via vooraf vastgestelde regels.

Standaard statistische inferentie vertrouwt op vaste steekproefplannen en asymptotiek bij grote steekproeven. Toepassing hiervan op adaptieve testen verhoogt het Type I-foutpercentage (bijvoorbeeld "p-hacking" door continue blikken) en maakt het moeilijk om precies te definiëren welke hypothese wordt getoetst. Specifiek garandeert het slagen van een gerichte, adaptieve testsuite niet inherent globale robuustheid, noch staat het ontbreken van een vooraf vastgesteld steekproefplan toe om gemiddelde prestaties te toetsen. Er is een kritieke kloof in statistische kaders die rigoureuze inferentie kunnen ondersteunen onder willekeurige adaptieve steekproeven en optionele stopzetting met garanties voor eindige steekproeven.

Methodologie

De auteurs stellen een kader voor dat de audit van AI-robustheid formaliseert via twee "duelende" hypothese-toetsen en Veilige Altijd-Geldende Inferentie (SAVI) benut om statistische garanties te bieden.

1. Kader van Duelende Hypothesen
De audit wordt geformuleerd als een competitie tussen twee nulhypothese:

De Nulhypothese van het Model ( $H_{mod}^0$ ): Stelt dat het AI-systeem globaal robuust is. Formeel geldt voor alle subgroepen $S$ met prevalentie $\mu(S) \ge \epsilon$ dat de gemiddelde prestatie $V(S)$ boven een doeldrempel $q$ ligt. Verwerping impliceert het bestaan van een faalmodus.
De Nulhypothese van de Auditor ( $H_{aud}^0$ ): Stelt dat de auditor beschikt over een specifieke adaptieve strategie $\pi$ die uiteindelijk een faalmodus zal blootleggen. Formeel bestaat er een tijdstip $\tau$ zodanig dat voor alle $t \ge \tau$ de geselecteerde subgroepen $S_t^\pi$ prestaties onder $q$ hebben. Verwerping impliceert dat de audit geslaagd is (de auditor faalde een faalmodus te vinden).

Het artikel bewijst dat onder een asymptotisch consistente auditstrategie (een die convergeert naar het vinden van faalmodi als die bestaan), deze twee nulhypothese asymptotische complementen zijn. Het verwerpen van de nulhypothese van de auditor certificeert dus effectief globale robuustheid.

2. Toetsen door Wedden en E-processen
Om willekeurige adaptieve steekproeven en optionele stopzetting te hanteren, maken de auteurs gebruik van het kader "Toetsen door Wedden". De auditor wordt geconceptualiseerd als het plaatsen van weddenschappen tegen subgroepen die worden verdacht van faalmodi. Onder de nulhypothese zou geen enkele weddenschapsstrategie winst moeten opleveren.

E-processen: De weddenschapsvermogen wordt bijgehouden via e-processen, die de sequentiële analogen zijn van p-waarden. Een e-proces $(E_t)$ waarborgt dat voor elke stoptijd $\tau$ , $E_P[E_\tau] \le 1$ onder de nulhypothese.
Type I-foutbeheersing: Door Ville's ongelijkheid garandeert het stoppen wanneer een e-proces $1/\alpha$ overschrijdt een Type I-foutpercentage van maximaal $\alpha$ , ongeacht de adaptieve steekproefstrategie of het moment waarop de test wordt gestopt.

3. Specifieke Teststatistieken
De auteurs stellen verschillende e-procesformuleringen voor beide hypothesen voor:

Kansverhouding (LR): Gebaseerd op de Sequential Probability Ratio Test (SPRT), waarbij de waarschijnlijkheid van de waargenomen score onder de faalhypothese ( $q-\delta$ ) wordt vergeleken met die onder de nulhypothese ( $q$ ).
Universele Inferentie (UI): Een adaptieve versie waarbij de alternatieve waarschijnlijkheid wordt geschat uit data (bijvoorbeeld $\hat{\gamma}_{t-1}$ ) in plaats van vast te staan, waardoor de "weddenschap" wordt geoptimaliseerd op basis van geleerde faalpercentages.
Shiryaev-Roberts (SR) Uitbreidingen: Deze integreren changepoint-detectie om scenario's te hanteren waarbij de auditor een "leerperiode" vereist voordat een faalmodus wordt geïdentificeerd. Ze sommeren kansverhoudingen beginnend bij alle mogelijke changepoints, wat hedging biedt tegen onbekende vertragingen.

4. Dubbele Toetsprocedure
Het kader voert gelijktijdige e-processen uit voor $H_{mod}^0$ en $H_{aud}^0$ . De procedure stopt zodra een van de twee statistieken $1/\alpha$ overschrijdt. Aangezien de twee nulhypothese onderling uitsluitend zijn (onder de aanname van een geldige auditstrategie), is een Bonferroni-correctie niet nodig; de Family-Wise Error Rate (FWER) wordt gecontroleerd op niveau $\alpha$ .

Belangrijkste Bijdragen

Formalisatie van Duelende Hypothesen: Het artikel vestigt een theoretisch kader waarin AI-audit wordt gedefinieerd als het toetsen van de nulhypothese van het model tegen de nulhypothese van de auditor. Het bewijst dat met een krachtige (asymptotisch consistente) auditor deze toetsen asymptotische complementen zijn, wat toelaat tot binaire conclusies over globale robuustheid.
Dubbele Veilige Altijd-Geldende Procedures: De auteurs introduceren dubbele e-processen die stopgrenzen bieden voor zowel faalmodusdetectie als auditcertificering. Deze procedures handhaven Type I-foutbeheersing voor eindige steekproeven onder willekeurige adaptieve steekproeven en optionele stopzetting.
Empirische Validatie: De studie toont aan dat adaptieve testen gekoppeld aan e-processen rigoureuze conclusies aanzienlijk sneller bereikt dan vooraf vastgestelde methoden. In sommige gevallen worden statistisch geldige conclusies bereikt met slechts 20 observaties.

Experimentele Resultaten

Het kader werd geëvalueerd in twee settings:

Semi-synthetische Data (GPQA-dataset): De auteurs simuleerden AI-pijplijnen met variërende mate van prestatiedegradatie over subgroepen.
- Prestaties: De SR-LR-UI-procedure (Shiryaev-Roberts met Universele Inferentie) behaalde de hoogste power bij het detecteren van faalmodi.
- Vergelijking: Adaptieve strategieën presteerden aanzienlijk beter dan vooraf vastgestelde strategieën (Gestratificeerd en Vooraf-geleerd). Vooraf vastgestelde strategieën faalden vaak om faalmodi te detecteren, wat leidde tot een hoog percentage verwerping van de nulhypothese van de auditor (slagen van de audit) zelfs wanneer het systeem niet robuust was – een risico op misinterpretatie.
- Orakel: Een orakel-auditor (die de ware faalmodus kent) kon de nulhypothese verwerpen in 15–25 observaties, wat suggereert dat slimmere auditstrategieën de steekproefvereisten verder kunnen verlagen.
- Foutbeheersing: Wanneer geen faalmodus bestond, slaagden alle methoden correct de audit (verwierpen $H_{aud}^0$ ) zonder vals positieve fouten te detecteren, wat Type I-foutbeheersing bevestigt.
Real-world LLM-pijplijn (Klinische Notities): Het kader werd toegepast op een LLM die Sociale Determinanten van Gezondheid (SDoH) uit klinische notities extraherde.
- Adaptief Leren: De adaptieve auditor leerde succesvol om categorieën met lage nauwkeurigheid te oversamplen (Spearman $\rho = -0.84$ tussen steekproeffrequentie en nauwkeurigheid).
- Efficiëntie: SR-LR-UI vereiste de minste steekproeven om de nulhypothese van het model te verwerpen (het detecteren dat het systeem niet robuust was) in vergelijking met andere methoden, met uitzondering van het Orakel.

Betekenis en Claims

Het artikel claimt het eerste statistische kader te bieden dat formaliseert wat getoetst kan worden en hoe dit getoetst moet worden onder zeer flexibele, gerichte AI-auditregimes. Door de statistische validiteit te ontkoppelen van de steekproefstrategie, stelt het praktijkmensen in staat adaptieve, hulpbronnen-efficiënte testen (bijvoorbeeld red-teaming, actief leren) te gebruiken zonder statistische rigueur op te offeren.

De auteurs benadrukken dat hoewel het kader willekeurige strategieën ondersteunt, de geldigheid van de conclusie "globale robuustheid" afhangt van de kracht van de auditor. Als de auditor zwak is (bijvoorbeeld slechte red-teaming), kan de audit slagen zelfs als faalmodi bestaan, wat echoot van zorgen dat slecht ontworpen audits "security theater" kunnen zijn. Het werk beoogt praktijkmensen in staat te stellen AI-robustheid zelfverzekerd te beoordelen door een algemeen statistisch fundament te bieden voor gebruikelijke, moderne auditpraktijken.