🤖 machine learning

Certification of Machine Learning Models via Directional Sharpness

Dit artikel introduceert "directionele scherpte", een computationeel efficiënte en betrouwbare metriek die bestaande maten overtreft in het certificeren van de generalisatie van machine learning-modellen, zelfs wanneer trainingsprocessen worden verstoord of de gegevensprivacy moet worden gewaarborgd via zero-knowledge bewijzen.

Oorspronkelijke auteurs: Gefei Tan, Adria Gascon, Sarah Meiklejohn, Mariana Raykova

Gepubliceerd 2026-06-25

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Gefei Tan, Adria Gascon, Sarah Meiklejohn, Mariana Raykova

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een chef-kok inhuurt om een enorm banket te bereiden. Je wilt er zeker van zijn dat het eten niet alleen goed smaakt voor de paar mensen op wie je de smaaktest hebt uitgevoerd, maar voor iedereen die het later eet. In de wereld van machine learning wordt dit generalisatie genoemd: het vermogen van een computermodel om goed te presteren op nieuwe, ongeziene data.

Het probleem is: hoe controleer je of de chef echt talent heeft, of dat hij gewoon de specifieke gerechten die je hem gaf voor de smaaktest heeft uit het hoofd geleerd?

Dit artikel introduceert een nieuwe manier om de "kookvaardigheden" van een model te controleren, genaamd Directional Sharpness. Hier is de uitleg met eenvoudige analogieën.

Het Probleem: De "Platte" Valstrik

In machine learning kijken we vaak naar het "loss landscape" van een model. Stel je dit voor als een heuvelachtig terrein waar de bodem van een vallei een perfect model vertegenwoordigt.

Het Doel: We willen dat het model in een brede, platte vallei zit. Als de vallei breed is, is het model stabiel. Zelfs als je het een klein duwtje geeft (zoals een nieuwe stuk data), blijft het in de vallei en blijft het goed functioneren.
De Valstrik: Soms zit een model in een smalle, scherpe piek die er van een afstandje uitziet als een vallei. Het ziet er perfect uit op de data waarop het is getraind, maar als je het zelfs maar een klein beetje een duwtje geeft, valt het van de piek af en stort het in. Dit is "overfitting" of een "backdoor" (een verborgen gebrek).

De Oude Methode: Eén Enkele Snapshot Maken

Voorheen probeerden experts te meten hoe "plat" een vallei was door één enkele, statische foto te maken. Ze bekeken het model, gaven het één klein duwtje en keken hoeveel de fout toenam.

De Fout: Dit is als het bekijken van een bergtop vanuit één hoek. Je kunt de fout in gaan dat de top eigenlijk een dunne naald is die zal instorten als je vanuit een andere hoek kijkt. Als een model aan het "valsspelen" is (bijv. het heeft een verborgen backdoor of heeft de data uit het hoofd geleerd), kan een enkele snapshot er nog steeds plat uitzien, waardoor de inspecteur wordt misleid.

De Nieuwe Oplossing: Directional Sharpness

De auteurs stellen Directional Sharpness voor. In plaats van één foto te maken, stel je je voor dat je een bal door de vallei rolt terwijl je de grond lichtjes laat schudden.

De Dynamische Test: Je bekijkt het model niet slechts één keer. Je past een reeks kleine, willekeurige duwtjes toe (als een milde aardbeving) en kijkt hoe het model in de loop van de tijd reageert.
Het Stabiele Model: Als het model echt goed is (in een brede, platte vallei), zal het een beetje wiebelen maar kalm blijven. De "sharpness"-score blijft laag en stabiel.
Het Valsspelende Model: Als het model op een smalle piek zit of verborgen gebreken heeft, zullen die kleine duwtjes het uiteindelijk uit evenwicht brengen. De "sharpness"-score zal beginnen te pieken en wild te fluctueren.

De Analogie:

Oude Methode: Controleren of een koorddanser in balans is door hem één seconde lang stil te laten staan.
Nieuwe Methode (Directional Sharpness): De koorddanser vragen om over het koord te lopen terwijl een windmachine willekeurig tegen hem blaast. Als hij wankelt en valt, weet je dat hij er niet klaar voor is, zelfs als hij die ene seconde perfect stil kon staan.

Waarom Dit Belangrijk Is

Het artikel beweert dat deze nieuwe methode om drie redenen beter is:

Het is een Betere Voorspeller: Het correleert veel sterker met de vraag of een model daadwerkelijk zal werken op nieuwe data dan de oude "snapshot"-methoden. Het vangt modellen die er goed uitzien maar eigenlijk fragiel zijn.
Het Ontmaskert Valsspelers: Het is erg goed in het opsporen van modellen die zijn "vergiftigd" (getraind met slechte data) of die "backdoors" hebben (verborgen triggers). Deze modellen zien er vaak perfect uit tijdens een standaard test, maar falen bij de "schudtest".
Het is Snel en Privé:
- Snelheid: Het is veel sneller te berekenen dan de oude methoden (tot wel 4 keer sneller dan alleen de testnauwkeurigheid controleren in sommige gevallen).
- Privacy: Je kunt een cryptografische truc gebruiken, een "Zero-Knowledge Proof", om te bewijzen dat het model deze test heeft doorstaan zonder dat de controleur ooit de geheime trainingsdata te zien krijgt. Het is also[t] bewijzen dat je een winnend lot hebt zonder het lot aan iemand te laten zien.

De Kernboodschap

Het artikel betoogt dat om een AI echt te vertrouwen, we niet alleen niet moeten vragen: "Heb je het juiste antwoord gegeven op de oefentoets?" We moeten vragen: "Kun je in balans blijven wanneer de grond begint te schudden?"

Directional Sharpness is de tool die de grond laat schudden en ons vertelt of het model echt stabiel is of alleen maar doet alsof. Dit helpt auditors en bedrijven om ervoor te zorgen dat AI-modellen veilig, betrouwbaar zijn en geen nare verrassingen verbergen.

Technische Samenvatting: Certificering van Machine Learning-modellen via Directional Sharpness

Probleemstelling

Modelcertificering beoogt zekerheid te bieden met betrekking tot de betrouwbaarheid en kwaliteit van machine learning-modellen, specifiek hun vermogen om te generaliseren naar ongeziene data. Het direct meten van generalisatie is onmogelijk omdat dit afhankelijk is van onbekende datadistributies. Bestaande proxies, zoals testnauwkeurigheid, zijn onbetrouwbaar omdat ze misleidend kunnen zijn door fouten in de dataset, overfitting of distributieverschuivingen. Bovendien zijn theoretische generalisatiegrenzen vaak te ruim of triviaal voor moderne overgeparameteriseerde netwerken.

Hoewel "sharpness" (de gevoeligheid van de loss voor parameterperturbaties) als een veelbelovende empirische proxy voor generalisatie naar voren is gekomen, worden bestaande sharpness-metrieken in certificeringscontexten geconfronteerd met twee kritieke barrières:

Betrouwbaarheid bij Afwijkingen: Huidige metrieken worden primair gevalideerd op eerlijk getrainde modellen. Het is onduidelijk of ze slechte generalisatie kunnen detecteren wanneer de training afwijkt van voorgeschreven procedures (bijv. door backdoors, overfitting of labelruis).
Computationele Efficiëntie: Bestaande metrieken zijn computationeel duur, wat ze onpraktisch maakt voor modelauditing (waarbij een verifieerder toegang heeft tot de trainingsdata) en onhaalbaar voor modelcertificering (waarbij een verifieerder een cryptografisch bewijs moet controleren zonder toegang tot de trainingsdata).

Methodologie: Directional Sharpness

De auteurs stellen Directional Sharpness voor, een metriek die ontworpen is om de dynamische stabiliteit van een model te meten in plaats van de statische geometische eigenschappen.

Kernconcept

In tegen wordt van statische sharpness, die de loss-landschap evalueert op één enkel punt (vaak gemiddeld over de volledige dataset), beoordeelt directional sharpness hoe een model zich gedraagt onder een sequentie van continue, stochastische perturbaties. De intuïtie is dat een model in een werkelijk vlakke, brede basin stabiel zal blijven onder deze perturbaties, terwijl een model in een nauwe, instabiele pocket (of met incoherente geometrie) in scherpe regio's zal worden geduwd, wat detecteerbare fluctuaties vertoont.

Algoritme

De berekening van Directional Sharpness (Algoritme 1) omvat:

Initialisatie: Begin met een getraind model $w_0$ .
Probing Trajectory: Pas $T$ $T$ stappen van Sharpness-Aware Minimization (SAM)-stijl updates toe. In elke stap $t$ $t$ :
- Sample een mini-batch $\xi_t$ uit de trainingsdata.
- Bereken de per-stap sharpness $s_t$ (bijv. ASAM sharpness) op de mini-batch.
- Update de modelparameters $w_{t+1}$ met de SAM-updateoperator.
Fluctuatie-statistiek: Registreer de sequentie van sharpness-waarden $\{s_0, \dots, s_{T-1}\}$ . De uiteindelijke metriek is een fluctuatiestatistiek (specifiek de standaarddeviatie van de log-ratio van de gekwadrateerde sharpness tot de loss) van deze sequentie.

Theoretische Onderbouwing

Het paper biedt een theoretische analyse die directional sharpness koppelt aan SAM-stabiliteit:

Stabiliteitsgrens: Als een model zich in een SAM-stabiel minimum bevindt, is de verwachte gekwadrateerde sharpness onder continue perturbatie uniform begrensd door een constante factor van de initiële training loss.
Detectie van Instabiliteit: Omgekeerd, als de verwachte gekwadrateerde sharpness exponentieel groeit, bevindt het model zich in een onstabiele regio.
Gradiënt Coherentie: De auteurs formaliseren een klasse van trainingsafwijkingen gekenmerkt door lage gradiënt coherentie (waarbij per-voorbeeld gradiënten elkaar in het full-batch gemiddelde opheffen maar individueel groot blijven). Ze bewijzen dat, terwijl de statische full-batch sharpness laag kan lijken (waardoor de afwijking wordt gemaskeerd), de root-mean-square (RMS) mini-batch sharpness hoog blijft. Directional sharpness, door mini-batch signalen over de tijd te aggregeren, versterkt dit gat, waardoor het gevoelig is voor dergelijke afwijkingen.

Belangrijkste Bijdragen

Nieuwe Metriek (Directional Sharpness): Een generalisatiemetriek die verschuift van statische geometrische meting naar dynamische stabiliteitsmeting.
Superieure Correlatie: Empirisch bewijs dat directional sharpness significant sterker correleert met de generalisatiekloof dan bestaande statische metrieken (zoals Worst-Case Sharpness, ASAM).
Robuustheid tegen Afwijkingen: Gedemonstreerde capaciteit om modellen met slechte generalisatie te identificeren die veroorzaakt zijn door trainingsafwijkingen (labelruis, overfitting op spurious features, backdoors), waarbij testnauwkeurigheid en statische sharpness falen.
Efficiëntie voor Certificering:
- Auditing: De berekening is tot $4\times$ sneller dan het berekenen van testnauwkeurigheid en orden van grootte sneller dan statische sharpness.
- Certificering (Zero-Knowledge): De auteurs demonstreren hoe men Zero-Knowledge Proofs (ZKPs) kan generen voor directional sharpness. Ze tonen aan dat het bewijzen van directional sharpness tot 80.000 $\times$ sneller is dan het bewijzen van het volledige trainingsproces (zkPoT) voor modellen zoals VGG-11.

Experimentele Resultaten

Correlatie met Generalisatie

In een grootschalig experiment waarbij 1.152 modellen getraind werden op CIFAR-10/100 met variërende architecturen en hyperparameters:

Directional sharpness bereikte een Spearman correlatie ( $\rho$ ) van 0.902 met de generalisatiekloof.
Dit presteerde significant beter dan de beste statische baselines, zoals ASAM met full-batch ( $\rho \approx 0.64$ ) en Worst-Case Sharpness ( $\rho \approx 0.60$ ).

Betrouwbaarheid onder Trainingsafwijkingen

De auteurs voerden onderscheidexperimenten uit waarbij benigne modellen werden gekoppeld aan defecte modellen die bijna identieke waargenomen testnauwkeurigheid hadden. Directional sharpness slaagde erin de modellen in alle scenario's te scheiden, terwijl statische metrieken en testnauwkeurigheid faalden:

Noisy Labels: Benigne/Defect ratio van 0.177 (Directional) vs. 0.991 (Static).
Overfitting op Spurious Features: Ratio van 0.084 (Directional) vs. 0.963 (Static).
Backdoors: Ratio van 0.061 (Directional) vs. 0.587 (Static).
Quantization en Kleine Testsets: Directional sharpness bood consistent sterkere scheidingsmarges.

Efficiëntie en ZKP

Runtime: Het berekenen van directional sharpness op een kleine batch duurde 0.21 seconden, vergeleken met 0.92 seconden voor testnauwkeurigheid en 210.32 seconden voor statische Worst-Case Sharpness.
ZKP Kosten: Voor een VGG-11 model getraind over 150 epochs, duurde een ZKP van directional sharpness 88.87 minuten, terwijl een ZKP van het volledige trainingsproces (LATE-SAM baseline) naar schatting 118.671 uur zou duren (ongeveer 13.5 jaar).

Betekenis en Claims

Het paper claimt dat directional sharpness een efficiënte en robuuste metriek biedt voor het evalueren van modelgeneralisatie. De betekenis ligt in het mogelijk maken van praktische modelcertificering in twee settings:

Auditing: Waarbij een vertrouwde verifieerder met toegang tot de trainingsdata efficiënt slechte generalisatie en trainingsafwijkingen kan detecteren.
Certificering: Waarbij een externe verifieerder de kwaliteit van een model cryptografisch kan verifiëren via ZKPs zonder toegang te hebben tot de trainingsdata, waarmee de prohibitieve computationele kosten van bestaande trainingsbewijzen worden overwonnen.

De auteurs stellen dat door het meten van dynamische stabiliteit, directional sharpness een betrouwbaarder signaal van modelkwaliteit biedt dan statische geometrische eigenschappen, met name in adversariële of niet-ideale trainingsscenario's. Ze concluderen dat deze metriek een geschikt ingrediënt is voor het mitigeren van aanvallen in adversariële machine learning en het verbeteren van de transparantie in ML-systemen.