Testing Neural Networks via Bayesian-Guided Exploration of Decision Landscapes

Technische Samenvatting: Testen van Neurale Netwerken via Bayesiaanse Gestuurde Exploratie van Beslissingslandschappen

Probleemstelling
Naarmate Deep Neural Networks (DNN's) worden ingezet in veiligheidskritische domeinen, is testen essentieel om de betrouwbaarheid te evalueren. Bestaande testmethoden kampen echter met aanzienlijke beperkingen. Black-box benaderingen vertrouwen op willekeurige of zoekgebaseerde mutaties zonder interne sturing, wat vaak een excessief aantal queries vereist om fouten te vinden. White-box methoden geven doorgaans prioriteit aan het maximaliseren van neuron-dekking; echter garandeert een hoge dekking niet de ontdekking van beslissingskritieke fouten, aangezien veel geactiveerde neuronen irrelevant kunnen zijn voor de uiteindelijke voorspelling van het model. Bov�elijke strategieën hebben vaak moeite om efficiëntie te balanceren met diversiteit onder beperkte mutatiebudgetten, waarbij ze vaak middelen verspillen aan beslissingsirrelevante regio's of convergeren op vergelijkbare foutmodi. De kernuitdaging is het systematisch verkennen van "beslissingskritieke regio's"—gebieden waar kleine perturbaties leiden tot significante veranderingen in beslissingsgrenzen—terwijl de nabijheid tot de oorspronkelijke datadistributie en semantiek behouden blijft.

Methodologie: BAYESWARP
De auteurs stellen BAYESWARP voor, een white-box testframework dat deze beperkingen aanpakt via drie complementaire componenten:

1. Lokalisatie van Beslissingskritieke Regio's: In plaats van de gehele inputruimte te muteren, identificeert BAYESWARP eerst regio's die zeer invloedrijk zijn voor modelbeslissingen met behulp van saliency-gebaseerde interpreteerbaarheidstechnieken (bijv. Grad-CAM, Integrated Gradients, SmoothGrad). Het verwerkt de resulterende saliency-kaarten door:

   • Drempelwaarden toe te passen om de meest saillante pixels te behouden.
   • 8-verbonden componenten te extraheren en kleine fragmenten te verwijderen.
   • Bounding boxes te fuseren op basis van Intersection-over-Union (IoU) en middelpuntafstand om fragmentatie te verminderen.
   • Een subset van gefuseerde boxen te selecteren via een greedystrategie gebaseerd op saliency-massa, beperkt door een vooraf gedefinieerd dekkingsbudget ($\rho$). Dit transformeert pixelniveau-attributie naar een hanteerbare, gelokaliseerde mutatieruimte.

2. Diversiteit-Georiënteerd Testdoel: Het framework definieert een doelstelling die adaptief een balans vindt tussen het onderdrukken van de oorspronkelijke klasse-betrouwbaarheid en het bevorderen van de betrouwbaarheid van een geselecteerde doelklasse.

   • Adaptieve Weging: Een dynamische weging $\lambda(x)$ verschuift de focus van de doelstelling van het destabiliseren van de oorspronkelijke beslissing naar het induceren van voorspellingsdivergentie naarmate de betrouwbaarheid van de doelklasse stijgt.
   • Target Class Scheduling: Het systeem selecteert iteratief onverkende doelklassen met de hoogste initiële betrouwbaarheid, waarbij een vast mutatiebudget per klasse wordt toegewezen om te voorkomen dat er te veel wordt gefocust op één enkele foutrichting.

3. Bayesiaans Gestuurde Mutatie: Om de gelokaliseerde mutatieruimte efficiënt te doorzoeken onder een vast budget, gebruikt BAYESWARP Bayesiaanse Optimalisatie (BO) met een Sparse Variational Gaussian Process (SVGP) surrogaatmodel.

   • Mutaties worden geparametriseerd op een grove ruimtelijke grid die de kritieke regio dekt, wat de dimensionaliteit vermindert.
   • De SVGP-surrogaat modelleert de doelstelling, waarbij voorspellende gemiddelden en onzekerheidsschattingen worden geleverd.
   • Een Upper Confidence Bound (UCB) acquisitiefunctie stuurt de selectie van mutatiestappen aan, waarbij een balans wordt gevonden tussen de exploitatie van veelbelovende richtingen en de exploratie van onzekere gebieden.
   • Het proces bevat restricties om ervoor te zorgen dat gegenereerde testgevallen binnen een begrensde range van de oorspronkelijke datadistributie blijven en incorporeert stochastische ruisinjectie om voortijdige convergentie te voorkomen.

Belangrijkste Bijdragen

• Benadering: De introductie van BAYESWARP, die lokalisatie van beslissingskritieke regio's, adaptieve diversiteit-georiënteerde doelstellingen en schaalbare SVGP-gebaseerde Bayesiaanse optimalisatie integreert.
• Tool: Een open-source, geautomatiseerde implementatie van het testframework.
• Evaluatie: Een uitgebreide evaluatie over drie datasets (MNIST, CIFAR-10, ImageNet) en zes neurale netwerkmodellen (LeNet, VGG, ResNet), die verbeteringen laat zien ten opzichte van state-of-the-art baselines (ADAPT, NSGen, SUNTest).

Resultaten
Experimentele resultaten geven aan dat onder een vast mutatiebudget (10.000 mutaties per seed), BAYESWARP bestaande methoden overtreft op verschillende sleutelmetrieken:

• Foutontdekking: Het bereikt een hoger aantal fouten (NoF) en een hogere Failure-inducing Seed Rate (FSR) bij de meeste modellen en datasets.
• Efficiëntie: Het vereist minder Tijd per Fout (TPF) vergeleken met baselines, wat wijst op een effectiever gebruik van het mutatiebudget.
• Diversiteit: Het onthult een breder spectrum aan foutmodi (hogere Diversity of Failures, DoF), waarbij meerdere concurrerende beslissingsrichtingen worden verkend in plaats van één dominante richting.
• Kwaliteit: Gegenereerde testgevallen vertonen een lagere Fréchet Inception Distance (FID) en een hogere Semantic Consistency Score (SCS), wat bevestigt dat ze distributioneel en semantisch dicht bij de oorspronkelijke data blijven.
• Interne Dekking: Ondanks dat er niet expliciet voor dekking wordt geoptimaliseerd, bereikt BAYESWARP een hogere Top-k Neuron Coverage (TKNC) en Critical Neuron Coverage (CNC) dan baselines, wat suggereert dat het effectief relevante beslissingsinterne staten activeert.
• Modelverbetering: Het finetunen van modellen met door BAYESWARP gegenereerde foutgevallen leidt tot grotere nauwkeurigheidsverbeteringen vergeleken met finetuning met gevallen van andere testtechnieken.

Betekenis en Claims
Het artikel claimt dat BAYESWARP de waarde aantoont van het verschuiven van DNN-testparadigma's van globale of dekking-gestuurde mutatie naar beslissingskritische, diversiteit-georiënteerde exploratie. Door te focussen op regio's die daadwerkelijk de beslissingen van modellen beïnvloeden en door gebruik te maken van onzekerheid-bewuste optimalisatie om deze te navigeren, onthult het framework diverse zwakheden van modellen zonder de datafideliteit op te offeren. De auteurs stellen dat deze benadering intrinsieke modelinstabiliteiten blootlegt die informatiever zijn voor het hertrainen en verbeteren van modelrobuustheid dan fouten gegenereerd door willekeurige of puur dekking-gestuurde methoden. Het werk onderscheidt zich van adversariële aanvallen door de nadruk te leggen op het ontdekken van diverse, distributie-conforme foutmodi voor testen en verbetering, in plaats van het optimaliseren van minimale perturbaties onder dreigingsmodellen.