🤖 machine learning

TopoMap: A Feature-based Semantic Discriminator of the Topographical Regions in the Test Input Space

Dit paper introduceert TopoMap, een modelonafhankelijke, black-box aanpak die de invoerruimte van deep learning-systemen in betekenisvolle topografische regio's indeelt door clustering en dimensiereductie te combineren met een DNN-gebaseerde evaluatie, wat resulteert in een 35% tot 61% betere selectie van mutation-killing inputs vergeleken met willekeurige selectie.

Oorspronkelijke auteurs: Gianmarco De Vita, Nargiz Humbatova, Paolo Tonella

Gepubliceerd 2026-03-25

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Gianmarco De Vita, Nargiz Humbatova, Paolo Tonella

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Wat is het probleem?

Stel je voor dat je een zeer slimme, maar soms dwaze robot hebt (een Deep Learning-model). Deze robot is getraind om taken uit te voeren, zoals het herkennen van handgeschreven cijfers of het sturen van een zelfrijdende auto.

Het probleem is: hoe vind je de specifieke situaties waarin deze robot faalt?
Huidige methoden zijn vaak als een blindemannetje dat in het donker rondloopt en stoot tegen muren. Ze gooien willekeurig kleine veranderingen (perturbaties) op de invoer van de robot tot hij een fout maakt. Het nadeel? Ze vinden misschien één soort fout, maar missen volledig andere soorten fouten die zich in een heel ander deel van de "wereld" van de robot bevinden. Het is alsof je alleen naar de voordeur kijkt en de achterdeur volledig negeert.

Wat is TOPOMAP?

TOPOMAP is een nieuwe, slimme manier om de wereld van de robot te kaarten. In plaats van blind te zoeken, maken we een gedetailleerde topografische kaart (een landkaart) van alle mogelijke invoeren die de robot kan krijgen.

Stel je voor dat je een enorme berg hebt met duizenden verschillende rotsen (de invoeren).

Huidige methode: Je gooit willekeurig een steen omhoog en hoopt dat je een gat vindt.
TOPOMAP: Je beklimt de berg en tekent een kaart met valleien, pieken en plateaus. Je groepeert de rotsen op basis van hun vorm en kleur (hun kenmerken). Zo zie je: "Ah, in deze vallei zitten allemaal ronde rotsen, en in die vallei allemaal scherpe rotsen."

Hoe werkt het? (De drie stappen)

De Vertaler (Dimensiereductie):
De invoer voor een robot is vaak enorm complex (bijvoorbeeld een foto met miljoenen pixels). Dat is te veel voor ons om te begrijpen. TOPOMAP gebruikt een "vertaler" (een wiskundige techniek) om die complexe foto's om te zetten in een compacte samenvatting. Het is alsof je een hele film reduceert tot één zin die de sfeer perfect beschrijft. Dit maakt het makkelijker om patronen te zien.
De Groepering (Clustering):
Nu we de samenvattingen hebben, groepeert TOPOMAP ze. Het zet alle "ronde rotsen" bij elkaar en alle "scherpe rotsen" bij elkaar. Het resultaat is een kaart met verschillende gebieden (clusters).
- Belangrijk: Dit gebeurt zonder dat we de interne werking van de robot hoeven te kennen. Het is een "black-box" methode. We kijken alleen naar wat er in gaat, niet naar wat er in de robot gebeurt.
De Kwaliteitscontrole (De Slimme Robot):
Hoe weten we of onze kaart goed is? Zijn de groepen echt verschillend?
Hiervoor gebruiken we een andere, simpele robot (een Deep Neural Network). Deze robot krijgt de opdracht: "Kun jij deze twee groepen van elkaar onderscheiden?"
- Als de robot het makkelijk heeft om te zeggen "Groep A is anders dan Groep B", dan is de kaart goed.
- Als de robot in de war raakt, dan zijn de groepen te veel op elkaar en moeten we de kaart aanpassen.
- Dit is alsof je een proefpersoon vraagt of twee zakken fruit duidelijk verschillend zijn. Als de proefpersoon het makkelijk kan doen, is je indeling goed.

Waarom is dit zo cool? (De resultaten)

De auteurs hebben dit getest met verschillende robots (van cijfers herkennen tot stemmen herkennen) en hebben "mutaties" in de robots gestopt (kunstmatige fouten, alsof je de robot een beetje gek maakt).

Het resultaat: TOPOMAP vond de fouten veel sneller dan willekeurig zoeken.
- Bij fouten die makkelijk te vinden waren, was TOPOMAP 35% effectiever.
- Bij de moeilijkste fouten (die bijna niemand vindt) was TOPOMAP 61% effectiever.
De analogie: Stel je voor dat je een naald in een hooiberg zoekt. Willekeurig zoeken is als een hooivork in het donker steken. TOPOMAP is als iemand die zegt: "De naald zit altijd in de hoek waar het hooi het meest goudgeel is." Je hoeft dan maar een klein stukje te zoeken.

Vergelijking met anderen

Er was al een methode genaamd DeepHyperion, maar die vereist dat een mens eerst heel veel tijd stopt in het bedenken van welke kenmerken belangrijk zijn (bijv. "kijk naar de helderheid van de foto").
TOPOMAP doet dit volledig automatisch. De computer bedenkt zelf welke kenmerken belangrijk zijn. Het is alsof je een auto hebt die zelf de route plaatst, in plaats van dat je zelf een kaart moet tekenen voordat je vertrekt.

Conclusie

TOPOMAP is een krachtig gereedschap voor software-testers. Het helpt ontwikkelaars om systematisch te begrijpen waar hun AI-modellen kwetsbaar zijn. In plaats van blind te gokken, kunnen ze nu gericht testen in de specifieke "valleien" van de input-kaart waar de fouten zich waarschijnlijk bevinden.

Kort samengevat: TOPOMAP tekent een landkaart van de wereld van een AI, zodat we precies weten waar we moeten zoeken om de zwakke plekken van die AI te vinden, zonder dat we hoeven te raden of handmatig kenmerken moeten definiëren.

Probleemstelling

Het testen van systemen op basis van Deep Learning (DL) blijft een grote uitdaging. Hoewel het relatief eenvoudig is om invoer te vinden die een DL-model laat falen, is het groeperen van deze invoer op basis van de specifieke kenmerken die het falen veroorzaken, nog nauwelijks onderzocht. Bestaande benaderingen voor DL-testen introduceren vaak kleine verstoringen (perturbations) die zich richten op specifieke regio's van de invoerruimte, waardoor andere regio's met potentieel verschillende fouten worden genegeerd. Bovendien vereisen methoden zoals DeepHyperion aanzienlijke menselijke inspanning voor het definiëren en kwantificeren van functies, wat de schaalbaarheid beperkt. Er is behoefte aan een geautomatiseerde, model-onafhankelijke (model-agnostic) methode om de topografische structuur van de invoerruimte in kaart te brengen en zo gebieden met hoge foutkans te identificeren.

Methodologie: TOPOMAP

TOPOMAP is een black-box, model-agnostische aanpak die een expliciete topografische kaart van de invoerfunctieruimte creëert. De methode bestaat uit de volgende kernstappen:

Dimensiereductie (Embedding):
- De hoge-dimensionaliteit van de invoerdata (bijv. pixels, audio, tekst) wordt omgezet naar een lagere-dimensionaliteit vectorrepresentatie (embedding).
- Er worden diverse embedding-technieken geëvalueerd, waaronder PCA, UMAP, t-SNE, SVD, LDA, Isomap, Autoencoders en Word2vec.
- Het doel is om de essentiële semantische of structurele kenmerken te behouden die het gedrag van het DL-model bepalen, terwijl de complexiteit wordt verminderd.
Clustering:
- De geëmbedde invoer wordt gegroepeerd in clusters (regio's) op basis van gelijkenis in de functieruimte, met behulp van onbewaakte leeralgoritmen zoals K-means, BIRCH, HDBSCAN en Affinity Propagation.
- Een cruciaal aspect is de automatische selectie van het optimale aantal clusters ( $k$ ). Hiervoor wordt een iteratief proces gebruikt waarbij $k$ wordt verhoogd totdat de nauwkeurigheid van het voorspellen van de oorspronkelijke labels (via meerderheidsstemming binnen clusters) verzadigt.
Automatische Evaluatie en Selectie:
- Om de beste combinatie van embedding en clustering te bepalen, wordt een Deep Neural Network (DNN) gebruikt als proxy voor een menselijke beoordelaar.
- De DNN wordt getraind om de "pseudo-labels" (cluster-ID's) van de clustering te voorspellen.
- Een nieuwe metriek, Weighted Pairwise Accuracy, wordt geïntroduceerd. Deze meet de nauwkeurigheid van de DNN bij het onderscheiden van elk paar clusters. De configuratie met de hoogste minimale paar-nauwkeurigheid (d.w.z. de moeilijkste te onderscheiden paren) wordt geselecteerd als de optimale topografische kaart. Dit garandeert dat alle regio's goed van elkaar te onderscheiden zijn.
Validatie via Mutatie-analyse:
- De effectiviteit van de gegenereerde kaart wordt getest door te kijken of clusters invoer bevatten die "mutanten" (gefaulte DL-modellen) kunnen "doden" (d.w.z. een significant verschil in prestatie tonen ten opzichte van het originele model).
- De auteurs gebruiken de DeepCrime tool om 24 verschillende mutatie-operatoren toe te passen.

Belangrijkste Bijdragen

Geautomatiseerde Topografische Mapping: TOPOMAP creëert volledig automatisch een semantische kaart van de invoerruimte zonder menselijke feature-engineering of toegang tot de interne werking van het DL-model (black-box).
Nieuwe Evaluatiemetriek: De introductie van Weighted Pairwise Accuracy in combinatie met een DNN-evaluator om de kwaliteit van clustering te beoordelen op basis van discriminatievermogen, in plaats van traditionele statistische metrics zoals Silhouette-score.
Model-Agnosticiteit: De gegenereerde kaart is onafhankelijk van het specifieke DL-model en kan worden hergebruikt voor verschillende architecturen die op dezelfde data werken.
Empirische Validatie: Uitgebreide evaluatie op zes verschillende datasets (inclusief classificatie en regressie) en een menselijke studie om de interpretatie van de clusters te verifiëren.

Resultaten

De experimenten zijn uitgevoerd op datasets zoals MNIST, CIFAR-10, Speaker Recognition, Reuters, Udacity (stuurhoeken) en Unity Eyes (blikrichting).

Discriminatievermogen (RQ1): De DNN-gebaseerde evaluatie selecteert voor elke dataset een unieke, optimale configuratie van embedding en clustering. Traditionele metrics (Silhouette, DB-index) bleken niet consistent te correleren met de beste configuratie.
Menselijke Interpretatie (RQ2): Er is een sterke correlatie gevonden tussen de nauwkeurigheid van de DNN en menselijke beoordelaars bij het onderscheiden van clusters, vooral bij eenvoudige datasets (zoals MNIST). Bij complexere datasets (zoals CIFAR-10) wijken de criteria soms af, maar de algemene trend ondersteunt de interpretatie van de kaart.
Foutdetectie (RQ3):
- TOPOMAP is zeer effectief in het lokaliseren van "dodelijke" invoer. Gemiddeld is slechts 9% van de invoerdata nodig om mutanten te doden.
- In vergelijking met willekeurige selectie presteert TOPOMAP 35% beter voor dodende mutanten en 61% beter voor niet-dodende mutanten (die door de volledige testset niet werden gedood).
- De "killing aggregations" (groepen clusters) bevatten een hoge dichtheid van bijdragende invoer (gemiddeld 51,7%).
Vergelijking met DeepHyperion (RQ4): TOPOMAP produceert kaarten die semantisch verschillend en complementair zijn aan die van DeepHyperion. TOPOMAP presteert beter in het vinden van dodelijke invoer en vereist geen handmatige feature-definitie.
Generalisatie (RQ5): Er zijn regio's in de kaart die consistent bijdragen aan het detecteren van fouten, ongeacht het type mutatieoperatie. Dit suggereert dat deze regio's fundamentele kwetsbaarheden in het model vertegenwoordigen.

Betekenis en Conclusie

TOPOMAP biedt een doorbraak in het testen van Deep Learning-systemen door de invoerruimte te segmenteren in betekenisvolle, semantisch onderscheidende regio's. De aanpak stelt ontwikkelaars in staat om testinspanningen te richten op specifieke gebieden van de kaart die bekend staan om het veroorzaken van misdragingen, in plaats van willekeurig te testen.

De belangrijkste implicaties zijn:

Efficiëntie: Significante reductie in het aantal benodigde testcases om fouten te vinden.
Automatisering: Verwijdering van de noodzaak voor menselijke feature-engineering, wat de schaalbaarheid voor diverse domeinen (beeld, tekst, audio, regressie) vergroot.
Interpreteerbaarheid: De gegenereerde kaarten bieden inzicht in waarom een model faalt, door fouten te koppelen aan specifieke clusters van invoerkenmerken.

De auteurs concluderen dat TOPOMAP een eerste stap is naar een gestructureerde, model-onafhankelijke segmentatie van de invoerruimte, wat de basis legt voor het genereren van gerichte testgevallen voor toekomstige DL-systemen.