🤖 machine learning

Beyond Numerical Features: CNN-Driven Algorithm Selection via Contour Plots for Continuous Black-Box Optimization

Dit artikel stelt een nieuwe per-instantie algoritme-selectiemethode voor continue black-box optimalisatie voor die een CNN gebruikt om contourplotvisualisaties van geproefde landschappen te analyseren, en toont aan dat deze op afbeeldingen gebaseerde aanpak beter presteert dan de single best solver en concurrerend blijft met traditionele op kenmerken gebaseerde methoden zonder te vertrouwen op handgemaakte beschrijvers.

Oorspronkelijke auteurs: Yiliang Yuan, Xiang Shi, Mustafa Misir

Gepubliceerd 2026-05-21

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Yiliang Yuan, Xiang Shi, Mustafa Misir

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een meesterkok bent die probeert de perfecte taart te bakken. Je hebt een enorme voorraadkast vol met verschillende recepten (algoritmen), maar je weet niet welke het beste werkt voor de specifieke ingrediënten die je vandaag voor je hebt. Sommige recepten werken geweldig met bloem en eieren, terwijl andere beter zijn voor chocolade en noten.

In de wereld van de informatica heet dit Continue Black-Box Optimalisatie. Je hebt een "black box" (een complex probleem) waarbij je alleen het resultaat kunt proeven (een score krijgt), maar het recept erin niet kunt zien. Het doel is om de beste "oplosser" (recept) te kiezen voor het specifieke probleem waar je mee te maken hebt.

De Oude Manier: Een Lijst met Getallen Lezen

Traditioneel probeerden computers dit op te lossen door een paar steekproeven van het probleem te nemen en deze om te zetten in een lange lijst met getallen (zoals "het is hobbelig", "het is gebogen", "het is spits"). Dit worden numerieke kenmerken genoemd. Het is alsof je een berglandschap probeert te beschrijven door alleen een lijst te lezen met de gemiddelde hoogte, helling en temperatuur. Het geeft je data, maar mist het grote plaatje.

De Nieuwe Manier: Kijken naar een Kaart

Dit artikel stelt een eenvoudigere, visuele aanpak voor. In plaats van het probleem om te zetten in een lijst met getallen, zetten de auteurs het om in een afbeelding.

Stel je het probleem voor als een heuvelachtig landschap. De auteurs nemen een "sonde" (een set met metingen) en tekenen een hoogtelijnenkaart van dat landschap, net als een wandelkaart die de toppen en dalen toont.

De Invoer: Ze genereren deze kaarten met behulp van een rooster van 300x300 punten.
Het Brein: Ze voeren deze afbeeldingen in bij een CNN (Convolutional Neural Network). Je kunt een CNN zien als een superslimme robot die heel goed is in het bekijken van afbeeldingen en patronen te herkennen, net zoals je hersenen een gezicht herkennen in een menigte.

Hoe Het Werkt

De Opstelling: Ze hebben een portefeuille van 12 verschillende "oplosser"-algoritmen (de 12 recepten).
Het Uitzicht: Voor elk nieuw probleem genereren ze een paar verschillende "weergaven" (hoogtelijnenkaarten) van het landschap.
- Voor 2D-problemen: Ze zien de hele kaart.
- Voor complexe 3D+-problemen: Ze nemen een "snede" van de hoogdimensionale ruimte om een 2D-afbeelding te maken, alsof je een brood in plakken snijdt om de textuur erin te zien.
De Voorspelling: De CNN kijkt naar deze afbeeldingen en voorspelt: "Als ik Recept A gebruik, krijg ik een score van X. Als ik Recept B gebruik, krijg ik een score van Y."
De Keuze: Het systeem kiest het recept dat voorspeld wordt de beste score te geven.

Wat Ze Vonden

De onderzoekers testten dit op een standaardset van moeilijke wiskundeproblemen (genaamd BBOB).

Het Verslaan van de "Eén-Maat-Voor-Alles": Ze vergeleken hun visuele systeem met de "Single Best Solver" (SBS) — wat gewoon het kiezen is van het ene beste recept dat gemiddeld voor alles werkt. Hun visuele systeem versloeg de SBS, waarbij het veel vaker het juiste gereedschap voor de specifieke klus vond.
Concurreren met de Experts: Ze vergeleken het ook met de oude "lijst met getallen"-methoden (ELA en Deep-ELA). Hun op afbeeldingen gebaseerde methode deed het net zo goed, en soms zelfs beter, vooral bij problemen van gemiddelde moeilijkheidsgraad.
Resolutie Maakt Uit: Ze ontdekten dat het kijken naar een afbeelding met hogere resolutie (300x300 pixels) de robot hielp betere keuzes te maken dan een wazige, lage-resolutie afbeelding (64x64 pixels), hoewel het iets meer rekenkracht kostte om te verwerken.

De Grenzen (De "Kleine Lettertjes")

De auteurs zijn eerlijk over waar deze methode beperkingen heeft:

Het is een beetje duur om de kaart te maken: Het genereren van deze hoogwaardige afbeeldingen vereist veel aanvankelijke "proeverij" (berekeningen). Ze geven toe dat dit geweldig is voor offline planning (waar je tijd hebt om je voor te bereiden), maar misschien te traag is voor real-time, split-second beslissingen.
Het "Snede"-probleem: Voor zeer complexe, hoogdimensionale problemen kan een enkele 2D-snede van de kaart enkele verborgen details missen, wat de reden is waarom het niet won bij de absoluut moeilijkste problemen.
Specifiek voor deze test: Ze testten dit op een specifieke set problemen en een specifieke lijst van 12 oplossers. Het is een bewijs dat "afbeeldingen werken", maar het is nog niet getest op elk mogelijk type probleem in de wereld.

De Conclusie

Dit artikel laat zien dat je niet altijd een complex probleem in een saaie lijst met getallen hoeft om te zetten om het op te lossen. Soms zorgt het het probleem aan een computer tonen als een afbeelding ervoor dat het de structuur van het landschap kan "zien" en het perfecte gereedschap voor de klus kan kiezen, vaak met betere resultaten dan de oude, getal-heavy methoden.

Technische Samenvatting: CNN-gedreven Algoritmekeuze via Contourplots

Probleemstelling
Continue black-box optimalisatie (BBO) omvat het minimaliseren of maximaliseren van objectief functies waarbij gradiëntinformatie niet beschikbaar is, en uitsluitend wordt vertrouwd op functiewaarderingen. Hoewel afgeleide-vrije oplosmethoden (bijv. varianten van CMA-ES) goed presteren, dicteert het No Free Lunch-theorema dat geen enkel algoritme universeel beter presteert dan andere over alle probleeminstanties heen. Bijgevolg streeft Geautomatiseerde Algoritmekeuze (AAS) ernaar de meest geschikte oplosmethode uit een vast portfolio te selecteren voor een specifieke probleeminstantie.

Bestaande AAS-benaderingen in continue BBO vertrouwen voornamelijk op Exploratory Landscape Analysis (ELA), die numerieke featurevectoren (bijv. kromming, separabiliteit) construeert uit geprobeerde waarderingen, of op Deep-ELA, die gebruikmaakt van geleerde embeddings van voorgetrainde transformers. De auteurs betogen dat deze numerieke beschrijvers mogelijk falen in het vastleggen van de ruimtelijke structuur die zichtbaar is in gevisualiseerde landschappen. Hoewel CNN-gebaseerde AAS is onderzocht in discrete domeinen met directe instantie-encoderingen, is de toepassing ervan op continue BBO—waarbij representaties via probing moeten worden geconstrueerd—onderbelicht.

Methodologie
Het artikel stelt een representatie-gedreven AAS-benadering voor die geprobeerde landschappen behandelt als afbeeldingen in plaats van numerieke vectoren.

Instantierepresentatie (Contourplots):
- Single-Objective (SOO): Elke probleeminstantie wordt weergegeven als een 2D-grijswaarden contourkaart door de objectief functie te evalueren op een vast $300 \times 300$ rooster. Voor dimensies $d > 2$ wordt een 2D-slice gemaakt door willekeurig twee coördinaten te selecteren om een deelruimte te spannen, terwijl de anderen op nul worden gefixeerd (gebruikmakend van het symmetrische domein van BBOB).
- Multi-Objective (MOO): Voor bi-objectieve problemen ( $d=2, m=2$ ) wordt een sub-contour bemonsteringsstrategie gebruikt. Vijf as-gealigneerde rechthoekige vensters worden bemonsterd binnen het domein voor elke objectief, waardoor meerdere weergaven worden gegenereerd om de afhankelijkheid van een enkele globale weergave te verminderen.
- Invoervarianten: Om de input-trouw te bestuderen, worden plots herschaald naar resoluties $r \in \{64, 128, 300\}$ .
CNN-architecturen:
Twee modelvarianten worden voorgesteld om de relatieve prestaties (Verwachte Runtijd voor SOO, relatieve Hypervolume voor MOO) van algoritmen in een portfolio te voorspellen:
- Gecombineerd Model: De vijf instantie-specifieke weergaven (of venstermonsters) worden gestapeld langs de kanaal-dimensie en direct ingevoerd in een CNN-encoder.
- Gescheiden Model: Elke weergave wordt individueel verwerkt door een encoder met gedeelde gewichten, en de resulterende featurevectoren worden geconcentreerd voordat ze worden doorgegeven aan een regressie-head.
- SOO-architectuur: Een CNN-encoder met drie lagen.
- MOO-architectuur: Een ResNet-18-encoder vanwege hogere representatieve eisen.
Selectiemechanisme:
Het model voorspelt de prestatie-metriek (bijv. relatieve ERT) voor elk algoritme in het portfolio. De oplosmethode met de beste voorspelde waarde (minimale ERT of maximale HV) wordt geselecteerd.

Belangrijkste Bijdragen

Op Probing Gebaseerde Afbeeldingsrepresentatie: De auteurs introduceren een nieuwe AAS-formulering voor continue BBO die contourkaart-weergaven van geprobeerde landschappen gebruikt als instantierepresentaties, waardoor de noodzaak van handgemaakte ELA-features wordt geëlimineerd.
Empirische Evaluatie: De studie biedt een uitgebreide analyse op standaard BBOB 2009 single-objective benchmarks en een bi-objectieve setting volgens het Deep-ELA-protocol. Het analyseert de effecten van weergave-aggregatie (Gecombineerd versus Gescheiden) en input-resolutie.
Prestatiebenchmarking: Het werk positioneert contour-gebaseerde selectie tegenover gevestigde feature-gebaseerde baselines (ELA met MLP/RF en Deep-ELA-varianten).

Experimentele Resultaten

Single-Objective Optimalisatie (SOO):
- Op de BBOB 2009 benchmark (96 configuraties) presteerde de Gecombineerde CNN met $300 \times 300$ input-resolutie significant beter dan de Single Best Solver (SBS), waarbij de gemiddelde relatieve ERT werd verlaagd van 30,37 (SBS) naar 5,60.
- De CNN-benadering was concurrerend met de sterkste feature-gebaseerde baselines (ELA-MLP: 5,72; Deep-ELA Medium-kNN: 6,04).
- De prestaties verbeterden over het algemeen met hogere input-resolutie ( $r=300$ ), hoewel dit de trainingskosten verhoogde.
- De methode toonde sterke winst op functiegroepen F1–F19, terwijl de prestaties op de moeilijkste groep (F20–F24) gemengd bleven in vergelijking met feature-gebaseerde methoden.
Multi-Objective Optimalisatie (MOO):
- Onder de Deep-ELA-evaluatiesetting waren CNN-gebaseerde selectoren concurrerend met Deep-ELA-baselines.
- De Gescheiden CNN behaalde de beste gemiddelde relatieve HV-scores (0,971–0,974), waarmee het Deep-ELA-varianten (0,904) overtrof.
- De methode was bijzonder effectief op ZDT-instanties (met bijna perfecte scores), terwijl de resultaten op DTLZ en MMF sterk waren maar licht onder de beste Deep-ELA-instellingen bleven.

Betekenis en Claims
Het artikel claimt dat simpele visiemodellen de ruimtelijke structuur van geprobeerde landschappen kunnen benutten voor algoritmekeuze zonder te vertrouwen op handgemaakte ELA-features. De resultaten suggereren dat contourplot-visualisaties voldoende signaal bevatten om effectieve AAS in continue BBO aan te sturen, en bieden een complementaire representatie ten opzichte van numerieke beschrijvers.

Beperkingen en Scope
De auteurs merken expliciet enkele beperkingen op:

Probing-budget: De huidige aanpak vereist een substantieel probing-budget (vijf $300 \times 300$ kaarten per configuratie), waardoor het geschikt is voor offline analyse maar niet voor strikt low-budget online implementatie.
Hogedimensionale Representatie: Voor $d > 2$ is de 2D-slice-representatie een gedeeltelijke weergave van het landschap, wat kan bijdragen aan zwakkere prestaties op de moeilijkste functiegroepen.
Vaste Protocollen: De evaluatie is gekoppeld aan specifieke portfolios en protocollen (inclusief vensterbemonstering voor MOO), en de MOO-studie is beperkt tot $d=2, m=2$ .

Het werk wordt gepresenteerd als een proof-of-concept dat de haalbaarheid van afbeeldingsgebaseerde representaties aantoont, met toekomstige richtingen die wijzen naar kostengevoelig probing, multi-view ontwerpen en hybride visueel-numerieke features.