DE-2LS: Differential Evolution with Late-Stage local-search for Unconstrained Single-Objective Numerical Optimization

Technische Samenvatting: DE-2LS voor Onbeperkte Enkelvoudige Doelwit Numerieke Optimalisatie

Probleemstelling
Het artikel behandelt onbeperkte enkelvoudige doelwit numerieke optimalisatieproblemen (UCOPs) met variabelen binnen grenzen, een setting die veel voorkomt in IEEE CEC-competities. De kernuitdaging ligt in het balanceren van globale exploratie, late-stage exploitatie en de efficiëntie van functie-evaluaties. Specifiek vertonen varianten van Differential Evolution (DE), zoals RDEx (Reconstructed DE met exploitatie-gebiaste branching), weliswaar sterke prestaties, maar ze kunnen een gebrek aan precisie vertonen om incidentele oplossingen effectief te "polijsten" zodra de zoektocht een veelbelovend bekken binnentreedt. Deze beperking is cruciaal onder de U-score evaluatiemetriek, die zowel de kwaliteit van de uiteindelijke oplossing als de convergentiesnelheid gezamenlijk beoordeelt. Het doel is om beide metrieken te verbeteren zonder het robuuste evolutionaire zoekgedrag van het basisalgoritme te verstoren.

Methodologie
De voorgestelde methode, DE-2LS, is een conservatieve verbetering van het RDEx-framework. In plaats van de kern van de RDEx-evolutionaire motor te vervangen, introduceert DE-2LS twee late-stage verfijningen die zijn ontworpen om te opereren binnen een vastgesteld budget voor functie-evaluaties:

1. Gesmoothde Exploitation-Biased (EB) Branch-Rate Update:
   In de late fase van de zoektocht (nadat 75% van het evaluatiebudget is verbruikt), werkt het mechanisme de waarschijnlijkheid bij voor het selecteren van de exploitatie-gebiaste tak. In plaats van abrupt te reageren op de directe prestaties van een tak, past de update-regel een gewogen smoothing toe (een lineaire combinatie van de vorige rate en de huidige ruwe schatting). Dit stabiliseert de overgang naar intensieve exploitatie, waardoor voortijdige convergentie of grillige verschuivingen in de zoekstrategie worden voorkomen.

2. Beveiligde Coördinaat-Patroon Lokale Zoektocht (LS):
   Een lichtgewicht lokale zoekmodule wordt alleen geactiveerd wanneer aan specifieke voorwaarden wordt voldaan: de zoektocht bevindt zich in de late fase (na 82% van het budget), de globale beste oplossing is gestagneerd gedurende een gedefinieerd aantal generaties, en de limiet voor het aanroepen van de lokale zoektocht is nog niet bereikt.

   • Mechanisme: De LS opereert op de huidige globale beste oplossing met behulp van een coördinaat-patroon benadering. Het verkent één coördinaatrichting tegelijk met een initiële stapgrootte die proportioneel is aan de variabelen binnen de grenzen.
   • Strategie: Het hanteert een "first-improvement" strategie; als een beter punt wordt gevonden, wordt het centrum onmiddellijk bijgewerkt. Als er geen verbetering wordt gevonden, wordt de stapgrootte gehalveerd.
   • Restricties: Het proces is strikt budgetbewust, met een gedefinieerde ratio van evaluaties toegewezen per aanroep en een maximaal aantal aanroepen. Het gebruikt enkel objectieve acceptatie (aangezien het probleem onbeperkt is, behalve voor de grenzen) en injecteert verbeterde oplossingen terug in de populatie zonder de success-history memory of de populatiestructuur te resetten.

Belangrijkste Bijdragen

• Algoritmeontwerp: De voorstel van DE-2LS, dat de RDEx-baseline aanvult met een gesmoothde EB-rate update en een beveiligde, budgetgecontroleerde lokale zoekmodule.
• Ablatieonderzoek: Een rigoureus, gefaseerd ablatie-analyse werd uitgevoerd om de optimale configuratie te bepalen. Dit omvatte het afstemmen van de timing en gewichten van de EB-rate smoothing, de initiële EB-rate, de Gaussian sampling scale voor de standaard tak, selectiedrukparameters en de lokale zoekcoëfficiënten (timing, budget en stapgrootte).
• U-Score Optimalisatie: Het ontwerp richt zich expliciet op de U-score metriek, met als doel zowel de nauwkeurigheid (uiteindelijke fout) als de snelheid (convergentietraject) componenten simultaan te verbeteren.

Experimentele Resultaten
Experimenten werden uitgevoerd op 29 UCOP-functies (D=30) met een budget van 10.000D functie-evaluaties, met behulp van 25 onafhankelijke runs per algoritme. Prestaties werden geëvalueerd met behulp van de pairwise U-score procedure.

• Vergelijking met RDEx: DE-2LS presteerde consequent beter dan de originele RDEx. De U-score steeg van 33.602,0 naar 37.448,0, wat een verbetering van 11,45% vertegenwoordigt. Deze winst werd gedreven door een verbetering van 17,25% in de snelheid-component en een verbetering van 5,95% in de nauwkeurigheid-component.
• Vergelijking met Competitieve Algoritmen: In een bredere vergelijking met verschillende competitieve en IEEE CEC-winnaars (waaronder LSRTDE, BlockEA, mLSHADE-RL, jSO en IEACOP), behaalde DE-2LS de hoogste algemene U-score van 178.966,5. Dit resultaat presteerde beter dan het op één na beste algoritme (RDEx) met 3,17% en het gemiddelde van de andere concurrenten met ongeveer 34,43%.
• Prestaties per Functie: DE-2LS behaalde de beste U-score op 11 van de 29 functies, het hoogste aantal onder alle vergeleken algoritmen. Het toonde een bijzondere kracht in convergentiesnelheid, waarbij het op veel functies sneller concurrerende foutniveaus bereikte dan rivalen.

Betekenis en Claims
Het artikel claimt dat DE-2LS aantoont dat een zorgvuldig ontworpen late-stage lokale zoekstrategie de prestaties van een sterk baseline DE-algoritme aanzienlijk kan verbeteren zonder de globale zoekcapaciteiten in gevaar te brengen. De auteurs benadrukken dat het "do no harm" ontwerpprincipe — het behouden van de originele RDEx-engine terwijl een lichtgewicht, budgetbewuste polijstingsmechanisme wordt toegevoegd — effectief is voor het verbeteren van zowel de convergentiesnelheid als de uiteindelijke objectieve kwaliteit. De resultaten suggerieën dat de voorgestelde gesmoothde EB-rate controle en de beveiligde lokale zoektocht een robuust evenwicht bieden tussen exploratie en exploitatie, met name onder het U-score evaluatiekader dat trage convergentie bestraft. De broncode van DE-2LS wordt beschikbaar gesteld om reproduceerbaarheid te ondersteunen.