Improving FMQA via Initial Training Data Design Considering Marginal Bit Coverage in One-Hot Encoding

Dit artikel stelt voor om het Factorization Machine met Quadratische optimalisatie-temperings (FMQA)-algoritme te verbeteren door het ontwerpen van initiële trainingsdata met behulp van Latin hypercube- en Sobol'-steekproefmethoden om volledige marginale bit-diekkte in one-hot-codering te waarborgen, waardoor de optimalisatieprestaties op problemen met gehele en gediscretiseerde continue variabelen worden verbeterd.

De kern

Stel je voor dat je de perfecte vorm probeert te vinden voor de vleugel van een door mensen aangedreven vliegtuig. Je wilt dat het zo snel mogelijk vliegt, maar de betrokken natuurkunde is zo complex dat je geen simpele formule kunt opschrijven om de snelheid te voorspellen. In plaats daarvan moet je een virtueel model bouwen, het testen, zien hoe snel het gaat, en het vervolgens opnieuw proberen. Dit is een "black-box"-probleem: je voert een ontwerp in en er komt een snelheid uit, maar je kent het geheime recept erin niet.

Om dit op te lossen, gebruiken onderzoekers een slim computerprogramma genaamd FMQA. Denk aan FMQA als een tweestaps-detectiveteam:

1. De Surrogaat (De Student): Een machine learning-model dat probeert het antwoord te raden op basis van eerdere tests.
2. De Zoeker (De Jager): Een gespecialiseerde computer (een "Ising-machine") die gebruikmaakt van de voorspellingen van de student om te jagen naar de best mogelijke vleugelvorm.

Het Probleem: De "Stille" Bits

Om de computer de vleugelvorm te laten begrijpen, vertalen de onderzoekers de continue ontwerpparameters (zoals "vleugellengte") naar een reeks binaire schakelaars (0'en en 1'en) met behulp van een methode genaamd one-hot encoding.

Stel je voor dat je 32 schakelaars hebt voor "vleugellengte". Om te zeggen dat de lengte "gemiddeld" is, zet je exact één van die 32 schakelaars op "AAN" (1) en laat je de andere 31 "UIT" (0).

Het artikel identificeert een gebrek in hoe ze dit proces meestal starten. Ze kiezen de startende vleugelvormen doorgaans door te dobbelen (random sampling).

• Het Probleem: Als je slechts 32 keer dobbelt om te starten, is de kans groot (ongeveer 36%) dat sommige van die 32 schakelaars tijdens de initiële fase nooit op "AAN" (1) worden gezet.
• Het Gevolg: De "Student" (het machine learning-model) leert door te kijken naar de schakelaars die AAN stonden. Als een schakelaar nooit AAN stond, leert de Student nooit hoe die specifieke instelling de snelheid beïnvloedt. Het is alsof een leraar probeert een student te beoordelen die nooit zijn hand opstak; de leraar heeft geen gegevens over het vermogen van die student.
• Het Resultaat: De "kaart" van het probleem die de computer heeft, heeft blinde vlekken. Wanneer de "Jager" op zoek gaat naar de beste oplossing, negeert hij misschien goede gebieden omdat de kaart zegt: "We hebben geen idee wat hier gebeurt."

De Oplossing: De "Eerlijke Steekproef"-Strategie

De auteurs stellen een nieuwe manier voor om de startende vleugelvormen te kiezen. In plaats van gewoon te dobbelen, gebruiken ze twee wiskundige hulpmiddelen genaamd Latin Hypercube Sampling (LHS) en de Sobol'-reeks.

Denk aan deze hulpmiddelen als een eerlijkheidsinspecteur.

• In plaats van te hopen dat het geluk elke schakelaar omzet, zorgt de inspecteur ervoor dat elke enkele van de 32 schakelaars minstens één keer op "AAN" wordt gezet tijdens de initiële 32 tests.
• Dit garandeert dat de "Student" direct les krijgt over elke mogelijke instelling voordat het echte zoeken begint. Geen enkele schakelaar blijft in het donker.

De Resultaten: Betere Vleugels, Sneller

De onderzoekers testten dit op twee versies van het vliegtuigvleugelprobleem: één met 17 ontwerpparameters en een moeilijkere met 32 variabelen.

1. De "Oude Manier" (Willekeurig): Zelfs na het uitvoeren van 200 tests, waren ongeveer 36% van de schakelaars in de startdata nooit aan geweest. De prestaties van de computer waren acceptabel, maar het had blinde vlekken.
2. De "Nieuwe Manier" (LHS en Sobol'): Elke schakelaar werd vanaf het begin minstens één keer aan gezet.
   • Het Resultaat: De nieuwe methoden vonden vleugelvormen die sneller vlogen dan de oude willekeurige methode.
   • Het Verschil: De verbetering was klein voor het eenvoudigere probleem, maar werd veel duidelijker voor het moeilijkere probleem met 32 variabelen. Het is alsof de blinde vlekken op de kaart belangrijker werden naarmate het terrein complexer werd.

De Conclusie

Het artikel beweert niet dat dit de computer het vliegtuig laat vliegen, noch claimt het dat dit alle optimalisatieproblemen oplost. Het laat simpelweg zien dat hoe je begint, uitmaakt.

Door een "eerlijke steekproef"-strategie te gebruiken om ervoor te zorgen dat elke mogelijke optie een kans krijgt om gezien te worden in de initiële trainingsdata, leert de computer een betere kaart van het probleem. Dit stelt hem in staat om sneller betere oplossingen te vinden, vooral wanneer het probleem ingewikkeld wordt. Het is een herinnering dat je bij optimalisatie niet alleen een slimme zoekmachine nodig hebt; je hebt ook een slimme manier nodig om de reis te beginnen.

Technische samenvatting

Technische Samenvatting: Verbetering van FMQA via Ontwerp van Initiële Trainingsdata met Betrekking tot Marginale Bit-diekkte in One-Hot Encoding

Probleemstelling
Factorization Machine met Quadratische Optimalisatie-tempering (FMQA) is een black-box optimalisatie (BBO)-methode die een Factorization Machine (FM) surrogaatmodel combineert met een Ising-machine voor zoektocht. Wanneer FMQA wordt toegepast op gehele of gediscretiseerde continue variabelen met behulp van one-hot encoding, ontstaat een kritiek probleem bij uniforme willekeurige initiële steekproefneming. In dit scenario nemen veel binaire variabelen (bits) in de initiële trainingsdataset mogelijk nooit de waarde "1" aan. Aangezien de gradiënt van de FM-uitvoer met betrekking tot parameters die geassocieerd zijn met een specifieke bit evenredig is met de waarde van die bit, ontvangen parameters die corresponderen met bits die gedurende de hele initiële dataset "0" blijven, geen directe gradiëntupdates vanuit waargenomen responsen. Bijgevolg evolueren deze parameters uitsluitend op basis van initialisatie en gewichtsafname, wat een vertekening introduceert in de geschatte Quadratic Unconstrained Binary Optimization (QUBO)-coëfficiënten. Deze vertekening kan de kwaliteit van de door de Ising-machine uitgevoerde zoektocht naar oplossingen verslechteren, met name bij problemen met hogere dimensies.

Methodologie
De auteurs stellen een wijziging voor in het FMQA-raamwerk met focus op het ontwerp van de initiële trainingsdata. Het kerndoel is het bereiken van volledige marginale bit-diekkte, waarbij wordt gegarandeerd dat elke binaire variabele verkregen via one-hot encoding minstens één keer de waarde "1" aanneemt in de initiële dataset.

Om dit te realiseren, introduceren de auteurs twee methoden voor het genereren van initiële data gebaseerd op steekproefnemingstechnieken die de ruimte vullen:

1. LHS-FMQA: Maakt gebruik van Latin Hypercube Sampling (LHS).
2. Sobol'-FMQA: Maakt gebruik van de Sobol'-sequentie (een deterministische sequentie met lage discrepantie).

Beide methoden zijn zodanig geconfigureerd dat het aantal initiële steekproeven ($N_0$) gelijk is aan het aantal discrete waarden per variabele ($M$). Onder one-hot encoding, waarbij elke oorspronkelijke variabele wordt weergegeven door $M$ binaire bits, zorgt het instellen van $N_0 = M$ ervoor dat deze steekproefstrategieën garanderen dat elke discrete waarde minstens één keer wordt geselecteerd. Via de decoderingskaart wordt hiermee gegarandeerd dat elke corresponderende binaire bit minstens één keer de waarde "1" aanneemt. Dit waarborgt dat alle FM-parameters directe gradiëntupdates afgeleid van de dataset ontvangen tijdens de initiële trainingsfase, waardoor de vertekening veroorzaakt door "nooit-actieve" bits wordt verzacht.

Belangrijkste Bijdragen

• Identificatie van een Vertekeningsmechanisme: Het artikel identificeert formeel dat uniforme willekeurige steekproefneming in one-hot gecodeerde FMQA leidt tot "nooit-actieve" bits, waardoor specifieke FM-parameters niet worden geïnformeerd door waargenomen black-box responsen.
• Voorgestelde Initialisatiestrategie: De auteurs stellen initieel trainingsdata-ontwerp voor en implementeren dit met behulp van LHS en Sobol'-sequenties, specifiek om marginale bit-diekkte af te dwingen ($N_0 = M$).
• Empirische Validatie: De methoden worden geëvalueerd op de HPA-vleugel-vormoptimalisatiebenchmark (Human-Powered Aircraft, HPA103), een complex technisch probleem met impliciete constraints en geen analytische gradiëntinformatie. Experimenten werden uitgevoerd op twee probleemschalen: 17 ontwerptvariabelen (HPA103-1) en 32 ontwerptvariabelen (HPA103-2).

Resultaten
Numerieke experimenten die de voorgestelde methoden (LHS-FMQA en Sobol'-FMQA) vergelijken met een baseline Conv-FMQA (uniforme willekeurige initialisatie) en andere optimalisatoren (GP-BO, NSGA-II, Random Search) leverden het volgende op:

• Prestatieverbetering: Beide voorgestelde methoden bereikten numeriek hogere gemiddelde eindsnelheden voor kruisen dan de baseline Conv-FMQA.
• Afhankelijkheid van Dimensie: Het voordeel van de voorgestelde methoden was duidelijker bij het probleem met hogere dimensie (HPA103-2, 32 variabelen). De verbetering in eindsnelheid ten opzichte van de baseline steeg van ongeveer +0,135 m/s (LHS) en +0,192 m/s (Sobol') bij het probleem met 17 variabelen naar respectievelijk +0,333 m/s en +0,352 m/s bij het probleem met 32 variabelen.
• Bevestiging van het Mechanisme: Analyse van de verdeling van bitgebruik bevestigde dat terwijl Conv-FMQA zelfs na het volledige evaluatiebudget ongeveer 36% "nooit-actieve" bits behield, de voorgestelde methoden 0% "nooit-actieve" bits bereikten.
• Vergelijking met Andere Optimalisatoren: De voorgestelde methoden presteerden vergelijkbaar met of beter dan GP-BO en NSGA-II. Opmerkelijk is dat de verbetering ten opzichte van Conv-FMQA werd gedreven door het optimalisatieproces na de initiële steekproeffase (hogere "gain"), en niet simpelweg door te starten vanuit betere initiële beste waarden.

Betekenis en Beweringen
Het artikel beweert dat het verbeteren van de marginale bit-diekkte in de initiële trainingsdata een cruciale factor is voor het versterken van FMQA-prestaties. Door te waarborgen dat elke binaire variabele minstens één keer actief is, voorkomen de voorgestelde methoden dat de QUBO-coëfficiënten uitsluitend worden bepaald door initialisatie en gewichtsafname in specifieke richtingen. Dit stelt de Ising-machine in staat om een geïnformeerde zoektocht uit te voeren over alle ontwerpdimensies.

De auteurs merken met bescheidenheid op dat hoewel hun resultaten de hypothese ondersteunen dat marginale dekking vertekening vermindert, de huidige studie het effect van marginale dekking niet volledig isoleert van de eigenschappen van ruimte vullen van LHS en Sobol'-sequenties. Zij erkennen dat de voorgestelde methoden beide eigenschappen gelijktijdig realiseren. Bovendien merken zij op dat de methoden marginale dekking garanderen, maar niet koppelde bit-dekking (interacties tussen bits). De studie concludeert dat deze initialisatiestrategieën bijzonder effectief zijn voor problemen met hogere dimensies, waarbij het absolute aantal potentieel inactieve bits bij willekeurige steekproefneming anders substantieel zou zijn. Voor toekomstig werk wordt voorgesteld om marginale dekking te ontkoppelen van eigenschappen van ruimte vullen en strategieën voor koppelde dekking te onderzoeken.