Technische Samenvatting: SemanticOpt: Naar LLM-gebaseerde Semantische Black-Box Optimalisatie

Probleemdefinitie

Het optimaliseren van experimentele systemen wordt vaak gehinderd door de hoge kosten, tijdsinvestering of moeilijkheid van het uitvoeren van individuele evaluaties. In deze "duurzame black-box" scenario's is de relatie tussen ontwerpparameters en uitkomsten onbekend. Traditionele optimalisatoren, zoals Bayesiaanse Optimalisatie (BO), vertrouwen uitsluitend op numerieke waarnemingen (configuraties en scalair uitkomsten). Zij missen het vermogen om bredere domeinkennis te integreren, zoals expertheuristieken, wetenschappelijke literatuur of semantische beschrijvingen van eerdere experimenten. Hoewel Large Language Models (LLM's) het vermogen bezitten om dergelijke semantische informatie te interpreteren, worstelen geavanceerde LLM's met het uitvoeren van betrouwbare iteratieve optimalisatie. Zij blinken vaak uit in het warm-starten (het voorstellen van initiële kandidaten), maar falen in het handhaven van een effectief evenwicht tussen exploratie en exploitatie over langere trajecten, wat leidt tot prestatieplateaus.

Methodologie

De auteurs introduceren SemanticOpt, een raamwerk dat LLM's uitrust met robuuste black-box optimalisatiecapaciteiten door ze te finetunen op gestructureerde BO-trajecten die zijn verrijkt met natuurlijke taalcontext.

1. Probleemformulering

Optimalisatie wordt geformuleerd als een sequentieel besluitvormingsprobleem waarbij een LLM-beleid $\pi_\theta$ interacteert met een onbekende objectieve functie $f$. Op elk tijdstap $t$ ontvangt het model een geschiedenis van waarnemingen $D_t = \{(x_i, y_i)\}$ en semantische context $C$ (bijvoorbeeld probleembeschrijvingen, historische data of evaluatiefeedback). Het model genereert de volgende configuratie $x_{t+1} \sim \pi_\theta(\cdot | C, D_t)$.

2. Data Generatie en Training

Om de schaarste aan real-world benchmarks met semantische data te overwinnen, hebben de auteurs een grootschalige trainingsdataset samengesteld die meer dan 100.000 optimalisatietrajecten omvat:

• Functieruimten: Zij genereerden diverse synthetische objectieven met twee methoden:
  • Gaussische Proces (GP) Functies: Flexibele, schaalbare generators verrijkt met niet-lineaire coördinatenvervorming, discontinuïteiten, beperkingen en faalregio's om real-world onregelmatigheden na te bootsen.
  • LLM-gegenereerde Functies: Met behulp van Qwen 3.5 35B-A3B genereerden zij semantische contexten voor real-world domeinen (bijvoorbeeld chemische reacties, scheepvaartlogistiek) gekoppeld aan 100 geëvalueerde punten om de grondwaarheid te definiëren via surrogate-aanpassing.
• Trajectgeneratie: Het geavanceerde BO-raamwerk HEBO werd gebruikt om hoogwaardige optimalisatietrajecten te genereren op deze functieruimten. Het proces omvatte initialisatie met 5 stappen (met Sobol-sampling voor GP-functies en LLM-gegenereerde initialisaties voor semantische functies) en het uitvoeren van 3 verschillende surrogate-modellen (GP, Random Forest en SVIDKL). De best presterende surrogate bij specifieke stap-aantallen (10, 25, 50, 100) werd geselecteerd om de dataset samen te stellen.
• Promptstructuur: De trainingsdata is opgemaakt als meer-draads conversaties. De systeem-instructie dwingt een strikte JSON-uitvoer af die de voorgestelde configuratie, voorspelde gemiddelde, standaardafwijking en (indien van toepassing) faalkans bevat.
• Finetuning: De auteurs hebben Qwen 3.5 27B (en 9B) modellen gefinetuned met Low-Rank Adaptation (LoRA). Het model wordt getraind om zowel kandidaat-configuraties als surrogate-achtige voorspellingen uit te geven, effectief lerend om op te treden als een end-to-end sequentiële optimalisator die numerieke feedback integreert met semantische redenering.

3. Inference-pijplijn

Tijdens inference volgt SemanticOpt dezelfde meer-draads structuur. Het begint met het voorstellen van 5 initiële configuraties op basis van de gegeven context. Vervolgens stelt het iteratief nieuwe configuraties voor. Om besluitvorming te verbeteren, samplet het model twee kandidaat-configuraties per stap, en wordt de uiteindelijke selectie gemaakt door de verwachte verbetering te maximaliseren, gewogen naar de voorspelde succeskans, waardoor rekening wordt gehouden met haalbaarheid.

Belangrijkste Bijdragen

1. Grootschalige Trainingsdataset: De constructie van een dataset met meer dan 100.000 optimalisatietrajecten over diverse door GP gegenereerde en door LLM gegenereerde functieruimten, waarbij BO-methoden worden gebruikt om hoogwaardige optimalisatiedata te waarborgen.
2. Gestructureerde Finetuning-aanpak: Een nieuwe methode voor het finetunen van LLM's op BO-data om zowel kandidaat-configuraties als gekalibreerde surrogate-achtige voorspellingen uit te geven, waardoor het SemanticOpt-model ontstaat.
3. Uitgebreide Evaluatie: Evaluatie over real-world surrogate-benchmarks met variërende niveaus van semantische context, waaruit blijkt dat SemanticOpt zowel klassieke BO-methoden als bestaande LLM-gebaseerde benaderingen overtreft wanneer relevante semantische informatie wordt verstrekt.

Resultaten

De auteurs hebben SemanticOpt geëvalueerd tegen een uitgebreide set baselines, waaronder HEBO (met GP-, RF- en SVIDKL-surrogaten), transformer-gebaseerde optimalisatoren (PFNs4BO) en frontier LLM's (GPT-5.4, Qwen 3.5 27B).

• Prestaties: Over diverse domeinen (bijvoorbeeld Airfoil CFD, MuJoCo Control, Verfmengen, PD1) behaalde SemanticOpt de beste gemiddelde genormaliseerde prestatie. Het presteerde significant beter dan basis-LLM's (Qwen 3.5 27B) in iteratieve optimalisatie, waarbij het continue verbetering toonde in plaats van te plateauën.
• Semantische Context: De opname van semantische data (langere context, historische voorbeelden, extra metrieken) verbeterde consistent de prestaties. Bijvoorbeeld, in een verfmengtaak gebruikte SemanticOpt kleurbeschrijvingen om een doelovereenkomst te vinden (score 0,91), wat ver boven HEBO GP lag (score 6,5).
• Vergelijking met Frontier-modellen: Hoewel GPT-5.4 sterke initialisatieprestaties liet zien op benchmarks afgeleid van publieke datasets (wat wijst op potentieel memoriseren), overtrof SemanticOpt het op benchmarks gegenereerd via simulaties met minder online data (bijvoorbeeld Airfoil CFD, MuJoCo Control). Bij het geven van dezelfde initialisatie van GPT-5.4 toonde SemanticOpt superieure iteratieve optimalisatiecapaciteiten.
• Kwaliteit van Surrogaten: De interne voorspellingen van SemanticOpt (gemiddelde en standaardafwijking) toonden concurrerende of superieure nauwkeurigheid en onzekerheidskalibratie in vergelijking met traditionele BO-surrogaatmodellen.
• Ablatiestudies:
  • Modelgrootte: Het 27B-model behield initialisatiecapaciteiten beter dan het 9B-model, dat last had van "capaciteitsafhankelijk vergeten" van voorgeprogrammeerde priors.
  • Initialisatie versus Iteratie: De winst van SemanticOpt vloeit voort uit zowel verbeterd warm-starten als superieure iteratieve optimalisatie.

Betekenis en Beweringen

Het artikel beweert dat SemanticOpt de kloof overbrugt tussen de sterktes van semantische redenering van LLM's en het steekproef-efficiënte, onzekerheidsbewuste zoeken van Bayesiaanse Optimalisatie. Door LLM's direct te finetunen op gestructureerde BO-trajecten verrijkt met semantische context, tonen de auteurs aan dat LLM's kunnen worden getraind als effectieve sequentiële optimalisatoren.

De betekenis ligt in het creëren van een end-to-end semantische optimalisator die niet afhankelijk is van externe BO-lussen of eenvoudige prompting. Het stelt optimalisatiesystemen in staat om documentatie, eerdere experimenten en aanvullende metingen te benutten bij het voorstellen van nieuwe experimenten. De auteurs merken beperkingen op, met name in puur categorische ruimten (waar BO-methoden zelf moeite hebben) en in domeinen met sterk discontinu objectieven waar BO-kalibratie kan falen. Zij suggereren dat toekomstig werk zou kunnen bestaan uit het opnemen van rechtvaardigingen voor beslissingen en het uitbreiden naar flexibelere functieruimten.