Advancing Automated Algorithm Design via Evolutionary Stagewise Design with LLMs

Dit paper introduceert EvoStage, een evolutionair raamwerk dat Large Language Models (LLMs) gebruikt om door middel van gefaseerde ontwerpstappen en real-time feedback geautomatiseerde algoritmen te creëren die menselijke expertontwerpen en bestaande methoden overtreffen in complexe industriële toepassingen zoals chipplaatsing.

De kern

Stel je voor dat je een zeer complexe machine moet bouwen, bijvoorbeeld een chip voor een supercomputer. Vroeger deden dit alleen de slimste ingenieurs ter wereld. Ze moesten jarenlang experimenteren, fouten maken, en stap voor stap hun ontwerp verbeteren. Het was een langzaam, duur en zwaar proces dat volstond met "probeer maar" en veel ervaring vereiste.

Deze paper introduceert een nieuwe manier om dit te doen met behulp van AI (grote taalmodellen), maar dan op een slimme manier die we EvoStage noemen.

Hier is de uitleg in simpele taal, met wat creatieve vergelijkingen:

1. Het Probleem: De "Blinddoek" van de AI

Stel je voor dat je een AI vraagt om die machine te ontwerpen. De oude methoden gaven de AI een blinde doek voor de ogen. De AI mocht een ontwerp maken, en pas aan het eind van het proces kreeg ze te horen: "Goed gedaan" of "Fout, probeer het opnieuw".

• Het nadeel: Omdat de AI niet zag waarom iets misging tijdens het bouwen, raakte ze in de war. Ze begon dingen te verzinnen die logisch leken, maar in de praktijk totaal onwerkbaar waren (dit noemen we "hallucinaties"). In de echte wereld, waar testen duur is (bijvoorbeeld: het testen van een chip kost dagen), kun je je geen duizenden mislukte pogingen veroorloven.

2. De Oplossing: EvoStage (De "Stap-voor-Stap" Reis)

De auteurs van dit paper zeggen: "Laten we de AI niet blind laten werken, maar haar een reisgids geven."
In plaats van de hele machine in één keer te ontwerpen, breken ze het probleem op in kleine, beheersbare etappes.

• De Analogie: Stel je voor dat je een lange wandeling maakt door een onbekend landschap.
  • Oude manier: De AI moet de hele route in haar hoofd plannen zonder kaart. Als ze een afslag mist, weet ze pas aan het einde dat ze de verkeerde kant opging.
  • EvoStage: De AI krijgt een kaart en een gids. Ze lopen samen een stukje (stap 1), kijken om zich heen ("Oh, hier is het te modderig"), en passen de route direct aan voor het volgende stukje (stap 2). Ze krijgen directe feedback na elke stap.

Dit zorgt ervoor dat de AI niet in de war raakt en veel sneller een perfect ontwerp maakt.

3. Het Team: Een Orkest in plaats van een Solist

Om dit nog beter te laten werken, gebruiken ze geen enkele AI, maar een team van AI's (een multi-agent systeem).

• De Dirigent (Coördinator): Deze AI kijkt naar de voortgang, denkt na over wat er goed ging en wat niet, en geeft instructies aan de anderen.
• De Muzikanten (Coder Agents): Elke muzikant is gespecialiseerd in één instrument. De één zorgt voor de "snelheid" van de machine, de ander voor de "kracht". Ze werken niet allemaal tegelijk aan alles, maar focussen op hun eigen stukje, onder leiding van de dirigent.
• Het Resultaat: Omdat ze zich op één ding focussen, maken ze minder fouten en klinkt het eindresultaat veel harmonieuzer.

4. De Balans: Kijken naar de Boom en het Bos

Soms zijn we zo gefocust op het verbeteren van één klein onderdeel (de "lokaal" optimalisatie), dat we vergeten of het hele ontwerp nog wel goed werkt.

• De Analogie: Stel je voor dat je een auto bouwt. Je kunt de motor perfect maken (lokaal), maar als de wielen er niet op passen, is het een slechte auto.
• EvoStage heeft een slim mechanisme:
  • Lokaal kijken: "Laten we deze schroef nog strakker draaien."
  • Globaal kijken: "Laten we even terugkijken naar het hele ontwerp. Misschien moeten we de hele motorruimte anders indelen?"
    Door deze twee perspectieven te wisselen, vermijden ze dat ze vastlopen in een "doodlopende straat" (lokale optimum) en vinden ze echt de beste oplossing.

5. De Bewijzen: Chipjes en Medicijnen

De auteurs hebben dit getest op twee zware taken:

1. Chips plaatsen: Ze hebben AI gebruikt om de positie van onderdelen op computerchips te bepalen. Het resultaat? Hun AI vond ontwerpen die beter waren dan die van de beste menselijke experts, en dat in een fractie van de tijd. Op een echte, commerciële 3D-chip verbeterden ze de prestaties met bijna 10% en bespaarden ze meer dan 50% tijd.
2. Medicijnen en Materialen: Ze testten het ook op het vinden van nieuwe medicijnen (zwarte doos optimalisatie). Ook hier was hun AI sneller en slimmer dan de standaard methoden.

Conclusie

EvoStage is als het geven van een slimme, interactieve gids aan een genie. In plaats van dat het genie blindelings probeert en faalt, krijgt het feedback na elke stap, werkt het in een team, en kijkt het zowel naar de details als naar het grote geheel.

Het resultaat? We kunnen nu complexe problemen in de industrie (zoals het ontwerpen van chips of het vinden van nieuwe medicijnen) veel sneller en goedkoper oplossen, waardoor mensen meer tijd hebben voor creatieve taken en minder tijd voor saai, repetitief werk. Het is een grote stap richting een toekomst waar AI ons echt helpt om de wereld te verbeteren.

Technische samenvatting

Probleemstelling

De traditionele algoritmische ontwerpprocessen in industriële scenario's (zoals chip-plaatsing) zijn vaak tijdrovend, inefficiënt en sterk afhankelijk van menselijke expertise. Hoewel Large Language Models (LLMs) veelbelovend zijn voor geautomatiseerd ontwerp, hebben bestaande methoden (zoals FunSearch, AlphaEvolve, EoH) een black-box modellering aangenomen. Hierbij ontvangen LLMs slechts feedback na de volledige evaluatie van het ontworpen algoritme.

Dit leidt tot twee kritieke problemen in industriële contexten:

1. Beperkt evaluatiebudget: Het evalueren van oplossingen (bijv. chip-plaatsing) is extreem duur en tijdrovend (uren per evaluatie). Black-box methoden vereisen vaak te veel evaluaties om tot een goede oplossing te komen.
2. Hallucinaties en gebrek aan inzicht: Zonder inzicht in de interne werking van het probleem kunnen LLMs "hallucineren" of logisch coherente maar praktisch onjuiste ontwerpen genereren, vooral bij problemen waar ze weinig trainingsdata voor hebben (zoals specifieke industriële chip-ontwerpen).

Methodologie: EvoStage

De auteurs stellen EvoStage (Evolutionary Stagewise Algorithm Design) voor, een nieuw evolutionair paradigma dat de kloof tussen industriële eisen en LLM-capaciteiten overbrugt. De kernmethodologie bestaat uit vier pijlers:

1. Stapsgewijs Ontwerp (Stagewise Design):

   • In plaats van het hele algoritme in één keer te genereren, wordt de taak opgedeeld in sequentiële, beheersbare fasen (stages).
   • LLM-agenten ontwerpen het algoritme stap voor stap. Na elke stap ontvangen ze real-time feedback (intermediaire resultaten) over de uitvoering.
   • Dit stelt de LLM in staat om zijn domeinkennis te updaten, hallucinaties te corrigeren en de ontwerprichting dynamisch aan te passen, vergelijkbaar met "Chain-of-Thought" redeneren.

2. Multi-Agent Systeem:

   • Om de complexiteit te verminderen en consistentie te waarborgen, wordt een systeem gebruikt met gespecialiseerde agenten:
     • Coder Agents: Elk is verantwoordelijk voor het ontwerpen van één specifiek algoritme-component (bijv. een leersnelheidsplanning).
     • Coordinator Agent: Reflecteert op de intermediaire informatie van de vorige fasen en geeft richtlijnen voor de volgende fase aan de coder agents. Dit zorgt voor een gezamenlijk begrip van de probleemtoestand.

3. Global-Local Perspective Mechanisme:

   • Om vastlopen in lokale optima te voorkomen, combineert EvoStage twee perspectieven:
     • Lokaal (Stagewise-Design): Optimaliseert subtaken stap voor stap.
     • Globaal (Global-Explore & Global-Enhance): Analyseert volledige multi-stage algoritmen in één keer ("in one shot") om nieuwe, diversere structuren te ontdekken of bestaande beste ontwerpen te verfijnen. Dit balanceert exploratie en exploitatie.

4. Evolutionair Kader:

   • Een populatie van algoritmen wordt onderhouden. Op basis van selectiestrategieën (die zowel prestatie als diversiteit in acht nemen) worden "ouder"-algoritmen geselecteerd om nieuwe generaties te produceren via de bovenstaande operatoren.

Belangrijkste Bijdragen

• Nieuw Paradigma: Introductie van EvoStage, dat stapsgewijs ontwerp met real-time feedback integreert in evolutionair algoritmisch ontwerp met LLMs.
• Overcoming Hallucinations: Door intermediaire feedback te gebruiken, worden LLMs "gegrounded" in de werkelijke probleemmechanismen, wat hallucinaties vermindert en de betrouwbaarheid verhoogt in scenario's met weinig data.
• Multi-Agent Architectuur: Een innovatieve opdeling van de ontwerptaken over meerdere agenten met een coördinator, wat de zoekruimte verkleint en de kwaliteit van de gegenereerde code verhoogt.
• Toepasbaarheid: Het framework is succesvol toegepast op zowel gradient-based (Adam-optimizer voor chip-plaatsing) als black-box (Bayesian Optimization) optimalisatieproblemen.

Resultaten

De auteurs testen EvoStage op twee belangrijke gebieden:

1. Chip Placement (Gradient-based):

   • Open-source benchmarks: EvoStage overtrof menselijk ontworpen state-of-the-art tools (DREAMPlace, Xplace) op alle geteste chip-cases (ISPD 2005 en ICCAD 2015 benchmarks) binnen slechts 25 evaluaties.
   • Industriële toepassing: Bij toepassing op een commercieel 3D-chip-plaatsingstool (Memory-on-Logic) verbeterde EvoStage de half-perimeter wirelength (HPWL) met 9,24% op de logica-die en verhoogde het de efficiëntie met 52,21% (minder iteraties nodig).
   • Vergelijking met andere LLM-methoden: EvoStage behaalde een veel hogere "Pass Rate" (kwaliteit van gegenereerde code) en betere prestaties dan EoH en AlphaEvolve, die faalden om betere oplossingen te vinden dan experts binnen het beperkte budget.

2. Black-Box Optimization (Bayesian Optimization):

   • EvoStage werd gebruikt om acquisitie-functies te ontwerpen.
   • Op synthetische functies en Neural Architecture Search (NAS) problemen presteerde EvoStage significant beter dan traditionele functies (UCB, EI) en andere LLM-methoden, vaak met een orde van grootte verbetering in de optimal gap.
   • Het behaalde een 100% pass rate op meerdere benchmarks, wat aantoont dat de gegenereerde code juridisch correct en functioneel was.

Betekenis en Impact

Dit werk markeert een doorbraak in geautomatiseerd algoritmisch ontwerp voor de industrie.

• Efficiëntie: Het demonstreert dat LLMs complexe industriële problemen kunnen oplossen met een zeer beperkt evaluatiebudget, wat cruciaal is voor dure scenario's zoals chip-ontwerp.
• Productiviteit: Het verlaagt de drempel voor het ontwerpen van geoptimaliseerde algoritmen, waardoor menselijke experts kunnen focussen op hogere niveaus van probleemoplossing in plaats van handmatige tuning.
• Toekomstperspectief: Het biedt een blauwdruk voor "Level 4 agentic systems" (zelf-evoluerende agents) en opent nieuwe toepassingsgebieden voor LLMs buiten chatbots en code-assistenten, richting het oplossen van echte, complexe wetenschappelijke en industriële uitdagingen.

Kortom, EvoStage transformeert LLMs van "zwarte dozen" naar geavanceerde ontwerpartners die door stapsgewijs leren en feedback kunnen concurreren met, en zelfs overtreffen, menselijke experts in geavanceerde algoritmische taken.