SEA-TS: Self-Evolving Agent for Autonomous Code Generation of Time Series Forecasting Algorithms

Each language version is independently generated for its own context, not a direct translation.

Stel je voor dat je een super-slimme, onuitputtelijke kok hebt die nooit slaapt, nooit moe wordt en constant nieuwe recepten uitprobeert om de perfecte maaltijd te maken. Maar in plaats van eten, kookt deze kok voorspellingsalgoritmen voor tijdreeksen (zoals: hoeveel zonnestroom er morgen wordt opgewekt, of hoeveel stroom een wijk gaat verbruiken).

Dit is wat het artikel beschrijft over SEA-TS. Hier is de uitleg in simpele taal, met wat creatieve vergelijkingen:

1. Het Probleem: De "Koude Start" en de "Vervelende Veranderingen"

Normaal gesproken moeten mensen (datawetenschappers) handmatig modellen bouwen om dingen te voorspellen. Dat is zwaar werk en heeft drie grote problemen:

Te weinig data: Als je een nieuw systeem start (bijv. een nieuwe zonnepark), heb je geen historische data. Het is alsof je probeert te koken zonder ingrediënten.
Veranderingen: De wereld verandert. Mensen gaan anders stroom gebruiken of het weer verandert. Modellen die gisteren goed werkten, werken vandaag niet meer.
Moeilijke verbeteringen: Als je al 90% goed zit, kost het enorm veel moeite om naar 91% te gaan. Mensen geven vaak op.

2. De Oplossing: SEA-TS (De Zelf-ontwikkelende Agent)

SEA-TS is een computerprogramma dat zelf code schrijft, test en verbetert. Het is als een kok die elke dag een nieuw recept probeert, proeft, en dan zegt: "Dit was te zout, volgende keer minder zout" of "Oh, dit nieuwe kruid werkt fantastisch!"

Het doet dit via een drie-delige magische formule:

A. De Slimme Zoektocht (MA-MCTS)

Stel je voor dat je een enorme boom hebt met duizenden takken. Elke tak is een ander recept.

Hoe het werkt: De agent probeert niet willekeurig. Hij gebruikt een slimme methode om te kijken welke tak het meeste potentie heeft.
De innovatie: In plaats van alleen te kijken of een recept "beter" is, kijkt hij naar hoeveel beter het is in vergelijking met alles wat hij al heeft geprobeerd. Als een recept een echte doorbraak is, krijgt het een enorme "beloning" en wordt die tak verder verkend. Als het een mislukking is, wordt die tak afgesneden.

B. De Kwaliteitscontrole (Code Review & Lerende Prompt)

Dit is misschien wel het slimste deel.

De foutenmaker: Soms schrijft de AI code die er goed uitziet, maar die "cheat" (bijvoorbeeld door de toekomst te "zien" in de data, wat in het echt niet kan).
De keurmeester: Na elke poging kijkt een tweede AI-keurmeester de code na. Als hij een fout vindt, wordt die niet alleen genegeerd, maar onthouden.
De lerende prompt: Het systeem schrijft deze fouten op in een "receptenboek" (de running prompt). De volgende keer dat de kok een recept maakt, staat er in het boek: "Let op: Gebruik nooit data van morgen voor vandaag!" Zo wordt het systeem met elke poging slimmer en maakt het dezelfde fouten nooit meer.

C. De Globale Vergelijking (Global Steerable Reasoning)

Normaal kijken AI's alleen naar hun directe buren (wat deed mijn broer net?). SEA-TS kijkt naar het allerbeste en het aller slechtste recept dat ooit is gemaakt.

De analogie: Het is alsof je niet alleen naar je buurman kijkt, maar ook naar de winnaar van de wereldkookwedstrijd én naar de persoon die zijn pan in de vlammen gooide. De AI leert van beiden: "Kijk hoe de winnaar dit kruid gebruikt, en doe precies het tegenovergestelde van wat de verliezer deed."

3. Wat hebben ze ontdekt? (De "Magische" Recepten)

Het meest fascinerende is dat deze AI nieuwe ideeën heeft bedacht die mensen nog niet hadden bedacht:

Fysica-informatie: De AI bedacht zelf een manier om te weten dat zonlicht na de middag altijd afneemt. Het bouwde dit als een regel in het model in, zonder dat iemand het had verteld.
Per-station patronen: Het besefte dat elk zonnepark zijn eigen "dagritme" heeft, afhankelijk van de schaduw van bomen of de hoek van de panelen.
Slimme correcties: Bij het voorspellen van stroomverbruik bedacht het een manier om de voorspelling automatisch aan te passen op basis van het uur van de dag, iets wat mensen vaak handmatig moeten doen.

4. De Resultaten

Op publieke tests en echte bedrijfsdata (zonne-energie en huishoudelijk stroomverbruik) deed SEA-TS het beter dan de beste menselijke experts en de beste bestaande software.

Het verminderde de fouten met 40% op openbare tests.
Het vond patronen die in de wetenschappelijke literatuur nog nooit waren beschreven.

Conclusie

SEA-TS is als een onuitputtelijke, zelflerende chef-kok die niet alleen kookt, maar ook zijn eigen kookboeken herschrijft, zijn eigen fouten corrigeert en nieuwe culinaire technieken uitvindt die zelfs de beste menselijke chefs nog niet hadden bedacht. Het bewijst dat computers binnenkort niet alleen onze gereedschappen kunnen zijn, maar ook onze samenwerkers in het bedenken van nieuwe ideeën.

Each language version is independently generated for its own context, not a direct translation.

Titel

SEA-TS: Zelf-evoluerende Agent voor Autonome Codegeneratie van Tijdreeksvoorspellingsalgoritmen

1. Het Probleem

Het ontwikkelen van hoogwaardige machine learning-modellen voor tijdreeksvoorspelling is traditioneel een arbeidsintensief proces dat veel domeinkennis vereist. De auteurs identificeren drie fundamentele obstakels in de huidige ML-ontwikkelcyclus:

Data-schaarste: Veel nieuwe scenario's (zoals net opgestelde systemen of zeldzame gebeurtenissen) hebben onvoldoende historische data voor betrouwbare training (het "cold-start" probleem).
Verschuiving van verdeling (Distribution Shift): Real-world data is niet-stationair door factoren zoals apparatuurveroudering of gedragsveranderingen, wat leidt tot prestatieverlies van modellen die op historische data zijn getraind.
Afnemende meeropbrengst: Naarmate modellen hun prestatieplafend naderen, worden kleine verbeteringen in nauwkeurigheid steeds duurder en moeilijker te bereiken door handmatige iteratie.

Hoewel Large Language Models (LLMs) als "Machine Learning Engineers" (MLE) worden ingezet, lijden bestaande agenten aan beperkingen zoals:

Reward hacking: Agenten genereren code met logische fouten (bijv. data-lekkage) die schijnbaar hoge scores opleveren maar in de praktijk falen.
Eenvoudige beloningssystemen: Gebaseerd op binaire of vaste beloningen, wat onderscheid maakt tussen marginale verbeteringen en echte doorbraken.
Beperkte redeneringscontext: Agenten kijken vaak alleen naar lokale informatie (ouders/broers in de zoekboom) en missen een globaal overzicht van de beste en slechtste oplossingen.
Statische prompts: Systematische prompts veranderen niet tijdens het zoekproces, waardoor kansen om te leren van fouten of successen worden gemist.

2. Methodologie: Het SEA-TS Framework

SEA-TS is een gesloten-lus systeem dat code autonoom genereert, valideert en optimaliseert via een iteratief zelf-evoluerend proces. Het framework combineert drie kerninnovaties:

A. Metric-Advantage Monte Carlo Tree Search (MA-MCTS)

In plaats van vaste beloningen gebruikt SEA-TS een statistisch genormaliseerde voordeel-score (Advantage Score).

Het proces: Voor elke gegenereerde oplossing wordt de ruwe metriek (bijv. MAE, WAPE) vergeleken met de historische verdeling van alle eerder gegenereerde scores.
De berekening: De beloning ( $A_j$ ) is de Z-score: $(\mu - M_j) / \sigma$ , waarbij $\mu$ het gemiddelde en $\sigma$ de standaardafwijking is van de historische data.
Voordeel: Dit creëert een adaptieve beloningssignalering. Een kleine verbetering in een late fase van de zoektocht (waar de variantie laag is) levert een grotere beloning op dan dezelfde absolute verbetering in een vroege fase. Dit sturen de zoektocht efficiënter naar veelbelovende trajecten.

B. Code Review met "Running Prompt" Verfijning

Om "reward hacking" en logische fouten te voorkomen, ondergaat elke succesvol uitgevoerde oplossing een geautomatiseerde logische review door een LLM.

Review: De agent controleert op data-lekkage (toekomstige informatie in features), verkeerde normalisatie en train-test contaminatie.
Running Prompt ( $P_{run}$ ): De bevindingen van de review en inzichten uit globale vergelijkingen worden niet alleen gebruikt om de huidige node te beoordelen, maar worden geaccumuleerd in een dynamische "running prompt".
Zelflerend: Deze prompt wordt continu bijgewerkt met correctieve patronen (bijv. "Gebruik altijd .shift(1) voor rolling windows") en succesvolle ontwerpprincipes. Dit zorgt ervoor dat fouten in latere iteraties niet worden herhaald.

C. Global Steerable Reasoning

Agenten vergelijken elke geëvalueerde node niet alleen met lokale buren, maar ook met de globale beste ( $N^*$ ) en slechtste ( $N^\perp$ ) oplossingen tot nu toe.

Een extra LLM genereert een gestructureerde samenvatting van wat de beste oplossing doet anders dan de slechtste.
Deze inzichten worden doorgegeven aan toekomstige generaties, wat kennisoverdracht over verschillende zoektrajecten mogelijk maakt en redundante exploratie voorkomt.

D. MAP-Elites Kwaliteit-Diversiteit Archief

Om convergentie naar een smal scala aan architecturen te voorkomen, wordt een MAP-Elites archief gebruikt. Oplossingen worden geïndexeerd op fenotypische dimensies zoals:

Architectuurtype (bijv. tree-based, attention, hybrid).
Sophisticatie van feature engineering.
Sophisticatie van training (bijv. learning rate scheduling).
Dit zorgt voor een gevarieerde collectie van "elite" oplossingen.

3. Belangrijkste Resultaten

SEA-TS werd getest op publieke benchmarks en industriële datasets voor energievoorspelling (zonne-energie en elektriciteitslast).

Publieke Benchmark (Solar-Energy): SEA-TS bereikte een 40% reductie in MAE (Mean Absolute Error) ten opzichte van de state-of-the-art (SOTA) methode TimeMixer (1.757 vs 2.929).
Industriële Zonne-energie (PV): In vergelijking met menselijk ontworpen baselines (TimeMixer) werd de WAPE (Weighted Absolute Percentage Error) met 8.6% verlaagd.
Industriële Lastvoorspelling:
- T.o.v. Timer: WAPE verlaagd met 7.7%.
- T.o.v. TimeMixer: MAPE verlaagd van 29.34% naar 26.17%.

Autonoom Ontdekte Patronen

Het meest opmerkelijke resultaat is dat de agent nieuwe architecturale patronen ontdekte die niet eerder in de literatuur werden beschreven en niet expliciet in de prompts stonden:

Physics-informed Monotonic Decay Heads: Een module die de fysische wetmatigheid dat zonnestraling na de middag monotoon afneemt, encodeert via een leerbaar mechanisme met regularisatie.
Per-station Learned Diurnal Profiles: In plaats van één globaal dagpatroon, leert de agent station-specifieke profielen om lokale schaduw en oriëntatie te modelleren.
Learnable Hourly Bias Correction: Een nieuwe kalibratietechniek voor lastvoorspelling waarbij de bias correctie evenredig is aan de voorspelde grootte, in plaats van vaste tijdsfeatures.

4. Betekenis en Conclusie

SEA-TS demonstreert dat autonome ML-engineering verder kan gaan dan het optimaliseren van bestaande hyperparameters of architecturen. Het systeem is in staat om:

Genuanceerde logische fouten te detecteren en te corrigeren via dynamische prompt-verfijning.
Fysische kennis autonoom te integreren in de modelarchitectuur zonder expliciete instructies.
SOTA prestaties te behalen die menselijke experts en bestaande SOTA-modellen overtreffen.

De studie suggereert dat zelf-evoluerende agenten een paradigmaverschuiving kunnen teweegbrengen in het ML-ontwerp, waarbij de agent niet alleen een tool is voor snellere iteratie, maar een partner die genuanceerde, nieuwe algoritmische ideeën genereert die buiten het bereik van menselijk handmatig ontwerp liggen.

Toekomstige richtingen omvatten multi-objective optimalisatie (snelheid vs. nauwkeurigheid), context-pruning om kosten te verlagen, en het automatisch ontdekken van dimensies voor het diversiteitsarchief.