A-SR: Self-Evolving Agentic LLMs for Symbolic Regression via Hierarchical Coordination

Stel je voor dat je een detective bent die een mysterie probeert op te lossen, maar in plaats van vingerafdrukken of alibi's, zijn je aanwijzingen getallen op een spreadsheet. Je doel is om het verborgen "recept" te vinden—een net, opgeschreven wiskundige vergelijking—die uitlegt hoe die getallen zich gedragen. Dit is de wereld van Symbolische Regressie. In tegenstelling tot standaard computerprogramma's die alleen getallen verwerken om een antwoord te geven, probeert symbolische regressie de werkelijke natuurwet te schrijven, zoals $F=ma$ of de formule voor zwaartekracht, op een manier die een mens kan lezen en begrijpen. Het is het verschil tussen een black box die het weer voorspelt en een meteoroloog die kan uitleggen waarom de storm eraan komt.

Lange tijd hebben wetenschappers computers gebruikt om op zoek te gaan naar deze recepten, maar het proces is vaak onhandig. Het is alsof je een kapot horloge probeert te repareren door willekeurig tandwielen te vervangen en te hopen dat het weer gaat tikken. Als het horloge niet werkt, krijgt de computer gewoon een "slechte score" en probeert het opnieuw, waarbij het vaak dezelfde fouten steeds opnieuw maakt. Recentelijk zijn wetenschappers begonnen met het gebruik van Large Language Models (LLM's)—de superintelligente AI-chatbots die je misschien kent—om te helpen bij het schrijven van deze vergelijkingen. Deze AI's zijn erg goed in het raden van welke woorden (of wiskundige symbolen) als volgende moeten komen, maar ze kunnen nog steeds vastlopen, vergelijkingen schrijven die geen zin hebben, of in de war raken wanneer de data ingewikkeld wordt. De grote vraag is: hoe krijgen we deze AI-detectives om te stoppen met willekeurig gokken en te beginnen te werken als een echt team van experts?

Ontmoet A-SR, een nieuwe methode die de zoektocht naar wiskundige formules niet behandelt als een solistische daad, maar als een goed georkestreerde teaminspanning. De onderzoekers achter dit artikel, Wenxiao Zhao en hun collega's, realiseerden zich dat de oude manier van doen te rigide was. In het verleden stelde een AI simpelweg een vergelijking voor, kreeg een score en probeerde het opnieuw. Als de vergelijking kapot was, probeerde de AI het misschien te repareren door meer getallen toe te voegen, of als het te simpel was, probeerde het de complexiteit te vergroten, zonder echt te begrijpen waarom het faalde.

A-SR verandert het spel door de AI een "manager" en een team van specialisten te geven. Stel je een redactie voor waar de hoofdredacteur (de Coördinator) niet alleen één verslaggever vraagt om een verhaal te schrijven. In plaats daarvan kijkt de redacteur naar de gebeurtenissen van de dag en beslist welke specialist nodig is. Als het verhaal vol fouten zit, roept de redacteur de Reviewer erbij om de feiten te controleren. Als het verhaal saai is en een nieuwe invalshoek nodig heeft, wordt de Generator opgeroepen om wilde ideeën te brainstormen. Als het verhaal te lang en verwarrend is, wordt de Simplifier ingezet om de overbodige zaken weg te snijden. En als er een essentieel puzzelstukje ontbreekt, duikt de Analyst in de archieven om de ontbrekende schakel te vinden.

Wat A-SR bijzonder maakt, is dat dit team niet een vast schema volgt. De "Redacteur" is zelf-evoluerend. Het observeert hoe de zoektocht in realtime verloopt. Als het team in een lus van fouten terechtkomt, verandert de Redacteur de strategie, bijvoorbeeld door het team te vertellen om te stoppen met het verkennen van nieuwe ideeën en zich te concentreren op het repareren van de kapotte onderdelen. Het houdt ook een "geheugen" bij van wat wel en niet werkte, en stuurt die informatie door naar de juiste specialist. Bijvoorbeeld, als het team steeds faalt vanwege een specifiek type wiskundige fout, wordt die fout naar de Reviewer gestuurd, die het team vervolgens leert hoe ze de volgende keer die fout kunnen vermijden.

Het artikel laat zien dat deze aanpak ongelooflijk goed werkt. Wanneer het werd getest op een verscheidenheid aan wetenschappelijke puzzels—van hoe chemicaliën reageren tot hoe materialen onder druk staan—vond A-SR veel vaker de juiste wiskundige "recepten" dan eerdere methoden. In een reeks tests, waarbij een model genaamd Llama3.1-8B werd gebruikt, steeg het succespercentage van ongeveer 25,79% naar 48,30%. Dat is bijna het verdubbelen van het aantal problemen dat de AI correct kon oplossen. Nog indrukwekkender is dat toen ze de lessen die geleerd waren tijdens deze teaminspanningen toepasten op een kleiner, open-source AI-model (Qwen3-4B), het succespercentage van dit kleinere model ook aanzienlijk steeg, van 24,58% naar 38,29%.

De onderzoekers testten A-SR ook op echte wetenschappelijke data, zoals de groei van bacteriën en de trillingen van mechanische systemen. In deze lastige, ruisgevoelige scenario's uit de echte wereld, slaagde A-SR erin om in 7 van de 8 gevallen de beste wiskundige beschrijvingen te vinden, waarmee het andere topmethoden versloeg. De belangrijkste les is niet alleen dat de AI beter is geworden in wiskunde; het is dat de AI heeft geleerd om na te denken over zijn eigen fouten. In plaats van blindelings miljoenen willekeurige combinaties te proberen, leerde het zijn eigen fouten te diagnosticeren, van rol te wisselen wanneer nodig, en zijn geheugen te gebruiken om dezelfde fouten te vermijden. Het is een verschuiving van een chaotische solo-zoektocht naar een slimme, gecoördineerde teaminspanning, waarbij elke agent precies doet waar hij het beste in is, geleid door een manager die weet wanneer hij nieuwe ideeën moet stimuleren en wanneer hij moet pauzeren en repareren wat kapot is.