SelfAI: A self-directed framework for long-horizon scientific discovery

Dit paper introduceert SelfAI, een zelfgestuurd multi-agentkader dat wetenschappelijke ontdekking automatiseert als een strategisch, trajectgedreven beslissingsproces dat hoge-kwaliteit oplossingen efficiënter vindt dan bestaande methoden door een dynamische balans tussen efficiëntie en diversiteit te handhaven.

De kern

SelfAI: De Slimme Ontdekker die Weten Wanneer Hij Moet Stoppen

Stel je voor dat je een enorme, donkere schuur moet doorzoeken om de beste schat te vinden. De meeste huidige AI-systemen gedragen zich als een hond die blindelings overal snuffelt. Ze rennen heen en weer, vinden misschien wel de schat, maar vergeten vaak dat ze al 99 keer in een lege hoek hebben gezocht. Ze stoppen pas als ze moe zijn of als de tijd op is, niet omdat ze weten dat er niets meer te vinden is.

SelfAI is anders. Het is alsof je een ervaren schatzoeker met een kaart en een kompas in de schuur stopt. Deze schatzoeker (SelfAI) doet niet alleen het zoeken, maar denkt ook na over hoe hij zoekt, waar hij moet zijn, en, heel belangrijk: wanneer hij moet stoppen.

Hier is hoe het werkt, vertaald naar alledaagse taal:

1. Het Drie-Persoons Team

SelfAI is geen enkele robot, maar een team van drie digitale helpers die samenwerken:

• De Ontvanger (User Agent): Dit is de vertaler. Jij zegt: "Ik wil een betere manier vinden om foto's te herkennen." De Ontvanger vertaalt die wens naar een strakke, duidelijke opdracht voor de rest van het team. Geen vaag gedoe, maar een exacte lijst met wat er moet gebeuren.
• De Denker (Cognitive Agent): Dit is het brein. Deze agent kijkt naar alle eerdere pogingen. "Oh," denkt hij, "de laatste 5 keer dat we deze instelling gebruikten, werkte het niet. Laten we dat niet meer proberen." Hij ziet patronen, maakt plannen en beslist of het zoeken zinvol is of niet. Hij is de strateeg die de route plakt.
• De Uitvoerder (Experiment Manager): Dit is de handenarbeider. Hij voert de proeven uit, zorgt dat de computers niet vastlopen, en houdt alles bij. Hij is degene die daadwerkelijk de schuifjes op de radio verdraait om te kijken of het geluid beter wordt.

2. Het Grote Probleem: "Blijven Doen" vs. "Weten Stoppen"

In de wetenschap (of als je een recept probeert te perfectioneren) is het vaak zo dat je eerst veel dingen uitprobeert. Soms vind je iets goeds, maar daarna word je steeds minder effectief. Je blijft maar proberen, terwijl de verbetering maar heel klein is. Dit noemen we "diminishing returns" (opbrengstvermindering).

De meeste AI's blijven maar doorgaan tot ze moe zijn. SelfAI heeft een slimme truc: Adaptief Stoppen.
Stel je voor dat je een puzzel legt. Als je al 90% hebt gelegd en de laatste stukjes zijn onmogelijk te vinden zonder uren te zoeken, dan zegt SelfAI: "Oké, dit is goed genoeg. Laten we stoppen en de volgende puzzel doen." Het voorkomt dat je tijd verspillen aan het zoeken naar een perfect stukje dat er misschien niet is.

3. De Twee Maatstaven voor Succes

De auteurs van het artikel hebben twee nieuwe manieren bedacht om te meten of een AI slim zoekt, niet alleen of hij een goed resultaat haalt:

• De Score (Efficiëntie): Hoe snel vond je iets goeds? Als je de schat vindt na 10 minuten, is dat beter dan na 10 uur, zelfs als de schat hetzelfde is.
• De AUPD (Diversiteit): Hoe breed heb je gezocht? Als je alleen in de hoek zoekt waar je al was, is dat niet slim. SelfAI zorgt ervoor dat je ook in de onbekende hoeken kijkt, maar niet te lang blijft hangen als het daar saai is.

4. Wat Heeft Het Opgeleverd?

De auteurs hebben SelfAI getest op allerlei moeilijke taken: van het voorspellen van huizenprijzen tot het vinden van nieuwe medicijnen en het verbeteren van medische beeldvorming.

Het resultaat?

• Minder Verspilling: SelfAI vond net zo goede oplossingen als de beste andere methoden, maar deed dit met veel minder pogingen. Het was alsof hij de schat vond met de helft van de energie.
• Slimmer dan de Grootsten: Soms denken we dat een grotere, krachtigere AI (zoals een gigantische supercomputer) altijd beter is. Maar SelfAI liet zien dat een slimme strategie (de Denker) belangrijker is dan alleen maar groot en krachtig zijn. Een slimme, middelgrote AI met SelfAI deed het vaak beter dan een enorme, domme AI die maar blijft doorgaan.

Conclusie

SelfAI is als een slimme kok die niet alleen een recept volgt, maar ook proeft, nadenkt over de smaak, en weet wanneer het gerecht perfect is en wanneer hij moet stoppen met roeren. Het maakt wetenschappelijk ontdekken sneller, goedkoper en minder vermoeiend voor de menselijke wetenschappers, zodat zij zich kunnen richten op de grote ideeën terwijl de AI het lange, saaie werk van het testen en optimaliseren doet.

Kortom: SelfAI leert AI's niet alleen hoe te zoeken, maar ook wanneer ze moeten stoppen. En dat is een enorme stap vooruit.

Technische samenvatting

Probleemstelling

Wetenschappelijke ontdekking vereist steeds vaker het verkennen van complexe hypotheseruimtes over lange tijdsperiodes ("long-horizon"). Bestaande AI-aangedreven systemen voor wetenschappelijke ontdekking hebben echter enkele fundamentele beperkingen:

• Focus op eindresultaat: De meeste bestaande methoden (vaak gebaseerd op machine learning of recente LLM's) richten zich primair op het maximaliseren van de eindprestatie, zonder inzicht te geven in hoe het ontdekkingsproces verloopt.
• Gebrek aan strategisch redeneren: Ze behandelen ontdekking vaak als een reeks geïsoleerde stappen in plaats van een sequentieel, strategisch beslissingsproces. Er wordt weinig aandacht besteed aan het balanceren van efficiëntie versus diversiteit, het optimaliseren van hulpbronnenallocatie, of het nemen van adaptieve beslissingen over wanneer een zoekproces moet worden gestopt.
• Inefficiëntie: Zonder expliciete strategieën voor stoppen of pad-selectie leiden deze systemen vaak tot redundante experimenten, vertraagde convergentie en het vastlopen in lokale minima, zelfs als ze uiteindelijk een goede oplossing vinden.

Methodologie: Het SelfAI Framework

SelfAI is een zelfgestuurd, multi-agent systeem dat wetenschappelijke ontdekking modelleert als een traject-gedreven beslissingsproces. Het systeem integreert menselijke intentie, exploratie-redenering en experimentele uitvoering in een gesloten lus.

Het framework bestaat uit drie kernagenten en externe tools:

1. User Agent (Gebruikersagent):

   • Vertaalt hoge-level onderzoeksintenties (natuurtaal) naar gestructureerde, machine-leesbare experimentconfiguraties (YAML-formaat).
   • Definieert de zoekruimte, optimalisatiedoelen, trial-begroting en historische data.
   • Fungeert als interface tussen de menselijke onderzoeker en het autonome systeem.

2. Cognitive Agent (Cognitieve Agent):

   • Dit is het "brein" van het systeem dat iteratieve beslissingen neemt op basis van opgebouwde experimentele trajecten.
   • Het werkt in drie fasen:
     • Hypothese-generatie: Identificeert veelbelovende gebieden in de zoekruimte op basis van eerdere resultaten.
     • Strategische planning: Vertaalt hypothesen naar concrete experimentvoorstellen die een balans zoeken tussen exploitatie (verfijnen van goede configuraties) en exploratie (verkennen van onzekere gebieden).
     • Stop-beslissing (Adaptive Stopping): Evalueert voortdurend of het voortzetten van de zoektocht zinvol is. Het past het "optimal stopping"-principe toe om onproductieve paden vroegtijdig te beëindigen en verminderende meeropbrengsten te vermijden.

3. Experiment Manager (Experimentbeheerder):

   • Coördineert de uitvoering van experimenten, inclusief hulpbronnenbeheer (GPU/TPU), foutherstel, checkpoint-beheer en parallelle uitvoering.
   • Zorgt voor logistiek en logging van alle trials.

Nieuwe Evaluatiemetrics:
Om de kwaliteit van het ontdekkingsproces te meten, introduceert het paper twee nieuwe metrics die verder gaan dan alleen de eindscore:

• Score (Ontdekkings-efficiëntie): Combineert genormaliseerde verbetering met straffen voor het laat ontdekken van optimale configuraties en het te lang doorgaan na het plateau van prestaties.
• AUPD (Area Under the Performance-Diversity Curve): Kwantificeert de diversiteit van de verkende oplossingen en hoe prestatieverbeteringen over het traject zijn verdeeld. Een lage AUPD duidt op efficiënte, gerichte exploratie.

Belangrijkste Bijdragen

1. Paradigmaverschuiving: SelfAI verschuift de focus van "uitvoerings-georiënteerde autonomie" naar "cognitieve autonomie", waarbij het systeem redeneert over de strategie van ontdekking zelf.
2. Traject-georiënteerd Redeneren: Het introduceert een framework dat de volledige geschiedenis van experimenten gebruikt om adaptieve strategieën te vormen, in plaats van alleen te kijken naar de laatste iteratie.
3. Adaptieve Stop-mechanismen: Het biedt een systematische aanpak om onproductieve zoekpaden te beëindigen, wat leidt tot aanzienlijke besparingen in rekentijd en experimentele kosten.
4. Uitgebreide Benchmark: Het introduceert een nieuwe benchmark met 12 real-world taken uit zes domeinen (wetenschappelijk rekenen, machine learning, computer vision, medische beeldanalyse, geneesmiddelenontwikkeling), specifiek ontworpen om lange-horizon ontdekking te testen.

Resultaten

SelfAI werd geëvalueerd tegen klassieke optimalisatiemethoden (zoals Grid Search en Bayesian Optimization) en recente LLM-baselines (zoals standaard LLM's en LLM met Early Stopping) over diverse domeinen.

• Superieure Efficiëntie: SelfAI ontdekt consistent hoogwaardige oplossingen met aanzienlijk minder redundante trials dan de concurrentie. In de benchmark behaalde SelfAI de hoogste "Score" en de laagste "AUPD" (betekenis: efficiëntere exploratie).
• Vroege Stop: SelfAI stopt de zoektocht significant eerder dan andere methoden wanneer prestaties plateauën, zonder in te leveren op de kwaliteit van de gevonden oplossing.
• Onafhankelijkheid van Modelgrootte: Een opvallende bevinding is dat grotere taalmodellen (bijv. 70B parameters) niet per se beter presteren. Soms leiden grote modellen tot overmatige exploratie of te vroeg stoppen. Middelgrote modellen (bijv. 7B-32B), wanneer geleid door het SelfAI-framework, tonen vaak stabielere trajecten en betere efficiëntie.
• Domeinoverstijgende Toepasbaarheid: De resultaten zijn consistent over uiteenlopende taken, van het optimaliseren van hyperparameters voor ResNet en SIREN tot het vinden van bio-actieve verbindingen in geneesmiddelenontwikkeling.

Betekenis en Impact

Dit werk markeert een belangrijke stap in de evolutie van AI voor wetenschappelijke ontdekking:

• Van Optimalisatie naar Ontdekking: Het stelt wetenschappers in staat om niet alleen een specifiek probleem op te lossen, maar het proces van ontdekking zelf te bestuderen en te optimaliseren.
• Mens-AI Samenwerking: Door de scheiding tussen hoge-level intentie en lage-level uitvoering, biedt SelfAI een transparante interface waarbij menselijke expertise de richting bepaalt, terwijl AI de zware, repetitieve zoektocht uitvoert.
• Duurzaamheid: Door het verminderen van redundante experimenten en het vroegtijdig stoppen van onproductieve zoektochten, draagt het bij aan een duurzamere en kosteneffectievere wetenschappelijke praktijk.
• Toekomstperspectief: Het framework legt de basis voor volledig autonome wetenschappelijke laboratoria die complexe, lange-termijn onderzoeksdoelen kunnen aanpakken met een strategisch inzicht dat tot nu toe ontbrak in geautomatiseerde systemen.