🤖 machine learning

DrugSAGE:Self-evolving Agent Experience for Efficient State-of-the-Art Drug Discovery

DrugSAGE is een zelfevoluerend agentframework dat cross-task-ervaringen—zoals geverifieerde vaardigheden, effectieve strategieën en foutoplossingen—accumuleert en hergebruikt om op efficiënte wijze state-of-the-art geneesmiddelenontdekkingsmodellen te bouwen, waarmee het bestaande agenten aanzienlijk overtreft door de behoefte aan kostbare zoektochten op nieuwe taken te reduceren of te elimineren.

Oorspronkelijke auteurs: Yikun Zhang, Xiwei Cheng, Tianyu Liu, Yuanqi Du, Wengong Jin

Gepubliceerd 2026-05-18

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Yikun Zhang, Xiwei Cheng, Tianyu Liu, Yuanqi Du, Wengong Jin

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je probeert de perfecte taart te bakken volgens een specifiek, moeilijk recept. In de wereld van geneesmiddelenontwikkeling is deze "taart" een computermodel dat voorspelt hoe een nieuw geneesmiddel zich in het menselijk lichaam zal gedragen.

Momenteel, als een wetenschapper een taart wil bakken voor een nieuw recept (een nieuwe eigenschap van een geneesmiddel), begint hij meestal helemaal opnieuw. Hij moet raden welke ingrediënten hij moet gebruiken, verschillende oven temperaturen proberen, het beslag proeven, falen en opnieuw beginnen. Zelfs als hij 100 taarten bakt voor 100 verschillende recepten, gooit hij vaak alle lessen die hij na de eerste taart heeft geleerd weg. Hij behandelt elk nieuw recept als een gloednieuw mysterie, waardoor tijd en geld worden verspild aan het opnieuw leren van dingen die hij al weet.

DRUGSAGE is een nieuwe "slimme bakker" (een AI-agent) die de regels verandert. In plaats van zijn fouten en successen te vergeten, houdt hij een groot, evoluerend receptenboek bij dat slimmer wordt met elke taart die hij bakt.

Zo werkt het, opgesplitst in eenvoudige onderdelen:

1. Het "Receptenboek" (Het Geheugen)

De meeste AI-agenten hebben een kortetermijngeheugen; ze vergeten wat ze gisteren hebben gedaan. DRUGSAGE heeft een langetermijngeheugen dat bestaat uit drie specifieke secties:

De "Winnaarsrecepten" (Oplossingsgeheugen): Het onthoudt welke specifieke combinaties van ingrediënten (modellen en trainingsmethoden) in het verleden het beste hebben gewerkt voor vergelijkbare taken.
De "Chef's Notities" (Verfijningsgeheugen): Het onthoudt waarom een verandering werkte. Bijvoorbeeld: "Toen we de oventemperatuur met 10 graden verlaagden, rees de taart beter."
De "Rampenlog" (Uitvoeringsgeheugen): Het houdt een lijst bij van dingen die ervoor zorgden dat de keuken in brand vloog (codefouten, geheugen crashes) en exact hoe ze de volgende keer moeten worden opgelost.

2. De "Slimme Zoektocht" (Hoe het het beste model vindt)

Wanneer DRUGSAGE wordt gevraagd om een nieuwe taart te bakken, gokt het niet zomaar willekeurig. Het gebruikt een strategie genaamd MCTS (Monte Carlo Tree Search), wat vergelijkbaar is met het verkennen van een bos van mogelijke recepten.

Zonder Geheugen: Een agent dwaalt door het hele bos, probeert elk pad, zelfs die welke leiden tot doodlopende straten.
Met DRUGSAGE: Voordat het zelfs maar het bos in stapt, controleert het zijn Receptenboek. Het zegt: "Hé, voor een taart die op deze lijkt, werkte het 'chocoladechips'-pad laatst geweldig." Het slaat de doodlopende straten over en gaat rechtstreeks naar de veelbelovende paden.
De Garantie: Het artikel bewijst wiskundig dat zelfs met dit "spiekbriefje" uit het verleden, de agent gegarandeerd uiteindelijk de absolute beste oplossing vindt, alleen veel sneller.

3. De "Zero-Search" Superkracht

Dit is de meest indrukwekkende truc. Soms is het nieuwe recept zo vergelijkbaar met een oud recept dat DRUGSAGE helemaal niet hoeft te bakken.

Het Scenario: Als je het vraagt om te voorspellen hoe een geneesmiddel in water oplost, en het heeft al een zeer vergelijkbaar probleem opgelost over hoe een geneesmiddel in olie oplost, zou het kunnen zeggen: "Ik weet het antwoord al. Ik kopieer gewoon het winnende recept van de olietaak en gebruik het hier."
Het Resultaat: Het levert een topoplossing met nul extra testen of zoeken. Het is als een chef die, wanneer hij wordt gevraagd om een citroentaart te maken, beseft dat hij gisteren al een perfecte limoentaart heeft gemaakt en gewoon het fruit verwisselt, waardoor uren werk worden bespaard.

De Resultaten: Werkte het?

De auteurs testten deze "slimme bakker" op 33 verschillende uitdagingen in geneesmiddelenontwikkeling (zoals het voorspellen van toxiciteit, oplosbaarheid, of hoe goed een geneesmiddel aan een eiwit bindt).

Solo Prestatie: Wanneer gedwongen om alleen te werken zonder hulp, versloeg DRUGSAGE nog steeds alle andere top AI-agenten.
Teamwerk Prestatie: Wanneer het zijn geheugen uit 16 kleinere taken mocht gebruiken om te helpen bij 17 nieuwe, moeilijkere taken, verpletterde het de concurrentie.
De Grote Overwinning: In de "Zero-Search" modus (waar het gewoon eerdere oplossingen kopieert zonder te testen), presteerde het beter dan andere agenten die uren mochten besteden aan het zoeken naar antwoorden. Het was 10% tot 30% beter dan de concurrentie, zelfs al werkte de concurrentie veel harder.

In het Kort

DRUGSAGE is een AI die leert te leren. In plaats van elk probleem in geneesmiddelenontwikkeling als een frisse start te behandelen, behandelt het elk probleem als een les die de volgende makkelijker maakt. Het bouwt een bibliotheek van "geverifieerde vaardigheden" en "bewezen oplossingen", waardoor het complexe geneesmiddelenproblemen sneller, goedkoper en nauwkeuriger kan oplossen dan enig eerder systeem.

Technische Samenvatting: DRUGSAGE

Probleemstelling

Het bouwen van state-of-the-art (SOTA) voorspellende modellen voor drug discovery is een kostbaar zoekprobleem. Huidige agenten op basis van Large Language Models (LLM's) kunnen SOTA-prestaties behalen door uitgebreid te zoeken over tools, architecturen en trainingsstrategieën. Deze agenten behandelen echter doorgaans elke taak als een geïsoleerd probleem, waarbij ze alle opgebouwde zoekervaring (bijvoorbeeld effectieve featurisaties, trainingsrecepten of foutoplossingen) verwerpen zodra een taak is voltooid. Bijgevolg moeten ze voor elke nieuwe taak de volledige rekenkundige en token-zoekkosten betalen, wat het moeilijk maakt om de ontwikkeling van SOTA-modellen te schalen over de duizenden diverse voorspellingsproblemen die in drug discovery voorkomen.

Methodologie

De auteurs stellen DRUGSAGE (Self-evolving AGent Experience) voor, een raamwerk dat is ontworpen om ervaring over taken heen te accumuleren en opnieuw te gebruiken om SOTA drug discovery-modellen efficiënt te bouwen. Het systeem werkt via drie primaire componenten:

1. Uitvoerbare Vaardigheidsbibliotheek ( $K$ )

Voordat de begrote zoektocht begint, construeert een Explore Agent een gedeelde vaardigheidsbibliotheek door literatuur en GitHub-repositories te doorzoeken. Dit proces omvat:

Ontdekking: Het bevragen van literatuur vanuit meerdere expertperspectieven om relevante papers en repositories te identificeren.
Grondvesting: Het klonen van repositories en het extraheren van Abstract Syntax Tree (AST)-momentopnames om ervoor te zorgen dat de LLM alleen symbolen gebruikt die in de code zijn waargenomen.
Validatie: Het uitvoeren van getrapte controles (syntaxis, importoplossing, end-to-end uitvoering in zandbakken) met automatische reparatie. Alleen gevalideerde vaardigheden worden toegevoegd aan $K$ .

2. Cross-Task Ervaringsgeheugen ( $Z$ )

DRUGSAGE onderhoudt een persistent geheugen $Z = (R, H, Q)$ dat bewijsmateriaal van eerdere taken opslaat:

Oplossingsgeheugen ( $R$ ): Registreert de prestaties van model-families en specifieke oplossingen over verschillende taken, inclusief architectuur, hyperparameters en validatiescores.
Verfijningsgeheugen ( $H$ ): Bewaart informatie over randen in de zoekboom, inclusief door de LLM voorgestelde bewerkingen, redeneringen en de prestatiedelta's tussen ouder- en kindknopen.
Uitvoeringsgeheugen ( $Q$ ): Logt uitvoeringsfouten, geverifieerde oplossingen, resourceprofielen (runtime/geheugen) en omgevingssporen om snelle reparaties tijdens toekomstige runs mogelijk te maken.

3. Ervaringsgeconditioneerde Zoektocht

De kernzoeklus maakt gebruik van een Memory-Enhanced Monte Carlo Tree Search (MCTS) wanneer een zoekbudget ( $B > 0$ ) beschikbaar is. Het geheugen $Z$ stuurt vier fasen:

Root-selectie: Gebruikt een door geheugen verrijkte Upper Confidence Bound (UCB)-regel om model-families te selecteren, waarbij de huidige taakprestaties worden gebalanceerd met historische transfer-scores. De auteurs bewijzen dat deze wijziging de $O(|F| \log T)$ regret-bound van standaard UCB behoudt.
Ouder-sampling: Selecteert specifieke ouderoplossingen om uit te breiden op basis van de prestaties van de doeltaak, de breedte van de uitbreiding en historische prestaties.
Kindgeneratie: De LLM stelt bewerkingen voor die zijn gegrondvest op $H$ , waarbij relevante redeneringen en succesvolle recepten uit vergelijkbare eerdere taken worden opgehaald.
Uitvoering & Reparatie: Gebruikt $Q$ om omgevingen voor te bereiden en geverifieerde oplossingen direct toe te passen bij het tegenkomen van bekende fouten.

4. Zero-Test-Time Zoektocht (DRUGSAGE-ZERO)

Wanneer het zoekbudget nul is ( $B=0$ ), omzeilt het systeem de zoektocht volledig. Het vormt een taakhandtekening (taaktype, metriek, datasetgrootte, beschrijvingsembedding) om analoge taken in het geheugen $Z$ te identificeren. Het haalt de beste geverifieerde oplossing op van de meest vergelijkbare historische taak en zet deze direct in op de nieuwe doelstelling.

Belangrijkste Bijdragen

Raamwerkontwerp: Introductie van DRUGSAGE, een autonome agent die cross-task geheugen integreert in een op MCTS gebaseerde zoeklus. De auteurs bieden een formele garantie dat het door geheugen verrijkte selectiebeleid de regret-bound van standaard UCB behoudt.
Geautomatiseerde Vaardigheidsontdekking: In tegenstelling tot eerdere werken (bijvoorbeeld Autoresearch) die door gebruikers aangeleverde of top-leaderboard-modellen verfijnen, bouwt DRUGSAGE automatisch een vaardigheidsbibliotheek door literatuur en repositories te doorzoeken, waardoor de behoefte aan door mensen samengestelde startpunten wordt verwijderd en de zoekruimte wordt verbreed.
Efficiëntie bij Zero-Test-Time: Demonstratie dat cross-task geheugen een regime van "zero-test-time search" mogelijk maakt. DRUGSAGE-ZERO verplaatst geverifieerde oplossingen naar nieuwe taken zonder enige zoektocht tijdens de testfase, en presteert beter dan basisagenten die 20 zoekiteraties uitvoeren.

Experimentele Resultaten

Het raamwerk werd geëvalueerd op 33 moleculaire eigenschapsvoorspellings taken over twee benchmarks: Therapeutic Data Commons (TDC) en Polaris Hub.

Single-Task Setting: In een setting waarin agenten oplossingen vanaf nul bouwen zonder cross-task geheugen, behaalde DRUGSAGE de eerste plaats onder negen SOTA-agenten (waaronder Autoresearch, STELLA en Biomni) met een gemiddelde rang van 1,95 en 10 overwinningen op 22 taken.
Cross-Task Setting: Met behulp van geheugen opgebouwd uit 16 kleinere taken, werd DRUGSAGE geëvalueerd op 17 vastgehouden taken.
- DRUGSAGE-ZERO ( $B=0$ ): Bereikte een gemiddelde genormaliseerde score van 0,935 op 17 vastgehouden taken, en presteerde 10–30% beter dan alle basisagenten (die tot 20 zoekstappen gebruikten).
- Efficiëntie: DRUGSAGE-ZERO liep bijna geen LLM-API-kosten op tijdens de testfase, terwijl baselines aanzienlijke reken- en token-budgetten vereisten voor iteratieve zoektochten.
- Prestaties: In specifieke gevallen (bijvoorbeeld Oplosbaarheid en CYP2D6-remming) presteerde de zero-shot transfer-oplossing beter dan de volledige zoekversie van DRUGSAGE, wat suggereert dat de overgedragen strategie superieur was aan wat de agent binnen het budget vanaf nul kon ontdekken.

Betekenis en Claims

Het paper claimt dat DRUGSAGE het distinctieve voordeel van cross-task geheugen demonstreert voor efficiënte SOTA-modelontwikkeling in drug discovery. Door elke taak te behandelen als een ervaring die de agent verrijkt voor toekomstige taken, verkleint het systeem de zoekruimte en kan het in sommige gevallen de zoektocht volledig omzeilen. Het werk benadrukt dat veel drug discovery-taken structurele overeenkomsten delen (invoer/uitvoerstructuur, behoeften aan featurisatie) die huidige agenten over het hoofd zien, en dat het accumuleren van geverifieerde vaardigheden en statistisch bewijs snelle aanpassing aan nieuwe problemen mogelijk maakt zonder de volledige kosten van iteratief trial-and-error. De auteurs merken op dat hoewel het raamwerk voornamelijk is getest op drug discovery, de aanpak van het accumuleren van gestructureerde cross-task ervaring kan worden gegeneraliseerd naar andere wetenschappelijke onderzoeksgebieden.