🤖 machine learning

ScreenShot: A Foundation Model for Few-Shot Combination Drug Screening

ScreenShot is een hiërarchaal transformer-fundamentmodel dat in-context leren op 40 drugscreeningdatasets benut om nauwkeurig patiëntreacties op combinatietherapieën te voorspellen met slechts een beperkte hoeveelheid functionele context, waardoor de noodzaak voor moleculaire profilering of fine-tuning wordt geëlimineerd terwijl kosteneffectief experimenteel ontwerp door middel van active learning mogelijk wordt gemaakt.

Oorspronkelijke auteurs: Antoine de Mathelin, Christopher Tosh, Wesley Tansey

Gepubliceerd 2026-08-13

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Antoine de Mathelin, Christopher Tosh, Wesley Tansey

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een detective bent die een mysterie probeert op te lossen, maar in plaats van vingerafdrukken of DNA, zijn je aanwijzingen minuscule druppels vloeistof en zijn je verdachten duizenden verschillende medicijnen. In de wereld van kankerbehandeling gebruiken artsen vaak een "cocktail" van medicijnen in plaats van slechts één middel, omdat kankercellen slim zijn en kunnen leren om zich tegen een enkele aanvaller te verzetten. Om de perfecte cocktail te vinden, moeten wetenschappers meestal elke mogelijke mix van medicijnen op de cellen van een patiënt testen in een laboratorium. Dit is als proberen een speld in een hooiberg te vinden door elke strohalm één voor één te verwijderen. Het duurt eeuwen, kost een fortuin, en vaak is er niet genoeg "hooi" (of patiëntencellen) beschikbaar.

Dit is waar het idee van "de toekomst voorspellen" om de hoek komt kijken. Wetenschappers hebben computermodellen gebouwd om te raden welke medicijnmengsels zullen werken zonder dat ze ze allemaal hoeven te testen. Maar de meeste van deze modellen zijn als studenten die alleen slagen voor een examen als ze het specifieke tekstboek voor dat vak uit hun hoofd hebben geleerd. Ze hebben een enorme hoeveelheid gedetailleerde biologische data nodig (zoals de genetische code van een patiënt) om een gok te wagen. Als die data ontbreken of rommelig zijn — wat vaak gebeurt bij echte patiënten — raken deze modellen in de war. De grote vraag is: Kunnen we een superintelligente AI bouwerken die leert van alle drugsexperimenten die ooit zijn uitgevoerd, zodat deze met slechts een paar nieuwe aanwijzingen van een enkele patiënt direct de beste behandeling kan raden, zonder dat daar extra biologische data voor nodig is?

Maak kennis met ScreenShot, een nieuwe AI-tool ontwikkeld door onderzoekers van het Memorial Sloan Kettering Cancer Center die probeert "ja" op die vraag te antwoorden. Zie ScreenShot niet als een student die een tekstboek uit zijn hoofd heeft geleerd, maar als een meesterkok die miljoenen verschillende gerechten heeft geproefd. In plaats van de exacte ingrediëntenlijst (de genetische code) van een nieuw gerecht te moeten kennen om te raden hoe het smaakt, kijkt ScreenShot naar de paar happen die je al hebt genomen en zegt: "Ah, gebaseerd op hoe dit smaakte met zout en peper, wed ik dat dit geweldig zou gaan met knoflook en tijm."

De onderzoekers bouwden deze AI op een enorme "fundering" van data, door het te trainen op ongeveer 30 miljoen metingen uit 40 verschillende drug-screening datasets. Deze training omvatte ongeveer 3.700 verschillende medicijnen die getest zijn op 6.000 biologische monsters (zoals kankercellen gekweekt in een laboratorium of kleine menselijke "mini-organen" van patiënten). De AI leerde de patronen van hoe medicijnen met cellen interageren door simpelweg naar de resultaten te kijken: welk medicijn, bij welke dosis, liet de cellen leven of sterven.

Hier zit de magische truc: ScreenShot maakt gebruik van een techniek genaamd in-context learning. Stel je voor dat je de AI een paar testresultaten laat zien van een nieuwe patiënt (bijvoorbeeld 50 of 100 experimenten). De AI heeft geen hertraining of "fine-tuning" voor die specifieke patiënt nodig. In plaats daarvan gebruikt de AI die paar voorbeelden direct als een contextvenster om de resultaten van de duizenden medicijncombinaties te voorspellen die hij nog niet heeft gezien. Dit doet de AI rechtstreeks op basis van de functionele resultaten (overleefde de cel of niet?) zonder dat er genetische profilering nodig is.

Het onderzoek laat zien dat ScreenShot ongelooflijk goed is in dit werk. Wanneer het werd getest op vier nieuwe, onbekende datasets, presteerde ScreenShot beter dan alle voorgaande beste methoden, zowel wat betreft nauwkeurigheid als in het vinden van de "hits"—de medicijncombinaties die daadwerkelijk kankercellen doden terwijl ze gezonde cellen met rust laten. Sterker nog, bij sommige tests was het 5 tot 50 keer sneller dan de andere methoden.

Maar de onderzoekers stopten niet bij alleen het voorspellen; ze leerden ScreenShot ook hoe het een slimme experimentator kan zijn. Ze creëerden een strategie genaamd active learning. In plaats van medicijnen willekeurig te testen, gebruikt ScreenShot zijn eigen voorspellingen om te beslissen welke experimenten het volgende uitgevoerd moeten worden. Het is als een detective die, na het verhoren van een paar verdachten, besluit zich te concentreren op de meest waarschijnlijke daders in plaats van iedereen in de stad te ondervragen. Het onderzoek laat zien dat het gebruik van deze slimme strategie ervoor zorgt dat ScreenShot evenveel effectieve medicijn-hits vindt als een willekeurige zoektocht, maar dat het slechts één derde van de experimenten hoeft uit te voeren. Dit betekent een enorme besparing in tijd, geld en kostbare patiëntencellen.

Een van de meest indrukwekkende aspecten van ScreenShot is dat het werkt, zelfs wanneer het medicijn nieuw of onbekend is voor het systeem. Als een medicijn niet in de trainingsdata zat, gebruikt ScreenShot een speciale "onbekend" token om het gedrag te voorspellen op basis van de enkele aanwijzingen van de huidige patiënt, in plaats van volledig te falen.

Kortom, het artikel suggereert dat ScreenShot een krachtig nieuw hulpmiddel kan zijn dat drug-screening veel efficiënter kan maken. Het suggereert dat we kunnen bewegen van dure, trage en data-hongerige methoden naar een systeem dat leert van het verleden om de toekomst te sturen, wat potentieel artsen kan helpen om de juiste medicijncocktail voor een patiënt veel sneller te vinden. Hoewel de resultaten sterk zijn in deze computersimulaties en bij geteste datasets, presenteert het artikel dit als een belangrijke stap voorwaarts in het laboratorium, wat de weg vrijmaakt voor efficiëntere experimenten in de echte wereld.

Technische Samenvatting: ScreenShot

Probleemstelling

De identificatie van effectieve combinatietherapieën met medicijnen is cruciaal voor het verminderen van resistentie, maar wordt gehinderd door de evenredig grote zoekruimte van potentiële combinaties. Traditionele combinatorische schermen zijn vaak technisch onhaalbaar, tijdrovend en duur, vooral in klinische settings waar patiënt-afgeleide monsters een beperkt aantal cellen opleveren. Bestaande predictieve modellen proberen dit gat te overbruggen, maar vertrouwen doorgaans op genomische of transcriptomische profilering (omics-data) en vereisen per cohort of per patiënt fijnafstemming (fine-tuning). Deze vereisten beperken de toepasbaarheid wanneer weefsel schaars is, moleculaire profilering niet beschikbaar is of inconsistent is. Bov�elijke falen veel bestaande methoden om continue dosis-responsrelaties voor combinaties te modelleren of vertrouwen op 'flat attention'-mechanismen die kwadratisch schalen met de contextgrootte, wat hen inefficiënt maakt voor few-shot scenario's.

Methodologie

ScreenShot Architectuur

ScreenShot is een hiërarchisch transformer-fundatiemodel ontworpen voor few-shot voorspelling in combinatie drug screens. Het werkt direct op functionele metingen (drug-identiteit, dosis en levensvatbaarheid) zonder dat moleculaire profilering of fine-tuning op nieuwe monsters vereist is. De architectuur weerspiegelt de geneste structuur van screeningdata via drie niveaus:

Level 1: Drug Combination Encoder (DCE): Codeert individuele drug-dose paren. Drug-identiteiten worden gemapt naar geleerde embeddings gebaseerd op functioneel gedrag over diverse monsters, in plaats van op chemische structuur. Doses worden gecodeerd via geleerde Fourier-features. Een transformer encoder verwerkt de sequentie van drugs binnen een combinatie met behulp van self-attention om interactie-effecten te vangen, en aggregeert deze tot een enkele combinatie-embedding.
Level 2: Response Encoder (RE): Voert cross-attention uit tussen een query (ongeteste drug-dose conditie) en de few-shot context (geobserveerde drug-dose-viability tuples). Context-observaties worden verrijkt met hun gemeten levensvatbaarheid. Dit niveau stelt de query in staat om bewijs te extraheren uit dosis-responscurves van vergelijkbare perturbaties die in de context zijn waargenomen.
Level 3: Sample Encoder (SE): Aggregeert informatie over alle geobserveerde perturbaties voor een specifieke sample met behulp van self-attention. Dit propageert bewijs over verschillende drug-combinaties (bijv. door het gebruik van de respons-patronen van de ene drug om voorspellingen voor gerelateerde drugs te informeren). Een lineaire head gevolgd door een sigmoid geeft de uiteindelijke levensvatbaarheidsschatting.

Dit hiërarchische ontwerp vermindert de computationele complexiteit van $O(n^2)$ (flat attention) naar $O(n + p^2)$ , waarbij $n$ het aantal observaties is en $p$ het aantal unieke perturbaties, wat de efficiëntie aanzienlijk verbetert.

Pretraining en In-Context Learning

ScreenShot is voorgetraind op een pan-cancer atlas bestaande uit 40 drug screening datasets (ongeveer 30 miljoen levensvatbaarheidsmetingen, 3.700 drugs, 6.000 samples). Het trainingsdoel volgt een in-context learning paradigma:

Input: Een context-set $D_s$ (gelabelde drug-dose-viability tuples) en een query-set $Q_s$ .
Taak: Voorspel levensvatbaarheid voor queries in $Q_s$ geconditioneerd op $D_s$ .
Optimalisatie: Het model minimaliseert de Mean Absolute Error (MAE) over de query-set.
Mechanisme: Tijdens inferentie generaliseert het model naar nieuwe, ongeziene samples volledig via zijn voorgetrainde attention-mechanisme. Het conditioneert op de verstrekte few-shot context via cross-attention, waardoor de noodzaak voor gradiënt-updates of fine-tuning vervalt.

Active Learning Strategie

Om de bottleneck bij het beslissen welke experimenten uitgevoerd moeten worden aan te pakken, stellen de auteurs een multi-round active learning pipeline voor:

Cold-Start: Een initiële batch wordt geselecteerd met behulp van $k$ -medoids clustering op Level 1 drug-dose embeddings om dekking van de behandelingruimte te garanderen voordat er enige levensvatbaarheid wordt waargenomen.
Adaptive Rounds: Vervolgbatches worden geselecteerd met behulp van weighted $k$ -means++ seeding op Level 3 context-geconditioneerde embeddings. Kandidaten worden gewogen op basis van hun voorspelde differentiële levensvatbaarheid ( $\Delta_t = \hat{y}_{target} - \hat{y}_{control}$ ). Dit geeft prioriteit aan waarschijnlijke "hits" (selectief effectieve behandelingen) terwijl de diversiteit in de selectie behouden blijft.

Belangrijkste Bijdragen

Fundatiemodel voor Functionele Drug Respons: ScreenShot is het eerste fundatiemodel voor drug screening dat puur opereert op drug-dose-viability metingen, zonder dat omics-features of per-patiënt training nodig is. Het ondersteunt monotherapie en willekeurige combinatiegroottes.
Embedding-gestuurd Experimenteel Ontwerp: De auteurs introduceren een praktisch screeningbeleid dat de voorgetrainde embeddings van het model gebruikt voor cold-start selectie en context-geconditioneerde embeddings voor active learning, waarbij expliciet de afweging wordt gemaakt tussen het testen van veelbelovende behandelingen en het dekken van het ontwerpveld.
Efficiënte Hiërarchische Architectuur: Het model maakt gebruik van een hiërarchisch attention-mechanisme dat aansluit bij de compositionele structuur van de data, wat aanzienlijke computationele voordelen biedt ten opzichte van flat attention baselines, terwijl het ook multi-granulairiteit representaties vastlegt.

Experimentele Resultaten

Het model werd geëvalueerd op vier held-out datasets: PDO-Breast (monotherapie ex vivo), BATCHIE, NCI-ALMANAC, en GDSC-SQ (combinatie schermen).

Voorspellingsnauwkeurigheid: ScreenShot bereikte een state-of-the-art Pearson correlatie over alle datasets en budgetten (10 tot 300 few-shot observaties), waarbij het superieur was aan baselines inclusief XGBoost, TabPFN en fine-tuned MLPs.
Hit Detectie: Wat betreft het identificeren van selectief effectieve behandelingen (Top-10% hits in de Top-20% voorspellingen), presteerde ScreenShot consistent beter dan alle baselines. Bijvoorbeeld, op de BATCHIE dataset met 100 shots, behaalde ScreenShot een hit recall van 72,6% vergeleken met 63,9% voor de op één na beste methode.
Active Learning Efficiëntie: De voorgestelde adaptieve selectiestrategie verbeterde de hit detectie aanzienlijk ten opzichte van willekeurige of alleen cold-start selectie. Op BATCHIE bereikte de adaptieve strategie dezelfde hit recall als willekeurige selectie bij een budget van 300, met slechts een derde van het budget.
Snelheid: ScreenShot is 5–50 keer sneller dan baselines (bijv. 8–68 seconden per experiment versus minuten voor MLPs) omdat het slechts één forward pass vereist zonder fine-tuning.

Betekenis en Claims

Het artikel claimt dat ScreenShot de kritieke beperkingen van huidige drug screening methoden aanpakt door de afhankelijkheid van moleculaire profilering en per-sample training weg te nemen, waardoor toepassing op patiënt-afgeleide samples mogelijk wordt waar dergelijke data schaars of niet beschikbaar is. Door gebruik te maken van in-context learning, kan het model de adaptatiestap effectief amorteren, waardoor het onmiddellijk kan generaliseren naar nieuwe patiënten.

De auteurs benadrukken dat de geleerde interne representaties van ScreenShot direct nuttig zijn voor experimenteel ontwerp. De active learning strategie demonstreert dat het mogelijk is om top therapeutische hits te identificeren met aanzienlijk lagere experimentele kosten (budget) vergeleken met uniforme screening. Het werk positioneert ScreenShot als een praktisch instrument voor precisie-oncologie, in staat om de selectie van combinatietherapie te sturen in middelenbeperkte klinische settings.

Het artikel merkt bescheiden beperkingen op, zoals de afhankelijkheid van drugs die aanwezig zijn in de pretraining corpus (hoewel het nieuwe verbindingen afhandelt via UNK tokens) en de observatie dat globale voorspellingsnauwkeurigheid niet altijd direct correleert met hit detectie vermogen, wat suggereert dat onzekerheid-gestuurde selectie mogelijk niet optimaal is voor het vinden van top hits.