🧬 biology

Steering Generative Models for Protein Design: Aligning and Conditioning Strategies

Deze review bespreekt en categoriseert strategieën om generatieve modellen voor eiwitontwerp te sturen naar gewenste eigenschappen, door methoden te onderscheiden die modelparameters aanpassen van die waarbij de parameters vast blijven.

Oorspronkelijke auteurs: Filippo Stocco, Michele Garibbo, Noelia Ferruz

Gepubliceerd 2026-02-27

📖 4 min leestijd☕ Koffiepauze-leesvoer

CC BY 4.0

Oorspronkelijke auteurs: Filippo Stocco, Michele Garibbo, Noelia Ferruz

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ⚕️ Dit is een AI-gegenereerde uitleg van een preprint die niet peer-reviewed is. Dit is geen medisch advies. Neem geen gezondheidsbeslissingen op basis van deze inhoud. Lees de volledige disclaimer

Proteïneontwerp met AI: Hoe we een slimme machine leren om precies te doen wat we willen

Stel je voor dat je een enorme, super-snelle kok hebt. Deze kok heeft miljoenen kookboeken gelezen (de data van alle natuurlijke eiwitten die in de natuur bestaan) en kan nu op elk moment een nieuw gerecht bedenken. Dit is wat generatieve AI-modellen doen voor eiwitten (proteïnen). Ze leren van de natuur en kunnen nieuwe eiwitten "koken" die lijken op die in de natuur.

Maar hier zit een probleem: deze kok is een beetje conservatief. Hij maakt het liefst gerechtjes die hij al duizend keer heeft gezien. Als je hem vraagt om een gerecht te maken dat extreem hittebestendig is (bijvoorbeeld voor een oven van 200 graden), zal hij waarschijnlijk zeggen: "Nee, dat bestaat niet in mijn kookboeken." De natuur heeft zulke extreme eiwitten zelden ontwikkeld, dus de AI denkt dat ze niet bestaan of dat ze slecht zijn.

Deze nieuwe paper van Filippo Stocco en collega's gaat over hoe we die AI-kok kunnen sturen om toch die speciale, extreme gerechten te maken. Ze noemen dit "steering" (sturen).

Ze delen de oplossingen in twee grote categorieën:

1. De Kok Opleiden (Het model aanpassen)

Dit is alsof je de kok zelf een nieuwe opleiding geeft of zijn receptenboek herschrijft. Je verandert de "hersenen" van de AI.

Supervised Fine-Tuning (SFT): Je geeft de kok een stapel met alleen maar recepten voor "hittebestendige soepen". Hij leert dan dat dit de nieuwe standaard is. Hij wordt een specialist.
- Nadeel: Hij wordt misschien te specifiek en vergeet hoe hij andere dingen moet koken.
Reinforcement Learning (Beloningssysteem): Dit is nog slimmer. Je laat de kok een gerecht maken, en een "proefpersoon" (een wetenschapper of een computerprogramma) proeft het.
- Is het goed? Dan krijgt de kok een sterretje (beloning).
- Is het slecht? Dan krijgt hij een rode vlag (straf).
- De kok probeert dan zelfstandig te ontdekken welke ingrediënten meer sterretjes opleveren. Hij leert door trial-and-error, net als een kind dat leert fietsen. Dit heet Reinforcement Learning (RL).

2. De Kok Besturen (Zonder zijn hersenen te veranderen)

Hierbij veranderen we de kok niet. Hij blijft dezelfde, maar we geven hem andere instructies of hulpmiddelen terwijl hij aan het werk is.

Prompting (De bestelling): Je zegt tegen de kok: "Maak vandaag een soep, maar gebruik alleen rode groenten." De AI luistert naar deze instructie en past zijn creatie daar direct op aan.
Retrieval-Augmented Generation (De naslagwerk): Als de kok twijfelt, mag hij even in een enorme bibliotheek kijken met extra recepten die hij niet uit zijn hoofd kent. Hij haalt dan informatie op over hittebestendige eiwitten en gebruikt die als inspiratie voor zijn nieuwe gerecht.
Bayesian Guidance (De kompasnaald): Stel dat de kok een gerecht bedenkt, maar je wilt dat het iets anders smaakt. Je gebruikt een wiskundige formule om de kans te berekenen: "Als ik dit ingrediënt toevoeg, wordt het gerecht beter?" De AI past zijn keuze dan direct aan op basis van die berekening.
Sampling Controls (De thermostaat): Soms is de AI te creatief en maakt hij rare, onsmakelijke combinaties. Je kunt een knop draaien (de "temperatuur") om te zeggen: "Wees een beetje creatief, maar blijf binnen de regels."

Waarom is dit belangrijk?

De natuur is slim, maar ze is ook traag. De evolutie heeft miljoenen jaren nodig gehad om eiwitten te maken. Soms willen we iets dat de natuur nooit heeft gemaakt, zoals een enzym dat plastic kan oplossen of een medicijn dat perfect past bij een nieuw virus.

De AI kan dat sneller, maar alleen als we haar goed sturen. Deze paper laat zien dat we niet hoeven te wachten tot de AI vanzelf slim wordt; we kunnen haar nu al sturen naar de "onbekende gebieden" waar de echte innovaties liggen.

Kortom:
De AI is een genie dat alleen maar naar de natuur kijkt. Deze paper is de handleiding om dat genie te vertellen: "Kijk niet alleen naar wat er al is, maar maak iets nieuws dat wij nodig hebben!" Of we dat nu doen door het genie te herscholen (opleiding) of door hem een kompas te geven (besturing), het resultaat is hetzelfde: we kunnen nu eiwitten ontwerpen die de natuur zelf nooit zou hebben bedacht.

Probleemstelling

Generatieve kunstmatige intelligentie (AI) modellen, zoals diffusiemodellen en protein language models (pLMs), hebben zich snel ontwikkeld voor het ontwerpen van eiwitten. Deze modellen leren waarschijnlijkheidsverdelingen ( $p(x)$ ) uit grote datasets van natuurlijke eiwitten en kunnen nieuwe sequenties en structuren genereren.

Het fundamentele probleem is echter dat deze modellen de verdeling van hun trainingsdata nabootsen. Dit betekent dat ze neigen om te samplen vanuit de meest waarschijnlijke modi (de "natuurlijke" ruimte), terwijl waardevolle, zeldzame eigenschappen (zoals extreme thermostabiliteit of nieuwe katalytische functies) vaak liggen in gebieden met lage waarschijnlijkheid die door de natuurlijke evolutie zijn gemeden. Deze gebieden zijn vaak gescheiden door diepe "fitness-valleien" die evolutie niet makkelijk kan oversteken. Daarnaast vertonen datasets vertekeningen (biases) door ongelijke fylogenetische representatie en annotatiefouten. Het simpelweg vergroten van het model leidt niet automatisch tot betere prestaties voor deze specifieke, zeldzame doelen.

De kernuitdaging is dus: hoe kunnen we generatieve modellen sturen om sequenties te genereren met specifieke, gewenste eigenschappen ( $y$ ), oftewel de conditionele verdeling $p(x|y)$ benaderen in plaats van de onvoorwaardelijke $p(x)$ ?

Methodologie

De auteurs classificeren de bestaande strategieën om generatieve modellen te sturen in twee hoofdcategorieën, gebaseerd op of de modelparameters worden aangepast of niet:

1. Parameter-Updating Alignment (Aanpassing van modelparameters)

In deze aanpak worden de gewichten van het generatieve model zelf aangepast om de onderliggende verdeling te verschuiven.

Supervised Fine-Tuning (SFT): Het model wordt verder getraind op een zorgvuldig samengestelde dataset van hoge kwaliteit (bijv. een specifieke enzymfamilie). Dit verschuift de generatieve prior naar het doelgebied, maar biedt geen fijnmazige controle over de kwaliteit binnen dat gebied en kan leiden tot "catastrophic forgetting".
Reinforcement Learning (RL): Het model wordt getraind via interactie met een omgeving en feedback (beloningen/straffen) om een doel te maximaliseren zonder expliciete voorbeelden van de gewenste output.
- Deep RL-benaderingen: Gebruik van een beloningsmodel (reward model) en algoritmen zoals PPO (Proximal Policy Optimization) of REINFORCE. Hierbij wordt de policy bijgewerkt om de beloning te maximaliseren terwijl men de afwijking van de oorspronkelijke verdeling beperkt (via KL-divergentie).
- Direct Preference Learning: Methoden zoals DPO (Direct Preference Optimization) en GRPO (Group Relative Policy Optimization). Deze omzeilen de noodzaak van een apart beloningsmodel door direct te leren uit gerangschikte voorkeursdata (bijv. menselijke of experimentele feedback). DPO is populair geworden omdat het stabieler en eenvoudiger is dan traditionele PPO.

2. Parameter-Fixed Steering (Sturing zonder parameterwijziging)

Hierbij blijft het basismodel onveranderd; de sturing gebeurt tijdens het generatieproces (inference). De auteurs onderverdelen dit in vier interventiestadia:

Input/Context (Prompting): Het specificeren van gewenste eigenschappen via instructies, tags (bijv. EC-nummers, taxonomie) of het vastzetten van bepaalde residuen (inpainting). Voorbeelden zijn structureel voorwaartse modellen zoals ProteinMPNN en LigandMPNN.
Retrieval-Augmented Generation (RAG): Het dynamisch inbrengen van externe kennis (bijv. homoloog sequenties) tijdens het generatieproces om de context te verrijken, zonder het model opnieuw te trainen.
Actiesturing (Activation Steering): Directe manipulatie van de interne latenterepresentaties (bijv. de residual stream) door vectoren toe te voegen die corresponderen met interpreteerbare eigenschappen (zoals hydrofobiciteit of enzymatische activiteit), vaak geïdentificeerd via Sparse Autoencoders (SAEs).
Output-afhankelijke sturing en Sampling:
- Bayesische sturing: Het herwegen van de kansverdeling tijdens het genereren op basis van externe scores of voorspellers.
- Sampling controle: Het aanpassen van inferentieparameters (temperatuur, top-k, top-p) of het gebruik van geavanceerde zoekalgoritmen zoals Beam Search en Monte Carlo Tree Search (MCTS) om de beste paden in de sequentieruimte te vinden.

Belangrijkste Bijdragen

Systematische Taxonomie: Het artikel biedt een gestructureerd overzicht van alle huidige methoden om generatieve eiwitmodellen te sturen, verdeeld in parameter-aanpassende en parameter-vaste strategieën.
Conceptuele Unificatie: Het toont aan dat diverse technieken (van fine-tuning tot Bayesische sturing) conceptueel kunnen worden gezien als het benaderen van de conditionele verdeling $p(x|y)$ .
Praktische Toepassingen: Het documenteert succesvolle toepassingen in de recente literatuur (2022-2025), waaronder het ontwerpen van helderdere fluorescente eiwitten (CreiLOV), stabielere eiwitten, verlaagde MHC-I epitoolast en specifieke remmers (EGFR).
Kritische Analyse: Het identificeert de beperkingen van huidige methoden, met name de afhankelijkheid van de kwaliteit van de trainingsdata en de moeilijkheid om nauwkeurige "scoring metrics" (oracles) te vinden voor complexe eigenschappen.

Resultaten en Voorbeelden

De auteurs illustreren de effectiviteit van deze strategieën met concrete voorbeelden uit de literatuur:

RL/DPO: Methoden zoals ProtRL en ProteinDPO hebben succesvol pLMs afgestemd op experimentele data, wat leidde tot het ontwerp van eiwitten met verbeterde eigenschappen.
Prompting/Context: Modellen zoals BindCraft en ProteinMPNN maken gebruik van structurele constraints en prompts om functionele binders te ontwerpen.
Interpretability: Het gebruik van Sparse Autoencoders heeft geleid tot het identificeren van latentere richtingen die correleren met specifieke biologische functies, waarmee modellen kunnen worden "gestuurd" zonder hertraining.
Samenvoeging: Nieuwe frameworks proberen deze ideeën te verenigen, bijvoorbeeld door RL te combineren met experimentele validatie in een "lab-in-the-loop" cyclus.

Betekenis en Toekomstperspectief

Deze ontwikkelingen markeren een verschuiving van puur generatief ontwerp (het creëren van "natuurlijke" eiwitten) naar controleerbaar en doelgericht eiwitontwerp. De betekenis ligt in het vermogen om eiwitten te creëren met eigenschappen die in de natuur niet voorkomen of zeldzaam zijn.

Uitdagingen voor de toekomst:

Generalisatie buiten de verdeling (OOD): Sturingsmethoden kunnen moeilijk extrapoleren naar gebieden die het basismodel niet heeft geleerd.
Datakwaliteit: Veel methoden zijn afhankelijk van datasets die zelf nog steeds vertekend zijn door evolutionaire biases.
Scoring Metrics: De beschikbaarheid van nauwkeurige, betrouwbare voorspellers (oracles) voor complexe eigenschappen (zoals katalytische activiteit) blijft een knelpunt.
Validatie: Er is behoefte aan rigoureuze benchmarks om te bepalen welke methode (parameter-updating vs. fixed steering) het beste werkt onder welke omstandigheden.

Concluderend biedt dit overzicht een blauwdruk voor de volgende fase van eiwitontwerp: het creëren van volledig nieuwe, "natuur-onbekende" eiwitten met hoge betrouwbaarheid door generatieve modellen effectief te sturen.