📊 statistics

Deep Adaptive Model-Based Design of Experiments

Deze paper introduceert een diep adaptief modelgebaseerd ontwerp van experimenten dat, door differentieerbare mechanistische modellen te combineren met een transformer-gebaseerd beleid, de kostbare inferentie tussen experimentstappen elimineert en zo real-time toepassing op complexe dynamische systemen mogelijk maakt.

Oorspronkelijke auteurs: Arno Strouwen, Sebastian Micluţa-Câmpeanu

Gepubliceerd 2026-03-18

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Arno Strouwen, Sebastian Micluţa-Câmpeanu

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je een heel lastig recept probeert te perfectioneren, bijvoorbeeld het bakken van een taart die altijd perfect moet zijn, maar je weet niet precies hoeveel suiker of eieren je nodig hebt. Of stel je voor dat je een nieuwe auto moet testen om te zien hoe snel hij kan accelereren, maar je mag de motor maar een paar keer opstarten voordat de batterij leeg is.

In de wetenschap noemen we dit Model-Based Design of Experiments (MBDOE). Het gaat erom: hoe doe je de minste aantal experimenten mogelijk, maar haal je er toch de meeste informatie uit om je onbekende variabelen (zoals de suikerhoeveelheid of de motorsterkte) precies te kunnen bepalen?

Dit artikel van Arno Strouwen en Sebastian Miclut-Cămpeanu introduceert een slimme, nieuwe manier om dit te doen, die ze "Deep Adaptive Design" noemen. Hier is de uitleg in simpele taal:

1. Het oude probleem: Te traag en te duur

Vroeger was dit proces als het spelen van een schaakpartij waarbij je na elke zet de hele toekomst van het spel moest berekenen om te zien wat de beste volgende zet was.

Hoe het werkte: Na elk experiment (bijvoorbeeld: "Ik heb nu 5 gram suiker gebruikt") moest de computer heel lang rekenen om te voorspellen wat de beste volgende stap zou zijn.
Het probleem: Dit rekenen kostte zoveel tijd dat je niet in echt real-time kon werken. Als je een chemische reactor of een motor in het echt aan het testen bent, heb je geen tijd om minutenlang te wachten op een antwoord van de computer. Je moet direct reageren.

2. De nieuwe oplossing: Een "slimme coach" die van tevoren traint

De auteurs hebben een oplossing bedacht die lijkt op het trainen van een sportcoach.

De training (Offline): In plaats van tijdens het experiment te rekenen, laten ze een kunstmatige intelligentie (een neurale netwerk) eerst duizenden keren "spelen" in een virtuele wereld. Ze laten de AI duizenden keren oefenen met het maken van experimenten, waarbij ze fouten maken en leren van hun resultaten.
De coach (De Policy): Na deze training is de AI een expert geworden. Het heeft een "intuïtie" ontwikkeld. Het weet precies: "Als ik dit zie gebeuren, moet ik nu direct deze knop indrukken."
Het experiment (Online): Tijdens het echte experiment hoeft de AI niet meer na te denken of te rekenen. Het is als een topatleet die op een reflex reageert. Zodra er een meting binnenkomt, schiet de AI direct het volgende commando eruit. Dit gaat razendsnel (in microseconden), waardoor het perfect werkt voor real-time toepassingen.

3. De slimme trucjes in hun methode

De auteurs hebben drie belangrijke verbeteringen toegevoegd om dit werkend te maken:

Het "Nuisance"-probleem (De afleidingen):
Soms zijn er variabelen die je niet echt wilt meten, maar die wel invloed hebben. Bijvoorbeeld: bij het bakken van de taart wil je weten hoeveel suiker er in zit, maar de temperatuur van de oven varieert ook een beetje. Die temperatuur is een "nuisance parameter" (een lastige parameter).
- Hun oplossing: De AI is getraind om deze lastige variabelen te negeren of er slim mee om te gaan. Het leert zich te focussen op wat echt belangrijk is (de suiker), zonder zich te laten afleiden door de temperatuurschommelingen.
De "Transformer" architectuur (Het geheugen):
In dynamische systemen (zoals een motor of een bioreactor) is de volgorde van dingen heel belangrijk. Wat er nu gebeurt, hangt af van wat er 5 minuten geleden gebeurde.
- Hun oplossing: Ze gebruiken een speciaal type AI (een Transformer, dezelfde technologie die achter moderne chatbots zit) dat heel goed is in het onthouden van tijdreeksen. Het onthoudt de geschiedenis van het experiment als een verhaal, zodat het begrijpt dat "eerst dit, dan dat" belangrijk is.
De "Contrastieve" leermethode:
Hoe leer je de AI? Door haar te laten vergelijken. De AI krijgt een scenario en moet bedenken: "Als ik deze stap doe, krijg ik meer informatie dan als ik die andere stap doe?" Ze vergelijken hun eigen succes met "alternatieve universums" (simulaties) waarin ze andere keuzes maakten. Zo leren ze snel wat de beste strategie is.

4. Wat hebben ze getest?

Ze hebben hun methode getest op vier verschillende situaties, van simpel tot complex:

Een bioreactor (groeitank): Het optimaliseren van de voeding voor bacteriën om ze snel te laten groeien.
Een giftige bioreactor: Een tank waar de bacteriën kunnen stikken als er te veel voedsel is. De AI moest leren precies de juiste balans te vinden.
Geneesmiddelen in het lichaam (Farmacokinetiek): Het bepalen hoe snel een medicijn door een patiënt wordt opgenomen en weer uit het lichaam verdwijnt, rekening houdend met verschillen tussen patiënten.
Een DC-motor: Een elektrische motor. Hier was de snelheid cruciaal. De AI moest de spanning aanpassen in microseconden om de motor te testen. De oude methoden waren hier te traag; hun nieuwe methode was snel genoeg om het echt in het echt te doen.

Conclusie

Kortom: Dit artikel beschrijft hoe je een computer kunt "trainen" om een meester-experimentator te worden. In plaats van dat de computer tijdens het experiment langzaam nadenkt, heeft hij van tevoren duizenden scenario's geoefend. Hierdoor kan hij tijdens het echte experiment direct, snel en slim beslissingen nemen, zelfs als er onzekerheden zijn.

Het is alsof je van een student die elke stap moet uitzoeken in een boek, een top-expert maakt die alles uit zijn hoofd kent en direct kan handelen. Dit maakt het mogelijk om complexe systemen in de echte wereld (zoals fabrieken of medische apparaten) veel efficiënter en sneller te testen en te optimaliseren.

Titel: Diep Adaptief Model-gebaseerd Ontwerp van Experimenten (Deep Adaptive Model-Based Design of Experiments)

1. Het Probleem

Model-gebaseerd ontwerp van experimenten (MBDOE) is cruciaal voor het efficiënt schatten van parameters in niet-lineaire dynamische systemen. Traditionele adaptieve MBDOE-methoden, vaak gebaseerd op Bayesiaanse Optimaal Experimenteel Ontwerp (BOED), hebben echter een groot nadeel: ze vereisen tussen elke experimentele stap kostbare posterior inferentie en optimalisatie van het ontwerp.

Rekenkundige Bottleneck: Het maximaliseren van de verwachte informatiewinst (Expected Information Gain - EIG) is dubbel onuitvoerbaar (doubly intractable) omdat het integratie vereist over zowel de parameter-ruimte als de observatie-ruimte.
Real-time Onmogelijkheid: Deze rekenintensieve processen maken real-time toepassing onmogelijk, vooral bij systemen met snelle dynamiek of beperkte tijd tussen metingen.

2. Methodologie

De auteurs combineren Deep Adaptive Design (DAD) met differentieerbare mechanistische modellen om dit probleem op te lossen. In plaats van online optimalisatie, wordt een neurale netwerkbeleid (policy) offline getraind om sequentiële ontwerpen te "amortiseren" (amortize).

Kerncomponenten van de methode:

Differentieerbare Simulatie: Voor systemen met bekende besturingsvergelijkingen (ODE's) worden differentieerbare simulatoren gebruikt. Dit maakt end-to-end differentiatie mogelijk via de ODE-oplosser, wat leidt tot lage-variatie gradiëntschatters.
Doelgerichte sPCE (Sequential Prior Contrastive Estimation):
- De auteurs breiden de bestaande sPCE-objectief uit om nutteloze parameters (nuisance parameters) te hanteren (bijv. meetruis, onzekere begincondities).
- Ze introduceren een ondergrens voor de doelgerichte EIG, waarbij de likelihood wordt gemarginaliseerd over de nutteloze parameters terwijl de focus ligt op de parameters van belang ( $\theta_T$ ).
- De trainingsdoelstelling is een contrastieve schatting die vergelijkt tussen een "ground truth" scenario en contrastieve (verkeerde) scenario's.
Transformer Architectuur:
- In tegenstelling tot eerdere DAD-werk dat permutatie-invariante "Deep Sets" gebruikte, gebruiken de auteurs een Transformer-architectuur.
- Dit is essentieel voor dynamische systemen omdat de toestand op tijdstip $k$ afhangt van de volgorde van eerdere inputs en observaties. De Transformer respecteert deze temporele structuur via causale attention en positiële coderingen.
Training: Het beleid wordt getraind offline via Monte Carlo-simulaties. Tijdens de implementatie (deploy) is er slechts één forward-pass van het neurale netwerk nodig om de volgende experimentele input te bepalen.

3. Belangrijkste Bijdragen

Formulering voor Dynamische Systemen: Ze formuleren adaptieve MBDOE voor systemen met bekende dynamiek, waarbij het beleid end-to-end wordt getraind door differentiatie door de ODE-oplosser.
Uitbreiding voor Nuisance Parameters: Ze ontwikkelen een theoretische ondergrens (Targeted sPCE) die het mogelijk maakt om specifiek te infereren over parameters van belang terwijl onzekerheid over storende parameters (zoals ruis of beginwaarden) wordt gemarginaliseerd.
Temporeel Bewust Beleid: Introductie van een Transformer-gebaseerde architectuur die de volgorde van tijdreeksen in dynamische systemen correct modelleert, in plaats van een volgorde-onafhankelijke benadering.
Real-time Deploybaarheid: Demonstratie dat deze aanpak real-time toepassing mogelijk maakt, met een inferentie-tijd in microseconden, in tegenstelling tot de seconden die nodig zijn voor traditionele online optimalisatie.

4. Resultaten

De methode werd getest op vier systemen van toenemende complexiteit:

Fed-batch Bioreactor (Monod kinetiek):
- Het adaptieve beleid presteerde significant beter dan statische ontwerpen (zowel klassieke Bayesiaanse D-optimaal als statische sPCE).
- Resultaat: Een reductie van de posterior RMSE (Root Mean Square Error) met ongeveer 30% en een hogere informatiewinst. Het beleid past de voerstrategie dynamisch aan op basis van waargenomen groei.
Bioreactor met Substraatremming (Haldane kinetiek):
- Het beleid moest onderscheid maken tussen aanwezigheid en afwezigheid van remming. Het leerde om kleine initiële doses te geven om de reactie te testen, en paste daaropvolgende voeding aan op basis van de waargenomen groei (of gebrek daaraan).
Farmacokinetisch Model (PK):
- Een tweecompartimentenmodel met transito-absorptie. Het beleid paste het doseringsschema aan op basis van de eliminatiesnelheid van de patiënt (een nutteloze parameter). Bij snelle eliminatie werd eerder en vaker gedoseerd; bij langzame eliminatie werd uitgesteld.
DC-motor (Real-time toepassing):
- Vergelijking met een adaptieve Bayesiaanse D-optimaal (BIM) baseline die online heroptimalisatie uitvoert.
- Snelheid: Het amortized beleid voerde een stap uit in ~18 µs (microseconden), terwijl de online BIM-baseline seconden nodig had.
- Prestatie: Het amortized beleid behaalde een hogere sPCE-score en lagere RMSE dan de online BIM, en bleef ver onder de bemonsteringsinterval van 10 ms, wat echte real-time controle mogelijk maakt.

5. Betekenis en Conclusie

Dit werk toont aan dat het combineren van diep adaptief ontwerp met differentieerbare mechanistische modellen een doorbraak is voor MBDOE.

Efficiëntie: Het verlegt de rekenlast van de dure online fase naar een eenmalige offline trainingsfase.
Real-time Potentieel: Het maakt adaptieve experimenten mogelijk in scenario's waar de tijd tussen metingen te kort is voor traditionele inferentie (zoals bij snelle chemische reacties of elektromechanische systemen).
Robuustheid: De methode is robuust tegen variatie in nutteloze parameters door expliciete marginalisatie tijdens het trainingsproces.

Beperkingen en Toekomst:
De huidige aanpak vereist dat de modelstructuur bekend is (geen modelmisspecificatie) en dat de prior-verdeling tijdens de training overeenkomt met de realiteit. Retrainen is nodig bij grote verschuivingen in de prior. Toekomstig werk richt zich op het uitbreiden naar modelselectie en fysieke hardware-implementatie met gesloten-lus feedback.