💻 computer science

A Human-in-the-Loop Bayesian Optimization Framework for Constraint-Aware Bioprocess Development

Dit artikel presenteert een uitgebreid Human-in-the-Loop Bayesian Optimization-framework dat constrained en robuuste optimalisatie integreert in een multi-objective Pareto-front, waardoor domeinexperts interactief optimale bioprocescondities kunnen visualiseren en selecteren door het balanceren van voorspelde prestaties, onzekerheid, naleving van beperkingen en robuustheid tegen inputperturbaties.

Oorspronkelijke auteurs: Samuel Stricker, Claus Wirnsperger, Alessandro Butté, Laura Helleckes, Gonzalo Guillén Gosálbez, Antonio del Rio Chanona, Mehmet Mercangöz

Gepubliceerd 2026-06-19

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Samuel Stricker, Claus Wirnsperger, Alessandro Butté, Laura Helleckes, Gonzalo Guillén Gosálbez, Antonio del Rio Chanona, Mehmet Mercangöz

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je op zoek bent naar het perfecte recept voor een zeer dure, delicate taart. Maar er is een addertje onder het gras: je kunt slechts een paar taarten bakken voordat je door je geld heen bent, en je hebt geen perfect receptenboek. Je moet gokken, bakken, proeven en vervolgens opnieuw gokken op basis van wat je hebt geleerd.

Dit artikel beschrijft een nieuwe manier om experts te helpen bij die gokken, specifiek voor het maken van medicijnen met behulp van levende cellen (bioprocessen). De auteurs noemen hun methode "Human-in-the-Loop Bayesian Optimization."

Zo werkt het, onderverdeeld in eenvoudige concepten:

1. Het Probleem: De "Black Box" Taart

In de oude dagen gebruikten wetenschappers een rigide checklist (zoals een rooster) om elke mogelijke combinatie van ingrediënten te testen. Dit is traag en verspillend.
Bayesian Optimization (BO) is een slimmere manier. Het is alsof je een "magische gokker" hebt (een computermodel) die leert van elke taart die je bakt. Na elke bakbeurt werkt het model zijn kaart van de wereld bij en vertelt het je waar de volgende beste gok zou kunnen liggen.

Traditionele BO zegt echter meestal alleen: "Bak deze specifieke taart." Dat is riskant omdat:

Het model er naast kan zitten.
De taart kan een veiligheidscontrole niet halen (zoals te veel suiker bevatten).
De taart in het lab geweldig kan smaken, maar uit elkaar kan vallen als je de oven temperatuur iets verandert (het is niet "robuust").

2. De Oplossing: Het "Pareto Dashboard"

De auteurs hebben het systeem verbeterd door de computer niet alleen de uiteindelijke beslissing te laten nemen. In plaats daarvan hebben ze een dashboard gebouwd dat een menselijke expert een lijst met opties laat zien, in plaats van slechts één optie.

Denk aan dit dashboard als een menu van afwegingen. In plaats van te zeggen: "Bak Taart A", zegt de computer:

Optie 1: Grote kans dat het heerlijk is, maar we zijn erg onzeker over de ingrediënten. (Hoge beloning, hoog risico)
Optie 2: We zijn heel zeker over de ingrediënten, maar het kan slechts "oké" zijn. (Laag risico, lage beloning)
Optie 3: Het is heerlijk, maar als de oven te heet wordt, brandt het aan. (Fragiel)
Optie 4: Het is heerlijk, en het zal niet aanbranden zelfs als de oven fluctueert. (Robuust)

De menselijke expert bekijkt dit menu en kiest de optie die past bij het huidige doel. Misschien wil men vandaag een risico nemen om een doorbraak te vinden; morgen wil men veiligheid.

3. De Drie Nieuwe Superkrachten

Het papier voegt drie specifieke "filters" toe aan dit menu om het bruikbaar te maken voor de echte wereld van medicijnproductie:

De "Veiligheidscontrole" Filter (Constrained Optimization):
Stel je voor dat je een medicijn maakt dat moet voldoen aan 99% zuiverheid. De computer raadt niet alleen de smaak; de computer berekent ook de waarschijnlijkheid dat de taart de zuiverheidstest zal halen. Als een recept een kans van 90% heeft om te slagen, blijft het op het menu staan. Als het een kans van 10% heeft, wordt het doorgehaald, zelfs als het fantastisch smaakt. Dit zorgt ervoor dat de mens nooit tijd verspilt aan recepten die waarschijnlijk niet zullen voldoen aan de kwaliteitscontroles.
De "Stress Test" Filter (Robust Optimization):
In de echte wereld zijn machines niet perfect. Je stelt de temperatuur misschien in op 37°C, maar de machine bereikt in werkelijkheid misschien 37,2°C. De computer simuleert nu deze kleine foutjes. De computer vraagt: "Als de temperatuur een beetje afwijkt, werkt dit recept dan nog steeds?"
- Fragiel Recept: Werkt perfect bij 37,0°C maar faalt bij 37,2°C.
- Robuust Recept: Werkt geweldig bij 37,0°C en werkt nog steeds goed bij 37,2°C.
  Het dashboard benadrukt de robuuste recepten, zodat de expert een recept kan kiezen dat niet zal falen door kleine fouten.
De "Onzekerheidskaart" (Exploration vs. Exploitation):
Het dashboard laat zien hoeveel de computer niet weet. Als de computer wild gokt in een bepaald gebied, markeert het die recepten als "High Information Gain" (hoge informatie-opbrengst). Dit helpt de expert te beslissen: "Wil ik een veilige, bekende taart bakken, of wil ik een risicovolle taart bakken om iets nieuws te leren?"

4. Hoe het in de praktijk werkt

De auteurs hebben dit getest op een computersimulatie van een Chinese Hamster Ovary (CHO) celcultuur. Dit is een complex biologisch proces dat wordt gebruikt voor het maken van antilichamen (een type medicijn).

Ze begonnen met een paar initiële experimenten.
De computer genereerde een "Pareto Front" (het menu van afwegingen).
De menselijke expert bekeek het menu, stelde enkele regels in (bijv. "Ik wil alleen recepten met een 90% kans om de zuiverheid te halen" en "Ik wil dat ze robuust zijn tegen temperatuurveranderingen") en koos een batch nieuwe experimenten.
Ze voerden de experimenten uit, voedden de resultaten terug aan de computer, en het proces herhaalde zich.

Het Resultaat

Het artikel beweert dat deze methode experts helpt om veel sneller hoogpresterende, veilige en stabiele recepten te vinden dan oude methoden. Het verandert het optimalisatieproces van een "black box" die een enkel antwoord uitspuugt, in een collaboratieve conversatie tussen de wiskunde van de computer en de ervaring van de mens.

Kortom: De computer doet het zware werk van het berekenen van waarschijnlijkheden en het simuleren van "wat-als"-scenario's, maar de mens houdt het stuur vast en kiest de weg die de balans vindt tussen risico, beloning en veiligheid.

Technische Samenvatting: Een Human-in-the-Loop Bayesian Optimization Framework voor Constrained Bioprocess Development

Probleemstelling
Bioprocesontwikkeling, met name in de biofarmaceutische productie, staat voor aanzienlijke uitdagingen door hoogdimensionele operationele ruimtes, dure en tijdrovende experimenten, intrinsieke biologische variabiliteit en strikte regelgevende beperkingen (Quality by Design, QbD). Traditionele Design of Experiments (DoE)-methoden zijn vaak statisch, vooraf gedefinieerd, en slagen er niet in om zich aan te passen naarmate er informatie wordt verzameld, wat ze inefficiënt maakt voor complexe, ruisgevoelige of slecht begrepen systemen. Hoewel Bayesian Optimization (BO) een datavriendelijk, sequentieel alternatief biedt door exploratie en exploitatie in evenwicht te brengen, missen volledig geautomatiseerde BO-frameworks vaak de interpreteerbaarheid en flexibiliteit die vereist zijn in risicovolle, gereguleerde omgevingen. Experts moeten vaak impliciete kennis integreren met betrekking tot produceerbaarheid, veiligheid en haalbaarheid, die moeilijk te coderen is in rigide acquisitiefuncties. Bovendien faalt standaard BO er vaak in om expliciet twee cruciale technische behoeften aan te pakken: het voldoen aan harde beperkingen (bijv. Critical Quality Attributes of CQA's) en het waarborgen van robuustheid tegen inputperturbaties (bijv. variabiliteit in Critical Process Parameters of CPP's).

Methodologie
Het artikel stelt een uitbreiding voor op Pareto Front Guided Sampling (PFGS), een Human-in-the-Loop (HitL) Bayesian Optimization framework. In plaats van één geautomatiseerde aanbeveling terug te geven, presenteert PFGS een reeks niet-gedomineerde kandidaat-experimenten op een Pareto-front, waardoor domeinexperts interactief de volgende batch kunnen selecteren op basis van gevisualiseerde trade-offs.

De kernmethodologie omvat de volgende componenten:

Surrogaatmodellering: Gaussian Process (GP) modellen worden getraind op geaccumuleerde experimentele data om posterior gemiddelde voorspellingen ( $\mu$ ) en onzekelijkheidsschattingen ( $\sigma$ ) voor procesoutputs te bieden.
Multi-Objective Herformulering: Het framework herformuleert standaard BO-kwantiteiten en beperkingen tot een multi-objective optimalisatieprobleem. De doelstellingen worden geprojecteerd op een Pareto-front en gevisualiseerd via interactieve 2D-projecties op een dashboard.
Constrained Optimization Extensie: Om CQA-beperkingen (bijv. zuiverheidslimieten) te behandelen, incorporeert het framework de posterior waarschijnlijkheid van het voldoen aan de beperking als een expliciete Pareto-doelstelling. Deze waarschijnlijkheid wordt analytisch berekend vanuit de GP-posteriorverdeling (bijv. $P(\theta_l \leq f_c(x) \leq \theta_u)$ ).
Robust Optimization Extensie: Om prestatievermindering onder inputvariabiliteit aan te pakken, integreert het framework een Monte Carlo (MC) samplingstrategie. Deze schat de verwachte lagere-betrouwbaarheidsprestaties over een door de gebruiker gedefinieerde distributie van inputperturbaties (CPP-afwijkingen). Deze robuustheidsscore wordt toegevoegd als een vierde Pareto-doelstelling.
HitL Workflow:
- Een initiële GP wordt getraind op een dataset (bijv. Latin Hypercube Sampling).
- Een grote set kandidaat-recepten wordt geëvalueerd door de surrogaatmodellen.
- Een multi-objective optimizer (NSGA-II) genereert het Pareto-front op basis van doelstellingen: voorspelde prestaties, voorspellende onzekerheid, kans op het voldoen aan beperkingen en robuustheid.
- De expert definieert drempelwaarden (bijv. minimale titer, minimale kans op voldoen aan beperkingen) om het Pareto-front te filteren.
- De expert selecteert handmatig een batch experimenten uit de gefilterde kandidaten of delegeert de selectie aan een geautomatiseerde routine op basis van afstand tot een "utopia punt".
- Nieuwe data wordt verzameld, de GP wordt opnieuw getraind, en de cyclus herhaalt zich.

Belangrijkste Bijdragen
Het artikel levert vier primaire bijdragen aan het veld van BO en bioprocesengineering:

Constrained PFGS: Breidt het PFGS-algoritme uit door probabilistische CQA-voldoening als een extra Pareto-doelstelling op te nemen, wat de expliciete visualisatie van de trade-off tussen prestaties en haalbaarheid mogelijk maakt.
Robust PFGS: Integreert robuustheidscriteria via MC-sampling, waardoor kandidaten kunnen worden geëvalueerd op basis van hun veerkracht tegen verwachte CPP-variabiliteit, in plaats van alleen op nominale prestaties.
Interactieve Visualisatie: Ontwikkelt een interactief dashboard en workflow die complexe, meerdimensionale trade-offs (prestaties, onzekerheid, beperkingen, robuustheid) interpreteerbaar maakt voor domeinexperts, wat gefaciliteerde besluitvorming mogelijk maakt zonder dat er nieuwe acquisitiefuncties ontworpen hoeven te worden.
Framework Reorganisatie: Demonstreert dat bestaande BO-doelstellingen kunnen worden geherorganiseerd in een HitL multi-objective framework om interpreteerbaarheid en actiegerichtheid te verbeteren, in plaats van te vertrouwen op nieuwe, complexe acquisitiefuncties.

Resultaten
Het framework werd gevalideerd met behulp van een acht-dimensionale fed-batch Chinese Hamster Ovary (CHO) celcultuur-simulator met drie outputs: titer, aggregatie en zuiverheid.

Initiële Iteratie: Het systeem identificeerde succesvol een Pareto-front waar experts kandidaten konden filteren op basis van een minimale zuiverheidskans (bijv. >60%) en minimale titer (>1000 mg/L).
Iteratieve Progressie: Over zes iteraties evolueerde het Pareto-front om hogere voorspelde titers en een verbeterde kans op het voldoen aan beperkingen te tonen. De robuustheidsprojectie toonde aan dat een groter deel van de kandidaten de prestaties behield onder CPP-perturbaties naarmate het model verbeterde.
Expert Aanpasbaarheid: De casestudy illustreerde hoe de vereisten van experts konden evolueren; in vroege stadia werd prioriteit gegeven aan informatieversterking (hoge onzekerheid), terwijl in latere stadia de prioriteit verschoof naar conservatieve verfijning (hoge kans op voldoen aan beperkingen, lage onzekerheid).
Stopcriteria: Het framework bood een principieel stopcriterium: wanneer er geen kandidaten meer overbleven die voldeden aan de evoluerende eisen van de expert, wat aangaf dat het gebied van belang voldoende gekarakteriseerd was.

Betekenis en Claims
De auteurs stellen dat dit framework de "vertrouwenskloof" in geautomatiseerde optimalisatie aanpakt door modelaanbevelingen interpreteerbaar en actiegericht te maken voor domeinexperts. Door trade-offs tussen voorspelde prestaties, modelonzekerheid, probabilistische voldoening van beperkingen en input-robuustheid simultaan bloot te leggen, ondersteunt het framework de geïnformeerde allocatie van experimentele middelen en biedt het een principieel stopcriterium.

Het artikel benadrukt dat de methodologie niet beperkt is tot bioprocessen of Gaussian Processes; het is breed overdraagbaar naar elke engineeringdiscipline die te maken heeft met dure experimenten, geconstreerde optimalisatie en onzekerheidbewuste besluitvorming. De auteurs merken nederig op dat het framework geen nieuwe acquisitiefunctie introduceert, maar eerder bestaande strategieën herorganiseert om de integratie van menselijke expertise te verbeteren. Ze erkennen beperkingen, waaronder de potentiële menselijke bias bij het vaststellen van vereisten en de afhankelijkheid van de convergentie van de onderliggende multi-objective optimizer (NSGA-II). Toekomstig werk suggereert de inclusie van multi-fidelity optimalisatie en vergelijkingen met volledig geautomatiseerde strategieën.