A Human-in-the-Loop Bayesian Optimization Framework for Constraint-Aware Bioprocess Development

Sintesi Tecnica: Un Framework di Ottimizzazione Bayesiana con Human-in-the-Loop per lo Sviluppo di Bioprocessi con Vincoli

Problematica
Lo sviluppo di bioprocessi, in particolare nella produzione biofarmaceutica, affronta sfide significative dovute a spazi operativi ad alta dimensionalità, esperimenti costosi e dispendiosi in termini di tempo, variabilità biologica intrinseca e rigorosi vincoli normativi (Quality by Design, QbD). I metodi tradizionali di Design of Experiments (DoE) sono spesso statici, definiti a priori, e faticano ad adattarsi man mano che le informazioni si accumulano, rendendoli inefficienti per sistemi complessi, rumorosi o scarsamente compresi. Sebbene l'Ottimizzazione Bayesiana (BO) offra un'alternativa sequenziale ed efficiente dal punto di cui i dati, i framework di BO completamente automatizzati mancano spesso dell'interpretabilità e della flessibilità richieste in ambienti ad alto rischio e regolamentati. Gli esperti devono frequentemente incorporare la conoscenza tacita riguardante la producibilità, la sicurezza e la fattibilità, che è difficile da codificare in funzioni di acquisizione rigide. Inoltre, la BO standard spesso non affronta esplicitamente due necessità ingegneristiche critiche: il soddisfacimento di vincoli stringenti (ad esempio, i Critical Quality Attributes o CQA) e la garanzia di robustezza contro le perturbazioni degli input (ad esempio, la variabilità dei Critical Process Parameter o CPP).

Metodologia
Il documento propone un'estensione del Pareto Front Guided Sampling (PFGS), un framework di Ottimizzazione Bayesiana con Human-in-the-Loop (HitL). Invece di restituire una singola raccomandazione automatizzata, il PFGS presenta un insieme di candidati sperimentali non dominati su un fronte di Pareto, permettendo agli esperti di dominio di interagire e selezionare il batch successivo basandosi su trade-off visualizzati.

La metodologia centrale coinvolge i seguenti componenti:

1. Modellazione Surrogata: Modelli di Processi Gaussiani (GP) vengono addestrati su dati sperimentali accumulati per fornire previsioni della media posteriore ($\mu$) e stime di incertezza ($\sigma$) per gli output di processo.
2. Riformulazione Multi-obiettivo: Il framework riformula le quantità e i vincoli della BO standard in un problema di ottimizzazione multi-obiettivo. Gli obiettivi sono proiettati su un fronte di Pareto e visualizzati tramite proiezioni 2D a coppie su una dashboard interattiva.
3. Estensione per l'Ottimizzazione Vincolata: Per gestire i vincoli CQA (ad esempio, limiti di purezza), il framework incorpora la probabilità posteriore di soddisfare il vincolo come un esplicito obiettivo di Pareto. Questa probabilità è calcolata analiticamente dalla distribuzione posteriore del GP (ad esempio, $P(\theta_l \leq f_c(x) \leq \theta_u)$).
4. Estensione per l'Ottimizzazione Robusta: Per affrontare il degrado delle prestazioni sotto variabilità di input, il framework integra una strategia di campionamento Monte Carlo (MC). Questa stima la performance attesa del limite inferiore di confidenza su una distribuzione definita dall'utente di perturbazioni di input (deviazioni dei CPP). Questo punteggio di robustezza viene aggiunto come quarto obiettivo di Pareto.
5. Workflow HitL:
   • Viene addestrato un GP iniziale (ad esempio, tramite Latin Hypercube Sampling).
   • Un ampio set di ricette candidate viene valutato dai modelli surrogati.
   • Un ottimizzatore multi-obiettivo (NSGA-II) genera il fronte di Pareto basato sugli obiettivi: performance prevista, incertezza predittiva, probabilità di soddisfacimento dei vincoli e robustezza.
   • L'esperto definisce delle soglie (ad esempio, titolo minimo, probabilità minima di vincolo) per filtrare il fronte di Pareto.
   • L'esperto seleziona manualmente un batch di esperimenti dai candidati filtrati o delega la selezione a una routine automatizzata basata sulla distanza da un "punto utopia".
   • Nuovi dati vengono raccolti, il GP viene riaddestrato e il ciclo si ripete.

Contributi Chiave
Il documento apporta quattro contributi primari al campo della BO e dell'ingegneria dei bioprocessi:

1. PFGS Vincolato: Estende l'algoritmo PFGS per incorporare la soddisfazione probabilistica dei CQA come un ulteriore obiettivo di Pareto, consentendo la visualizzazione esplicita del trade-off tra performance e fattibilità.
2. PFGS Robusto: Integra i criteri di robustezza tramite campionamento MC, permettendo ai candidati di essere valutati in base alla loro resilienza alle variazioni dei CPP, piuttosto che solo sulla performance nominale.
3. Visualizzazione Interattiva: Sviluppa una dashboard interattiva e un workflow che rende interpretabili per gli esperti di dominio i trade-off multidimensionali complessi (performance, incertezza, vincoli, robustezza), facilitando il processo decisionale senza richiedere la progettazione di nuove funzioni di acquisizione.
4. Riorganizzazione del Framework: Dimostra che gli esistenti obiettivi della BO possono essere riorganizzati in un framework multi-obiettivo HitL per migliorare l'interpretabilità e l'azionabilità, piuttosto che fare affidamento su nuove e complesse funzioni di acquisizione.

Risultati
Il framework è stato validato utilizzando un simulatore di coltura cellulare CHO (Chinese Hamster Ovary) in batch alimentato (fed-batch) a otto dimensioni con tre output: titolo, aggregazione e purezza.

• Iterazione Iniziale: Il sistema ha identificato con successo un fronte di Pareto dove gli esperti potevano filtrare i candidati in base a una purezza minima probabilistica (ad esempio, >60%) e un titolo minimo (>1000 mg/L).
• Progresso Iterativo: Nel corso di sei iterazioni, il fronte di Pareto si è evoluto mostrando titoli previsti più elevati e una migliore probabilità di soddisfacimento dei vincoli. La proiezione della robustezza ha dimostrato che una frazione maggiore di candidati manteneva le performance sotto le perturbazioni dei CPP man mano che il modello migliorava.
• Adattabilità dell'Esperto: Il caso di studio ha illustrato come i requisiti dell'esperto potessero evolvere; nelle fasi iniziali la priorità era l'acquisizione di informazioni (alta incertezza), mentre nelle fasi successive la priorità era il raffinamento conservativo (alta probabilità di vincolo, bassa incertezza).
• Criteri di Arresto: Il framework ha fornito un criterio di arresto principato: quando nessun candidato rimaneva che soddisfacesse i requisiti in evoluzione dell'esperto, indicando che la regione di interesse era stata sufficientemente caratterizzata.

Significatività e Rivendicazioni
Gli autori affermano che questo framework affronta il "gap di fiducia" nell'ottimizzazione automatizzata rendendo le raccomandazioni del modello interpretabili e azionabili per gli esperti di dominio. Esponendo simultaneamente i trade-off tra performance prevista, incertezza del modello, soddisfacimento probabilistico dei vincoli e robustezza degli input, il framework supporta un allocamento informato delle risorse sperimentali e fornisce un criterio di arresto fondato.

Il documento sottolinea che la metodologia non è limitata ai bioprocessi o ai Processi Gaussiani; è ampiamente trasferibile a qualsiasi disciplina ingegneristica che comporti sperimentazioni costose, ottimizzazione vincolata e decision-making consapevole dell'incertezza. Gli autori notano con modestia che il framework non introduce una nuova funzione di acquisizione, ma riorganizza le strategie esistenti per integrare meglio l'esperienza umana. Riconoscono inoltre i limiti, tra cui il potenziale bias umano nella definizione dei requisiti e la dipendenza dalla convergenza dell'algoritmo di ottimizzazione multi-obiettivo sottostante (NSGA-II). Il lavoro futuro suggerito include l'ottimizzazione multi-fedeltà e i confronti con strategie completamente automatizzate.