Bioprocess Modeling Made Easy With Hybrax

기술 요약: Hybrax – 바이오프로세스 하이브리드 모델링을 위한 프레임워크

문제 정의
바이오프로세스 모델링은 기계론적 해석력과 데이터 기반의 유연성 사이의 간극을 메우기 위해, 인공 신경망(ANN)에 의해 파라미터가 추정되는 상미분 방정식(ODE) 시스템인 하이브리드 모델(HM)에 점점 더 의존하고 있다. 그러나 하이브리드 모델의 실질적인 구현은 여전히 상당한 병목 현상에 직면해 있다. 연구자들은 현재 세 가지 주요 과제에 직면해 있다:

1. 반복적인 코딩 노력: 하이브리드 모델을 설정하려면 데이터 임포트, 전처리, 불연속적 이벤트(예: 볼러스 피딩, 샘플링) 처리, 부피 변화에 따른 수송 항(질량 수지) 도출을 위한 방대한 커스텀 코드가 필요하다. 이러한 "보일러플레이트(boilerplate)" 코드는 매 프로젝트마다 처음부터 다시 작성되는 경우가 많다.
2. 표준화의 결여: 바이오프로세스 데이터에 널리 채택된 형식이 없다. 데이터셋은 일반적으로 맞춤형 스프레드시트에 게시되거나 아예 공개되지 않으며, 이는 모델의 재현, 재사용 또는 문헌 간 비교를 어렵게 만든다.
3. 도구의 파편화: 기존의 오픈 소스 도구들은 효율적인 ANN 학습 메커니즘이 부족하거나(예: pyFOOMB), 피딩 및 샘플링과 같은 특정 바이오프로세스 기능이 없는 광범위한 시스템 생물학을 대상으로 한다(예: PEtab SciML, SiNDAE). HYBpy와 같은 도구는 바이오프로세스 응용 분야를 다루지만, 종종 설계의 유연성을 희생하여 일부 모델 구조만을 지원하며 커스텀 손실 함수 기능이 부족하다. 상용 도구들이 존재하지만, 이는 독점적이며 소스코드가 공개되지 않는다.

방법론
저자들은 바이오프로세스 하이브리드 모델링을 위한 "섀시(chassis)" 역할을 수행하도록 설계된 오픈 소스 파이썬 프레임워크인 Hybrax를 제시한다. Hybrax는 유연한 데이터 표현과 커스터마이징 가능한 엔드 투 엔드(end-to-end) 학습 파이프라인을 통합한다.

• 핵심 아키텍처: Hybrax는 미분 가능한 ODE 솔버를 사용하여 중간 속도 추정 없이 농도 데이터에 직접 학습할 수 있도록 JAX, Equimax, Diffrax를 기반으로 구축되었다.
• 데이터 표현 (hybrax.format): 이 프레임워크는 새로운 온톨로지 기반 데이터 구조(BioProcessCollection 및 BioProcess 객체)를 도입한다. 이 구조는 다음을 명시적으로 인코딩한다:
  • 프로세스 구성 (유입, 유출, 배지 조성).
  • 측정 및 제어 변수 (예: 생물량, pH, 온도).
  • 불연속 이벤트 (예: 샘플링, 볼러스 피딩).
  • 자동 수송 항 도출: 프로세스 구성을 바탕으로, Hybrax는 ODE($\frac{dy}{dt} = R(y, q) + T(y, u)$)의 수송 항($T$)을 자동으로 구성한다. 이를 통해 연구자가 부피 변화에 대한 질량 수지 항을 수동으로 도출해야 하는 번거로움을 제거한다.
  • 반응 역학: 사용자는 ReactionOde를 통해 반응 항($R$)을 정의할 수 있으며, 여기에는 대수적 양(예: 활성 생물량 대 총 생물량)에 대한 심볼릭 표현과 신경망($f_\theta$)에 의해 추정될 속도($q$)를 위한 플레이스홀더가 포함될 수 있다.
• 학습 파이프라인 (hybrax.train): 프레임워크는 네 가지 엔트리 포인트를 가진 모듈형 명령줄 인터페이스를 제공한다:
  • prepare: 원시 데이터를 수정하지 않고 데이터 변환(증강, 평활화) 및 검증을 처리한다.
  • train: 사용자 정의 custom.py 모듈을 사용하여 데이터에 모델을 적합시킨다.
  • loo: 앙상블 학습을 위해 교차 검증(기본값은 leave-one-out)을 수행한다.
  • forward: 새로운 데이터에 대한 예측을 생성한다.
• 재현성: 학습 체크포인트는 모델 파라미터, 옵티마이저 상태, 구성, 커스텀 코드 및 전처리된 데이터를 하나로 묶어, 즉각적인 재실행 또는 처음부터 다시 학습할 수 있도록 한다.

주요 기여

1. 통합 프레임워크: Hybrax는 범용적인 바이오프로세스 데이터 형식과 완전하고 유연한 학습 파이프라인을 결합한 오픈 소스 프레임워크로, 자동화와 설계 유연성 사이의 균형을 맞추는 도구의 부재를 해결한다.
2. 수송 항의 자동화: 프로세스 구성을 통해 희석 및 피딩 항을 자동으로 도출함으로써, Hybrax는 질량 수지 공식화에 따른 코딩 부담과 인적 오류 가능성을 크게 줄인다.
3. 모델 설계의 분리: 프로세스 역학(수송 및 반응 구조)과 속도 추정 함수($f_\theta$)를 분리함으로써, 연구자들은 전체 파이프라인을 다시 작성하지 않고도 모델 아키텍처(예: 키네틱 식에서 ANN으로)를 교체할 수 있다.
4. 재현성 강화: 프레임워크는 완전한 학습 아티팩트(artifacts) 공유를 용이하게 하여, "맞춤형 스프레드시트" 문제를 해결하고 동일한 데이터셋에 대해 서로 다른 모델 아키텍처를 직접 벤치마킹할 수 있게 한다.

결과
저자들은 문헌에 있는 두 가지 뚜렷한 모델을 재구현하여 Hybrax를 검증하였다:

1. 기계론적 모델 (E. coli): 정제된 기계론적 모델(OptFed)을 원시 농도 데이터에 직접 적합시켰다. Hybrax는 원본 연구($R^2$ 생물량 0.83, 제품 0.82)보다 동등하거나 더 나은 일치도(생물량 $R^2$ 0.86, 제품 $R^2$ 0.85)를 달성했다.
2. 하이브리드 모델 (E. coli): 단순한 ANN 기반 HM(2개 밀집층)을 동일한 데이터셋에 대해 학습시켰다. 이 모델은 작은 규모(59개 파라미터)에도 불구하고, 전체 키네틱 모델과 유사한 재구성 손실($R^2$ 0.90 및 0.85)을 달ável 했다.
3. LSTM 하이브리드 모델 (HEK293): (Ramos 등의 연구에서 영감을 받은) 포유류 세포 배양 프로세스를 위해 LSTM 기반 HM을 구현하였다. 반응 속도의 차원을 축소하기 위해 주성분 분석(PCA)을 사용한 결과, Hybrax 구현체는 테스트 데이터에서 원본 MATLAB 모델(0.0376)과 대등한 정규화된 평균 제곱근 오차(NRMSE) 값(0.0348)을 달성했다. 또한, 프레임워크는 비음수 농도 제약을 강제하기 위해 손실 함수에 페널티 항을 추가하는 용이성을 입증하였으며, 이를 통해 음수 예측 아티팩트를 10배 가량 감소시켰다.

의의 및 주장
본 논문은 Hybrax를 바이오프로세스 모델링의 표준화를 위해 필요한 단계로 규정하며, 이 분야는 현재 오픈 소스 흐름에서 유전체학이나 단백질체학에 비해 뒤처져 있다고 본다. 저자들은 Hybrax가 루틴한 기능적 작업(ODE 수송 항, 스케일링, 학습 루프)을 처리함으로써, 연구자들이 핵심적인 과학적 과제인 '프로세스 특화 모델 개발' 자체에 집중할 수 있게 해준다고 주장한다.

이 프레임워크는 모든 모델링 문제를 해결하기 위한 솔루션이 아니라, 신속한 프로토타이핑과 모델 비교를 위한 견고한 토대로서 제시된다. 저자들은 Hybrax가 표준화된 파이프라인과 데이터 형식이 없어 "매우 수행하기 어려웠던" 다양한 공개 데이터셋에 대해 서로 다른 모델 아키텍처를 종합적으로 벤치마킹할 수 있게 해준다는 점을 강조한다. 이 작업의 목표는 모델 공유와 재현성을 원활하게 함으로써 중복된 노력을 줄이고 분야의 발전을 가속화하는 것이다.