[기술 요약] Branching Flows: 이산, 연속 및 매니폴드 공간을 위한 분기형 흐름 모델

1. 문제 정의 (Problem Statement)

기존의 생성 모델링(Diffusion, Flow Matching)은 이미지와 같이 상태(state)의 개수가 사전에 고정된 도메인에서는 매우 강력한 성능을 보입니다. 하지만 다음과 같은 가변 길이(variable-length) 시퀀스 문제에서는 한계를 가집니다.

• 길이의 불확실성: 대규모 언어 모델(LLM)의 응답 길이, 분자의 원자 수, 단백질 사슬의 아미노산 수 등은 생성 전에 미리 알 수 없습니다.
• Infix Sampling 문제: 특정 고정된 영역(flanking regions) 사이에 알려지지 않은 길이의 세그먼트를 삽입해야 하는 문제(예: 항체 설계 시 CDR 영역 설계)를 자연스럽게 해결하기 어렵습니다.
• 기존 방식의 한계: 자기회귀(Autoregressive) 모델은 길이를 조절할 수 있지만 연속적인 상태(continuous state)를 다루기 어렵고, 기존의 가변 길이 확산 모델은 삽입/삭제 메커니즘이 임시방편(ad hoc)적이거나 복잡한 도메인으로 확장하기 어렵습니다.

2. 방법론 (Methodology)

본 논문은 Branching Flows라는 새로운 생성 모델링 프레임워크를 제안합니다. 이 모델은 단순한 분포에서 데이터 분포로 상태를 이동시키되, 상태의 요소들이 이진 트리(binary trees)의 숲(forest) 위에서 진화하도록 설계되었습니다.

핵심 메커니즘:

1. 분기(Branching/Splitting) 및 삭제(Deletion): 요소들은 확률적인 속도(rates)에 따라 복제(split)되거나 소멸(die)합니다. 이를 통해 생성 과정 중에 시퀀스의 길이를 동적으로 제어할 수 있습니다.
2. Generator Matching 기반 프레임워크: 조건부 프로세스(conditional process)가 단순 분포 $x_0$를 데이터 분포 $x_1$로 운송하도록 하며, 모델은 이 경로의 생성자(generator)를 학습합니다.
3. 구성 요소의 유연성: 각 요소는 이산적(discrete) 토큰, 유클리드 공간(Euclidean)의 좌표, 또는 리만 매니폴드(Riemannian manifold, 예: 회전 행렬 $SO(3)$) 상의 값일 수 있으며, 이들을 혼합한 멀티모달(multimodal) 공간에서도 작동합니다.
4. 내부 앵커(Internal Anchors): 트리의 분기점마다 '앵커'를 도입하여, 분기된 요소들이 경로 중간에 길을 잃지 않고 최종 데이터 값으로 수렴하도록 유도합니다.
5. 학습 손실 함수 (LCBF): 세 가지 Bregman 발산을 결합하여 학습합니다.
   • Base process loss: 요소 자체의 값 변화 학습.
   • Split intensity loss: 분기(복제)가 일어날 시점과 횟수 학습.
   • Deletion intensity loss: 삭제가 일어날 확률 학습.

3. 주요 기여 (Key Contributions)

• 범용적 가변 길이 프레임워크: 이산, 연속, 매니폴드 값을 모두 포함하는 가변 길이 시퀀스 생성의 통합된 이론적 틀을 제공했습니다.
• Infix Sampling 해결: 고정된 양 끝단을 조건으로 하여 그 사이의 길이를 모델이 스스로 결정하며 채워넣는 'Unknown-length infix sampling' 문제를 해결했습니다.
• 확장성 입증: 단순한 분자 구조부터 복잡한 단백질 구조(Backbone + Sequence)에 이르기까지 다양한 도메인에서의 적용 가능성을 증명했습니다.

4. 실험 결과 (Results)

논문은 세 가지 주요 도메인에서 실험을 진행했습니다.

1. QM9 (소분자 데이터): 원자 좌표와 종류를 동시에 생성합니다. 기존의 Transdimensional Jump 모델보다 분자량, LogP 등 화학적 성질 분포를 훨씬 더 정확하게 모사함을 확인했습니다.
2. Antibody Sequences (항체 서열): 순수 이산 서열 생성 실험입니다. 모델은 서열의 길이를 데이터 분포에 맞게 생성할 뿐만 아니라, 서열 내 아미노산의 위치별 빈도(positional dependence)를 매우 정확하게 학습했습니다.
3. Protein Structure & Sequence (단백질 구조 및 서열):
   • BranchChain: 단백질 체인의 길이를 스스로 결정하며 생성합니다. 생성된 구조는 최신 단백질 구조 예측 모델(Boltz2)을 통한 재구조화(refolding) 시 높은 일관성(scTM score)을 보였습니다.
   • BranchSegment: 특정 단백질 결합 부위(CDR3)를 설계할 때, 결합 파트너(RBD)의 존재 여부에 따라 적절한 길이를 스스로 결정하여 설계하는 능력을 보여주었습니다.

5. 의의 (Significance)

Branching Flows는 생성 모델링에서 **"길이가 정해지지 않은 복잡한 구조물"**을 다루는 데 있어 새로운 패러다임을 제시합니다. 특히 단백질 설계나 신약 개발과 같이 구조적 유연성이 필수적인 생물학적 도메인에서, 기존의 고정 길이 모델이나 단순한 자기회귀 모델이 해결하지 못했던 '구조적 가변성' 문제를 수학적으로 우아하고 실용적으로 해결했다는 점에서 매우 높은 학술적/산업적 가치를 지닙니다.