🤖 machine learning

Multi-Marginal Flow Matching with Adversarially Learnt Interpolants

이 논문은 이산적인 시점 스냅샷들 사이의 매끄럽고 고유한 보간법을 학습하기 위해 적대적 손실을 사용하는 새로운 다중 마진 결합 흐름 매칭 방법인 ALI-CFM을 소개하며, 이를 통해 정답 궤적 없이도 기저 역학을 정확하게 추론할 수 있게 함으로써 생물학적 데이터셋에서 기존 베이스라인들을 능가하는 성능을 보여준다.

원저자: Oskar Kviman, Kirill Tamogashev, Nicola Branchini, Víctor Elvira, Jens Lagergren, Nikolay Malkin

게시일 2026-07-07

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Oskar Kviman, Kirill Tamogashev, Nicola Branchini, Víctor Elvira, Jens Lagergren, Nikolay Malkin

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 여행의 이야기를 알아내려 한다고 상상해 보세요. 하지만 당신에게는 여정 중 서로 다른 지점에서 찍힌 여행자의 스냅샷 몇 장만이 있습니다. 출발지의 사진 한 장, 도착지의 사진 한 장, 그리고 중간 지점들을 찍은 흐릿한 사진 몇 장이 있을 뿐입니다. 당신의 목표는 이 점들을 모두 연결하여 그들이 정확히 어떻게 움직였는지 보여주는 매끄럽고 연속적인 선을 그리는 것입니다.

이것은 과학자들이 세포가 어떻게 성장하는지, 질병이 어떻게 퍼지는지, 또는 종양이 어떻게 진화하는지 등을 연구할 때 직면하는 문제입니다. 그들은 서로 다른 시점의 "스냅샷" 데이터는 가지고 있지만, 실제 움직임을 담은 비디오는 가지고 있지 않습니다.

이 논문은 이 퍼즐을 풀기 위한 새로운 방법인 ALI-CFM을 소개합니다. 이 방법이 어떻게 작동하는지 쉬운 비유를 통해 설명하겠습니다.

기존 방식: "딱딱한 줄"의 문제

이전의 방법들은 점들 사이에 직선을 그리거나 딱딱한 곡선을 그려 이 스냅샷들을 연결하려고 시도했습니다.

문제점: 만약 여행자가 구불구불하고 복잡한 경로(예: 매듭 모양)를 따라갔다면, 직선이나 딱딱한 스플라인(뻣뻣한 플라스틱 자)은 실제 여정과 전혀 다르게 보일 것입니다. 그것은 울퉁불퉁하고 어색하며, 심지어 물리 법칙에도 어긋날 수 있습니다.
한계: 이러한 기존 방식들은 모든 데이터 포인트를 정확하게 통과하도록 경로를 강제하려 했습니다. 만약 데이터에 노이즈가 섞여 있다면(예: 흐릿한 사진), 경로는 요동치고 혼란스러워질 것입니다.

새로운 방식: "적대적 댄스" (ALI-CFM)

저자들은 GAN(생성적 적대 신경망)에서 영감을 얻은 기술을 사용하여 경로를 그리는 더 똑똑한 방법을 제 제안합니다. 이것을 두 캐릭터 사이의 게임이라고 생각해 보세요.

위조범 (보간자, The Interpolant): 시작점과 끝점 사이의 매끄럽고 아름다운 경로를 그리려고 노력하는 신경망입니다. 이 모델은 실제처럼 보이는 경로를 만들고자 합니다.
예술 비평가 (판별자, The Discriminator): 위조범이 그린 경로를 살펴보고 중간 지점에서 찍힌 실제 "스냅샷"(데이터)과 비교하는 또 다른 신경망입니다. 비평가는 다음과 같이 묻습니다. "이 경로가 중간 사진 속에 보이는 사람들의 무리와 실제로 일치하는가?"

게임 방식:

위조범이 경로를 그립니다.
비평가가 경로가 중간 사진 속의 무리와 일치하는지 확인합니다.
만약 경로가 무리를 벗어나면, 비평가는 "아니, 이건 가짜야!"라고 말하고, 위조범은 다시 시도합니다.
위조범이 그린 경로가 실제 데이터 스냅샷과 구분이 불가능할 정도로 매끄럽고 정확해질 때까지 이 게임은 계속됩니다.

왜 특별한가?

매끄럽습니다: 중간 지점이 많아질 때마다 울퉁불퉁해지는 기존의 "딱딱한 자" 방식과 달리, 이 방법은 바위 사이를 흐르는 강물처럼 자연스럽고 매끄러운 곡선을 그리도록 학습합니다.
노이즈를 처리합니다: 위조범은 개별 사람의 정확한 위치를 맞추는 것이 아니라 무리의 일반적인 형태(분포)를 맞추려고 노력하기 때문에, 사진이 흐릿하거나 데이터가 지저도 매우 잘 작동합니다.
고차원에서 작동합니다: 이 논문은 이 방식이 단순히 2D 그림뿐만 아니라, 복잡한 다차원 데이터(예: 세포 내 수천 개의 유전자 측정값)에서도 작동함을 보여줍니다.

테스트 환경

저자들은 이 "위조범 대 비평가" 게임을 세 가지 실제 시나리오에서 테스트했습니다:

공중의 "매듭": 데이터 포인트들이 복잡한 매듭 모양을 형성하는 합성 테스트입니다. 기존 방식들은 매듭을 매끄럽게 추적하는 데 실패했지만, ALI-CFM은 완벽하게 해냈습니다.
세포 추적: 현미경 아래에서 단일 세포가 움직이고 형태가 변하는 과정을 관찰했습니다. 기존 방식들은 세포의 경로를 격렬하게 요동치게 만들었지만, ALI-CFM은 세포의 실제 움직임을 따르는 매끄럽고 현실적인 경로를 그렸습니다.
종양 매핑: 유방암 조직의 공간 데이터를 사용하여 스캔하지 않은 조직 절편 내의 종양 세포 위치를 예측했습니다. ALI-CFM은 이전 방법들보다 종양의 위치를 훨씬 더 잘 예측했습니다.

핵심 요약

이 논문은 "경로 맞히기" 게임을 통해 프로세스의 점들을 연결하는 법을 배우는 새로운 도구를 제시합니다. 데이터 포인트 사이에 딱딱한 연결을 강요하는 대신, 데이터에 자연스럽게 부합하는 매끄럽고 유연한 경로를 학습함으로써, 세포나 질병 같은 복잡한 시스템이 시간이 지남에 따라 어떻게 변하는지를 훨씬 더 잘 예측할 수 있게 해줍니다.

기술 요약: 적대적 학습된 보간법을 이용한 다중 한계 흐름 매칭 (Multi-Marginal Flow Matching with Adversarially Learnt Interpolants)

문제 정의
본 논문은 실제 정답 궤적(ground-truth trajectories)에 대한 접근 없이, 이산적인 시간 지점에서 샘플링된 관측값(스냅샷)만을 가지고 시스템의 시간 의존적 역학(time-dependent dynamics)을 학습하는 과제를 다룹니다. 이는 생물학(예: 단일 세포 RNA 시퀀싱, 세포 추적) 및 의학 분야에서 핵심적인 작업입니다. 형식적으로, 목표는 초기 한계 분포 $q_0$ 를 타겟 $q_1$ 로 밀어내는 동시에, 일련의 시간 단계 $0 = t_1 < \dots < t_K = 1$ 에 대해 중간 한계 제약 조건 $p_{t_i} = q_{t_i}$ 를 만족하는 상미분 방정식(ODE) $dx_t = v_t(x_t)dt$ 를 결정하는 시간 의존적 벡터 필드 $v_t$ 를 추론하는 것입니다.

연속적인 한계 쌍에 표준 흐름 매칭(Flow Matching, FM)을 적용하거나 선형/3차 스플라인 보간법을 사용하는 기존 방식들은 종종 비매끄러운(non-smooth) 보간 곡선을 생성합니다. 이러한 비매끄러움 문제는 학습 목적 함수의 그래디언트 분산을 높이고, 특히 고차원 설정이나 데이터에 노이로가 있는 경우 결과적인 벡터 필드를 한계화(marginalizing)하는 데 어려움을 초래합니다.

방법론: ALI-CFM
저자들은 보간법의 학습과 벡터 필드의 학습을 분리하는 2단계 방법인 ALI-CFM(Adversarially Learnt Interpolants with Conditional Flow Matching)을 제안합니다.

보간법의 적대적 학습 (ALI):
특정 데이터 지점을 통과하도록 강제하는 점별 매칭(pointwise matching) 대신, ALI는 신경망 보간법 $G_\phi(x_0, x_1, t)$ 가 중간 한계 분포를 일치시키도록 학습합니다. 보간법은 선형 보간에 신경망 수정 항을 더한 형태로 매개변수화됩니다:
$G_\phi(x_0, x_1, t) = (1-t)x_0 + tx_1 + t(1-t)f_\phi(x_0, x_1, t)$
보간법의 푸시포워드(pushforward) 분포가 관측된 중간 한계 $q_{t_i}$ 와 일치하도록 하기 위해, 저자들은 GAN에서 영감을 얻은 적대적 목적 함수를 사용합니다. 판별기 $D_\gamma$ 는 실제 한계 $q_{t_i}$ 의 샘플과 보간법 $G_\phi$ 로부터 생성된 샘플을 구별합니다. 생성기(보간법)는 두 분포 사이의 젠슨-샤논 발산(Jensen-Shannon divergence)을 최소화하도록 학습됩니다.

보간법의 유일성을 보장하고 임의로 휘어진 경로를 방지하기 위해, 저자들은 다음과 같은 정규화 항을 도입합니다:

선형 참조 (Linear Reference): 결합된 양 끝점 사이의 직선으로부터의 이탈을 처벌합니다.
구간 선형 참조 (Piecewise Linear Reference): 마르코프 체인 최적 운송(Optimal Transport, OT) 결합에 의해 정의된 구간 선형 경로로 회귀합니다.
2차 미분 노름 (Second Derivative Norm): 보간법의 곡률을 처벌함으로써 매끄러움을 강제합니다.

조건부 흐름 매칭(CFM)을 통한 한계화:
보간법 $G_\phi$ 가 학습되면 이를 고정합니다. 그 다음, 이 보간법을 생성하는 벡터 필드를 근사하기 위해 두 번째 신경망 $u_\theta$ 를 학습시킵니다. 이는 학습된 보간법의 시간 미분을 타겟 벡터 필드로 사용하는 표준 조건부 흐름 매칭 목적 함수를 통해 수행됩니다:
$L_{CFM} = \mathbb{E}_{t, (x_0, x_1) \sim \pi} \| u_\theta(G_\phi(x_0, x_1, t)) - \frac{d}{dt}G_\phi(x_0, x_1, t) \|^2$
여기서 $q_0$ 와 $q_1$ 사이의 결합 $\pi$ 는 독립적이거나 최적 운송 계획(OT plan)일 수 있습니다.

주요 기여

새로운 보간 기술: 본 논문은 점 단위의 할당이 아닌 분포 매칭을 사용하여 보간법을 학습하는 새로운 방법을 제시합니다. 이를 통해 완만한 가정 하에 증명된 바와 같이, 매끄럽고 유일한 궤적을 학습할 수 있습니다.
노이즈 및 복잡성에 대한 강건성: ALI-CFM은 노이즈가 있는 데이터셋과 복잡하고 시간에 따라 변하는 기하학적 구조를 처리할 수 있도록 설계되었습니다. 이는 점별 보간법(스플라인 또는 구간 선형 방식)이 실패하거나 불안정해지는 영역입니다.
확장성 및 다재다능함: 저자들은 ALI-CFM이 고차원 데이터와 다수의 한계 분포( $K$ )에 대해 확장 가능하며, 특정 복잡한 시나리오에서 기존 베이스라인보다 우수한 성능을 보이면서도 다른 시나리오에서는 경쟁력을 유지함을 입상했습니다.

실험 결과
저자들은 네 가지 서로 다른 작업에 대해 ALI-CFM을 평가했습니다:

합성 "Knot" 분포: 1,200개의 한계 분포가 매듭(knot)을 형성하는 합성 데이터셋에서, ALI-CFM만이 시간 의존적 기하학을 정확하게 포착할 수 있었습니다. 경쟁 방법들(OT-MFM, 3차 스플라인, 구간 선형)은 높은 그래디언트 분산을 가진 비매끄러운 보간법을 생성했습니다.
세포 추적 (Glioblastoma): 움직이는 세포의 현미경 데이터를 사용하여, ALI-CFM은 노이즈가 있고 하위 샘플링된 데이터로부터 시공간적 역학을 성공적으로 학습했습니다. 반면, OT-CFM 궤적은 발산하였고, 시간 독립적인 OT-MFM은 시간적 의존성을 포착하는 데 실패했습니다.
단일 세포 궤적 추론 (scRNA-seq): EB, Cite-seq, Multiome 데이터셋에 대해, ALI-CFM은 Earth Mover's Distance (EMD) 측면에서 최첨단 베이스라인(OT-MFM, OT-CFM)과 대등한 성능을 보였습니다. 저자들은 적대적 학습이 점별 데이터에 과적합된 방법들을 엄격하게 능가하기 어렵게 만들지만, 이 방법이 매우 경쟁력 있음을 언급했습니다.
종양 좌표 추론 (Spatial Transcriptomics): 공간적으로 정렬된 조직 섹션을 가진 유방암 데이터셋에서, ALI-CFM은 홀드아웃(held-out) 섹션에서의 종양 영역 분포를 예측하는 데 있어 모든 베이스라인(OT-CFM, OT-MMFM, OT-MFM 포함)을 크게 압도했습니다. 저자들은 이러한 성공을 멀티모달 분포를 처리하고 조직 섹션을 정렬하는 문제를 해결하는 방법의 능력 덕분으로 돌렸습니다.

의의 및 주장
본 논문은 ALI-CFM이 엄격한 점별 할당에서 분포 매칭으로 전환함으로써 다중 한계 흐름 매칭에 대한 개념적으로 새로운 접근 방식을 제공한다고 주장합니다. 이러한 전환은 매끄럽고 유일한 보간법을 학습할 수 있게 하며, 기존 방법들이 실패하는 복잡한 역학을 모델링할 수 있는 강건함을 부여합니다. 저자들은 자신의 방법이 수백 또는 수천 개의 한계 분포와 노이즈가 있는 데이터가 존재하는 영역에서 다른 어떤 흐름 매칭 알고리즘도 대등한 성능을 보여주지 못한 만큼 효과적임을 강조합니다. 표준 단일 세포 벤치마크에서는 기존의 최첨단 방법들과 대등한 성능을 보이지만, 공간 전사체학 및 합성 복잡 기하학 작업에서의 탁월한 성능은 이 방법의 다재다능함과 확장성을 입증합니다.