📊 statistics

NeuralFLoC: Neural Flow-Based Joint Registration and Clustering of Functional Data

NeuralFLoC 은 신경 ODE 기반의 미분동형 흐름과 스펙트럼 클러스터링을 활용하여 위상 및 진폭 변이를 효과적으로 분리하면서도 최첨단 성능과 강건성을 달성하는 기능적 등록과 클러스터링을 동시에 수행하는 완전 비지도 엔드투엔드 딥러닝 프레임워크입니다.

원저자: Xinyang Xiong, Siyuan jiang, Pengcheng Zeng

게시일 2026-04-30

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Xinyang Xiong, Siyuan jiang, Pengcheng Zeng

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

가상의 상황을 상상해 보세요. 모든 가수가 같은 노래를 부르는 합창단을 조직하려는데, 어떤 가수는 약간 빠르게, 어떤 가수는 느리게, 또 어떤 가수는 높은 음을 한 박자 늦게 시작한다고 가정해 봅시다. 만약 원시적인 소리 파형만 본다면, 싱크가 맞지 않는 가수들은 제때에 부르는 가수들과 완전히 다르게 보일 것입니다. 그들이 같은 선율을 부르고 있더라도 말입니다. 이는 언제 부르는지보다 누가 부르는지(그들만의 독특한 목소리) 로 가수들을 그룹화하는 것을 극도로 어렵게 만듭니다.

데이터 과학의 세계에서는 이를 **함수형 데이터 분석 (Functional Data Analysis)**이라고 부릅니다. 여기서 '가수들'은 곡선이나 선들 (심장 박동, 주가, 필적 등) 이고, '타이밍 문제'는 **위상 변이 (phase variation)**라고 불립니다.

이 논문은 NeuralFLoC(Neural Flow-based Joint Registration and Clustering) 라는 새로운 도구를 소개합니다. 간단한 비유를 통해 그 작동 원리를 설명해 보겠습니다.

문제: '지저분한 타임라인'

꽃이 피어오르는 사진 한 뭉치를 가지고 있다고 상상해 보세요. 어떤 사진에서는 꽃이 막 피기 시작했고, 다른 사진에서는 완전히 피어 있습니다. 만약 사진들이 어떻게 생겼는지에 따라 이들을 '그룹'으로 분류하려 한다면, 특정 순간에 비슷하게 보인다는 이유만으로 A 그룹의 '반쯤 피어 있는' 사진과 B 그룹의 '반쯤 피어 있는' 사진을 실수로 같은 그룹으로 묶을 수 있습니다. 하지만 실제로는 이 꽃들이 서로 다른 종류의 꽃에 속해 있을 수 있습니다.

타이밍 (위상) 이 모양 (진폭) 을 혼란스럽게 만들고 있는 것입니다. 전통적인 방법들은 먼저 타이밍을 고친 다음 사진을 분류하려 합니다. 하지만 타이밍을 잘못 고치면 분류도 잘못될 것입니다. 이는 '닭이 먼저냐 달걀이 먼저냐' 하는 문제입니다.

해결책: NeuralFLoC

NeuralFLoC 는 두 가지 작업을 동시에 수행하는 똑똑한 비지도 학습 AI 시스템입니다.

타이밍을 고칩니다 (Registration).
그룹을 분류합니다 (Clustering).

이 시스템은 이 두 작업을 서로 돕는 파트너로 간주하며, 별도의 단계로 처리하지 않습니다.

1. '신축성 있는 고무줄' (Neural ODEs)

타이밍을 고치기 위해 이 시스템은 Neural ODE(Neural Ordinary Differential Equations) 라는 것을 사용합니다.

비유: 데이터의 타임라인을 신축성 있는 고무줄이라고 상상해 보세요. 곡선들이 완벽하게 정렬되도록 하려면 일부는 늘려야 하고, 일부는 줄여야 합니다.
작동 원리: 고무줄을 그냥 딱딱하게 제자리에 고정시키는 것 (이는 날카롭고 비자연스러운 끊김을 유발할 수 있음) 대신, NeuralFLoC 는 '흐름 (flow)'을 사용하여 고무줄을 부드럽게 늘리고 매끄럽게 만듭니다. 이는 고무줄이 절대 찢어지거나 스스로 접히지 않도록 보장합니다 (수학적으로 이는 변환이 '부드럽고 가역적'임을 의미합니다). 이를 통해 데이터가 물리적으로 현실적인 상태를 유지하도록 보장합니다.

2. '그룹 리더들' (Spectral Clustering)

고무줄들이 늘어져 정렬되면, 시스템은 어떤 곡선들이 함께 속해야 하는지 결정해야 합니다.

비유: 시스템이 각 클러스터마다 '그룹 리더'(템플릿) 를 생성한다고 상상해 보세요. 시스템이 학습하면서 다음과 같이 질문합니다: "이 곡선은 A 그룹 리더와 더 닮았나요, 아니면 B 그룹 리더와 더 닮았나요?"
마법: 시스템은 단순히 추측하지 않습니다. '소프트 할당 (soft assignment)' 시스템을 사용합니다. 즉, "이 곡선은 80% A 그룹이고 20% B 그룹이다"라고 말합니다. 그런 다음, 그 추정을 바탕으로 고무줄 늘리기를 다시 조정합니다. 만약 곡선이 A 그룹과 더 닮아 보인다면, 시스템은 그 곡선이 A 그룹 리더에 더 잘 맞도록 고무줄 늘리기를 조정합니다.

왜 이것이 기존 방법보다 더 나은가요?

기존 방법 (두 단계): 먼저 모든 곡선을 일반적인 '평균' 곡선과 정렬되도록 강제합니다. 그 다음에 분류를 시도합니다. 만약 당신의 '평균' 곡선이 잘못된 추정이었다면, 전체 과정이 실패하게 됩니다.
NeuralFLoC (한 단계): 고무줄을 늘리는 동안 '그룹 리더'들을 학습합니다. 늘리기가 분류를 돕고, 분류가 늘리기를 돕습니다. 이는 마치 대화처럼 서로에게 피드백을 주고받습니다.

무엇을 테스트했나요?

저자들은 다음과 같은 다양한 실제 데이터 세트에서 이를 테스트했습니다.

형태: 객체 경계 이미지.
파동: 모션 센서 데이터 (예: 손을 흔들 때 전화기가 어떻게 움직이는지).
기호: 필적 궤적.

그들은 NeuralFLoC 가 다음에서 더 뛰어났음을 발견했습니다.

곡선 정렬: '가수들'이 같은 시간에 같은 음을 내도록 만드는 것.
그룹 분류: 어떤 곡선이 어떤 범주에 속하는지 올바르게 식별하는 것.
지저분함 처리: 데이터가 누락되었거나, 이상한 시간에 샘플링되었거나, 노이즈 (정적) 가 포함되어 있더라도 잘 작동했습니다.

결론

NeuralFLoC 는 지저분한 녹음의 타이밍을 고치는 것뿐만 아니라, 타이밍을 고치는 동안 서로 다른 가수들이 누구인지 파악하는 똑똑한 편집자와 같습니다. 매끄러운 수학적 '흐름'을 사용하여 두 가지 작업을 함께 수행함으로써, 이전의 개별 작업 방식을 시도했던 방법들보다 데이터에 대해 훨씬 더 명확한 그림을 얻습니다.

이 논문은 딥러닝 시스템이 단일 엔드 투 엔드 프레임워크 내에서 이 두 가지 특정 작업 (시간 왜곡 수정 및 클러스터링) 을 성공적으로 결합한 것은 처음이며, 데이터가 추가됨에 따라 수학적으로 신뢰할 수 있게 작동함을 증명했다고 주장합니다.

"NeuralFLoC: Neural Flow-Based Joint Registration and Clustering of Functional Data" 논문에 대한 상세한 기술적 요약입니다.

1. 문제 정의

본 논문은 **위상 변이 (phase variation)**가 존재하는 상황에서 함수형 데이터 (예: 생체 신호, 운동 경로) 의 클러스터링이라는 과제를 다룹니다.

핵심 쟁점: 함수형 데이터는 종종 두 가지 유형의 변이를 보입니다: *진폭 변이 (amplitude variation, 수직적 크기 차이)*와 *위상 변이 (phase variation, 특징의 수평적/시간적 불일치)*입니다.
어려움: 위상 변이가 심할 경우 표준 클러스터링 알고리즘은 고유한 형태 차이보다는 시간적 불일치에 기반하여 곡선들을 그룹화하므로 실패합니다.
기존 방법의 한계:
- 2 단계 접근법: 등록 (정렬) 과 클러스터링을 별도로 수행합니다. 이로 인해 오차 전파, 사전 정의된 템플릿에서의 편향, 그리고 계산 비효율성이 발생합니다.
- 연결 통계 모델: 종종 제한적인 모수적 가정 (예: 단순 시간 이동, 디리클레 과정) 에 의존하며, 확장성이나 다변량 데이터를 처리하는 데 어려움을 겪습니다.

2. 방법론: NeuralFLoC

저자들은 **Neural ODE(신경 상미분 방정식)**와 스펙트럴 클러스터링을 통합한 완전 비지도형 엔드 - 투 - 엔드 딥러닝 프레임워크인 NeuralFLoC를 제안합니다. 이 프레임워크는 세 가지 주요 모듈로 구성됩니다:

A. 잠재 초기화 (1D-CNN 인코더)

원시 함수형 데이터 $x_i(t)$ 는 국소적 형태 패턴을 추출하기 위해 1D 합성곱 신경망 (CNN) 을 통과합니다.
출력은 후속 와핑 역학의 초기 조건으로 작용하는 잠재 벡터 $z_i$ 입니다. 이는 정렬이 형태 인식 표현에서 시작되도록 보장합니다.

B. 연속 시간 와핑 (Neural ODE 워퍼)

이산적 와핑 대신, 모델은 Neural ODE 를 사용하여 매끄럽고 가역적인 와핑 함수 $\gamma_i(t)$ 를 학습합니다.
메커니즘: 학습 가능한 속도장 $f$ (MLP 로 매개변수화됨) 가 연속 흐름 $\tau_i(t)$ 를 지배합니다:
$\frac{d\tau_{ij}(t)}{dt} = f(\tau_{ij}(t), t, z_{ij}; \Theta_{ode})$
제약 조건: Softplus 활성화 함수는 미분이 양수 ( $\dot{\gamma} > 0$ ) 가 되도록 하여, 와핑 함수가 엄격하게 단조롭고 가역적 (미분동형사상) 임을 보장합니다.
클러스터 인식 혼합: 샘플의 최종 와핑 함수는 소프트 할당 확률 $p_{ij}$ 로 가중된 클러스터별 흐름의 혼합물이며, 이를 통해 정렬이 클러스터 구조에 의해 안내되도록 합니다.

C. 스펙트럴 클러스터링 및 목적 함수

정렬: 정렬된 곡선은 제곱근 속도 함수 (SRVF) 공간으로 변환됩니다. 이 거리 척도는 재매개변수화에 불변이므로 기하학적으로 의미 있는 거리 계산을 가능하게 합니다.
클러스터링: 정렬된 곡선은 노이즈를 필터링하고 스펙트럴 계수를 추출하기 위해 푸리에 기저에 투영됩니다. 소프트 할당 메커니즘 (Student's t-분포 커널 사용) 이 곡선을 클러스터 중심에 할당합니다.
연결 손실 함수: 모델은 통합된 목적 함수를 최소화합니다:
$\mathcal{L}_{total} = \mathcal{L}_{reg} + \alpha \mathcal{L}_{clu}$
- $\mathcal{L}_{reg}$ : 클러스터 조건부 SRVF 등록 손실 (클러스터별 Karcher 평균까지의 거리 최소화).
- $\mathcal{L}_{clu}$ : 클러스터링 손실 (소프트 할당과 목표 분포 간의 Kullback-Leibler 발산) 로, 확신 있는 클러스터 분리를 장려합니다.
- $\alpha$ : 균형 하이퍼파라미터.

3. 주요 기여

새로운 프레임워크: 동시적 함수형 등록 및 클러스터링을 위한 최초의 엔드 - 투 - 엔드 딥러닝 접근법입니다.
미분동형사상 흐름: Neural ODE 를 사용하여 명시적 분포 가정 없이 매끄럽고 가역적이며 단조로운 와핑 함수를 보장함으로써, 이산적 또는 모수적 방법의 한계를 극복합니다.
이론적 보장:
- 보편적 근사: Neural ODE 모듈이 임의의 허용 가능한 와핑 함수를 임의로 잘 근사할 수 있음을 증명합니다.
- 점근적 일관성: 정렬 후 클러스터가 분리 가능하다는 전제 하에, 표본 크기가 증가함에 따라 연결 추정량이 실제 클러스터 할당으로 수렴함을 입증합니다.
확장성: 켤레 민감도 방법을 통해 표본 크기에 대해 선형 시간 복잡도 $O(N)$ 을 달성하고 일정한 메모리 사용량을 유지하여 대규모 데이터셋에 적합합니다.

4. 실험 결과

이 방법은 단변량 및 다변량 함수형 데이터를 포함하는 UCR Time Series Archive 의 다양한 데이터셋 (Shapes, Wave, Symbols) 에서 평가되었습니다.

성능: NeuralFLoC 는 정렬 (조정 총 분산, ATV 로 측정) 과 클러스터링 (정확도 및 정규화 상호 정보) 모두에서 최첨단 (SOTA) 결과를 달성했습니다.
절대 실험 (Ablation Studies):
- Neural ODE 를 이산적 와핑 (SrvfRegNet) 으로 대체하면 성능이 현저히 저하되어 연속 흐름의 중요성을 부각시켰습니다.
- 등록 또는 클러스터링 모듈 중 하나를 제거하면 심각한 성능 저하가 발생하여 연결 형식의 필요성을 확인시켰습니다.
강건성: 모델은 다음에 대해 강력한 강건성을 보여주었습니다:
- 결측 데이터: 최대 20% 의 결측 포인트에서도 성능을 유지했습니다.
- 불규칙 샘플링: 고르지 않게 샘플링된 그리드에서 잘 수행되었습니다.
- 노이즈: $\sigma=0.10$ 까지의 가우시안 노이즈 수준에서도 안정적으로 유지되었습니다.
확장성: 약 70,000 개의 샘플까지 성공적으로 확장되었으며, 성능 저하는 최소화되었습니다.

5. 의의

NeuralFLoC 는 기하학적 등록과 비지도 학습을 통합함으로써 함수형 데이터 분석 (FDA) 에서의 패러다임 전환을 나타냅니다.

분리: 이전 방법들에서 종종 무시되거나 poorly 처리되었던 위상 및 진폭 변이를 효과적으로 분리합니다.
유연성: 제한적인 모수적 가정을 피함으로써 실제 세계의 생물학적 및 물리적 시스템에서 흔히 발생하는 복잡한 비선형 시간 왜곡을 모델링할 수 있습니다.
실용성: 계산 효율성과 강건성으로 인해 기존 통계 방법이 실패하는 대규모, 노이즈가 많고 불규칙하게 샘플링된 함수형 데이터셋에 적용 가능합니다.

요약하자면, NeuralFLoC 는 정렬되지 않은 함수형 데이터를 분석하기 위한 원칙적이고 확장 가능하며 매우 효과적인 솔루션을 제공하여, 딥러닝의 유연성과 함수형 데이터 분석에 필요한 기하학적 엄밀성 사이의 간극을 메웁니다.