기술 요약: DiffoR: 보편적 서수 회귀를 위한 통합 연속 생성 프레임워크

1. 문제 정의 및 동기

서수 회귀(Ordinal Regression, OR)는 얼굴 연령 추정, 의료 진단, 추천 시스템, 이미지 미학 평가 등 다양한 도메인에서 중요한 과제인, 내재된 순서를 가진 타겟 값을 예측하는 것을 목표로 합니다. 일반적인 분류(순서를 무시함)나 메트릭 회귀(등간격을 가정함)와 달리, OR은 비정상적(non-stationary) 의미론적 경계를 모델링해야 합니다. 예를 들어, 20세와 21세 사이의 지각적 차이는 60세와 61세 사이의 차이와 다릅니다.

기존 패러다임은 근본적인 한계에 직면해 있습니다:

• 나이브 회귀(Naive Regression): 복잡한 서수 분포를 포착하는 데 실패하며, 종종 다중 모드(multi-modal) 타겟을 단일 스칼라 평균으로 붕괴시킵니다.
• 공간 이산화(CSD) 및 순위 기반 방법: 회귀를 분류 또는 이진 하위 작업으로 변환합니다. 이들은 **양자화 아티팩트(quantization artifacts)**와 경직된 경계 설정을 초래하며, 서수 데이터에 내재된 부드럽고 비정상적인 의미론적 전이를 포착하지 못합니다.
• 이산 생성 모델(Discrete Generative Models): 서수 시퀀스를 생성하기 위해 대규모 언어 모델(LLM)을 모방하지만, 이 방법들은 휴리스틱한 어휘 설계와 필연적인 양자화 오류에 의해 제약을 받습니다.

본 논문은 이러한 이산화 기반 공식화가 본질적으로 연속적인 서수 공간에 결정론적 경계를 도입하여, 서수 거리에 둔감하고 글로벌 토폴로지를 보지 못하는 파편화된 예측을 유도한다고 주장합니다.

2. 방법론: DiffoR

저자들은 DiffoR를 제안하며, 이를 **연속 생성 서수 회귀(Continuous Generative Ordinal Regression)**로 정식화합니다. 이 방식은 서수 타겟을 이산 분류 대신 구조화된 다변량 연속 분포로 취급하며, 반복적인 디노이징(denoising)을 통해 값을 복구합니다.

핵심 프레임워크

DiffoR는 OR을 조건부 연속 값 복구 과정으로 취급합니다. 입력 특징 $x$를 조건부 특징 $c$로 매핑한 다음, 조건부 확산 디노이저(conditional diffusion denoiser)를 사용하여 노이즈로부터 잠재 표현 $z_0$를 반복적으로 복구합니다. 최종 예측은 구조화된 증분 벡터(increment vector)로부터 도출됩니다.

주요 아키텍처 혁신: 이중 디커플링 전략 (Dual-Decoupling Strategy)

서수 토폴로지를 보존하고 비정상적 의미론을 처리하기 위해, DiffoR은 이중 디커플링 전략을 채택합니다.

A. 공간적 디커플링: 다중 스케일 증분 집계 (Multi-scale Increment Aggregation, MIA)

• 메커니즘: 타겟 범위 $[0, 1]$를 $S$개의 순서 있는 연속 구간으로 분해합니다. 타겟 $y$는 $S$개의 유계 연속 증분 $b_k$의 합으로 표현됩니다.
• 구현: 단일 예측 헤드 대신, 모델은 $S$개의 병렬적인 스케일별 디코딩 헤드를 사용합니다. 각 헤드 $D_k$는 특정 서수 증분 $b_k$를 예측하는 데 특화됩니다.
• 이점: 이는 조립된 서수 결정(예: "어느 구간인가")과 미세한 교정(예: "구간 내 어디인가")을 분리합니다. 이를 통해 각 헤드가 별도의 의미론적 부분 공간을 포착하도록 함으로써 표현 붕괴를 방지하고, 교차 스케일 서수 의존성과 글로벌 일관성을 보장합니다.

B. 시간적 디커플링: 동적 디노이징 인지 (Dynamic Denoising Perception, DDP)

• 메커니즘: 거친(coarse) 의미론은 저주파 구조(높은 노이즈에서도 견고함)에 의존하는 반면, 미세한(fine) 의미론은 고주파 세부 사항(노이즈에 민감함)을 필요로 한다는 점을 인식하여, DDP는 디노이징 단계와 의미론적 입도(granularity)를 동기화합니다.
• 구현: 각 스케일별 헤드에는 전용 디노이징 타임스텝 $t_k$가 할당됩니다 ($t_1 > t_2 > \dots > t_S$). 거친 증분은 고노이즈 상태에서 디코딩되는 반면, 미세한 증분은 저노이즈 상태에서 교정됩니다.
• 이점: 이는 디노이징 궤적을 타겟의 계층적 의미론과 정렬시켜, 견고한 coarse-to-fine 정교화를 가능하게 합니다.

훈련 및 추론

• 손실 함수: 모델은 표준 확산 노이즈 예측 손실($L_{diff}$)과 다중 스케일 증분 회귀 손실($L_{mia}$)을 결합한 결합 목적 함수를 최적화합니다.
• 훈련: 혼합 타임스텝 샘플러(mixture timestep sampler)를 사용하여 글로벌 궤적 커버리지를 확보하는 동시에, DDP 전략과 정렬된 특정 타임스텝을 강조합니다.
• 추론: 모델은 역방향 디노이징 체인을 실행하며, 정렬된 타임스텝 $\{t_k\}$에서 잠재 추정치를 캐싱합니다. 이들은 증분으로 디코딩되며, 최종 예측이 유효한 서수 범위를 유지하도록 결정론적 절단 규칙(deterministic truncation rule)을 통해 집계됩니다.

3. 이론적 기여

본 논문은 제안된 설계에 대한 엄격한 이론적 분석을 제공합니다:

1. 공간적 디커플링: 표현을 여러 임베딩 세트로 분할하는 것(MIA)이 표현 붕괴를 완화함을 정리(Theorem)를 통해 입증합니다. 더 넓은 부분 공간을 점유함으로써, 다중 임베딩 방식은 단일 임베딩 베이스라인에 비해 서수 오차의 상한을 좁힙니다.
2. 시간적 디커플링: 여러 타임스텝을 활용하는 것(DDP)이 더 풍부한 추론 전략 공간을 제공함을 이론적으로 보여줍니다. 여러 타임스텝에 걸친 "오라클 선택형(oracle-selected)" 예측기는 단일 고정 시간 베이스라인보다 나쁘지 않은 서수 오차 경계를 가집니다.
3. 수렴성: 표준 평활성(smoothness) 및 Polyak-Łojasiewicz (PL) 조건 하에서, 파라미터 분리가 적용된 다중 시간 목적 함수(MH-MT)는 선형적으로 수렴하며, 이는 그래디언트 간섭으로 인해 단일 헤드 다중 시간 접근 방식이 가질 수 있는 문제를 극복하고 최적화 견고성을 제공함을 입증합니다.

4. 실험 결과

DiffoR은 4개 도메인에 걸친 12개 벤치마크에서 평가되었습니다:

1. 이미지 미학 평가 (IAA): ICAA17K, TAD66K, AVA, SPAQ에서 테스트되었습니다. DiffoR은 MAE, XAUC, LCC, SRCC 지표에서 GoR, TANet, AesMamba와 같은 방법들을 크게 앞지르며 SOTA 성능을 달성했습니다.
2. 얼굴 연령 추정 (FAE): UTKFace, FG-NET, MORPH, CACD에서 평가되었습니다. DiffoR은 최상위 베이스라인(예: GoR, FaRL) 대비 MAE를 4.08%에서 8.33%까지 감소시켰으며, 누적 점수(CS)를 개선했습니다.
3. 시청 시간 예측 (WTP): KuaiRec 및 KuaiRand 데이터셋에서 테스트되었습니다. DiffoR은 9개의 베이스라인을 능가하여 KuaiRec에서 MAE를 최대 1.45% 줄였고, XAUC에서 유의미한 이득을 얻었습니다.
4. 생애 가치(LTV) 예측: Criteo-SSC 및 Kaggle 데이터셋에서 평가되었습니다. DiffoR은 기존 8개 방법 모두에서 서수(SRCC) 및 수치(MAE) 지표 모두에서 일관되게 우수한 성능을 보였습니다.

**절제 연구(Ablation Studies)**를 통해 MIA 또는 DDP 중 하나라도 제거하면 성능이 급격히 떨어진다는 것을 확인하였으며, 이는 두 요소의 시너지 효과를 입증합니다. 잠재 공간의 시각화는 어텐션 헤드 간의 명확한 공간적 분리를 보여주었으며, 이는 모델이 중복된 표현이 아닌 상호 보완적인 특징을 학습하고 있음을 확인시켜 줍니다.

5. 의의 및 주장

본 논문은 보편적 서수 회귀를 위한 새로운 표준을 확립한다고 주장합니다. 주요 의의는 다음과 같습니다:

• 패러다임 전환: 이산화 기반의 한계에서 벗어나, 부드러운 의미론적 전이와 글로벌 서수 토폴로지를 자연스럽게 포착하는 연속 생성(Continuous Generative) 공식으로 이동합니다.
• 보편성: 통합된 프레임워크가 도메인별 아키텍처 수정 없이도(잠재 분포의 생성적 모델링에 의존하여) 시각적 데이터부터 구조화된 데이터에 이르기까지 다양한 서수 작업을 효과적으로 처리할 수 있음을 입증합니다.
• 해석 가능성 및 견고성: 이중 디커플링 전략은 정확도를 높일 뿐만 아니라, 계층적 서수 의존성을 명시적으로 모델링하고 이를 특징 주파수와 정렬함으로써 기계적 해석 가능성을 향상시킵니다.

저자들은 결론적으로 DiffoR이 내재된 순서를 가진 데이터를 모델링하는 미래 연구를 위한 견고한 토대를 제공하며, 기존 접근 방식들을 제약해 온 양자화 아티팩트를 효과적으로 우회한다고 밝힙니다.