Handling Missingness and Censoring in Dirichlet Models

기술 요약: 디리클레 모델에서의 결측 및 검열 처리

문제 정의
전체에 대한 부분의 상대적 비율을 나타내며 단위 심플렉스(unit simplex) 상에 존재하는 조성 데이터(compositional data)는 미생물학에서 환경 과학에 이르기까지 다양한 분야에서 빈번하게 접하게 된다. 디리클레 분포(Dirichlet distribution)는 제약이 없는 데이터에 대한 다변량 정규 분포와 유사하게, 이러한 조성 데이터에 대한 표준적인 확률 모델이다. 그러나 현재의 관행에서 나타나는 중대한 한계점은, 디리클레 파라미터에 대한 가능도 기반 추론(likelihood-based inference)이 일반적으로 완전하게 관찰된 조성 데이터를 필요로 한다는 것이다. 실제 시나리오에서는 데이터에 누락된 성분이나 검열된 값(예: 검출 한계 또는 불완전한 종 분화로 인한 값)이 포함되는 경우가 많다.

불완전성을 처리하기 위한 기존의 접근 방식은 일반적으로 세 가지 범주로 나뉜다: 불완전한 행을 삭제하는 방식(정보를 폐기함), 고정된 값(예: 0)으로 대체하는 방식, 또는 임퓨테이션(imputation, 결측치 대치) 방식이다. 임퓨테이션 방법은 종종 데이터를 비제약 공간으로 변환(예: 로그 비율 변환)하고, 모델을 적합시킨 후, 결과를 다시 심플렉스로 매핑하는 방식에 의존한다. 이러한 변환 기반 접근 방식는 원래 변수의 해석을 복구할 수 없게 만들거나, 심플렉스로의 단사 사상(injective mapping)을 제공하지 못하거나, 검열 메커니즘을 자연스럽게 수용하는 데 어려움을 겪을 수 있다는 몇 가지 단점이 있다. 또한, 비모수적 임퓨테이션 방법은 특정 검열 구조를 무시하는 경향이 있어 잠재적인 편향과 기저 분포의 왜곡을 초래할 수 있다.

본 논문은 누락된 성분과 검열된 성분을 모두 Heitjan & Rubin (1991)의 의미에서의 "코서닝(coarsening, 데이터의 정밀도가 낮아짐)"의 한 형태로 취급하는 통합 프레임워크를 제안한다. 이 프레임ка는 MCAR(완전 무작위 결측), MAR(무작위 결측), 그리고 MNAR(비무작위 결측)을 각각 CCAR(완전 무작위 코서닝), CAR(무작위 코서닝), CNAR(비무작위 코서닝)의 특수한 사례로 포함한다. 본 논문은 관측된 데이터에는 의존하지만 관측되지 않은 정확한 값에는 의존하지 않는 메커니즘인 CAR 메커니즘에 초점을 맞춘다. 이는 가능도 기반 추론에 있어 해당 메커니즘이 무시 가능하다(ignorable)는 것을 의미한다.

방법론의 핵심은 데이터 변환 없이 심플렉스 상에서 직접 디리클레 파라미터의 최대 가능도(Maximum Likelihood, ML) 추정을 수행하도록 설계된 EM(Expectation–Maximisation) 유형의 알고리즘이다. 알고리즘은 다음과 같이 진행된다:

1. 이론적 기초: 저자들은 관측된 성분의 주변 밀도(marginal density)와 관측된 성분이 주어졌을 때 관측되지 않은 성분의 조건부 분포를 도출한다. 또한, 관측된 부분들과 검열 경계로 정의된 가용 영역이 주어졌을 때 관측되지 않은 성분의 조건부 분포가 절단된 디리클레 분포(truncated Dirichlet distribution)를 따른다는 것을 입증한다.
2. E-단계 (E-Step): 알고리즘은 완전 데이터 로그 가능도의 조건부 기댓값을 계산한다. 여기에는 관측되지 않은 성분의 로그값에 대한 기댓값을 계산하는 과정이 포함된다. 절단된 디리클레 분포의 성질을 이용하여, 저자들은 디감마 함수(digamma function)와 절단된 분포의 정규화 상수(normalizing constant)의 미분을 포함하는 이들의 폐쇄형 표현식을 유도한다.
3. M-단계 (M-step): 알고리즘은 파라미터 벡터 $\alpha$에 대해 기대 완전 데이터 로그 가능도를 최대화한다. 최적화 과정 중 디리클레 파라미터의 양수성을 보장하기 위해, 저자들은 재매개변수화($\alpha_k = e^{\beta_k}$)를 채택하고 EM 반복 내에 뉴턴-래프슨(Newton–Raphson, NR) 알고리즘을 중첩하여 사용한다. 헤시안 행렬(Hessian matrix)은 셔먼-모리슨(Sherman–Morrison) 공식을 사용하여 효율적으로 역행렬을 구한다.
4. 수렴: 알고리즘은 특정 정지 규칙을 사용한다: 뉴턴-래프슨 수렴에 기반한 내부 규칙과 관측 데이터 로그 가능도에 적용된 아이켄 가속(Aitken acceleration) 기준에 기반한 외부 규칙을 사용한다.

주요 기여
본 논문은 다음과 같은 구체적인 기술적 기여를 한다:

• 통합 프레임-워크: 데이터 변환의 필요성 없이 심플렉스 상에서 누락된 성분과 검열된 성분을 동시에 처리하는 단일 가능도 기반 프레임워크를 개발하였다.
• 디리클레를 위한 EM 알고리즘: 불완전한 데이터가 존재하는 상황에서 디리클레 파라미터의 ML 추정을 위한 계산 효율적인 EM 유형 알고리즘을 도출하였으며, 여기에는 절단된 디리클레 분포를 포함하는 필수적인 조건부 기댓값의 유도가 포함된다.
• 최소 데이터 요구사항: 본 방법은 단 하나의 성분만 관측된 행이 포함된 데이터셋에서도 디리클레 분포를 적합시킬 수 있으며, 이는 기존의 변환 기반 방법들이 실패하는 시나리오이다.
• 결합 추정 및 임퓨테이션: 이 접근 방식은 파라미터 추정과 모델 기반 임퓨테이션을 결합하여 수행함으로써, 조성 구조를 보존하고 역변환과 관련된 오류를 방지한다.

결과 및 평가
제안된 방법의 성능은 두 가지 주요 경로를 통해 평가되었다:

1. 시뮬레이션 연구: (부록에 상세히 기술된) 광범위한 시뮬레이션 연구를 통해 점점 더 복잡해지는 코서닝 메커니즘 하에서 방법의 성능을 평가하였다. 결과에 따르면, 제안된 추정치는 완전한 케이스만을 기반으로 한 ML 추정에 비해 파라미터 회복 능력을 실질적으로 개선하였다. 또한, 제안된 알고리즘에 의해 생성된 임퓨테이션 값은 기존의 모델 기반 접근 방식(ALR-EM) 및 비모수적 대안(기하 평균 임퓨테이션)보다 더 작은 오차를 보였다. 이 방법은 데이터의 최대 90%가 관측되지 않은 극단적인 조건에서도 신뢰성을 입증하였다.

2. 실제 데이터 적용: 본 방법론은 국립 보건 통계 센터(NHANES)의 수은 종 분화 데이터에 적용되었다. 이 데이터셋은 검출 한계 및 불완전한 종 분화로 인해 약 72%의 셀이 관측되지 않은 상태였다.

   • 디리클레 모델은 관측된 로그 가능도, AIC, BIC 값이 더 높게 나타남으로써, 다변량 로지스틱-노멀 모델(ALR-EM 접근법에 사용됨)보다 관측된 데이터에 더 나은 적합도를 제공함을 보여주었다.
   • 와서스타인 거리(Wasserstein distance) 계산은 적합된 디리클레 분포와 로지스틱-노멀 분포가 데이터를 다르게 모델링함을 확인시켜 주었으며, 디리클레가 더 타당한 표현을 제공함을 입증하였다.
   • 본 방법은 알려지지 않은 수은 유형의 비율을 성공적으로 추정하였으며, 경쟁하는 접근 방식들에 비해 관측된 조성 구조를 더 잘 보존하는 임퓨테이션을 제공하였다.

의의 및 주장
저자들은 본 연구가 조성 데이터 분석의 근본적인 간극, 즉 단위 심플렉스 상에서 불완전한 비율을 직접 수용하는 가능도 기반 추정 방법의 부재를 해결한다고 주장한다. 제안된 방법은 데이터를 비제약 모델에 적응시키려는 전통적인 관점을 뒤집어, 조성 데이터의 기하학적 구조와 제약을 존중하는 추정 도구를 개발한다.

본 연구의 의의는 불측값(unobserved values)이 존재하는 상황에서도 심플렉스 상에서 직접적인 가능도 기반 추론과 클러스터링을 가능하게 한다는 점에 있다. 저자들은 이것이 더 풍부한 혼합 구조(mixture structures)와 더 유연한 추론 절차를 포함한 심플렉스 기반 모델링의 추가적인 발전을 위한 길을 열어준다고 제안한다. 본 방법은 특히 높은 수준의 결측이나 검열이 발생하는 시나리오에서, 변환 기반 접근 방식이 초래할 수 있는 해석적 제한과 잠재적 편향을 피하는 강력한 대안으로 제시된다.