기술 요약: 구성 데이터의 결측값 대체를 위한 제이슨-샤논 발산 기반 k-NN 알고리즘

1. 문제 제기

구성 데이터는 0 이상의 다변량 벡터로 정의되며, 그 합이 일정값 (일반적으로 1) 이 되도록 하여 표준 심플렉스 표본 공간 ($S^{D-1}$) 에 존재합니다. 이러한 데이터의 결측값은 표준 대체 기법들이 심플렉스의 제한적인 기하학을 존중하지 못하거나, 0 값을 처리할 수 없는 로그비 변환을 필요로 하기 때문에 고유한 도전을 제기합니다.

Hron 등 (2010) 이 제안한 k-NN 알고리즘과 같은 기존 방법들은 Aitchison 거리에 의존합니다. 그러나 Aitchison 거리는 로그비 변환을 필요로 하므로, 0 값 (반올림된 것이든 구조적인 것이든) 을 포함하는 데이터셋에는 적용할 수 없습니다. furthermore, 전통적인 접근법은 종종 특정 모수적 구조를 가정하거나 계산 집약적인 반복 회귀 모델을 필요로 합니다. 본 논문은 다음과 같은 요구 사항을 충족하는 유연한 비모수적 대체 방법을 다룹니다:

1. 로그비 변환 없이 심플렉스 위에서 직접 작동합니다.
2. 0 값을 자연스럽게 수용합니다.
3. 결측 패턴 처리에 있어 계산 효율성과 유연성을 제공합니다.

2. 방법론

제안된 솔루션은 Fréchet 평균 일반화와 적응형 메커니즘을 확장한 새로운 JSD k-NN 알고리즘입니다.

2.1 거리 척도: 제이슨-샤논 발산 (JSD)

Aitchison 거리 대신, 이 알고리즘은 구성 벡터 간의 거리를 측정하기 위해 제이슨-샤논 발산 (JSD) 을 활용합니다.

• 정의: 두 구성 $x$와 $y$에 대해, $JSD(x, y) = \sum_{j=1}^D \left( x_j \log \frac{2x_j}{x_j+y_j} + y_j \log \frac{2y_j}{x_j+y_j} \right)$입니다.
• 장점: Aitchison 거리와 달리 JSD 는 0 값을 자연스럽게 처리합니다 ($0 \log 0 = 0$이므로), 0 값 대체 전략의 필요성을 제거합니다. 이는 거리 함수 (제곱근이 삼각 부등식을 만족함) 이며 유계입니다.

2.2 JSD k-NN 알고리즘

핵심 알고리즘은 6 단계 비모수 절차에 따라 진행됩니다:

1. 선택: 가장 가까운 이웃의 수 $k$를 선택합니다.
2. 분리: 데이터를 불완전 벡터 ($X_M$) 와 완전 벡터 ($X_O$) 로 분리합니다.
3. 정규화: 불완전 벡터의 경우, 관측된 성분을 합이 1 이 되도록 정규화합니다. 마찬가지로 완전 벡터의 해당 성분들도 정규화합니다.
4. 거리 계산: 불완전 벡터의 정규화된 관측 성분과 모든 완전 벡터 간의 JSD 를 계산합니다.
5. 이웃 선택: 가장 작은 JSD 거리를 가진 $k$개의 완전 벡터를 식별합니다.
6. 대체: $k$개 이웃의 평균을 계산합니다. 결측 성분은 $k$개 이웃의 해당 성분의 산술 평균을 취한 후 정규화하고, 원래 불완전 벡터의 관측 성분 합으로 스케일링하여 추정됩니다.

2.3 확장 1: JSD $\alpha$-k-NN (Fréchet 평균)

유연성을 높이기 위해 5 단계에서 사용되는 산술 평균은 Tsagris 등 (2011) 이 정의한 표본 Fréchet 평균으로 대체됩니다:
$$\hat{\mu}_\alpha(x) = C \left\{ \left( \sum_{i=1}^n \frac{x_{ij}^\alpha}{\sum_{k=1}^D x_{kj}^\alpha} \right)^{1/\alpha} \right\}_{j=1,\dots,D}$$
여기서 $\alpha$는 조정 가능한 하이퍼파라미터입니다.

• 성질: $\alpha \to 0$일 때 기하평균으로 수렴하며, $\alpha = 1$일 때 산술평균이 됩니다. 이를 통해 알고리즘은 로그비 변환 없이 데이터의 분포에 적응할 수 있습니다.

2.4 확장 2: 적응형 JSD $\alpha$-k-NN

결측 패턴이 변할 수 있다는 점 (예: 특정 성분 크기와 관련된 결측성) 을 인식하여, 저자들은 단일 글로벌 쌍을 사용하는 대신 데이터에서 관찰된 각 고유한 결측 패턴에 대해 하이퍼파라미터 ($\alpha$ 및 $k$) 를 개별적으로 조정하는 적응형 접근법을 제안합니다.

2.5 하이퍼파라미터 조정

$k$와 $\alpha$의 최적값은 반복 leave-N-out 교차 검증 프로토콜을 통해 결정됩니다. 성능 지표는 테스트 세트에서 실제 값과 대체된 값 사이의 거리 (0 이 없는 경우 Aitchison 거리, 0 이 있는 경우 JSD) 입니다.

3. 주요 기여

1. 0 허용 대체: 이 방법은 로그비 변환이 필요 없는 구성 데이터용 최초의 k-NN 접근법으로, 반올림된 0 과 구조적 0 을 모두 자연스럽게 처리합니다.
2. 비모수적 유연성: JSD 와 Fréchet 평균을 활용함으로써 데이터 구조에 대한 제한적인 모수적 가정을 피합니다.
3. 계산 효율성: 이 알고리즘은 경쟁하는 반복 회귀 기반 방법들 (특히 robCompositions 패키지의 방법들) 보다 훨씬 빠릅니다.
4. 적응형 프레임워크: 하이퍼파라미터가 특정 결측 패턴에 맞게 조정되도록 하는 적응형 메커니즘의 도입은 계산 복잡성을 증가시키지만, 저자들은 이를 언급합니다.

4. 시뮬레이션 연구 결과

저자들은 네 가지 실제 데이터셋을 사용하여 알고리즘을 평가했습니다: Wines(0 없음), Hydrochemical(0 없음), Prey Fatty Acids(0 와 종 클래스 포함), FADN(0 와 집계/분해 시나리오가 있는 농업 데이터).

• 정확도 (0 없음): Wines 와 Hydrochemical 데이터셋에서 최적의 $\alpha$를 가진 JSD $\alpha$-k-NN 은 Aitchison 거리로 측정했을 때 표준 JSD k-NN 보다 각각 12% 와 2% 더 우수한 성능을 보였습니다. 제안된 두 방법 모두 경쟁하는 Hron 등 (2010) 의 알고리즘 (rob k-NN, lm, ltsReg) 보다 우수했습니다.
• 정확도 (0 있음): Prey Fatty Acids 데이터셋에서 JSD k-NN 은 유클리드 거리를 사용하는 robust k-NN (Hron 등, 2010) 보다 22% 성능이 개선되었습니다. JSD $\alpha$-k-NN 은 추가적으로 3.5% 의 개선을 제공했습니다. 이 특정 사례에서는 적응형 버전이 추가적인 이점을 주지 못했습니다.
• 분해 시나리오: 집계된 작물 데이터의 분해를 시뮬레이션한 FADN 데이터셋에서 JSD k-NN 은 robust k-NN 보다 15% 더 우수했습니다. $\alpha$ 및 적응형 확장은 여기서 추가적인 개선을 보이지 못했습니다.
• 계산 비용: JSD k-NN 은 robust k-NN 보다 훨씬 빨랐습니다. 속도 향상 인자는 샘플 크기와 차원에 따라 약 6 배에서 25 배까지 다양했습니다. 속도 향상은 고차원이고 샘플 크기가 작을 때 더 두드러졌습니다.

5. 중요성과 주장

본 논문은 제안된 JSD k-NN 알고리즘이 구성 데이터의 결측값 대체를 위한 강력하고 정확하며 계산 효율적인 대안을 제공한다고 주장합니다. 그 주요 중요성은 기존 로그비 기반 방법들의 결정적인 한계인 0 값을 수정 없이 처리할 수 있다는 점에 있습니다.

저자들은 적응형 JSD $\alpha$-k-NN 확장이 결측 패턴에 맞춰 매개변수를 맞춤화함으로써 이론적 개선을 제공하지만, 실제에서는 항상 성능을 크게 향상시키는 것은 아니라고 겸손하게 결론 내립니다. 특히 결측 패턴이 희소할 경우, 추가된 복잡성이 모든 경우에 가치 있을지는 의문이라고 제안합니다. 그러나 핵심 JSD k-NN 과 Fréchet 평균 확장 (JSD $\alpha$-k-NN) 은 현재 최첨단 방법들보다 일관되게 우수한 정확도와 효율성을 입증합니다.

이 연구는 0 과 결측값이 포함된 구성 데이터가 널리 존재하는 생태학, 농업, 공식 통계와 같은 분야의 실용적 도구로 위치 지어집니다. 저자들은 이 방법이 결측 무작위 (MAR) 를 가정하지만, 공식 통계에서 흔한 결측 비무작위 (MNAR) 시나리오 하에서는 평가되지 않았음을 인정합니다.