Improving Detection of Rare Nodes in Hierarchical Multi-Label Learning

기술 요약: 계층적 다중 레이블 학습에서 희귀 노드 탐지 성능 향상

문제 정의
계층적 다중 레이블(Hierarchical Multi-Label, HML) 분류는 모델이 계층 구조의 더 깊고 세밀한 수준에서 예측을 수행할 수 있도록 하는 데 있어 지속적인 과제를 안겨줍니다. 이러한 어려움은 특정 클래스(노드)의 자연적인 희귀성에서 비롯되며, 자식 노드는 부모 노드보다 항상 빈도가 낮다는 계층적 제약 조건 때문입니다. 결과적으로, 표준 모델들은 흔치 않은 미세한 노드를 예측하는 데 실패하는 경우가 많으며, 이는 과학적 통찰(예: 해저 이미지에서 희귀 종 탐지 또는 의료 분야에서 희귀 유전자 산물 탐지)을 얻는 데 매우 중요합니다.

HML 불균형에 대한 기존 접근 방식은 관측치 기반 리샘플링(예: 희귀 관측치 오버샘플링)에 의존하는 경우가 많습니다. 저자들은 이것이 희귀한 자식 노드와 함께 주석(annotation)이 달린 흔한 부모 노드를 과도하게 강조할 위험이 있기 때문에 최적이 아니라고 주장합니다. 또한, 전체 관측치를 하나의 단위로 취급하는 것은 계층 내 개별 노드에 내재된 특정한 불균형을 해결하지 못합니다. 아울러, 표준 손실 함수는 모델의 불확실성을 충분히 고려하지 못하며, 이는 훈련 과정에서 어떤 노드에 더 집중해야 하는지를 식별하는 데 필수적입니다.

방법론
저자들은 노드 수준의 불균형과 불확실성을 해결하기 위해 두 가지 별개의 구성 요소를 결합한 가중 손실 목적 함수를 제안하며, 이는 C-HMCNN(Coherent Hierarchical Multi-Label Classification Neural Network) 프레임워크를 기반으로 합니다.

1. 노드별 불균형 가중치 부여 (Node-Wise Imbalance Weighting):
   관측치 빈도가 아닌 개별 노드 및 그 자손의 빈도에 따라 가중치를 할당합니다.

• 재스케일링 (Rescaling): 흔한 노드가 거의 0에 가까운 가중치를 받아 정보가 담긴 그래디언트(gradient)가 사라지는 것을 방지하기 위해, 저자들은 최소 가중치 매개변수($\tilde{w}_0$)를 도입합니다.
• 적용: 가중치는 노드의 양성 주석($y_i=1$)에만 적용되며, 음성 주석은 가중치를 부여하지 않습니다(가중치 1). 이는 흔한 노드를 완전히 무시하지 않으면서도 희귀 노드를 학습하도록 장려합니다.

2. 불확실성 정량화를 통한 포컬 가중치 부여 (Focal Weighting via Uncertainty Quantification):
   포컬 손실(Focal Loss)에서 영감을 받은 이 구성 요소는 모델 앙상블이 높은 불확실성을 보이는 노드를 강조합니다. 저자들은 불확실성을 정량화하기 위해 모델 앙상불($\Theta$)을 활용하며, 다음과 같은 여러 지표를 탐색합니다:

• 이진 베이지안 모델 평균 (bBMA): 이진 확신도를 조정한 앙상블 평균 예측의 분산을 사용합니다.
• 게이트 마진 불확실성 (GMU): 확신 게이트를 포함하면서 모델 예측 간의 분산을 포착하는 신호 대 잡음비 기반 지표입니다.
• 에피스테믹 불확실성 (Epistemic Uncertainty): 앙상블 내 모델 예측 간의 쿨백-라이블러(KL) 또는 젠슨-샤논(JS) 발산을 통해 측정됩니다.
• 구현: 포컬 항은 $(U_0 + U(\Theta(X))^k)$로 계산됩니다. 여기서 $U$는 불확실성 척도, $U_0$는 최소 게이트, $k$는 지수 인자입니다. 이 항은 앙상블 붕괴를 방지하기 위해 그래디언트 없이 계산됩니다.

최종 손실 함수($L_{focal}$)는 계층적 제약을 충족하기 위해 C-HMCNN에서 사용되는 표준 "최대 제약 손실($L_{MC}$)"과 불균형 가중치 항, 그리고 포컬 가중치 항을 곱하여 산출됩니다.

주요 기여

1. 불균형 가중치 부여: 논문은 불균형 가중치를 관측 분포와 독립적인 노드 수준에서 정의하는 것이 HML 작업에서 관측치 기반 리샘플링보다 더 효과적이라는 증거를 제시합니다. 또한, 정밀도(precision)와 재현율(recall) 사이의 균형을 맞추는 데 특정 최소 가중치 매개변수($\tilde{w}_0$)가 매우 중요하다는 것을 입증합니다.
2. 포컬 가중치 부여: 저자들은 HML 문맥에 맞게 불확실성 정량화 개념을 변형했습니다. 이들은 불확실성 항(특히 bBMA 및 GMU)을 손실 함수에 포함하는 것이 희귀 노드의 탐지를 유의미하게 개선한다는 증거를 제공합니다. 포컬 가중치의 성능은 앙상블 크기에 따라 양의 상관관계를 보이며, 이는 더 큰 앙상블이 더 신뢰할 수 있는 불확실성 추정치를 제공함을 시사합니다.
3. 포괄적 평가: 연구는 트리 구조와 유향 비순환 그래프(DAG) 구조를 모두 포함하는 16개의 유전자 산물 데이터셋(FUN 및 GO 계층)과 벤틱 이미지 데이터셋(BenthicNet-E)을 통해 이 방법들을 평가합니다.

실험 결과

• 유전자 산물 데이터셋: 제안된 노드별 가중치 부여( $\tilde{w}_0 = 0.25$ 적용)는 특정 데이터셋에서 베이스라인(None, LPROS, HROS-PD) 대비 재현율을 최대 5배까지 향상시켰습니다. 이 과정에서 때때로 정밀도와의 트레이드오프가 발생하기도 했으나, 전반적인 F1 점수는 통계적으로 유의미한 상승을 보였습니다.
• 포컬 가중치 부여: 불균형 가중치와 결합했을 때, 포컬 항(bBMA 및 GMU)은 F1 점수와 재현율을 더욱 개선했습니다. 포컬 가중치의 성능은 앙상블 크기에 따라 긍정적으로 확장되었으며, 이는 더 큰 앙상블이 더 신뢰할 수 있는 불확실성 추정치를 제공함을 시사합니다.
• 에피스테믹 불확실성: 초기 가설과 달리, 에피스테믹 불확실성 측정치(KL/JS 발산)는 bBMA나 GMU에 비해 성능이 떨어졌습니다. 저자들은 잘 훈련된 네트워크에서는 알레아토릭(aleatoric) 불확씨성이 전체 불확실성에서 우세하기 때문일 수 있다고 제안합니다.
• 비전 모델 (BenthicNet-E): 제안된 방식은 인코더가 최적화되지 않았거나(노이즈가 있거나 무작위 초기화된 경우), 데이터가 제한적인 경우에 가장 큰 혜택을 보였습니다. 인코더가 완전히 훈련되고 데이터가 풍부해질수록 상대적인 이득은 줄어들었지만, 희귀 노드에 대한 개선 효과는 지속되었습니다.
• 결합 접근 방식: 제안된 가중치 부여를 LPROS(리샘플링 방법)와 결합했을 때 유전자 산물 데이터셋에서 F1 및 정밀도의 추가적인 향상을 가져왔으며, 이는 시너지 효과가 있음을 시사합니다. 그러나 이 결합은 비전 데이터셋에서는 강력한 성능을 보이지 않았습니다.

의의 및 주장
본 논문은 자사의 접근 방식이 자연적인 데이터 불균형으로 인해 표준 HML 모델에서 흔히 무시되는 문제인, 계층 구조 깊은 곳의 희귀 노드에 대한 일관된 탐지를 가능하게 한다고 주장합니다. 이 연구의 의의는 초점을 "희귀 관측치"에서 "희귀 노드"로 전환함으로써, 흔한 부모 노드를 강화하는 함정을 피했다는 데 있습니다. 저자들은 이 방법이 인코더가 최적이 아니거나 데이터가 제한적인 도메인과 같이 희귀 노드 탐지가 매우 어려운 도전적인 HML 작업에 특히 효과적이라고 단언합니다. 결론적으로, 완벽한 인코더와 풍부한 데이터가 갖춰지면 이득이 감소할 수 있으나, 본 방법은 실제 불균형한 계층적 환경에서 재현율과 F1 점수를 높이기 위한 견고한 전략으로 남는다는 점을 강조합니다.