A proposal for PU classification under Non-SCAR using clustering and logistic model

논문 기술 요약: 비-SCAR 조건에서의 클러스터링 및 로지스틱 모델을 활용한 PU 분류 제안

1. 연구 배경 및 문제 정의 (Problem)

• PU 학습 (Positive-Unlabeled Learning): 양수 (Positive) 와 라벨이 없는 (Unlabeled) 데이터만 존재하는 상황에서 학습하는 문제입니다. 여기서 '라벨이 없는' 데이터는 실제로는 양수일 수도 있고 음수 (Negative) 일 수도 있습니다.
• SCAR 가정의 한계: 기존 PU 학습 방법론은 대부분 SCAR (Selected Completely At Random) 가정을 전제로 합니다. 이는 라벨링 확률이 특성 (Feature) 에 의존하지 않고 오직 클래스 (Positive) 에만 의존한다는 가정 ($P(S=1|Y=1, X) = P(S=1|Y=1)$) 입니다.
• Non-SCAR 상황: 실제 응용 분야 (예: 설문 조사에서의 미보고, 의료 진단 등) 에서는 라벨링 과정이 특성 $X$에 의존하는 경우가 많습니다 ($P(S=1|Y=1, X) = e(X)$). 이를 SAR (Selected at Random) 또는 Non-SCAR 조건이라고 하며, 기존의 SCAR 기반 알고리즘은 이러한 조건에서 성능이 급격히 저하될 수 있습니다.
• 연구 목표:
  1. SCAR 조건이 만족되지 않는 (Non-SCAR) 환경에서도 효과적으로 작동하는 계산적으로 간단한 클러스터 정제 (Cluster Cleaning) 알고리즘을 제안하는 것.
  2. SCAR 조건이 위반되었을 때 기존 방법인 LassoJoint 방법의 강건성 (Robustness) 을 평가하는 것.

2. 제안된 방법론 (Methodology)

저자들은 **"Pecking Procedure (쪼아먹기 절차)"**라고 명명한 새로운 클러스터 기반 정제 알고리즘을 제안했습니다.

A. Pecking Procedure (클러스터 정제 알고리즘)
이 알고리즘은 2-means 클러스터링을 활용하여 라벨이 없는 데이터 (Unlabeled, $S=0$) 중에서 잠재적인 양수 (True Positive) 를 식별하고 라벨을 부여하는 과정입니다.

1. 샘플링 (Pecking): $S=1$인 알려진 양수 샘플 중 $q\%$를 추출하여 $S=0$인 데이터셋에 합칩니다. 이를 $C^q_0$ 집합이라고 합니다.
2. 클러스터링: $C^q_0$ 집합에 2-means 클러스터링을 적용하여 두 개의 클러스터 ($C_{0,0}, C_{0,1}$) 로 나눕니다.
3. 라벨 할당:
   • $S=1$인 샘플이 더 많은 클러스터를 $C_{0,1}$로 정의하고, 이 클러스터의 샘플에 $\hat{Y}=1$ (양수) 라벨을 부여합니다.
   • 나머지 클러스터 ($C_{0,0}$) 의 샘플에는 $\hat{Y}=0$ (음수) 라벨을 부여합니다.
   • 원래 $S=1$이었던 모든 샘플은 $\hat{Y}=1$로 유지됩니다.
4. 반복 및 평균화: 이 과정을 $R$회 반복합니다. 각 반복마다 얻어진 cleaned labels ($\hat{Y}$) 를 사용하여 로지스틱 회귀 (Logistic Regression) 또는 LassoJoint 모델을 학습합니다. 최종 예측 모델은 $R$회 반복에서 얻은 계수 (coefficients) 의 평균을 취하여 생성합니다.
   • LassoJoint 변형: 'Strict' (모든 반복에서 선택된 변수만 평균) 와 'Non-strict' (어떤 반복에서든 선택된 변수 평균) 두 가지 방식을 사용합니다.

B. 비교 대상 방법론

• Naive Method: $S$를 그대로 $Y$로 간주하여 로지스틱 회귀를 수행 (가장 단순한 접근).
• LassoJoint: SCAR 가정을 기반으로 한 기존 방법 (로지스틱 모델 + Lasso 선택 + Joint estimation).

3. 주요 기여 (Key Contributions)

1. Non-SCAR 환경 대응 알고리즘 개발: SCAR 가정이 깨진 상황에서도 2-means 클러스터링을 통해 Unlabeled 데이터의 잠재적 양수를 효과적으로 식별하는 새로운 정제 기법을 제안했습니다.
2. 계산 효율성: 계층적 클러스터링 대신 2-means 를 사용하여 계산 비용을 줄이고, 반복 학습을 통해 모델의 안정성을 확보했습니다.
3. LassoJoint 의 강건성 검증: SCAR 가정이 위반된 상황에서도 LassoJoint 방법이 일정 수준의 성능을 유지하는지 실험을 통해 확인했습니다.
4. 광범위한 실험: UCI 머신러닝 리포지토리의 11 개 실데이터와 1 개의 합성 데이터를 사용하여 다양한 시나리오에서 평가했습니다.

4. 실험 결과 (Results)

• 데이터셋: Adult, Bank Marketing, Breast Cancer, Diabetes, Spambase 등 11 개 실데이터 및 합성 데이터 (Artif).
• 실험 설정: 라벨링 비율 ($c$) 을 0.3, 0.5, 0.8 로 설정하여 Non-SCAR 시나리오를 생성했습니다.
• 성능 평가 지표: Accuracy, F1-score, AUC.
• 주요 발견:
  • 클러스터링 방법 (Clust) 의 우수성: 제안된 클러스터 정제 방법은 모든 데이터셋에서 (Banknote 제외) 높은 정확도를 보였으며, 특히 $c$가 증가함에 따라 성능이 향상되었습니다.
  • LassoJoint 의 성능: SCAR 가정이 위반된 상황에서도 LassoJoint 방법은 Naive 방법보다 우월한 성능을 보였으며, 특히 $c \ge 0.8$인 경우 Bank Marketing, Credit A, Wine Quality 데이터셋에서 매우 좋은 정확도를 기록했습니다. 이는 LassoJoint 가 SCAR 조건에 대해 **중간 정도의 강건성 (Moderate Robustness)**을 가짐을 시사합니다.
  • 파라미터 $q$의 영향: $q$ (양수 샘플의 혼합 비율) 값에 따라 성능이 달라지지만, 전체적인 평균 통계치로는 $q \approx 1$ (모든 양수 샘플을 포함) 일 때 가장 좋은 경향을 보였습니다.
  • 계산 시간: Naive 방법과 Clust 방법이 Lasso 기반 방법 (교차 검증 포함) 에 비해 실행 시간이 훨씬 짧아 계산 효율성이 뛰어났습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 실용적 가치: 실제 데이터는 종종 SCAR 가정을 만족하지 않습니다. 본 연구는 이러한 복잡한 환경에서도 적용 가능한 계산 효율적인 PU 학습 솔루션을 제공합니다.
• 방법론적 확장: 제안된 2-means 클러스터링 기반 정제 절차는 단일 샘플 PU 학습뿐만 아니라 Case-Control PU 학습에도 적용 가능하다고 언급되었습니다.
• 결론: SCAR 조건이 위반된 상황에서도 클러스터링 기반 정제 알고리즘과 Lasso 정규화를 결합한 접근법은 PU 분류 문제 해결에 매우 효과적입니다. 특히 제안된 'Pecking' 알고리즘은 SCAR 조건에 의존하지 않고도 강력한 성능을 보여주며, 기존 LassoJoint 방법도 Non-SCAR 조건에서 어느 정도 견딜 수 있음을 확인했습니다.

이 논문은 PU 학습 분야에서 SCAR 가정의 한계를 극복하기 위한 실용적이고 효율적인 알고리즘을 제시했다는 점에서 중요한 의의를 가집니다.