Diagnostic Tools for Extreme Value Regression Models

제목: 극값 회귀 모델을 위한 진단 도구

문제 정의
극값 회귀 모델은 반응 변수의 관측 범위를 넘어서는 외삽(extrapolation)이 필수적인 수문학, 기후 과학, 해양 공학 등의 분야에서 매우 중요하다. 통계적 모델링의 핵심 단계는 관측된 데이터가 모델에 얼마나 잘 부합하는지 평가하는 것이지만, 만약 모델이 아점차적(sub-asymptotic) 극단 사건의 분포와 일치하지 않는다면 외삽에 대한 신뢰도가 손상된다. 정적인 단변량 극값 모델(예: PP 및 QQ 플롯)을 위한 시각적 및 정량적 진단법은 존재하지만, 이를 회귀 설정으로 확장하는 데는 상당한 어려움이 따른다.

회귀 분석에서는 공변량 영역 $X$에 따라 조건부 분포 $Y|X$가 변화한다. 표준적인 진단 플롯은 관측치를 정렬하는 방식에 의존하지만, 비정상성(non-stationary) 설정에서는 반응 변수를 정렬한다고 해서 조건부 확률 적분 변환(PIT) 값의 정렬이 유도되지 않는다. 결과적으로 기존 방법들은 모델 적합성을 평가하기 위해 공변량 영역을 여러 영역으로 분할해야 하는 경우가 많다. 그러나 이러한 접근 방식은 다음과 같은 몇 가지 한계를 갖는다:

1. 확장성: 영역의 수가 증가함에 따라 각 영역에 대한 개별 플롯을 수동으로 검사하는 것이 불가능해진다.
2. 불일치성: 영역마다 표본 크기가 다를 수 있으며, 조건부 꼬리(tail)의 형태와 척도가 다양하여 진단 결과를 일관되게 비교하기 어렵다.
3. 전역적 vs 국소적: 전역적 진단(모든 데이터를 집계)은 특정 국소적 또는 지역적 부분 집합에서의 성능 저하를 은폐할 수 있다.
4. 편향: 웜 플롯(worm plots)과 같은 기존의 지역적 진단은 극단 순서 통계량에 대해 부정확한 점근적 근사를 사용하며, 표본 크기와 플로팅 위치 선택에 민감하다.

방법론
저자들은 전체 공변량 영역에 걸쳐 극값 회귀 모델(모수적, 준모수적 또는 비모수적 모델)의 적합도(goodness-of-fit)를 평가하기 위해 두 가지 새로운 시각적 진단법과 일련의 요약 통계량을 제안한다. 핵심 방법론은 조건부 PIT, $P_x = F_{Y|X}(Y|x)$에 기초하며, 이는 참 모델 하에서 $[0,1]$ 상에서 균등 분포를 따른다.

1. 표준화된 꼬리 플롯 (Standardised Tail Plot):

   • 개념: 초과 확률을 표준 지수 마진($Z = -\log(1-P)$)으로 변환한 디트렌드(detrended) 분위수-분위수(QQ) 플롯이다.
   • 표준화: 다양한 표본 크기 문제를 해결하기 위해, 저자들은 초과 확률의 표집 분포에 관한 점근적 성질을 활용한다. 그들은 $k$번째 지수 순서 통계량의 기대값과 관측값 사이의 차이($D_k = E[Z_{(k)}] - Z_{(k)}$)가 표본 크기 $n$에는 의존하지 않고 오직 순위 $k$에만 의존하는 로그 감마 분포로 수렴함을 보여준다.
   • 시각화: 이 플롯은 여러 영역을 하나의 플롯에 겹쳐서 표시한 지수 잔차($z_k - \hat{z}_k$)를 순위 $k$에 대해 보여준다. 로그 감마 분포에서 유도된 점근적 신뢰 구간은 표본 크기에 관계없이 일관된 시각적 유의성 평가를 가능하게 한다.

2. 정규화된 잔차 플로 (Normalised Residual Plot):

   • 개념: 이 플롯은 꼬리 부분뿐만 아니라 모든 확률 수준에서의 편차를 시각화한다.
   • 변환: 정렬된 초과 확률의 정확한 베타 분포를 이용한 확률 적분 변환을 적용하여, 이를 표준 정규 척도로 매핑한다($\nu_k = \Phi^{-1}(F_{\beta_k}(\hat{q}_{(k)}))$).
   • 장점: 표준화된 꼬리 플롯과 달리, 이 방식은 표본 크기에 대한 점근적 가정에 의존하지 않으며 모든 확률 수준에서 모델 적합의 유의성을 시각화할 수 있다.

3. 요약 통계량:

   • 저자들은 지수 평균 절대 편차(EMAD) 통계량을 도입하며, 이는 지수 순서 통계량의 평균 절대 편차로 정의된다. 그들은 EMAD의 점근 분포를 유도하고, 민감도 분석을 통해 EMAD가 표준 Anderson-Darling(AD) 또는 우측 꼬리 가중 AD(ADR) 통계량보다 상측 꼬리(초과 확률 $< 0.155$)의 편차에 더 민감함을 입증했다.
   • 또한, 정규화된 잔차의 평균 제곱을 활용하는데, 이는 AD 통계량과 점근적으로 동등함이 밝혀졌다.
   • 지역 및 전역 요약: 저자들은 지역적 p-값(EMAD 또는 ADR 테스트로부터 얻은)을 밀도 히스토그램으로 집계하여 지역적 균일성을 평가하고, 전역 진단을 위해 모든 데이터를 통합하는 방법을 제안한다.

주요 결과 및 응용
제안된 진단 도구들은 딥러닝 기반 추론(인공 신경망)을 사용하는 극값 회귀의 두 가지 사례를 통해 검증되었다:

1. 다변량 극값 (SPAR 모델):

   • 설정: 다변량 정규 코풀라와 라플라스 마진을 가진 5차원 시뮬레이션 데이터에 대해 임계값 초과(POT) 모델을 적합시켰다. 방사형 성분은 의사 각도(pseudo-angle)에 조건부로 모델링되었다.
   • 과정: 다양한 하이퍼파라미터(임계값, 네트워크 구조)를 가진 5,000개의 후보 모델을 적합시켰다.
   • 결과: 전역 진단(예: 전역 ADR p-값)은 종종 좋은 적합도를 나타냈으나, 지역 진단은 유의미한 국소적 실패를 드러냈다. 구체적으로, 한 모델(Model 1)은 전역 적합도는 우수했으나 지역 적합도는 불량했으며(전역 평균에 의해 은폐됨), 다른 모델(Model 씨)은 두 가지 모두 통과했다. 이 진단법은 최적의 임계값 수준($\tau \approx 0.825$)을 성공적으로 식별하였고, 비정상적 설정에서 전역 메트릭만으로는 모델 선택이 불충분함을 강조했다.

2. 해상 풍력 터빈 대리 모델 (Offshore Wind Turbine Surrogate Model):

   • 설정: 세 가지 환경 변수(풍속, 파고, 파주기)에 조건부로 설정된 계류선(mooring line)의 극한 장력을 위한 확률적 대리 모델이다.
   • 비교: 딥 GP 회귀 모델(ANN)을 더 단순한 일반화 가법 모델(GAM) 형식과 비교하였다.
   • 결과: 여러 딥 러닝 모델이 높은 전역 p-값을 달려냈음에도 불구하고, 표준화된 꼬리 플롯을 통해 공변량 영역의 경계 부분에서 과적합(overfitting)을 나타내는 이상치를 발견했다. 반면, 더 단순한 GAM 형식은 전역 성능을 유지하면서도 도메인 전반에 걸쳐 더 나은 지역적 적합도를 보였다. 이는 모델 설계 및 튜닝을 가이드하는 데 있어 진단 도구의 유용성을 입증했다.

의의 및 주장
본 논문은 제안된 진단 도구가 공변량 영역이 비정상적이고 표본 크기가 다양한 극값 회귀 모델을 평가하기 위한 실용적이고 확장 가능한 솔루션을 제공한다고 주장한다. 주요 기여는 다음과 같다:

• 시각적 일관성: 표본 크기가 다른 영역의 진단 결과를 유효한 불확실성 경계와 함께 단일 플롯에 겹쳐 표시할 수 있어, 웜 플롯과 같은 기존 지역 진단의 한계를 극복한다.
• 꼬리 민감도: EMAD 통계량의 도입을 통해, 전통적인 적합도 검정보다 상측 꼬리 편차에 더 민감한 분석을 제공한다.
• 실행 가능한 통찰: 제안된 도구들은 수천 개의 후보 모델을 비교하고 특정 영역의 부적합을 식별하는 것을 용이하게 하여, 모델 설계(예: 도메인 경계에서의 과적합 방지) 시 실행 가능한 결정을 지원한다.
• 범용성: 이 도구들은 조건부 분포 함수를 제공하는 모든 극값 회귀 모델(임계값 초과 또는 블록 최대치 모델)에 적용 가능하며, 추론 방식에 관계없이 사용할 수 있다.

저자들은 이 워크플로우가 유효한 신뢰 구간을 보장하기 위해 평가를 위한 독립적인 홀드아웃(hold-out) 샘플을 가정하고 있음을 언급하였으나, 적절한 데이터가 없는 경우 부트스트랩 방법이 사용될 수 있음을 인정하였다. 결론적으로, 이 도구들은 전역 메트릭만 사용하는 것보다 극값 모델에 대해 더 엄격하고 미묘한 평가를 가능하게 한다.