Possibilistic inferential models: a review

제목: 가능성적 추론 모델: 검토
저자: 라이언 마틴
날짜: 2025 년 11 월 13 일

1. 문제 제기 및 동기

본 논문은 진정한 사전 정보가 부재한 상태에서 미지의 모수 ($\Theta$) 에 대한 데이터 기반의 불확실성 정량화 및 귀납적 추론의 근본적인 과제를 다룹니다. 저자는 전통적인 확률론적 접근법, 즉 기본 사전분포를 사용한 베이지안 추론과 피셔의 신념론적 (fiducial) 논증은 본질적인 신뢰성 부재를 겪고 있다고 주장합니다.

핵심 문제는 "거짓 확신 (false confidence)"현상으로 규명됩니다. 거짓 확신 정리 (Balch 등, 2019) 가 입증한 바와 같이, 가설에 정밀한 확률 값을 부여하는 모든 데이터 의존적 확률론적 불확실성 정량화 (베이지안, 신념론적, 기타 방법 포함) 는 공허한 사전 정보의 경우, 필연적으로 일부 거짓 가설에 높은 확률을 부여하게 됩니다. 이는 "체계적으로 오도하는 결론"으로 이어집니다. 저자는 이것이 특정 사전분포나 신념론적 구성의 결함이 아니라, 사전 지식 없이 인식론적 불확실성 (명시적 모호성) 에 확률론을 적용할 때의 확률론 자체의 한계라고 봅니다.

본 논문은 신뢰성을 달성하기 위해서는 가산 확률을 넘어 불확실한 확률 (imprecise probability), 구체적으로 **가능성 이론 (possibility theory)**으로 나아가야 한다고 주장합니다. 목표는 증명 가능한 빈도주의적 신뢰성 (보정) 을 유지하면서 완전히 조건부인 베이지안 스타일의 불확실성 정량화를 제공하는 프레임워크를 구축하는 것입니다.

2. 방법론: 가능성적 추론 모델 (IMs)

본 논문은 **가능성적 추론 모델 (IMs)**의 구축을 검토하고 확장합니다. 데이터 생성 연관식 ($Z = a(\Theta, U)$) 과 무작위 집합을 포함하는 3 단계 과정을 기반으로 한 기존 IM 프레임워크 (Martin and Liu, 2015b) 와 달리, 검토된 접근법은 수동적인 차원 축소나 특정 연관식 선택의 필요성을 피하는 더 직접적인 우도 기반 구축에 초점을 맞춥니다.

주요 구축 단계:

1. 순위 매기기 (Ranking): 이 방법은 관측된 데이터 $z$와 모수 값 $\theta$의 적합성을 평가하기 위해 순위 함수를 활용합니다. 표준적인 경우, 이는 **상대 우도 (relative likelihood)**입니다:
   $$R(z, \theta) = \frac{p_\theta(z)}{\sup_{\vartheta} p_\vartheta(z)}$$
   논문은 맥락에 따라 다른 순위 함수 (예: 프로필 우도, 경험적 위험) 를 사용할 수 있음을 지적합니다.
2. 유효성 확보 (Validification): 신뢰성을 보장하기 위해 순위 함수는 확률 - 가능성 변환을 통해 가능성 윤곽 (possibility contour) $\pi_z(\theta)$로 변환됩니다. 이 단계는 표본 분포에 대한 보정을 통해 순위를 "유효하게" 만듭니다:
   $$\pi_z(\theta) = P_\theta \{ R(Z, \theta) \leq R(z, \theta) \}$$
   이 윤곽은 $\sup_\theta \pi_z(\theta) = 1$을 만족하며, 최댓값은 최대우도추정량에서 달성됩니다.
3. 불확실성 정량화: 이 윤곽은 가능성 측정 (upper probability) $\Pi_z$와 필연성 측정 (lower probability) $\bigtriangledown_z$를 정의합니다:
   $$\Pi_z(H) = \sup_{\theta \in H} \pi_z(\theta), \quad \bigtriangledown_z(H) = 1 - \Pi_z(H^c)$$
   이러한 측정들은 $\Theta$에 대한 가설 $H$의 타당성과 필연성을 정량화합니다.

귀찮은 모수 (Nuisance Parameters) 처리:
논문은 귀찮은 모수를 제거하기 위한 두 가지 전략을 상세히 설명합니다.

• 확장 (Extension): 귀찮은 모수 공간에 대한 최적화를 사용하는 확장 원리를 적용하는 일반적 연산으로, 유효성은 유지되지만 보수적일 수 있습니다.
• 프로파일링 (Profiling): 유효성 확보 전에 **상대 프로필 우도 (relative profile likelihood)**를 사용하여 관심 모수 값을 순위 매기는 더 효율적인 접근법입니다. 이는 일반적으로 확장 기반의 주변화보다 높은 효율성을 제공합니다.

계산:
논문은 비용이 많이 드는 그리드 평가를 피하는 새로운 계산 전략 (Martin, 2025b) 을 검토합니다. 이 전략은 가능성 측정에 의해 지배되는 정밀 확률의 집합인 "신앙 집합 (credal set)"을 구축하고, 신뢰 집합의 경계에서의 균등 분포와 같은 "내부 확률 근사"에서 표본을 추출합니다. 그런 다음 이러한 표본을 다시 가능성 측정으로 변환하여 몬테카를로 평가를 용이하게 합니다.

3. 주요 기여 및 결과

A. 이론적 성질

• 강한 유효성 (Strong Validity): 가능성적 IM 은 강하게 유효함이 증명되었습니다. 구체적으로, 임의의 $\alpha \in [0, 1]$에 대해:
  $$\sup_{\theta \in \mathcal{T}} P_\theta \{ \pi_Z(\theta) \leq \alpha \} \leq \alpha$$
  이는 윤곽의 상부 $\alpha$-레벨 집합이 정확한 $100(1-\alpha)\%$ 신뢰 집합임을 의미합니다. 베이지안 신뢰구간과 달리, 이러한 집합은 빈도주의적 커버리지를 달성하기 위해 점근적 근사가 필요하지 않습니다.
• 거짓 확신 제어: IM 프레임워크는 **거짓 확신률 (False Confidence Rate, FCR)**을 제어합니다. 임의의 가설 $H$에 대해, IM 이 거짓인 $H$에 높은 하부 확률을 부여할 확률은 유의수준 $\alpha$에 의해 상한이 설정됩니다. 이는 확률론적 방법 내재적 불신뢰성을 해결합니다.
• 효율성 (Bernstein–von Mises): 새로운 가능성적 Bernstein–von Mises 정리가 제시되었습니다 (Martin and Williams, 2025). 이는 표준 정규성 조건 하에서 가능성 윤곽 $\pi_{Z_n}$이 크라메르 - 라오 하한과 일치하는 분산을 가진 가우스 가능성 측정으로 수렴함을 입증합니다. 따라서 IM 은 유효성을 희생하지 않으면서 고전적 추정량의 성능과 일치하는 점근적 효율성을 가집니다.

B. 일반화

• 모수 모델 너머: 프레임워크는 모수적 우도를 사용할 수 없는 맥락 (예: 머신러닝, 위험 최소화) 으로 확장되었습니다. 우도를 일반 순위 함수 $\rho(z, \theta)$ (예: 음의 경험적 위험) 로 대체함으로써 IM 구축은 유효하게 유지됩니다.
• 예측: 논문은 **합의 예측 (conformal prediction)**과의 연결을 보여줍니다. 예측 문제에 IM 프레임워크를 적용하여 (미래 관측치를 경험 분포에 대한 조건부로 제거할 귀찮은 모수로 간주), 결과적으로 생성된 예측 IM 윤곽이 귀납적 합의 예측 알고리즘의 출력과 동등함이 입증되었습니다.
• 귀찮은 모수: 논문은 프로파일링이 일반적으로 더 효율적이지만, 고차원 귀찮은 모수 설정 (예: Neyman-Scott 문제) 에서는 어려움을 겪을 수 있음을 명확히 하여, 이러한 경우 주변 또는 조건부 우도가 필요함을 시사합니다.

4. 중요성 및 주장

본 논문은 가능성적 IM 들이 통계적 기초 분야에서 다음과 같은 중요한 진전을 나타낸다고 주장합니다:

1. 통합 및 공백 메우기: 이 프레임워크는 빈도주의와 베이지안 목표를 "통합"하지만, 더 중요하게는 양쪽의 공백을 메웁니다. 베이지안들이 원하는 완전히 조건부인 데이터 의존적 추론을 제공하면서도 빈도주의자들이 요구하는 빈도주의적 오류율 제어를 보장합니다.
2. "거짓 확신" 위기 해결: 이는 거짓 확신 문제에 대한 수학적으로 엄밀한 해결책을 제공하며, 사전 정보가 부재한 상태에서 확률론적 불확실성 정량화는 본질적으로 신뢰할 수 없으나 가능성적 정량화는 그렇지 않음을 증명합니다.
3. 고전적 개념의 재해석: 논문은 p-값과 신뢰구간이 각각 타당성 측정 (가능성 측정) 과 타당한 모수 값의 집합으로 자연스럽게 해석될 수 있다고 주장합니다. 이는 문헌에서 누락되어 왔던 이러한 도구들의 실용적 사용에 대한 엄밀한 정당성을 제공합니다.
4. 실용적 적용 가능성: 새로운 계산 도구와 합의 예측 및 부트스트랩 방법과의 연결을 통해, 논문은 IM 들이 단순한 이론적 구성물이 아니라 위험 최소화와 예측을 포함한 현대 통계 및 머신러닝 문제에도 확장 가능한 것임을 주장합니다.

저자는 IM 분야가 여전히 발전 중 (특히 고차원 확장 및 공허하지 않은 사전 정보와 관련하여) 이지만, 이 프레임워크가 기존 패러다임에 대한 견고하고 신뢰할 수 있으며 유연한 대안을 제공하여 통계적 추론의 기초적 위기를 해결한다고 결론지었습니다.