Empirical Measures and Strong Laws of Large Numbers in Categorical Probability

기술적 요약: 범주적 확률론에서의 경험적 측도와 강한 대수의 법칙

문제 제기
본 논문은 확률론의 근본적인 극한 정리들, 구체적으로 글리벤코-칸텔리 정리와 강한 대수의 법칙 (SLLN) 을 범주적 확률론의 틀 내에서 공식화하는 과제를 다룹니다. 범주적 확률론은 마르코프 범주를 사용하여 독립, 조건부, 드 피네티 정리와 같은 개념들을 성공적으로 추상화해 왔으나, 이러한 프레임워크들은 일반적으로 전체 사상 (모든 입력에 대해 정의된 사상) 을 가정합니다.

여기서 다루는 구체적인 어려움은 무한 시퀀스에 대한 경험적 측도의 본질입니다. 표준 측도론에서 무한 시퀀스 $(x_i)_{i \in \mathbb{N}}$의 경험적 측도는 상대 빈도의 극한으로 정의됩니다. 그러나 이 극한은 모든 시퀀스에 대해 존재하지 않습니다 (예: 진동하는 시퀀스). 또한 극한이 존재하더라도 유효한 확률 측도를 정의하지 못할 수 있습니다 (예: $\mathbb{N}$ 위의 $1, 2, 3, \dots$ 시퀀스와 같이 $\sigma$-가산성을 만족하지 않는 경우). 따라서 "경험적 측도로부터 표본 추출"하는 연산은 본질적으로 부분 연산입니다. 모든 사상이 전체적이어야 하는 표준 마르코프 범주는 이 현상을 직접적으로 모델링하기에 부족합니다. 저자들은 이러한 부분성을 수용하면서도 표준 측도론적 결과를 회복할 수 있는 구성적 (공리적) 프레임워크를 개발하고자 합니다.

방법론
저자들은 추상적 범주론과 구체적인 측도론적 구성을 결합한 양면적 접근법을 사용합니다:

1. 준 (Quasi)-마르코프 범주: 부분성을 처리하기 위해 저자들은 준 마르코프 범주 내에서 작업합니다. 모든 사상이 전체적인 표준 마르코프 범주와 달리, 준 마르코프 범주는 "준 전체적 (quasi-total)"인 사상을 허용합니다. 사상 $f: A \to X$가 준 전체적이란 것은 모든 입력에 대해 정의되지 않거나 정규화된 출력을 생성하는 경우를 말합니다. 이 프레임워크는 $f$가 $g$를 확장할 때 $f \sqsupseteq g$인 표준적인 부분 순서 (확장 관계) 를 지원합니다.
2. $\sigma$-연속성: 무한 텐서 곱 (콜모고로프 곱) 과 무한 시퀀스를 관리하기 위해 저자들은 $\sigma$-연속성 가정을 도입합니다. 이는 호모 집합이 가산 방향 교집합 (영역들의 교집합) 을 가지며, 이러한 교집합이 합성과 텐서 곱에 의해 보존됨을 보장합니다. 이 성질은 측도론에서 확률 측도의 $\sigma$-연속성에 해당함이 입증되었습니다.
3. 경험적 표본 추출의 공리화: 방법론의 핵심은 경험적 표본 추출 사상 $es_X: X^\mathbb{N} \to X$의 정의입니다. 이 사상은 무한 시퀀스를 입력으로 받아 그 경험적 측도로부터 표본을 출력합니다. 저자들은 이 사상에 대해 두 가지 공리를 제안합니다:
   • 치환 불변성: 사상은 입력 시퀀스의 유한 치환에 대해 불변입니다.
   • 경험적 적절성: $X^\mathbb{N}$ 위의 분포가 교환 가능하면, 그것으로부터 표본 추출하는 것은 추출된 시퀀스에 적용된 반복적 경험적 표본 추출과 동일합니다.
4. 구체적 구성: 저자들은 부분 마르코프 커널의 범주인 Partial(BorelStoch) 내에서 표준 보렐 공간 (유한 집합, $\mathbb{N}$, $\mathbb{R}$) 에 대한 명시적 경험적 표본 추출 사상을 구성합니다. 이들은 결과 극한이 $\sigma$-가산성을 만족하고, $\mathbb{R}$의 경우 누적 분포 함수 (CDF) 의 균등 수렴을 보장하도록 이러한 사상의 영역을 신중하게 정의합니다.

주요 기여

• 부분성을 위한 프레임워크: 논문은 준 마르코프 범주 이론을 개발하여, 특히 이 설정에서 콜모고로프 곱의 존재와 성질을 확립합니다. 여기에는 **Partial(BorelStoch)**이 $\sigma$-연속 준 마르코프 범주임을 증명하는 것이 포함됩니다.
• 경험적 표본 추출 사상의 정의: 저자들은 치환 불변성과 경험적 적절성 공리를 통해 경험적 표본 추출 사상에 대한 엄밀한 범주적 정의를 제공합니다. 이들은 이러한 사상이 모든 표준 보렐 공간에 대해 존재함을 보여줍니다.
• 극한 정리의 구성적 증명: 경험적 표본 추출 사상의 존재와 균형 멱등원의 분할을 사용하여, 저자들은 다음과 같은 추상적 버전들을 유도합니다:
  • 드 피네티 정리: 교환 가능 사상이 분포 객체를 통해 인수분해됨을 보입니다.
  • 글리벤코-칸텔리 정리: 경험적 측도가 근본 분포로 균등 수렴함을 확립합니다.
  • 강한 대수의 법칙: 경험적 평균이 기댓값으로 수렴함을 유도합니다.
• 통합: 이 작업은 개별 측도론적 결과로 취급하는 대신 단일 범주적 프레임워크 내에서 첫 원리로부터 드 피네티 정리, 글리벤코-칸텔리 정리, SLLN 을 공동으로 증명합니다.

결과

1. 표현 가능성: 경험적 표본 추출 사상의 존재는 범주가 관측적으로 표현 가능함을 의미합니다. 이는 모든 객체 $X$에 대해 $X$ 위의 확률 측도를 나타내는 분포 객체 $PX$와 표본 추출 사상$samp: PX \to X$가 존재함을 뜻합니다.
2. 구성적 글리벤코-칸텔리 정리: 저자들의 가정 (경험적 표본 추출 사상의 존재 포함) 을 만족하는 모든 준 마르코프 범주에서, 재표본 추출 사상 $es^{(N)}$은 분포 객체를 통해 분할됩니다. 이는 임의의 교환 가능 사상 $f$에 대해 경험적 측도가 거의 확실하게 근본 분포와 같다는 결과를 초래합니다.
3. 표준 결과의 회복: **Partial(BorelStoch)**에서 추상적 정의를 구체화함으로써:
   • 구성적 글리벤코-칸텔리 정리는 실수값 확률 변수에 대한 표준 정리를 회복하며, 이는 경험적 CDF 가 거의 확실하게 실제 CDF 로 균등 수렴함을 명시합니다.
   • 구성적 SLLN 은 유한한 1 차 모멘트를 가진 실수값 확률 변수에 대한 콜모고로프의 SLLN 을 회복합니다. 저자들은 경험적 평균의 수렴을 보장하기 위해 (평균이 존재하지 않을 수 있는 경우를 처리하기 위해) $\mathbb{R}$에 대한 경험적 표본 추출 사상의 영역에 대한 특정 제한이 필요하다고 지적합니다.

의의
본 논문은 이 작업이 세 가지 근본적인 확률론적 결과에 대한 첫 원리에서의 구조화된 증명을 제공한다고 주장합니다. 저자들은 기존의 순수 측도론적 처리에 비해 그들의 공동 증명이 더 짧고 개념적 명료성이 향상되었다고 논증합니다. 경험적 표본 추출 사상을 핵심 개념으로 규명함으로써, 이 논문은 이러한 사상이 대수의 법칙을 범주적 언어로 번역하는 데 귀중한 도구임을 시사합니다. 저자들은 이러한 통찰이 범주적 확률론의 추가적 진전을 촉진하여, 동일한 프레임워크 내에서 에르고드 정리와 같은 다른 극한 정리들의 개발을 지원할 수 있다고 봅니다. 이 작업은 확률론적 개념을 범주론으로 번역하는 것이 종종 비자명하지만, 그 결과 얻어지는 추상화가 이러한 고전적 정리를 뒷받침하는 본질적 구조적 성질 (치환 불변성과 경험적 적절성) 을 드러낸다는 점을 강조합니다.