Subjective Risk Decomposition: A New View for Uncertainty Quantification

수정구슬의 미스터리

당신이 미래를 예측하려고 노력하고 있다고 상상해 보세요. 축구 경기 점수를 추측하거나, 내일의 날씨를 예상하거나, 혹은 친구가 다음에 무슨 말을 할지 짐작하는 것 말이죠. 컴퓨터 과학, 특히 **머신러닝(Machine Learning)**이라는 분야에서는 이러한 추측을 하기 위해 디지털 "수정구슬"(모델)을 만듭니다. 하지만 여기 까다로운 문제가 있습니다. 모델은 확신에 차 있으면서도 틀릴 수 있다는 점입니다. 이것이 바로 과학자들이 **불확실성 정량화(Uncertainty Quantification)**에 깊은 관심을 갖는 이유입니다. 단순히 정답을 맞히는 것뿐만 아니라, 모델이 얼마나 '확신하고 있는지'를 아는 것이 중요하기 때문입니다.

이 논문을 이해하려면 두 가지 주요한 "모름"의 유형을 알아야 합니다. 첫째, **알레아토리 불확실성(Aleatoric uncertainty)**이 있습니다. 이것은 시스템의 노이즈, 즉 갑작스러운 바람이 축구공의 경로를 바꾸는 것처럼 당신이 통제할 수 없는 것들을 의미합니다. 이는 현실 세계의 "줄일 수 없는" 무질서함입니다. 둘째, **에피스테믹 불확실성(Epistemic uncertainty)**입니다. 이것은 "내가 무엇을 모르는지조차 모르는" 종류의 불확실성입니다. 이는 모델 자체에서 기인하는 불확실성으로, 데이터가 충분하지 않거나 규칙에 대해 혼란을 느낄 때 발생합니다. 오랫동안 과학자들은 이 두 가지 유형의 불확실성을 정의하기 위해 엄격한 규칙(공리)을 쓰려고 시도하며 격렬하게 논쟁해 왔습니다.

이 논문의 핵심 아이디어: 논쟁을 멈추고, 분해하라

"주관적 리스크 분해(Subjective Risk Decomposition)"라는 제목의 이 논문은 이러한 모든 논쟁이 본질을 놓치고 있을 수도 있다고 제안합니다. 저자인 라가드 알람리(Raghad Alamri), 미켈레 카피오(Michele Cappio), 가빈 브라운(Gavin Brown)은 문제에 접근하는 새로운 방식을 제시합니다. 저자들은 불확실성을 신비롭고 독립적인 대상으로 정의하려 하는 대신, 불확실성이 사실 우리가 모델을 평가하는 방식을 선택한 데 따른 결과물이라고 주장합니다.

당신이 학생의 에세이를 채점하는 교사라고 상상해 보세요. 당신에게는 점수를 주는 특정 루브릭(규칙 세트)이 있습니다. 루브릭을 바꾸면, 에세이가 동일하더라도 성적이 바뀝니다. 저자들은 "불확실성"이 그 성적과 같다고 주장합니다. 그것은 공중에 떠 있는 마법 같은 숫자가 아니라, 특정 "루브릭"(그들은 이를 **엄격하게 적절한 손실 함수(strictly proper loss)**라고 부릅니다)에 기반하여 계산된 결과입니다.

이 논문은 **주관적 리스크(Subjective Risk)**라는 개념을 도입합니다. 간단히 말해, 이것은 "만약 모델이 세상이 이럴 것이라고 믿는다면, 실제 세상이 다르게 돌아갈 경우 얼마나 나쁜 상황이 될 것인가?"라고 묻는 방식입니다. 저자들은 이 "주관적 리스크"를 가져와서 쪼개면(분해하면), 그 조각들이 바로 과학자들이 수년 동안 정의하려고 애써온 서로 다른 유형의 불확실성들과 정확히 일치한다는 것을 보여줍니다.

마술의 작동 원리

저자들은 **브레그만 발산(Bregman divergence)**이라는 수학적 도구를 사용합니다(이는 서로 다른 세상을 보는 두 가지 방식 사이의 거리를 측정하는 특수한 종류의 자라고 생각하면 됩니다). 이 자를 "주관적 리스크"에 적용하면, 자연스럽게 세 가지 뚜렷한 부분으로 나뉩니다.

1. 편향(Bias, 체계적 오차): 모델의 평균적인 믿음이 실제와 그냥 맞지 않는 부분입니다. 이는 마치 나침반이 진북 대신 약간 북쪽을 가리키는 것과 같습니다. 논문은 이것이 우리가 보통 생각하는 방식의 "불확실성"이 아니라, 단지 모델의 근거 설정(grounding)에 오류가 있는 것이라고 주장합니다.
2. 분산(Variance, 에피스테믹 부분): 이것은 "나는 혼란스러워"라고 말하는 부분입니다. 모델이 약간 다른 데이터를 보았을 때 예측값이 얼마나 요동치는지를 측정합니다. 만약 모델이 질문을 할 때마다 매번 다른 답을 내놓는 변덕스럽고 불안한 학생이라면 이 수치가 높을 것입니다. 저자들은 상호 정보량(Mutual Information)(모델의 내부 상태가 예측에 대해 얼마나 많은 정보를 주는지를 나타내는 복잡한 수학 용어)과 같은 유명한 척도들이 바로 이 분산의 특수한 버전임을 보여줍니다.
3. 엔트로피(Entropy, 알레아토리 부분): 이것은 "노이즈" 부분입니다. 어떤 양의 데이터를 더 가져와도 해결할 수 없는 상황의 내재적인 무작위성입니다. 앞선 축구 비유에서의 "갑작스러운 바람"과 같습니다.

이것이 왜 모든 것을 바꾸는가

이 논문은 과학자들이 불확실성을 측정하기 위해 만들어낸 수많은 공식이 사실 서로 적대적인 경쟁 관계가 아니라고 제안합니다. 그것들은 단지 동일한 기본 레시피의 서로 다른 맛일 뿐입니다.

• "Gal" 방식: 한 연구자(Gal)가 사용한 유명한 불확실성 측정법은 "로그 손실(log-loss)"이라는 특정 유형의 수학을 사용합니다. 저자들은 만약 이 특정 손실을 사용한다면, 당신의 분해가 자연스럽게 그 유명한 "상호 정보량" 공식으로 이어진다는 것을 보여줍니다.
• "Sale" 방식: 또 다른 연구 그룹은 다른 수학(제곱 손실)을 사용합니다. 저자들은 만약 그 손실을 사용한다면, 다른 공식(분산 기반)이 나오며, 이 역시 다른 유형의 문제에는 유효하다는 것을 보여줍니다.

논문은 어떤 불확실성 척도가 "옳은지" 결정하기 위해 새로운 규칙(공리)을 써야 한다는 생각에 명시적으로 반대합니다. 대신, "옳은" 척도는 단순히 당신의 문제에 대해 선택한 특정 손실 함수로부터 자연스럽게 튀어나오는 것이라고 말합니다. 만약 당신이 "모드 추구형(mode-seeking, 가장 가능성 높은 결과에 집중하는 것)"을 중시하는 손실을 선택한다면 한 종류의 불확실성을 얻게 됩니다. 만약 "평균 추구형(mean-seeking, 모든 것을 평균화하는 것)"을 중시하는 손실을 선택한다면 또 다른 종류를 얻게 됩니다.

학습 이론과의 연결

저자들은 한 걸음 더 나아가 이 개념을 기계가 데이터로부터 배우는 수학적 원리인 **통계적 학습 이론(Statistical Learning Theory)**과 연결합니다. 그들은 "주관적 근사 격차(Subjective Approximation Gap)"와 "주관적 추정 오차(Subjective Estimation Error)"와 같은 새로운 용어를 도입합니다.

그들은 "에피스테믹 불확실성"(줄일 수 있는 부분)이 실제로 두 가지 요소의 혼합임을 발견했습니다:

1. 모델이 스스로와 얼마나 불일치하는가 (분산/상호 정보량 부분).
2. 모델이 가진 특정 유형의 모델로서 겪는 한계 (근사 격차).

이것은 매우 중요한 통찰입니다. 이는 우리가 "에피스테믹 불확실성이 높다"라고 말할 때, 두 가지 서로 다른 문제를 혼동하고 있을 수 있음을 시사합니다. 즉, 모델이 단순히 혼란스러운 것인지(분산), 아니면 모델 자체가 작업에 적합하지 않은 종류의 도구인지(근사) 말입니다. 논문은 유명한 "상호 정보량" 척도가 첫 번째 부분(혼란)만을 포착하며, 두 번째 부분(근사)을 무시함으로써 전체 "줄일 수 있는" 불확실성을 과소평가할 수 있다고 제약합니다.

결론

요약하자면, 이 논문은 불확실성을 계산하는 새로운 방법을 발명한 것이 아닙니다. 대신, 하나의 통합된 지도를 제공합니다. 그것은 우리가 사용해 온 수많은 지도가 모두 옳지만, 단지 같은 산을 서로 다른 각도에서 바라보고 있을 뿐이라는 것을 알려줍니다.

저자들은 불확실성을 처음부터 정의해야 하는 신비로운 원시 개념으로 취급하는 것을 멈춰야 한다고 제안합니다. 대신, 주관적 리스크—즉, 우리 자신의 믿음에 따라 틀렸을 때의 비용—를 보고 그것을 분해해야 합니다. 우리가 찾아낸 조각들이 바로 우리가 그토록 찾아 헤매던 불확실성 척도들입니다. 이는 "불확실성이란 무엇인가?"에서 "우리가 그것을 어떻게 측정하기로 선택했는가?"로의 전환입니다.

이 논문은 이것이 이론적 프레임워크라는 점을 분명히 하고 있습니다. 그것은 왜 서로 다른 척도들이 존재하는지, 그리고 그것들이 어떻게 서로 연관되는지를 설명하지만, 이 분야의 모든 실질적인 문제를 해결했다고 주장하는 것은 아닙니다. 이것은 기존의 지형을 훨씬 더 명확하게 만들어주는 새로운 렌즈이며, 이 분야의 논쟁들은 대개 불확실성 자체의 본질에 대한 모순이라기보다 사람들이 사용하는 "자(loss function)"의 차이에서 비롯된다는 것을 시사합니다.