이 띠는 인지적 불확실성 (지식 부족으로 인한 불확실성) 을 나타냅니다. 띠가 넓을수록 AI 가 아는 바가 적습니다.
테스트 방법
연구자들은 두 가지 유형의 시나리오로 이를 테스트했습니다.
가상 예시: 간단한 수학 곡선 (3 차 함수) 을 사용했습니다. AI 를 곡선의 작은 구간으로 훈련시킨 후 나머지를 예측하도록 요청했습니다.
결과: 기존 방법들은 곡선이 멀리 떨어졌을 때 실제 곡선을 포착하지 못했습니다. 반면 CII 방법은 알려지지 않은 영역에서도 실제 곡선을 "안전 띠"로 성공적으로 감쌌습니다.
실제 데이터 (UCI 벤치마크): 제한된 데이터로 실제 데이터셋 (주택 가격 예측이나 콘크리트 강도 등) 을 테스트했습니다.
결과: 데이터가 부족하거나 테스트 데이터가 훈련 데이터와 다를 때, 다른 방법들은 과신하여 틀렸습니다. CII 는 신뢰할 수 있게 유지되었습니다. 정밀할 것이라고 약속하는 대신, 위험한 상황이 되면 범위를 넓혀 정확할 것을 약속했습니다.
주요 교훈
강건성: 시스템은 새로운 것을 볼 때 무너지지 않고, 단지 더 "넓어지고" 더 신중해집니다.
마법 불필요: 기존 AI 모델과 함께 작동합니다. 모델을 더 안전하게 만들기 위해 그 주위에 씌우는 래퍼 (wrapper) 와 같습니다.
트레이드오프: 안전한 구역에서는 정밀합니다. 위험한 (알려지지 않은) 구역에서는 정밀함을 잃고 (넓어지고) 정답을 놓치지 않도록 보장합니다.
요약
이 논문은 AI 에게 자신이 모르는 것을 알도록 가르치는 방법을 소개합니다. 새로운 질문이 학습한 내용으로부터 얼마나 먼지 측정함으로써, 익숙하지 않은 영역에서 확신 있게 잘못된 답을 주지 않도록 자동으로 답의 범위를 확장합니다. 이는 추측할 때 "100% 확신합니다"라고 말하는 AI 와 "잘 모르니 다양한 가능성의 넓은 범위를 제시합니다"라고 말하는 AI 의 차이입니다.
기술 요약: 제한된 데이터 하에서의 강건한 외삽을 위한 컨포멀화된 부정확 추론
문제 제기 머신러닝 시스템은 특히 데이터가 제한적이고 분포 변화 (외삽) 가 발생하는 환경에서 훈련 도메인을 넘어 일반화할 때 상당한 도전에 직면합니다. 불확실성 정량화 (UQ) 분야의 최근 발전으로 우연적 (회복 불가능한) 불확실성과 인식적 (모델 기반) 불확실성이 구분되었지만, 기존 방법들은 분포 외 (OOD) 데이터에 적용될 때 엄격한 보장을 제공하는 경우가 드뭅니다. 표준 확률론적 접근법은 외삽 영역에서 커버리지를 유지하지 못해 과도하게 확신에 찬 신뢰할 수 없는 예측을 초래하는 경우가 많습니다. 본 연구가 다루는 핵심 문제는 데이터의 희소성과 테스트 입력이 훈련 매니폴드에서 벗어나는 현상을 명시적으로 고려하면서도 일반화에 대한 엄격한 통계적 보장을 제공하는 통합 프레임워크의 필요성입니다.
방법론 저자들은 거리 인식성과 부정확 확률 표현 (특히 확률 상자, 즉 p-box) 을 통합하는 모델-무관 접근법인 컨포멀화된 부정확 추론 (CII) 프레임워크를 제안합니다. 이 방법론은 네 가지 주요 단계를 거칩니다:
거리 인식 보정: 이 프레임워크는 테스트 입력과 훈련 데이터 분포 간의 마할라노비스 거리로 정의된 스칼라 거리 점수 r(x)를 활용합니다. 이 점수는 테스트 포인트가 훈련 데이터 매니폴드에서 얼마나 벗어났는지를 특징짓습니다. 보정 부분 집합을 사용하여 이 거리 점수를 불일치 범위 [d,dˉ]로 매핑하는 구간 예측기 모델 (IPM) 을 구축합니다. 이 모델은 특히 경계 영역에서 미시 입력에 대한 불일치 범위를 엄격하게 특성화하도록 훈련됩니다.
거리 의존적 불일치 조정: 새로운 조정 규칙이 거리 r(x)에 기반하여 컨포멀 점수에 적용됩니다. 훈련 지지 영역 (r(x)≤r0) 내에서는 정확도 지향적 경계를 유지합니다. 그러나 외삽 영역 (r(x)>r0) 에서는 불일치 구간의 상한을 선택함으로써 불확실성을 적응적으로 팽창시킵니다. 이는 입력이 훈련 데이터에서 멀어질수록 불확실성이 확장되도록 보장하여, 테스트 분포를 명시적으로 모델링할 필요 없이 컨포멀 예측과 분포 변화 사이의 간극을 메웁니다.
AsCloseAs 경계 구성: 최종 예측을 생성하기 위해 프레임워크는 기본 가설로부터 계산된 영역 거리 (워asserstein 거리로 해석됨) 내의 모든 확률 분포 집합을 복원합니다. 이는 기본 예측을 포함하면서 불일치 예산을 만족하는 "as close as" 경계 (가장 엄격한 상한 및 하한 누적 분포 함수) 를 찾기 위한 최적화 문제를 풀어서 달성됩니다. 그 결과, 가능한 예측들의 크레달 집합을 나타내는 컨포멀화된 p-box 예측 C(x∗)=[G(x),Gˉ(x)]이 도출됩니다.
부정확 관측치 처리: 이 프레임워크는 관측치가 정밀하거나, 구간이거나, 분포일 수 있는 "다형적 불확실성"을 처리하도록 설계되었습니다. 예측 p-box 와 경험적 관측 p-box 간의 불일치를 계산하기 위해 확률적 영역 거리를 사용하여 측정 불확실성과 모델 불확실성을 통합적으로 처리합니다.
주요 기여
외삽을 위한 통합 프레임워크: 본 논문은 베이지안 신경망이나 앙상블과 같은 기본 예측 모델에 무관한 컨포멀화된 부정확 추론 프레임워크를 소개하며, 분포 변화 하에서 엄격한 커버리지 보장을 통해 이를 보완합니다.
적응적 불확실성 팽창: 교환성을 가정하는 표준 컨포멀 예측과 달리, CII 는 분포 내 (ID) 데이터와 분포 외 (OOD) 데이터를 명시적으로 구분합니다. 거리 의존적 메커니즘을 사용하여 외삽 영역에서 불확실성 경계를 적응적으로 확장함으로써 전통적인 방법이 실패하는 영역에서 유효성을 보장합니다.
부정확 확률 표현: 이 방법은 점 추정치나 단일 분포 대신 확률 상자 (p-box) 를 출력합니다. 이 구조는 우연적 불확실성과 인식적 불확실성을 자연스럽게 혼동하여 경계의 폭을 통해 "무지의 수준"을 표현하는 원칙적인 방법을 제공합니다.
엄격한 평가 지표: 저자들은 거리 계층화 커버리지 (거리 스펙트럼 전반에 걸친 유효성 평가), 스케일과 무관한 부정확성을 측정하는 분위수 스케일 예측 폭, 그리고 u-pooling 을 통한 풀링 정확도 등 평가를 위한 특정 지표를 제안하고 활용합니다.
실험 결과 저자들은 다양한 데이터 비율 (ϵ) 과 분포 변화 하에서 합성 데이터 (입방 함수 회귀) 와 여러 UCI 회귀 벤치마크 (예: Boston, Concrete, Energy, Naval Propulsion) 에 CII 를 평가했습니다.
커버리지와 유효성: 외삽 환경 (OOD) 에서 CII 는 일관되게 완벽하거나 거의 완벽한 경험적 커버리지 (ξ≈1.0) 를 달성한 반면, 가우시안 혼합 (MoG) 과 평균 - 분산 추정 (MVE) 과 같은 기준 방법들은 커버리지 저하를 겪었습니다.
제한된 데이터에 대한 강건성: 훈련 데이터의 비율이 감소함에 따라 CII 는 예측 폭 (γn) 을 적응적으로 증가시키면서 높은 커버리지를 유지했습니다. 이는 데이터 희소성과 관련된 증가된 인식적 불확실성을 인코딩하는 방법의 능력을 입증했습니다.
거리 계층화 성능: 분석 결과, 커버리지는 서로 다른 거리 구간에서 안정적으로 유지되는 반면, 예측 폭은 거리 점수 r(x)에 따라 체계적으로 증가하는 것으로 나타났습니다. 이는 외삽 정도에 기반하여 불확실성을 조절하는 방법의 능력을 확인시켜 줍니다.
비교: 고정된 데이터 비율에서의 교차 데이터셋 비교에서 CII 는 기준 방법들이 분포 변화 하에서 유효성을 유지하지 못한 것과 대조적으로 일관되게 커버리지를 보존했습니다. 또한 CII 는 기준 방법들에 비해 더 낮은 풀링 보정 오차 (dp) 를 보여주었습니다.
의의 및 주장 본 논문은 CII 프레임워크가 컨포멀 예측과 분포 변화를 연결하는 원칙적인 메커니즘을 제공하며, 제한된 데이터로도 일반화에 대한 엄격한 보장을 제공한다고 주장합니다. 거리 인식성과 부정확 확률을 활용함으로써 이 방법은 예측이 진실값을 포함하도록 유효성을 유지하면서도 외삽의 증가된 위험을 반영하기 위해 불확실성을 적응적으로 팽창시킵니다. 저자들은 이 접근법이 테스트 분포의 명시적 모델링을 필요로 하지 않으므로, 과도한 확신이 위험한 고위험 환경에 대한 강건한 해결책이 된다고 강조합니다. 이 연구는 인식적 불확실성을 효과적으로 관리하기 위해 분포 인식을 예측 집합의 기하학에 직접 통합하는 것의 중요성을 부각시킵니다. 향후 작업은 측정 불확실성을 더 엄격하게 처리하는 확장 및 확장성 개선을 탐구할 것으로 언급됩니다.