📊 statistics

Replicable Conformal Prediction

이 논문은 무작위 시드(random seed)를 공유하고 임계값을 조밀하지 않은 격자(coarse grid)로 반올림하는 방식을 통해, 집합의 크기와 데이터 요구량 측면에서 정량화 가능한 비용을 유지하면서도 독립적인 분석가들 사이에서 동일한 예측 집합을 보장함으로써 재현 가능한 공변적 예측(conformal prediction)을 달성하는 방법을 소개한다.

원저자: Marios Papamichalis, Regina Ruane, Theofanis Papamichalis

게시일 2026-08-26

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Marios Papamichalis, Regina Ruane, Theofanis Papamichalis

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

현대 인공지능의 세계에서 모델은 종종 카메라 렌즈나 의료용 스캐너처럼 누구나 필요할 때 사용할 수 있는 완성된 제품으로 취급됩니다. 하지만 모델이 현실 세계에서 결정을 내릴 수 있을 만큼 신뢰받기 위해서는 반드시 보정(calibration) 과정을 거쳐야 합니다. 이 과정은 라디오를 튜닝하여 신호가 명확하고 잡음이 사라지는 정확한 주파수를 찾는 것과 같습니다. 컨포멀 예측(conformal prediction)이라는 특정 분야에서, 이 튜닝은 모델이 얼마나 많은 불확실성을 인정할지를 결정합니다. 모델은 단 하나의 답을 제시하는 대신, 가능한 답들의 집합을 제공하며, 그 집합 안에 실제 정답이 대부분의 경우 포함될 것임을 약속합니다. 이는 의학이나 법률처럼 예측의 한계를 아는 것이 예측 그 자체만큼이나 중요한 고위험 분야에서 매우 중요합니다. 그러나 두 팀이 각자의 별도 데이터를 사용하여 동일한 모델을 튜닝하려고 할 때 기이한 문제가 발생합니다. 설령 두 팀이 정확히 동일한 규칙을 따르더라도, 결국 서로 약간 다른 설정값에 도달하게 되어 서로 다른 결과 집합을 만들어내게 됩니다. 이러한 불일치는 단순한 사소한 불편함이 아닙니다. 이는 악의적인 행위자가 규칙을 준수하는 것처럼 보이면서도, 서류상으로는 좋아 보이지만 실제로는 실패하는 설정을 찾을 때까지 여러 설정을 반복적으로 시도할 수 있는 허점을 만듭니다.

연구자 마리오스 파파미칼리스(Marios Papamichalis), 레지나 루안(Regina Ruane), 테오파니스 파파미칼리스(Theofanis Papamichalis)는 이 불일치 문제를 해결하기 위해 나섰습니다. 그들은 단순하지만 심오한 질문을 던졌습니다. "두 독립적인 팀이 각자의 데이터를 가지고 작업하더라도 매번 정확히 동일한 결과 집합을 만들어낼 수 있는가?" 그들은 만약 팀들이 완벽하게 정밀해지려 한다면, 데이터를 완전히 무시하지 않고서는 성공할 수 없으며, 이는 시스템을 쓸모없게 만든다는 사실을 발견했습니다. 수학적으로 데이터가 연속적이고 팀들이 독립적일 때 완전한 일치는 불가능합니다. 하지만 연구팀은 매우 근접할 수 있는 방법을 찾아냈습니다. 그들은 튜닝 설정을 공유된 보이지 않는 격자의 가장 가까운 지점으로 올림(rounding up)하는 영리한 트릭을 사용하는 RECAL이라는 방법을 개발했습니다. 이 격자와 시작점을 사전에 합의함으로써, 팀들은 최종 설정값이 높은 확률로 동일한 지점에 착륙하도록 보장할 수 있습니다.

연구진은 이 아이디어를 방대한 사진 데이터베이스의 이미지와 여러 다양한 대규모 언어 모델이 생성한 텍스트를 포함한 실제 데이터에 테스트했습니다. 그들은 이 방법 없이는 정직한 두 팀이라 할지라도 거의 결코 같은 결과를 만들어내지 못하며, 그들의 답변이 거의 절반의 사례에서 달라질 것이라는 점을 발견했습니다. 새로운 방법을 사용하면, 팀들이 90% 이상의 사례에서 동일한 분류기를 사용하도록 강제할 수 있었고, 더 엄격한 합의를 목표로 할 때는 100%까지 가능했습니다. 이러한 합의에는 작은 대가가 따릅니다. 실제 정답을 여전히 포착하기 위해 답변의 집합이 약간 더 커지게 되는 것입니다. 그러나 연구진은 이러한 수준의 일관성을 요구하는 모든 시스템에서 이 비용은 피할 수 없는 것임을 보여주었습니다. 이 페널티의 크기는 가용한 데이터의 양에 따라 달라집니다. 데이터가 많아질수록 페널티는 줄어들지만, 완전히 사라지지는 않습니다.

아마도 가장 중요한 발견은 이 방법이 조작으로부터 어떻게 보호하는가 하는 점일 것입니다. 연구진은 만약 공격자가 보정 과정을 20번 실행하여 가장 유리해 보이는 버전을 선택하려고 시도한다면, 표준 방식은 완전히 실패하여 위험할 정도로 신뢰할 수 없는 답변을 내놓는다는 것을 입증했습니다. 그러나 새로운 방법은 방패 역할을 합니다. 설정값이 공유된 격자에 고정되어 있기 때문에, 공격자는 더 "좋은" 버전을 찾을 수 없습니다. 공격자는 동일하거나 거의 동일한 옵션들의 매우 적은 목록 중에서 선택해야만 합니다. 이는 누군가 게임을 하려고 시도하더라도 시스템이 정직하고 신뢰할 수 있는 상태를 유지함을 의미합니다. 연구팀은 병원 기록부터 언어 모델에 이르기까지 다양한 유형의 데이터에 대해 이러한 결과를 검증하여, 이론이 실제에서도 유효함을 보여주었습니다. 또한 공유된 시작점이 없다면 최선은 가능성을 단 두 개의 인접한 옵션으로 좁히는 것뿐이며, 이것 역시 현재의 표준이 가진 완전한 혼돈보다는 상당한 개선임을 증명했습니다.

이 연구는 서로 다른 집단에 의해 배포되는 인공지능 시스템을 어떻게 신뢰할 수 있는지에 대한 새로운 기준을 세웁니다. 이는 완벽하고 데이터에 의존하지 않는 합의는 수학적으로 불가능하지만, 시스템을 검증 가능하고 안전하게 만들 수 있을 만큼 충분히 근접할 수 있음을 보여줍니다. 이 해결책은 모두가 같은 지도를 보고 있도록 보장하는 디지털 악수인 '공유된 시드(seed)'와, 완전한 일관성을 위해 약간의 추가적인 불확실성을 수용하려는 의지를 필요로 합니다. AI 모델이 중요한 결정을 내리는 데 점점 더 많이 사용되는 세상에서, 두 명의 분석가가 동일한 결론에 도달할 것임을 보장하는 능력은 단순한 기술적 세부 사항이 아니라 신뢰를 위한 근본적인 요구 사항입니다. 연구진은 이론적 불가능성을 실질적이고 재현 가능한 표준으로 바꿈으로써 그 보장을 현실로 만드는 도구를 제공했습니다.

기술 요약: 복제 가능한 컨포멀 예측 (Replicable Conformal Prediction)

문제 정의
표준 분할 컨포멀 예측(split conformal prediction)은 유한 샘플 커버리지 보장을 갖는 집합 값 분류기를 생성합니다. 그러나 두 명의 독립적인 분석가가 별도의 홀드아웃 샘플에 대해 컨포멀 예측기를 각각 캘리브레이션할 때, 이들은 거의 확실하게 서로 다른 분류기를 배포하게 됩니다. 이는 캘리브레이션된 임계값(threshold)이 연속 분포를 가진 점수의 통계량(order statistic)이기 때문에 발생합니다. 즉, 두 개의 독립적인 캘리브레이션이 동일한 임계값(결과적으로 동일한 분류기)을 생성할 확률은 0입니다.

이러한 복제 불가능성은 해싱, 캐싱, 버전 관리 또는 감사가 필요한 배포 아티팩트(deployment artifacts)에 심각한 문제를 야기합니다. 또한, 이러한 불안정성은 공격 가능합니다: 공격자는 캘리브레이션 세트를 여러 번 다시 추출하여 가장 유리한 추출값을 선택함으로써, 표준 지원 검사(support checks)로는 탐지할 수 없는 체계적인 미달 커버리지(undercoverage)를 유발할 수 있습니다. "일점 안정성(one-point stability)" 개념이 존재하기는 하지만, 이는 배포된 분류기 자체가 실행 간에 동일함을 보장하지는 않습니다.

방법론: RECAL
본 논문은 두 명의 독립적인 분석가가 높은 확률( $1-\rho$ )로 동일한 분류기를 배포하도록 보장하면서도 한계 커버리지(marginal coverage) 보장을 유지하는 RECAL(Replicable Calibration) 절차를 제안합니다.

공유 시드 및 반올림 (Shared Seed and Rounding): RECAL은 공유된 무작위 시드를 사용하여 고정된 그리드 너비 $\beta$ 에 대한 무작위 오프셋 $u$ 를 생성합니다. 분석가들은 표준 컨포멀 임계값 $\hat{\tau}$ 를 계산하고, 이를 $u + \beta\mathbb{Z}$ 로 정의된 가장 가까운 그리드 지점으로 올림(upward rounding) 합니다.
- 올림 방식은 예측 집합이 커짐을 전제로 하므로, 한계 커버리지 보장( $\ge 1-\alpha$ )이 무조건적으로 유지되도록 합니다.
- 공유된 그리드는 만약 반올림되지 않은 임계값 $\hat{\tau}$ 와 $\hat{\tau}'$ 가 동일한 그리드 셀 내에 있거나 특정 방식으로 경계에 걸쳐 있는 경우, 반올림된 임계값 $\tau$ 와 $\tau'$ 가 동일해지도록 보장합니다.
이론적 프레임워크:
- 정확한 복제의 불가능성: 본 논문은 모든 분포에 대해 균등하게 유효한(uniformly valid) 절차에서 정확한 복제(확률 1의 동일한 출력)가 불가능함을 증명합니다. 또한, 공유된 무작위성을 사용할 경우, 정확한 복제는 출력을 데이터로부터 무관하게(data-oblivious) 만들어 분류기를 정보가 없는 상태로 만듭니다.
- 국소 마진 가정 (Local Margin Assumption): 분석은 점수 분포의 밀도가 타겟 분위수 근처에서 0 또는 무한대에서 떨어진 값으로 유계(bounded)되어 있다고 가정하는 국소 마진 조건(가정 1)에 의존합니다. 이를 통해 샘플 복잡도 경계에 명시적인 상수를 도출할 수 있습니다.
- 시드리스 변형 (Seedless Variant): 공유된 시드가 없는 경우, 시드 없는 설정에서 정확한 싱글톤 복제(exact singleton replication)는 실패 확률 $1/2$ 미만에서는 불가능함을 보여줍니다. 그러나 결정론적 그리드를 사용하면 모든 분석가를 높은 확률로 공통된 두 개의 인접한 분류기 목록 내로 한정할 수 있으며, 이는 시드 없는 설정에서 최적입니다.
선택에 대한 강건성 (Robustness to Selection): 본 논문은 공격자가 $M$ 개의 캘리브레이션 추출 중 최적의 것을 선택하는 "선택적 재캘리브레이션(selective recalibration)"을 분석합니다. 만약 어떤 절차가 $\rho$ -복제 가능하다면, 공격자가 $M$ 개의 추출 중에서 구별되는 분류기를 찾아낼 확률은 $\min\{1, (M-1)\rho\}$ 로 제한됨을 증명합니다. 이는 표준 분할 컨포럴 예측에서 나타나는 체계적인 미달 커버리지를 방지합니다.

주요 기여

불가능성 이론: 저자들은 정확한 복제가 비자명한 유효성(non-trivial validity)과 양립할 수 없으며, 의미 있는 복제를 위해서는 공유된 무작위성이 필요함을 입증했습니다. 또한 시드 없는 복제의 경계를 두 요소의 인접한 분류기 목록으로 규정했습니다.
RECAL 알고리즘: 유효성이 보존된 복제 가능한 분할 컨포멀 캘리브레이터입니다. 본 논문은 목표 복제 가능성 $\rho$ 와 커버리지 오차 $\epsilon$ 을 달성하기 위해 필요한 캘리브레이션 크기 $n$ 에 대한 명시적인 유한 샘플 상수를 제공합니다: $n = O(\kappa^2 \alpha(1-\alpha) / (\epsilon^2 \rho^2))$ , 여기서 $\kappa$ 는 국소 점수 밀도 비율을 바운딩합니다.
하한 (Lower Bounds): 저자들은 명시적인 상수를 포함한 하한을 도출하여, 샘플 복잡도와 집합 크기 팽창(커버리지)이 피할 수 없는 비용임을 보여줍니다. 집합 크기 비용은 $\Omega(\sqrt{\alpha(1-\alpha)/n}/\rho)$ 로 나타납니다.
플러그인 절차 (Plug-in Procedure): 데이터로부터 밀도 상수 $\kappa$ 를 추정하는 파일럿 절차를 도입하여, 점근적으로 사전 지정된 $\hat{\kappa}$ 없이도 사용할 수 있게 합니다.
실험적 검증: ImageNet(합성 및 실제), 소규모 데이터의 숫자 작업, 그리고 네 가지 대규모 언어 모델 제품군(GPT-2, Pythia, Qwen, Llama)에 대한 실험을 통해 RECAL이 예측된 복제 목표를 달축함을 보여줍니다. 실험은 표준 컨포멀 예측은 거의 0에 가까운 동일성을 보이는 반면, RECAL은 예측 집합 크기의 정량적인 비용을 치르면서 높은 동일성(예: 0.95–1.00)을 달성함을 확인시켜 줍니다.

결과

복제 가능성: RECAL은 목표로 하는 비복제율 $\rho$ 를 성공적으로 달성했습니다. 예를 들어, $\rho=0.1$ 일 때, 합성 이미지 데이터에서 0.95의 동일성을, 실제 언어 모델에서 0.89–0.96의 동일성을 달성했습니다.
커버리지: 한계 커버리지가 보존됩니다 ( $\ge 1-\alpha$ ). 실현된 커버리지는 그리드 원자(grid atoms)에 집중되어, 표준 컨포럴 예측의 베타 분포 형태의 변동을 방지합니다.
집합 크기 비용: 이 방법은 예측 집합의 크기에서 비용을 발생시킵니다. 실제 언어 모델에서 $\rho=0.1$ 일 때 집합 크기가 55–59% 증가했습니다. 저자들은 헤비 테일(heavy-tailed) 어휘를 가진 모델(예: Qwen)의 경우, 점수 분포의 기하학적 구조 때문에 이 비용이 훨씬 더 높을 수 있으나, 이는 방법론의 실패가 아니라 점수 공간의 특성이라고 언급했습니다.
선택 공격 (Selection Attack): 20회의 재캘리브레이션 중 가장 낮은 커버리지를 가진 추출을 선택하는 스트레스 테스트에서, 표준 분할 컨포럴은 현저한 미달 커버리지를 보였습니다(명목상 0.900 대비 0.892). 그러나 RECAL은 모든 후보가 상향 반올림된 유효한 임계값이었기 때문에 명목 수준 이상의 커버리지를 유지했습니다.

의의 및 주장
본 논문은 표준 방식이 독립적인 실행 간에 동일한 아티팩트를 생성하지 못하는 결정적인 격차를 해결하며, 복제 가능성에 대한 최초의 프레임워크를 제공한다고 주장합니다. 그 의의는 다음과 같습니다:

감사 및 캐싱: 검증 가능하고, 캐싱 및 버전 관리가 가능한 컨포멀 예측기의 배포를 가능하게 하며, 이는 규제 감사 및 프로덕션 시스템에 필수적입니다.
선택 강건성: 커버리지를 조작하기 위해 캘리브레이션 세트를 선별하는 "선택 공격"에 대한 이론적, 실무적 방어책을 제공합니다.
트레이드오프 특성화: 복제 가능성의 비용을 샘플 크기와 예측 집합 크기 측면에서 명시적으로 정량화하여, 이러한 비용이 불가피하며 최적의 비율을 가짐을 보여줍니다.

저자들은 한계점에 대해 겸허한 태도를 유지하며, 실제 이미지 실험에서 단일 고정 네트워크의 로짓(logits) 대신 교차 검증된 확률을 사용했다는 점과, 임상 사이트 분할 트랙이 작은 샘플 크기( $n \le 303$ )에 의해 제한되었다는 점을 언급했습니다. 또한, 밀도 상수 $\kappa$ 를 점근적으로 제거하는 것은 가능하지만, 유한 샘플에서의 균등한 제거는 여전히 미해결 과제로 남아 있음을 인정했습니다.

유사한 논문