🤖 machine learning

Bound to Disagree: Generalization Bounds via Certifiable Surrogates

이 논문은 대상 모델이나 그 훈련 절차를 수정하지 않고도 샘플 압축, 모델 압축 또는 PAC-Bayes 이론을 통해 훈련된 인증 가능한 불일치 대리 함수(certifiable disagreement surrogates)를 활용하여 딥러닝 모델에 대한 비공허한 일반화 경계(non-vacuous generalization bounds)를 도출하기 위한 새로운 프레임워크를 소개한다.

원저자: Mathieu Bazinet, Valentina Zantedeschi, Pascal Germain

게시일 2026-07-09

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Mathieu Bazinet, Valentina Zantedeschi, Pascal Germain

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 퍼즐을 풀기 위해 초지능적인 거대 로봇 뇌(심층 신경망)를 구축했다고 상상해 보세요. 이 로봇은 퍼즐을 푸는 데 매우 뛰어나지만, 한 번도 본 적 없는 새로운 퍼즐에 대해 정확히 얼마나 잘 해낼지는 아무도 모릅니다. 사실, 로봇의 미래 성능을 추측하기 위해 우리가 흔히 사용하는 수학적 방법들은 대부분 완전히 쓸모없거나(예를 들어, "정답일 확률이 100%이거나 0%이다"라고 말하는 것), 그 수학에 맞추기 위해 로봇의 뇌를 수정해야만 하는데 이는 로봇을 망가뜨리게 됩니다.

**"Bound to Disagree"**라는 제목의 이 논문은 로봇의 뇌를 건드리지 않고도, 혹은 쓸모없는 수학을 사용하지 않고도, 이 로봇의 미래 성능을 확인할 수 있는 영리하고 새로운 방법을 제시합니다.

핵심 아이디어: "대리 모델(Surrogate)"과 "불일치(Disagreement)"

당신의 거대한 로봇 뇌를 **타겟 모델(Target Model)**이라고 생각해 보세요. 이 모델은 복잡하고 강력하며 측정하기 어렵습니다. 저자들은 이렇게 제안합니다. "그렇다면 아주 작고 단순한 로봇 뇌인 **대리 모델(Surrogate Model)**을 만들어 보자."

이 대리 모델은 퍼즐을 얼마나 잘 푸는지 수학적으로 쉽게 증명할 수 있을 만큼 작습니다. 하지만 여기에는 조건이 있습니다. 대리 모델은 거대 로봇과 거의 똑같이 행동해야 합니다.

저자들의 비법은 **불일치(Disagreement)**를 측정하는 것입니다. 그들은 라벨이 붙지 않은 사진 더미(로봇이 아직 보지 못한 데이터)를 가져와서, 거대 로봇과 작은 로봇 모두에게 정답을 맞혀보라고 요청합니다.

만약 두 로봇이 거의 모든 것에 대해 일치한다면, 작은 로봇의 입증된 실적은 거대 로봇의 미래 성능에 대한 훌륭한 예측치가 됩니다.
만약 두 로봇이 많이 다르게 반응한다면, 거대 로봇은 문제가 생길 수도 있습니다.

논문은 거대 로봇의 실제 성능과 작은 로봇의 입증된 성능 사이의 격차가, 이 라벨 없는 사진들에 대해 두 모델이 얼마나 자주 불일치하는지와 직접적으로 연결되어 있음을 증명합니다.

무엇을 배제했는가 ("노력할 필요 없는 것들" 목록)

저자들은 이 특정 목적을 위해 무엇이 효과적이지 않은지를 명확히 밝히며, 다음과 같은 방법들에 시간을 낭비하지 말라고 조언합니다:

거대 로봇을 수정하지 마세요: 타겟 모델을 다시 학습시키거나 구조를 미세하게 조정할 필요가 없습니다. 이 방법은 훈련된 그대로의 모델에 적용됩니다.
"노름 기반(Norm-based)" 경계에 의존하지 마세요: 이는 로봇의 가중치 크기를 살펴보는 고전적인 수학적 기교입니다. 논문은 이러한 방법들이 대개 "공허한(vacuous)" 결과(즉, 오차가 0%에서 100% 사이라고 말하는 것처럼 너무 넓은 범위를 제공하여 무용지물인 경우)를 준다는 것을 보여줍니다.
"분할 기반(Partition-based)" 경계에 의존하지 마세요: 이는 데이터를 여러 덩어리로 나누는 방식입니다. 저자들은 이러한 방법들이 종종 모델이 단순히 무작위로 추측할 때의 성능(예를 들어 일부 작업에서 오차 90%)을 추정하는 수준의 사소한 결과만을 낸다는 것을 발견했습니다.
확인을 위해 라벨이 있는 데이터를 요구하지 마세요: 모델을 확인하기 위해 인간이 이미 정답을 적어 놓은 방대한 양의 라벨이 있는 데이터가 필요한 다른 많은 방법과 달리, 이 방법은 라벨이 없는(정답이 없는 사진) 소량의 데이터만 있으면 됩니다. 이는 훨씬 더 저렴하고 빠릅니다.

어떻게 테스트했는가 ("실험실" 결과)

저자들은 단순히 이론만 내세운 것이 아니라, 이를 실제로 구축하여 실제 세계의 퍼즐들로 테스트했습니다. 그들은 세 가지 방식으로 "작은 로봇" 대리 모델을 만들었습니다:

샘플 압축(Sample Compression): 전체를 대표할 수 있는 아주 작고 완벽한 훈련 데이터의 부분 집합을 선택하는 방식입니다.
모델 압축(Model Compression): 품질을 크게 잃지 않으면서 모델을 압축하는 방식(예: 고해상도 사진을 작은 썸네일로 만드는 것)입니다.
PAC-Bayes: 모델을 고정된 하나의 뇌가 아닌 가능성의 분포로 취급하는 통계적 프레임워크를 사용하는 방식입니다.

이들은 다음 데이터셋을 통해 이를 테스트했습니다:

MNIST: 손글씨 숫자를 인식하는 작업.
CIFAR10: 작은 이미지 속의 비행기나 고양이 같은 물체를 식별하는 작업.
Amazon Polarity: 영화 리뷰를 읽고 긍정인지 부정인지 결정하는 작업(DistilBERT 및 GPT2와 같은 대규모 언어 모델 사용).

결과:
이 실험들에서, 그들의 새로운 "불일치" 경계값은 **정밀하고 계산 가능(tight and computable)**했습니다.

MNIST 손글씨 숫자 실험에서, 모델 압축을 사용했을 때 그들의 방법은 약 **3.45%**의 일반화 경계(오차에 대한 안전 한계)를 찾아냈습니다. 반면 기존의 "노름 기반" 방법들은 $3.14 \times 10^8$ 퍼센트처럼 의미 없는 엄청난 숫자를 내놓았습니다.
CIFAR10의 경우, 모델 압축을 통해 **35.06%**의 경계를 얻었으나, 기존 방법들은 무용지물이거나 모델이 무작위로 추측할 때의 성능(약 90% 오차)을 추정했습니다.
또한 모델을 4비트로 축소했을 때(매우 작고 빠르게 만들었을 때), 불일치 경계값이 축소된 모델이 원래의 큰 모델만큼 잘 수행할 것임을 보장하며, 이때 불일치 격차는 약 2%에 불과했습니다.

얼마나 확신할 수 있는가?

논문은 이 경계값이 높은 확률(구체적으로 신뢰도 99%, 즉 $1-\delta = 0.99$ )로 성립한다는 **수학적 증명(정리)**을 제공합니다.

핵심 아이디어인 "오차 격차는 불일치에 의해 제한된다"는 점은 0-1 손실(단순한 정답/오답)과 리프시츠 손실(Lipschitz losses, 부드럽고 연속적인 오차)에 대해 수학적으로 증명되었습니다.
구체적인 수치(예: 3.45% 또는 35.06% 경계)는 특정 데이터셋에 대한 실험을 통한 측정된 결과입니다. 이는 시뮬레이션이 아니라, 훈련된 모델에 대한 실제 계산 결과입니다.
저자들은 한계점도 인정합니다. 최종 경계값의 품질은 전적으로 "작은 로봇(대리 모델)"이 얼마나 좋은가에 달려 있습니다. 만약 거대 로봇과 일치하는 좋은 대리 모델을 찾을 수 없다면, 경계값은 정밀해질 수 없습니다.

요약

이 논문은 AI를 신뢰할 수 있는 새로운 실용적인 방법을 제시합니다. 복잡한 모델을 맞지 않는 틀에 억지로 끼워 맞추거나 무의미한 답을 주는 수학을 사용하는 대신, 인증 가능한 쌍둥이를 만들고, 라벨 없는 몇 가지 예시에 대해 두 모델이 얼마나 자주 불일치하는지 확인하여, 거대 모델이 실제 세계에서 얼마나 잘 작동할지를 보장받을 수 있습니다. 이는 모델을 다시 구축하지 않고도 당신의 로봇이 실패하지 않을 것임을 확신할 수 있는 "인증 가능한" 방법입니다.

기술 요약: Bound to Disagree: Generalization Bounds via Certifiable Surrogates

문제 정의

딥러닝 모델, 특히 과매개변수화된 신경망은 고전적 통계 학습 이론이 예측하는 오버피팅 현상을 뒤엎고 경험적인 성공을 거두어 왔다. VC 차원, 라데마허 복잡도(Rademacher complexity), 정보 이론, 그리고 PAC-Bayes 이론에 기반한 광범की 연구에도 불구하고, 기존의 일반화 경계(generalization bounds)는 딥 뉴럴 네트워크에 적용할 때 세 가지 주요 한계점을 갖는다:

공허함(Vacuousness): 많은 경계값이 중간 규모 또는 대규모 네트워크에 적용될 때 1보다 큰 값(또는 무의미한 상한값)을 산출한다.
계산 불가능성(Non-computability): 일부 경계값은 계산할 수 없는 보편적 상수들에 의존하거나 입력 공간에 대한 다루기 힘든 가정을 필요로 한다.
제한성(Restrictiveness): 유효한 많은 경계들이 타겟 예측 모델 자체가 아닌 수정된 버전(예: 프루닝되거나 양자화된 모델)에만 적용되거나, 특정 아키텍처 제약(예: 게이트 활성화 함수)을 요구한다.

본 논문은 타겟 모델이나 그 훈련 과정을 수정하지 않고도 계산 가능하며, 공허하지 않고, 모든 예측 모델에 적용 가능한 일반화 경계의 필요성을 다룬다.

방법론

저자들은 복잡한 타겟 모델의 인증(certification)과 경계값 도출 자체를 분리하는 프레임워크를 제안한다. 핵심 전략은 다음과 같다:

대리 모델링(Surrogate Modeling): 타이트하고 계산 가능한 일반화 보증을 누리는 더 단순한 "대리(surrogate)" 모델을 훈련시킨다. 이 대리 모델은 타겟 모델의 동작을 모사하도록 설계된다.
불일치 바운딩(Disagreement Bounding): 훈련에 사용되지 않은 작은 규모의 레이블이 없는(unlabeled) 데이터셋( $U$ )에서 타겟 모델( $f$ )과 대리 모델( $h$ ) 사이의 진정한 리스크(true risk) 차이를 "불일치(disagreement)" 지표를 통해 측정한다.
리스크 집계(Risk Aggregation): 대리 모델의 타이트한 일반화 경계와 불일치 경계를 결합하여 타겟 모델의 진정한 리스크에 대한 상한값을 구한다.

이론적 기여

본 논문은 손실 함수(loss function)에 따라 세 가지 구체적인 불일치 기반 경계를 정식화한다:

0-1 손실 (정리 5): 0-1 손실의 경우, 불일치는 미레이블 데이터셋 상에서 $f$ 와 $h$ 의 예측이 서로 다른 빈도로 정의된다. 이 경계는 진정한 리스크 격차의 상한을 구하기 위해 이항 꼬리 역전(binomial tail inversion, Langford, 2005)을 활용한다.
$R_D(f) \leq R_D(h) + \text{Bin}(m \cdot d_U^{0-1}(f, h), m, \delta)$
립시츠 연속 손실 (정리 6): Huber 손실이나 logistic loss와 같이 소프트맥스 출력에 대해 립시츠 연속인 손실의 경우, 불일치는 두 모델의 소프트맥스 분포 간 $L_1$ 거리로 측정된다. 이 경계는 단위 구간 내 변수에 대한 체르노프 경계(Chernoff bound)를 사용한다.
$L_D(f) \leq \mathbb{E}_{h \sim Q}[L_D(h)] + 2K_\ell \cdot kl^{-1}\left(\frac{\mathbb{E}_{h \sim Q}[d_U^{K_\ell}(f, h)]}{2}, \frac{\log(1/\delta)}{m}\right)$
비립시츠 손실 (정리 7): 크로스 엔트로피(cross-entropy)와 같이 제약 없이는 립시츠 연속이 아닐 수 있는 손실의 경우, 저자들은 두 모델 간의 절대적인 손실 값 차이를 측정하기 위해 작은 레이블이 있는(labeled) 홀드아웃 세트를 사용할 것을 제안한다.
$L_D(f) \leq \mathbb{E}_{h \sim Q}[L_D(h)] + \lambda_\ell \cdot kl^{-1}\left(\frac{\mathbb{E}_{h \sim Q}[d_L(f, h)]}{\lambda_\ell}, \frac{\log(1/\delta)}{m}\right)$

프레임워크 통합

본 방법론은 대리 모델을 인증하는 데 사용되는 특정 프레임워크에 구애받지 않는다. 저자들은 자신들의 불일치 경계를 다음 세 가지 뚜렷한 이론적 프레임워크와 통합함으로써 범용성을 입증한다:

샘플 압축(Sample Compression): 훈련 데이터의 하위 집합을 기반으로 대리 모델을 정의하기 위해 Pick-To-Learn 또는 코어셋 선택(예: Random Coreset, k-Center Greedy) 알고리즘을 사용한다.
모델 압축(Model Compression): 대리 모델의 기술 길이(description length)를 줄이기 위해 SubLoRA(Subspace Low-Rank Adaptation) 및 양자화 기술을 활용한다.
PAC-Bayes 이론: 사전 확률(prior)로부터의 KL 발산을 통해 경계가 설정되는 확률적 신경망을 훈련시킨다.

주요 결과

저자들은 MNIST, CIFAR10, 그리고 Amazon Polarity 데이터셋(DistilBERT 및 GPT2 사용)에 대해 실험적으로 프레임워크를 평가하였다.

타이트함(Tightness): 제안된 불일치 기반 경계는 기존의 계산 가능한 경계들보다 현저히 타이트하다. 예를 들어, CIFAR10에서 노름 기반(norm-based) 경계는 공허한 값( $> 10^{21}$ )을 나타냈고, 파티션 기반 경계는 자명한 수준(오차 약 90%)이었다. 반면, 새로운 경계는 비공허한 결과(예: CIFAR10에 대한 PAC-Bayes 대리 모델의 경우 28.13%)를 달려냈다.
범용성(Versatility): 본 접근법은 다양한 아키텍처(CNN, ResNet, Transformer)와 손실 함수(zero-one, cross-entropy, Huber)에 걸쳐 타겟을 성공적으로 인증했다.
대리 모델 선택(Surrogate Selection): 실험 결과, 샘플 압축의 경우 Random Coreset 방식이 종종 가장 타이트한 경계를 생성했으며, 모델 압축의 경우 SubLoRA가 효과적임을 확인했다. 흥미롭게도, 레이블 없는 데이터셋에서의 불일치를 최소화하는 것이 항상 가장 타이트한 최종 경계를 보장하는 것은 아니었다. 어떤 경우에는 더 높은 불일치를 보이더라도 고유의 일반화 경계가 더 타이트한 대리 모델이 더 나은 성능을 보였다.
사용 사례:
- 인증(Certification): 표준 결정론적 모델에 대해 비공허한 경계를 제공한다.
- 증류(Distillation): 불일치를 최소화하면서 증류된 모델의 리스크를 인증한다.
- 양자화(Quantization): 타겟 모델과 양자화된 버전 사이의 성능 격차를 경계 지음으로써, 압축이 심각한 성능 저하를 초래하지 않음을 보장한다.

의의 및 주장

본 논문은 완전히 계산 가능하며, 공허하지 않고, 가정이 필요 없는 일반화 경계 프레임워크를 제공한다고 주장한다. 주요 의의는 다음과 같다:

복잡도 분리: 복잡하고 임의적인 모델의 인증 부담을 더 단순하고 인증 가능한 대리 모델로 전이함으로써 인증을 가능하게 한다.
최소한의 데이터 요구량: 불일치를 평가하기 위해 레이블이 없는 작은 데이터셋만을 필요로 하며, 이는 대규모 애플리케이션에서 레이블이 있는 데이터를 얻는 것보다 훨씬 쉽고 저렴하다.
수정 불필요: 타겟 모델의 경계를 도출하기 위해 프루닝, 양자화 또는 아키텍처 변경을 요구하는 기존 연구들과 달리, 이 방법은 모델을 "있는 그대로" 적용한다.
광범한 적용성: 본 프레임워크는 zero-one, 립시츠 연속, 비립시츠 연속 손실 및 결정론적/확률적 예측자 등 특정 손실 함수나 모델 클래스에 국한되지 않는다.

저자들은 최종 경계의 타이트함이 본질적으로 대리 모델 자체의 일반화 보증 품질에 의존한다는 점을 인정하며 한계점을 언급했다. 또한, 충분히 강력하면서도 복잡한 타겟 모델에 근접한 대리 모델을 찾는 것은 여전히 도전적인 과제이다. 그러나 이 연구는 일반화 보장이 직접적인 타겟 모델의 복잡도 분석이 아닌 "불일치"를 통해 달성되는 새로운 패러다임을 구축했다.