🤖 machine learning

How Far Can Sharpness and Complexity Jointly Explain Generalization?

본 논문은 파레토 기반 분석과 함수 지향적 정의를 채택하여 딥 뉴럴 네트워크의 일반화에 미치는 날카로움(sharpness)과 복잡성(complexity)의 결합된 설명력을 조사하며, 이 두 요인이 다양한 설정에 걸쳐 이해를 유의미하게 향상시키지만 아직 완전한 일반화 이론을 구성하지는 못한다는 것을 밝혀낸다.

원저자: Ziyu Cheng, Xitong Zhang, Longxiu Huang, Rongrong Wang

게시일 2026-06-30

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Ziyu Cheng, Xitong Zhang, Longxiu Huang, Rongrong Wang

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 학생이 어떻게 공부했는지를 바탕으로 기말고사 성적을 예측하려고 한다고 상상해 보십시오. 딥러닝(AI)의 세계에서 연구자들은 오랫동안 두 가지 주요 요소가 AI 모델이 새로운 미지의 데이터에 얼마나 잘 수행될지를 결정한다고 의심해 왔습니다:

날카로움(Sharpness): 모델이 얼마나 "민감한가" 혹은 "요동치는가"입니다. 모델을 아주 살짝만 건드렸을 때, 그 답이 급격하게 변하나요(날카로움), 아니면 일정하게 유지되나요(평탄함)?
복잡성(Complexity): 모델의 내부 규칙이 얼마나 "복잡한가"입니다. 단순한 지침의 집합인가요, 아니면 거대하고 뒤엉킨 가능성의 그물망인가요?

오랫동안 과학자들은 모델의 원시 코드(파라미터)를 살펴보는 자를 사용하여 이 두 가지를 측정하려고 시도했습니다. 하지만 이 논문은 코드를 측정하는 것이 케이크의 맛을 보기 위해 밀가루와 설탕을 따로 무게 재는 것과 같다고 주장합니다. 이는 핵심을 놓치는 것입니다. 왜냐하면 재료(코드)를 바꾼다고 해서 반드시 맛(함수)이 변하는 것은 아니기 때문입니다.

거대한 실험: 새로운 측정 방식

이 논문의 저자들은 다음과 같은 질문을 던졌습니다: "우리가 날카로움과 복잡성을 올바르게 측정한다면, AI가 어떻게 일반화되는지에 대한 거의 모든 것을 설명할 수 있을까?"

이에 답하기 위해 그들은 두 가지 새로운 도구를 만들었습니다:

"파레토(Pareto)" 체크: 데이터를 단순히 직선으로 그려 적합성을 보는 대신, 그들은 "최선의 절충안"을 살펴보았습니다. 예를 들어, 그래프의 왼쪽 하단 모서리가 "완벽한 구역"(낮은 날카로움, 낮은 복잡성)이라고 가정해 봅시다. 그들은 실제로 성능이 좋았던 모델들이 그 완벽한 구역에 모여 있는지 확인했습니다. 만약 어떤 모델이 완벽한 구역에 있음에도 불구하고 성능이 낮았다면, 그들의 이론은 틀린 것이 됩니다.
함수 중심적 지표(Function-Oriented Metrics): 그들은 원시 코드를 측정하는 것을 멈추고, 대신 행동을 측정하기 시작했습니다.
- 베이즈 날카로움(Bayes Sharpness): 코드의 곡률을 확인하는 대신, "모델의 설정을 무작위로 흔들었을 때, 실제 출력값이 얼마나 변하는가?"를 물었습니다.
- 함수적 복잡성(Functional Complexity): 코드 내의 연결 수를 세는 대신, "모델의 행동이 무작위 추측과 비교했을 때 얼마나 다른가?"를 물었습니다.

그들이 발견한 것

1. 기존의 자는 결함이 있었다 (The "No-Batch-Norm" Problem)
그들이 특정 유형의 AI 모델(특히 '배치 정규화'라는 특정 안정화 레이어가 없는 모델)에 기존 방식(원시 코드를 측정하는 방식)을 사용했을 때, 이론은 무너졌습니다. 기존의 자에 따르면 성능이 좋아야 할 모델이 실제로는 나빴고, 그 반대의 경우도 있었습니다. 이는 마치 화창할 것이라고 예보했는데 비가 오는 일기예보와 같았습니다.

2. 새로운 자가 이를 (대체로) 해결했다
그들이 새로운 "함수 중심적" 도구로 전환했을 때, 이론은 훨씬 더 잘 작동했습니다.

기존의 자가 실패했던 혼란스럽고 불안정한 모델들에서도, 새로운 자는 어떤 모델이 잘 일반화될지를 정확히 식별해 냈습니다.
그들은 심지어 서로 다른 유형의 AI 모델들을 섞어서 테스트하기도 했습니다(사과와 오렌지를 섞는 것처럼). 기존의 자로는 이들을 비교할 수 없었지만, 새로운 자는 어떤 혼합 모델이 가장 잘 수행될지를 성공적으로 예측할 수 있었습니다.

3. 이론은 아직 완벽하지 않다 (The "ViT" Problem)
하지만 이야기에 반전이 있습니다. 그들이 **ViT(Vision Transformer)**라고 불리는 매우 인기 있는 현대적 AI 유형을 테스트했을 때, 새로운 도구조차 여전히 실패했습니다.

왜일까요? 저자들은 이 특정 모델들이 너무 과하게 확신하고 훈련 데이터에 과적합되어, 본질적으로 "환각"을 보고 있다고 의심합니다. 이 모델들은 일반적인 학습의 범위를 너무 벗어나 있어서, 날카로움과 복잡성이라는 단순한 이론으로는 설명할 수 없는 상태였습니다.
그들이 데이터 증강(Data Augmentation)을 통해 이 모델들을 덜 극단적으로 만들었을 때, 이론은 다시 작동하기 시작했습니다. 이는 실패의 원인이 이론 자체의 결함이 아니라, 모델이 "고장 난" 상태에 있었기 때문임을 시사합니다.

결론

이 논문은 날카로움과 복잡성이 AI 모델이 왜 일반화되는지를 이해하는 데 있어 강력한 렌즈라는 결론을 내립니다.

성공: 행동을 기반으로 이러한 요소들을 측정함으로써, 이 이론은 AI에서 일어나는 일의 상당 부분을 설명해 냅니다.
한계: 아직 모든 것을 설명하지는 못합니다. (ViT 모델과 같이) 이론이 무너지는 사례들이 여전히 존재합니다.

핵심 요점: 저자들은 "날카로움과 복잡성이 중요한 유일한 요소"라고 말하는 것이 아닙니다. 그들은 "그것들을 올바른 방식으로 측정한다면, 우리가 생각했던 것보다 훨씬 더 많은 것을 설명할 수 있다"라고 말하고 있습니다. 하지만 우리는 여전히 예외적인 사례들을 이해하기 위해 할 일이 남아 있습니다.

이는 달리기 선수의 속도를 예측할 때 키와 몸무게가 훌륭한 예측 인자이지만, 완벽한 예측을 하기 전에는 선수가 다리가 부러지지는 않았는지 먼저 확인해야 한다는 사실을 깨닫는 것과 같습니다.

기술 요약: 선명도(Sharpness)와 복잡도(Complexity)는 공동으로 얼마나 멀리 일반화(Generalization)를 설명할 수 있는가?

문제 정의
심층 신경망은 고도로 과매개변수화된(overparameterized) 영역에서도 강력한 예측 성능을 달나하는 경우가 많으며, 이는 경험적 성공과 이론적 이해 사이의 간극을 만들어낸다. 고전적인 용량 기반 경계(capacity-based bounds)는 왜 이러한 네트워크들이 무작위 레이블(random labels)에는 쉽게 적합되면서도 구조화된 데이터에서는 잘 일반화되는지를 설명하지 못한다. 최근 문헌들은 선명도(perturbation에 대한 민감도)와 복잡도(모델의 크기 또는 정보량)를 두 가지 핵심 요소로 식별했지만, 이들의 **공동 설명력(joint explanatory power)**은 여전히 거의 탐구되지 않았다. 기존의 정량적 평가들은 대개 일반화 척도를 개별적인 스칼라 예측 인자로 취급하거나, 규정된 함수 형태를 통해 선명도와 복잡도를 하나의 스칼라로 결합하여 처리해 왔다. 이러한 접근 방식은 $(S, C)$ 라는 두 요소의 조합에 특정 형식을 강요하지 않고도 얼마나 많은 일반화를 설명할 수 있는지, 그리고 예측의 실패가 두 요소 프레임워크 자체의 문제인지 아니면 부적절한 메트릭 정의의 문제인지를에 대한 의문을 남겨둔다.

방법론
저자들은 다양한 아키텍처와 데이터셋에 걸쳐 선명도-복잡도 관점의 설명 범위를 조사하기 위해 경험적 및 개념적 분석을 수행한다.

평가 프레임워크:
- 선형 회귀(Linear Regression): 저자들은 메트릭 쌍의 예측력을 평가하기 위해 $Gap = \beta_0 + \beta_S S + \beta_C C + \epsilon$ 형태의 선형 모델을 적합시킨다. 이들은 $R^2$ 값과 계수의 부호를 보고한다.
- 파레토 분석(Pareto Analysis - Pareto Contradiction Rate, PCR): 선형성에 대한 가정을 피하기 위해, 저자들은 비모수적 평가 도구를 도입한다. 이들은 $(S, C)$ 메트릭에 의해 유도된 순서가 일반화 간극(generalization gap)의 순서와 일치하는지 확인한다. "후보 쌍(candidate pair)"은 한 모델이 다른 모델보다 낮은 선명도와 낮은 복잡도를 모두 갖는 경우를 의미한다. "모순된 쌍(contradictory pair)"은 낮은 $(S, C)$ 를 가진 모델이 더 나쁜 일반화 간극을 보일 때 발생한다. PCR은 후보 쌍 대비 모순된 쌍의 비율이다. 낮은 PCR은 두 요소 관점에서 기대되는 단조적 관계와 높은 일치도를 나타낸다.
메트릭 정의:
- 파라미터 수준의 베이스라인: 연구는 기존의 스케일 불변(scale-invariant) 메트릭, 특히 선명도를 위한 **Adaptive SAM (adapS)**과 복잡도를 위한 Path Norm을 평가한다. 이들은 Hessian trace 및 $\ell_2$ 가중치 노름(weight norm)과 같은 비불변 베이스라인과 비교된다.
- 함수 지향적 메트릭(Function-Oriented Metrics): 파라미터화 모호성(서로 다른 파라미터가 동일한 함수를 생성하는 문제)을 해결하기 위해, 저자들은 함수 공간에 더 가깝게 정의된 메트릭을 제안한다:
  - Bayes Sharpness (bayesS): 정규화된 사후 평균 손실 증가량으로 정의된다. 이는 스케일 불변성을 보장하기 위해 파라미터 크기에 비례하는 공분산을 가진 적응형 사후 분포 $Q$ 를 사용하며, Hessian 근사에 의존하는 대신 샘플링된 예측자들에 의해 유도된 실제 손실 변화를 측정한다.
  - Functional KL Divergence (func norm): PAC-Bayes 이론에서 유도된 복잡도 메트릭이다. 이는 참조 데이터셋에 대해 파라미터 샘플을 유도된 함수 출력으로 매핑한 후, 사전 분포와 사후 분포 사이의 KL 발산(divergence)을 계산한다. 이는 원시 파라미터 값이 아닌 예측 행동의 편차를 측정한다.
실험 범위:
평가는 정규화가 갖춰진 아키텍처(ResNet, VGG, WideResNet), 정규화가 제거된 변형(no-BN), 그리고 Vision Transformer(ViT)를 포함한다. 결정적으로, 본 연구는 서로 다른 아키텍처와 데이터셋(CIFAR-10 및 CIFAR-100)의 모델을 통합하여 교차 아키텍처 및 교차 데이터셋 비교 가능성을 테스트하는 "Mixed" 설정을 포함한다.

주요 기여

공동 설명력 분석: 본 논문은 단일 스칼라 측도를 넘어, 선명도와 복잡도가 어떻게 공동으로 일반화를 설명하는지에 대한 최초의 대규모 정량적 평가를 제공한다.
방법론적 혁신: 선형 회귀를 보완하는 도구로서 **파레토 분석(PCR)**을 도입함으로써, $(S, C)$ 와 일반화 간극 사이의 특정 함수 형태(선형 등)를 가정하지 않고도 두 요소 관점을 평가할 수 있게 한다.
함수 지향적 메트릭: Bayes Sharpness와 Functional KL Divergence의 제안은 파라미터 표현에 덜 의존적인 선명도와 복잡도의 구현체를 제공한다. 이는 스킵 연결(skip connections)이나 정규화 레이어가 있는 아키텍처에서 발생하는 파라미터화 모호성 문제를 해결한다.
진단적 통찰: 연구는 실패의 원인이 부적절한 메트릭 정의 때문인지, 아니면 두 요소 프레임워크 자체의 내재적 한계 때문인지를 구분한다.

결과

파라미터 수준 메트릭의 한계: 기존의 스케일 불변 베이스라인(예: adapS + path norm)은 정규화가 갖춰진 네트워크(예: ResNet18, WideResNet)에서는 준수한 성능을 보이지만, 정규화가 제거된 경우(예: no-BN ResNet18)나 서로 다른 아키텍처의 모델을 통합했을 때 설명력이 크게 떨어진다. 이러한 경우 회귀 $R^2$ 가 감소하고, 계수가 음수가 되며, PCR이 상승한다(잦은 모순 발생을 의미).
함수 지향적 메트릭의 성공: 제안된 함수 지향적 쌍 $(bayesS, func norm)$은 설명 범위를 크게 확장한다.
- 이는 파라미터 수준 메트릭이 실패하는 정규화 미설치 설정(예: no-BN ResNet18: $R^2$ 가 0.07에서 0.83으로 개선, PCR이 77.8%에서 1.2%로 감소)에서도 높은 $R^2$ 와 낮은 PCR을 회복한다.
- 또한 교차 아키텍처 및 교차 데이터셋 혼합 설정에서도 예측력을 유지하며, 이는 이 메트릭들이 파라미터 수준 메트릭보다 더 안정적인 비교 기준을 제공함을 시사한다.
남은 과제: 함수 지향적 메트릭은 **Vision Transformer (ViT)**에 대한 완전한 설명을 제공하는 데 실패하며, 특히 테스트 손실이 매우 높은 표준 설정에서 그러하다. 이러한 영역에서 두 요소 관점은 높은 PCR과 음의 계수를 보인다. 저자들은 이것이 메트릭이 완전히 함수 수준이 아니기 때문(Bayes sharpness는 여전히 파라미터 공간의 섭동에 의존함)이거나, 해당 모델들이 PAC-Bayes 경계가 느슨한 유의미한 일반화 영역 밖에서 작동하기 때문일 수 있다고 제안한다.
단일 요소의 불충분성: 단일 요소 분석은 선명도나 복잡도 중 어느 것도 단독으로는 일반화를 설명하기에 충분하지 않음을 확인하며, 이는 두 요소 관점의 필요성을 뒷받침한다.

의의 및 주장
본 논문은 선명도-복잡도 관점이 다양한 환경에서 일반화를 이해하기 위한 유익한 렌즈라고 주장하지만, 이것이 완전한 이론이라고 주장하는 것은 아니다.

관점의 정교화: 결과는 두 요소 관점의 명백한 실패 중 상당수가 프레임워크 자체의 내재적 결함이라기보다 메트릭 정의의 한계(특히 파라미터 수준 표현에 대한 의존성)에서 기인함을 시사한다. 함수 지향적 정의로 이동함으로써 설명 범위를 크게 확장할 수 있다.
열린 질문: 남은 실패 사례들(예: ViT)은 현재의 구현체가 아직 완전하지 않음을 나타낸다. 저자들은 두 가지 가능성을 제시한다: 더 넓은 범위를 확장하기 위해 더 나은 완전한 함수 수준의 선명도 및 복잡도 정의가 필요하거나, 혹은 두 요소 프레임워크가 본질적으로 불완전하여 일반화를 완전히 설명하기 위해 $(S, C)$ 외의 추가적인 요소가 필요할 수 있다.
실용적 유용성: 강력한 설명력을 가진 메트릭은 모델 비교, 하이퍼파라미터 선택, 규제 페널티 설계 등을 위한 진단 도구로 활용될 수 있다.

요약하자면, 본 연구는 선명도-복잡도 프레임워크의 경계를 정량적으로 규명하며, 이 프레임워크가 강력한 설명 도구이기는 하지만 그 효과는 이 요소들이 어떻게 구현되고 측정되는지에 달려 있음을 입증한다.

거대한 실험: 새로운 측정 방식

그들이 발견한 것

결론

기술 요약: 선명도(Sharpness)와 복잡도(Complexity)는 공동으로 얼마나 멀리 일반화(Generalization)를 설명할 수 있는가?

유사한 논문