🤖 machine learning

RegMean++: Enhancing Effectiveness and Generalization of Regression Mean for Model Merging

RegMean++는 기존 RegMean 방식이 개별 레이어를 독립적으로 병합하여 레이어 간 정보 흐름을 간과하던 한계를 극복하기 위해, 레이어 내부 및 레이어 간의 의존성을 병합 목적 함수에 명시적으로 통합함으로써 모델 병합의 효과성과 일반화 성능을 향상시킨 방법론입니다.

원저자: The-Hai Nguyen, Dang Huu-Tien, Takeshi Suzuki, Le-Minh Nguyen

게시일 2026-04-28

📖 2 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: The-Hai Nguyen, Dang Huu-Tien, Takeshi Suzuki, Le-Minh Nguyen

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

👨‍🍳 배경: "천재 요리사들의 레시피를 하나로 합친다면?"

세상에는 각기 다른 분야의 요리를 기가 막히게 잘하는 천재 요리사들이 있다고 상상해 보세요.

A 요리사: 한식 전문가
B 요리사: 양식 전문가
C 요리사: 일식 전문가

우리의 목표는 이 세 명의 비법을 하나로 합쳐서, **한식, 양식, 일식을 모두 완벽하게 해내는 '만능 요리사'**를 만드는 것입니다. 이것이 바로 논문에서 말하는 **'모델 머징(Model Merging)'**입니다.

❌ 기존 방식 (RegMean): "재료만 대충 섞기"

기존의 방식(RegMean)은 마치 이렇게 하는 것과 같습니다.
"A의 간장, B의 버터, C의 간장을 그냥 비율에 맞춰서 한 그릇에 다 때려 넣자!"

이 방식은 빠르고 간편합니다. 하지만 문제가 있어요. 각 요리사가 재료를 넣는 **'순서'**나, 재료가 들어갔을 때 **'맛이 변하는 과정'**을 고려하지 않았거든요. 간장을 넣은 뒤에 버터를 넣으면 맛이 완전히 달라질 수 있는데, 기존 방식은 각 재료(레이어)를 독립적으로만 보고 합쳤기 때문에, 막상 합쳐놓고 나면 맛이 이상해지거나(성능 저하), 새로운 요리(새로운 데이터)를 시켰을 때 당황하는 일이 생겼습니다.

✅ 새로운 방식 (RegMean++): "조리 과정을 관찰하며 합치기"

이번 논문에서 발표한 **RegMean++**는 훨씬 똑똑합니다. 이 방식은 단순히 재료만 섞는 게 아니라, **'요리가 만들어지는 전체 과정'**을 지켜봅니다.

"A 요리사가 간장을 넣었을 때 맛이 어떻게 변하는지, 그 변화된 맛을 바탕으로 B 요리사가 버터를 넣으면 어떤 결과가 나올지"를 실제로 한 번 요리해보면서(Forward Pass) 관찰합니다.

즉, **앞 단계의 요리 결과가 다음 단계에 어떤 영향을 주는지(레이어 간의 연결성)**를 고려해서 레시피를 조정하는 것이죠. 이렇게 하면:

맛의 조화가 완벽해집니다: 각 재료가 서로 어떻게 어우러지는지 알기 때문에 훨씬 자연스러운 맛이 납니다.
응용력이 좋아집니다: 기존에 안 해본 요리(새로운 데이터/OOD)를 시켜도, 조리 원리를 잘 이해하고 있어서 당황하지 않고 잘 만들어냅니다.
기억력이 좋습니다: 새로운 요리를 계속 배워도(순차적 머징), 예전에 배웠던 맛을 잊어버리지 않습니다.

💡 요약하자면?

기존 방식 (RegMean): "재료(데이터)의 통계치만 보고 비율 맞춰 섞자!" $\rightarrow$ 결과: 빠르지만, 재료 간의 상호작용을 놓침.
새로운 방식 (RegMean++): "재료가 섞이면서 맛이 어떻게 변하는지 과정을 보면서 섞자!" $\rightarrow$ 결과: 조금 더 시간이 걸리지만, 훨씬 똑똑하고 유연한 만능 요리사가 탄생함.

결론적으로, 이 논문은 AI 모델들을 합칠 때 단순히 '무엇을' 합칠지가 아니라, '어떻게 흘러가는지'를 고려해야 훨씬 강력한 AI를 만들 수 있다는 것을 증명했습니다.

[기술 요약] RegMean++: 모델 병합의 효과성 및 일반화 성능 향상

1. 문제 정의 (Problem Statement)

최근 사전 학습(Pre-training) 및 미세 조정(Fine-tuning) 패러다임이 확산됨에 따라, 특정 작업에 최적화된 여러 모델을 하나의 통합 모델로 합치는 모델 병합(Model Merging) 기술이 중요해졌습니다.

기존의 대표적인 방법론인 RegMean은 모델 병합을 선형 회귀(Linear Regression) 문제로 공식화하여, 병합된 모델과 후보 모델 간의 예측값 차이를 최소화하는 폐쇄형 해(Closed-form solution)를 제공합니다. 이는 계산 효율성과 설명 가능성 측면에서 매우 뛰어나지만, 다음과 같은 치명적인 한계가 있습니다.

독립적 레이어 병합: RegMean은 각 트랜스포머 레이어 내의 선형 레이어들을 독립적으로 병합합니다.
의존성 무시: 레이어 간(Cross-layer) 정보 흐름이나 레이어 내부(Intra-layer)의 비선형적 특징 변화가 병합된 모델의 최종 예측에 미치는 영향을 고려하지 못합니다. 이로 인해 모델의 표현력(Representation)이 왜곡되어 일반화 성능이 저하되는 문제가 발생합니다.

2. 제안 방법론 (Methodology: RegMean++)

본 논문은 RegMean의 한계를 극복하기 위해 **RegMean++**를 제안합니다. 핵심 아이디어는 병합 과정에서 레이어 간(Cross-layer) 및 레이어 내부(Intra-layer)의 의존성을 명시적으로 통합하는 것입니다.

핵심 메커니즘 (Dynamic Feature Flow):
- RegMean: 각 레이어의 입력 특징( $X_i^{(l)}$ )을 후보 모델들의 특징값으로 계산합니다.
- RegMean++: 현재 레이어( $l$ )의 입력 특징을 이전 단계에서 이미 병합된 모델( $f_{M}^{(l-1)}$ )의 출력값으로 계산합니다. 즉, 병합된 모델의 실제 데이터 흐름을 반영하여 특징을 추출합니다.
알고리즘 특징:
- 병합된 모델의 활성화 값(Activation)을 기반으로 내적 행렬(Inner-product matrix)을 업데이트함으로써, 병합된 모델이 후보 모델들의 행동을 더 정확하게 모방하도록 유도합니다.
- 비선형 레이어(LayerNorm, GELU 등)와 임베딩은 기존과 동일하게 단순 평균(Averaging) 방식을 사용합니다.
트레이드오프: 병합된 모델을 통한 추가적인 순전파(Forward pass)가 필요하므로, RegMean 대비 계산 비용(시간)이 약 2배 정도 증가하지만, 메모리 사용량은 레이어 단위 처리를 통해 효율적으로 관리됩니다.

3. 주요 기여 (Key Contributions)

RegMean++ 제안: 비전(Vision) 및 언어(Language) 작업 모두에 적용 가능한 효과적인 모델 병합 변형 모델을 제시했습니다.
의존성 통합: 레이어 간/내부 의존성을 병합 목적 함수에 포함하여 ID(In-domain) 성능과 OOD(Out-of-domain) 일반화 성능을 동시에 개선했습니다.
심층 분석 (Layer-wise Analysis):
- 트랜스포머의 **중간 및 깊은 레이어(Middle & Deep layers)**를 병합하는 것이 성능 유지에 가장 중요함을 밝혀냈습니다.
- MLP 모듈의 선형 레이어를 병합하는 것이 Attention Head를 병합하는 것보다 성능이 우수함을 입증했습니다.
광범위한 벤치마크: 11개의 최신 모델 병합 방법론과 비교하여 우수한 성능을 검증했습니다.

4. 실험 결과 (Results)

비전 작업 (ViT 모델): 8개의 데이터셋에서 실험한 결과, RegMean++는 RegMean 대비 평균 2.0%의 성능 향상을 보였으며, 다양한 모델 크기(B/32, B/16, L/14)에서 일관된 우위를 점했습니다.
언어 작업 (Llama 3, Gemma 2): 대규모 언어 모델에서도 수학(Math) 및 안전성(Safety) 도메인 등에서 유의미한 성능 향상을 기록했습니다.
일반화 및 강건성:
- OOD 일반화: 분포 변화가 있는 데이터셋에서도 높은 정확도를 유지했습니다.
- 순차적 병합 (Sequential Merging): 새로운 작업이 계속 추가되는 상황에서도 기존 작업의 성능을 잊어버리는 '파괴적 망각(Catastrophic forgetting)' 현상이 적고 지속 가능성이 높았습니다.
- 강건성 (Robustness): 노이즈(Gaussian, JPEG 등)가 섞인 데이터에 대해서도 높은 강건성을 보였습니다.

5. 의의 및 결론 (Significance)

RegMean++는 모델 병합 시 **"레이어 간의 상호작용"**이 얼마나 중요한지를 이론적/실험적으로 증명했습니다. 단순히 가중치를 수학적으로 맞추는 것을 넘어, 모델의 **정보 흐름(Information flow)**을 보존하는 방향으로 병합을 수행함으로써, 데이터 효율성(적은 샘플로도 가능)과 일반화 성능을 동시에 잡은 실용적인 방법론입니다. 이는 향후 대규모 멀티태스크 모델을 구축할 때 매우 중요한 가이드라인을 제공합니다.