🤖 machine learning

Unlocking the Potential of Continual Model Merging: An ODE Perspective

본 논문은 매개변수 공간에서 저손실 경로를 추적하기 위해 상미분방정식 관점을 활용하여 catastrophic forgetting 을 효과적으로 완화하고 이질적 작업 벤치마크에서 기존 방법들을 능가하는 새로운 지속적 모델 병합 프레임워크인 ODE-M 을 제안한다.

원저자: Lihong Lin, Haidong Kang

게시일 2026-05-20

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Lihong Lin, Haidong Kang

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

마스터 셰프가 완벽한 이탈리아 파스타 요리를 만드는 법을 익혔다고 상상해 보세요. 그다음 일본 스시 마스터인 두 번째 셰프를 고용합니다. 마지막으로 멕시코 타코 전문인 세 번째 셰프를 고용합니다.

문제:
인공지능 (AI) 세계에서는 종종 우리 마스터 셰프들처럼 많은 일을 잘하는'기초 모델 (foundation models)'을 갖게 됩니다. 새로운 작업이 등장할 때 (예: 스시 만드는 법 배우기), 우리는 보통 셰프 전체를 처음부터 다시 훈련시키거나 새로운 지식을 기존 지식 위에 억지로 주입해야 합니다.

이 논문은**지속적 모델 병합 (Continual Model Merging)**에 대해 다룹니다. 이는 이탈리아 셰프, 스시 셰프, 타코 셰프의 기술을 처음부터 다시 훈련시키지 않고도 세 가지 모두 완벽하게 수행할 수 있는'슈퍼 셰프'하나로 결합하려는 시도와 같습니다.

기존 방식 (점프 방법):
이전 방법들은 이탈리아 셰프의 뇌와 스시 셰프의 뇌를 스냅샷으로 찍어 단순히 평균 내는 방식으로 이러한 셰프들을 병합하려 했습니다.

결함: 이탈리아 셰프의 뇌가 계곡 (낮은 손실/우수한 성능) 에 있고, 스시 셰프의 뇌가 또 다른 계곡에 있다고 상상해 보세요. 두 지점을 단순히 직선으로 연결하면 그 사이에 가파르고 험한 산을 올라가야 할 수도 있습니다.
결과: AI 가 그 직선을 따라 이동하려 할 때'손실 장벽 (산)'에 부딪힙니다. 스시를 배우려다 산에 갇혀 파스타 만드는 법을 잊어버리게 됩니다. 이를**파괴적 망각 (catastrophic forgetting)**이라고 합니다. 셰프를 더 많이 추가할수록 슈퍼 셰프는 원래 기술을 더 많이 잊게 됩니다.

새로운 아이디어 (ODE 방법):
저자들은ODE-M(Ordinary Differential Equation-driven Merging, 상미분방정식 기반 병합)이라는 새로운 방식을 제안합니다. 한 셰프에서 다른 셰프로 점프하는 대신, 두 뇌를 연결하는연속적인 경로또는 매끄러운 도로를 상상합니다.

간단한 비유를 들어 그들이 어떻게 하는지 설명하겠습니다:

매끄러운 도로 (모드 연결성, Mode Connectivity):
이 논문은 셰프들이 서로 다르게 보이지만, 두뇌를 연결하는 숨겨진 매끄럽고 낮은 지대의 길이 존재하며 그 위에서는 둘 다 잘 요리할 수 있다고 가정합니다. 목표는 산 위를 가로지르는 직선이 아니라 이 도로를 찾는 것입니다.
속도 제한이 있는 GPS(속도장, Velocity Field):
저자들은 이탈리아 스타일에서 스시 스타일로 슈퍼 셰프를 안내하는 GPS 와 같은'속도장 (velocity field)'을 만듭니다.
- 문제: 때때로 GPS 는 차를 가파른 언덕 위로 몰아가려 합니다 (이는'손실'을 증가시키거나 요리 실력을 떨어뜨립니다).
- 해결책: 시스템이 실시간으로 지형을 확인합니다. 앞길이 언덕으로 올라가기 시작하면 (손실 증가), 해당 방향에'브레이크'또는'감쇠기'를 적용합니다. 망각을 유발하는 이동 부분을 늦추면서도 차가 새로운 기술을 향해 전진하도록 허용합니다.
정지 신호 (작동점, Operating Point):
항상 목적지 (새로운 셰프의 뇌) 까지 운전할 필요는 없습니다. 때로는 파스타 기술을 잃지 않으면서 스시 기술을 일부만 배우고 싶을 수도 있습니다.
- 시스템은 매끄러운 도로 위 어느 지점에서든 차를 멈출 수 있게 합니다.
- 새로운 작업이 매우 중요하면 더 멀리 운전합니다 (새로운 셰프에 더 가깝게).
- 기존 작업이 더 중요하면 더 일찍 멈춥니다 (기존 지식을 더 많이 유지).
- 이는'시간 스케줄 (time schedule)'로 제어되며, 이는 새로운 기술을 얼마나 흡수할지 대 기존 기술을 얼마나 유지할지 결정하는 다이얼 역할을 합니다.

왜 이것이 더 나은가요?

산 등반 불필요: 낮은 손실의 매끄러운 경로를 따라가므로 AI 는 기존 기술을 잊게 만드는'산'을 올라갈 필요가 없습니다.
제어: 사용자는 기존 지식을 깨뜨리지 않고 새로운 지식을 얼마나 추가할지 정확히 결정할 수 있는 다이얼을 제공합니다.
결과: 그들의 테스트 (자동차, 꽃, 교통 표지판과 같은 이미지를 인식하는 AI 모델 사용) 에서 이 방법은 이전 어떤 방법보다 모든 작업을 기억하는 데 더 뛰어난'슈퍼 셰프'를 만들었습니다. 많은 새로운 레시피를 하나씩 추가할 때도 파스타 기술을 유지하면서 스시를 배웠습니다.

요약:
이 논문은 두 개의 서로 다른 AI 뇌를 무뎌진 도구로 억지로 합쳐서 (무언가를 부수는) 대신, 매끄럽고 안내된 경로를 사용하여 병합합니다. 이는 AI 를 (무언가를 잊게 만드는)'위험 구역'우회하도록 조종하는 신중한 항해자처럼 작동하며, 사용자에게 기존 기술과 새로운 기술을 균형 있게 유지하기 위해 그 경로를 얼마나 더 진행할지 정확히 결정할 수 있게 합니다.

"Unlocking the Potential of Continual Model Merging: An ODE Perspective" 논문에 대한 상세한 기술적 요약입니다.

문제 정의

본 논문은 **지속적 모델 병합 (Continual Model Merging, CMM)**을 다룹니다. 이는 작업 적응형 모델이 순차적으로 도착하고, 원본 훈련 데이터에 접근할 수 없는 상태에서 단일 배포 모델을 새로운 기능을 통합하기 위해 반복적으로 업데이트해야 하는 설정입니다. 표준 모델 병합이 여러 모델을 동시에 결합하는 반면, CMM 은 **파괴적 망각 (catastrophic forgetting)**과 일관되지 않은 성능 할당이라는 도전에 직면해 있습니다.

기존 CMM 방법들은 일반적으로 각 병합을 고정된 대수적 연산 (예: 가중치 평균 또는 작업 벡터 산술) 으로 취급하여, 현재 모델 $\Psi_k$ 와 유입 모델 $\psi_{k+1}$ 을 직접 새로운 종점 $\Psi_{k+1}$ 로 매핑합니다. 저자들은 이러한 '종점만 (endpoint-only)'을 보는 관점이 두 가지 치명적인 결함을 안고 있다고 주장합니다:

경로 제어 부재: 매개변수 공간에서 취해진 궤적을 무시합니다. 업데이트가 고손실 영역 (손실 장벽) 을 통과할 경우, 결과 모델은 기능적 저하를 겪거나 이전에 학습된 행동과 간섭을 일으킬 수 있습니다.
유연하지 않은 안정성 - 가소성 트레이드오프: 역사적 지식을 얼마나 보존할지 대조적으로 새로운 작업 전문성을 얼마나 수용할지에 대한 제어가 제한적입니다. 이는 작업의 빈도나 중요도 가중치가 다른 이질적 유틸리티 시나리오에서 특히 문제가 됩니다. 고정된 규칙은 종종 용량을 적절히 할당하지 못해 시스템 전체 성능이 비최적화됩니다.

방법론: ODE 기반 병합 (ODE-M)

모드 연결성 (mode connectivity)—독립적으로 훈련된 모델들이 종종 저손실 경로로 연결될 수 있다는 관찰—에 영감을 받아, 저자들은 지속적 병합을 이산적인 점프가 아닌 매개변수 공간 내의 제어된 연속적 전환으로 보기를 제안합니다. 그들은 시간 의존성 속도장을 통해 연결 경로를 생성하는 ODE-M 프레임워크를 도입합니다.

1. 궤적 관점과 손실 장벽

선형 보간 대신, ODE-M 은 현재 모델 $\theta_0$ 에서 유입 모델 $\theta_1$ 까지의 연속적인 경로 $\theta(t)$ 를 구성합니다. 목표는 이 경로를 따라 손실 장벽을 최소화하는 것이며, 이는 종점 손실의 선형 보간에 비해 발생하는 최대 초과 손실로 정의됩니다.

2. 정류된 속도장

핵심 메커니즘은 **장벽 인식 속도장 (barrier-aware velocity field)**의 구축입니다.

기본장 (Base Field): 모델을 목표 방향으로 이끄는 기본 벡터장 $u_t(\theta) = \alpha(t)(\theta_1 - \theta)$ 가 정의됩니다.
기울기 분해: 각 단계에서 속도는 손실 기울기와 정렬된 성분 ( $u_\parallel$ ) 과 이에 수직인 성분 ( $u_\perp$ ) 으로 분해됩니다.
적응형 정류: 적응 인자 $\gamma(\theta, t) \in [0, 1]$ $γ (θ, t) \in [0, 1]$ 이 기울기 정렬 성분을 조절합니다:
- 목표로의 이동이 손실을 감소시키거나 유지하는 경우 ( $\langle g_t, u_t \rangle \le 0$ ), 전체 속도가 적용됩니다 ( $\gamma=1$ ).
- 이동이 손실을 증가시키는 경우 ( $\langle g_t, u_t \rangle > 0$ ), 손실 증가가 지정된 예산 ( $\Delta L = L(\theta_1) - L(\theta_0)$ ) 내에 머물도록 성분이 감쇠됩니다. 구체적으로, $\gamma = \text{clip}(\frac{\Delta L}{\langle g_t, u_t \rangle}, 0, 1)$ 입니다.
적분: 궤적은 작은 교정 세트 (calibration set) 에서 오일러 적분을 사용하여 정류된 속도장 $v_t(\theta) = u_\perp + \gamma u_\parallel$ 을 적분하여 생성됩니다.

3. 유틸리티 인식 시간 스케줄링

안정성 - 가소성 트레이드오프를 제어하기 위해, 이 방법은 전체 종점 ( $t=1$ ) 까지 적분하는 대신 궤적을 따라 작동 시간 (operating time) $t_k$ 를 선택합니다. 시간 $t_k$ 는 유입 작업의 상대적 유틸리티에 의해 결정됩니다:
$t_k = \frac{w_k}{\sum_{i=1}^k w_i}$
여기서 $w_k$ 는 $k$ 번째 작업의 유틸리티 가중치입니다. 균일한 설정에서는 이것이 $t_k = 1/k$ 로 축소되어, 스트림이 커짐에 따라 새로운 작업의 기여도가 자연스럽게 감소함으로써 더 많은 역사적 지식을 보존합니다.

주요 기여

궤적 공식화: 본 논문은 CMM 을 경로 탐색 문제로 재정의하여, 손실 장벽의 개념을 선형 보간에서 일반적인 연결 경로로 확장합니다.
장벽 인식 역학: 경량 1 차 피드백을 통해 손실 증가 운동을 조절하여 고손실 영역을 피하고 전체 재훈련을 필요로 하지 않는 정류된 속도장을 사용하는 새로운 ODE 기반 병합 전략을 제안합니다.
명시적 제어: 유틸리티 가중치에 기반하여 궤적을 따라 작동점을 선택함으로써, 보존된 역사적 지식과 유입 작업 전문성 사이의 균형을 맞추는 명시적 메커니즘을 제공합니다.

실험 결과

저자들은 FusionBench 스위트의 데이터셋을 사용하여 길이 8, 14, 20 의 작업 스트림에 걸쳐 **CLIP ViT 백본 (ViT-B/32, ViT-B/16, ViT-L/14)**에서 ODE-M 을 평가했습니다.

성능: ODE-M 은 평균 정확도 (ACC) 와 역전이 (BWT) 측면에서 강력한 베이스라인 (Continual Task Arithmetic, Continual Ties-Merging, OPCM 포함) 대비 **최고 수준의 성능 (state-of-the-art performance)**을 달성했습니다. 예를 들어, 8 개 작업이 있는 ViT-B/32 에서 ODE-M 은 OPCM 의 75.5 에서 79.6 으로 ACC 를 향상시켰습니다.
이질적 유틸리티: 비균일 작업 중요도 하에서 ODE-M 은 일관되게 가장 높은 유틸리티 가중 정확도 ( $ACC_w$ ) 를 달성하여, 균일한 매크로 평균에 최적화된 방법들보다 특정 작업 우선순위를 더 잘 최적화할 수 있음을 입증했습니다.
강건성: 제거 연구 (ablation studies) 는 이 방법이 교정 세트의 크기 (512 개의 샘플만으로도 잘 작동함) 와 수치적 적분 단계 크기에 대해 강건함을 보여주었습니다.
효율성: 병합당 계산 오버헤드는 실용적입니다 (예: ViT-B/32 의 경우 약 124 초). 이는 교정 세트에 대한 수치적 적분과 기울기 계산에 의해 지배되며, 전체 재훈련에 비해 무시할 수 있습니다.

의의 및 주장

본 논문은 ODE-M 이 고정된 대수적 업데이트에서 제어된 연속적 전환으로 패러다임을 전환함으로써 지속적 모델 병합의 잠재력을 unlocked 한다고 주장합니다. 손실 지형을 존중하는 경로를 명시적으로 구성하고 작업 유틸리티에 기반하여 적분 속도를 조절함으로써, ODE-M 은 망각을 효과적으로 완화하고 이질적인 작업 중요도를 처리합니다.

저자들은 이 작업을 더 확장 가능하고 제어 가능한 모델 맞춤화를 향한 한 걸음으로 위치시키며, 멀티 작업 시스템을 유지하는 데 필요한 엔지니어링 및 계산 오버헤드를 줄인다고 강조합니다. 그들은 기울기 계산을 위한 교정 세트 필요성과 현재 비전 분류 작업에 초점을 맞춘 점과 같은 한계를 인정하며, 향후 작업은 더 큰 언어 모델과 더 효율적인 적분 전략을 탐구할 것이라고 명시합니다.