🤖 machine learning

EulerLoRA: Rank-Driven Jump Dynamics for Calibrated Parameter-Efficient Fine-Tuning

EulerLoRA는 공유된 저차원 어댑터를 따라 구조적 변형을 샘플링함으로써 예측 불확실성을 생성하는 Low-Rank Adaptation의 확률적 확장으로, 훈련 가능한 파라미터 수를 크게 줄이면서도 앙상블 기법과 대등한 성능을 달성합니다.

원저자: Srinivas Anumasa, Dianbo Liu

게시일 2026-08-04

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Srinivas Anumasa, Dianbo Liu

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 로봇에게 고양이, 개, 자동차를 인식하는 법을 가르치려 한다고 상상해 보세요. 당신에게는 이미 세상에 대해 많은 것을 알고 있는 거대하고 사전 훈련된 로봇의 뇌가 있지만, 새로운 작업을 할 때마다 이 뇌 전체를 처음부터 다시 훈련시키기에는 너무 큽니다. 대신, 과학자들은 "저차원 적응(Low-Rank Adaptation, LoRA)"이라는 영리한 기술을 사용합니다. LoRA를 로봇에게 부착하는 작고 가벼운 보조 바퀴라고 생각해보세요. 이 바퀴는 자전거 본체에 비하면 아주 작지만, 엔진을 새로 만들 필요 없이 로봇이 새로운 작업을 배울 수 있도록 충분히 안내해 줍니다.

하지만 문제가 하나 있습니다. 일반적인 보조 바퀴는 경직되어 있습니다. 즉, 로봇에게 세상을 보는 단 하나의 고정된 방식만을 제공한다는 것입니다. 만약 로봇이 확신이 서지 않더라도, 로봇은 자신이 확신이 없다는 사실을 알지 못합니다. 설령 틀렸더라도 높은 자신감을 가지고 답을 내놓을 뿐입니다. 현실 세계에서는 정답을 아는 것만큼이나, 자신이 무엇을 모르는지를 아는 것도 중요합니다. 여기서 새로운 연구가 등장하며 큰 질문을 던집니다. "우리가 이 작은 보조 바퀴를 아주 살짝 흔들거리게 만들어 로봇이 다양한 가능성을 탐색할 수 있게 할 수 있을까? 그래서 매번 새로운 추측을 할 때마다 새로운 바퀴를 통째로 만드는 대신, '꽤 확신하지만, 한 번 더 확인해 보는 게 좋겠어'라고 말할 수 있게 할 수 있을까?"

이 논문은 EulerLoRA라는 새로운 방법을 소개하며, 그 경직된 보조 바퀴를 역동적이고 튀어 오르는 시스템으로 바꿉니다. EulerLoRA는 단순히 하나의 고정된 조정 값을 학습하는 대신, 로봇의 학습 과정을 아주 빠르고 미세한 단계들로 이루어진 "당신의 선택에 따라 결말이 달라지는 게임(choose your own adventure)"처럼 취급합니다. 로봇이 계단을 올라가고 있다고 상상해 보세요. 표준 LoRA는 로봇에게 하나의 크고 고정된 발걸음을 떼라고 말합니다. 하지만 EulerLoRA는 로봇에게 일련의 작은 발걸음을 떼도록 지시하며, 각 미세한 도약마다 이미 학습한 특정 경로를 따라 왼쪽이나 오른쪽으로 약간씩 기울어지기로 무작위로 결정하게 합니다.

여기에는 마법 같은 기술이 숨어 있습니다. 로봇이 흔들거리며 머릿속에서 다양한 경로를 걷고 있음에도 불구하고, 그 모든 흔들림을 평균 내면 로봇은 정확히 표준적인 경직된 로봇이 갔을 곳에 도달하게 됩니다. 이는 로봇이 여전히 작업을 완벽하게 수행하면서도, 동일한 답변에 대한 여러 가지 버전을 생성할 수 있는 "정신적 샌드박스(mental sandbox)"를 갖게 된다는 것을 의미합니다. 이 다양한 버전들이 얼마나 일치하거나 불일치하는지를 살펴봄으로써, 로봇은 자신의 확신도를 파악할 수 있습니다. 만약 모든 흔들리는 경로가 같은 지점으로 모인다면, 로봇은 매우 확신하는 것입니다. 만약 경로들이 사방으로 흩어진다면, 로봇은 주의를 기울여야 한다는 것을 알게 됩니다.

연구진은 꽃의 종류를 식별하거나 특이한 패턴을 포착하는 것과 같은 여러 이미지 인식 과제에서 이 방법을 테스트했습니다. 그들은 EulerLoRA가 믿을 수 없을 정도로 효율적이라는 것을 발견했습니다. 이러한 "불확실성 인식" 능력을 갖추기 위해 다른 방법들은 보통 16개의 별도 훈련 세트를 필요로 하지만(이는 많은 메모리를 차지합니다), EulerLoRA는 동일한 작업을 수행하는 데 단 두 개의 보조 바퀴 세트만 필요하며, 때로는 결과가 더 좋습니다. 구체적으로, rank가 20인 두 개의 어댑터만을 사용하여 EulerLoRA는 rank가 8인 16개의 어댑터로 구성된 거대한 앙상블 모델과 대등하거나 더 나은 결과를 달성했습니다.

수치상으로 보면, 이 논문은 EulerLoラー가 약 3백만 개의 훈련 가능한 파라미터를 사용하는 반면, 경쟁 상대인 전통적인 "앙상블" 방식은 약 1천만 개의 파라미터를 사용한다는 것을 보여줍니다. 이는 필요한 파라미터 수가 약 69% 감소했음을 의미합니다. CIFAR-10 및 CIFAR-100과 같은 표준 이미지 데이터셋에 대해 테스트했을 때, 이 방법은 정답을 맞히는 정확도 면에서 거대하고 무거운 방법들과 대등할 수 있었습니다. 하지만 진짜 승리는 "교정(calibration)" 능력, 즉 자신의 확신도를 올바르게 판단하는 능력이었습니다. 연구진이 로봇에게 "흔들리는" 모드(확률적 추론, stochastic inference)를 사용하게 했을 때, 로봇은 이전에 본 적 없는 것을 보고 있을 때(분포 외 데이터 탐지, out-of-distribution detection) 훨씬 더 잘 잡아냈습니다. 이는 표준적인 경직된 모델들이 흔히 실패하는 작업입니다.

이 연구는 스스로를 인식할 줄 아는 똑똑한 AI를 얻기 위해 별도의 모델 군단을 구축할 필요가 없다는 점을 시사합니다. 대신, 구조화된 무작위성과 함께 춤을 추도록 단 하나의 가볍고 날렵한 모델을 가르칠 수 있습니다. 이 춤은 모델이 다양한 가능성을 탐색하고 자신의 한계를 이해할 수 있게 해주며, 이 모든 과정에서 훨씬 적은 컴퓨팅 자원을 사용합니다. 연구진은 "흔들리는" 버전이 불확실성을 포착하는 데는 훌륭하지만, "안정적인" 버전(로봇이 흔들림을 멈추고 곧게 걷는 버전)이 가장 높은 정확도를 얻는 데는 실제로 더 좋다는 것을 발견했습니다. 이는 동일한 훈련된 모델이 두 가지 방식으로 사용될 수 있음을 의미합니다. 즉, 직선적인 답이 필요할 때는 초정밀 예측기로, 신뢰할 수 있는 답인지 알아야 할 때는 신중하고 자기 인식이 뛰어난 탐정으로 사용될 수 있습니다.

기술 요약: EulerLoRA

문제 정의

저계수 적응(Low-Rank Adaptation, LoRA)은 사전 학습된 대규모 모델의 매개변수 효율적 미세 조정(PEFT)을 위한 표준이 되었으나, 단일 결정론적 모델만을 생성한다는 결정적인 한계를 가지고 있다. 표준 LoRA는 각 적응된 가중치에 대해 고정된 저계수 보정 $\Delta W = BA$ 를 학습하며, 이는 학습 후 결정론적인 업데이트를 생성한다. 결과적으로, 이는 인식론적 불확실성(epistemic uncertainty)을 표현하거나 사후 주변화(posterior marginalization)를 수행할 수 있는 직접적인 메커니즘이 부족하다. 현대의 신경망은 분포 변화(distribution shift) 하에서 종종 오보정(miscalibration) 및 불확실성 추정 저하 문제를 겪지만, 표준 LoRA는 별도의 앙상블 방법(각 앙상블 멤버를 위한 개별 어댑터 학습)이나 추가적인 파라미터 또는 추론 오버헤드를 유발하는 복잡한 베이지안 근사(예: 라플라스 근사 또는 변분 분포)에 의존하지 않고는 이러한 기능을 내재적으로 제공할 수 없다.

방법론

저자들은 공유된 저계수 어댑터 세트로부터 여러 예측 궤적(predictive trajectories)을 생성하는 LoRA의 확률적 확장판인 EulerLoRA를 제안한다. 이 방법은 신경망을 심층 시스템(dynamical systems)으로 해석하여, 네트워크 깊이를 이산 시간으로 보고 레이어 업데이트를 상미분 방정식(ODE)의 오일러 이산화(Euler discretization)로 간주하는 관점에 기초한다.

핵심 메커니즘: 보상된 계수 기반 역학 (Compensated Rank-Driven Dynamics)

서로 다른 예측 실현을 위해 독립적인 어댑터를 학습하는 대신, EulerLoRA는 공유된 LoRA 업데이트의 rank-one 방향을 따라 구조화된 확률성을 도입한다.

분해(Decomposition): LoRA 보정 $B_\ell A_\ell C_\ell$ 은 $r$ 개의 rank-one 성분 $\sum_{k=1}^r b_{\ell,k} a_{\ell,k}^\top C_\ell$ 으로 분해된다.
내부 상태 진화(Internal State Evolution): 전체 은닉 상태를 진화시키는 대신(이는 동결된 사전 학습 가중치를 반복적으로 적용하게 됨), EulerLoRA는 $T$ 번의 내부 단계 동안 가산 출력 경로(additive output path)를 따라서만 진화하는 보조 내부 상태 $Y_{\ell,s}$ 를 도입한다.
확률적 계수 구성(Stochastic Rank Configurations): 각 내부 단계 $s$ 에서, 활성 계수 $K_{\ell,s}$ 와 계수 인덱스의 부분 집합 $S_{\ell,s}$ 가 샘플링된다. rank-one 방향에 대한 계수는 $M_{\ell,s,k} = \frac{r}{K_{\ell,s}} \mathbb{1}\{k \in S_{\ell,s}\}$ 에 의해 스케일링된다. 이는 임의의 단계에서 일부 방향만이 활성화되더라도 기대 계수가 1로 유지되도록 보장한다.
보상(Compensation): 이러한 샘플링된 업데이트를 직접 누적하면 Lo la 기여도가 단계 수 $T$ 에 따라 스케일링되는 문제가 발생한다. 이를 방지하기 위해, 저자들은 **보상된 역학(compensated dynamics)**을 도출하였다. 결정론적 LoRA 변환은 오일러 단계 크기 $\Delta t = 1/T$ 에 의해 스케일링되는 반면, 중심화된 확률적 변동(평균으로부터의 편차)은 $\sqrt{\Delta t}$ 에 의해 스케일링된다.
업데이트 규칙은 다음과 같다:
$Y_{\ell,s+1} = Y_{\ell,s} + \Delta t (W^0_{O,\ell}C_\ell + B_\ell A_\ell C_\ell) + \sigma \sqrt{\Delta t} \sum_{k=1}^r (M_{\ell,s,k} - 1) b_{\ell,k} a_{\ell,k}^\top C_\ell$
여기서 $(M_{\ell,s,k} - 1)$ 은 평균이 0인 변동을 나타낸다.

추론 모드

확률적 추론(Stochastic Inference): 순방향 패스(forward pass) 동안 서로 다른 계수 구성을 샘플링하여 여러 궤적을 생성한다. 이들은 (예를 들어 평균화를 통해) 결합되어 묵시적 몬테카를로 앙상블을 형성하고 불확실성 추정을 수행한다.
결정론적 추론(Deterministic Inference): 모든 단계에서 $K_{\ell,s} = r$ 로 설정하여(모든 계수를 활성화) 확률적 항 $(M_{\ell,s,k} - 1)$ 을 제거한다. 이 경우 모델은 정확한 표준 결정론적 LoRA 변환을 회복하며, 동일한 학습된 가중치가 불확실성 추정 없이 고정밀 예측기로 기능할 수 있게 한다.

주요 기여

확률적 정식화: 저계수 보정의 rank-one 성분을 사용하여 유한 단계의 rank-driven 역학을 위한 구조화된 방향을 정의하는 EulerLoRA를 도입하였다.
평균 보존 구성: 결정론적 LoRA 변환과 평균이 0인 확률적 계수 변동을 분리하는 도출 과정을 제시하였다. 이는 내부 단계 수 $T$ 와 무관하게 기대 종단 상태(expected terminal state)가 표준 LoRA를 정확히 회복하도록 보장한다.
예측과 매개변수의 분리: 공유된 파라미터로부터 여러 예측 궤적을 생성할 수 있게 하여, 몬테카를로 예측 횟수와 독립적으로 학습된 어댑터의 수를 분리하였다.
이중 모드 유용성: 하나의 학습된 모델이 결정론적 추론(최고 정확도용)과 확률적 추론(교정 및 불확실성용)을 모두 지원하여, 서로 다른 추론 모드를 위한 별도의 학습 실행이 필요하지 않게 한다.

실험 결과

EulerLoRA는 분류를 위해 CIFAR-10, CIFAR-100, HAM10000에서, 그리고 OOD(Out-of-Distribution) 탐지를 위해 SVHN(CIFAR-10을 in-distribution으로 사용)에서 평가되었다.

매개변수 효율성: EulerLoRA는 두 개의 rank-20 어댑터(약 3백만 개의 학습 가능한 파라미터)를 사용한다. 이는 16개의 rank-8 어댑터(약 1천만 개의 파라미터)를 사용하는 강력한 LoRA-Ensemble 베이스라인과 비교된다. EulerLoRA는 약 69% 적은 학습 가능한 어댑터 파라미터를 사용하면서도 대등하거나 더 우수한 성능을 달ert한다.
분류 성능:
- CIFAR-10에서, 결정론적 EulerLoRA (2개 어댑터)는 96.10% 정확도를 달성하여 16-어댑터 LoRA-Ensemble (95.9%) 및 재현된 2-어댑터 LoRA-Ensemble (95.43%)을 능가했다.
- HAM10000에서, 결정론적 EulerLoRA는 89.6% 정확도를 달성하여 16-어댑터 LoRA-Ensemble (88.0%)을 앞질렀다.
- CIFAR-100에서, 결정론적 EulerLoRA는 최상의 macro-F1 (82.5%)과 일치하는 82.6%의 정확도를 기록하며 16-어댑터 앙상블과 대등한 성능을 보였다.
교정 및 불확실성:
- 교정(Calibration): 확률적 추론은 기대 교정 오차(ECE)를 일관되게 개선했다. HAM10000에서 확률적 EulerLoRA는 0.021의 ECE를 달성하여, 16-어댑터 앙상블의 0.037보다 현저히 나은 성능을 보였다.
- OOD 탐지: 확률적 추론이 최상의 OOD 분리 성능을 제공했다. SVHN에서 확률적 EulerLoRA (2개 어댑터)는 95.22%의 AUROC와 37.42%의 FPR@95TPR을 달성하여, 재현된 2-어댑터 LoRA-Ensemble (FPR@95TPR: 45.18%)을 능가했다.
상호 보완적 이점: 결과는 결정론적 추론이 일반적으로 가장 강력한 예측 정확도와 적절한 점수(proper scoring)를 제공하는 반면, 확률적 추론은 교정 및 OOD 탐지에서 보완적인 이득을 제공함을 입증한다.

의의

본 논문은 EulerLoRA가 각 앙상블 멤버를 위해 별도의 모델을 학습시키지 않고도, 적은 수의 공유 어댑터로부터 유용한 예측 다양성과 교정된 불확실성 추정치를 얻을 수 있음을 보여준다고 주장한다. rank-driven jump dynamics를 활용함으로써, 이 방법은 훨씬 더 큰 규모의 어댑터 앙상블의 예측 이점을 활용하면서도 약 69% 적은 학습 가능한 파라미터를 사용한다. 이는 값비싼 앙상블이나 복잡한 베이지안 근사에 의존하지 않고도 매개변수 효율적 미세 조정에서의 효율적인 불확실성 정량화를 위한 경로를 제시한다.