🤖 machine learning

Fora: From Weight-Space to Function-Space Protection in Capability-Preserving Fine-Tuning

이 논문은 가중치 유래 서브스페이스가 아닌 활성화 유래 서브스페이스로 업데이트를 투영함으로써 미세 조정 중 모델의 능력을 보존하고, 기존 기술을 담당하는 특정 방향을 더욱 충실하게 격리 및 보호하는 함수 공간 보호 방법인 FORA를 소개한다.

원저자: Rui Zhou, Tianci Xie

게시일 2026-07-01

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Rui Zhou, Tianci Xie

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

Fora: 가중치 공간(Weight-Space)에서 함수 공간(Function-Space) 보호로

거대한 문제: 기존의 기술을 잊지 않고 새로운 기술 배우기

당신에게 이미 번역 전문가인 아주 똑똑한 학생(AI 모델)이 있다고 상상해 보세요. 이제 당신은 이 학생에게 수학 문제 풀기라는 새로운 기술을 가르치고 싶습니다.

기존 방식의 문제는, 수학을 배우도록 강요할 때 학생이 번역하는 법을 잊어버리기 시작한다는 점입니다. 이는 마치 피아노로 새로운 곡을 쓰려고 하는데, 손가락이 가장 좋아하는 옛날 노래를 연주할 때 쓰던 건반에서 자꾸 미끄러지는 것과 같습니다.

과학자들은 학생의 뇌에 "가드(guard)"를 설치함으로써 이 문제를 해결하려 노력해 왔습니다. 기존의 대부분의 방법은 뇌의 물리적 구조(가중치 행렬)를 보호하려고 했습니다. 그들은 "뇌에서 가장 크고 강력한 연결 부위는 건드리지 마라"라고 말했습니다.

이 논문의 통찰:
저자들은 "가장 큰 연결 부위"를 보호하는 것이 잘못된 전략이라고 주장합니다.

비유: 학생의 뇌가 거대한 도서관이라고 상상해 보세요. "가장 큰 연결 부위"는 서가에 있는 가장 인기 있는 책들입니다. 하지만 학생은 번역을 하기 위해 도서관의 특정적이고 조용한 구석(특정한 활성화 패턴)을 사용할 수도 있습니다. 만약 당신이 인기 있는 책들만 보호한다면, 번aterial적으로 번역이 일어나는 그 조용한 구석을 실수로 막아버리거나, 더 심하게는 수학 수업이 그 조용한 구석을 망쳐놓도록 내버려 둘 수도 있습니다.

논문은 다음과 같이 주장합니다: 가구(가중치)를 보호하지 말고, 활동(함수)을 보호하라.

해결책: "Fora" (함수 공간 직교 잔차 적응)

저자들은 Fora라는 새로운 방법을 만들었습니다. 작동 방식은 세 가지 간단한 단계로 나뉩니다.

1. "번역 구역" 매핑하기 (보정/Calibration)

수학을 가르치기 전에, 연구자들은 학생에게 정답(레이블) 없이 번역 과제를 수행하게 합니다. 그들은 번역하는 동안 뇌의 정확히 어느 부분이 빛나는지 관찰합니다.

비유: 그들은 학생에게 카메라를 설치하고, 학생이 프랑스어를 할 때 바닥의 정확히 어디를 밟는지 보여주는 빛나는 지도를 그립니다. 이것이 바로 **"함수 부분 공간(Function Subspace)"**입니다.

2. "출입 금지 구역" 만들기 (투영체/Projector)

무거운 가구(가중치)를 보호하는 대신, 그 빛나는 바닥 지도 주변에 방어막을 구축합니다.

비유: 그들은 수학 선생님에게 이렇게 말합니다: "수학을 방 안 어디에서든 가르쳐도 좋지만, 단, 저 빛나는 프랑스어 구역은 밟아서는 안 됩니다. 만약 당신이 그 특정 바닥 타일 위에 수학을 쓰려고 시도한다면, 당신의 펜은 튕겨 나갈 것입니다."
이것이 **오른쪽 투영체( $P_Q$ )**입니다. 이는 새로운 수학 수업이 학생이 번역에 사용하는 특정 패턴을 덮어쓰는 것을 차단합니다.

3. "특별한 통로" (스펙트럼 채널/Spectral Channel)

연구자들은 만약 번역 구역을 완전히 얼려버린다면(freeze), 학생이 전혀 발전할 수 없다는 사실을 깨달았습니다. 그래서 그들은 방어막 사이로 아주 좁고 작은 터널을 추가했습니다.

비유: "출입 금지 구역"을 관통하는 작고 강화된 유리관이 있다고 상상해 보세요. 학생은 이 관을 통해 번역 기술을 아주 미세하고 조심스럽게 조정할 수 있지만, 수학을 위한 공간을 만들기 위해 벽 전체를 부술 수는 없습니다.
이것이 스펙트럼 채널입니다. 이는 학생이 로봇이 되지 않도록 약간의 "가소성(plasticity, 유연성)"을 허용하면서도 주요 구조는 안전하게 유지합니다.

왜 기존 방법보다 나은가?

이 논문은 다른 방법들(가구 즉, 가중치를 보호하는 "가중치 공간 투영" 등)과 비교 테스트를 진행했습니다.

기존 방법 (가중치 공간): "큰 책들을 건드리지 마라."
- 결과: 번역이 "큰 책" 영역에서 일어나는 것이 아니라 "조용한 구석"에서 일어났기 때문에, 학생은 여전히 번역하는 법을 잊어버렸습니다.
새로운 방법 (Fora): "빛나는 프랑스어 지도를 밟지 마라."
- 결과: 학생은 번역 기술을 거의 완벽하게 유지하면서 수학을 완벽하게 배웠습니다.

쉬운 언어로 설명한 결과

연구자들은 Qwen3-1.7B라는 모델을 사용하여 세 가지 시나리오에서 테스트했습니다:

번역을 유지하며 논리(COGS) 배우기: 새로운 방법은 번역 기술을 거의 완벽하게 유지했지만, 다른 방법들은 번역 능력을 저하시켰습니다.
번역을 유지하며 수학(GSM8K) 배우기: 마찬가지로, 새로운 방법은 번역 기술을 지켜냈지만 다른 방법들은 기술이 표류하도록 내버려 두었습니다.
수학을 유지하며 번역 배우기: 상황을 뒤집었습니다. 번역을 가르치면서 수학 기술을 유지하려고 노력했습니다. 새로운 방법은 기존 방법들보다 수학 기술을 훨씬 더 잘 보존했습니다.

핵심 요약

이 논문의 결론은, AI의 기술을 보호하려면 가중치가 어디에서 무거운지(정적인 구조)를 보는 것이 아니라, 그 기술을 수행할 때 AI가 실제로 어디에서 활성화되는지(동적인 함수)를 보아야 한다는 것입니다.

하드웨어가 아닌 활동 주변에 방어막을 구축함으로써, 이미 알고 있는 것을 지우지 않고도 AI에게 새로운 것을 가르칠 수 있습니다.

요약하자면: 도서관의 선반을 지키지 말고, 독자가 좋아하는 책을 찾기 위해 걷는 특정한 경로를 지키십시오.

기술 요약: Fora: 가중치 공간에서 함수 공간으로의 능력 보존형 미세 조정(Capability-Preserving Fine-Tuning)

1. 문제 정의

대규모 언어 모델(LLM)의 전체 미세 조정(Full fine-tuning)은 새로운 태스크에 적응하기 위한 높은 표현력을 제공하지만, 심각한 부채를 안고 있습니다. 즉, 제약 없는 그래디언트가 모델이 이미 보유한 능력의 기능적 경로(functional pathways)를 덮어쓸 수 있다는 점입니다. 정규화(예: EWC, L2-SP)부터 증류(distillation) 및 그래디언트 투영(gradient projection)에 이르는 기존의 완화 전략들은 **대리 지표(proxies)**를 통해 능력을 보호합니다. 이러한 대리 지표에는 파라미터 거리, 중요도 페널티, 출력 매칭, 또는 가중치 행렬의 주요 특이 방향( $V_1$ from SVD) 등이 포함됩니다.

본 논문은 이러한 대리 지표들이 다음과 같은 핵심적인 질문에 답하지 못한다고 주장합니다: 보존하고자 하는 능력이 실제로 어떤 활성화 방향(activation directions)에 의존하는가? 사전 학습된 가중치 행렬( $W_0$ )의 주요 특이 벡터들은 가중치가 큰 곳(학습된 모든 능력의 총합)을 요약할 뿐이며, 이는 특정 능력(예: 번역은 중간 정도의 특이 성분이나 대각 방향에 의존할 수 있음)에 필요한 구체적인 활성화 패턴과 일치하지 않을 수 있습니다. 결과적으로 $V_1$ 을 보호하는 것은 능력과 어긋난 부분 공간(subspace)을 제약하게 되어, 최적의 보존을 저해하는 부적절한 결과를 초래합니다.

2. 방법론: Fora (함수 공간 직교 잔차 적응)

제안된 방법인 Fora는 능력 보존을 **함수 공간 보호(function-space protection)**로 재정의합니다. 가중치의 기하학적 구조를 보호하는 대신, Fora는 해당 능력이 유도하는 활성화 부분 공간(activation subspace)을 보호합니다.

핵심 메커니즘:

함수 공간 투영 ( $P_Q$ ):
- 보존할 능력으로부터 얻은 레이블 없는 캘리브레이션 입력( $D_{pres}$ )을 사용하여 각 레이어의 입력 활성화를 수집합니다.
- 이 활성화들의 공분산(covariance)을 계산하고 상위 $k$ 개의 고유 벡터( $Q$ )를 추출하여, 능력의 기능적 시그니처를 나타내는 주성분 방향을 도출합니다.
- 우측 투영기(right projector) $P_Q = I - QQ^\top$ 를 형성합니다. 이 투영기는 업데이트가 능력의 기능 방향을 "읽는(acting upon)" 것을 차단합니다.
가중치 공간 투영 ( $P_U$ ):
- 사전 학습된 가중치 $W_0 = U\Sigma V^\top$ 의 SVD로부터 유도된 좌측 투영기 $P_U = I - U_1U_1^\top$ 를 구축하여, 원래 가중치의 주요 출력 방향으로의 쓰기(writes)를 차단합니다.
업데이트 규칙:
전체 랭크 업데이트 $\Delta W$ 는 두 개의 상호 보완적인 채널로 분해됩니다:
$\Delta W_{\text{Fora}} = \underbrace{P_U M P_Q}_{\text{고용량, 기능 보호}} + \underbrace{U_2 D_\delta V_2^\top}_{\text{제어된 스펙트럼 채널}}$
- 고용량 브랜치 ( $P_U M P_Q$ ): 밀집 행렬(dense matrix) $M$ 은 능력의 입력 방향( $P_Q$ )과 가중치의 지배적인 출력 방향( $P_U$ )을 제외한 모든 방향에 대해 완전한 표현력을 유지합니다.
- 스펙트럼 채널 ( $U_2 D_\delta V_2^\top$ ): $W_0$ 의 잔여 특이값(residual singular values)에서 유도된 좁은 저차원 자유도 채널입니다. 결정적으로, 이 채널은 보호된 부분 공간( $\text{span}(Q)$ )에 반응할 수 있는 유일한 구성 요소입니다. 이는 제한된 가소성(bounded plasticity)을 제공하여, 능력을 완전히 동결하지 않으면서도 정밀하게 조정된 적응을 가능하게 합니다.
저차원 확장:
본 방법은 밀집 행렬 $M$ 을 저차원 곱 $\frac{\alpha}{r} BA$ 로 대체함으로써 파라미터 효율적 미세 조정(PEFT)으로 확장됩니다. 이를 Fora-LR이라 합니다.

3. 주요 기여

보존의 재정의: 본 논문은 능력 보존이 가중치 유래의 특이 방향( $V_1$ )보다 능력에 의해 유도된 **활성화 부분 공간( $Q$ )**을 보호할 때 가장 효과적임을 제안합니다.
구조적 설계 (Fora): 보호와 가소성을 분리하는 구조적으로 제약된 전체 랭크 업데이트를 도입합니다. 고용량 브랜치는 구조적으로 능력에 민감한 방향을 읽는 것이 차단되며, 전용 스펙트럼 채널이 해당 방향에 대한 제어된 적응을 제공합니다.
메커니즘적 통찰: 통제된 절제 실험(ablations)을 통해, 성능 향상이 단순히 투영을 수행했기 때문이 아니라, 투영의 소스(source)(가중치 유래 vs 기능 유래)로부터 온다는 것을 입증했습니다.
실증적 검증: Qwen3-1.7B를 대상으로 세 가지 설정에서 실험을 진행하여, 가중치 공간 투영 및 표준 정규화보다 일관되게 우수한 성능을 보여주었습니다.

4. 실험 결과

실험은 Qwen3-1.7B를 사용하여 세 가지 별도 설정에서 수행되었습니다:

Trans $\to$ COGS: 번역 능력을 보존하면서 구성적 의미론적 파싱(compositional semantic parsing) 학습.
Trans $\to$ GSM8K: 번역 능력을 보존하면서 초등 수학(grade-school math) 학습.
Math $\to$ Trans: 수학 추론 능력을 보존하면서 번역 학습.

주요 발견:

우수한 보존 능력: Fora는 원래 능력을 보존하는 데 있어 가중치 공간 투영( $P_V$ $P_{V}$ ), 정규화(EWC, L2-SP), 그리고 증류(LwF)보다 일관되게 뛰어난 성능을 보였습니다.
- 예시: Trans $\to$ COGS에서 Fora는 번역 퍼플렉시티(PPL)를 4.39(베이스라인 4.35에 근접)로 유지한 반면, 가중치 공간 투영은 4.86(보호되지 않은 전체 미세 조정보다 나쁨)으로 저하되었습니다.
- 예시: Math $\to$ Trans에서 Fora는 GSM8K 정확도를 베이스라인 대비 0.86 포인트 이내로 유지한 반면, 전체 미세 조정은 2.27 포인트 하락했습니다.
새로운 태스크 성능: Fora는 새로운 태스크에서도 경쟁력 있거나 더 우수한 성능을 달ей합니다. Trans $\to$ GSM8K 설정에서 Fora는 모든 방법 중 가장 높은 GSM8K Exact Match(46.87%)를 기록했습니다.
절제 실험 통찰:
- 투영 소스: 우측 투영기를 $P_V$ (가중치 유래)에서 $P_Q$ (기능 유래)로 교체하는 것이 성능 향상의 결정적 요인이었습니다.
- 스펙트럼 채널: 스펙트럼 채널( $\delta$ )을 추가하면 보존 능력을 해치지 않으면서도 새로운 태스크 성능에서 작지만 일관된 이득(예: +0.21 GSM8K EM)을 제공하여, "제한된 가소성" 설계를 검증했습니다.
저차원 일반화: Fora-LR 변형은 보호 메커니즘이 파라미터 효율적 설정에서도 전이됨을 보여주었으며, 보존 지표에서 가중치 공간 LoRA 변형(OPLoRA)보다 우수한 성능을 보였습니다.

5. 의의 및 주장

본 논문은 활성화 유래 기능 부분 공간이 가중치 유래 특이 방향보다 더 충실한 보호 대상임을 주장합니다. 보호 대상을 가중치 행렬의 기하학적 구조에서 실제 능력의 활성화 흔적(activation footprint)으로 전환함으로써, Fora는 기존 가중치 공간 투영 방법들이 겪는 불일치 문제를 해결합니다.

저자들은 이것이 구조적 솔루션임을 강조합니다: 보호는 최적화 궤적이나 특정 그래디언트 상태에 의존하는 것이 아니라 파라미터화( $P_U M P_Q$ )에 의해 보장됩니다. 또한, 이 방법은 레이블 없는 캘리브레이션 데이터를 필요로 하지만, 훈련 중에 태스크 데이터나 레이블을 저장할 필요는 없으므로 리플레이 기반 접근 방식과 차별화됩니다. 결론적으로, 함수 공간 보호는 가소성과 안정성 사이의 균형을 맞추는 원칙적인 방법을 제공하며, 새로운 태스크 학습에 대한 최소한의 트레이드오프를 유지하면서 강력한 보존을 달yr합니다.