기술 요약: GEMS - LLM의 다중 의미론적 중첩을 가능하게 하는 기하학적 제약 (Geometric Constraints Enable Multi-Semantic Superposition in LLMs)

1. 문제 정의

활성화 스티어링(Activation steering)은 중간 은닉 상태(hidden states)에 벡터를 주입함으로써 재학습 없이 추론 시점에 대규모 언어 모델(LLM)의 행동을 수정하는 방식이다. 활성화 가산(Activation Addition, ActAdd)과 같은 기존 방식은 단일 의미 속성(예: 진실성 또는 안전성)을 제어하는 데는 성공하지만, 여러 의미 방향을 동시에 주입하려고 할 시도할 경우 치명적으로 실패한다. 제약 조건이 없으면 여러 벡터의 중첩은 "다방향 붕괴(multi-directional collapse)"로 이어져, 모델의 출력이 반복적이고 무의미하거나 일관성이 없는 텍스트로 저하된다.

기존 연구들은 학습 의존적인 방법(예: 투영 학습 또는 정렬 목적 함수 최적화)이나 단일 방향에 대한 강도 관리를 통해 이를 해결하려 노력했다. 그러나 병렬적인 다중 의미 제어를 위한 훈련이 필요 없는(training-free) 솔루션은 여전히 찾아보기 어려웠다. 본 논문은 이러한 붕괴가 활성화 스티어링 자체의 내재적 한계가 아니라, 기하학적 제약을 통해 해결할 수 있는 두 가지 서로 독립적으로 작용하는 실패 모드의 결과라고 상정한다.

2. 방법론: GEMS

저자들은 10개 이상의 연속된 레이어에 걸쳐 여러 의미 방향을 병렬적으로 주입할 수 있게 하는 훈련 불필요 방식인 GEMS(Geometry-based Expert Multi-Steering)를 제안한다. GEMS는 식별된 실패 모드를 순전파(forward pass) 중에 적용되는 특정 기하학적 제약으로 매핑하여 작동한다.

2.1 실패 모드 진단

Qwen3.5-4B-Base에 대한 진단 분석을 통해, 저자들은 다방향 붕괴를 두 가지 원인으로 분해한다:

1. 분포 편차(Distributional Deviation): 가산적 섭동(additive perturbations)이 레이어를 거치며 노름(norm) 측면에서 누적되어, 활성화를 훈련 분포 밖으로 밀어낸다. 이는 잔차 스트림(residual stream) 노름의 급증과 토큰 확률 분포의 평탄화(문맥 제어 능력 상실)로 나타난다.
2. 방향 간섭(Directional Interference): 여러 비직교(non-orthogonal) 의미 벡터가 중첩될 때, 이들의 공유 성분은 축적되는 반면 고유 성분은 억제된다. 이는 의도된 방향과의 정렬이 단일 벡터 주입 시에 비해 현저히 저하되는 상호 감쇄(mutual dampening) 현상을 초래한다.

2.2 기하학적 제약

GEMS는 세 가지 주요 메커니즘을 통해 이러한 문제들을 해결한다:

• 노름 보존 가중 중첩(Norm-Preserving Weighted Superposition): 분포 편차를 방지하기 위해, GEMS는 엄격한 노름 제약을 부과한다. 스티어링된 활성화는 원래의 어텐션 방향과 직교화된 전문가 벡터들의 가중 조합으로 구성되며, 이때 제곱 가중치의 합은 1($w_{base}^2 + \sum w_i^2 = 1$)이 된다. 이는 각 레이어에서의 출력 노름이 베이스라인과 동일하게 유지되도록 하여 노름 누적을 방지한다.
• 실시간 직교화(Real-Time Orthogonalization): 방향 간 간섭을 방지하기 위해, GEMS는 각 훅 레이어(hook layer)에서 그람-슈미트(Gram-Schmidt) 과정을 적용한다. 전문가 벡터들은 현재의 잔차 스트림 방향 및 이전에 처리된 모든 전문가 벡터의 직교 보공간(orthogonal complement) 위로 투영된다. 이를 통해 각 주입된 방향이 독자성을 유지하고 서로를 상쇄하지 않도록 보장한다.
• 표적 주입(oproj) 및 가우시안 엔벨로프(Gaussian Envelope):
  • 주입 지점: 개입은 어텐션 출력 투영($\text{oproj}$)에 특정하여 적용되며, MLP 경로(사실적 지식을 인코딩함)는 건드리지 않는다. 전체 레이어 출력에 주입하는 것은 사실적 경로를 오염시키고 즉각적인 붕괴를 일으킨다.
  • 강도 조절: 가우시안 엔벨로프는 레이어 전반에 걸쳐 개입 강도를 조절하며, 의미 표현이 가장 유연한 중간 레이어에서 정점을 찍고 경계 부분에서 감쇠한다. 또한, 모델의 기능적 역할이 변하는 딥 엔드(deep end) 구간에서는 코사인 감쇠(cosine decay)를 추가로 적용한다.

3. 주요 기여

1. 붕괴의 분해: 본 논문은 다방향 스티어링 붕괴가 분포 편차(노름 불안정성)와 방향 간 간섭(분리 불가능성)이라는 두 가지 독립적인 원인에서 발생함을 식별하였다. 이 분해 과정은 모든 훈련 불필요 다방향 개입을 위한 필수적인 설계 제약을 정의한다.
2. GEMS 프레임워크: 저자들은 모델 가중치를 수정하거나 최적화 단계를 도입하지 않고도 여러 의미 방향을 병렬적으로 주입할 수 있는 방법을 제시한다. 이는 노름 보존과 직교화를 선결 조건으로 한다.
3. 인과적 검증: 구성 요소 절제 실험(ablation)과 레이어 수준의 진단 프로브를 통해, 저자들은 각 제약의 인과적 역할을 격리하였다. 노름 보존이나 주입 지점을 위반하면 즉각적인 붕괴가 발생하며, 직교화가 없으면 의미론적 표류(semantic drift)와 전문가 구별 능력 상실이 발생함을 입증하였다.

4. 실험 결과

실험은 주로 Qwen3.5-4B (Base 및 Instruct)를 대상으로 수행되었으며, 3B에서 31B에 이르는 모델들을 통해 교차 아키텍처 검증을 진행하였다.

• GSM8K (수학적 추론): 수학적 추론 작업에 세 가지 비수학적 방향(공감, 책임감, 미니멀리즘)을 동시에 주입했을 때, 정확도를 98% 유지하였다(베이스라인 92% 대비). 반면, 제약이 없는 ActAdd는 **4%**로 붕괴되었다.
• Wikitext-2 (언어 모델링): 동일한 다방향 주입 시 퍼플렉시티(PPL) 증가율은 단 **2.2%**였다. 제약이 없는 ActAdd는 PPL이 약 1,700배 증가했다.
• 질적 스티어링: PR 위기 및 트롤리 딜레마 시나리오에서, GEMS는 여러 의미적 입장(예: 공감 + 책임감 + 미니멀리즘)을 문법적 일관성과 함께 성공적으로 융합한 출력을 생성하였다. 제약이 없는 방식은 반복적이고 무의미한 콘텐츠를 생성했다.
• 교차 아키텍처 전이: Llama-3.2-3B, Qwen3.6-27B, Gemma-4-31B에 대한 질적 테스트 결과, 기하학적 제약이 모델 불가지론적(model-agnostic) 특성상 작동하여 적절한 파라미터 매핑을 통해 성공적으로 전이됨을 보여주었다.

절제 실험 결과:

• 노름 보존 및 주 injection 지점: 이를 위반할 경우(예: 전체 레이어에 주입하거나 노름 제약을 무시할 경우) 즉각적인 의미 붕괴(정확도 4%)가 발생한다.
• 직교화: 이 제약을 제거하면 문법적 일관성은 유지되지만, 지배적인 전문가 방향이 다른 방향들을 압도하여 출력이 특정 의미를 잃게 되는 "의미론적 표류"가 발생한다.
• 가우시ian 엔벨로프: 이를 제거하면 과장된 추상화로 향하는 완만한 서사적 표류가 발생하여, 경계 섭동을 부드럽게 만드는 역할을 확인하였다.

5. 의의 및 주장

본 논문은 순수한 순전파 기하학적 제약을 통해 훈련 불필요한 다중 의미론적 중첩이 가능하다고 주장하며, 이는 다방향 활성화 스티어링이 근본적으로 붕괴한다는 가설에 도전한다.

• 구조적 통찰: 본 연구는 문제를 능력의 결여가 아닌 기하학적 제약의 결여로 재정의한다. 이는 개입이 잔차 스트림의 노름과 직교성을 존중한다면 LLM의 표현 공간이 중첩을 지원할 수 있음을 입증한다.
• 실용적 유용성: GEMS는 모델 재학습이나 아키텍처 수정 없이도 여러 행동 속성(예: 사실적 정확성, 안전성, 스타일)에 대한 동시 제어를 가능하게 한다.
• 한계점: 저자들은 GEMS가 모델의 기존 능력 범위 내에서 출력 분포를 재형성하는 것이지, 훈련 분포에 없는 능력을 창조하는 것은 아니라고 명시하였다. 현재 검증은 제한된 수의 방향(N=3)과 특정 모델들을 대상으로 하며, 최적의 강도 비율은 작업에 따라 달라질 수 있다.

결론적으로, 본 논문은 노름과 방향의 분리 가능성이 개입 설계의 특정 구조를 일부 반영할 수 있음에도 불구하고, 기하학적 제약이 LLM에서 견고한 다중 의미론적 스티어링을 가능하게 하는 충분한 메커니즘임을 확립한다.