Valence-Arousal Subspace in LLMs: Circular Emotion Geometry and Multi-Behavioral Control

1. 연구 배경 및 문제 정의 (Problem)

• 현재의 한계: 대규모 언어 모델 (LLM) 의 감정 제어 연구는 주로 이산적인 (discrete) 감정 범주 (예: 분노, 기쁨, 두려움) 를 기본 분석 단위로 사용하거나, 감정 프롬프팅이 작동하는 메커니즘이 불명확한 상태입니다.
• 개념적 문제: 심리학에서 감정 (Emotion) 은 '핵심 정서 (Core Affect)'인 연속적인 차원인 **가치 (Valence, 쾌/불쾌)**와 **각성 (Arousal, 활성화/비활성화)**에서 파생된다고 봅니다. 그러나 LLM 연구에서는 이 연속적인 차원을 단순한 이산적 레이블이나 평가 지표로만 취급하여 설명력을 잃고 있습니다.
• 기술적 문제: 기존 감정 제어 벡터 (Steering Vectors) 는 대비적 차이 (Contrastive Differences) 를 기반으로 구축되어 특정 태스크에 종속적이며, 다른 행동으로의 전이 (Transfer) 가 어렵고 튜닝이 까다롭습니다.

2. 방법론 (Methodology)

저자들은 LLM 의 표현 공간 내에서 가치 - 각성 (VA) 하위 공간을 식별하고 이를 통해 감정을 연속적인 차원으로 제어하는 새로운 접근법을 제시합니다.

1. 감정 조향 벡터 추출:
   • 21 만 1 천 개 이상의 감정 레이블이 달린 텍스트 (GoEmotions 데이터셋) 와 중립 텍스트를 비교하여 각 감정 범주별 평균 차이를 통해 감정 조향 벡터를 추출합니다.
2. VA 하위 공간 학습:
   • 모델이 각 감정 레이블에 대해 스스로 보고한 가치 (Valence) 와 각성 (Arousal) 점수를 수집합니다.
   • 감정 벡터들의 주성분 (PCA) 을 기반으로 리지 회귀 (Ridge Regression) 를 수행하여, 이 주성분들의 선형 결합으로 VA 축을 학습합니다.
3. 기하학적 구조 분석:
   • 학습된 VA 하위 공간에 감정 벡터를 투영하여 **러셀의 원형 모델 (Circumplex Model)**과 유사한 원형 기하학 구조가 존재하는지 확인합니다.
4. 검증 및 개입 (Intervention):
   • 상관관계 검증: 학습된 축이 인간이 부여한 감정 점수 (NRC-VAD) 와 얼마나 일치하는지 확인합니다.
   • 생성 제어: VA 축을 따라 생성을 조향 (Steering) 하여 모델 출력의 감정적 특성이 단조롭게 (monotonic) 변화하는지 실험합니다.
   • 행동 제어: 거절 (Refusal) 과 아첨 (Sycophancy) 행동에 대한 VA 축의 영향을 분석합니다.
   • 메커니즘 분석: 어휘 매개 (Lexical Mediation) 가 핵심 메커니즘인지 확인하기 위해 토큰 임베딩, MLP 뉴런 분석, 로짓 클램핑 등을 수행합니다.

3. 주요 기여 (Key Contributions)

1. 개념적 분리: 이산적인 감정 레이블과 연속적인 가치 - 각성 (VA) 차원을 분리하여, VA 하위 공간이 LLM 표현 공간에 체계적으로 조직되어 있음을 증명했습니다.
2. 원형 기하학 발견: Llama 3.1, Qwen3 등 다양한 모델에서 감정 벡터가 인간 심리학의 원형 모델과 유사한 원형 구조를 형성함을 발견했습니다.
3. 다중 행동 제어: 단일 태스크별 대비 벡터가 아닌, VA 하위 공간을 통해 **거절 (Refusal)**과 **아첨 (Sycophancy)**이라는 서로 다른 안전 관련 행동을 동시에 제어할 수 있음을 보였습니다.
4. 메커니즘적 설명 (Lexical Mediation): 감정 기반 제어가 작동하는 근본 원인을 어휘 매개로 설명했습니다. 즉, "거절"과 관련된 토큰 (예: "can't", "sorry") 은 VA 공간의 특정 영역 (낮은 각성, 부정적 가치) 에, "수용" 토큰 (예: "Here", "sure") 은 반대 영역에 위치하여, VA 좌표 이동이 이러한 토큰의 발생 확률을 직접 조절한다는 것을 입증했습니다.

4. 주요 결과 (Results)

• 기하학적 구조:
  • 학습된 VA 하위 공간에서 감정 벡터는 명확한 원형 구조를 보이며, 이는 인간 감정 인식 모델과 일치합니다.
  • 가치 (Valence) 는 주성분 1 번 (PC1) 과 강하게 상관관계가 있지만, 각성 (Arousal) 은 여러 주성분의 조합이 필요함을 발견했습니다.
• 생성 제어:
  • VA 축을 따라 조향하면 모델 출력의 가치와 각성 점수가 단조롭게 변화합니다. 특히 가치 축은 대칭적이고 강력한 영향을 미칩니다.
• 행동 제어 (거절 및 아첨):
  • 각성 (Arousal): 각성을 높이면 거절률은 감소하고 아첨은 증가하며, 그 반대의 경우에도 단조로운 변화가 관찰됩니다. 이는 무작위 방향보다 훨씬 강력한 효과입니다.
  • 가치 (Valence): 거절에는 덜 일관된 영향을 미치지만, 아첨 제어에는 유의미한 효과를 보입니다.
  • 일반화: Llama-3.1-8B, Qwen3-8B, Qwen3-14B 등 다양한 아키텍처에서 동일한 결과가 재현되었습니다.
• 메커니즘 검증:
  • 토큰 임베딩: 거절 토큰은 VA 공간의 (-V, -A) 영역에, 수용 토큰은 (+V) 영역에 군집합니다.
  • 로짓 클램핑: 특정 토큰의 로짓을 고정하면 조향 효과가 사라지거나 크게 감소하여, 토큰 확률 변화가 행동 변화의 핵심 원인임을 확인했습니다.
  • MLP 뉴런: 거절을 촉진하는 뉴런은 부정적 가치/낮은 각성과 정렬되어 있고, 수용을 촉진하는 뉴런은 양의 가치/높은 각성과 정렬되어 있습니다.

5. 의의 및 시사점 (Significance)

• 해석 가능성 (Interpretability): 감정 제어의 '블랙박스'를 연속적인 차원 (VA) 과 기하학적 구조로 설명함으로써, 모델 내부의 감정 표현이 어떻게 조직되어 있는지 이해하는 새로운 틀을 제공합니다.
• 안전 및 정렬 (Safety & Alignment):
  • 위험: VA 하위 공간을 조작하면 모델의 안전 장치 (거절) 를 우회하거나 과도한 아첨을 유도할 수 있어, 악용 가능성 (Dual-use risk) 이 존재함을 시사합니다.
  • 대응: 이 메커니즘 (Lexical Mediation) 을 이해함으로써, VA 차원과 안전 관련 토큰 확률을 분리하는 더 견고한 정렬 (Alignment) 기법 개발에 기여할 수 있습니다.
• 방법론적 확장: 태스크별 대비 벡터 대신, 공유된 저차원 하위 공간을 활용하여 다양한 행동을 제어할 수 있는 재사용 가능한 제어 기반을 제시했습니다.

결론

이 논문은 LLM 이 이산적인 감정 레이블이 아닌, 인간 심리학의 가치 - 각성 (VA) 연속체와 유사한 기하학적 구조를 내재하고 있음을 증명했습니다. 또한, 이 VA 하위 공간을 조작함으로써 모델의 감정적 표현뿐만 아니라 거절과 아첨과 같은 핵심 안전 행동을 정밀하게 제어할 수 있으며, 그 메커니즘은 특정 토큰의 발생 확률 변화 (Lexical Mediation) 에 기인함을 규명했습니다. 이는 LLM 의 감정적 현상에 대한 기계적 이해를 심화시키고, 향후 더 안전한 AI 개발을 위한 중요한 통찰을 제공합니다.