1. 문제 정의 (Problem)

**저자 스타일 전이 (Authorship Style Transfer)**는 원본 텍스트의 의미는 유지하면서 특정 대상 저자의 문체로 텍스트를 재작성하는 작업입니다. 기존 방법론들은 다음과 같은 한계를 가지고 있습니다:

• 고비용 및 비유연성: 모든 대상 스타일을 한 번에 모델링하기 위해 대규모 코퍼스를 기반으로 단일 거대 모델을 훈련시키는 방식이 주류입니다. 이는 새로운 저자 스타일에 적응하는 데 비용이 많이 들고 유연성이 떨어집니다.
• 의미 보존의 저하: 스타일 전이 과정에서 원본 텍스트의 의미 (Semantic meaning) 가 왜곡되거나 손실되는 경우가 많습니다. 특히 소량 데이터 (Low-resource) 환경에서 이러한 문제가 심화됩니다.
• 중립적 피벗 (Neutral Pivot) 의존성: 많은 기존 방법들이 텍스트를 먼저 '중립적'인 스타일로 변환한 후 목표 스타일로 변환하는 2 단계 방식을 사용하는데, 이 과정에서 의미 이탈 (Semantic drift) 이 발생합니다.

2. 방법론 (Methodology)

저자들은 AuthorMix라는 경량화, 모듈화, 해석 가능한 스타일 전이 프레임워크를 제안합니다. 이 프레임워크는 크게 세 단계로 구성됩니다.

2.1. 저자 어댑터 훈련 (Author Adapter Training)

• 고자원 (High-resource) 저자 10 명 (예: 오스카 와일드, 조지 오웰 등) 에 대해 각각 별도의 LoRA (Low-Rank Adaptation) 어댑터를 훈련합니다.
• 훈련 데이터는 고자원 저자의 원본 텍스트를 LLM 을 이용해 '중립적'인 문체로 변환한 쌍 (Pseudo-parallel data) 을 사용하여, 중립 텍스트에서 원본 저자의 스타일로 복원하는 방식으로 학습됩니다.

2.2. 가중치 혼합 (Weight Mixing)

• 새로운 목표 저자 (Target Author) 가 주어지면, 소수의 예시 텍스트 (Few-shot) 만을 사용하여 훈련된 고자원 어댑터들을 혼합하여 목표 스타일 어댑터를 생성합니다.
• 핵심 혁신 (Layer-wise Mixing): 기존 연구가 어댑터 전체에 하나의 가중치를 부여하는 방식 (Adapter-wise) 을 사용했다면, AuthorMix 는 **레이어별 (Layer-wise)**로 가중치를 학습합니다.
  • 모델의 각 레이어 $j$에서 목표 어댑터 $\hat{\theta}_j$는 $n$개의 고자원 어댑터 가중치 $W_{i,j}$의 선형 결합으로 정의됩니다.
  • 이는 저자별 특징이 모델의 서로 다른 레이어에 분포되어 있을 수 있다는 해석 가능성 연구 결과에 기반합니다.

2.3. 최적화 전략 (Optimization Strategies)

가중치 $W$를 학습하기 위해 두 가지 방법을 비교합니다:

1. LoRAHub (Gradient-free): NGOpt 를 이용한 무경사 최적화.
2. GRPO (Group Relative Policy Optimization): 강화학습 (RL) 기반 정책 최적화. 목표 스타일 유사도 (Toward Score) 와 의미 보존도 (MIS) 를 결합한 Joint Score를 보상 함수로 사용하여 가중치를 학습합니다.

2.4. 어댑터 서브셋 선택 (Adapter Subset Selection)

• 모든 어댑터를 혼합하는 대신, 목표 스타일과 가장 유사한 상위 $k$개의 고자원 저자 어댑터만 선택하여 혼합합니다. 이는 검색 공간을 줄이고 성능을 향상시킵니다.

3. 주요 기여 (Key Contributions)

1. AuthorMix 프레임워크: 경량화되고 모듈화된 저자 스타일 전이 프레임워크를 제안하여, 소량의 데이터로도 새로운 목표 저자에 대한 전용 모델을 효율적으로 생성할 수 있습니다.
2. 레이어별 혼합의 효과: 어댑터 전체 가중치 혼합보다 레이어별 가중치 혼합이 스타일 전이와 의미 보존 모두에서 우월한 성능을 보임을 입증했습니다.
3. 강화학습 (GRPO) 의 적용: 어댑터 혼합 가중치 학습에 RL 기반의 GRPO 를 처음 적용하여, LoRAHub 와 같은 무경사 최적화 방법보다 우수한 성능을 달성했습니다.
4. 해석 가능성: 학습된 레이어별 가중치를 분석하여, 스타일 관련 정보가 모델의 **중간 레이어 (14~21 층)**에 집중되어 있음을 발견했습니다.

4. 실험 결과 (Results)

실험은 프로젝트 구텐베르크 (Project Gutenberg) 의 100 개의 소스 - 타겟 저자 쌍을 대상으로 수행되었으며, GPT-5.1, TinyStyler, ASTRAPOP 등 최신 SOTA 모델과 비교되었습니다.

• 성능: AuthorMix (GRPO, Layer-wise, $k=4$) 는 **Joint Score(0.34)**에서 모든 베이스라인을 능가했습니다.
  • 의미 보존 (MIS): 0.83 (TinyStyler: 0.75, ASTRAPOP: 0.63). 의미 손실이 가장 적었습니다.
  • 스타일 전이 (Toward): 0.16 (TinyStyler와 동급).
• GPT-5.1 대비 우위: 16-shot 프롬프팅을 사용한 GPT-5.1 보다 의미 보존과 스타일 전이 균형 면에서 더 우수한 성능을 보였습니다.
• 효율성:
  • ASTRAPOP-DPO 는 약 48 시간의 훈련이 필요하지만, AuthorMix 는 기존 어댑터 재사용 시 새로운 타겟당 약 40 분의 가중치 학습 시간만 소요됩니다.
  • 추론 비용은 기존 모델과 동일하게 유지됩니다.
• 분석:
  • GRPO vs LoRAHub: GRPO 는 구조화된 레이어별 가중치를 학습하는 반면, LoRAHub 는 대부분의 레이어에서 가중치가 0 에 수렴하여 레이어별 혼합에는 적합하지 않음을 보였습니다.
  • $k$값의 영향: 어댑터 수 $k$가 4 일 때 최적의 성능을 보이며, 너무 많은 어댑터 ($k \ge 7$) 를 섞으면 성능이 저하됩니다.

5. 의의 및 결론 (Significance)

• 저자원 환경 최적화: 소량의 예시 텍스트만으로도 고품질의 저자 스타일 전이가 가능하며, 의미 보존 측면에서 기존 방법론들의 한계를 극복했습니다.
• 모듈성과 확장성: 단일 거대 모델을 재훈련할 필요 없이, 기존 어댑터 라이브러리를 기반으로 새로운 타겟에 맞춰 빠르게 모델을 구성할 수 있어 확장성이 뛰어납니다.
• 해석 가능성: 학습된 가중치를 통해 모델이 스타일 정보를 어떤 레이어에서 어떻게 활용하는지 시각화할 수 있어, 모델 병합 (Model Merging) 연구에 새로운 통찰을 제공합니다.
• 윤리적 고려: 저자 스타일 복제 기술의 오남용 (사기, 위조 등) 위험을 인지하고 있으며, 연구는 공개된 문학 텍스트에 한정하여 수행되었고, 향후 배포 시 투명성과 동의 절차가 필요함을 강조했습니다.

결론적으로, AuthorMix 는 효율성, 성능, 해석 가능성을 모두 충족하는 차세대 스타일 전이 솔루션으로, 특히 소량 데이터 환경에서 의미 보존을 최우선으로 하는 응용 분야 (개인화 튜터, 대화형 에이전트 등) 에 큰 잠재력을 가지고 있습니다.