기술 요약: 트랜스포머 언어 모델을 위한 호르몬 영감 감정 레이어 (HELT)

문제 제기

대규모 언어 모델 (LLM) 은 문법적 정확성과 문맥적 관련성에서 전례 없는 성과를 거두었으나, 인간 감정 인지 방식과 유사한 방식으로 감정적 문맥을 처리하고 반응하는 능력은 근본적으로 부족합니다. 현재 감정 모델링에 대한 자연어 처리 (NLP) 접근법은 몇 가지 한계에 의해 제약받고 있습니다:

• 이산적 분류: 감정을 기쁨, 슬픔과 같은 정적이고 상호 배타적인 범주로 취급하는 것은 인간의 감정의 연속성, 혼합성, 유동성을 포착하지 못합니다.
• 차원 축소: 이진 감성 분석이나 2 차원 각성 - 가치 (arousal-valence) 공간에 의존하는 모델은 인간 감정 상태의 복잡하고 다차원적인 스펙트럼을 표현하기에 부족합니다.
• 정적 토큰화: 명시적 감정 레이블 (예: "[슬픔]") 을 앞에 붙이는 방법은 시간적 역동성과 학습된 문맥적 표현이 부족하여, 감정 상태가 어떻게 시간 경과에 따라 진화하거나 상호작용하는지 모델링하지 못합니다.

결과적으로, 표준 트랜스포머 기반 응답은 종종 감정적으로 평탄하게 유지되어 열정을 반영하거나, 논쟁을 완화하거나, 진정한 공감을 확장하지 못합니다.

방법론: HormoneT5 아키텍처

본 논문은 사전 훈련된 Text-to-Text Transfer Transformer (T5) 에 생물학적 영감을 받은 **호르몬 감정 블록 (Hormone Emotion Block)**을 추가한 새로운 아키텍처인 HormoneT5를 소개합니다. 이 블록은 인코더의 숨겨진 상태 (hidden states) 에서 유도된 6 개의 연속적인 호르몬 유사 값을 계산함으로써 감정 처리에서 인간 내분비계의 역할을 시뮬레이션합니다.

핵심 구성 요소

1. 호르몬 감정 블록: T5 인코더와 디코더 사이에 삽입된 이 블록은 계산적 내분비계 역할을 합니다. 이는 언어적 특징을 읽고 6 가지 특정 호르몬의 활성화 수준을 예측한 후 디코딩 전에 숨겨진 표현을 조절합니다.
2. 호르몬별 어텐션 헤드: 모델은 6 개의 병렬 특수 어텐션 헤드 (도파민, 세로토닌, 코르티솔, 옥시토신, 아드레날린, 엔도르핀 각각 하나씩) 를 사용합니다.
   • 직교 초기화: 각 헤드의 학습 가능한 쿼리 벡터를 직교하게 초기화하여 서로 다른 부분 공간을 spanning 하도록 보장하고, 어텐션 붕괴를 방지합니다.
   • 전이 학습: 키 (Key) 와 값 (Value) 투영은 기존 언어 지식을 활용하고 훈련 안정성을 보장하기 위해 사전 훈련된 T5 자기 어텐션 가중치에서 초기화됩니다.
   • 온도 스케일링: 더 날카로운 어텐션 분포를 생성하기 위해 온도 인자 ($\tau = 0.5$) 가 적용되어 호르몬이 특정 토큰에 집중할 수 있도록 합니다.
3. 조절 메커니즘: 6 개의 스칼라 호르몬 값은 통합된 감정 임베딩 ($e$) 으로 투영되어 곱셈 게이트 메커니즘을 통해 인코더 숨겨진 상태 ($H$) 에 적용됩니다:
   $$\tilde{H} = H \odot (1 + \alpha \cdot e_{expanded})$$
   여기서 $\alpha$는 0.1 과 0.5 사이로 클램핑된 학습 가능한 스칼라로, 원래 언어적 표현을 지배하지 않으면서 안정적이고 경계된 조절을 보장합니다.

훈련 프레임워크

모델은 복합 손실 함수를 사용하는 다목적 훈련 프레임워크를 활용합니다:

• 시퀀스 손실 ($L_{seq}$): 텍스트 생성을 위한 표준 교차 엔트로피.
• 호르몬 손실 ($L_{hormone}$): 평균 제곱 오차 (MSE) 와 **마진 손실 (Margin Loss)**의 조합. 마진 손실은 극단적 값 (예: 낮은 상태는 <0.3, 높은 상태는 >0.7) 에 도달하지 못한 예측에 페널티를 부과하여 감정 톤 간의 명확한 차별화를 장려합니다.
• 다양성 손실 ($L_{diversity}$): 다른 호르몬 헤드의 쿼리 벡터 간 코사인 유사도를 페널티화하여 기능적 차별성을 보장합니다.

주요 기여

1. 새로운 아키텍처: 이산적 분류를 넘어 특수 어텐션 메커니즘을 통해 연속적인 호르몬 신호를 계산하는 호르몬 감정 블록 도입.
2. 전이 학습 전략: 사전 훈련된 T5 가중치에서 호르몬 어텐션 키/값 투영을 초기화하는 것이 예측 정확도와 안정성을 크게 향상시킨다는 증명.
3. 다목적 최적화: 생성 품질, 마진 페널티를 통한 정밀한 호르몬 예측, 어텐션 다양성을 균형 있게 조화시키는 결합 손실 함수.
4. 포괄적 평가: 감정적 적절성과 공감적 품질에서 상당한 개선을 보여주는 광범위한 자동 및 인간 평가.
5. 오픈소스 공개: 재현성을 보장하기 위해 코드, 훈련 스크립트, 데이터셋, 사전 훈련된 가중치를 전면 공개.

실험 결과

모델은 5 가지 감정 톤 (친절함, 중립, 무례함, 슬픔, 흥분) 에 걸쳐 1,200 개의 예시 (150 개의 고유 대화에서 확장됨) 로 구성된 큐레이션 데이터셋으로 훈련되었습니다.

• 호르몬 예측 정확도: HormoneT5 는 6 가지 호르몬 전반에서 85.5% 의 평균 정확도 (목표값 $\pm 0.15$ 이내의 예측) 를 달성했습니다. 코르티솔 예측이 91.3% 로 가장 높았으며, 옥시토신은 78.4% 로 가장 낮았습니다.
• 차별화: 모델은 0.85의 평균 차별화 범위를 달성하여 평탄한 평균값을 출력하지 않고 내부 상태를 역동적으로 조절함을 확인시켰습니다. 예를 들어, "친절함" 입력은 높은 도파민 (0.92) 과 낮은 코르티솔 (0.08) 을 유발한 반면, "무례함" 입력은 이 프로파일을 반전시켰습니다.
• 인간 평가: 15 명의 평가자가 참여한 블라인드 쌍대 비교 연구에서 HormoneT5 는 기준 T5 대비 77% 의 경우에서 선호되었습니다.
  • 감정적 적절성: 4.12/5 (기준 대비 2.73, $p < 0.001$).
  • 공감 품질: 3.98/5 (기준 대비 2.45, $p < 0.001$).
  • 유창성: 기준과 통계적으로 동일하게 유지됨 (4.18 대 4.21), 이는 감정 조절이 언어적 품질을 저하시키지 않았음을 나타냅니다.

중요성과 주장

본 논문은 HormoneT5 가 생물학적 기반 정서 컴퓨팅을 향한 중요한 걸음을 나타낸다고 주장합니다. 감정을 이산적 범주가 아닌 신경화학물질의 연속적이고 다차원적인 상호작용으로 모델링함으로써, 이 아키텍처는 의미적 이해와 감정적 공명 사이의 간극을 성공적으로 연결합니다.

저자들은 모델의 어텐션 헤드가 명시적 프로그래밍 없이도 생물학적 기능과 자연스럽게 정렬되었음을 주장합니다 (예: 코르티솔 헤드가 위협 표지에, 옥시토신 헤드가 사회적 대명사에 어텐션). 이는 연속적인 호르몬 벡터가 감정 상태의 강도와 뉘앙스를 포착하기 위한 효과적인 귀납적 편향을 제공함을 시사합니다.

이 연구는 문맥에 적합한 응답을 생성할 수 있는 감정적으로 지능적인 대화 에이전트를 창출하기 위한 새로운 방향을 엽니다. 그러나 저자들은 현재의 한계에 대해 겸손한 입장을 유지하며, 모델이 합성 호르몬 매핑을 가진 소규모 영어 전용 데이터셋에 의존하고, 장대화의 시간적 역동성이 부족하며, 아직 다중 모달 단서를 통합하지 못함을 인정합니다. 그들은 "호르몬"이 의식 상태가 아닌 계산적 추상화임을 강조하며, 향후 배포에서 조작과 독성 증폭에 대한 엄격한 윤리적 안전장치를 요구합니다.