The Dual-Stream Transformer: Channelized Architecture for Interpretable Language Modeling

이 논문은 어텐션과 피드포워드 네트워크를 각각 토큰 스트림과 컨텍스트 스트림으로 분리하여 해석 가능성과 성능 사이의 조절 가능한 균형을 제공하는 '듀얼-스트림 트랜스포머' 아키텍처를 제안하고, 이를 통해 내부 구조가 설계 단계에서 노출되는 해석 가능한 언어 모델의 기반을 마련했다고 요약할 수 있습니다.

핵심

🧠 "두 개의 강"이 흐르는 새로운 AI: Dual-Stream Transformer

이 논문은 인공지능 (AI) 이 어떻게 생각하는지, 특히 그 내부에서 무슨 일이 일어나는지 더 쉽게 이해할 수 있도록 만든 새로운 AI 구조를 소개합니다. 저자는 이 모델을 **'Dual-Stream Transformer (이중 흐름 트랜스포머)'**라고 부릅니다.

기존의 AI 는 모든 정보가 한 개의 거대한 강 (잔여 스트림) 을 따라 흐르는데, 이 강이 너무 혼잡해서 누가 무엇을 했는지 알기 어렵습니다. 마치 거대한 도시의 교통체증 속에서 "누가 어디로 갔는지"를 추적하는 것과 비슷하죠.

이 새로운 모델은 그 거대한 강을 두 개의 독립된 강으로 나눕니다.

---

1. 두 개의 강: "단어 강"과 "맥락 강"

이 모델은 정보를 처리할 때 두 가지 다른 강을 사용합니다.

• 🟠 단어 강 (Token Stream):

  • 역할: "이게 뭐라는 단어지?"를 담당합니다.
  • 특징: 오직 **주의 (Attention)**라는 메커니즘만 이 강을 업데이트합니다. 마치 도서관에서 책 제목 (단어) 을 보고 "아, 이 책은 여기 있구나!"라고 위치를 찾는 일만 합니다.
  • 비유: "이 단어는 문장 속에서 어디에 위치해?"를 결정하는 지도 제작자입니다.

• 🔵 맥락 강 (Context Stream):

  • 역할: "이 단어가 문맥에서 어떤 의미를 갖지?"를 담당합니다.
  • 특징: 오직 **피드포워드 네트워크 (FFN)**라는 메커니즘만 이 강을 업데이트합니다. 단어의 의미를 깊게 이해하고, 문맥을 연결하는 일을 합니다.
  • 비유: "이 단어는 이 문장에서 어떤 감정을 담고 있을까?"를 분석하는 해석자입니다.

왜 중요할까요?
기존 모델에서는 이 두 가지 작업이 뒤섞여 있어서 "어떤 부분이 단어를 찾고, 어떤 부분이 의미를 해석했는지"를 알기 어렵습니다. 하지만 이 모델은 두 강을 분리했기 때문에, **"지도 제작자가 실수했나, 해석자가 실수했나?"**를 정확히 파악할 수 있습니다.

---

2. 통신 규칙: "혼합 전략" (Mixing Strategies)

두 강이 나뉘었다고 해서 서로 완전히 고립된 것은 아닙니다. 각 강 안에는 여러 개의 **소규모 채널 (Head)**들이 있는데, 이 채널들이 서로 정보를 주고받는 방식을 조절하는 것이 핵심입니다. 저자는 이를 혼합 전략이라고 부릅니다.

• 🚫 완전 독립 (Independent):

  • 각 채널이 완전히 고립되어 있습니다. 서로 대화하지 않죠.
  • 장점: 해석이 가장 쉽습니다. "A 채널이 이 일을 했구나"라고 100% 확신할 수 있습니다.
  • 단점: 성능이 조금 떨어집니다 (약 8% 감소).

• 📡 크로네커 혼합 (Kronecker - 추천):

  • 가장 추천하는 방식입니다.
  • 채널들이 서로 대화하되, 아주 간단한 **스칼라 (숫자 하나)**로만 대화합니다.
  • 비유: 각 팀장이 서로 "이 일을 도와줘"라고 숫자 하나만 주고받는 것입니다. 복잡한 대화는 하지 않지만, 필요한 협력은 합니다.
  • 효과: 성능은 거의 그대로 유지하면서 (약 2.5% 감소), 채널 간의 관계를 숫자 하나로 명확하게 볼 수 있어 해석이 매우 쉽습니다.

• 🌐 밀집 혼합 (Dense - 기존 방식):

  • 모든 채널이 서로 자유롭게 대화합니다.
  • 장점: 성능이 가장 좋습니다.
  • 단점: 누가 무엇을 했는지 알 수 없습니다. (기존 AI 의 문제점)

---

3. 실험 결과: AI 는 "숫자"가 아니라 "알고리즘"을 배웠다?

이 논문에서 가장 흥미로운 발견은 주의 집중 (Attention) 을 극단적으로 강화했을 때의 실험입니다.

• 실험: AI 가 단어를 선택할 때, 보통은 "이 단어가 60% 확률, 저 단어가 40% 확률"처럼 부드럽게 선택합니다. 하지만 연구진은 AI 가 100% 확신을 가진 것처럼 단어를 선택하게 만들었습니다 (확률을 16 배로 증폭).
• 결과: 놀랍게도 AI 는 무너지지 않았습니다!
  • 기존 모델은 확률이 딱딱해지면 엉망이 되었지만, 이 모델은 여전히 문장을 잘 만들었습니다.
  • 의미: 이 AI 는 "부드러운 확률 계산"에 의존하는 게 아니라, **"단어를 딱 집어서 선택하는 알고리즘"**을 실제로 학습했다는 뜻입니다. 마치 인간이 "아, 이 문장에서는 이 단어가 딱 맞아!"라고 직관적으로 선택하는 것과 비슷합니다.

---

4. 왜 이 연구가 중요할까요? (요약)

1. 투명한 AI: AI 가 왜 그런 답을 냈는지 내부 구조를 통해 명확히 볼 수 있습니다. (블랙박스에서 화이트박스로!)
2. 조절 가능한 선택:
   • 안전이 최우선인 곳 (의료, 법률 등): "완전 독립" 모드를 써서 8% 성능을 희생하더라도 100% 투명하게 검증할 수 있습니다.
   • 일반적인 용도: "크로네커" 모드를 써서 성능은 거의 잃지 않으면서도 중요한 부분만 해석할 수 있습니다.
3. 미래의 AI: 이 연구는 AI 가 단순히 확률을 계산하는 기계가 아니라, 논리적인 알고리즘을 수행하는 존재일 수 있음을 보여줍니다.

한 줄 요약:

"이 새로운 AI 는 정보를 '단어 찾기'와 '의미 해석'이라는 두 개의 강으로 나누고, 채널 간의 대화를 숫자 하나로만 제한함으로써, AI 가 어떻게 생각하는지 우리가 직접 볼 수 있게 만든 혁신적인 설계입니다."

기술 요약

1. 문제 제기 (Problem)

기존의 표준 트랜스포머 (Transformer) 아키텍처는 모든 계산을 단일 잔여 스트림 (residual stream) 에 통합하여 수행합니다. 이 설계는 강력한 성능을 제공하지만, 해석 가능성 (Interpretability) 에 심각한 장벽을 만듭니다.

• 기능의 혼재: 모든 구성 요소가 공유된 표현에 쓰기를 수행하므로, 어떤 구성 요소가 어떤 기능을 수행하는지 파악하기가 매우 어렵습니다.
• 사후 분석의 한계: 기존 사후 분석 (Post-hoc analysis) 방법은 구성 요소와 행동 간의 상관관계는 찾을 수 있으나, 모델이 표적 개입을 우회하여 다른 구성 요소로 계산을 재분배할 수 있어 인과 관계를 규명하는 데 한계가 있습니다.
• 해결 필요성: 해석 가능성을 사후에 발굴하는 것이 아니라, 아키텍처 자체의 제약 (Architectural constraints) 을 통해 강제해야 한다는 주장이 제기되었습니다.

2. 방법론 (Methodology)

저자들은 Dual-Stream Transformer를 제안하며, 이는 잔여 스트림을 기능적으로 구별된 두 가지 스트림으로 분해하고, 어텐션 헤드 간의 정보 흐름을 제어하는 채널화 (Channelized) 혼합 전략을 도입합니다.

A. 듀얼 스트림 분해 (Dual-Stream Decomposition)

잔여 스트림 $x$를 두 개의 가법적 (additive) 구성 요소로 분해합니다 ($x = x_t + x_e$):

1. 토큰 스트림 ($x_t$): 이산적인 토큰 정체성 (token identities) 에서 파생된 정보를 운반하며, 오직 어텐션 (Attention) 메커니즘에 의해만 업데이트됩니다.
2. 컨텍스트 스트림 ($x_e$): 연속적인 컨텍스트 변환을 축적하며, **오직 피드포워드 네트워크 (FFN)**에 의해만 업데이트됩니다.

• 채널 인식 레이어 정규화 (CLN): 두 스트림이 결합된 상태를 Query, Key, FFN 입력 계산에 사용하지만, 업데이트는 각 스트림의 목표에만 독립적으로 적용됩니다.

B. 채널화 혼합 전략 (Channelized Mixing)

어텐션 헤드 간의 정보 흐름을 제어하는 계층적 혼합 전략을 도입하여 해석 가능성과 성능 간의 균형을 조절합니다:

1. Identity: 변환 없음 (0 파라미터).
2. Independent: 블록 대각 행렬 프로젝션. 각 헤드가 완전히 격리되어 작동 (최대 해석 가능성).
3. Kronecker (추천): 헤드는 스칼라 가중치로만 정보를 교환하고, 헤드 내 구조는 유지합니다 ($W_{heads} \otimes I$). $H \times H$ 크기의 혼합 행렬을 통해 헤드 간 라우팅을 명시적으로 시각화 가능.
4. Dense: 표준 트랜스포머와 동일한 제한 없는 혼합 (성능 최적화).

C. 주의 증폭 (Attention Amplification)

추론 시 소프트맥스 이전의 어텐션 로짓 (logits) 을 $\alpha$ 배 (1~16 배) 증폭하여 분포를 날카롭게 만듭니다. 이는 모델이 부드러운 확률적 혼합에 의존하는지, 아니면 이산적인 알고리즘 (discrete algorithms) 을 학습했는지를 진단하는 도구로 사용됩니다.

3. 주요 기여 (Key Contributions)

1. 공식 명세가 포함된 듀얼 스트림 아키텍처: 토큰 기반 연산과 컨텍스트 기반 연산을 구조적으로 분리.
2. 파라미터 효율적인 채널화 혼합 프레임워크: Kronecker 혼합과 같은 전략을 통해 해석 가능한 헤드 간 통신을 가능하게 함.
3. 체계적인 절단 실험 (Ablation Studies): 혼합 전략과 스트림 모드에 따른 해석 가능성 - 성능 트레이드오프를 정량화.
4. 주의 증폭 진단 방법론: 모델이 이산적인 계산 구조를 학습했음을 입증하는 새로운 평가 지표 제시.

4. 실험 결과 (Results)

29M 파라미터 규모의 언어 모델링 작업 (초등학교 교육 자료 코퍼스) 에서 실험을 수행했습니다.

• 해석 가능성의 비용 (Interpretability Tax):

  • Dense Baseline: 기준 성능.
  • Kronecker-Dense: 검증 손실 (Validation Loss) 증가 2.5%. 해석 가능한 헤드 간 통신을 유지하면서 거의 기준 성능을 달성.
  • Fully Independent: 검증 손실 증가 8%. 모든 헤드가 격리된 상태.
  • 결론: 해석 가능성을 높이는 비용은 예측 가능하고 제한적입니다.

• 스트림 모드 비교:

  • Frozen-Token-Stream (FTS): 토큰 스트림을 초기화 후 고정. Token-Factor 모드와 유사한 성능을 보이며, 추가 비용 없이 최대 투명성을 제공합니다.
  • 스트림 제거 실험: 토큰 스트림 제거 시 성능이 36% 급감 (핵심 정보 운반), 컨텍스트 스트림 제거 시 9.5% 감소 (보조적 역할). 이는 구조적 분리가 기능적으로 유효함을 입증.

• 주의 증폭 (Attention Amplification) 내성:

  • 모든 설정에서 $\alpha=16$(거의 결정론적 선택) 까지 기능적 생성이 유지됨.
  • 성능 저하폭: Dense(20%), Kronecker(16%), Independent(27%).
  • 의미: 모델이 부드러운 확률적 혼합이 아닌, 이산적인 알고리즘을 학습했음을 시사. Kronecker 전략은 헤드 간 스칼라 조정을 통해 오류를 보상하여 가장 우아한 저하 (Graceful degradation) 를 보임.

• 헤드 전문화 (Head Specialization):

  • 헤드가 증가할수록 (4 개 → 16 개) 전문화 지수 (Specialization) 가 크게 향상됨 (0.42 → 0.85).
  • Kronecker 혼합은 헤드가 고유한 기능 (예: 코어퍼런스 해결, 구문 분석) 을 수행하도록 유도하며, 이는 표준 Dense 모델보다 더 명확한 기능적 분리를 보여줍니다.

5. 의의 및 결론 (Significance)

• 설계된 해석 가능성: 해석 가능성을 모델이 자연스럽게 학습하는 현상이 아니라, 아키텍처 설계 단계에서 구조적 제약을 통해 의도적으로 구현할 수 있음을 증명했습니다.
• 유연한 트레이드오프: 응용 프로그램의 요구 사항에 따라 해석 가능성과 성능 사이의 균형을 조절할 수 있는 설정을 제공합니다.
  • 안전/투명성 중시: Frozen-Token-Stream + Fully Independent (8% 비용).
  • 실용적 균형: Frozen-Token-Stream + Kronecker (2.5% 비용, 추천).
  • 성능 중시: Token-Factor + Dense (기존 트랜스포머 행동 유지).
• 미래 지향성: 이 아키텍처는 내부 구조를 "설계된 대로" 노출하여, 대규모 모델에서도 사후 분석의 어려움을 극복하고 신뢰할 수 있는 AI 개발의 기초를 마련합니다. 특히 Kronecker 혼합은 파라미터 효율성과 해석 가능성을 동시에 잡은 이상적인 전략으로 제안됩니다.

이 논문은 언어 모델의 "블랙박스" 문제를 해결하기 위해, 계산 흐름을 물리적으로 분리하고 제어 가능한 채널을 도입함으로써 **해석 가능한 언어 모델 (Interpretable Language Models)**의 새로운 패러다임을 제시합니다.