CLSGen: A Dual-Head Fine-Tuning Framework for Joint Probabilistic Classification and Verbalized Explanation

1. 문제 정의 (Problem Statement)

대형 언어 모델 (LLM) 은 복잡한 추론과 긴 문맥 처리 능력이 뛰어나지만, 실제 의료 및 고위험 의사결정 분야에 적용하기 위해서는 두 가지 핵심적인 한계가 존재합니다.

• 신뢰할 수 있는 확률 추정 부재: LLM 은 내재적인 확률 값을 직접적으로 제공하지 않으며, 기존에 제안된 방법들 (토큰 확률, 구두 확률 등) 은 토큰화 민감성, 체계적인 과신 (overconfidence), 또는 계산 비용이 높다는 한계가 있습니다.
• 언어적 붕괴 (Linguistic Collapse) 와 설명 능력 상실: 기존 LLM 을 분류 작업에 맞게 미세 조정 (Fine-tuning) 할 때, 전통적인 판별적 목적 함수 (예: Binary Cross-Entropy) 만을 사용하면 모델이 원래의 언어 생성 능력을 상실하는 '언어적 붕괴' 현상이 발생합니다. 이는 모델이 의미 없는 텍스트를 생성하거나, 분류 결과에 대한 구두 설명 (Verbalized Explanation) 을 생성하지 못하게 만들어 해석 가능성과 실용성을 크게 떨어뜨립니다.

따라서, 정확한 확률 추정 (Quantitative Probability) 과 고품질의 텍스트 생성 (Qualitative Explanation) 을 동시에 유지하면서 분류 성능을 높이는 새로운 프레임워크가 필요합니다.

2. 제안 방법: CLSGen (Methodology)

저자들은 이 문제를 해결하기 위해 CLSGen이라는 새로운 LLM 미세 조정 프레임워크를 제안했습니다. 이는 모델 아키텍처, 학습 방법론, 데이터 구축 전략을 통합한 접근법입니다.

가. 모델 아키텍처: 듀얼-헤드 구조 (Dual-Head Architecture)

• 공통 백본: 사전 학습된 디코더 전용 LLM 을 기반으로 합니다.
• 두 개의 헤드:
  1. 생성 헤드 (LM Head): 표준 언어 모델링 (Causal LM) 목적 함수를 사용하여 텍스트 (이유 설명 및 분류 레이블) 를 생성합니다.
  2. 분류 헤드 (CLS Head): 입력 시퀀스의 마지막 토큰 ($t_n$) 은 2 층 MLP 를 통과하여 이진 분류 확률을 직접 예측합니다.
• 손실 함수: 총 손실은 두 가지 목적 함수의 합으로 정의됩니다.
  $$\mathcal{L}_{total} = \mathcal{L}_{gen} + \mathcal{L}_{cls}$$
  여기서 $\mathcal{L}_{gen}$은 설명과 레이블을 생성하는 교차 엔트로피 손실이고, $\mathcal{L}_{cls}$는 분류 레이블을 예측하는 손실입니다.

나. 데이터 구축 전략 (Data Construction)

• 약지도 학습 (Weakly Supervised Learning) 기법: 기존 데이터셋에 대해 LLM 을 사용하여 고품질의 설명 ($e_i$) 과 레이블 ($y_i$) 쌍을 생성합니다.
• 검증 프로세스: 생성된 설명이 포맷을 준수하고, 생성된 예측 레이블이 실제 레이블과 일치하는지 확인합니다. 일치하지 않는 경우 재시도하거나 폐기하여, 학습 데이터의 품질과 일관성을 보장합니다.

다. 학습 방법론

• LoRA (Low-Rank Adaptation): 어텐션 프로젝션 파라미터에 LoRA 를 적용하여 효율적으로 미세 조정을 수행합니다.
• 연합 학습 (Joint Fine-tuning): 분류 헤드와 생성 헤드의 그라디언트가 공유된 표현 (Shared Representations) 에 동시에 영향을 미치도록 하여, 분류 정확도를 높이면서도 언어 생성 능력을 유지합니다.

3. 주요 기여 (Key Contributions)

1. 새로운 미세 조정 프레임워크: 분류와 텍스트 생성을 동시에 최적화하는 듀얼-헤드 아키텍처를 제안하여, 기존 미세 조정에서 발생하는 '언어적 붕괴'를 방지하고 설명 생성 능력을 보존합니다.
2. 신뢰할 수 있는 확률 추정: 분류 헤드를 통해 LLM 이 내재적인 언어 생성 능력을 잃지 않으면서도 신뢰할 수 있는 확률적 예측 (AUROC) 을 제공할 수 있음을 입증했습니다.
3. 일관성 있는 설명 생성: 분류 결과와 생성된 텍스트 설명 간의 높은 정합성 (Alignment) 을 확보하여, 고위험 의사결정 분야에서 모델의 판단 근거를 명확히 제시할 수 있게 했습니다.

4. 실험 결과 (Results)

저자들은 LCD 벤치마크 (환자 퇴원 후 30 일/90 일 사망률 예측) 와 CliniFact (임상 연구 주장 검증) 를 사용하여 모델을 평가했습니다.

• 분류 성능:
  • CLSGen 은 추론 전용 (Inference-only) 방법론 (Zero-shot, Self-consistency 등) 과 기존 CNN 베이스라인을 모두 능가했습니다.
  • 특히 AUROC (확률 추정 정확도) 와 F1-score에서 우수한 성능을 보였습니다. (예: LCD 30 일 AUROC 0.8586, CliniFact AUROC 0.9457).
• 생성 품질 및 일관성:
  • Parsability (구문 분석 가능성): CLSGen 은 거의 100% 에 가까운 파싱 성공률을 보여, 추론 전용 방법론보다 구조적 제약을 잘 준수함을 입증했습니다.
  • CLS-Text 일관성: 분류 헤드의 확률과 생성된 텍스트 레이블 간의 AUROC-Alignment가 0.95~0.98 로 매우 높았으며, Cohen's Kappa 또한 높은 일치를 보였습니다.
  • 내부 일관성 (LLM-as-a-Judge): 생성된 설명이 예측 레이블과 논리적으로 일치하는 비율이 99.8% (LCD) 이상으로 매우 높았습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 실용적 해결책: CLSGen 은 LLM 의 두 가지 핵심 가치인 '정량적 확률 추정'과 '해석 가능한 텍스트 생성'을 동시에 달성할 수 있는 실용적인 솔루션을 제공합니다.
• 의료 및 고위험 분야 적용: 기존 LLM 미세 조정의 치명적 단점인 언어 능력 상실을 극복함으로써, 환자 예후 예측, 약물 발견 등 설명이 필수적인 고위험 의사결정 분야에서 LLM 의 신뢰성과 활용도를 크게 높일 수 있습니다.
• 향후 연구 방향: 설명 생성 알고리즘의 최적화 (노이즈가 많은 데이터 샘플링 문제 등) 와 다양한 도메인에서의 확장 가능성을 제시했습니다.

요약하자면, CLSGen 은 LLM 이 단순히 "무엇"을 예측하는지뿐만 아니라 "왜" 그렇게 예측했는지에 대한 신뢰할 수 있는 확률과 논리적 근거를 동시에 제공하도록 설계된 혁신적인 미세 조정 프레임워크입니다.