Noise Steering for Controlled Text Generation: Improving Diversity and Reading-Level Fidelity in Arabic Educational Story Generation

1. 연구 배경 및 문제 정의 (Problem)

• 배경: 초기 학년 읽기 평가 (EGRA, Early Grade Reading Assessment) 는 어린 학습자의 기초 읽기 능력을 평가하기 위해 널리 사용됩니다. 이를 위해 어휘, 읽기 수준, 서사 구조, 문화적 중립성 등에 대한 엄격한 교육적 제약 조건을 만족하는 짧은 이야기 (Passage) 가 필요합니다.
• 문제점:
  1. 다양성 vs. 제약 준수: 대규모 언어 모델 (LLM) 이 EGRA 기준에 맞는 이야기를 생성할 때, 출력 다양성 (Diversity) 을 높이면 교육적 제약 (단어 수, 문법, 난이도 등) 을 위반하거나 반복적인 플롯을 생성하여 평가의 유효성이 떨어질 위험이 있습니다.
  2. 소규모 모델의 불안정성: 교육 환경에서는 7~9B(십억) 파라미터 규모의 소규모 언어 모델 (SLM) 이 선호되지만, 이러한 아랍어 중심 모델은 다양성을 추구할 때 생성 불안정성 (Generation Instability) 에 더 취약합니다.
  3. 기존 방법의 한계: 고온 샘플링 (High-temperature sampling) 과 같은 출력 수준의 확률적 방법은 다양성을 높일 수 있으나, 읽기 수준을 비정상적으로 높게 만들거나 (Grade Level Inflation) 모델이 붕괴 (Collapse) 하여 의미 없는 텍스트를 생성하는 치명적인 결함이 있습니다.

2. 제안된 방법론 (Methodology)

저자들은 노이즈 스티어링 (Noise Steering) 기법을 제안합니다. 이는 모델의 가중치를 수정하거나 추가 학습 (Fine-tuning) 을 하지 않고, 추론 (Inference) 시 모델의 내부 표현 (Internal Representations) 에 칼리브레이션된 가우시안 노이즈를 주입하여 다양성을 유도하는 훈련 없는 (Training-free) 방법입니다.

• 주요 노이즈 주입 전략 (4 가지):

  1. 임베딩 노이즈 (Embedding Noise): 토큰 임베딩 테이블 출력에 직접 노이즈를 주입합니다. (가장 초기 단계)
  2. 어텐션 로짓 노이즈 (Attention-logit Noise): 셀프 어텐션 서브레이어 출력 (MLP 입력 전) 에 노이즈를 주입합니다.
  3. 잔여 스트림 노이즈 (Residual Stream Noise, L-RES): 각 트랜스포머 블록의 전체 계산 (어텐션 + MLP) 이 완료된 후 잔여 스트림에 노이즈를 주입합니다.
  4. 어텐션 엔트로피 노이즈 주입 (AENI): 모델의 어텐션 분포가 얼마나 '뾰족한지 (Peakedness)'에 따라 노이즈 크기를 동적으로 조절합니다. 모델이 특정 토큰에 집중하여 반복적일 가능성이 높을 때만 노이즈를 강하게 주입하고, 분산되어 있을 때는 줄입니다.

• 노이즈 감쇠 (Noise Decay): 생성 초기에는 창의적 탐색을 위해 노이즈를 크게 적용하고, 이야기가 진행됨에 따라 (Cosine Decay) 노이즈 크기를 줄여 제약 조건 준수 능력을 회복하도록 설계했습니다.

• 모델 및 노이즈 크기 조정: 5 개의 아랍어 중심 소규모 모델 (Jais, ALLaM, Fanar, AceGPT, Phi-4-mini) 을 대상으로 하며, 모델별 내부 활성화 값의 RMS(Root Mean Square) 를 기반으로 노이즈 크기를 정규화하여 일관된 상대적 강도를 유지했습니다.

3. 주요 기여 (Key Contributions)

1. 내부 표현 수준의 다양성 제어: 출력 수준의 확률적 샘플링 (Temperature, Top-p 등) 대신, 모델의 내부 표현 (Residual Stream 등) 에 노이즈를 주입하는 것이 교육용 콘텐츠 생성에 더 적합함을 입증했습니다.
2. AENI 의 개발: 고정된 노이즈 주입이 불안정성을 초래하는 문제를 해결하기 위해, 모델의 어텐션 엔트로피를 기반으로 노이즈 크기를 적응적으로 조절하는 AENI를 제안했습니다. 이는 모델이 반복적일 때만 개입하여 안정성을 확보합니다.
3. 다양성과 제약 준수 간의 균형 달성: 기존 방법들은 다양성을 높이면서 품질이나 읽기 수준을 희생시켰으나, 제안된 방법 (특히 L-RES 와 AENI) 은 다양성을 향상시키면서도 읽기 수준 (Reading Grade Level) 과 교육적 제약 조건을 유지했습니다.

4. 실험 결과 (Results)

5 개의 아랍어 SLM 을 대상으로 한 실험 결과는 다음과 같습니다:

• 모델 붕괴 (Modal Collapse) 방지:
  • 고온 샘플링 (High-temperature) 은 여러 모델 (AceGPT, Phi-4-mini 등) 에서 40~84% 의 붕괴율을 보이며 실패했습니다.
  • L-RES(잔여 스트림 노이즈) 는 모든 모델에서 0% 붕괴율을 기록하며 가장 안정적이었습니다.
  • AENI는 원시 어텐션 노이즈 (Raw Attention Noise) 가 28~34% 의 붕괴를 일으켰던 것과 달리, 모든 모델에서 붕괴를 제거하거나 2% 이하로 낮췄습니다.
• 다양성 (Diversity) 향상:
  • L-RES 와 AENI 는 Vendi Score(다양성 지표) 를 유의미하게 향상시켰습니다 (예: Jais 모델에서 +2.38, ALLaM 에서 +1.28).
  • 고온 샘플링은 Jais 모델에서만 다양성을 높였으나, 다른 모델에서는 품질 저하와 붕괴를 초래했습니다.
• 품질 및 읽기 수준 유지:
  • 읽기 수준 (Reading Grade Level): 고온 샘플링은 모델이 어려운 어휘를 선택하게 만들어 읽기 수준을 급격히 높였으나 (예: Grade 3 → Grade 6), L-RES 와 AENI 는 초기 학년 수준의 난이도를 일관되게 유지했습니다.
  • 제약 준수 (Constraint Adherence): L-RES 와 AENI 는 교육적 제약 조건 위반을 최소화하면서 다양성을 높였습니다.
• 모델별 성능 차이: 아랍어 표현력이 약한 모델 (Phi-4-mini 등) 은 노이즈에 더 민감하게 반응하여 품질이 하락하는 경향이 있었으나, 전반적으로 제안된 방법들은 베이스라인보다 우월한 결과를 보였습니다.

5. 의의 및 결론 (Significance)

• 교육용 콘텐츠 생성의 새로운 패러다임: 이 연구는 생성형 AI 를 교육 평가 도구 (EGRA) 에 적용할 때, 단순한 출력 확률 조절이 아닌 모델 내부의 표현적 공간 (Representation Space) 을 조작함으로써 다양성과 제약 준수를 동시에 달성할 수 있음을 보여줍니다.
• 실용적 가치: 소규모 모델 (SLM) 을 사용하는 제한된 리소스 환경에서도 고품질의 다양한 교육용 이야기를 안정적으로 생성할 수 있는 경량화 (Lightweight) 된 솔루션을 제공합니다.
• 향후 방향: 노이즈 주입의 계층별 타겟팅 전략 및 다른 저자원 언어와 평가 프레임워크로의 확장이 필요함을 시사합니다.

핵심 요약: 이 논문은 아랍어 교육용 이야기 생성에서 발생하는 '다양성 vs. 제약 준수'의 딜레마를 해결하기 위해, **잔여 스트림 노이즈 (L-RES)**와 **적응형 어텐션 엔트로피 노이즈 (AENI)**를 제안했습니다. 이 방법들은 모델의 내부 상태를 교란시켜 창의적인 변형을 유도하면서도, 고온 샘플링이 초래하는 읽기 수준 왜곡과 모델 붕괴를 방지하여 교육적 유효성을 유지하는 데 성공했습니다.