Dynamic Context Evolution (DCE): 확장 가능한 합성 데이터 생성을 위한 동적 컨텍스트 진화

본 논문은 대규모 언어 모델 (LLM) 을 활용한 대규모 합성 데이터 생성 시 발생하는 '교차 배치 모드 붕괴 (Cross-batch Mode Collapse)' 현상을 해결하기 위해 Dynamic Context Evolution (DCE) 라는 새로운 프레임워크를 제안합니다.

1. 문제 정의: 교차 배치 모드 붕괴 (Cross-batch Mode Collapse)

• 현상: LLM 을 독립적인 배치 (batch) 로 반복적으로 프롬프트할 때, 모델이 이전 생성 내역을 기억하지 못해 점차 출력의 다양성이 감소하는 현상입니다.
• 원인: 각 API 호출이 빈 컨텍스트 창으로 시작하기 때문에, 모델은 확률적으로 높은 영역 (고유한 개념이 아닌 일반적인 패턴) 으로 수렴하게 됩니다.
• 영향: 단순한 어휘적 반복이 아닌, 개념적 중복이 발생합니다. 예를 들어, 교육용 시험지 생성 실험에서 200 번의 반복 후 최종 50 배치의 34% 가 초기 50 배치의 개념과 거의 동일하게 나타났습니다.
• 기존 접근법의 한계: 기존에는 사후 중복 제거 (deduplication) 나 시드 (seed) 회전 등 임시방편적인 해결책을 사용했으나, 체계적인 프레임워크가 부재했습니다. 또한, GPT-5-mini 와 같은 최신 모델은 API 상에서 온도 (temperature) 나 top-p 와 같은 토큰 레벨의 다양성 제어 파라미터를 제공하지 않아, 개념 레벨의 개입이 필수적입니다.

2. 방법론: Dynamic Context Evolution (DCE)

DCE 는 세 가지 상호 보완적인 메커니즘을 통해 생성 파이프라인을 강화합니다.

2.1 구두 꼬리 샘플링 (Verbalized Tail Sampling, VTS)

• 원리: 모델이 생성한 각 아이디어에 대해 "동일한 프롬프트를 받은 다른 LLM 이 이 아이디어를 생성할 확률"을 스스로 추정하게 합니다.
• 작동: 추정된 확률 ($P_i$) 이 임계값 ($\tau = 0.10$) 이상인 경우, 즉 '너무 obvious(분명한)' 아이디어는 필터링하여 폐기합니다.
• 효과: 모델이 가장 확률적으로 높은 (예상 가능한) 답변을 생성하는 것을 방지하여 다양성의 깊이 (Depth) 를 확보합니다.

2.2 시맨틱 메모리 (Semantic Memory)

• 원리: 모든 승인된 아이디어를 임베딩 벡터 (1536 차원) 로 변환하여 영구적인 벡터 데이터베이스 (ChromaDB) 에 저장합니다.
• 작동: 새로운 후보가 생성될 때, 저장된 모든 아이디어와의 코사인 유사도를 계산합니다. 유사도가 임계값 ($\delta = 0.85$) 을 초과하면 '거의 동일한 (near-duplicate)' 것으로 간주하여 거부합니다.
• 효과: 표면적인 문구 (lexical) 가 달라도 의미 (semantic) 가 중복되는 경우를 차단하여 다양성의 폭 (Breadth) 을 확보합니다.

2.3 적응형 프롬프트 진화 (Adaptive Prompt Evolution)

• 원리: 각 배치마다 메모리 상태 (최근 아이디어, 밀집 영역, 카테고리 분포) 를 기반으로 프롬프트를 동적으로 재구성합니다.
• 전략 (Round-robin 회전):
  1. Gap Targeting: 가장 적은 아이디어를 가진 카테고리 (하위 대표 영역) 를 목표로 설정.
  2. Assumption Inversion: 최근 아이디어의 암묵적 가정을 뒤집어 새로운 영역 탐색.
  3. Cross-industry Stimulus: 관련 없는 산업 (예: 항공우주, 해양 생물학) 에서 영감을 받아 도메인 고정 현상 깨기.
  4. Constraint Variation: 극단적인 제약 (예: "전기 없이 작동", "비용 0 원") 을 적용하여 기본 설계 가정 변경.
• 작동: 탐색 (Exploration) 단계와 활용 (Exploitation) 단계를 나누어, 초기에는 광범위하게 탐색하고 후기에는 발견된 공간의 빈틈을 채우도록 유도합니다.

3. 주요 기여 및 실험 결과

3.1 실험 설정

• 도메인: 지속 가능한 포장 (Sustainable Packaging), 교육용 시험 문제 (Educational Exam Questions), 창의적 글쓰기 프롬프트 (Creative Writing).
• 모델: OpenAI GPT-5-mini, Anthropic Claude Haiku 4.5.
• 비교 대상: Naive prompting(기본), VTS 만 적용, 중복 제거만 적용, DCE 전체 등 7 가지 구성.

3.2 주요 성과

1. 모드 붕괴 제거: DCE 는 모든 시드에서 0.0% 의 붕괴율 (Collapse Rate) 을 기록했습니다. 반면, Naive 프롬프팅은 5.6% (포장) 에서 34% (교육) 까지 높은 중복률을 보였습니다.
2. 개념적 풍부함: HDBSCAN 클러스터링 분석 결과, DCE 는 시드당 17~18 개의 안정적인 클러스터를 생성한 반면, Naive 는 2~17 로 변동성이 크고 평균적으로 개념적 구조가 빈약했습니다.
3. 성분 분석 (Ablation Study):
   • 중복 제거 (Dedup) 만으로는 붕괴를 막을 수 있으나, 모델이 새로운 영역을 탐색하지 못해 다양성이 제한됩니다.
   • 프롬프트 진화 (Prompt Evolution) 만으로는 중복이 누적됩니다.
   • 결론: 두 메커니즘이 결합되었을 때만 지속 가능한 다양성과 0% 붕괴를 달성할 수 있습니다.
4. 모델 및 도메인 일반화: GPT-5-mini 와 Claude Haiku 4.5 모두에서 효과가 입증되었으며, 특히 반복적 성향이 강한 Claude Haiku 에서 중복 제거율이 30.1% 에서 11.0% 로 크게 개선되었습니다.

3.3 하류 작업 (Downstream Task) 성능

• 생성된 데이터를 사용하여 분류기 (DeBERTa) 를 학습시켰을 때, DCE 는 Naive 데이터보다 더 높은 F1 점수를 기록했습니다 (포장 도메인에서 30.5% vs 15.2%).
• 이는 다양성이 높은 데이터가 모델 학습에 더 효과적임을 시사합니다.

4. 의의 및 결론

• 비용 효율성: 파인튜닝이나 커스텀 아키텍처 없이 표준 API 호출만으로 구현 가능하며, 1,000 개의 후보 생성당 약 $0.50의 비용이 듭니다.
• 실용성: 토큰 레벨의 제어 (temperature 등) 가 제한된 최신 모델 환경에서도 개념 레벨의 다양성을 보장할 수 있는 유일한 체계적인 프레임워크입니다.
• 핵심 통찰: 필터링 (중복 제거) 만으로는 부족하며, 모델이 미탐색 영역으로 유도하는 적응형 프롬프트 진화가 필수적입니다.

이 연구는 대규모 합성 데이터 생성의 핵심 병목 현상인 '모드 붕괴'를 해결하고, 고품질의 다양성을 유지하는 데이터 생성 파이프라인을 구축하는 데 중요한 이정표가 됩니다.