Attractive and Repulsive Pattern Control in Sequence Generation

기술 요약: 시퀀스 생성에서의 인력 및 척력 패턴 제어

문제 정의
가변 차수 마르코프(Variable-order Markov, VOM) 모델은 문맥 길이를 적응적으로 조절하면서 국소적 구문과 스타일을 보존하기 때문에 기호적 시퀀스 생성에 효과적이다. 그러나 장기적인 연속 생성 과정에서 이러한 모델은 반복되는 고차 문맥, 반복되는 접미사 또는 국소적으로 주기적인 구간으로 특징지어지는 '터널(tunnels)': 즉, 끌개와 같은 통로에 자주 진입하게 된다. 이러한 자기 재사용(self-reuse)은 모델의 형식적 마르코프 차수를 초과하며, 이는 다양성의 붕괴로 이어진다. 메모리를 줄이거나 노이즈를 추가하는 방식은 이러한 반복을 끊을 수는 있지만, 생성기의 유용성을 만드는 구조적 일관성을 동시에 저해한다. 이전 연구(BP-Regular)는 하드 제약 조건(예: 특정 길이보다 긴 청크를 금지함)을 오토마타로 컴파일하고 신념 전파(Belief Propagation, BP)를 통해 정확하게 샘플링할 수 있음을 보여주었다. 그러나 이 접근 방식은 이진적(수용/거부)이었으며, 특정 패턴의 확률을 부드럽게 조절하는 능력은 부족했다.

방법론
본 논문은 BP-Regular 인터페이스를 확장하여 재발(recurrence)에 대한 부드럽고, 적응적이며, 대칭적인 제어를 지원하는 부호화된 패턴 제어(signed pattern control) 메커니즘을 소개한다.

1. 부호화된 재발 필드(Signed Recurrence Field): 후보 시퀀스 $x$에 대해 연속 생성 여부를 이진적으로 수용하거나 거부하는 대신, 본 시스템은 비음수 재발 활성화 $R(x)$를 계산하는 가중 유한 상태 인식기(weighted finite-state recognizer)를 사용한다.
2. 재가중치 샘플링(Reweighted Sampling): 샘플러는 다음과 같이 정의된 재가중 분포로부터 표본을 추출한다:
   $$P_\beta(x) \propto P_0(x) \exp(\beta R(x))$$
   여기서 $P_0(x)$는 원래의 마르코프 분포이며, $\beta$는 결합 스칼라(coupling scalar)이다.
   • 음의 결합 ($\beta < 0$): 인식된 패턴을 억제하여, 엄격하게 금지하지 않으면서도 과활성화된 반복을 저지하는 "항상성(homeostatic)" 체제를 생성한다.
   • 양의 결합 ($\beta > 0$): 인식된 패턴에 보상을 주어, 이를 제어된 끌개(attractor)로 만든다.
   • 영의 결합 ($\beta = 0$): 수정되지 않은 생성기로 복구된다.
3. 적응형 항상성(Adaptive Homeostasis): 주요 실험에서 대상 패턴은 고정되지 않고 생성 이력으로부터 적응적으로 채굴된다. 시스템은 여러 차수($k \in \{2, 3, 4, 6, 8\}$)에 걸쳐 투영된 $k$-gram(예: 음높이 클래스)을 추적한다. 최근 윈도우 또는 생애 전체에서 과활성화된 패턴은 최근 빈도와 생애 빈도의 조합에 따라 활성화 강도가 할당된다.
4. 정확한 샘플링(Exact Sampling): 가중 오토마타는 BP 팩터 그래프에 통합된다. 지수 가중치 $\exp(\beta R)$가 양수를 유지하므로, 합-곱(sum-product) BP 알고리즘은 여전히 정확한 정규화 질량(normalizing masses)과 조건부 주변 확률(conditional marginals)을 계산할 수 있으며, 이는 소프트 제약 조건에도 불구하고 샘플링이 수학적으로 정확함을 보장한다.

주요 기여

• 통합된 부호 제어(Unified Signed Control): 하드 제약을 위해 사용된 동일한 오토마타/BP 인터페이스를 소프트하고 부호화된 제어를 위해 재용도화할 수 있음을 입증하였다. 이를 통해 단일 메커니즘이 척력(반-붕괴)과 인력(끌개 탐사) 모두로 기능할 수 있게 한다.
• 항상성적 반-붕계(Homeostatic Anti-Collapse): 과활성화된 패턴을 동적으로 식별하고 벌칙을 부여함으로써, 저차 모델의 구조를 유지하면서도 장기적인 자기 재사용을 줄인다.
• 끌개 탐사(Attractor Probing): 양의 분기는 특정 패턴을 매력적으로 만들거나 척력을 갖게 하여, 가변 차수 모델 내의 끌개 분지(attractor basins), 상전이(phase transitions), 히스테리시스(hysteresis)를 측정하고 제어하는 통제된 방법을 제공한다.
• 관심사의 분리(Separation of Concerns): 이 접근 방식은 패턴 선택(무엇을 제어할 것인가)과 샘플링 메커니즘(어떻게 제어할 것인가)을 분리하여, 대상 패턴을 채굴하거나, 직접 작성하거나, 외부에서 공급할 수 있도록 한다.

실험 결과
본 메커니즘은 재발이 청각적으로 들리고 구조적으로 의미 있는 영역인 단선형 기호 음악(monophonic symbolic music)에서 평가되었다. 실험은 6개의 지속 시간 관련 소스(Bach 및 Telemann)와 5개의 음높이 전용 재즈 솔로(Weimar Jazz Database)를 대상으로 하였다.

• 음의 분기 (항상성):
  • 자기 재사용 감소: 벌칙 분기는 생성된 8-gram의 재사용률을 유의미하게 감소시켰다 (예: Bach core 데이터에서 4096 이벤트 기준 0.140에서 0.064로 감소).
  • 다양성 증가: 생성된 8-gram의 유효 개수가 증가하였고(예: 3269에서 3728로), 가장 긴 반복 접미사의 길이가 감소하였다.
  • 지지 구조 보존: 저차 지지(2- 및 3-gram)는 높은 수준을 유지하였으며, 훈련된 문맥의 커버리지에서 미미한 하락(1~3 퍼센트 포인트)만을 보였다.
  • 비용: 이 메커니즘은 정적 모델 손실(static model loss)의 측정 가능한 증가와 계산 오버헤드(적응형 인식기 재구축으로 인해 이벤트당 약 4배 느려짐)를 초래했으나, 정확한 샘플링은 유지하였다.
• 양의 분기 (끌개 탐사):
  • 고정 모티프 프로브는 특정 패턴을 의도적으로 매력적이거나 척력이 있게 만들 수 있음을 입증하였다.
  • 상전이 스윕(phase-transition sweeps)은 양의 $\beta$를 높임에 따라 대상 활성화가 급격히 증가하고 그에 따라 다양성이 감소함을 보여주었으며, 이를 통해 임계 결합 지점을 측정할 수 있게 하였다.
  • "중독과 금단(addiction and withdrawal)" 시나리오는 보상 신호가 제거된 후에도 생성된 문맥이 끌개 특성을 유지하는 히스테리시스의 존재를 확인시켜 주었다.

의의 및 주장
본 논문은 기호적 시퀀스 생성기의 재발 지형을 조종하고 탐사하기 위한 일반적인 도구를 제공한다고 주장한다.

• 안정화를 위하여: 음의 분기는 전체적인 스타일을 희생하거나 모델을 완전히 재학습할 필요 없이, 고차 모델에서의 '터널링'과 붕괴를 방지하는 방법을 제공한다. 이는 항상성 조절기 역할을 한다.
• 탐사를 위하여: 양의 분기는 생성기를 실험적 도구로 변모시켜, 연구자들이 끌개를 프로그래밍하고, 상전이를 연구하며, 회복 역학을 테스트할 수 있게 한다.
• 범위: 저자들은 테스트된 가변 차수/BP 설정과 단선형 시퀀스로 자신들의 주장을 명시적으로 제한한다. 이들은 일반적인 음악적 가치나 작곡 품질을 해결한다고 주장하지 않으며, 오히려 재발 압력을 제어하는 정밀하고 측정 가능한 메커즘을 제공하는 데 목적을 둔다. 이 연구는 부호 에너지 제어를 통해 새로움과 전형성 사이의 균형을 맞춤으로써 더 넓은 계산적 창의성 기준과 연결된다.