기술 요약: 적응적 보정 스케줄링을 통한 생성적 샘플링의 제약 조건 강제

문제 제기

생성 모델은 궤적 합성, 로봇 계획, 구조화된 생성과 같이 출력이 엄격한 제약 조건을 만족해야 하는 분야에서 점점 더 널리 적용되고 있습니다. 이러한 환경에서 샘플은 기하학적, 물리적, 또는 작업별 구조에 의해 정의된 특정 매니폴드 위에 위치해야 합니다. 표준 접근법은 주변 공간에서 생성 과정을 실행한 후 투영 연산자를 통해 실현 가능성을 강제하는 방식을 취합니다.

현재 관행은 일반적으로 이 투영의 타이밍을 결정하는 두 가지 이진 전략에 의존합니다:

1. 종단 보정 (Terminal Correction): 샘플링 롤아웃이 끝날 때 한 번만 투영을 적용합니다.
2. 단계별 보정 (Stepwise Correction): 모든 생성 업데이트 이후 투영을 적용합니다.

본 논문은 이러한 이진적 프레임워크가 근본적인 문제를 간과한다고 주장합니다. 즉, 생성적 업데이트는 상태 의존적이라는 점입니다. 일단 롤아웃이 제약 집합을 벗어나면, 이후의 업데이트는 제약된 궤적이 결코 방문하지 않을 상태들로부터 계산됩니다. 후속 투영이 최종 지점에서 실현 가능성을 회복시킬 수는 있지만, 이러한 매니폴드 외부의 중간 상태들이 유도한 분포적 변화를 되돌릴 수는 없습니다. 결과적으로, 종단 보정을 받은 샘플은 실현 가능하지만 의도된 샘플링 역학과 동적으로 불일치하는 경우가 많습니다. 핵심 문제는 단순한 최종 지점의 실현 가능성 보장이 아니라, 궤적 일관성을 유지하기 위해 롤아웃 전반에 걸쳐 제한된 투영 작업의 예산을 어떻게 배분할 것인가라는 보정 스케줄링 문제로 재정의됩니다.

방법론: 적응적 보정 스케줄링

저자들은 제약 조건 강제를 자원 배분 문제로 취급하는 상태 의존적 정책인 적응적 보정 스케줄링을 제안합니다. 이 방법은 투영 연산자를 통한 기울기 계산이나 생성 모델의 재학습 없이 온라인으로 작동합니다.

핵심 메커니즘

스케줄러는 길이 $T$인 롤아웃 동안 투영 호출에 대한 고정된 예산 $B$를 배분합니다. 각 단계 $t$에서 스케줄러는 다음을 수행합니다:

1. 학습된 생성 연산자를 사용하여 상태 업데이트 $\tilde{x}_{t+1} = \Phi_h(x_t)$를 제안합니다.
2. 제안된 상태가 제약 집합 $\mathcal{M}$으로부터 얼마나 떨어져 있는지를 측정하는 1-단계 제약 결함 (one-step constraint defect) $s_t = d(\tilde{x}_{t+1}, \mathcal{M})$을 계산합니다.
3. 남은 예산 $b$를 고려한 예산 인식 임계값 (budget-aware threshold) $\lambda_{t,b}$에 따라 투영 여부를 결정합니다.

업데이트 규칙은 다음과 같습니다:
$$x_{t+1} = \begin{cases} \Pi(\tilde{x}_{t+1}) & \text{if } b > 0 \text{ and } s_t \ge \lambda_{t,b} \\ \tilde{x}_{t+1} & \text{otherwise} \end{cases}$$

임계값 구성

임계값 $\lambda_{t,b}$는 홀드아웃 (held-out) 캘리브레이션 롤아웃을 사용하여 사전 계산됩니다. 이들은 시간 $t$에 $b$개의 보정이 남아 있을 때 보정을 사용하는 한계 가치를 나타냅니다. 구체적으로, $\lambda_{t,b}$는 미래 결함 분포의 분위수 (quantile) 로 설정되어, 스케줄러가 롤아웃 후반부의 고결함 (high-defect) 사건을 위해 예산을 비축하도록 보장합니다. 이는 고정 임계값 규칙의 "실패 모드"를 방지합니다. 고정 임계값 규칙은 초기의 중간 정도 결함에 예산을 모두 소진하여, 나중에 더 크고 중요한 편차를 보정할 수 없게 만들 수 있기 때문입니다.

특수 사례

이 프레임워크는 기존 전략들을 극한 사례로 통합합니다:

• 종단 보정: 모든 임계값을 $+\infty$로 설정하여 (끝날 때까지 투영 없음) 달성됩니다.
• 단계별 보정: 모든 실현 가능한 임계값을 $0$으로 설정하여 (매 단계마다 투영) 달성됩니다.
• 주기적 보정: 균일 배분 전략으로, 주요 기준선 (baseline) 으로 작용합니다.

주요 기여

1. 디자인 변수로서의 타이밍: 본 논문은 지연된 보정이 미래 업데이트의 분포를 변경하여 종단 투영만으로는 해결할 수 없는 최종 지점 편차를 발생시킨다는 것을 입증합니다. 제약 조건 타이밍은 생성적 샘플링에서 1 급 (first-class) 디자인 변수로 식별됩니다.
2. 예산 배분 공식화: 제약 조건 강제는 시간 상의 예산 배분 문제로 공식화됩니다. 이를 통해 계산 예산이 일치된 상태에서 종단, 주기적, 적응적 전략들을 직접 비교할 수 있습니다.
3. 가치 대리 변수로서의 결함: 저자들은 1-단계 제약 결함이 하류 궤적 왜곡에 대한 효과적인 온라인 대리 변수 (proxy) 로 작용함을 보여줍니다. 스케줄러는 고결함 단계에 보정을 집중함으로써 제한된 투영 자원의 최적 배분을 근사합니다.
4. 개선된 비용 - 정확도 프론티어: 제안된 적응적 스케줄링은 투영 비용과 궤적 정확도 간의 트레이드오프를 개선합니다. 이는 투영 호출 횟수를 현저히 줄이면서도 단계별 충실도 (stepwise fidelity) 에 근접한 성능을 회복합니다.

실험 결과

이 방법은 통제된 매니폴드 롤아웃 (SO(3), SE(3), 및 지형 도메인) 과 학습된 투영 확산 모델 (PDM) 샘플러를 통해 평가되었습니다.

• 매니폴드 롤아웃: 결함이 집중된 도메인 (예: 오류가 특정 폭발적으로 발생하는 "Impulse" 또는 "Ridge" 변형) 에서 적응적 스케줄링은 주기적 보정보다 현저히 우수한 성능을 보였습니다. 고정된 예산 $B/T \approx 0.25$에서, 적응적 스케줄링은 SE(3)-Lever 도메인에서 주기적 보정 대비 정규화된 초과 경로 오차 (NEPE) 를 41% 감소시켰습니다.
• 투영 확산 모델: 기존 PDM 샘플러에 적용했을 때, 적응적 스케줄링은 투영 호출 횟수를 25% 만 사용하면서 (비용 75% 감소) 전체 단계별 이점의 **71.2%**를 회복했습니다. 반면, 동일한 예산의 주기적 보정은 이점의 51.4% 만 회복했습니다.
• 일반화: 결과는 제약 위반이 시간에 따라 매우 이질적임을 나타냅니다. 고결함 단계를 선택적으로 보정하는 것은 특히 결함 프로파일이 변동성이 클 때 균일한 전략보다 일관되게 우수한 성능을 발휘합니다.

의의 및 주장

본 논문은 실현 가능성만 강제하는 것만으로는 의도된 제약 샘플링 역학을 유지하기에 부족하다고 주장합니다. 주요 기여는 제약 조건 타이밍이 생성적 샘플링의 근본적인 자유도임을 입증한 것입니다.

저자들은 다음과 같이 주장합니다:

• 투영은 단순한 실현 가능성 연산이 아니라 역학에 대한 개입입니다. 이를 지연시키는 것은 미래 업데이트가 계산되는 상태들을 변경합니다.
• 적응적 스케줄링은 실무자들이 균일하게 또는 끝에서만 보정 노력을 기울이는 대신, 가장 중요한 곳 (고결함 영역) 에 보정 노력을 집중할 수 있게 합니다.
• 이 접근법은 모델에 구애받지 않으며, 투영을 통한 기울기 계산을 요구하지 않고, 결함 평가 이상의 무시할 수 있는 오버헤드만 도입합니다.

이 연구는 미래의 제약 생성이 실현 가능성 연산을 궤적 수준의 개입으로 취급해야 함을 시사합니다. 실현 가능한 샘플에 도달하기 위해 취해진 경로가 샘플 자체만큼이나 중요하다는 점을 인식해야 합니다.