⚡ electrical engineering

HardFlow: Hard-Constrained Sampling for Flow-Matching Models via Trajectory Optimization

이 논문은 생성 모델(Flow-matching)의 샘플링 과정을 궤적 최적화(Trajectory Optimization) 문제로 재정의하여, 샘플의 품질을 유지하면서도 복잡한 제약 조건을 정확하게 만족시키는 새로운 프레임워크인 'HardFlow'를 제안합니다.

원저자: Zeyang Li, Kaveh Alim, Navid Azizan

게시일 2026-04-28

📖 2 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Zeyang Li, Kaveh Alim, Navid Azizan

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

1. 기존 방식의 문제점: "너무 깐깐한 엄격한 선생님"

기존의 AI 방식(Projection-based)은 마치 **'매 순간마다 자를 대고 선을 긋는 아주 깐깐한 선생님'**과 같습니다.

예를 들어, 로봇이 장애물을 피해 목적지까지 가는 길을 그린다고 해봅시다. 기존 방식은 로봇이 한 발자국 움직일 때마다 "어! 선 넘었어! 다시 돌아와!"라며 매 순간 강제로 경로를 수정합니다.

문제점: 이렇게 매 순간 너무 엄격하게 간섭하다 보니, 로봇이 원래 가려던 자연스러운 움직임이 망가져 버립니다. 결국 목적지에는 도착할지 몰라도, 움직임이 뚝뚝 끊기거나 아주 어색하고 비효율적인 경로로 가게 되죠. (마치 춤을 추는데 발을 뗄 때마다 교정받는 것과 같습니다.)

2. HardFlow의 아이디어: "목적지만 정확히 맞추는 내비게이션"

이 논문에서 제안하는 **'HardFlow'**는 방식이 완전히 다릅니다. 이 방식은 **'최종 목적지의 규칙만 확실히 체크하는 스마트한 내비게이션'**입니다.

로봇이 움직이는 중간 과정에서는 최대한 자유롭게, 원래 배우던 대로 자연스럽게 움직이도록 둡니다. 대신, **"중간 과정은 좀 자유롭게 가더라도, 마지막 도착 지점만큼은 반드시 규칙(장애물 없는 곳, 특정 모양 등)을 완벽하게 지켜야 해!"**라고 명령하는 것이죠.

핵심 원리 (궤적 최적화): 중간 과정은 최대한 원래 AI가 하던 대로(자연스럽게) 유지하면서, 마지막 순간에 규칙을 어기지 않도록 전체적인 '경로(궤적)'를 수학적으로 아주 매끄럽게 계산해서 살짝만 틀어줍니다.

3. 어떻게 이게 가능한가요? (비유: 화살 쏘기)

이 기술을 **'양궁'**에 비유해 보겠습니다.

기존 방식: 화살이 날아가는 도중에 바람이 불거나 화살이 흔들리면, 공중에서 손을 뻗어 화살을 계속 툭툭 건드려 방향을 잡으려 합니다. 화살은 결국 과녁에 맞겠지만, 날아가는 모양이 아주 이상해지겠죠.
HardFlow 방식: 화살을 쏘기 전에, **"어떻게 쏴야 마지막에 과녁 정중앙에 꽂히면서도 가장 아름다운 곡선을 그리며 날아갈까?"**를 미리 계산합니다. 화살이 날아가는 동안에는 건드리지 않고, 오직 '최종 도착 지점'과 '가장 효율적인 곡선'에만 집중해서 쏘는 것입니다.

4. 이 기술이 왜 대단한가요? (결과)

논문에서는 세 가지 분야에서 실험을 했습니다.

로봇 팔: 장애물을 피해 물건을 집어야 할 때, 기존 방식은 로봇이 덜덜 떨거나 엉뚱한 길로 갔지만, HardFlow는 아주 부드럽고 안전하게 장애물을 피해 갑니다.
미로 찾기: 미로의 벽에 부딪히지 않으면서도 가장 빠른 길을 찾아냅니다.
사진 편집: 사람 얼굴 사진을 수정할 때(예: "웃는 얼굴로 바꿔줘"), 기존 방식은 얼굴을 너무 많이 고쳐서 아예 다른 사람이 되어버리기도 했습니다. 하지만 HardFlow는 **"웃는 표정은 만들되, 원래 그 사람의 특징(정체성)은 그대로 유지해!"**라는 까다로운 규칙을 완벽하게 지켜냅니다.

요약하자면:

HardFlow는 AI가 무언가를 생성할 때, "중간 과정은 최대한 자연스럽게 두되, 마지막 결과물만큼은 우리가 정한 엄격한 규칙을 100% 완벽하게 지키도록" 경로를 수학적으로 설계해 주는 아주 똑똑한 가이드라인입니다. 덕분에 AI는 더 자연스러우면서도(Quality), 동시에 안전하고 정확하게(Constraint Satisfaction) 임무를 수행할 수 있게 되었습니다.

[기술 요약] HardFlow: 궤적 최적화를 통한 Flow-Matching 모델의 강제 제약 조건 샘플링

1. 문제 정의 (Problem Statement)

최근 Diffusion 및 Flow-matching 모델은 생성 모델링 분야에서 혁신적인 성과를 거두고 있으나, 실제 응용 분야(로봇 공학, 이미지 편집, PDE 제어 등)에서는 **'강제 제약 조건(Hard Constraints)'**을 만족해야 하는 필수적인 요구사항이 존재합니다.

기존 방식의 한계: 기존의 투영 기반(Projection-based) 방식은 샘플링 경로 전체(Pathwise)를 제약 조건 매니폴드에 맞추려고 시도합니다. 이는 샘플링 경로를 불필요하게 제한하여 생성물의 품질(Sample Quality)을 저하시키고, 데이터 분포로부터의 이탈을 초래합니다.
핵심 과제: 샘플링 과정의 중간 단계는 자유롭게 두되, 최종 생성된 샘플(Terminal State)만이 정확히 제약 조건을 만족하도록 하면서도, 동시에 원하는 속성(Reward/Cost)을 최적화하고 원래의 데이터 분포를 최대한 유지하는 방법을 찾는 것입니다.

2. 방법론 (Methodology)

본 논문은 강제 제약 조건 샘플링 문제를 궤적 최적화(Trajectory Optimization) 문제로 재정의합니다.

A. 최적 제어 공식화 (Optimal Control Formulation)

샘플링 경로를 제어 입력( $u_t$ )이 포함된 상미분 방정식(ODE)으로 모델링합니다.

목적 함수: 최종 상태의 비용( $C(x_1)$ )을 최소화함과 동시에, 제어 입력의 크기( $\int \|u_t\|^2 dt$ )를 최소화하여 원래의 모델(Nominal distribution)로부터의 이탈을 방지합니다.
제약 조건: 오직 최종 시간( $t=1$ )에서의 상태 $x_1$ 에 대해서만 $h(x_1) \leq 0$ 조건을 부과합니다.

B. HardFlow 알고리즘 설계

연속 시간 문제를 이산 시간 문제로 변환하고, 계산 효율성을 위해 다음과 같은 단계적 변환을 거칩니다.

MPC(Model Predictive Control) 분해: 긴 시간 지평(Long-horizon)의 최적화 문제를 매 단계 짧은 구간을 최적화하는 일련의 단기 문제(Receding-horizon subproblems)로 분해합니다.
사후 확률 평균(Posterior Mean) 활용: Flow-matching 모델의 구조적 특성을 이용하여, 현재 상태 $x_i$ 에서 예측되는 최종 상태의 근사치( $\hat{x}_N$ )를 계산합니다.
역 재매개변수화(Reverse Reparameterization): 제약 조건이 복잡한 현재 상태( $x_{i+1}$ ) 대신, 예측된 최종 상태( $\hat{x}_N$ )를 직접 최적화 변수로 사용합니다. 이를 통해 비선형성이 매우 높은 복잡한 제약 영역 문제를 다루기 쉬운 형태로 변환합니다.
단일 단계 고정점 반복(One-step Fixed-point Iteration): 계산 복잡도를 낮추기 위해 역함수 계산을 단 한 번의 신경망 순전파(Forward pass)로 근사하여 효율적인 알고리즘을 완성합니다.

3. 주요 기여 (Key Contributions)

새로운 프레임워크 제안: 샘플링을 궤적 최적화 관점에서 접근하여, 경로 전체가 아닌 최종 상태에만 제약을 거는 최소 침습적(Minimally invasive) 방식을 도입했습니다.
확장 가능한 알고리즘 (HardFlow): MPC와 역 재매개변수화를 결합하여, 고차원 데이터(이미지 등)에서도 효율적으로 작동하는 실용적인 알고리즘을 개발했습니다.
제어 이론적 분석: 제안된 근사 모델(Surrogate)과 원래의 최적화 문제 사이의 근사 오차(Approximation error)에 대한 수학적 상한(Bound)을 증명했습니다.
통합적 최적화: 제약 조건 만족(Constraint satisfaction), 분포 일관성(Distribution consistency), 샘플 품질(Sample quality)을 하나의 통합된 프레임워크 내에서 동시에 다룰 수 있음을 보여주었습니다.

4. 실험 결과 (Results)

다양한 도메인에서 기존 방식(Projection-based, Gradient Guidance 등)과 비교 실험을 수행했습니다.

로봇 조작 (Robotic Manipulation): 장애물을 피하며 목표 지점에 도달하는 실험에서 **1.00의 완벽한 안전율(Safety Rate)**을 기록하며 타 모델을 압도했습니다.
미로 탐색 (Maze Navigation): 장애물 충돌 없이 가장 높은 점수(Score)를 기록하며 제약 준수와 효율성을 동시에 입증했습니다.
PDE 제어 (Burgers' Equation): 물리적 경계 조건을 완벽하게 준수하면서도 제어 에너지를 최소화하는 성능을 보였습니다.
텍스트 기반 이미지 편집 (Text-guided Image Editing): 인물의 정체성(Identity)을 유지해야 하는 LPIPS 제약 조건을 100% 만족하면서도, 텍스트 프롬프트에 부합하는 높은 CLIP 점수를 달성했습니다.

5. 의의 (Significance)

HardFlow는 생성 모델의 **'제어 가능성(Controllability)'**을 한 단계 끌어올렸습니다. 기존 방식들이 단순히 생성된 결과물을 사후에 수정하거나 경로를 강제로 꺾는 방식이었다면, HardFlow는 최적 제어 이론을 통해 생성 과정 자체를 목적에 맞게 정교하게 유도합니다. 이는 로봇 공학의 안전한 경로 계획, 물리 법칙을 준수해야 하는 과학적 시뮬레이션, 정체성 유지가 중요한 이미지 편집 등 고도의 정밀함이 요구되는 실무 분야에 매우 강력한 도구가 될 것입니다.