기술 요약: 롤백 없는 안정적인 벽돌 구조 생성

문제 정의

자기회귀 모델이 3D 생성 분야에서 진전을 이루었지만, 이산적 구성 요소 (예: LEGO® 벽돌) 로부터 물리적으로 안정적인 구조를 생성하는 것은 여전히 중요한 과제입니다. BrickGPT 와 같은 기존 접근법은 추론 중 물리적 안정성을 강제하기 위해 외부 물리 시뮬레이터에 의존합니다. 이러한 방법들은 "롤백 기반" 패러다임을 사용합니다. 생성된 벽돌 배치가 불안정하거나 충돌을 일으키는 경우, 시스템은 거부 샘플링 (rejection sampling) 을 트리거하고 토큰을 벽돌 하나씩 롤백하여 재샘플링합니다. 이 과정은 자기회귀 디코딩의 연속적 시퀀스 생성 가정을 위반하여 생성 품질 저하, 모델 붕괴, 그리고 심각한 추론 병목 현상 (예: 샘플당 약 900 초 소요) 을 초래합니다. 또한, 물리적으로 유효한 데이터셋에 대한 표준 지도 미세 조정 (SFT) 은 토큰 모방을 통해 안정성 원리를 암묵적으로만 내재화할 뿐, 조립 결정의 인과적 결과를 명시적으로 모델에 가르치지 못합니다.

방법론: STABLE 프레임워크

저자들은 물리적 유효성 강제를 추론 시 수정에서 훈련 시 정책 최적화로 전환하는 STABLE 프레임워크를 제안합니다. 핵심 통찰은 토큰 수준의 모방에서 구조 수준의 정책 학습으로 안정적인 벽돌 생성을 재정의하는 것이며, 이는 물리적 보상에 기반한 강화 학습 (RLPR) 을 통해 이루어집니다.

이 프레임워크는 두 단계로 운영됩니다:

1. 1 단계: 형태 재구성을 위한 지도 미세 조정 (SFT)

   • 목표: 벽돌 생성의 기본 문법과 목표 기하학을 유효한 벽돌 시퀀스로 변환하는 능력을 모델에 기본 골조로 제공합니다.
   • 과정: 사전 훈련된 지시 따르기 모델 (Qwen3.5-2B) 을 PointCloud2Brick 데이터셋으로 미세 조정합니다. 이 데이터셋은 목표 기하학을 나타내는 볼륨화된 3D 포인트 클라우드와 벽돌 토큰의 자기회귀 시퀀스 (형식: h×w(x,y,z)) 를 짝짓습니다.
   • 결과: 모델은 포인트 클라우드를 구문 분석하고 형태 관련 벽돌 시퀀스를 생성하는 법을 배우지만, 물리적 안정성을 명시적으로 최적화하지는 않아 충돌이나 분리된 구성 요소가 자주 발생합니다.

2. 2 단계: 물리적 보상에 기반한 강화 학습 (RLPR)

   • 목표: 추론 시 외부 시뮬레이터 없이 물리적 사전 지식 (충돌 회피, 연결성, 맞물림) 을 내부화하도록 정책을 최적화합니다.
   • 과정: 모델은 그룹 상대적 정책 최적화 (GRPO) 를 사용합니다. 주어진 포인트 클라우드 프롬프트에 대해 정책은 여러 후보 벽돌 시퀀스를 샘플링합니다. 각 완성된 시퀀스는 벽돌 조립체로 구문 분석되어 네 가지 결정론적 조립 수준 보상에 대해 평가됩니다:
     • 충돌 패널티 ($R_{col}$): 벽돌 간의 볼륨 수준 중첩을 패널티로 부과합니다.
     • 형태 적합성 보상 ($R_{shape}$): 생성된 구조와 목표 포인트 클라우드 간의 부피 기반 교차율 (Intersection-over-Union, IoU) 을 측정합니다.
     • 맞물림 보상 ($R_{inter}$): 상부 층 벽돌이 적어도 두 개의 서로 다른 하부 층 벽돌을 가로지르도록 장려하여, 약한 수직 적층이 아닌 기계적 견고성을 보장합니다.
     • 연결성 보상 ($R_{conn}$): 구조가 분리되거나 떠 있는 조각이 아닌 단일 일관된 조립체를 형성하도록 보장합니다.
   • 결과: 완성된 구조로부터의 피드백은 토큰 수준 결정으로 역전파되어, 모델이 단일 패스로 안정적인 조립체를 생성하도록 가르칩니다.

추론: 훈련이 완료되면 STABLE 은 롤백 없는 추론을 수행합니다. 외부 물리 시뮬레이터, 거부 샘플링, 또는 벽돌 하나씩의 롤백 없이 중단 없는 자기회귀 패스로 완전한 벽돌 시퀀스를 방출합니다.

데이터셋

저자들은 21 개의 ShapeNet 카테고리 전반에 걸쳐 47,389 개의 물리적으로 안정적인 벽돌 구조로 구성된 StableText2Brick 에서 파생된 PointCloud2Brick 데이터셋을 소개합니다.

• 입력: 목표 구조의 볼륨 점유율에서 파생된 토큰화된 포인트 클라우드 (좌표 $(x,y,z)$).
• 출력: 방향이 지정된 발자국과 앵커 위치를 나타내는 벽돌 토큰의 자기회귀 시퀀스.
• 제약 조건: 벽돌은 높이가 1 단위이며, $20 \times 20 \times 20$ 볼륨 세계 내에서 8 가지 유형 (14 가지 방향 변형 생성) 의 라이브러리에서 선택됩니다.

주요 기여

1. 패러다임 전환: 이 논문은 물리적으로 안정적인 이산적 3D 생성이 외부 추론 시 시뮬레이터와 탐욕적 롤백 수정을 필요로 한다는 기존 관념에 도전합니다. RLPR 를 통해 안정성 인식 충돌 없는 생성이 생성 정책의 고유 능력으로 학습될 수 있음을 입증합니다.
2. 보상 시스템: 충돌, 형태, 맞물림, 연결성 제약을 통합한 포괄적인 물리 및 기하 인식 보상 시스템을 도입했습니다. 이는 실제 세계 벽돌 조립 사전 지식을 자기회귀 모델에 성공적으로 내재화합니다.
3. 롤백 없는 프레임워크: STABLE 은 거부 샘플링이나 벽돌 하나씩의 롤백 없이 구조적으로 안정적인 벽돌 조립 생성을 달성한 최초의 프레임워크로 제시되며, 높은 기하학적 및 구조적 품질을 유지하면서 추론 효율성을 크게 향상시킵니다.

실험 결과

PointCloud2Brick 테스트 분할에서 평가된 결과, STABLE 은 BrickGPT, LegoACE, 그리고 Llama-4 및 Qwen3.5-122B 와 같은 범용 LLM 을 포함한 베이스라인보다 상당한 개선을 보여줍니다:

• 안정성: SFT 전용 모델의 0.00 및 롤백 없는 기본 BrickGPT 의 0.10 과 비교하여 STABLE 은 0.99 의 충돌 없는 비율과 1.000 의 평균/최소 안정성을 달성합니다.
• 기하학적 충실도: 0.907 의 높은 볼륨 IoU를 유지하여 베이스라인과 비슷하거나 더 우수하며, 안정성 최적화가 형태 정확도를 희생하지 않음을 입증합니다.
• 구조적 품질: STABLE 은 0.97 의 연결성 비율과 0.722 의 맞물림 점수를 달성하여 일관된 구조를 형성하지 못하는 SFT 전용 모델을 크게 능가합니다.
• 추론 효율성: STABLE 은 롤백이 있는 BrickGPT 에 비해 추론 지연을 94% 줄입니다 (샘플당 57.64 초 vs 895.41 초).
• 절대 실험: 충돌 보상을 제거하면 충돌 없는 비율이 0.99 에서 0.72 로 하락합니다. 구조적 보상 (맞물림/연결성) 을 제거하면 높은 IoU 는 유지되지만 구조적 일관성이 떨어지므로, 모든 보상 구성 요소가 조립 가능한 구조를 위해 필요함이 확인됩니다.

중요성 및 주장

이 논문은 이산적 3D 물리적 실현 가능성이 보상 기반 사후 훈련을 통해 내재화될 수 있음을 STABLE 이 입증한다고 주장합니다. 물리적 평가를 추론 시 수정에서 훈련 시 정책 학습으로 이동시킴으로써, 모델은 동시에 형태 일관성, 충돌 없음, 연결성, 맞물림을 갖춘 조립체를 생성하는 법을 학습합니다.

저자들은 이 작업을 컴퓨터 지원 설계, 교육 도구, 로봇 조립 계획 등 응용 분야를 위한 더 효율적이고 접근 가능한 안정적인 구조 생성으로 나아가는 한 걸음으로 위치시킵니다. 그들은 이 방법이 비싼 추론 시 시뮬레이션에 대한 의존도를 줄이지만, 생성된 설계는 연구 및 창의적 시나리오를 위한 것이며 전문가 검증 없이 안전이 중요한 공학에 사용되어서는 안 된다고 명시적으로 언급합니다. 이 작업은 적절한 물리적 보상에 의해 안내될 때 구조적 안정성이 자기회귀 생성 모델에 의해 본질적으로 학습 가능함을 강조합니다.