AutoRegressive Generation with B-rep Holistic Token Sequence Representation

1. 연구 배경 및 문제점 (Problem)

• 배경: 경계 표현 (Boundary Representation, B-rep) 은 CAD(Computer-Aided Design) 분야에서 3D 고체 모델을 표현하는 표준적인 방식입니다. 최근 CAD 자동화 및 학습을 위해 B-rep 데이터 생성 연구가 활발히 진행되고 있습니다.
• 기존 방법의 한계:
  • 분리된 처리 (Decoupled Pipelines): 기존 방법들은 기하학적 특징 (Geometry) 과 위상적 특징 (Topology) 을 분리하여 모델링하거나, 단계별 (Stage-wise) 학습을 수행했습니다. 이는 모델의 복잡성을 증가시키고 기하학과 위상 간의 상호 의존성을 온전히 포착하지 못하게 합니다.
  • 그래프 기반 표현의 제약: B-rep 을 그래프로 표현하는 방식은 Transformer 와 같은 시퀀스 기반 생성 모델 (Sequence-based Generative Framework) 을 적용하는 것을 어렵게 만듭니다. Transformer 는 순차적 입력을 요구하는데, 그래프 구조는 이를 직접적으로 처리하기 어렵기 때문입니다.
  • 결합의 부재: 기존 접근법들은 기하학과 위상을 통합된 형태로 표현하지 못해, 효율적인 엔드 - 투 - 엔드 (End-to-End) 생성이 불가능했습니다.

2. 제안 방법론: BrepARG (Methodology)

저자들은 B-rep 의 기하학과 위상을 통합된 토큰 시퀀스 (Holistic Token Sequence) 로 인코딩하여, Transformer 기반의 자기회귀 (Autoregressive) 생성 모델을 적용할 수 있는 프레임워크인 BrepARG를 제안했습니다.

가. 통합 토큰화 (Holistic Tokenization)

B-rep 을 3 가지 유형의 토큰으로 변환합니다:

1. 기하학 토큰 (Geometry Tokens):
   • 면 (Face) 과 모서리 (Edge) 의 기하학적 특징을 UV 파라미터 도메인에서 샘플링합니다.
   • VQ-VAE (Vector Quantized Variational Autoencoder) 의 인코더 잠재 공간 (Latent Space) 을 k-NN 검색을 통해 코드북 인덱스로 매핑하여 이산화된 토큰으로 변환합니다.
2. 위치 토큰 (Position Tokens):
   • 면과 모서리의 3D 위치 정보 (Bounding Box) 를 표현합니다.
   • 기존 VQ-VAE 방식의 정확도 부족 문제를 해결하기 위해, 균일 스칼라 양자화 (Uniform Scalar Quantization) 알고리즘을 새로 설계하여 6 개의 좌표값을 직접 이산 인덱스로 변환합니다.
3. 위상 토큰 (Topology Tokens):
   • 면과 모서리 간의 연결 관계를 표현합니다.
   • 각 면에 고유한 면 인덱스 토큰 (Face Index Token) 을 할당하고, 모서리 토큰에는 해당 모서리를 공유하는 두 개의 면 인덱스를 포함시켜 위상적 연결성을 명시적으로 인코딩합니다.

나. 시퀀스 구성 (Sequence Construction)

생성 모델의 효율성을 높이기 위해 위상 정보를 고려한 계층적 시퀀스 구성 전략을 사용합니다:

1. 블록 구성: 각 면과 모서리에 대해 위치, 기하학, 위상 토큰을 조합하여 '면 블록 (Face Block)'과 '모서리 블록 (Edge Block)'을 만듭니다.
2. 블록 순서화 (Sequentialization):
   • 면 순서화: 위상적으로 인접한 면들이 시퀀스 내에서 가까이 오도록 DFS(깊이 우선 탐색) 기반 정렬을 적용합니다. 고차수 (High-degree) 면을 먼저 선택하고, 저차수 이웃을 우선 방문하는 방식을 사용합니다.
   • 모서리 순서화: 각 모서리가 연관된 면과 가까이 위치하도록 MAX-IDX-A 알고리즘을 사용하여 정렬합니다. 이는 인접 면의 최대 인덱스를 기준으로 오름차순 정렬하여 주의 범위 (Attention Span) 를 줄이고 장기 의존성을 완화합니다.
   • 재인덱싱 (Re-indexing): 일반화 성능을 높이기 위해 면 인덱스에 무작위 값을 더한 후 모듈로 연산을 수행하여 위상 인코딩을 무작위화합니다.
3. 최종 시퀀스: START 토큰, 정렬된 면 블록 시퀀스, SEP 구분자, 정렬된 모서리 블록 시퀀스, END 토큰을 연결하여 전체 B-rep 의 통합 시퀀스를 완성합니다.

다. 생성 모델 (Generation Model)

• 아키텍처: 디코더 전용 (Decoder-only) Transformer 를 사용합니다.
• 학습 방식: 다음 토큰 예측 (Next-token Prediction) 태스크를 통해 통합된 토큰 시퀀스의 분포를 학습합니다. Causal Masking 을 적용하여 자기회귀적으로 생성합니다.
• 디토큰화 (Detokenization): 생성된 시퀀스를 B-rep 모델로 복원하기 위해 VQ-VAE 디코더와 위치 양자화 역변환을 적용하고, Union-Find 기반의 클러스터링 알고리즘을 사용하여 정점 (Vertex) 정보를 추론하여 최종 B-rep 솔리드를 구성합니다.

3. 주요 기여 (Key Contributions)

1. 통합 토큰 시퀀스 표현: B-rep 의 이질적인 기하학과 위상 정보를 단일 토큰 시퀀스로 인코딩하는 최초의 방법을 제안하여, 전통적인 방식의 분열 문제를 해결했습니다.
2. 자기회귀 생성 프레임워크: 멀티 스테이지 파이프라인을 제거하고 Transformer 의 자기 주의 (Self-attention) 메커니즘을 통해 기하학과 위상 구조를 동시에 학습하는 효율적인 엔드 - 투 - 엔드 생성 모델을 개발했습니다.
3. 성능 입증: DeepCAD 및 ABC 데이터셋에서 기존 최첨단 (SOTA) 방법들보다 우수한 성능을 달성했음을 실험을 통해 증명했습니다.

4. 실험 결과 (Results)

• 데이터셋: DeepCAD(80,509 개), Furniture(1,065 개), ABC(105,798 개) 데이터셋을 사용했습니다.
• 성능 지표:
  • DeepCAD 무조건부 생성: Coverage(COV) 75.45%, Validity(유효성) **87.60%**를 기록하여 기존 방법 (BrepGen: 68.23%, DTGBrepGen: 79.80%) 을 모두 상회했습니다.
  • 분포 지표: MMD(최소 매칭 거리) 와 JSD(제논 - 샨논 발산) 에서도 최상의 성능을 보였습니다.
• 효율성:
  • 학습 시간: DeepCAD 데이터셋에서 4 개의 NVIDIA H20 GPU 를 사용하여 약 1.2 일 만에 학습 완료 (기존 방법 대비 빠름).
  • 추론 시간: 단일 RTX 4090 에서 B-rep 당 약 1.5 초 소요.
• 조건부 생성: Furniture 데이터셋에서 클래스 조건부 생성 (Class-conditioned Generation) 도 성공적으로 수행하여 다양한 가구 형태의 B-rep 을 생성할 수 있음을 보였습니다.

5. 의의 및 결론 (Significance)

이 연구는 B-rep 생성 분야에서 그래프 기반 접근법에서 시퀀스 기반 접근법으로의 패러다임 전환을 이끌었습니다.

• 기술적 의의: B-rep 의 복잡한 위상 구조를 Transformer 이 처리할 수 있는 시퀀스 형태로 변환하는 방법을 제시함으로써, 대규모 언어 모델 (LLM) 에서의 자기회귀 생성 기술이 3D CAD 설계 영역으로 확장될 수 있음을 입증했습니다.
• 실용적 가치: 학습 및 추론 속도가 빠르고 생성된 모델의 유효성 (Validity) 이 높아, 실제 CAD 자동화 및 생성형 설계 도구 개발에 즉시 적용 가능한 높은 잠재력을 가집니다.
• 미래 전망: 통합된 토큰 시퀀스 표현은 B-rep 생성뿐만 아니라 편집, 변환, 최적화 등 다양한 CAD 관련 태스크에 새로운 방향을 제시합니다.

요약하자면, BrepARG는 B-rep 의 기하학과 위상을 통합된 시퀀스로 표현하여 Transformer 기반 자기회귀 모델을 적용함으로써, 기존 방법들의 한계를 극복하고 SOTA 성능과 높은 효율성을 동시에 달성한 획기적인 연구입니다.