KDH-CAD: Knowledge-data hybrid CAD learning under data scarcity

기술 요약: KDH-CAD

문제 정의
컴퓨터 지원 설계(CAD) 분야의 딥러닝은 근본적으로 데이터 부족 문제에 직면해 있습니다. 자연어 나 이미지와 달리, 실제 산업용 CAD 데이터는 독점적 제한 사항과 모델링에 필요한 높은 전문성으로 인해 대규모로 수집하기가 매우 어렵습니다. ABC, SketchGraphs와 같은 합성 데이터셋이 존재하지만, 이들은 종종 실제 세계의 설계 의도, 피처 히스토리(feature history), 기능적 제약 조건을 제대로 반영하지 못하여 실무 적용에 한계가 있습니다. 결과적으로 학습 기반의 CAD 방법론은 데이터가 풍부한 다른 분야에 비해 뒤처져 있습니다. 이를 합성 데이터 스케일링이나 퓨샷 러닝(few-shot learning)을 통해 완화하려는 기존의 접근 방식들은 구조화된 도메인 지식을 통합하는 능력이 부족하거나, 단일 부품 범주 내의 기하학적 가변성이 순수 데이터 기반 모델을 혼란스럽게 만드는 "개념-기하학 불일치(concept-geometry mismatch)" 문제를 겪습니다.

방법론: KDH-CAD
저자들은 CAD 학습을 데이터 부족 상황에서의 지식 완성 및 보정(knowledge completion and calibration) 문제로 재정의하는 프레임워크인 KDH-CAD(Knowledge–Data Hybrid CAD learning)를 제안합니다. KDH-CAD는 방대한 데이터셋에 의존하는 대신 세 가지 구성 요소를 통합합니다:

1. 사전 학습된 파운데이션 모델: 특히, 전이 가능한 잠재 표현 공간을 제공하는 시각-언어 모델(VLM)인 Qwen3-VL-2B-Instruct를 사용합니다.
2. 구조화된 도메인 지식: 기계 설계 교과서와 튜토리얼 영상에서 추출하여 "공학 지식 트리플릿(engineering knowledge triplets: 정형 용어, 설명, 시각적 시연)"으로 조직화된 지식입니다.
3. 제한된 레이블 데이터: 보정을 위해 사용되는 소수의 작업 특화 CAD 샘플입니다.

이 프레임워크는 두 가지 주요 단계로 작동합니다:

• 지식 인출 및 완성 (Knowledge Eliciting and Completion):
  VLM은 구조화된 공학 지식 트리플릿을 조건으로 하여 "지식 임베딩"을 추출합니다. 이 과정은 일반적인 사전 학습 코퍼스에서는 약하게 표현되거나 억제되어 있는 CAD 관련 개념(예: 기어나 플랜지와 같은 특정 부품 유형)을 끌어냅니다. 권위 있는 정의와 시각적 예시로 VLM을 고정(anchoring)함으로써, 모델은 일반적인 시각적 특징이 아닌 정형화된 CAD 개념을 나타내는 임베딩을 생성합니다.

• 제한된 데이터를 통한 지식 보정 (Knowledge Calibration with Limited Data):
  추상적 개념과 타겟 작업의 특정 기하학적 가변성 사이의 불일치를 해결하기 위해 경량화된 **지식 보정 네트워크(Knowledge Calibration Network)**가 도입됩니다. 이 네트워크는 파운데이션 모델을 동결(frozen)한 상태로 유지하며 두 가지 특정 메커니즘을 학습합니다:

  1. 시프트 벡터 서브모듈 (Shift-Vector Submodule): 타겟 데이터셋의 분포를 바탕으로 각 개념에 대한 가산 시프트 벡터(additive shift vectors)를 학습합니다. 이는 거대한 파운데이션 모델을 미세 조정(fine-tuning)하지 않고도, 기하학적 가변성(예: "브래킷"의 서로 다른 형태)을 고려하여 지식 임베딩을 재중심화합니다.
  2. 교차 주의(Cross-Attention) 서브모듈: 시프트된 지식 임베딩을 입력 데이터 임베딩(CAD 부품의 다중 뷰 렌더링 이미지로부터 유도됨)과 정렬합니다. 데이터는 쿼리(query) 역할을 하여 가장 관련 있는 지식 개념에 가중치를 부여하고 집계함으로써, 견고하고 작업에 정렬된 표현을 생성합니다.

시스템은 **부품 분류(part classification)**를 위해 구현되었으며, 클래스 레이블뿐만 {만} 알라인된 지식을 바탕으로 VLM이 생성한 의미론적 설명(semantic description)을 함께 출력한다는 점이 독특합니다.

주요 기여

1. 프레임워크 도입: 데이터 부족 문제를 해결하기 위해 사전 학습된 파운데이션 모델, 구조화된 도메인 지식, 최소한의 레이블 데이터를 결합한 하이브리드 프레임워크인 KDH-CAD를 제안했습니다.
2. 새로운 부품 분류 방법: 수만 개의 샘플이 필요한 기존 방식과 대조적으로, 단 수백 개의 훈련 샘플만으로 최첨단 성능(SOTA)을 달리는 구체적인 구현 방식을 제시했습니다.
3. 데이터 스케일링의 대안: 구조화된 도메인 지식을 통합하는 것이 합성 또는 실제 CAD 데이터셋의 규모를 키우는 것의 실질적이고 효과적인 대안임을 경험적으로 입증했습니다.

실험 결과
본 방법론은 두 가지 실제 기계 부품 분류 데이터셋인 TMCAD(9,799개 모델, 10개 카테고리)와 FabWave(8개 카테고리의 서브셋)에서 평가되었습니다.

• 저데이터 성능: K-DHC-CAD는 TMCAD에서 250개의 훈련 샘플만으로 92.6%의 정확도를, 1,000개 샘플로 95.8%의 정확도를 달성했습니다. 이 성능은 10배에서 80배 더 큰 데이터셋으로 학습된 기존의 최첨단 베이스라인들(UV-Net, AAGNet, BRT)과 대등하거나 이를 능가합니다.
• 견고성: 이 방법은 10개의 무작위 데이터 분할(split)에 걸쳐 편차가 거의 없는 일관된 정확도를 보여주었으며, 이는 샘플 선택에 대한 견고성을 나타냅니다.
• 검색 능력: CAD 모델 검색 작업에서 KDH-CAD는 1,000개의 샘플만으로 96.18%의 Recall@1을 달성하였으며, 이는 10,000개의 샘플로 학습된 베이스라인보다 거의 10 퍼센트 포인트 높은 수치입니다.
• 의미론적 출력: 클래스 인덱스만을 출력하는 베이스라인들과 달리, KDH-CAD는 분류된 부품에 대해 해석 가능한 의미론적 설명(카테고리, 기하학적 형태, 기능)을 성공적으로 생성했습니다.
• 절제 연구 (Ablation Studies): 도메인 지식이나 보정 모듈(시프트 벡터 및 교차 주의)을 제거했을 때 성능이 크게 저하되었으며, 이는 지식 인출과 기하학적 보정이 모두 필수적임을 확인시켜 줍니다.

의의 및 주장
본 논문은 KDH-CAD가 데이터 효율적인 CAD 학습을 위한 원칙적이고 실용적인 방향을 제공한다고 주장합니다. CAD 학습을 지식 완성 작업으로 취급함으로써, 확보하기 어려운 대규모 고품질 CAD 데이터셋에 대한 의존도를 크게 낮췄습니다. 저자들은 이 방법이 공학도가 학습하는 과정, 즉 권위 있는 참고 문헌으로부터 개념을 습득하고 대표적인 연습 문제를 통해 이를 보정하는 과정을 모방한다고 언급합니다.

그러나 저자들은 한계점에 대해서는 겸허한 태도를 보입니다. 이들은 일반적인 도메인 지식(교과서/영상)이 정형화된 구조를 다루기 때문에, 매우 복잡하거나 흔치 않은 부품의 경우 전문적이고 응용 중심적인 변형을 놓칠 수 있어 어려움을 겪을 수 있음을 인정합니다. 저자들은 이러한 에지 케이스(edge cases)를 해결하기 위해 향후 연구에서 기업 고유의 지식(잠재적으로 연합 학습을 통해)을 통합할 수 있다고 제안합니다. 또한, 현재 구현은 네이티브 CAD 토폴로지(예: B-rep)보다는 렌더링된 다중 뷰 이미지를 활용하고 있으나, 핵심 프레임워크 자체가 이미지 입력에만 국한된 것은 아닙니다.