KDH-CAD: Knowledge-data hybrid CAD learning under data scarcity

Technische Samenvatting: KDH-CAD

Probleemstelling
Deep learning in Computer-Aided Design (CAD) wordt fundamenteel beperkt door gegevensschaarste. In tegenstelling tot natuurlijke taal of afbeeldingen is authentieke industriële CAD-data moeilijk op grote schaal te verzamelen vanwege eigendomsbeperkingen en de vereiste hoge expertise voor modellering. Hoewel synthetische datasets (bijv. ABC, SketchGraphs) bestaan, slagen deze er vaak niet in om de werkelijke ontwerpintentie, de geschiedenis van kenmerken (feature history) en functionele beperkingen te vangen, wat hun toepasbaarheid in praktische scenario's beperkt. Als gevolg hiervan blijven leergestuurde CAD-methoden achter bij andere datarijke velden. Bestaande benaderingen die proberen dit te mitigeren via het opschalen van synthetische data of few-shot learning, missen vaak het vermogen om gestructureerde domeinkennis te integreren of lijden aan de "concept-geometrie mismatch", waarbij geometrische variabiliteit binnen een enkele onderdeelcategorie zuiver datagestuurde modellen in verwarring brengt.

Methodologie: KDH-CAD
De auteurs stellen KDH-CAD voor (Knowledge–Data Hybrid CAD learning), een framework dat CAD-leren onder gegevensschaarste herformuleert als een probleem van kenniscompletie en kalibratie. In plaats van te vertrouwen op massale datasets, integreert KDH-CAD drie componenten:

1. Pretrained Foundation Models: Specifiek een Vision-Language Model (VLM), Qwen3-VL-2B-Instruct, die een overdraagbare latente representatieruimte biedt.
2. Gestructureerde Domeinkennis: Afkomstig uit mechanische ontwerpliteratuur en tutorial-video's, georganiseerd in "engineering knowledge triplets" (Canonieke Terminologie, Beschrijving en Visuele Demonstratie).
3. Beperkte Gelabelde Data: Een kleine set taakspecifieke CAD-samples die worden gebruikt voor kalibratie.

Het framework werkt in twee primaire stadia:

• Kennisextractie en -completie (Knowledge Eliciting and Completion):
  Het VLM wordt geconditioneerd op de gestructureerde engineering knowledge triplets om "knowledge embeddings" te extraheren. Dit proces roept CAD-relevante concepten op (bijv. specifieke type onderdelen zoals tandwielen of flenzen) die vaak zwak geuit of onderdrukt zijn in de algemene pretraining corpus. Door het VLM te verankeren met autoritatieve definities en visuele voorbeelden, genereert het model embeddings die canonieke CAD-concepten vertegenwoordigen in plaats van generieke visuele kenmerken.

• Kenniskalibratie met Beperkte Data:
  Om de mismatch tussen abstracte concepten en specifieke geometrische variaties in de doeltaak aan te pakken, wordt een lichtgewicht Knowledge Calibration Network geïntroduceerd. Dit netwerk houdt het foundation model bevroren en leert twee specifieke mechanismen:

  1. Shift-Vector Submodule: Leert additieve shift-vectoren voor elk concept op basis van de distributie van de doeldataset. Dit hercentreert de kennis-embeddings om rekening te houden met geometrische variabiliteit (bijv. verschillende vormen van "beugels") zonder het massieve foundation model te finetunen.
  2. Cross-Attention Submodule: Stemt de verschoven kennis-embeddings af op de input-data embeddings (afgeleid van multi-view gerenderde afbeeldingen van CAD-onderdelen). De data fungeert als een query om de meest relevante kennisconcepten te wegen en te aggregeren, wat een robuuste, taak-uitgelijnde representatie produceert.

Het systeem wordt geïnstantieerd voor onderdeelclassificatie (part classification), waarbij het zowel een categorie-label als, uniek genoeg, een semantische beschrijving van het onderdeel genereert dat door het VLM is gegenereerd op basis van de uitgelijnde kennis.

Belangrijkste Bijdragen

1. Introductie van het Framework: Het voorstel van KDH-CAD, een hybride framework dat pretrained foundation models, gestructureerde domeinkennis en minimale gelabelde data combineert om het probleem van CAD-gegevensschaarste op te lossen.
2. Nieuwe Methode voor Onderdeelclassificatie: Een specifieke implementatie die state-of-the-art prestaties behaalt met slechts honderden trainingssamples, in contrast met bestaande methoden die tienduizenden nodig hebben.
3. Alternatief voor Data Scaling: Een empirisch bewijs dat het integreren van gestructureerde domeinkennis een praktisch en effectief alternatief is voor het opschalen van synthetische of real-world CAD-datasets.

Experimentele Resultaten
De methode werd geëvalueerd op twee real-world mechanische onderdeelclassificatie-datasets: TMCAD (9.799 modellen, 10 categorieën) en FabWave (subset van 8 categorieën).

• Prestaties bij Lage Datavolumes: KDH-CAD behaalde 92,6% nauwkeurigheid met slechts 250 trainingssamples en 95,8% met 1.000 samples op TMCAD. Deze prestaties evenaren of overtreffen state-of-the-art baselines (UV-Net, AAGNet, BRT) die getraind zijn op datasets die 10 tot 80 keer groter zijn.
• Robuustheid: De methode vertoonde consistente nauwkeurigheid over tien willekeurige data-splits met verwaarloosbare variantie, wat wijst op robuustheid tegen monsterselectie.
• Retrieval Vermogen: In taken voor het ophalen van CAD-modellen (CAD model retrieval) behaalde KDH-CAD een 96,18% Recall@1 met slechts 1.000 samples, waarmee het baselines die getraind zijn op 10.000 samples met bijna 10 procentpunten verslaat.
• Semantische Output: In tegen tegenover de baselines die alleen klasse-indices outputten, genereerde KDH-CAD succesvol interpreteerbare semantische beschrijvingen (categorie, geometrie, functie) voor geclassificeerde onderdelen.
• Ablatie-studies: Het verwijderen van domeinkennis of de kalibratiemodules (shift-vectoren en cross-attention) resulteerde in significante prestatiedalingen, wat bevestigt dat zowel kennisextractie als geometrische kalibratie essentieel zijn.

Betekenis en Claims
Het artikel claimt dat KDH-CAD een geprincieerd en praktisch richtinggevend kader biedt voor efficiënt CAD-leren met weinig data. Door CAD-leren te behandelen als een kenniscompletie-taak, vermindert de aanpak de afhankelijkheid van grootschalige, hoogwaardige CAD-datasets aanzienlijk, die vaak moeilijk te verkrijgen zijn. De auteurs merken op dat de methode het leerproces van een ingenieurstudent weerspiegelt: het verwerven van concepten uit autoritatieve bronnen en het kalibreren daarvan door middel van representatieve oefeningen.

De auteurs zijn echter bescheiden over de beperkingen. Ze erkennen dat de methode moeite kan hebben met zeer complexe of ongebruikelijke onderdelen, omdat de generieke domeinkennis (leerboeken/video's) canonieke structuren dekt maar gespecialiseerde, applicatie-afhankelijke varianten mogelijk mist. Ze suggereren dat toekomstig werk bedrijfsspecifieke kennis (mogelijk via federated learning) kan integreren om deze randgevallen aan te pakken. Daarnaast vertrouwt de huidige implementatie op gerenderde multi-view afbeeldingen in plaats van native CAD-topologie (bijv. B-rep), hoewel het kernframework niet inherent beperkt is tot beeldinvoer.