CAD-Tokenizer: Towards Text-based CAD Prototyping via Modality-Specific Tokenization

O artigo apresenta o CAD-Tokenizer, um novo framework que utiliza tokenização específica de modalidades e um VQ-VAE baseado em sequências para representar dados de CAD em tokens conscientes de primitivas, superando as limitações dos tokenizadores de linguagem padrão e melhorando significativamente a geração e edição de protótipos de CAD guiados por texto.

O essencial

Imagine que você é um arquiteto ou designer de produtos. Antigamente, para criar um objeto 3D no computador, você precisava desenhar cada linha, curva e bloco manualmente, como se estivesse construindo uma casa tijolo por tijolo, sem saber exatamente onde cada peça iria encaixar.

Hoje, com a Inteligência Artificial, a ideia é simples: você apenas descreve o que quer em texto (ex: "crie uma cadeira com pernas curvas") e o computador faz o resto. O problema é que os computadores atuais têm dificuldade em entender a "linguagem" dos desenhos técnicos (CAD) quando falamos com eles.

Aqui está a explicação do papel CAD-Tokenizer de forma simples, usando analogias:

1. O Problema: O Tradutor que "Quebra" as Frases

Imagine que você está tentando ensinar um robô a cozinhar.

• A forma antiga (Tokenizadores comuns): O robô recebe a receita escrita em palavras soltas. Se a receita diz "corte a cebola em 4 pedaços", o robô vê: "corte", "a", "cebola", "em", "4", "pedaços". Ele entende as palavras, mas não entende que "4 pedaços" é uma instrução única e importante. Ele pode cortar a cebola em 40 pedaços ou esquecer de cortar.
• No mundo do CAD: Os modelos de IA atuais tratam as instruções de desenho 3D como se fossem frases de um livro. Eles dividem comandos técnicos (como "extrusão" ou "arco") em pedacinhos aleatórios de letras. Isso faz com que a IA perca a noção da estrutura geométrica. É como tentar montar um quebra-cabeça olhando apenas para as bordas das peças, sem ver a imagem completa.

2. A Solução: O "CAD-Tokenizer" (O Tradutor Especializado)

Os autores criaram uma ferramenta chamada CAD-Tokenizer. Pense nele como um tradutor especializado que converte a linguagem técnica do desenho 3D em "blocos de construção" inteligentes.

• Em vez de palavras soltas: O CAD-Tokenizer agrupa as instruções em primitivas (blocos fundamentais).
  • Exemplo: Em vez de ver "l", "i", "n", "e" (linha), ele vê o bloco inteiro [LINHA]. Em vez de ver números soltos, ele vê o bloco [MEDIDA].
• A Analogia do LEGO:
  • IA Antiga: Recebe um saco de areia e tenta construir uma casa. É difícil e o resultado fica bagunçado.
  • CAD-Tokenizer: Recebe um saco de peças de LEGO pré-montadas (uma parede pronta, uma janela pronta, um telhado pronto). A IA só precisa decidir onde colocar cada peça. Isso torna o processo muito mais rápido, preciso e eficiente.

3. Como Funciona na Prática?

O sistema funciona em três etapas principais:

1. Compressão Inteligente (O VQ-VAE): Eles treinaram uma IA para olhar milhares de desenhos técnicos e aprender a "resumir" cada parte do desenho em um único código (um token). É como se o sistema dissesse: "Toda vez que vejo esse conjunto de linhas formando um arco, vou chamar isso de 'Arco-1'".
2. Ajuste Fino (O "Adapter"): Eles conectaram esse novo sistema de códigos ao cérebro da IA (o LLM, como o GPT). É como dar um novo manual de instruções para o cérebro, ensinando-o a falar a língua dos desenhos técnicos, e não apenas a língua humana.
3. O Guardião (Autômato de Estados): Para garantir que o desenho não fique "quebrado" (ex: uma parede flutuando no ar sem chão), o sistema usa um "guardião" (um autômato de estados finitos). Esse guardião verifica, a cada passo, se a próxima peça que a IA vai colocar faz sentido dentro das regras da física e da geometria. É como um professor que segura a mão do aluno enquanto ele desenha, impedindo que ele faça linhas que não podem existir.

4. O Resultado: O Que Isso Muda?

Com essa nova ferramenta, a IA consegue fazer duas coisas que antes eram difíceis de fazer juntas:

• Criar do zero: "Faça uma mesa redonda." (Geração)
• Editar o existente: "Pegue a mesa que eu fiz e adicione um gavetão." (Edição)

Antes, você precisava de um robô para criar e outro diferente para editar. Agora, com o CAD-Tokenizer, um único modelo consegue fazer tudo, entendendo melhor o que você quer e seguindo as instruções com muito mais precisão.

Resumo da Ópera:
O papel apresenta uma nova maneira de "ensinar" a Inteligência Artificial a desenhar objetos 3D. Em vez de falar com ela em "pedaços de palavras", eles ensinaram a IA a pensar em "blocos de construção geométricos". Isso torna a criação e a edição de protótipos industriais muito mais rápida, precisa e inteligente, como se a IA tivesse recebido um kit de LEGO em vez de um balde de areia.

Resumo técnico

Título: CAD-TOKENIZER: Rumo ao Prototipagem CAD Baseada em Texto via Tokenização Específica de Modalidade

1. O Problema

O CAD (Computer-Aided Design) é fundamental para a prototipagem industrial, onde os modelos são definidos não por coordenadas brutas, mas por sequências de operações construtivas (como esboços e extrusões). Embora existam trabalhos recentes explorando a geração de CAD a partir de texto (Text-to-CAD) e a edição de CAD baseada em texto, nenhum estudo anterior abordou um modelo unificado que realize ambas as tarefas simultaneamente.

O principal obstáculo para essa unificação reside na tokenização inadequada dos dados CAD pelos Large Language Models (LLMs) padrão:

• Fragmentação Semântica: Os tokenizadores padrão (baseados em BPE ou vocabulários de linguagem natural) decompõem sequências CAD em "pedaços de palavras" naturais (ex: [extru] [-sion]), fragmentando operações e parâmetros numéricos.
• Perda de Estrutura Geométrica: Isso impede que as camadas de atenção do modelo capturem dependências geométricas e estruturais significativas entre os primitivos CAD (linhas, arcos, extrusões).
• Ineficiência: A modelagem de sequências longas e complexas como texto puro é computacionalmente custosa e semanticamente ineficiente.

O objetivo do trabalho é criar um framework unificado que permita a geração e edição de CAD a partir de instruções de texto, superando as limitações dos tokenizadores genéricos.

2. Metodologia: CAD-Tokenizer

Os autores propõem o CAD-Tokenizer, um framework que utiliza uma estratégia de tokenização específica para a modalidade CAD, alinhada à natureza primitiva e estrutural dos dados de design. O processo é dividido em quatro etapas principais:

A. Tokenização Baseada em Primitivos (VQ-VAE)

Em vez de usar tokenizadores de linguagem natural, o modelo emprega um VQ-VAE (Vector Quantized Variational Autoencoder) pré-treinado:

• Agrupamento de Primitivos: O VQ-VAE comprime pares de sketch-extrusion (esboço-extrusão) em tokens discretos de nível primitivo.
• Pooling Específico: Diferente de VQ-VAEs tradicionais que agrupam toda a sequência em um único vetor latente, este utiliza uma camada de pooling específica para primitivos, gerando múltiplas representações discretas para cada par esboço-extrusão. Isso captura informações locais e contextuais.
• Vocabulário Compacto: O resultado é uma representação compacta e consciente da estrutura do CAD, onde cada token representa uma unidade semântica completa (ex: uma linha com seus parâmetros, ou uma operação de extrusão completa).

B. Alinhamento com LLMs (Adapters)

Para integrar os tokens do VQ-VAE a um LLM pré-treinado (como o LLaMA-3):

• Adapters Bidirecionais: São treinados adapters (camadas lineares) que mapeiam os vetores latentes do VQ-VAE para o espaço de embeddings do LLM e vice-versa.
• Reconstrução de Vetores: O treinamento dos adapters minimiza a perda de reconstrução de vetores, garantindo que os tokens discretos do CAD sejam reconhecidos nativamente pelo LLM sem a necessidade de re-treinar o backbone inteiro desde o zero.

C. Ajuste Fino (Fine-Tuning) Unificado

O backbone do LLM é ajustado finamente (usando LoRA) em um conjunto de dados unificado que inclui:

1. Text-to-CAD: Geração de sequências CAD do zero a partir de instruções.
2. CAD Editing: Modificação de sequências CAD existentes baseada em instruções.

• A compressão dos tokens CAD reduz drasticamente o comprimento da sequência de entrada, melhorando a eficiência do treinamento e permitindo que o modelo aprenda a transição entre criação e edição em um único modelo.

D. Decodificação Guiada por Autômato (FSA)

Durante a inferência, para evitar a geração de sequências CAD sintaticamente inválidas:

• FSA (Finite-State Automaton): Um autômato de estados finitos é implementado para formalizar as regras gramaticais da linguagem CAD.
• Mascaramento de Logits: A cada passo de geração, o FSA fornece máscaras que restringem os logits candidatos apenas a tokens que respeitam a sintaxe válida (ex: impedir que um número apareça onde uma operação booleana é esperada). Isso garante robustez e validade sintática.

3. Contribuições Principais

1. Primeiro Framework Unificado: É a primeira abordagem a tratar a prototipagem CAD baseada em texto como uma tarefa unificada (geração + edição) em um único modelo.
2. Tokenizador Específico de CAD: Desenvolvimento de um VQ-VAE baseado em primitivos que mapeia pares sketch-extrusion para tokens discretos, superando a fragmentação dos tokenizadores padrão.
3. Alinhamento Eficiente: Uso de adapters para integrar vocabulários de VQ-VAE a LLMs pré-treinados, permitindo a modelagem direta de relações entre primitivos.
4. Decodificação Estruturada: Introdução de uma estratégia de amostragem baseada em FSA que enforça a gramática CAD durante a geração, reduzindo erros sintáticos.

4. Resultados Experimentais

Os experimentos foram realizados nos conjuntos de dados SkexGen, CADFusion e CAD-Editor.

• Desempenho Quantitativo:

  • O CAD-Tokenizer superou significativamente tanto os modelos específicos de tarefa (como CADFusion para geração e CAD-Editor para edição) quanto os modelos de linguagem genéricos (Vanilla-LLaMA e GPT-4o).
  • Edição de CAD: Melhorou os escores F1 (Sketch e Extrusão) em cerca de 10 pontos em comparação com o estado da arte específico para edição.
  • Geração Text-to-CAD: Reduziu a Distância de Chamfer (CD) e melhorou a correspondência de informações sequenciais.
  • Eficiência: A compressão de tokens resultou em um treinamento mais rápido e eficiente.

• Desempenho Qualitativo:

  • O modelo demonstrou maior fidelidade na criação de objetos multifacetados e melhor aderência às instruções de edição (modificando a forma original conforme solicitado, em vez de apenas reproduzi-la).
  • Modelos baseados em tokenização padrão (Vanilla-LLaMA) falharam drasticamente, frequentemente gerando estruturas desalinhadas ou perdendo faces.

• Estudos de Ablação:

  • Confirmou-se que o pooling em nível de primitivo é essencial; variantes que tentavam comprimir tudo em um único token ou não faziam pooling tiveram desempenho inferior.
  • A estratégia de amostragem com FSA superou métodos padrão como top-p e beam search em todos os métricas, especialmente na redução da taxa de invalidade (IR).

5. Significado e Impacto

O CAD-Tokenizer representa um avanço significativo na interseção entre IA generativa e design industrial:

• Viabilidade de Fluxo de Trabalho Unificado: Demonstra que é possível criar um único modelo capaz de iniciar projetos e refiná-los iterativamente, espelhando o fluxo de trabalho real de engenheiros.
• Superação da Barreira de Tokenização: Estabelece que a tokenização específica de domínio (baseada em primitivos geométricos) é crucial para que LLMs entendam e manipulem dados estruturados complexos, indo além da simples linguagem natural.
• Aplicabilidade Industrial: Ao garantir a validade sintática das saídas através do FSA e melhorar a qualidade da geração, o método torna-se mais viável para integração em pipelines de prototipagem industrial, reduzindo a necessidade de correção manual.

Em resumo, o trabalho propõe que a chave para dominar a geração e edição de CAD com IA não está apenas em modelos maiores, mas em representar os dados CAD de forma que a arquitetura do modelo possa compreender sua estrutura geométrica intrínseca.