PLLM: Pseudo-Labeling Large Language Models for CAD Program Synthesis

Título: PLLM: Pseudo-Labeling Large Language Models for CAD Program Synthesis

Autores: Yuanbo Li, Dule Shu, Yanying Chen, Matt Klenk, Daniel Ritchie (Brown University e Toyota Research Institute).

1. O Problema

A síntese de programas CAD (Computer-Aided Design) a partir de geometrias 3D é um problema inverso fundamental para engenharia e manufatura. O objetivo é recuperar o código paramétrico (o programa) que gerou um modelo 3D, permitindo edição semântica e modificação programática.

• Limitação Atual: Os métodos recentes que utilizam Grandes Modelos de Linguagem (LLMs) para essa tarefa dependem de treinamento supervisionado com dados pareados (forma 3D + programa CAD ground-truth).
• Gargalo: Dados pareados de alta qualidade são caros, específicos de domínio e frequentemente indisponíveis. Grandes repositórios CAD (como o conjunto de dados ABC) contêm geometrias de alta qualidade, mas carecem das anotações de programas correspondentes, impedindo a escalabilidade de métodos supervisionados para novos domínios.

2. Metodologia: O Framework PLLM

Os autores propõem o PLLM, um framework de auto-treinamento (self-training) que permite adaptar um LLM pré-treinado para sintetizar programas CAD a partir de conjuntos de dados não rotulados.

O processo é iterativo e consiste em quatro etapas principais:

1. Amostragem de Programas (Program Sampling):

   • Dado um modelo LLM pré-treinado (ex: CAD-Recode) e uma forma 3D de entrada $x^*$, o modelo gera múltiplos candidatos de programas ($k=10$) usando decodificação estocástica (nucleus sampling).
   • Cada programa candidato é executado em um executor de código (CadQuery) para gerar uma geometria 3D.

2. Seleção e Curadoria (Selection & Curation):

   • As geometrias geradas são comparadas com a forma de entrada original usando a Distância de Chamfer.
   • O programa que produz a menor distância (maior fidelidade geométrica) é selecionado como o "melhor candidato". Se houver empate, prefere-se o programa mais curto.

3. Aumento de Dados no Nível do Programa (Program-Level Data Augmentation):

   • Para evitar que o conjunto de dados sintético seja muito restrito, os autores aplicam edições programáticas aos programas selecionados:
     • Expansão: Adição de novas operações ou workspaces para aumentar a complexidade estrutural.
     • Encurtamento: Remoção de operações booleanas de nível superior para criar versões mais concisas.
   • Isso gera pares adicionais (Programa, Geometria Executada) que mantêm a consistência geométrica, mas variam a estrutura do código.

4. Ajuste Fino Iterativo (Iterative Fine-Tuning):

   • Os pares sintéticos (Programa $Z$ e sua execução $X$) são usados para fazer fine-tuning do LLM original usando LoRA (Low-Rank Adaptation).
   • Como a geometria $X$ é a execução direta do programa $Z$, o par $(X, Z)$ é perfeitamente consistente, eliminando ruído de rótulo.
   • O modelo atualizado é então usado na próxima iteração para gerar amostras melhores, criando um ciclo de reforço positivo.

3. Contribuições Principais

• Framework PLLM: Uma nova abordagem de auto-treinamento que sintetiza e enriquece programas CAD para criar supervisão sintética para conjuntos de dados 3D não rotulados.
• Estratégia de Síntese de Dados: Uma metodologia que expande as saídas do modelo através de amostragem e edições programáticas (expansão e encurtamento), gerando pares programa-forma diversos e informativos.
• Validação Empírica: Demonstração de que o auto-treinamento sintético melhora a fidelidade geométrica e a diversidade de programas ao adaptar o modelo CAD-Recode (treinado no DeepCAD) para o conjunto de dados ABC não rotulado.

4. Resultados e Avaliação

Os experimentos foram realizados adaptando o modelo CAD-Recode (treinado no DeepCAD) para o conjunto de dados ABC (sem anotações de programa).

• Fidelidade Geométrica (Chamfer Distance): Houve uma melhoria consistente na Distância de Chamfer ao longo de 6 iterações de auto-treinamento. O modelo alcançou uma distância média final de 9.73, superando significativamente o modelo base (26.12) e outras estratégias de baseline.
• Diversidade de Programas: A estratégia de aumento de dados permitiu que o modelo gerasse programas com comprimentos variados (de ~400 a >1100 tokens), superando a limitação inicial de 768 tokens do modelo base e permitindo a representação de geometrias mais complexas.
• Comparação com Baselines:
  • O método proposto superou abordagens que usavam apenas a amostra melhor com sua execução (Baseline 1) ou que usavam a forma de entrada original como rótulo (Baseline 2), que introduziam ruído.
  • A consistência entre o programa gerado e sua execução foi crucial para o sucesso, evitando o desvio da distribuição de formas alvo.

5. Significado e Conclusão

O trabalho demonstra que é possível superar a escassez de dados rotulados em CAD utilizando a própria geração de dados como fonte de supervisão.

• Impacto: O PLLM permite a adaptação de modelos de síntese de programas para novos domínios e linguagens CAD sem a necessidade de anotação manual cara.
• Limitações: O principal custo é computacional, devido à necessidade de amostragem, execução e filtragem repetidas de programas. No entanto, os autores argumentam que esse custo é um trade-off aceitável para substituir a anotação manual.
• Futuro: À medida que a eficiência de executores e amostragem melhorar, essa abordagem centrada em dados deve se tornar cada vez mais prática para escalar o aprendizado de programas CAD em grandes repositórios não rotulados.

Em resumo, o PLLM transforma coleções de formas brutas em um conjunto de dados sintético crescente e de alta qualidade, permitindo que modelos de IA aprendam a "reverter" engenharia CAD com maior precisão e diversidade.