Algebraic Language Models for Inverse Design of Metamaterials via Diffusion Transformers

技术摘要：基于扩散变换器的代数语言模型用于超材料逆向设计

问题陈述
三维（3D）壳基超材料的逆向设计面临重大障碍，这源于探索高维设计空间时的计算复杂性，以及缺乏针对复杂几何形状的表达性表征。传统的拓扑优化方法需要大量的前向有限元（FE）仿真，这对于涉及大变形、屈曲和接触的非线性目标属性而言是难以承受的。尽管数据驱动的机器学习方法已经出现，但现有的生成模型通常局限于二维结构，或依赖于显式的三维表征（例如体素、网格），这些方法数据密集，且难以满足薄壁曲面晶格所需的几何保真度。此外，逆向设计中的一个主要挑战是“一对多”映射问题，即多种不同的几何形状可能产生相似的力学性能，同时控制多个力学目标（例如线性刚度和非线性应力 - 应变响应）十分困难，而这些目标可能源于相互冲突的变形机制。

方法论
作者提出了DiffuMeta，这是一个将扩散变换器与代数语言表征相结合的生成框架，旨在解决上述挑战。

1. 代数语言参数化：该框架不使用显式的三维网格，而是将三维壳几何编码为数学句子。壳晶格是基于周期性节点表面（PNS）的隐式水平集方程生成的。这些方程被分解为离散的数学标记序列（三角函数、运算符、系数和常数）。这种“方程即序列”的范式将隐式方程视为一种数学语言，使得能够利用自然语言处理技术来探索远超预定义拓扑（例如 Gyroid、Schwarz P）的广阔设计空间。
2. 扩散变换器架构：DiffuMeta 的核心是扩散变换器（DiT）。该模型通过嵌入函数将离散标记序列映射到连续潜在空间。它采用条件去噪扩散过程，其中高斯噪声被逐步添加到嵌入中（前向过程），并迭代移除（反向过程）以重建有效的隐式方程。
3. 条件生成：为了引导生成过程朝向特定的力学性能，模型利用无分类器引导。目标属性，包括压缩应力 - 应变响应（在 11 个应变水平下采样）和均匀化弹性属性（例如泊松比），被编码为条件嵌入。这些嵌入通过交叉注意力机制和自适应层归一化（adaLN）块集成到 DiT 中。
4. 训练与验证：该模型在包含 23,534 种独特壳拓扑的数据集上进行训练。每种拓扑的力学行为均通过有限元仿真进行表征，使用校准至 3D 打印弹性体的弹塑性材料模型，并考虑了摩擦接触以及高达 30% 应变的大变形。该框架通过模型生成的 3D 打印样品的实验压缩测试进行了验证。

主要贡献

• 新颖的表征：引入了一种基于代数语言的参数化方法，将三维隐式表面表示为标记序列，使得变换器架构能够应用于结构设计，同时保持了几何的紧凑性和精确性。
• 基于扩散的逆向设计：开发了一种扩散变换器框架，能够学习复杂的非线性结构 - 属性映射，通过为单一目标生成多样化的解决方案，有效解决了逆向设计的病态性质。
• 多目标控制：能够同时控制多个力学目标，包括线性响应（例如泊松比）和复杂的非线性行为（例如软化、硬化、屈曲），即使这些目标超出了训练分布的范围。
• 实验验证：成功制造并机械测试了 3D 打印壳结构，证实生成的设计能够准确复现目标非线性应力 - 应变响应和复杂的变形机制。

结果

• 生成质量：在无条件生成中，DiffuMeta 实现了 74.0% 的有效率（生成单连通、周期性表面），显著优于随机采样（3.2%）。该模型实现了 100% 的新颖性和唯一性，生成了训练数据集中不存在的設計。
• 逆向设计精度：对于训练分布内的目标应力 - 应变响应，该模型实现了 3.3% 至 8.5% 的归一化均方根误差（NRMSE），优于在训练数据集中找到的最佳匹配。
• 外推能力：该模型成功生成了针对未见目标属性的设计，例如应力平台后跟随硬化或多个应力峰值，其 NRMSE 值为 7.0%–7.2%，而训练数据集中最佳匹配的 NRMSE 则超过 22%。
• 多目标性能：该框架成功生成了满足应力 - 应变响应和特定泊松比（例如负泊松比、零泊松比和正泊松比）同时目标的设计，证明了对耦合线性和非线性行为的稳健控制。
• 计算效率：一旦训练完成，该模型在单个 GPU 上生成每个样本的设计仅需约 0.2 秒，与基于有限元的优化或数据集搜索所需的数小时相比，成本可忽略不计。
• 实验验证：3D 打印样品的应力 - 应变响应与有限元预测及目标曲线吻合良好，成功复现了稳定平台、屈曲诱导软化和接触诱导硬化等特征。

意义
本文声称，DiffuMeta 提供了一个可扩展且可泛化的框架，用于超材料的逆向设计，具备前所未有的能力。通过弥合代数表征与深度生成模型之间的差距，该方法克服了显式三维表征和固定方程模板的局限性。在复杂、高维设计空间中导航，并为多目标目标（包括训练分布之外的目标）生成多样化且物理有效的解决方案的能力，代表了相对于传统优化和现有数据驱动方法的重大进步。实验验证证实了该框架在加速具有定制属性的超材料设计方面的实际适用性，这些超材料可应用于软体机器人、能量吸收和变形结构。作者指出，虽然该框架表现出强大的泛化能力，但其外推能力受限于训练数据中编码的物理规律，未来的工作可能涉及整合物理信息约束和主动学习，以进一步增强鲁棒性。