想象一座庞大的工厂，专门制造微小却极其复杂的计算机芯片（就像汽车或手机的大脑）。在这些芯片出厂之前，它们要经过严格的“健康检查”。它们会被测量数千次，以确保其完美运行。
问题：“大海捞针”的困境
绝大多数芯片都是完美的。但极小极小的一部分（不到千分之一）存在“潜在缺陷”。这就像一辆通过了所有标准驾驶测试的汽车，但发动机里却有一道隐蔽的细微裂纹，只有在多年驾驶后才会导致故障。
找出这些不良芯片之所以令人头疼，主要有三个原因：
- 它们极其罕见：你必须从成千上万个好芯片中筛选，才能找到一个坏芯片。
- 数据量过于庞大：每个芯片都有数千种不同的测量数据（电压、速度、热量等）。人类无法手动分析如此海量的数据。
- 缺乏“坏”样本：工厂没有一大堆标记好的“坏芯片”来教计算机该寻找什么。它们只有堆积如山的“好芯片”。
解决方案：“扩散以检测”
作者提出了一种名为**扩散以检测（Diffuse to Detect）**的新型人工智能系统。与其试图学习“坏”芯片长什么样（在没有样本的情况下这几乎不可能），不如让 AI 完美地学习“好”芯片的模样，从而识别出任何不符合该模式的情况。
以下是其工作原理，通过一个简单的类比来说明：
1. 压缩（“草图”阶段）
想象你拥有一张高分辨率的完美芯片测试结果照片。它巨大且细节丰富。
- AI 的做法：它首先通过一个“压缩器”（自动编码器）处理这些数据。它将成千上万个数字转化为更小、更简单的“草图”或摘要。这使得数据更易于处理，就像将 4K 视频转换为一幅快速清晰的草图。
2. 组织（“座位图”阶段）
现在，AI 拥有了这张草图。但这不仅仅是一串随机数字；它具有结构。
- 令牌序列：AI 将草图排列成一行“令牌”（就像句子中的单词）。
- 座位图（位置编码）：这是一个巧妙的技巧。AI 为这些令牌添加两种类型的“姓名标签”：
- 顺序标签：它知道哪个令牌排在第 1 位、第 2 位或第 3 位（就像知道句子中哪个词排在最前面）。
- 位置标签：它确切知道芯片在巨大的硅晶圆（制造芯片的圆形大盘）上的位置。晶圆边缘的芯片表现与中心的芯片略有不同。AI 学习这种“地理”特征，以免被正常的边缘效应所迷惑。
3. 训练（“蒙眼游戏”阶段）
AI 仅使用好芯片进行训练。它玩一种名为**扩散（Diffusion）**的游戏：
- 游戏过程：AI 拿取一张完美芯片的“草图”，并逐渐向其添加“静态”或“噪声”，就像调大收音机音量直到歌曲无法辨认。
- 学习过程：然后，它尝试去除这些噪声，重建原始的完美草图。
- 结果：在玩了数百万次这个游戏后，AI 变得擅长仅针对那些看起来像好芯片的模式进行去噪。它学会了“完美”的形状。
4. 检测（“找出冒牌货”阶段）
现在，一颗新芯片进入测试环节。
- 测试：AI 获取新芯片的数据，向其添加噪声，然后尝试清理它。
- 评分：
- 如果芯片是好的：AI 可以轻松清理噪声并重建原始数据。“误差”很低。
- 如果芯片是坏的（存在潜在缺陷）：芯片的数据不符合 AI 学到的“完美形状”。当 AI 尝试清理噪声时，它会感到困惑并犯错。“误差”（即它看到的内容与重建内容之间的差异）很高。
- 裁决：高误差分数意味着该芯片可能存在缺陷，即使它通过了工厂的标准测试。
为何这很特别
- 无需人工规则：旧方法需要工程师猜测哪些数字重要。而这款 AI 能自行发现模式。
- 超快速：它无需等待芯片在现实世界中损坏才能从中学习。它能立即发现细微的迹象。
- 可解释性：如果某颗芯片被标记，AI 可以确切展示测试数据中的哪一部分出现了异常。就像 AI 指着一处说：“正是这个特定的电压测量值不符合模式”，从而帮助工程师解决问题。
简而言之，这篇论文介绍了一种智能的无监督系统，它通过彻底学习数百万颗好芯片的“正常”行为，能够立即发现那些原本会漏网之鱼的罕见、隐蔽缺陷。
技术摘要：扩散以检测：用于无监督集成电路异常检测的生成式扩散模型
问题陈述
本文解决了半导体制造中筛选潜在缺陷的关键挑战。潜在缺陷是指物理瑕疵（例如电阻性短路或开路），这些瑕疵允许器件通过所有功能测试标准，但在运行应力下会导致现场失效。检测这些缺陷十分困难，原因在于三个叠加因素：
- 极端的类别不平衡：失效率通常处于百万分之几的范围（例如，在所研究的数据集中<0.12%），由于缺乏标记的异常数据且分类器倾向于坍缩至多数类，使得监督学习变得不切实际。
- 高维性：现代测试程序为每个器件生成数千个参数测量特征，形成了高维特征空间，在此空间中，若无仔细的特征工程，传统的基于距离或密度的方法将难以奏效。
- 严格的容差：筛选系统必须在最大化罕见异常的召回率与最小化误报以避免良率损失之间取得平衡，而简单的阈值设定往往无法实现这种平衡。
现有的基于扩散的异常检测方法主要集中于图像数据或低维表格数据（例如 TabDDPM），后者将特征向量视为扁平、无序的输入。这些方法缺乏处理高维、语义异构的集成电路测试数据所需的结构归纳偏置。
方法论
作者提出了扩散以检测（Diffuse to Detect），这是一个完全无监督的框架，它结合了一个**扩散 Transformer（DiT）**来对健康硅片的分布进行建模。该方法论通过以下阶段进行：
降维与 Token 化：
- 原始高维测量向量（x∈RF，其中 F∼103）首先通过一个双层 MLP 编码器压缩为紧凑的潜在表示（h∈RDr，其中 Dr=128）。
- 该潜在向量被重塑为结构化的 2D Token 序列（Z0∈RC×L），类似于 Vision Transformer 中的 Patch Embedding。这使得模型能够将测量数据视为序列而非扁平向量进行处理。
两级位置编码：
- 特征级：添加固定的正弦嵌入以编码 Token 在潜在序列中的位置，从而捕捉测试流程的语义结构。
- Die 级：一个可学习的门控 MLP 根据物理晶圆坐标（dx,dy）生成每个器件的嵌入。这解释了晶圆级测试数据中固有的系统性空间变化（例如边缘与中心效应）。
扩散过程：
- 该框架采用**1D 扩散 Transformer（DiT1D）**作为去噪骨干网络。与使用基于 ResNet 的 MLP 的标准表格扩散模型不同，DiT1D 利用自注意力机制来捕捉 Token 序列中复杂的特征间相关性。
- 该模型仅使用健康器件进行训练，采用标准 DDPM 目标来预测前向扩散过程中添加的噪声。
异常评分：
- 在推理过程中，异常评分源自固定的一组中程扩散时间步上的噪声预测误差。
- 位于所学健康硅片分布之外的器件会引发升高的重构误差。
- 该方法避免了用于评分的迭代采样，仅需固定数量的前向传递，使其适用于高通量生产筛选。
主要贡献
- 首个针对 IC 测试数据的扩散框架：本文引入了首个基于扩散模型的框架，用于 IC 电性测试数据的无监督异常检测，消除了对人工特征工程的需求。
- 结构化 Token 化与位置编码：作者提出了一种新颖的两级位置编码方案，将固定的正弦 Token 位置与可学习的、每器件的 Die 嵌入相结合。这同时编码了测试流程结构和晶圆的空间几何信息。
- 基于 Transformer 的潜在空间扩散：这项工作证明，在紧凑的潜在空间中执行扩散并使用 Transformer 去噪器，其性能优于在原始特征空间中执行扩散或使用基于 MLP 的去噪器的方法。
实验结果
该框架在两个工业级 16nm 汽车 IC 测试数据集上进行了评估，这些数据集的特点是极端的类别不平衡（异常率分别为 0.22% 和 0.12%）。
- 性能：提出的 DiT1D 模型实现了最先进的性能，优于经典方法（例如孤立森林、PCA）、深度学习基线（例如 GANomaly、DAGMM）以及现有的扩散基线（TabDDPM、DTE 变体）。
- 在数据集 1 上，DiT1D 实现了 0.771 的 AUROC 和 0.0250 的 AUCPR，显著超越了次优方法（分别为 LOF 和 DTE-IG）。在 95% 良率阈值下，它成功召回了 7 个已确认异常中的 3 个，而大多数基线方法召回了零个或一个。
- 在数据集 2 上，DiT1D 是唯一在 95% 良率工作点下召回测试分割中所有 7 个异常的方法。
- 消融研究：
- 移除 Die 级位置嵌入导致了最大的性能下降（AUROC 降低了 0.234），突显了对空间晶圆变化进行建模的重要性。
- 移除自动编码器（在原始空间进行扩散）严重降低了性能，证实了对于高维数据进行潜在压缩的必要性。
- 用 MLP 骨干网络（TabDDPM 风格）替换 Transformer 导致 AUROC 和召回率降低，验证了自注意力机制在捕捉 Token 间相关性方面的优势。
意义与主张
本文主张，"扩散以检测"为汽车和高性能计算领域所需的“零缺陷”质量目标提供了稳健的解决方案。通过利用仅在健康数据上训练的生成式扩散模型，该方法：
- 消除了对标记异常的需求，解决了成熟工艺中缺陷数据稀缺的问题。
- 避免了人工特征工程，这历史上一直是半导体质量流程中的瓶颈。
- 提供可解释性：通过潜在空间重构残差，该方法能够实现故障定位。作者指出，这些残差可以映射回特定的测试程序，为测试工程师提供关于根本原因（例如识别特定的泄漏测量偏差）的可操作见解，而无需了解潜在表示。
这项工作将自己定位为在应用先进生成建模以应对高维、空间相关且极度不平衡的半导体测试数据的具体约束方面迈出的重要一步。
每周获取最佳 machine learning 论文。
受到斯坦福、剑桥和法国科学院研究人员的信赖。
请查收邮箱确认订阅。
出了点问题，再试一次？
无垃圾邮件，随时退订。