Diffuse to Detect: Generative Diffusion Models for Unsupervised IC Anomaly Detection

기술 요약: Diffuse to Detect: 비지도 IC 이상 감지를 위한 생성 확산 모델

문제 정의
본 논문은 반도체 제조 공정에서 잠재적 결함을 선별하는 데 있어 중요한 과제를 다룹니다. 잠재적 결함은 모든 기능적 테스트 기준을 통과하게 하지만 작동 스트레스 하에서 현장 고장을 유발하는 물리적 불완전성 (예: 저항성 단락 또는 개방) 입니다. 이러한 결함을 탐지하는 것은 세 가지 중첩된 요인으로 인해 어렵습니다:

1. 극심한 클래스 불균형: 고장률은 종종 백만 분의 일 수준 (예: 연구된 데이터셋에서 <0.12%) 에 머무르며, 레이블이 지정된 이상 데이터의 부재와 분류기가 다수 클래스로 수렴하는 경향으로 인해 지도 학습은 비실용적입니다.
2. 고차원성: 현대 테스트 프로그램은 장치당 수천 개의 파라미터 측정 특징을 생성하여, 전통적인 거리 또는 밀도 기반 방법이 신중한 특징 공학 없이는 어려움을 겪는 고차원 특징 공간을 형성합니다.
3. 엄격한 허용 오차: 선별 시스템은 수율 손실을 피하기 위해 희귀한 이상에 대한 재현율 (recall) 을 극대화하고 거짓 양성을 최소화하는 균형을 맞춰야 하며, 단순한 임계값 설정은 종종 이러한 균형을 이루지 못합니다.

기존 확산 기반 이상 탐지 방법은 주로 이미지 데이터나 저차원 표 형식 데이터 (예: TabDDPM) 에 초점을 맞추어 왔으며, 이는 특징 벡터를 평탄하고 순서가 없는 입력으로 취급합니다. 이러한 접근 방식은 고차원이고 의미적으로 이질적인 IC 테스트 데이터에 필요한 구조적 귀납 편향을 결여하고 있습니다.

방법론
저자들은 건강한 실리콘의 분포를 모델링하기 위해 **확산 트랜스포머 (DiT)**를 통합한 완전 비지도 프레임워크인 Diffuse to Detect를 제안합니다. 방법론은 다음 단계를 거칩니다:

1. 차원 축소 및 토큰화:

   • 원시 고차원 측정 벡터 ($x \in \mathbb{R}^F$, 여기서 $F \sim 10^3$) 는 먼저 2 층 MLP 인코더에 의해 압축되어 ($h \in \mathbb{R}^{D_r}$, 여기서 $D_r = 128$) 컴팩트한 잠재 표현으로 변환됩니다.
   • 이 잠재 벡터는 비전 트랜스포머의 패치 임베딩과 유사하게 구조화된 2 차원 토큰 시퀀스 ($Z_0 \in \mathbb{R}^{C \times L}$) 로 재구성됩니다. 이를 통해 모델은 측정 데이터를 평탄한 벡터가 아닌 시퀀스로 처리할 수 있습니다.

2. 이중 레벨 위치 인코딩:

   • 특징 레벨: 고정된 정현파 임베딩이 잠재 시퀀스 내 토큰의 위치를 인코딩하기 위해 추가되어, 테스트 흐름의 의미론적 구조를 포착합니다.
   • 다이 레벨: 학습된 게이팅 MLP 는 물리적 웨이퍼 좌표 ($d_x, d_y$) 를 기반으로 장치별 임베딩을 생성합니다. 이는 웨이퍼 레벨 테스트 데이터에 내재된 체계적인 공간적 변동 (예: 가장자리 대 중심 효과) 을 고려합니다.

3. 확산 과정:

   • 프레임워크는 디노이징 백본으로 **1D 확산 트랜스포머 (DiT1D)**를 사용합니다. ResNet 기반 MLP 를 사용하는 표준 표 형식 확산 모델과 달리, DiT1D 는 토큰 시퀀스 전반에 걸친 복합적인 특징 간 상관관계를 포착하기 위해 자기 주의 (self-attention) 메커니즘을 활용합니다.
   • 모델은 정방향 확산 과정에서 추가된 노이즈를 예측하기 위한 표준 DDPM 목적 함수를 사용하여 건강한 장치만으로 훈련됩니다.

4. 이상 점수 산정:

   • 추론 중, 고정된 중간 범위 확산 시간 단계에 대한 노이즈 예측 오차에서 이상 점수가 도출됩니다.
   • 학습된 건강한 실리콘 분포 바깥에 있는 장치는 향상된 재구성 오차를 유발합니다.
   • 이 접근 방식은 점수 산정을 위한 반복적 샘플링을 피하며, 고정된 수의 순방향 통과만 요구하므로 대량 생산 선별에 적합합니다.

주요 기여

• IC 테스트 데이터를 위한 최초의 확산 프레임워크: 본 논문은 수동 특징 공학의 필요성을 제거하고 IC 전기 테스트 데이터에 대한 비지도 이상 탐지를 위한 최초의 확산 모델 기반 프레임워크를 소개합니다.
• 구조화된 토큰화 및 위치 인코딩: 저자들은 고정된 정현파 토큰 위치와 학습된 장치별 다이 임베딩을 결합한 새로운 이중 레벨 위치 인코딩 방식을 제안합니다. 이는 테스트 흐름 구조와 웨이퍼의 공간 기하학을 모두 인코딩합니다.
• 트랜스포머를 사용한 잠재 공간 확산: 이 연구는 트랜스포머 디노이저를 사용하여 컴팩트한 잠재 공간에서 확산을 수행하는 것이 원시 특징 공간에서 확산하거나 MLP 기반 디노이저를 사용하는 방법보다 우수함을 입증합니다.

실험 결과
이 프레임워크는 극심한 클래스 불균형 (이상률 0.22% 및 0.12%) 을 특징으로 하는 두 가지 산업용 16nm 자동차 IC 테스트 데이터셋에서 평가되었습니다.

• 성능: 제안된 DiT1D 모델은 기존 방법 (예: Isolation Forest, PCA), 딥러닝 베이스라인 (예: GANomaly, DAGMM), 그리고 기존 확산 베이스라인 (TabDDPM, DTE 변형) 을 능가하는 최첨단 성능을 달성했습니다.
  • 데이터셋 1 에서 DiT1D 는 AUROC 0.771 및 AUCPR 0.0250을 달성하여 두 번째로 좋은 방법 (각각 LOF 및 DTE-IG) 을 크게 능가했습니다. 95% 수율 임계값에서 DiT1D 는 확인된 7 개 이상 중 3 개를 성공적으로 재현한 반면, 대부분의 베이스라인은 0 개 또는 1 개만 재현했습니다.
  • 데이터셋 2 에서 DiT1D 는 95% 수율 작동점에서 테스트 분할에 존재하는 7 개 이상을 모두 재현한 유일한 방법이었습니다.
• 애블레이션 연구:
  • 다이 레벨 위치 임베딩을 제거하면 성능이 가장 크게 저하되어 (AUROC 0.234 감소), 공간적 웨이퍼 변동을 모델링하는 것의 중요성을 강조했습니다.
  • 오토인코더를 제거하고 (원시 공간에서 확산) 성능이 심각하게 저하되어 고차원 데이터에 대한 잠재 압축의 필요성을 확인했습니다.
  • MLP 백본 (TabDDPM 스타일) 으로 트랜스포머를 대체하면 AUROC 와 재현율이 낮아져 토큰 간 상관관계를 포착하기 위한 자기 주의의 유효성을 검증했습니다.

의의 및 주장
본 논문은 Diffuse to Detect 가 자동차 및 고성능 컴퓨팅 분야에서 요구되는 "무결함 (Zero Defect)" 품질 목표를 위한 강력한 솔루션을 제공한다고 주장합니다. 오직 건강한 데이터만으로 훈련된 생성 확산 모델을 활용함으로써, 이 접근 방식은 다음과 같은 이점을 제공합니다:

• 레이블된 이상에 대한 필요성 제거: 성숙한 공정에서 결함 데이터의 부족 문제를 해결합니다.
• 수동 특징 공학 회피: 이는 역사적으로 반도체 품질 파이프라인의 병목 현상이었습니다.
• 해석 가능성 제공: 잠재 공간 재구성 잔차를 통해 고장 위치를 파악할 수 있습니다. 저자들은 이러한 잔차가 특정 테스트 프로그램으로 역매핑되어 잠재 표현에 대한 지식 없이도 (예: 특정 누설 측정 편차 식별) 테스트 엔지니어에게 근본 원인에 대한 실행 가능한 통찰력을 제공할 수 있다고 지적합니다.

이 연구는 고차원, 공간적 상관관계, 그리고 극심한 불균형을 가진 반도체 테스트 데이터의 특정 제약 조건에 고급 생성 모델링을 적용하는 중요한 진전으로 자리매김합니다.