Robust optical design and closed-form tolerancing through autodiff-based Hessian spectral analysis

기술 요약: 자동 미분 기반 헤시안 스펙트럼 분석을 통한 강건한 광학 설계 및 폐쇄형(Closed-Form) 공차 분석

문제 정의
전통적인 광학 공차 분석은 제조 및 정렬 불완전함이 영상 성능을 어떻게 저하시키는지 예측하기 위해 몬테카를로(Monte Carlo, MC) 시뮬레이션에 의존한다. 이 접근 방식은 심각한 샘플 복잡도 병목 현상에 직면한다. 높은 신뢰도로 백분위수를 구속하기 위해서는(예: 99% 수율을 위해 99.9% 신뢰도 확보), 필요한 샘플 수는 자유도(DoF)에 따라 기하급수적으로 증가한다. 많은 독립적 섭동을 가진 시스템의 경우, 최악의 상황(worst-case corners)을 탐색하는 것은 계산적으로 불가능해진다. 또한, 자코비안(Jacobian, 1차 미분)에만 기반한 고전적인 민감도 분석은 국소 최적점(local optimum) 근처에서 성능 저하를 지배하는 결합 메커니나 곡률 효과를 포착하지 못한다.

방법론
저자들은 미분 가능한 광선 추적(differentiable ray tracing)과 자동 미분(automatic differentiation, AD)을 활용하여 광학 성능 지표의 2차 구조를 분석하는 프레임워크를 제안한다.

• 헤시안 스펙트럼 분석 (Hessian Spectral Analysis): 성능 지표 $P(p)$는 명목 설계(nominal design) $p^*$ 주변에서 테일러 급수로 전개된다. $p^*$는 국소 최적점이므로 기울기(gradient)는 0이 되며, 성능 저하는 헤시안 행렬 $H$에 의해 결정된다. 저자들은 공차로 스케일링된 헤시안($H_{sc} = SHS$, 여기서 $S$는 공차 표준 편차에 의해 스케일링됨)을 대각화하여 직교하는 섭동 고유 모드(eigenmodes)를 추출한다. 이 분해 과정은 민감도를 독립적인 변형 채널로 분리하며, 자코비안 기반 분석에서는 보이지 않는 지배적인 결합 메커니즘을 드러낸다.
• 엔벨로프 정리 적용 (Envelope Theorem Application): 논문은 엔벨로프 정리를 통해, 완전히 보상된 시스템(refocus 액추에이터와 같은 보상기가 재최적화된 경우)의 경우, 섭동에 대한 1차 민감도가 보상되지 않은 시스템과 동일함을 증명한다. 리포커싱(Refocusing)은 엄격하게 2차 항에서 작용하며, 헤시안의 슈어 보수(Schur complement, $H_{comp} = H_{pp} - H_{pc}H_{cc}^{-1}H_{cp}$)를 통해 유효 곡률을 변화시킨다.
• 폐쇄형 수율 예측 (Closed-Form Yield Prediction): 가우시안 공차를 가정할 때, 성능 저하 $\Delta P$는 독립적인 카이제곱 변수들의 가중 합으로 모델링된다. 이때 가중치는 스케일링된 헤시안의 고유값이다. 이를 통해 레이 트레이싱 샘플링 없이 특성 함수(characteristic function)의 1차원 역변환을 통해 수율의 누적 분포 함수(CDF)를 계산할 수 있다.
• 강건한 설계 목적 함수 (Robust Design Objective): 공차로 스케일링된 헤시안의 트레이스(trace, $Tr(SHS)$)로 정의되는 스칼라 강건성 지표가 제안된다. 이 지표는 공차 하에서의 기대 이차 저하를 나타내며, 민감도 스펙트럼을 평탄하게 만들기 위한 경사 하강법 기반 최적화의 페널티 항으로 사용된다.

주요 결과
본 방법론은 두 가지 시스템, 즉 5개의 정렬 자유도를 가진 오프-액시스 3거울 비구면(TMA) 시스템과 23개의 자유도(제르니케 계수, 코닉 상수, 곡률 등을 포함한 표면 형상 오차)를 가진 확장 모델을 통해 입증되었다.

• 고유 모드 통찰 (Eigenmode Insights): 5-DoF TMA의 고유 모드 분해 결과, 지배적인 민감도 방향은 거울 간 간격과 거울 기울기를 결합하며, 이는 초점 거리의 공동 의존성을 가리킨다는 점이 밝혀졌다. 헤시안의 조건수(condition number)는 $2.2 \times 10^5$로 측정되었으며, 이는 매우 비등방적인(highly anisotropic) 민감도를 나타낸다.
• 검증 (Validation): 무작위 섭동에 대한 이차 모델 검증 결과, 헤시안 항이 근사 오차를 $O(\epsilon)$로 줄이는 것으로 나타나 최적점 근처에서 2차 효과의 지배력을 확인하였다.
• 수율 예측 (Yield Prediction): 헤시안 고유값만을 사용하여 도출된 폐쇄형 수율 곡선은 5,000개의 샘플을 사용한 몬테카를로 시뮬레이션과 모든 백분위수에서 1.4 $\mu$m 이내의 오차로 일치하였으며, 이는 샘플링 노이즈가 없고 속도가 수십 배 더 빠르다.
• 강건한 최적화 (Robust Optimization): 강건한 목적 함수($J = P + \gamma Tr(SHS)$)를 최적화함으로써 99.9% 스팟 크기 임계값을 63.11 $\mu$m에서 55.70 $\mu$m로 개선하였다(최악의 경우 저하를 11.7% 감소시킴). 이러한 개선은 시스템을 탈감도화(desensitizing)했기보다는, 명목 상태의 랜드스케이프에 존재하는 얕은 국소 최적점을 벗어난 데 주로 기인했다. 이는 지배적인 민감도가 광학 처방(초점 거리)에 구조적으로 고정되어 있기 때문이다.
• 확장성 (Scalability): 본 프레임워크는 단일 GPU에서 1.8초 만에 전체 23$\times$23 헤시안을 성공적으로 계산하였으며, 이는 고차원 표면 형상 모델을 위한 결정론적인 민감도 예산을 제공한다.

의의 및 주장
본 논문은 헤시안의 섭동 고유 모드를 분석하는 것이 고전적인 민감도 행렬 분석에서는 보이지 않는 성능 저하 메커니즘(결합 등)에 대한 질적 통찰을 제공한다고 주장한다. 제안된 방법의 주요 효용은 결정론적인 민감도 예산(sensitivity budget)을 정의하는 데 있다. 즉, 스케일링된 헤시안의 트레이스와 그 고유 모드 분해는 기대 성능 저하를 정량화하고 지배적인 민감도 방향을 식별한다.

저자들은 이 접근 방식이 비용이 많이 들고 부정확한 몬테카를로 샘플링을 단일 폐쇄형 평가로 대체할 수 있다고 단언한다. 최적화 페널티로 사용될 때, 이 지표는 '강건성 여유(robustness slack)'가 존재하는 영역에서 강건한 설계를 촉진하며, 반대로 구조적으로 환원 불가능한 핵심 공차를 식별하여 더 엄격한 제조 정밀도가 필요함을 알려준다. 본 연구는 능동적인 리포커싱 하에서도 1차 민감도는 불변하지만, 2차 슈어 보수가 보상의 효과를 결정한다는 점을 강조하며, 트레이스 공식이 고차원 시스템에서 고유값 합산보다 수치적으로 안정적이고 계산 효율적인 대안임을 보여준다.