기술 요약: AnalogFed

문제 정의

생성형 AI(GenAI)는 전자 설계 자동화(EDA), 특히 아날로그 회로 토폴로지 발견 분야에서 변혁적인 잠재력을 보유하고 있습니다. 그러나 하드웨어 설계를 위한 GenAI의 도입은 데이터 프라이버시와 데이터 사일로(Siloing) 현상에 의해 심각하게 제약받고 있습니다. 방대한 오픈 코퍼스의 혜택을 받는 언어나 시각 지능 도메인과 달리, 실제 하드웨어 데이터셋(예: Verilog 코드베이스, 아날로그 회로 라이브러리)은 지적 재산(IP) 문제로 인해 조직 전체에 분산되어 있으며 독점적입니다. 이로 인해 중앙 집중식 모델 학습은 불가능합니다.

연합 학습(Federated Learning, FedL)은 원본 데이터를 공유하지 않고 협력적 학습을 수행할 수 있는 메커니즘을 제공하지만, 이를 GenAI 기반 하드웨어 설계에 적용할 때는 다음과 같은 고유한 보안 취약점이 발생합니다:

1. 모델 역전 공격(Model Inversion Attacks): 공격자(또는 악의적인 서버)는 전송된 모델 그래디언트를 통해 독점적인 회로 토폴로지를 재구성할 수 있습니다.
2. 멤버십 추론 공격(Membership Inference Attacks, MIA): 다음 토큰 예측을 위해 메모리화(Memorization)와 높은 신뢰도를 유도하는 생성형 AI 모델의 자기회귀(Autoregressive) 특성으로 인해, 공격자는 모델 출력을 분석하여 특정 회로 설계가 학습 세트에 포함되었는지 여부를 판단할 수 있습니다.
3. 배포 복잡성: 실용적인 프레임워크는 설계자의 회로 토폴로지 IP뿐만 아니라, 회로 성능을 평가하는 데 사용되는 반도체 제조 공정 파라미터(Process Parameters)까지 보호해야 합니다.

차분 프라이버시(Differential Privacy, DP), 프루닝(Pruning) 또는 정규화(Regularization)와 같은 기존 방어 기법은 대규모 자기회귀 모델에 적용할 경우 상당한 유틸리티 저하를 초래하거나 정교한 공격에 대해 불충분한 보호를 제공하는 경우가 많습니다.

방법론: AnalogFed 프레임워크

저자들은 FedL과 GenAI를 사용하여 대규모 아날로그 회로 토폴로지 발견을 위한 최초의 프라이버시 보존 프레임워크인 AnalogFed를 제안합니다. 이 프레임워크는 세 가지 핵심 기술 전략을 통합합니다.

1. 2단계 프라이버시 보존 배포

설계자 IP와 제조 공정 기술이라는 이중 레이어의 프라이버시 요구사항을 해결하기 위해, AnalogFed는 2단계 전략을 채택합니다.

• 연합 사전 학습(Federated Pre-training): 클라이언트들은 분산된 프라이빗 토폴로지 데이터셋을 사용하여 공유 생성 모델(최첨단 AnalogGenie 백본 기반)을 협력적으로 사전 학습합니다. 이 단계는 원본 데이터를 노출하지 않고 회로 연결성에 대한 기초 지식을 포착합니다.
• 분산 미세 조정(Decentralized Fine-tuning): 클라이언트들은 각자의 프라이빗 데이터셋과 특정 반도체 공정 제약 조건을 사용하여 특정 작업(예: 고성능 Op-Amp 설계)에 대해 로컬 미세 조정을 수행합니다. 이를 통해 민감한 제조 기술이 클라이언트에 국한되어 유지되도록 합니다. 미세 조정에는 성능 지표인 성능 지수(Figure-of-Merit, FoM)를 최적화하기 위해 근사 정책 최적화(PPO)를 통한 인간 피드백 기반 강화 학습(RLHF)이 활용됩니다.

2. 동적 동형 암호화(Dynamic Homomorphic Encryption, DHE)

사전 학습 단계 중 모델 역전 공격을 방어하기 위해, AnalogFed는 동적 동형 암호화 메커니즘을 도입합니다.

• 관찰: 심층 신경망의 그래디언트는 초기 학습 단계에서는 크기가 크고(정보량이 많음), 후기 단계로 갈수록 크게 감소하는 수렴 동작을 보입니다.
• 메커니즘: DHE는 초기 단계의 큰 규모의 그래디언트만을 적응적으로 암호화합니다. 손실 감소가 5회 연속으로 20% 임계값 아래로 떨어지면(통상 약 600 라운드 이후) 암호화가 자동으로 비활성화됩니다.
• 이점: 이 방식은 전체 동형 암호화와 관련된 계산 및 통신 오버헤드를 크게 줄이면서도, 가장 정보가 많은 업데이트로부터 모델 파라미터를 효과적으로 보호합니다.

3. 더미 토큰 입력 섭동(Dummy Token Input Perturbation)

모델 유틸리티를 저하시키지 않으면서 멤버십 추론 공격(MIA)을 완화하기 위해, AnalogFed는 새로운 입력 섭동 전략을 제안합니다.

• 메커니즘: 프레임워크는 회로 토폴로지 시퀀스에 (노드를 전원/접지, 예: VDD/VSS에 연결하는 더미 와이어를 나타내는) "더미 토큰"을 주입합니다. 이 토큰들은 레이아웃 대칭성을 위한 산업 표준 관행을 모방하는 동시에 프라이버시 방어 역할을 수행합니다.
• 학습 전략: 더미 토큰은 입력 시퀀스에 특정 비율(예: 6%)로 주입됩니다. 결정적으로, 더밍 토큰에 대한 손실 함수는 마스킹 처리됩니다. 즉, 이들은 입력 섭동으로서 작용하지만 그래디언트 업데이트에는 기여하지 않습니다.
• 효과: 이는 학습 데이터 분포를 변화시켜 모델이 특정 학습 패턴에 과도하게 익숙해지는 것을 방지하며, 공격자가 예측 신뢰도를 바탕으로 멤버 회로와 비멤버 회로를 구별하기 어렵게 만듭니다.

주요 기여

1. GenAI 기반 EDA를 위한 최초의 FedL 프레임워크: AnalogFed는 아날로그 설계 자동화를 위한 연합 학습과 생성형 AI의 통합을 개척하여, 프라이버시가 보장되는 확장 가능한 하드웨어 설계의 기반을 마련했습니다.
2. 이중 수준 프라이버시 협업: 이 프레임워크는 2단계 배포 전략을 통해 독점적인 토폴로지 데이터셋(설계자 IP)과 반도체 제조 기술(제조사 IP)을 모두 보호하는 독특한 방식을 취합니다.
3. 도메인 특화 방어 메커니즘:
   • 더미 토큰 섭동: 모델 업데이트에 노이즈를 추가하는 대신 입력을 섭동함으로써 MIA를 완화하는 새롭고 저비용인 전략입니다.
   • 동적 동형 암호화: 가장 정보가 많은 초기 단계의 그래디언트만을 암호화함으로써 보안과 효율성의 균형을 맞춘 최적화된 암호화 방식입니다.
4. 포괄적인 평가: 본 연구는 균형 잡힌 분포 및 불균형 데이터 분포를 포함한 다양한 연합 환경에서 AnalogFed의 실현 가능성, 확장성 및 견고성을 입증하는 광범한 실험을 제공합니다.

실험 결과

저자들은 AnalogGenie 데이터셋(3,350개의 고유 아날로그 토폴로지)과 11.8M 파라미터의 디코더 전용 트랜스포머 모델을 사용하여 AnalogFed를 평가했습니다.

• 연합 발견 능력: 성능(유효성, 신규성, FoM, 확장성)은 참여 클라이언트 수가 증가함에 따라(3개에서 16개로) 일관되게 향상되었습니다. 이는 FedL이 분산된 데이터를 활용하여 단일 클라이언트 학습보다 더 강력한 모델을 구축할 수 있음을 보여줍니다. 더미 토큰 주입 전략은 더미 토큰이 없는 중앙 집중식 학습과 비교했을 때 모델 유틸리티를 저하시키지 않았습니다.
• DHE 효율성: 초기 600 라운드 동안만 암호화함으로써, DHE는 완전 암호화 베이스라인(FEDML-HE) 대비 5.1배의 통신 비용 절감을 달성했으며, 학습 시간을 184시간(정적 암호화 시)에서 48.5시간으로 단축하면서도 평문 학습과 유사한 모델 정확도를 유지했습니다.
• MIA 방어: 더미 토큰 방어는 7가지 표준 MIA 전략(예: Loss, Zlib, Mink)의 성공률을 유의미하게 낮추었습니다. 6%의 더미 토큰 비율과 블록 크기 4를 적용했을 때, AUC-ROC 점수는 무작위 추측 수준(~0.5)으로 떨어졌으며, 이는 강력한 프라이버시 보호를 나타냅합니다. 이 방어는 공격 입력에 불일치하는 더미 구성이 포함된 경우에도 견고함을 유지했습니다.

의의 및 주장

본 논문은 AnalogFed가 차세대 하드웨어 설계 자동화를 위한 확장 가능한 다자간 협업의 토대를 마련한다고 주장합니다. 데이터 사일로와 프라이버시 위험이라는 핵심 병목 현상을 해결함으로써, 이 프레임워크는 데이터 부족으로 인해 접근이 어려웠던 새로운 아날로그 회로를 발견할 수 있는 기초 수준의 설계 에이전트 개발을 가능하게 합니다.

저자들은 AnalogFed를 단순한 이론적 기여이 아니라, 하드웨어 도메인의 GenAI가 가진 특정 취약점을 해결하는 실질적인 솔루션으로 포지셔닝합니다. 이 연구는 조직들이 독점적인 설계나 제조 공정의 기밀을 유지하면서도 혁신을 위해 협력할 수 있도록 함으로써, 미래의 대규모 GenAI 기반 EDA를 향한 길을 열어준다고 확언합니다. 이 프레임워크는 하드웨어 설계를 위한 프라이버시 보존형 교차 조직 GenAI라는 더 넓은 패러다임을 향한 한 걸음으로 제시됩니다.