DIST-FL: Enhancing Security for TEE-based Aggregation in Federated Learning

DIST-FL 기술 요약: TEE 기반 연합 학습의 보안 강화

문제 정의

연합 학습(Federated Learning, FL)은 클라이언트의 모델 업데이트를 조정하기 위해 중앙 서버에 의존한다. 본 논문은 TEE(Trusted Execution Environment, 신뢰 실행 환경)가 코드와 데이터를 격리하여 악의적인 행위자로부터 서버 측을 보호하기 위해 제안되었음에도 불구하고, 기존의 TEE 기반 FL 프로토콜이 근본적으로 취약하다고 주장한다. 저자들은 서버 측 공격자가 두 가지 고유한 TEE의 한계인 **I/O 조작(I/O manipulation)**과 **상태 롤백(state rollback)**을 악용할 수 있음을 식별하였다.

구체적으로, 본 논문은 다음과 같은 사실을 입증한다:

1. 편향된 클라이언트 선택(Biased Client Selection): OS를 제어하는 공격자는 I/O를 조작하여 특정 클라이언트를 배제하거나, 원하는 (편향된) 하위 집합이 선택될 때까지 상태 롤백을 사용하여 클라이언트 선택 단계를 재실행할 수 있다. 이는 모델의 강건성과 성능을 저하시킨다.
2. 집계 재실행(Aggregation Replay): 공격자가 집계 라운드 이후 TEE의 상태를 롤백함으로써, 서로 다른 클라이언트 하위 집합을 사용하여 집계 프로세스를 재실행할 수 있다. 반복된 실행 결과(예: 한 번에 한 명의 클라이언트를 제외하며 비교)를 대조함으로써, 공격자는 차분 분석(differential analysis)을 수행하여 개별 클라이언트의 업데이트를 재구성하고 유출할 수 있다. 이 취약점은 Krum과 같이 악의적인 클라이언트에 대해 강건하도록 설계된 프로토콜에서도 존재한다.

추가 기록형 원장(append-only ledgers)이나 분산 TEE를 사용하는 기존 솔루션들은 이러한 특정 FL 요구사항을 해결하는 데 실패하는 경우가 많으며, 이는 원본 그래디언트를 추가할 경우 발생하는 높은 오버헤드(high overhead)나 I/O 조작에 대한 불충분한 보호로 이어진다.

방법론: DIST-FL

이러한 취약점을 해결하기 위해, 저자들은 여러 개의 TEE로 보호되는 서버들의 분산 시스템인 DIST-FL을 제안한다. 이 시스템은 원시 클라이언트 업데이트에 대한 직접적인 합의(consensus)로 인한 과도한 비용을 발생시키지 않으면서, 운영의 선형성(linearizability)을 보장하고 I/O 조작을 완화하도록 설계되었다.

핵심 아키텍처 구성 요소:

• 분산 TEE 서버: 시스템은 최대 $f$개의 악의적인 서버를 허용하며, Intel SGX를 탑재한 $n = 2f + 1$개의 서버를 운용한다.
• 모듈형 엔클레이브(Modular Enclaves): 신뢰할 수 있는 로직은 세 개의 엔클레이브로 나뉜다:
  • 검증 프록시 엔클레이브(Attestation Proxy Enclave, APE): 키 관리 및 원격 검증(remote attestation)을 통해 보안 채널을 구축한다.
  • 집계 엔클레이브(Aggregator Enclave, AE): 무작위 클라이언트 선택, 업데이트 동기화 및 집계를 처리한다.
  • 원장 엔클레이브(Ledger Enclave, LE): 상태 업데이트의 공유 이력을 유지하고 롤백을 방지하기 위해 최첨단 추가 기록형 원장인 Nimble을 통합한다.

주요 메커즘:

1. 선(先) 집계 후(後) 추가(Aggregate-Before-Append): 원장(ledger)에 대규모 클라이언트 그래디언트를 추가할 때 발생하는 높은 오버헤드를 피하기 위해, 리더 서버는 TEE 내부에서 먼저 그래디언트를 집계한다. 오직 암호화된 집계 결과(글로벌 모델 업데이트)만이 Nimble 원장에 추가된다. 이를 통해 효율성을 유지하면서 최종 상태에 대한 롤백 보호를 보장한다.
2. 입력 증명(Proof-of-Input, PoI): 악의적인 리더가 클라이언트 업데이트를 검열하는 I/O 조작에 대응하기 위해, DIST-FL은 PoI 메커니즘을 도입한다. 리더는 일방적으로 입력 집합을 결정할 수 없다. 대신, 리더는 다른 서버들로부터 받은 업데이트의 비트맵(bitmap)을 수집해야 한다. 리더는 최소 $f + 1$개의 서버로부터 확인을 받은 후에만 집계를 진행한다. 이는 적어도 하나의 정직한 서버의 관점이 수신된 업데이트에 포함되도록 보장하여, 리더가 임의로 클라이언트를 배제하는 것을 방지한다.
3. 선형성(Linearizability): 결과를 공개하기 전에 집계 상태를 추가 기록형 원장에 커밋함으로써, 시스템은 상태가 이전 라운드로 롤백될 수 없음을 보장하여 재실행 공격(replay attacks)을 차단한다.

주요 기여

본 논문은 다음과 같은 기여를 주장한다:

• 보안 분석: TEE의 취약점(롤백 및 I/O 조작)이 어떻게 FL 운영을 구체적으로 저해하는지에 대한 최초의 분석을 제시하며, 이것이 어떻게 공격자로 하여금 클라이언트 선택을 편향시키고 집계 재실행을 통해 개별 업데이트를 유출하게 만드는지 입증한다.
• 시스템 설계: 롤백이 방지된 상태 연속성(Nimble을 통해)과 리더 탄력적 입력 확립(PoI를 통해)을 결합한 DIST-FL의 설계를 제시한다. 또한, TEE 기반 합의를 FL 워크로드로 확장하기 위한 "선 집계 후 추가" 전략을 도입한다.
• 구현 및 평가: PyTorch를 사용하여 Intel SGX 상에서 프로토타입을 구현하였으며, 최대 3,400명의 클라이언트를 포함하는 광역 네트워크(WAN) 환경의 50개 클라우드 인스턴스에서 평가하였다.

실험 결과

저자들은 DIST-FL을 Single-TEE 베이스라인, "업데이트 기반 합의(Consensus-on-Updates)" 베이스라인(원시 그래디언트를 직접 추가하는 방식), 그리고 다자간 계산(MPC) 베이스라인과 비교 평가하였다.

• 보안 효능: 참여 감소(50개 중 30개 클라이언트 검열) 및 편향된 참여(CIFAR-10에서 "트럭"과 같은 특정 데이터 클래스 제외) 공격 상황에서, Single-TEE 베이스라인은 심각한 정확도 저하(예: CIFAR-10에서 편향된 공격 시 86.6%에서 12.5%로 하락)를 겪었다. 반면, DIST-FL은 높은 정확도(CIFAR-10에서 84.0%)를 유지하며 공격을 효과적으로 무력화했다.
• 성능:
  • 처리량(Throughput): DIST-FL은 "Consensus-on-Updates" 및 MPC 베이스라인보다 약 6배 높은 처리량을 달성했다.
  • 지연 시간(Latency): DIST-FL은 단일 취약 TEE보다는 약간 높은 지연 시간을 가졌으나(합의 오버헤드로 인해), 암호학적 대안들보다는 현저히 빨랐다. 13.1 MB 모델에 대해 DIST-FL의 지연 시간은 Single-TEE의 약 두 배였던 반면, "Consensus-on-Updates" 베이스라인은 14배 더 느렸다.
  • 확장성(Scalability): 클라이언트 수가 증가함에 따라 다른 보안 베이스라인들의 지연 시간과 처리량이 크게 저하된 것과 달리, DIST-FL은 안정적인 모습을 보였다.
  • 장애 복구: 시스템은 리더가 아닌 서버의 장애에 대해 훈련에 눈에 띄는 영향 없이 회복력을 보여주었다. 리더 장애 시에는 짧은(~1초) 복구 타임아웃이 발생했으며, 결함 허용 임계값(9개 중 8개 서버 장애)을 초과하면 시스템이 올바르게 중단되었다.

의의 및 주장

본 논문은 DIST-FL을 TEE의 이론적 보안과 FL의 실질적 요구사항 사이의 간극을 메우는 실용적인 솔루션으로 포지셔닝한다. 저자들은 TEE가 상태 연속성과 I/O 무결성을 해결하지 못한다면 서버 신뢰를 위한 단순한 경로가 될 수 없다고 주장한다. DIST-FL은 다음과 같은 작업이 가능함을 입증한다:

1. 롤백 및 I/O 조작을 악용하는 서버 측 공격자를 차단한다.
2. 전체 암호학적 솔루션(MPC)이나 나이브한 분산 합의의 막대한 오버헤드를 피하면서, 단일 TEE 서버의 성능에 근접한다.
3. 실제 WAN 환경에서 강건하고 프라이빗한 집계를 위한 확장 가능한 프레임워크를 제공한다.

저자들은 결론적으로, 본 연구가 FL에서 단일 TEE 가정을 넘어설 필요성을 강조하며, 정교한 서버 측 공격으로부터 집계 프로세스를 보호하기 위한 구체적이고 효율적인 아키텍처를 제공한다고 밝힌다.