기술 요약: PRoVeFL

1. 문제 정의

연합 학습(Federated Learning, FL)은 데이터의 지역성을 보존하면서 협력적인 모델 학습을 가능하게 하지만, 표준 프레임워크들은 세 가지 보안 과제에 직면해 있습니다:

• 프라이버시: 전통적인 연합 학습은 정직하지만 호기심 많은(honest-but-curious) 서버를 가정하지만, 모델 업데이트는 추론 공격을 통해 민감한 정보를 유출할 수 있습니다. SMPC(Secure Multi-Party Computation)나 FHE(Fully Homomorphic Encryption)와 같은 기술들이 프라이버시를 제공하지만, 이들은 데이터를 너무 철저하게 은닉하여 악성 업데이트를 식별하는 것을 어렵게 만들기도 합니다.
• 비잔틴 강건성(Byzantine Robustness): 악의적인 클라이언트가 조작된 업데이트를 통해 글로벌 모델을 오염(poisoning)시킬 수 있습니다. Krum, Trimmed Mean과 같은 강건한 집계 규칙들이 존재하지만, 이들을 강력한 프라이버시 보장과 통합할 경우 과도한 계산 및 통신 오버헤드가 발생하거나 완화된 신뢰 가정을 전제로 해야 합니다.
• 검증 가능성(Verifiability): 클라이언트는 서버가 업데이트를 올바르게 집계하고 강건성 규칙을 제대로 집행하는지 신뢰해야 합니다. 기존의 검증 가능한 집계 프로토콜은 모든 클라이언트 입력이 정당하다고 가정하거나, 복잡한 최신 강건성 알고리즘을 지원하지 못하는 경우가 많습니다.

현재의 솔루션들은 막대한 성능 비용을 초래하거나 사용할 수 있는 집계 규칙을 제한하지 않으면서 프라이버시, 비잔틴 강건성, 그리고 검증 가능성을 동시에 달성하는 데 어려움을 겪고 있습니다.

2. 방법론: PRoVeFL 프레임워크

저자들은 이 세 가지 속성을 동시에 만족시키기 위해 설계된 모듈형 프레임워크인 PRoVeFL(Private Robust and Verifiable FL)을 제안합니다. 이 시스템은 다중 서버 아키텍처(최소 두 개의 서버가 필요하며, 그 중 적어도 하나는 정직하다는 가정)를 채택하며, **다중 키 완전 동형 암호(Multi-Key FHE, MK-FHE)**를 활용합니다.

핵심 아키텍처 원칙

1. MK-FHE 및 임계치 복호화(Threshold Decryption): 클라이언트는 서버들의 개별 키 쉐어로부터 유도된 그룹 공개 키를 사용하여 로컬 모델 업데이트를 암호화합니다. 어떤 단일 서버도 전체 비밀 키를 보유하지 않으며, 복호화를 위해서는 협업이 필요합니다. 이를 통해 모든 서버가 공모하지 않는 한 클라이언트의 업데이트가 프라이버시를 유지하도록 보장합니다.
2. 하이브리드 계산 모델 (암호문-평문 오프로딩): PRoVeFL의 핵심 혁신은 **무작위 곱셈 마스크($r$)**를 사용하는 것입니다.
   • 클라이언트는 자신의 업데이트를 암호화하고 이를 암호화된 무작위 마스크 $Enc_{pk}(r)$에 곱합니다.
   • 서버들은 암호화되고 마스킹된 데이터에 대해 필요한 통계적 연산(예: 거리 계산, 정렬)을 수행합니다.
   • 서버들은 협력하여 결과를 복호화하며, 이때 마스킹된 중간값($r \cdot \text{value}$)만을 드러냅니다.
   • 무작위 마스크 $r$은 단일 당사자가 알 수 없으며 매 라운드 변경되므로 평문 값은 숨겨진 상태로 유지됩니다. 그러나 마스크는 값들의 상대적 순서를 보존합니다.
   • 이를 통해 정렬, 비교, 선택과 같은 계산 집약적인 비선형 연산들을, 값비싼 암호문 영역 내에서 전부 수행하는 대신, 마스킹된 값들에 대해 평문 영역에서 효율적으로 수행할 수 있습니다.
3. 커밋 기반 검증(Commitment-Based Verification): 무결성을 보장하기 위해 클라이언트는 자신의 데이터에 대한 이산 로그 커밋(discrete logarithmic commitments)을 게시합니다. 서버들은 집계 단계에 대한 암호학적 증명을 생성합니다. 피어 서버들은 진행하기 전에 쌍선형 패어링(bilinear pairings) 또는 군 법칙(group laws)을 사용하여 이 증명들을 검증합니다. 만약 검증에 실패하면 프로토콜은 중단되어 조작된 결과가 수용되는 것을 방지합니다.

집계 규칙의 인스턴스화

PRoVeFL은 로직을 네 가지 핵심 암호학적 프리미티브인 선형 집계(LA), 쌍별 통계 평가(PSE), 보안 비교 및 순서 지정(SCO), 선택 및 필터링(SF)으로 매핑함으로써 광범위한 비잔틴 강건 알고리즘과 호환되도록 설계되었습니다. 논문은 이를 다음과 같이 구현하여 입증합니다:

• Krum: 암호화된 도메인에서 쌍별 유클리드 거리를 계산하고, 마스킹된 거리를 복호화한 뒤, 평문에서 최소 점수를 가진 업데이트를 선택합니다.
• Trimmed Mean: 좌표별 차이를 계산하고, 암호화된 데이터 상에서 보안 비교-교환 네트워크(Batcher's odd-even mergesort)를 사용하여 정렬한 후, 마스킹된 차이를 복호화하고 평문에서 극단값을 제거(trim)합니다.
• FLTrust: 신뢰할 수 있는 참조 벡터에 대한 코사인 유사도 가중치를 암호화된 도메인에서 계산하고, 마스킹된 점수를 복호화한 뒤 평문에서 가중 평균을 수행합니다.
• MESAS: PRoVeFL은 클러스터링 및 분산 계산을 포함하는 다른 복잡한 스킴들로 확장 가능하다는 점이 언급되었습니다.

3. 주요 기여

• 통합 프레임워크: PRoVeFL은 분산된 신뢰 모델(최소 하나의 정직한 서버 가정) 하에서 클라이언트 업데이트의 프라이버시, 비잔틴 강건성, 서버 측 검증 가능성을 동시에 보장하는 최초의 프레임워크입니다.
• 하이브리드 계산을 통한 효율성: 무작위 곱셈 마스크를 사용하여 복잡한 선택 및 필터링 로직을 평문 도메인으로 오프로딩함으로써, PRoVeFL은 순수 FHE 기반 접근 방식에 비해 계산 부담을 크게 줄였습니다.
• 알고리즘 유연성: 단순한 휴리스틱(예: 노름 클리핑)을 강제하는 기존 연구들과 달리, PR-OVeFL은 정렬 및 쌍별 비교가 필요한 Krum, Trimmed Mean, FLTrust, MESAS와 같은 복잡한 최신 집계 규칙을 지원합니다.
• 확장성: 다중 서버 설계는 계산 부하를 분산시킵니다. 이 프레임워크는 클라이언트에게 추가적인 통신이나 계산 부담을 주지 않으면서 서버의 수가 증가함에 따라 효율적으로 확장됩니다.

4. 결과 및 평가

저자들은 다양한 파라미터 수, 참여자 수, 서버 수를 기준으로 PRoVeFL을 평가하였으며, 이를 분산 신뢰 기반 연구인 Prio 및 ELSA와 비교하였습니다.

• 성능: PRoVeFL은 Prio 대비 최대 100배, ELSA 대비 10배의 속도 향상을 달着하며 상당한 런타임 개선을 보여주었으며, 대등한 보안 보장을 유지했습니다.
• 확장성: 시스템은 파라미터 및 참여자 수가 증가함에 따라 효율성을 유지하며, 이는 모듈형 다중 서버 아키텍처의 타당성을 입증합니다.
• 호환성: Krum, Trimmed Mean, FLTrust, MESAS의 성공적인 구현은 다양한 통계적 연산을 처리할 수 있는 프레임워크의 능력을 확인시켜 줍니다.

5. 의의 및 주장

본 논문은 PRoVeFL이 연합 학습에서의 프라이버시, 무결성, 검증 가능성 사이의 근본적인 트레이드오프를 해결한다고 주장합니다. MK-FHE와 제어된 평문 계산을 전략적으로 결 조합함으로써, 저자들은 PRoVeFL이 강건하고 검증 가능한 FL을 실제 환경에 적용 가능하게 만든다고 주장합니다.

그 의의는 단순한 강건성 조치(노름 클리핑 등)를 넘어, 프라이버시를 희생하거나 과도한 비용을 치르지 않고도 복잡한 최신 방어 기제를 지원할 수 있다는 점에 있습니다. 이 프레임워크는 데이터 프라이시, 모델 무결성, 그리고 집계 과정을 감사할 수 있는 능력이 동시에 필수적인 고위험 환경(예: 의료, 금융)에 연합 학습을 배포할 수 있는 경로를 제공합니다.