[기술 요약] 금융 사기 탐지를 위한 확장 가능하고 검증 가능한 연합 학습 (DSFL)

1. 문제 정의 (Problem Statement)

현재 금융 생태계는 **'데이터 주권의 교착 상태(Data Sovereignty Deadlock)'**라는 심각한 문제에 직면해 있습니다.

• 위협의 비대칭성: 금융 사기 조직은 국경 없는 네트워크를 통해 정교한 수법(smurfing, layering 등)을 사용하지만, 개별 은행은 GDPR, CCPA와 같은 엄격한 개인정보 보호법으로 인해 데이터를 공유할 수 없어 각자의 데이터 사일로(Silo)에 갇혀 있습니다.
• 기존 연합 학습(FL)의 한계 (Scalability–Privacy–Integrity Trilemma):
  1. 확장성(Scalability) 부족: Paillier와 같은 동형 암호(HE)는 계산 비용이 너무 높고, Google의 SecAgg와 같은 마스킹 프로토콜은 참여자 수($N$)의 제곱($O(N^2)$)에 비례하는 키 교환 비용이 발생합니다.
  2. 프라이버시(Privacy) 취약성: 공격자가 공유된 그래디언트(Gradient)를 역추적하여 민감한 거래 데이터를 복원하는 '그래디언트 인버전 공격'에 노출될 수 있습니다.
  3. 무결성(Integrity) 결여: 악의적인 참여자가 잘못된 그래디언트를 주입하여 모델을 망가뜨리는 '모델 포이즈닝(Model Poisoning)'을 방어할 검증 메커니즘이 부족합니다.

2. 제안 방법론: DSFL (Dynamic Sharded Federated Learning)

본 논문은 위 세 가지 문제를 동시에 해결하기 위해 DSFL 프레임워크를 제안합니다. 이 프레임워크는 세 단계의 알고리즘으로 구성됩니다.

① 동적 확률적 샤딩 (Dynamic Stochastic Sharding)

• 핵심 아이디어: 모든 참여자가 서로 키를 교환하는 대신, 참여자들을 고정된 크기($m$)의 작은 그룹(Shard)으로 나눕니다.
• 효과: 통신 복잡도를 $O(N^2)$에서 $O(N \cdot m)$으로 낮추어, 참여자 수에 따라 선형적으로 확장 가능한(Asymptotically Linear) 구조를 구현합니다. PRF(의사 난수 함수)를 사용하여 매 라운드마다 샤드 구성을 변경함으로써 Sybil 공격을 방지합니다.

② 샤드 내 마스킹 및 검증 가능성 (Intra-Shard Masking & Verifiability)

• 제로섬 마스킹(Zero-sum Masking): 샤드 내 참여자들은 ECDH(타원곡선 디피-헬먼)를 통해 생성된 공유 비밀값을 사용하여 그래디언트에 마스크를 씌웁니다. 합산 시 마스크가 서로 상쇄되어 서버는 원본 데이터를 볼 수 없지만 전체 합계는 구할 수 있습니다.
• 선형 무결성 태그(Linear Integrity Tags): 각 참여자는 마스킹된 업데이트와 무작위 도전 벡터($\alpha$)의 내적값인 '태그'를 제출합니다. 서버는 개별 데이터를 보지 않고도 태그의 합계를 통해 전체 업데이트의 일관성을 검증할 수 있습니다. 이는 확률적으로 매우 높은 보안성을 제공합니다.

③ 능동적 이웃 복구 (Active Neighborhood Recovery)

• 핵심 아이디어: 네트워크 불안정으로 인해 일부 참여자가 중도 탈락(Dropout)할 경우, 마스크가 상쇄되지 않아 전체 합계가 왜곡되는 문제를 해결합니다.
• 메커니즘: 서버는 탈락한 노드의 이웃 노드로부터 탈락 노드와 공유했던 비밀값(Seed)만을 요청하여, 탈락한 노드의 마스크를 계산해 전체 합계에서 제거(Neutralization)합니다. 이를 통해 최대 30%의 노드 탈락에도 안정적인 집계가 가능합니다.

3. 주요 기여 (Key Contributions)

1. 확장성 확보: 샤딩 기술을 통해 통신 및 계산 복잡도를 선형적($O(N)$) 수준으로 최적화했습니다.
2. 무결성 검증 메커니즘: 영지식 증명(ZKP)과 같은 무거운 연산 없이도, 가벼운 선형 태그를 통해 악의적인 데이터 주입을 탐지할 수 있는 구조를 설계했습니다.
3. 강력한 프라이버시 보장: DDH(Decisional Diffie-Hellman) 가정을 기반으로, 서버나 공모자가 참여자의 개별 그래디언트를 복원할 수 없음을 수학적으로 증명했습니다.
4. 결함 허용(Fault Tolerance): 능동적 복구 프로토콜을 통해 실제 금융 네트워크의 불안정한 연결 환경에서도 작동 가능함을 보였습니다.

4. 실험 결과 (Results)

Credit Card Fraud Detection Dataset(ULB)을 사용하여 검증한 결과는 다음과 같습니다.

• 성능 향상: 협력 모델(DSFL)의 **Global Recall은 91.2%**로, 개별 은행 모델의 평균(68%)보다 압도적으로 높았습니다. 이는 서로 다른 유형의 사기 패턴을 통합 학습했기 때문입니다.
• 지연 시간(Latency) 감소: Paillier 기반의 보안 집계 방식과 비교했을 때 약 33~34배의 지연 시간 단축을 달성했습니다.
• 확장성 검증: 참여자 수($N$)가 증가함에 따라 지연 시간이 선형적으로 증가함을 확인하여, 대규모 금융 컨소시엄에 적합함을 입증했습니다.
• 강건성(Robustness): 20%의 노드가 탈락하는 가혹한 환경에서도 모델의 성능(AUPRC)이 정상 상태와 통계적으로 차이가 없을 만큼 안정적이었습니다.

5. 의의 (Significance)

본 논문은 이론적 보안성과 실무적 효율성 사이의 균형을 맞춘 실용적인 프레임워크를 제시했습니다. DSFL은 "데이터를 공유하지 않으면서도, 데이터 공유와 동일한 수준의 지능을 얻어야 하는" 금융권의 규제적 요구사항과 보안 요구사항을 동시에 충족할 수 있는 강력한 기반 기술이 될 것입니다.