🤖 machine learning

Beyond Parameter Space: NTK-Guided Personalized Aggregation for Robust Federated Learning

본 논문은 파라미터 공간 유사성의 한계를 극복하고 이질적인 환경에서 견고한 성능을 달성하기 위해, 함수 공간에서 개인화된 업데이트 선택을 수행하는 신경 탄젠트 커널(Neural Tangent Kernel, NTK) 기반 합의 점수를 활용하는 피어 투 피어 연합 학습 프레임워크인 LIGHTYEAR을 제안한다.

원저자: Mirko Konstantin, Stefan Zachow, Anirban Mukhopadhyay

게시일 2026-08-13

📖 5 분 읽기🧠 심층 분석

CC BY 4.0

원저자: Mirko Konstantin, Stefan Zachow, Anirban Mukhopadhyay

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신의 스마트폰, 스마트워치, 그리고 병원의 MRI 기계가 서로의 비밀을 공유하지 않으면서도 함께 더 똑똑해지기를 원하는 세상을 상상해 보세요. 이것이 바로 **연합 학습(Federated Learning, FL)**의 핵심입니다. 이것은 마치 거대한 글로벌 스터디 그룹과 같습니다. 학생들(기기들)은 같은 숙제를 하고 있지만, 자신의 노트를 선생님이나 서로에게 보여주는 것은 금지되어 있습니다. 대신, 그들은 오직 최종 답안이나 "업데이트"만을 중앙 허브로 보냅니다. 목표는 여러분의 의료 기록이나 메시지와 같은 개인 데이터를 절대 노출하지 않으면서 모두에게 도움이 되는 초지능형 모델을 구축하는 것입니다.

하지만 이 스터디 그룹에는 몇 가지 문제가 있습니다. 첫째, 모두의 숙제가 다릅니다. 어떤 학생은 수학을 공부하고 어떤 학생은 미술을 공부하듯, 그들의 "데이터"는 균일하지 않습니다. 둘째, 어떤 학생들은 혼란에 빠져 있거나, 고장 났거나, 심지어 가짜 답안을 제출하여 그룹을 방해하려 할 수도 있습니다. 과거에 선생님(중앙 서버)은 모델 내부의 숫자(스타일)를 보고 누가 도움이 되는지를 판단하려고 노력했습니다. 하지만 이 논문의 저자들은 답안의 스타일을 보는 것은 악보의 잉크 밀도만 보고 노래를 판단하는 것과 같다고 주장합니다. 그것은 노래가 실제로 좋은 소리를 내는지 알려주지 않습니다. 당신은 음악 자체를 들어야 합니다. 이 논문은 누군가를 합창단에 합류시키기 전에 그 음악을 듣는 새로운 방법을 탐구합니다.

문제점: 겉모습(또는 숫자로 된 모델)으로 책을 판단하기

머신러닝의 세계에서 모델은 본질적으로 "파라미터"라고 불리는 거대한 숫자 리스트입니다. 오랫동안 연구자들이 어떤 학생의 숙제가 그룹의 최종 학습 가이드에 섞일 만큼 충분히 좋은지 결정하려고 할 때, 그들은 단순히 이 숫자 리스트들을 비교해 왔습니다. 그들은 "당신의 숫자가 나의 것과 비슷해 보이는가?"라고 물었습니다.

이 논문의 저자인 미르코 콘스탄틴(Mirko Konstantin)과 그의 팀은 이것이 나쁜 생각이라고 말합니다. 그들은 두 모델이 매우 유사한 숫자를 가지고 있더라도, 실제로 예측을 수행할 때는 완전히 다르게 행동할 수 있다는 점을 지적합니다. 이는 마치 두 명의 요리사가 정확히 같은 레시피 카드를 사용하지만, 한 명은 맛있는 케이크를 만들고 다른 한 명은 벽돌을 만드는 것과 같습니다. 데이터가 무질서한 환경(예: 서로 다른 스캐너를 사용하는 다양한 병원들)이나 일부 학생들이 시스템을 망가뜨리려 하는 상황에서는, 숫자만 보는 것은 신뢰할 수 없습니다. 이는 종종 그룹이 잘못된 것을 배우게 하거나 나쁜 업데이트로 인해 혼란에 빠지게 만듭니다.

해결책: LIGHTYEAR와 "합의 점수(Agreement Score)"

이를 해결하기 위해 팀은 LIGHTYEAR(Local Inference Guided Aggregation for Heterogeneous Training Environments to Yield Enhancement Through Agreement and Regularization)라는 새로운 프레임워크를 제안합니다. 이름이 매우 길지만, 더 간단한 비유로 풀어보겠습니다.

스터디 그룹이 중앙 교사를 사용하는 것을 중단한다고 상상해 보세요. 대신 학생들은 원형으로 둘러앉아 서로에게 직접 숙제를 전달합니다(피어 투 피어(P2P) 또는 P2P 네트워크). 한 학생이 이웃으로부터 자신의 학습 가이드에 추가할 숙제를 받기 전, 그들은 단순히 숫자만 보는 것이 아닙니다. 그들은 실제로 주머니 속에 숨겨둔 몇 가지 연습 문제로 그 숙제를 직접 테스트해 봅니다.

여기서 마법이 일어납니다. 저자들은 **뉴럴 탄젠트 커널(Neural Tangent Kernel, NTK)**이라는 수학적 도구를 사용합니다. NTK를 "행동 지문"이라고 생각하세요. "당신의 숫자가 내 것과 일치하는가?"라고 묻는 대신, LIGHTYEAR는 "내가 특정 테스트 질문을 주었을 때, 당신은 나와 같은 방식으로 답할 것인가?"라고 묻습니다.

그들은 **합의 점수(Agreement Score)**를 계산합니다. 만약 이웃의 모델이 학생 자신의 모델과 일치하는 방식으로 로컬 테스트 질문에 대한 답을 예측한다면, 점수는 높게 책정되고 그 숙제는 수락됩니다. 만약 이웃의 모델이 궤도를 벗어나 (완전히 엉뚱한 것을 예측한다면) 점수는 낮아지고, 그 업데이트는 거부됩니다. 이를 통해 각 학생은 자신의 특정 로컬 과제들을 이해하는 이웃들로부터만 도움을 받아 자신만의 맞춤형 학습 가이드를 구축할 수 있습니다.

"정규화(Regularization)" 안전망

최고의 이웃들과 함께하더라도 때때로 흔들릴 수 있습니다. 때로는 좋은 업데이트조차 그룹을 너무 한 방향으로 치우치게 만들 수 있습니다. 이를 방지하기 위해 LIGHTYEAR는 "정규화" 항을 추가합니다. 이것은 어깨에 얹은 부드러운 손과 같습니다. 그것은 이렇게 말합니다. "이봐, 단 한 명의 이웃이 새로운 것을 말했다고 해서 너무 급격하게 생각을 바꾸지는 마." 이는 변화의 속도를 늦추어, 그룹이 무질서한 실제 데이터를 다룰 때 학습 과정이 안정적이고 충돌 가능성이 낮아지도록 만듭니다.

연구 결과: 회복 탄력성이 있는 팀

팀은 필기체 숫자 인식(FEMNIST)부터 피부암 스캔 및 태아 복부 구조의 초음파 영상 분석(Isic19)에 이르기까지 다섯 가지 데이터셋에 대해 LIGHTYEAR를 테스트했습니다. 그들은 이 방법을 FedAvg와 같은 표준 방식이나 Krum, Ditto와 같은 강건한 방식 등 9가지의 다른 인기 있는 기술들과 대결시켰습니다.

그들은 세 가지 유형의 방해꾼을 시뮬레이션했습니다:

가산 노이즈 공격(Additive-Noise Attacks): 답변에 무작위 정전기를 추가하는 학생들.
부호 반전 공격(Sign-Flipping Attacks): 그룹을 혼란시키기 위해 의도적으로 답변을 반대로 뒤집는 학생들.
무작위 업데이트(Random Updates): 완전히 가짜인 무작위 답변을 제출하는 학생들.

결과는 명확했습니다. 거의 모든 시나리오, 특히 그룹이 크고 데이터가 무질서할 때, LIGHTYEAR는 지속적으로 다른 방식들을 압도했습니다. 다른 방식들이 종종 성능이 무너져 정확도나 Dice 점수(이미지 분할 성능 측정치)가 거의 0에 가깝게 떨어지는 동안에도, LIGHTYEAR는 효과적인 학습을 유지했습니다.

예를 들어, 서로 다른 병원들로부터의 종양 탐지를 다루는 어려운 작업인 Camelyon17 데이터셋에서, 오작동하는 학생의 수가 증가했을 때 대부분의 다른 방식들은 완전히 실패했습니다. 그러나 LIGHTYEAR는 8명 중 7명이 오작동하는 상황에서도 종종 90% 이상의 정확도를 유지하며 높은 성능을 유지했습니다. FEMNIST 데이터셋에서는 오작동하는 학생이 한 명 있을 때 약 90.7%의 정확도를 달성한 반면, 다른 방식들은 크게 고전했습니다.

저자들은 이러한 성공이 두 가지 주요 요인 덕분이라고 제안합니다:

함수 공간 선택(Function-Space Selection): 모델의 숫자가 무엇인지(잉크)가 아니라 모델이 어떻게 행동하는지(음악)를 확인함으로써, 나쁜 업데이트를 훨씬 더 효과적으로 걸러낼 수 있었습니다.
개인화(Personalization): 각 학생이 자신의 로컬 데이터에 기반하여 자신만의 "최고의 이웃"을 선택할 수 있었기 때문에, 시스템은 모두에게 나쁠 수 있는 단 하나의 평균적인 솔루션에 모두가 동의하도록 강요하지 않았습니다.

트레이드오프 (Trade-off)

하지만 대가가 있습니다. 음악을 듣기 위해(행동을 평가하기 위해), 모든 학생은 이웃의 업데이트를 수락하기 전에 자신의 로컬 데이터로 추가 테스트를 수행해야 합니다. 이는 단순한 "전송 후 망각(send and forget)" 방식에 비해 더 많은 통신과 컴퓨팅 파워를 의미합니다. 저자들은 $N$ 명의 학생이 있는 완전 연결된 그룹에서 통신 비용이 학생 수의 제곱( $O(N^2)$ )에 따라 증가하며, 이는 중앙 서버 방식의 선형 비용( $O(N)$ )보다 훨씬 높다고 언급합니다. 그러나 의료 영상과 같이 신뢰성이 최우선인 중요한 응용 분야에서는, 모델이 깨지지 않도록 보장하기 위해 이 추가적인 비용을 감수할 가치가 있다고 그들은 주장합니다.

결론

이 논문은 무질서하고 예측 불가능한 실제 데이터의 세계에서, 우리는 머신러닝 모델을 단지 내부 숫자로만 판단하는 것을 멈춰야 한다고 제 제안합니다. "행동 지문"(NTK 기반의 합의 점수)을 사용하고 기기들이 자신의 로컬 현실에 비추어 업데이트를 검증하게 함으로써, 우리는 훨씬 더 강력한 학습 시스템을 구축할 수 있습니다. LIGHTYEAR는 단순히 혼돈 속에서 살아남는 것이 아니라, 그 혼돈 속에서 번창하며 더 똑똑하고, 개인화되고, 안전한 협업 AI의 미래를 향한 길을 제시합니다.

기술 요약: 파라미터 공간을 넘어: 강건한 연합 학습을 위한 NTK 기반 개인화된 집합 (Beyond Parameter Space: NTK-Guided Personalized Aggregation for Robust Federated Learning)

문제 정의

연합 학습(Federated Learning, FL)은 데이터 프라이버시를 유지하면서 분산된 클라이언트 간의 협력적 모델 학습을 가능하게 한다. 그러나 핵심적인 과제는 각 클라이언트의 특정 타겟 도메인과 관련하여 어떤 클라이언트 업데이트가 집합(aggregation)에 유익한지를 결정하는 것이다. 기존 방법들은 일반적으로 모델 가중치나 그래디언트를 비교하여 유사성을 평가하는 **파라미터 공간(parameter space)**에서 작동한다. 저자들은 파라미터 공간에서의 유사성이 특히 데이터가 독립적이지 않고 동일하게 분포하지 않는(non-IID) 이질적인 환경에서 예측 동작을 나타내는 불충분한 대리 지표(proxy)가 될 수 있다고 주장한다. 결과적으로, 데이터 분포의 변화나 오작동하는 클라이언트(예: 모델 포이즈닝, 센서 결함)로 인해 발생하는 타겟 도메인과 정렬되지 않은 업데이트가 집합에 포함되어 로컬 모델의 성능을 저하시킬 수 있다.

핵심 문제는 인접 클라이언트의 기저 데이터 분포나 학습 오차에 접근하지 않고도, 각 클라이언트 $i$ 에 대해 로컬 예측 오차 $\epsilon_i$ 를 최소화하는 최적의 집합 부분집합 $S_i$ 를 식별하는 것이다. 전통적인 중앙 집중형 FL 서버는 클라이언트별 검증 분포에서 유입되는 모델을 평가할 수 없으므로, 불충분한 파라미터 공간 휴리스틱에 의존할 수밖에 없다.

방법론

저자들은 업데이트 선택의 관점을 파라미터 공간에서 **함수 공간(function space)**으로 전환하는 프레임워크인 LIGHTYEAR(Local Inference Guided Aggregation for Heterogeneous Training Environments to Yield Enhancement Through Agreement and Regularization)를 제안한다.

1. 탈중앙화된 P2P 토폴로지

집합 전 함수 공간 정보(예측 동작)에 접근하기 위해, LIGHTYEAR는 중앙 집중형 스타(star) 토폴로지 대신 피어 투 피어(P2P) 토폴로지를 활용한다. 이 설정에서 클라이언트는 집합 전 자신의 프라이빗 검증 데이터를 사용하여 유입되는 모델을 로컬에서 직접 평가하며 업데이트를 교환한다. 이를 통해 파라미터 유사성이 아닌 실제 모델의 동작에 기반하여 개인화된 집합을 구성할 수 있다.

2. NTK 기반 합의 점수 (NTK-Based Agreement Score)

업데이트 선택을 위한 핵심 메커니즘은 **뉴럴 탄젠트 커널(Neural Tangent Kernel, NTK)**에서 유도된 **합의 점수(agreement score)**이다. NTK는 파라미터 변화와 예측 동작 사이의 관계를 나타내며, 주어진 데이터셋 상에서 모델이 어떻게 반응하는지를 포착한다.

계산: 로컬 참조 모델 $\theta_i$ 와 이웃 모델 $\theta_j$ 에 대해, 방법론은 로컬 검증 세트 $V_i$ 에 대한 최종 레이어 파라미터에 대한 네트워크 출력의 자코비안(Jacobian)을 계산한다.
커널 정렬: 스케일 의존성을 제거하기 위해 경험적 NTK 행렬을 구축하고 정규화(중심화 및 프로베니우스 정규화)한다. 합의 점수 $A(\theta_i, \theta_j; V_i)$ 는 두 모델의 커널 행렬 간의 정규화된 프로베니우스 내적으로 정의된다.
선택: 클라이언트는 합의 점수가 임계값 $\tau$ 를 초과하는 이웃을 선택한다. 이는 파라미터 값이 유사해 보이더라도 실질적으로 다른 예측 메커니즘에 의존하는 업데이트를 필터링한다.

3. 정규화된 집합 (Regularized Aggregation)

개인화된 집합 $S_i$ 를 선택한 후, 업데이트는 라운드 의존적 정규화 항 $\gamma_t$ 를 포함하는 규칙을 사용하여 집합된다:
$\bar{\theta}_i^{(t+1)} = \bar{\theta}_i^{(t)} + \gamma_t \cdot \frac{1}{|S_i|} \sum_{j \in S_i} (\theta_j - \bar{\theta}_i^{(t)})$
이 항은 변화의 감쇠 역할을 하여 훈련을 안정화하고 이질적인 환경에서 클라이언트 드리프트(client drift)를 완화한다.

주요 기여

LIGHTYEAR 프레임워크: 강건하고 개인화된 훈련을 지원하기 위해 함수 공간 합의 점수를 통한 업데이트 선택과 정규화된 집합 규칙을 결합한 P2P FL 프레임워크.
NTK 기반 합의 점수: 파라미터 변화를 예측 동작과 연결함으로써, 클라이언트 업데이트와 로컬 모델 간의 의미론적 정렬을 함수 공간에서 포착하는 지표. 이를 통해 클라이언트는 자신의 데이터 분포에 유익한 업데이트만을 선택적으로 포함할 수 있다.
정규화된 집합 규칙: 이질적인 환경에서 클라이언트 드리프트를 완화하기 위해 설계된, 시간 경과에 따른 업데이트의 영향을 조절하는 라운드 의존적 정규화 항을 포함하는 메커니즘.

실험 결과

저자들은 분류 및 세그멘테이션 작업을 모두 포함하는 다섯 가지 다양한 데이터셋(FEMNIST, Camelyon17-WILDS, ISIC19, Fetal Abdominal Structures, ChestXRay)을 통해 LIGHTYEAR를 평가했다. 실험에서는 중앙 집중식 방법(FedAvg, Krum, Ditto 등) 및 기존 P2P 방식(BALANCE, SCCLIP)을 포함한 9가지 베이스라인과 LIGHTYEAR를 비교했다.

오작동에 대한 강건성: LIGHTYEAR는 세 가지 유형의 클라이언트 오작동(가산 노이즈 공격(ANA), 부호 반전 공격(SFA), 무작위 가중치 초기화(기술적 결함)) 하에서 일관되게 모든 베이스라인을 능가했다. 베이스라인 방법들은 오작동하는 클라이언트의 비율이 50%를 초과할 때 성능이 발산하거나 거의 무작위 성능(예: 세그멘테이션 작업에서 Dice 점수가 0에 가까움)으로 붕괴된 반면, LIGHTYEAR는 안정적인 성능을 유지했다.
이질성: 이 방법은 매우 이질적인 설정(예: 서로 다른 병원 스캐너를 사용하는 Camelyon17)과 오작동하는 클라이언트가 매 라운드 무작위로 공격 유형을 바꾸는 동적인 시나리오에서 탁월한 회복력을 보여주었다.
분산 감소: 평균 성능 외에도, LIGHTYEAR는 중앙 집중식 및 기존 P2P 베이스라인에 비해 클라이언트 간의 분산을 실질적으로 줄였으며, 이는 더 신뢰할 수 있고 균일한 결과를 나타낸다.

의의 및 주장

본 논문은 LIGHTYEAR의 주요 의의가 **함수 공간 추론(function-space reasoning)**이 파라미터 공간 메트릭보다 연합 최적화에 더 효과적인 접근 방식임을 입증하는 데 있다고 주장한다. P2P 토폴로지를 활용하여 로컬 검증 데이터에 접근함으로써, 프레임워크는 행동 인식 집합 결정을 내릴 수 있게 한다.

저자들은 이 접근 방식이 다음과 같은 효과를 가진다고 단언한다:

오작동하거나 무관한 업데이트에 대한 강건성 향상.
이질적인 환경에서 타겟 도메인에 대한 성능 저하 감소.
각 클라이언트가 가장 유익한 업데이트만을 선택적으로 수용할 수 있게 함으로써 개인화 강화.
데이터 분포가 크게 다르고 클라이언트의 신뢰성이 중요한 다양한 의료 영상 애플리케이션을 위한 더 신뢰할 수 있는 대안 제공.

이 연구는 향후 FL 방법론이 특히 로컬 평가가 가능한 탈중앙화된 설정에서 파라미터 공간 메트릭을 넘어 행동 인식 집합 전략으로 나아가는 것이 유익할 것임을 시사한다.