🤖 machine learning

Multi-Level Analyzation of Imbalance to Resolve Non-IID-Ness in Federated Learning

본 논문은 양의 음의 균형 손실 함수(Positive Negative Balanced loss function)와 클라이언트 균형 재가중치(Client Balanced Reweighting) 전략을 통해 케이스 간, 클래스 간, 그리고 클라이언트 간 수준의 데이터 불균형 문제를 해결하는 연합 학습 프레임워크인 FedBB를 제안하며, 이를 통해 개인정보를 보호하면서도 기존 알고리즘보다 정확도와 효율성 측면에서 뛰어난 성능을 보여준다.

원저자: Haengbok Chung, Jae Sung Lee

게시일 2026-06-10

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Haengbok Chung, Jae Sung Lee

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

서로 다른 병원의 의사들이 하나의 초지능형 질병 진단 AI를 구축하려고 한다고 상상해 보십시오. 그들은 환자의 개인정보를 보호하기 위해 실제 환자 파일은 공유하지 않으면서, 각자의 로컬 AI 모델을 학습시킨 뒤 그 '학습된 교훈'만을 중앙 서버로 보내 결합하고자 합니다. 이것이 바로 **연합 학습(Federated Learning)**입니다.

하지만 큰 문제가 있습니다. 데이터가 엉망이라는 점입니다.

어떤 병원은 주로 건강한 환자만 보고, 어떤 병원은 주로 아픈 환자만 보며, 어떤 병원은 희귀 질환이 섞인 기묘한 조합을 가지고 있습니다. 논문에서 저자들은 이를 "Non-IID"(데이터가 동일하거나 고르게 분포되어 있지 않은 상태)라고 부릅니다. 이 불균형 때문에 최종적으로 결합된 AI는 종종 혼란에 빠지고 성능이 저하됩니다.

이 논문의 저자인 강복 충(Haengbok Chung)과 재성 이(Jae Sung Lee)는 이렇게 말합니다. "우리는 이 혼란스러운 상황을 세 가지 다른 각도에서 바라봐야 합니다." 그들은 그들의 해결책을 FedBB(Positive-Negative Balanced loss와 Client Balanced Reweighting를 이용한 연합 학습)라고 부릅니다.

저자들은 이 과정을 다음과 같은 쉬운 비유를 통해 설명합니다.

1. 세 가지 차원의 엉망인 상태 (The Three Levels of Messiness)

저자들은 "불균형"이 현미경, 창문, 드론의 시각처럼 세 가지 방식으로 발생한다는 것을 깨달았습니다.

개별 사례 간의 불균형 (현미경 뷰 - Inter-Case):
- 문제점: 예를 들어 "폐렴"이라는 특정 질병을 생각해 봅시다. 폐렴 환자가 1명 있을 때, 폐렴이 없는 사람은 100명이 있을 수 있습니다. 그러면 AI는 게을러져서 모든 사람에게 "폐렴 없음"이라고만 답하게 됩니다. 왜냐하면 그렇게만 해도 99%의 확률로 맞기 때문입니다.
- 해결책: AI가 희귀한 "예(질병 있음)" 케이스에 특별히 더 주의를 기울이도록 강제해야 합니다.
클래스 간의 불균형 (창문 뷰 - Inter-Class):
- 문제점: 이제 과일 바구니 전체를 봅시다. 사과는 1,000개, 오렌지는 100개인데 바나나는 단 5개뿐일 수 있습니다. AI는 사과 전문가가 될 수는 있지만, 바나나를 거의 본 적이 없기 때문에 형편없는 바나나 전문가가 됩니다.
- 해결책: AI에게 "이 5개의 바나나는 매우 중요해! 절대 무시하지 마!"라고 알려줘야 합니다.
클라이언트 간의 불균형 (드론 뷰 - Inter-Client):
- 문제점: 병원 A는 환자가 10,000명이지만 모두 "사과" 케이스이고, 병원 B는 환자가 100명뿐이지만 사과, 오렌지, 바나나가 완벽하게 섞여 있다고 상상해 보십시오.
- 기존 방식: 중앙 서버는 보통 "병원 A가 데이터가 더 많으니, 그들의 의견을 100배 더 많이 듣자"라고 결정합니다.
- 결과: 최종 AI는 "사과 전문가"가 되어 버리고, 그 외의 다른 것들은 잊어버리게 됩니다.
- 해결책: 서버는 오히려 병원 B의 목소리에 더 귀를 기울여야 합니다. 병원 B의 데이터셋은 규모는 작지만 훨씬 균형 잡혀 있고, AI에게 더 넓은 범위의 교훈을 가르쳐 주기 때문입니다.

2. 해결책: FedBB

저자들은 이러한 문제들을 해결하기 위해 두 부분으로 구성된 도구를 만들었습니다.

파트 A: "공정한 선생님" (PNB Loss)

이것은 로컬 학습 중에 AI를 채점하는 새로운 방식입니다.

작동 원리: 단순히 AI가 질문에 몇 번 맞혔는지를 세는 대신, 이 방법은 희귀하거나 어려운 케이스를 맞혔을 때 **가산점(Extra Credit)**을 주는 엄격한 선생님처럼 행동합니다.
비유: 학생이 쉬운 문제 100개를 맞히고 어려운 문제 하나를 틀렸을 때, 선생님은 단순히 "잘했어"라고 하지 않습니다. 선생님은 "너는 희귀한 문제를 틀렸구나! 그 문제는 점수를 두 배로 계산해야 해"라고 말합니다. 이는 AI가 소수 사례(희귀 질환이나 몇 안 되는 바나나 케이스)를 무시하지 못하도록 강제합니다.
보너스: 이 방식은 "멀티 클래스"(하나의 카테고스 선택)와 "멀티 레이블"(환자가 폐렴과 갈비뼈 골절을 동시에 가진 것처럼 여러 카테고리를 동시에 선택하는 경우) 모두에 적용 가능합니다.

파트 B: "스마트한 믹서" (CBR)

이것은 중앙 서버가 모든 병원의 모델을 결합하는 새로운 방식입니다.

작동 원리: 서버는 단순히 병원이 가진 환자 수를 세는 대신, 그들의 데이터가 얼마나 균형 잡혀 있는지를 확인합니다.
비유: 스무디를 섞는다고 상상해 보십시오. 만약 당신에게 거대한 딸기 스무디 통(병원 A)과 작은 컵에 담긴 완벽한 과일 샐러드(병원 B)가 있다면, 그냥 통째로 들이부어서는 안 됩니다. 작은 컵의 과일 샐러드가 더 다양한 맛의 프로필을 나타내므로, 최종 혼합물에서 더 큰 목소리를 내도록 해야 합니다.
결과: 최종 글로벌 모델은 가장 흔한 것들뿐만 아니라 모든 것을 잘 진단할 수 있는 "제너럴리스트(Generalist)"가 됩니다.

3. 이 연구가 중요한 이유 (논문에 따르면)

저자들은 두 가지 유형의 데이터로 테스트를 진행했습니다:

의료 X-레이: 서로 다른 병원의 실제 흉부 X-레이 데이터 (NIH 및 CheXpert 데이터셋).
자연 이미지: 표준 컴퓨터 비전 데이터셋인 CIFAR (고양이, 개, 자동차 등).

결과:

더 나은 성능: FedBB는 다른 유명한 방법들(FedAvg, FedProx, MOON 등)보다 정확도 면에서 앞섰습니다. 특히 일부 질병이나 물체가 매우 희귀한 "엉망인" 데이터를 다룰 때 뛰어난 성능을 보였습니다.
효율성: 슈퍼컴퓨터가 필요하지 않았습니다. 기본 방식(FedAvg)과 동일한 양의 컴퓨팅 자원을 사용하면서도 훨씬 더 나은 결과를 얻었습니다.
개인정보 보호: 이 방식은 실제 환자 파일을 볼 필요 없이 약간의 통계 정보(예: "데이터가 얼마나 균형 잡혀 있는가?")만 알면 되므로 개인정보를 안전하게 유지할 수 있습니다.

요약

이 논문은 개인정보를 보호하는 방식으로 진정으로 똑똑한 AI를 구축하려면, 단순히 모든 데이터를 한데 던져 넣어서는 안 된다고 주장합니다. 우리는 다음을 수행해야 합니다:

로컬 AI가 희귀한 케이스에도 관심을 갖도록 가르쳐야 하며 (PNB Loss 사용).
데이터가 작더라도 가장 다양한 데이터를 가진 로컬 AI의 목소리에 귀를 기울여야 합니다 (CBR 사용).

이렇게 함으로써, 최종적인 "글로벌 브레인"은 더 공정하고, 더 정확하며, 데이터가 결코 완벽하지 않은 실제 세상을 다룰 준비가 된 모델이 됩니다.

기술 요약: 불균형 해결을 위한 다층적 분석 기반의 연합 학습 (FedBB)

1. 문제 정의

연합 학습(Federated Learning, FL)은 데이터 프라이버시를 유지하면서 분산된 클라이언트 간의 협력적 모델 학습을 가능하게 합니다. 그러나 그 효능을 가로막는 결정적인 장벽은 비독립 동일 분포(non-IID) 데이터이며, 이는 흔히 심각한 **클래스 불균형(class imbalance)**에 의해 발생합니다. 기존의 non-IID 데이터 해결책들은 클래스 불균형의 미묘한 특성, 특히 멀티 레이블 분류(multi-label classification) 시나리오에서의 복잡성을 간과하는 경우가 많습니다.

저자들은 기존의 클래스 불균형 접근 방식이 다음과 같은 이유로 불충분하다고 지적합니다:

멀티 클래스 분류에 주로 집중함: $2^n$ 개의 레이블 조합이 존재하는 멀티 레이블 작업의 복잡성을 해결하지 못합니다.
사례 간 불균형(inter-case imbalance)을 무시함: 단일 카테고리 내에서 양성(positive) 사례와 음성(negative) 사례 사이의 격차로 인해 모델이 다수 클래스(일반적으로 음성 사례)에 과적합되는 문제를 다루지 못합니다.
데이터 크기에 의존하여 집계함: 데이터셋이 큰 클라이언트에 더 높은 가중치를 부여합니다. 연합 학습에서 대규모 데이터셋은 종종 매우 편향되어 있으며, 이는 특정 클라이언트가 빈번하게 접하는 다수 클래스에 유리하도록 편향된 글로벌 모델을 생성합니다.

2. 방법론: FedBB

이러한 문제들을 해결하기 위해 저자들은 FedBB(Positive Negative Balanced loss 및 Client Balanced Reweighting을 적용한 연합 학습)를 제안합니다. 핵심 혁신은 세 가지 뚜렷한 척도로 나뉘는 불균형의 다층적 분석입니다.

사례 간 불균형 (Inter-case Imbalance): 단일 카테고리 내 양성 사례와 음성 사례 수 사이의 불일치.
클래스 간 불균형 (Inter-class Imbalance): 단일 클라이언트 내 서로 다른 카테고리 간의 데이터 분포 차이.
클라이언트 간 불균형 (Inter-client Imbalance): 서로 다른 클라이언트 간의 데이터 왜곡(skewness)의 이질성.

FedBB는 다음 두 가지 주요 구성 요소를 통해 이 단계들을 해결합니다.

A. 양성-음성 균형(Positive Negative Balanced, PNB) 손실 함수

로컬 학습을 위해 설계된 PNB 손실 함수는 사례 간 및 클래스 간 불균형을 완화합니다.

메커니즘: 표준 교차 엔트로피(Cross-Entropy) 또는 클래스 균형(Class-Balanced, CB) 손실과 달리, PNB는 각 카테기별 유효 양성 및 음성 사례 수를 기반으로 가중치를 명시적으로 계산합니다.
멀티 레이블 적응: 멀티 레이블 작업에서는 여러 희귀 질환이 동시에 발생하는 샘플(예: 흉부 X-선 사진의 다중 질환)이 통계적으로 더 드물다는 점을 인지합니다. PNB는 이러한 소수 사례 및 카테고리에 더 높은 가중치를 부여하여 모델이 음성 또는 다수 클래스 샘플에 의해 지배되는 것을 방지합니다.
공식: 손실 함수는 데이터가 부족할 때 극단적인 가중치 부여를 방지하기 위해 온도 파라미터( $\tau$ )와 하이퍼파라미터( $\beta$ )를 통한 스무딩(smoothing)을 포함하며, 전체 손실 크기를 조절하기 위해 스케일링 팩터( $\mu$ )를 사용합니다.

B. 클라이언트 균형 재가중치(Client Balanced Reweighting, CBR)

모델 집계를 위해 설계된 CBR은 글로벌 모델에 대한 각 클라이언트의 기여도 가중치를 조정합니다.

메커ክ즘: FedAvg와 같이 데이터셋 크기에만 따라 가중치를 부여하는 대신, CBR은 클라이언트의 로컬 데이터 분포의 **왜곡도(skewness)**를 평가합니다.
계산: 데이터 균형을 결정하기 위해 클라이언트별 클래스 수의 표준 편차를 계산합니다. 데이터 분포가 덜 왜곡된(더 균형 잡힌) 클라이언트는 로컬 모델의 일반화 능력이 더 뛰어나다고 판단되어 더 높은 가중치를 할당받습니다.
하이브리드 가중치: 최종 집계 가중치( $W_k$ )는 균형 기반 가중치( $\omega^a_k$ )와 크기 기반 가중치( $\omega^b_k$ )의 선형 결합이며, 이는 하이퍼파라미터 $\gamma$ 에 의해 제어됩니다. 이를 통해 크지만 매우 왜곡된 데이터셋을 가진 클라이언트가 글로벌 모델을 지배하지 않도록 하는 동시에, 작지만 균형 잡힌 데이터셋을 가진 클라이언트가 무시되지 않도록 보장합니다.

3. 주요 기여

본 논문은 다음과 같은 기여를 주장합니다:

다층적 불균형 분석: 클래스 불균형을 사례 간, 클래스 간, 클라이언트 간 수준으로 분해하는 새로운 프레임워크를 제시하며, 이 세 가지를 모두 해결하는 것이 강력한 성능을 위해 필요함을 논증합니다.
PNB 손실: 소수 사례와 클래스에 더 높은 가중치를 부여함으로써 사례 간 및 클래스 간 불균형을 동시에 해결하며, 멀티 레이블 및 멀티 클래스 분류 모두에 적용 가능한 손실 함수입니다.
CBR 집계: 데이터 분포가 덜 왜곡된 클라이언트를 우선시하는 모델 집계 전략을 통해, 원시 로컬 데이터에 접근하지 않고도(프라이버시를 보호하며) 글로벌 모델의 일반화 능력을 향상시킵니다.
효율성 및 프라이버시: 최소한의 계산 오버헤드로 최첨단(SOTA) 성능을 달면서, 제한된 통계 정보(클래스 수)만을 활용하여 원시 데이터 분포의 유출을 방지합니다.

4. 실험 결과

저자들은 의료 X-선 데이터셋(NIH CXR14, CheXpert)과 자연 이미지 데이터셋(CIFAR-10/100, Tiny-ImageNet, 그리고 인위적으로 생성된 Long-Tailed 변형)에서 FedBB를 평가했습니다.

성능: FedBB는 모든 데이터셋과 불균형 설정( $\delta$ $δ$ 파라미터로 제어됨)에서 기존 알고리즘(FedAvg, FedProx, MOON, FedNova, FedAlign, FedLC)보다 일관되게 우수한 성능을 보였습니다.
- NIH CXR14에서 FedBB는 $\delta=0.1$ 일 때 72.47의 AUC를 달성하여, FedAvg(67.77)와 FedProx(68.51)를 능가했습니다.
- LT-CIFAR-100에서 FedBB는 **45.13%**의 정확도를 달성하여, FedLC(41.08%)와 FedAlign(41.37%)을 앞섰습니다.
효율성: 불균형 요인을 계산하는 추가적인 복잡성에도 불구하고, FedBB는 FedAvg와 유사한 계산 효율성을 유지합니다.
- 파라미터 수: 0.61 million (FedAvg와 동일).
- MFLOPs: 87.3 million (MOON의 262.2 million보다 현저히 낮음).
절제 연구(Ablation Studies): 실험을 통해 PNB 손실과 CBR이 각각 독립적으로 성능 향상에 기여함을 확인했습니다. 또한, FedBB를 다른 FL 알고리즘(예: FedProx 또는 MOON과 결합)과 결합하여 정확도를 더욱 높일 수 있는 조화 능력을 입증했습니다.

5. 의의 및 주장

본 논문은 FedBB를 범용적이고 개인화된 연합 학습을 위한 베이스라인으로 포지셔닝합니다. 그 의의는 다음과 같습니다:

근본 원인 해결: 클래스 불균형을 단일 지표가 아닌 다층적 문제로 취급함으로써, FL 성능을 저하시키는 특정 non-IID 문제를 해결합니다.
프라이버시 보존: 원시 데이터 분포가 아닌 집계된 통계량(클래스 수)에 의존하므로 의료와 같은 프라이스 민감 분야에 적합합니다.
다양성: 멀티 레이블(의료 영상) 및 멀티 클래스(자연 이미지) 작업 모두에 효과적인 접근 방식으로, 기존의 불균형 특화 FL 방법들과 차별화되는 범용성을 가집니다.

저자들은 FedBB가 중앙 서버를 필요로 하고 파라미터 기반 방식(이론적으로 특정 공격에 취약할 수 있음)이지만, 매우 왜곡된 환경에서도 모든 클래스를 정확하게 분류하는 글로벌 모델을 만드는 데 있어 중요한 진전이라고 결론짓습니다. 향후 연구로는 보안 위험을 더욱 완화하기 위해 서버리스(serverless) 및 비파라미터 기반 방법을 탐구할 것을 제안합니다.