🔬 physics

Energy-Efficient Federated Learning via Adaptive Encoder Freezing for MRI-to-CT Conversion: A Green AI-Guided Research

본 논문은 MRI-to-CT 변환을 위한 연합 학습에서 모델 성능을 유지하거나 향상시키면서도 에너지 소비와 이산화탄소 배출량을 최대 23%까지 유의미하게 줄이는 그린 AI 가이드 적응형 인코더 동결 전략을 제안하며, 이를 통해 공평하고 지속 가능한 의료 AI를 촉진한다.

원저자: Ciro Benito Raggio, Lucia Migliorelli, Nils Skupien, Mathias Krohmer Zabaleta, Oliver Blanck, Francesco Cicone, Giuseppe Lucio Cascini, Paolo Zaffino, Maria Francesca Spadea

게시일 2026-07-17

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Ciro Benito Raggio, Lucia Migliorelli, Nils Skupien, Mathias Krohmer Zabaleta, Oliver Blanck, Francesco Cicone, Giuseppe Lucio Cascini, Paolo Zaffino, Maria Francesca Spadea

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

병원이 환자의 개인 파일을 실제로 공유하지 않으면서도, 초지능형 AI 의사를 구축하기 위해 자신들의 의료 비밀을 공유할 수 있는 세상을 상상해 보세요. 이것이 바로 **연합 학습(Federated Learning)**의 약속입니다. 이것은 서로 다른 나라에서 온 셰프들이 비밀 수프 레시피를 완벽하게 만들기 위해 노력하는 것과 같습니다. 재료를 바다 너머로 보내는 대신(이는 느리고 위험합니다), 각자 자신의 주방에서 수프를 조금씩 요리한 뒤, 중앙 심사위원에게 오직 *맛에 대한 노트(taste notes)*만을 보냅니다. 그러면 심사위원이 그 노트들을 섞어 마스터 레시피를 만들어냅니다. 모두가 요리 실력이 향상되지만, 그 누구도 다른 사람의 비밀 재료를 결코 보게 되지 않습니다.

하지만 여기에는 함정이 있습니다. 이 복잡한 수프를 요리하는 데는 많은 에너지, 열, 그리고 값비싼 장비가 필요합니다. 기술 세계에서 이것은 종종 "레드 AI(Red AI)"라고 불립니다. 강력하지만, 많은 연료를 태우고 거대한 탄소 발자국을 남깁니다. 이는 문제를 야기합니다. 즉, 가장 화려한 주방을 가진 부유한 병원들만이 이 클럽에 참여할 수 있게 되어, 작은 클리닉들은 뒤처지게 된다는 것입니다. 여기에 **그린 AI(Green AI)**라는 움직임이 등장하여 이렇게 묻습니다. "이 스마트한 시스템들이 똑같이 잘 작동하면서도, 에너지는 더 적게 쓰고 폐기물은 더 적게 만들 수는 없을까?" 이 목표는 의료 AI를 공정하고, 저렴하며, 지구에 친화적으로 만들어, 시골 마을의 작은 클리닉도 슈퍼컴퓨터 없이 대도시 병원으로부터 배울 수 있도록 하는 것입니다.

이 논문의 핵심 아이디어: 지구를 구하기 위해 뇌를 얼리다

이 논문은 의료 영상 분야의 특정 과제를 다룹니다. 바로 MRI 스캔(부드럽고 회색빛인 덩어리 형태)을 CT 스캔(뼈처럼 하얗고 선명한 디테일)으로 변환하는 것입니다. 의사들은 방사선 치료 계획을 세우기 위해 이 "가짜" CT 스캔이 필요하지만, 이를 만드는 데는 보통 거대하고 에너지를 많이 소비하는 AI 모델이 필요합니다. 연구진은 다음과 같이 질문했습니다. 정확도를 잃지 않으면서 이 과정을 더 빠르고 더 푸르게 만들 수 있을까?

그들의 해결책은 **적응형 인코더 동결(Adaptive Encoder Freezing)**이라 부르는 영리한 기법입니다. 이를 이해하기 위해 AI 모델을 두 부분으로 구성된 기계라고 상상해 보세요. MRI를 보고 "이것이 무엇인가?"를 파악하는 **스캐너(인코더)**와, 최종 CT 이미지를 그려내는 **화가(디코더)**입니다.

표준적인 연합 학습 설정에서는, 셰프들(병원)이 맛 노트를 보낼 때마다 전체 기계를 다시 교정해야 합니다. 이는 누군가 소금을 한 꼬집 넣을 때마다 주방 전체의 배선을 다시 하는 것과 같습니다. 연구진은 "스캐너" 부분의 기계가 MRI가 어떻게 생겼는지에 대한 기초를 일단 파악하고 나면, 계속해서 생각을 바꿀 필요가 없다는 점을 깨달았습니다. 그저 "화가" 부분이 미세 조정을 하는 동안 스캐너는 안정적으로 유지되기만 하면 됩니다.

그래서 그들은 **인내 기반 메커니즘(patience-based mechanism)**을 발명했습니다. 작동 방식은 다음과 같습니다:

중앙 서버는 훈련이 진행됨에 따라 "스캐너" 가중치(AI가 이미지를 인식하는 방식을 결정하는 설정값)를 관찰합니다.
서버는 한 라운드에서 다음 라운드로 넘어갈 때 설정값이 얼마나 변하는지 계산합니다.
만약 설정값이 크게 변하지 않는다면(즉, AI가 기초를 '학습'했다면), 서버는 이렇게 말합니다. "좋아, 우리는 인내심을 갖고 기다릴 거야. 확실히 하기 위해 몇 라운드 더 기다려보자."
만약 설정값이 특정 횟수의 라운드 동안 차분하게 유지된다면(그들은 테스트를 위해 3 라운드를 사용했습니다), 서버는 스캐너에 "동결(Freeze)" 버튼을 누릅니다.

일단 동결되면, 스캐너는 무거운 작업을 멈춥니다. AI는 이제 화가 부분만을 업데이트합니다. 이는 헤드 셰프에게 레시피의 기본에 대해 걱정하는 것을 멈추고 오직 고명(garnish)에만 집중하라고 말하는 것과 같습니다. 스캐너가 동결되었기 때문에, 병원들의 컴퓨터는 수학적 계산을 훨씬 적게 해야 하며, 이는 엄청난 시간과 전기를 절약해 줍니다.

연구 결과

연구팀은 5가지 서로 다른 AI 아키텍처(서로 다른 유형의 모델 설계)를 사용하여 4개의 서로 다른 병원(센터 A, B, C, D)의 데이터로 이 아이디어를 테스트했으며, 다섯 번째 센터(센터 E)를 통해 검증했습니다. 결과가 실제인지 아니면 단순히 운이었는지 확인하기 위해 실험을 5번 반복했습니다.

결과는 매우 유망했습니다:

시간 및 에너지: 인코더를 동결함으로써, 그들은 총 훈련 시간을 최대 **22.0%**까지 단축했습니다(특정 모델의 경우). 이는 직접적인 에너지 절약으로 이어졌습니다. 총 에너지 소비량은 최대 23.0% 감소했고, 탄소 배출량(kgCO2eq 단위)은 최대 23.2% 감소했습니다.
정확도: 가장 중요한 질문은, "얼린 뇌가 더 나쁜 이미지를 만드는가?"였습니다. 대답은 대체로 "아니오"였습니다. 테스트한 5개 모델 중 3개에서 생성된 CT 스캔의 품질은 동결하지 않은 버전과 통계적으로 동일했습니다. 나머지 두 모델의 경우, 동결된 버전이 통계적으로 유의미한 수준의 정확도 향상(평균 절대 오차로 측정)을 보였으나, 그 차이가 매우 작아(약 2-3 HU) 치료를 계획하는 의사에게는 무의미한 수준이었습니다.
일관성: PSNR 및 SSIM과 같은 지표로 측정한 시각적 품질은 전반적으로 거의 동일하게 유지되었습니다. "동결된" 모델은 흐릿하거나 이상한 이미지를 만들어내지 않았습니다. 단지 더 빠르게 도달했을 뿐입니다.

이것이 중요한 이유

이 논문은 이 "인내 기반 동결"이 연합 학습을 더 접근 가능하게 만드는 스마트한 방법이라고 제안합니다. 계산 부하를 줄임으로써, 성능이 낮은 컴퓨터를 가진 작은 병원들도 예산이나 지구의 대기에 부담을 주지 않고 이러한 협력적 AI 프로젝트에 참여할 수 있게 되었습니다.

저자들은 자신들의 특정 설정(5% 변화 임계값 및 3 라운드의 인내)이 이 특정 MRI-to-CT 모델에는 잘 작동했지만, 세상의 모든 AI에 적용되는 마법의 지팡이는 아니라는 점을 주의 깊게 명시했습니다. 다른 유형의 모델은 다른 설정이 필요할 수 있습니다. 하지만 핵심 아이디어, 즉 "이미 할 일을 배운 AI의 부분을 일시 정지시켜 에너지를 아낄 수 있다"는 점은 "그린 AI"를 향한 견고한 단계입니다. 이는 우리가 강력한 의료 도구와 지속 가능한 미래 사이에서 하나를 선택할 필요가 없음을 증명합니다. 약간의 스마트한 엔지니어링이 있다면, 우리는 두 가지 모두를 가질 수 있습니다.

기술 요약: MRI-to-CT 변환을 위한 적응형 인코더 동결 기반의 에너지 효율적 연합 학습

문제 정의
연합 학습(Federated Learning, FL)은 민감한 환자 데이터를 중앙 집중화하지 않고도 협력적인 딥러닝(DL)을 가능하게 하는 경로를 제공하며, 이는 잠재적으로 AI 기반 진단에 대한 접근성 격차 문제를 해결할 수 있습니다. 그러나 복잡한 딥러닝 모델을 학습시키는 데 드는 계산 및 에너지 요구 사항은 자원이 제한된 의료 센터들을 배제하여 기존의 의료 불평등을 심화시킬 수 있습니다. 이러한 "Red AI" 패러다임은 지속 가능성을 희생하면서 성능을 우선시합니다. Green AI가 지속 가능한 관행을 옹호하고 있음에도 불구하고, 로컬 에포크(local epochs)를 늘리거나 모델 압축을 통한 통신 감소와 같은 기존의 FL 최적화 전략들은 로컬의 계산 부담을 충분히 줄이지 못하거나 모델 정확도를 저하시키는 경우가 많습니다. 또한, 이전의 레이어 동결(layer-freezing) 연구들은 주로 통신 효율성이나 얕은 네트워크에 초점을 맞추었으며, MRI-to-CT 변환과 같은 의료 영상 간 변환(I2I) 작업의 깊은 인코더-디코더 아키텍처에 대한 적용이 부족했습니다.

방법론
본 연구는 FL 환경에서 계산 부하와 에너지 소비를 줄이면서 모델 성능을 유지하기 위해 설계된 **인내심 기반 적응형 인코더 동결 전략(patience-based adaptive encoder freezing strategy)**을 제안합니다. 이 접근 방식은 MRI-to-CT 합성을 위해 사용되는 다섯 가지 서로 다른 인코더-디코더 아키텍처(U-Net 변형 포함)에 적용되었습니다.

적응형 동결 메커니즘: 이 방법은 네트워크의 인코더 부분 가중치를 선택적으로 동결합니다. 동결은 즉각적으로 이루어지지 않고 글로벌 모델의 수렴에 따라 동적으로 트리거됩니다.
수렴 지표: 서버는 연속된 학습 라운드 간의 집계된 인코더 가중치의 상대적 백분율 차이( $\rho\%$ )를 모니터링합니다. 이 지표는 현재 라운드와 이전 라운드의 대응하는 인코더 레이어 사이의 평균 절대 오차(MAE)를 사용하여 계산됩니다.
인내심 기반 트리거: $\rho\%$ 가 사용자 정의 임계값( $\tau$ ) 미만으로 연속된 $N$ 번의 라운드(인내심 파라미터) 동안 유지될 때만 동결 조건이 활성화됩니다. 이는 일시적인 변동으로 인한 조기 동결을 방지합니다.
실험 설정: 본 프레임워크는 4개의 임상 센터(클라이언트)와 1개의 서버를 포함하는 시뮬레이션된 FL 환경에서 테스트되었습니다. 실험에는 5개 센터(A–E)의 뇌 MRI 데이터가 사용되었으며, 센터 E는 미학습 테스트 세트로 활용되었습니다. 연구에서는 학습 시간, 에너지 소비량(kWh), CodeCarbon 라이브러리를 이용한 CO2 환산 배출량을 추적했습니다. 이전 연구에서 가장 우수한 성능을 보였던 집계 전략(FedAvg와 FedProx의 결합)이 사용되었으며, 통신 라운드는 25회로 고정되었습니다.

주요 결과
제안된 적응형 동결 전략은 다섯 가지 아키텍처에 대해 평가되었습니다. 결과는 합성 CT의 임상적 유용성을 훼손하지 않으면서 상당한 효율성 이득을 입증했습니다:

효율성 이득: 이 방법은 총 학습 시간, 에너지 소비 및 CO2eq 배출량을 최대 23.2%(특히 Li et al. [36] 아키텍처의 경우) 감소시켰습니다. 모든 모델에 걸쳐 에너지 및 배출량 감소 폭은 9.1%에서 23.2% 사이였으며, 평균 감소율은 약 19.9%였습니다.
학습 시간: 글로벌 학습 시간은 아키텍처에 따라 9.4%에서 22.0%까지 감소했습니다. 로컬 클라이언트의 에포크당 학습 시간 또한 크게 감소했습니다(예: 특정 모델의 특정 센터에서 최대 35.5% 감소).
모델 성능:
- MAE: 다섯 가지 아키텍처 중 세 가지(Simple U-Net, Fu et al., Li et al. 2020)에서 비동결 모델과 비교했을 때 통계적으로 유의미한 차이가 없었습니다. Li et al. [36] 및 Spadea et al. [37] 아키텍처의 경우, MAE에서 통계적으로 유의미한 개선이 관찰되었으나( $p < 0.001$ ), 절대적인 감소치(약 2–3 Hounsfield Units)는 방사선학적 유의 임계값(20–50 HU)보다 훨씬 낮았습니다.
- PSNR 및 SSIM: 동결 모델과 비동결 모델 사이에 최대 신호 대 잡음비(PSNR) 또는 구조적 유사도 지수(SSIM)의 체계적인 차이는 관찰되지 않았습니다.
일반화: 모델은 미학습 데이터셋(Center E)에 대한 일반화 능력을 유지하였으며, 이는 인코더를 동결하는 것이 디코더를 통한 로컬 데이터 이질성 적응 능력을 저해하지 않음을 확인시켜 줍니다.

의의 및 주장
본 논문은 이 연구를 연합 학습의 Green AI 및 형평성(equity) 구현으로 규정합니다. 계산 및 에너지 장벽을 낮춤으로써, 제안된 방법은 FL을 자원이 제한된 기관에서도 접근 가능하게 만들어 AI의 혜택이 자원이 풍부한 센터에만 집중되는 것을 방지하고자 합니다.

저자들은 다음과 같이 주장합니다:

효율성과 성능의 균형: 의료 영상 합성의 충실도를 유지(또는 때때로 미세하게 향상)하면서 환경적 영향과 학습 시간을 실질적으로 줄입니다.
공백 해소: 통신이나 메모리에 초점을 맞춘 기존의 동결 전략과 달리, 본 연구는 에너지 효율성과 딥 의료 I2I 변환 작업의 확장성을 명시적으로 목표로 합니다.
지속 가능성 증진: 시스템을 기본적으로 지속 가능하도록 설계함으로써 "Green-in AI" 패러다임에 부합하며, 임상 AI 배포의 탄소 발자국을 줄입니다.

연구는 하이퍼파라미터( $\tau$ 및 $N$ )의 선택이 특정 모델의 가중치 역학에 대한 사전 관찰을 필요로 한다는 점을 인정하며, 이를 한계점이자 자동 튜닝을 위한 향方向으로 언급하였습니다. 그러나 제안된 구성( $\tau=5\%, N=3$ )은 평가된 아키텍처들에 대한 견고한 베이스라인으로 제시되었습니다.

이 논문의 핵심 아이디어: 지구를 구하기 위해 뇌를 얼리다

연구 결과

이것이 중요한 이유

유사한 논문