💻 컴퓨터 과학

Trustworthy Cross-Organizational Federated Fine-Tuning of Large Language Models via Blockchain Certification and Resilient Object Storage

본 논문은 데이터 프라이버시나 모델 무결성을 저해하지 않으면서도, 대규모 언어 모델의 신뢰할 수 있고 비용 효율적이며 검증 가능한 조직 간 연합 미세 조정을 가능하게 하기 위해 블록체인 기반 메타데이터 인증을 오프체인 샤딩 스토리지로부터 분리하는 2계층 프레임워크를 제안한다.

원저자: Xiaoli Li, Yuhang Chen, Beiqiang Wang, Lin Zhou, Zhao Wu

게시일 2026-10-14

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Xiaoli Li, Yuhang Chen, Beiqiang Wang, Lin Zhou, Zhao Wu

원본 논문은 CC BY 4.0 (https://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

현대 인공지능의 세계에서 가장 강력한 도구는 인간과 유사한 텍스트를 이해하고 생성할 수 있는 시스템인 거대 언어 모델입니다. 이러한 모델은 방대한 양의 데이터로 학습되지만, 그 데이터는 종종 사적인 영역에 갇혀 있습니다. 병원은 민감한 환자 기록을 보유하고, 은행은 금융 이력을 보호하며, 정부는 시민 정보를 보호합니다. 엄격한 개인정보 보호법과 보안 문제 때문에, 이러한 기관들은 더 나은 공유 지능을 학습시키기 위해 데이터를 단순히 공유할 수 없습니다. 이는 하나의 딜레마를 만들어냅니다: 어떻게 하면 기관들이 자신의 사적인 정보를 전혀 드러내지 않으면서도 이러한 강력한 도구들을 개선하기 위해 협력할 수 있을까요? 그 답은 연합 학습(federated learning)이라 불리는 방법론에 있습니다. 데이터를 중앙 컴퓨터로 이동시키는 대신, 컴퓨터 모델이 데이터가 있는 곳으로 이동하는 것입니다. 각 기관은 자체적인 로컬 정보를 바탕으로 모델을 학습시키고, 오직 작고 업데이트된 수학적 조정값만을 중앙 코디네이터에게 보냅니다. 이는 원본 데이터를 안전하게 유지하지만, 새로운 문제를 야기합니다: 여러분이 받는 업데이트를 어떻게 신뢰할 것인가 하는 점입니다. 만약 어떤 기관이 부패하거나 가짜인 업데이트를 보내거나, 파일이 도난당해 전송 중에 변조된다면, 공유된 모델 전체가 위협받을 수 있습니다. 더욱이, 이 거대한 업데이트들을 저장하는 것은 어렵습니다. 그것들은 공공 장부에 기록하기에는 너무 크며, 동시에 그것들이 진짜임을 증명하기 위한 영구적이고 변경 불가능한 기록이 필요합니다.

연구자들은 이 신뢰와 저장의 퍼즐을 해결하기 위해 두 가지 구별되는 기술을 결합하여 보안 협업 시스템을 만드는 새로운 프레임워크를 개발했습니다. 허베이 예술 과학 대학교의 샤오리 리(Xiaoli Li)와 동료들이 이끄는 연구팀은 업무를 두 부분, 즉 신뢰할 수 있는 인증서와 보안 저장소로 나누는 시스템을 설계했습니다. 그들은 컨소시엄 블록체인(consortium blockchain), 즉 알려진 신뢰할 수 있는 기관 그룹에 의해 유지되는 공유 디지털 장부를 인증서 역할을 하도록 사용합니다. 그러나 이 거대한 모델 파일을 블록체인에 직접 기록하는 대신(이는 느리고 비용이 많이 들며 기술적으로 불가능합니다), 파일의 아주 작고 고유한 지문만을 기록합니다. '크립토그래픽 해시(cryptographic hash)'라고 알려진 이 지문은 파일의 진위 여부를 보증하는 인장 역할을 합니다. 만약 모델 파일의 단 1비트라도 변하면 지문이 완전히 바뀌게 되어, 파일이 변조되었음을 모두에게 알립니다. 실제 모델 데이터는 몇 메가바이트 크기에 달할 수 있는데, 이는 블록체인 외부의 탄력적인 분산 저장 시스템에 저장됩니다. 이러한 분리를 통해 시스템은 장부를 작고 빠르게 유지하면서도 무거운 데이터가 접근 가능하고 안전하게 유지되도록 합니다.

이 오프체인(off-chain) 저장을 견고하게 만들기 위해, 연구진은 모델 파일을 저장소로 보내기 전에 모든 모델 파일을 작은 조각, 즉 샤드(shard)로 나누었습니다. 큰 문서를 여러 페이지로 자르는 것을 상상해 보십시오. 만약 한 페이지를 잃어버리거나 손상시키더라도, 나머지 페이지들을 사용하여 전체를 복구할 수 있습니다. 이 샤드들은 승인된 당사자만이 읽을 수 있도록 암호화되며, 여러 독립적인 위치에 복사됩니다. 이 시스템은 하나의 저장 노드가 실패하거나, 심지어 전력 차단 또는 네트워크 문제로 인해 전체 노드 그룹이 다운되더라도, 다른 위치에 있는 복사본들이 파일이 절대 유실되지 않도록 설계되었습니다. 기관이 모델 업데이트를 검색하고자 할 때, 시스템은 먼저 블록체인을 확인하여 파일의 정체를 확인한 다음 저장 네트워크에서 샤드를 가져옵니다. 그런 다음 수신자는 이 조각들이 블록체인에 기록된 원래의 지문과 일치하는지 검증할 수 있습니다. 이 과정에는 인터넷 연결 없이도 파일을 검증하는 오프라인 체크와, 파일이 여전히 유효하고 폐기되지 않았는지 확인하는 온라인 체크가 모두 포함됩니다.

연구팀은 거대 언어 모델 파라미터의 아주 작은 부분만을 조정하는 LoRA라는 효율적인 모델 업데이트 방식을 사용하여 이 프레임워크를 테스트했습니다. 그들은 데이터가 불균등하게 분포된 실제 상황을 시뮬레이션하며 10개의 참여 기관을 대상으로 실험을 진행했습니다. 그들은 어떤 설정이 최상의 결과를 만들어내는지 확인하기 위해 다양한 수준의 모델 조정을 테스트했습니다. 실험 결과, 랭크(rank) 8로 모델을 조정했을 때 미학습 작업(unseen tasks)에서 10점 만점에 4.40이라는 가장 높은 성능 점수를 달성했습니다. 이 구성은 다른 설정들보다 뛰어난 성과를 보였으며, 이는 이러한 유형의 협업 학습에 있어 최적의 균형을 제공함을 시사합니다. 더 중요한 것은, 연구팀이 새로운 저장 방식의 비용과 속도를 전통적인 방식과 비교 측정했다는 점입니다. 그들은 8.8 메가바이트의 전체 파일을 블록체인에 직접 저장하려고 시도했을 때와 비교하여, 블록체인에 아주 작은 메타데이터만을 저장함으로써 계산 비용, 즉 가스 소비량을 10,000배 이상 줄였다는 것을 발견했습니다. 전체 파일은 오프체인에 저장되었지만, 시스템은 파일 샤드를 하나씩이 아니라 병렬로 업로드함으로써 저장 프로세스의 속도를 거의 30% 가량 높였습니다.

결과는 파일의 정체에 대한 증명을 파일 자체와 분리하는 것이 협업 인공지능의 미래를 위한 실질적인 해결책임을 보여줍니다. 무거운 데이터를 블록체인 외부에 두고 실제 파일에 대해서는 보안이 강화된 샤딩 저장 시스템을 사용함으로써, 연구진은 신뢰할 수 있으면서도 효율적인 워크플로우를 구축했습니다. 이 시스템은 모든 모델 업데이트가 출처를 추적할 수 있고, 네트워크를 과부하시키거나 개인 정보를 노출하지 않으면서도 무결성을 검증할 수 있도록 보장합니다. 전체 저장 및 검증 주기를 완료하는 데 걸리는 총 시간은 샤딩과 확인을 위한 추가 단계 때문에 약간 더 길었지만, 비용의 막대한 절감과 신뢰성 향상은 이 접근 방식이 실무에서 실행 가능하다는 것을 입증합니다. 이 연구는 조직들이 인공지능에 대해 협력할 의지가 높아짐에 따라, 데이터를 한 곳에 모두 보유할 필요 없이도 데이터의 진실성을 검증할 수 있는 시스템이 있다면 보안이나 프라이버시를 희생하지 않고도 협력할 수 있음을 시사합니다. 이 프레임워크는 기관들이 기여도가 진실임을 확신하고 데이터가 안전하게 유지되는 가운데, 함께 더 나은 모델을 구축할 수 있는 길을 제시합니다.

기술 요약: 블록체인 인증 및 회복 탄력적 객체 스토리지를 통한 신뢰할 수 있는 조직 간 대규모 언어 모델 연합 미세 조정

문제 정의
조직 간의 대규모 언어 모델(LLM) 연합 미세 조정은 금융이나 의료와 같은 민감한 분야에서 데이터 사일로(Data Silos) 문제를 해결하면서도, 데이터를 중앙 집중화하지 않고 모델을 적응시킬 수 있게 한다. 그러나 기존의 연합 LLM(FedLLM) 방식은 신뢰할 수 있는 인증 및 추적 메커니즘이 부족하다. 중간 단계의 모델 파라미터는 조직 간 공유 과정에서 변조, 위조 또는 탈취의 위험에 노출되어 있으며, 순환 경로에 대한 불변의 감사 기록이 결여되어 있다. 컨소시엄 블록체인은 중앙 관리자 없이도 변조 방지가 가능한 공유 기록을 제공하지만, 대규모 모델 파라미터 파일(GB/TB 규모)을 온체인에 직접 저장하는 것은 비현실적이다. 이러한 방식은 원장을 빠르게 팽창시키고, 트랜잭션 비용(가스비)을 증가시키며, P2P 전송 시 네트워크 혼잡을 야기하고, 민감한 파라미터가 유출될 위험을 초래한다. 또한, 순수 온체인 아키텍처는 세밀한 접근 제어를 제공하는 데 어려움이 있다.

방법론
저자들은 신뢰할 수 있는 인증(온체인)과 벌크 저장(오프체인)을 분리하는 2계층 프레임워크를 제안한다.

아키텍처 개요:
- 로컬 학습: 참여자들은 개인 데이터를 사용하여 매개변수 효율적 미세 조정(PEFT), 특히 LoRA를 통해 로컬 LLM 파라미터를 미세 조정하여 로컬 업데이트( $\theta_i$ )를 생성한다.
- 오프체인 신뢰할 수 있는 저장소:
  - 샤딩 및 암호화: 각 파라미터 파일은 고정된 크기의 샤드로 분할된다. 이 샤드들은 인증된 프레임을 갖춘 AES-GCM을 사용하여 암호화된다. 파일 키는 별도의 키 서비스(키 엔벨로프)를 통해 보호되며, 샤드와 함께 저장되지 않는다.
  - 레플리카 배치: 암격된 샤드들은 일관된 해싱(Consistent Hashing)을 사용하여 독립적인 장애 도메인(인프라 위험을 공유하는 노드 그룹)에 복제된다. 이는 안정적인 할당과 결함 허용을 보장한다.
  - 쓰기/읽기 로직: 쓰기는 정족수( $q$ )의 레플리카가 수신을 확인한 후에만 승인된다. 읽기는 건강한 레플리카로의 부하 인지형 페일오버(Failover)를 활용하며, 누락된 복사본을 복구하기 위한 백그라운드 수리 프로세스를 포함한다.
- 온체인 신뢰할 수 있는 인증:
  - 머클 커밋먼트(Merkle Commitment): 시스템은 원시 텐서 대신, 콘텐츠 해시와 샤드 메타데이터를 포함하는 각 파일에 대한 정렬된 매니페스트를 생성한다. 이 매니페스트는 해싱되어 파일 커밋먼트를 생성한다.
  - 배칭(Batching): 여러 파일의 커밋먼트들이 머클 트리의 리프(Leaf)를 형성하여 단일 배치 루트( $R_b$ )를 생성한다.
  - 스마트 컨트랙트: 컨소시엄 체인은 Storage.sol을 통해 압축된 배치 메타데이터(Batch ID, Merkle root, 파일 수)만을 기록한다. 전체 매니페스트와 파일별 포함 증명(Inclusion proof)은 오프체인에 유지된다.
  - 집계: PBFT 방식의 합의를 통해 선택된 프라이머리 노드가 오프체인에서 연합 평균(Federated Averaging)을 실행한다. 결과는 컨소시엄 멤버들에 의해 검증되며, 글로벌 업데이트는 Aggregation.sol을 통해 온체인에서 인증된다.
검증 메커니즘:
- 오프라인 검증: 수신자는 파일 해시, 정렬된 평문 샤드 해시, 매니페스트, 그리고 신뢰할 수 있는 공개 키로 서명된 머클 포함 증명을 사용하여 파일 무결성을 검증한다. 이는 실시간 연결 없이도 가능하다.
- 온라인 검증: 수신자는 추가적으로 컨소시엄 체인을 쿼리하여 현재의 배치 루트와 유효성 상태를 확인함으로써, 증거가 교체되거나 취소되지 않았음을 보장한다.

주요 기여

인증과 저장의 분리: 본 프레임워크는 압축된 배치 머클 루트와 메타데이터만을 온체인에 기록하고, 원시 파라미터 파일은 오프체인에 유지한다. 파일별 포함 증명은 원장을 비대하게 만들지 않으면서 개별 파일을 인증된 루트에 연결한다.
회복 탄력적 오프체인 저장소: 시스템은 다음을 통해 효율성과 신뢰성을 향상시킨다:
- 파일 샤딩: I/O를 분산시키고 장애 발생 시 재전송 데이터를 제한한다.
- 일관된 해싱: 노드 변화(Churn)가 발생하는 동안 안정적인 샤드-노드 할당을 유지한다.
- 장애 도메인 복제: 독립적인 인프라 그룹 간에 복제함으로써 전체 데이터 손실 확률을 줄인다.
- 부하 인지형 작업: 온전한 레플리카에 대한 접근성을 유지하면서 읽기 페일오버와 백그라운드 수리를 지원한다.
포괄적 평가: 저자들은 10개 노드의 FISCO BCOS 배포 환경에서 8개의 Dolly 지시 수행 과제에 대해 Qwen3-0.6B와 LoRA를 사용하여 모델 품질과 저장 비용을 평가하였다.

실험 결과

모델 성능: LoRA 랭크 $r \in \{4, 6, 8\}$ 에 대한 연합 미세 조정 실험에서, $r=8$ 설정이 미학습 테스트 세트에서 가장 높은 가중 평균 점수(4.40)를 기록하며 $r=4$ (3.88) 및 $r=6$ (3.52)를 능가했다.
저장 효율성: 8.8 MB 어댑터 파일에 대해 메타데이터만을 온체인에 저장하는 방식(방법 M2/M3)은 가스 소비량을 직접 온체인 저장 방식(M1)의 $7.7 \times 10^{10}$ 에서 $4.8 \times 10^6$ 으로, 4개 차수(Order of magnitude) 감소시켰다.
전송 속도: 병렬 샤딩(방법 M3)은 비샤딩 오프체인 저장 방식(방법 M2)에 비해 객체 저장 시간을 28.5%에서 30.9% 감소시켰다. 다만, M3의 전체 엔드 투 엔드(End-to-end) 시간은 샤딩, 해시 계산 및 약간 더 높은 체인 확정 시간의 오버헤드로 인해 M2보다 약간 더 길었다.

의의 및 주장
본 논문은 압축된 신뢰 증거를 모델 바이트와 분리하는 것이 검증 가능성을 유지하면서도 조직 간 연합 미세 조정을 더욱 실용적으로 만든다고 주장한다. 모델 텐서와 부동 소수점 집계가 블록체인을 거치지 않도록 보장함으로써, 본 프레임워크는 전통적인 온체인 저장의 확장성 및 비용 병목 현상을 해결한다. 이 설계는 모델 파일 공유를 감사 가능하고 회복 탄력적으로 지원하며, 기관들이 개인 데이터를 중앙 집중화하거나 과도한 블록체인 비용을 지불하지 않고도 업데이트의 진본성과 무결성을 검증할 수 있게 한다. 저자들은 본 시스템이 신뢰할 수 있는 파일 공유와 파라미터 무결성에 초점을 맞추고 있지만, 모듈형 설계를 통해 향후 Byzantine-robust 집계 규칙(예: Krum, Trimmed Mean)과의 통합이 가능함을 언급하였다.

유사한 논문