이 논문은 중앙집중형 AI의 한계를 극복하기 위해 등장한 블록체인 기반 탈중앙화 AI(DeAI)에 대해 정의, 기술적 분류, 보안 위험 및 해결 방안을 체계적으로 분석하고 향후 연구 방향을 제시하는 최초의 SoK(Systematization of Knowledge) 연구입니다.
원저자:Elizabeth Lui, Rui Sun, Vatsal Shah, Xihan Xiong, Jiahao Sun, Davide Crapis, William Knottenbelt, Zhipeng Wang
지금의 AI 세상은 마치 거대한 프랜차이즈 식당 하나가 전 세계의 모든 음식을 독점하고 있는 것과 같습니다.
위험성: 그 식당 주인이 갑자기 문을 닫으면(서버 다운), 재료를 숨기면(데이터 프라이버시), 혹은 레시피를 자기 마음대로 바꾸면(편향성), 우리는 대안이 없습니다.
독점: 모든 비법(모델)과 식재료(데이터)를 그 식당만 가지고 있어서, 우리는 그들이 정한 가격과 규칙에 따를 수밖에 없습니다.
2. DeAI의 등장: "마을 공동체 주방" (탈중앙화 AI)
이 논문이 제안하는 **DeAI(탈중앙화 AI)**는 거대 식당 대신, **마을 사람들이 각자 자기 집 주방에서 요리하고 레시피를 공유하는 '공동체 주방'**을 만드는 것입니다. 여기서 **'블록체인'**은 이 마을의 '공정하고 투명한 장부' 역할을 합니다.
이 공동체 주방은 네 단계로 돌아갑니다.
① 재료 준비 단계 (Data Preparation)
비유: 마을 사람들이 각자 키운 신선한 채소를 가져옵니다.
문제: 누군가 상한 채소를 가져오거나, 자기 채소를 안 가져오고 돈만 받으려 할 수 있죠.
해결책 (블록체인): "누가 어떤 채소를 가져왔는지" 장부에 기록하고, 좋은 채소를 가져온 사람에게는 마을 코인(보상)을 줍니다. 또한, 채소의 비밀 레시피를 보여주지 않고도 "이 채소는 신선하다"는 것을 증명하는 기술(영지식 증명)을 사용합니다.
② 요리하기 단계 (Training)
비유: 마을 사람들이 각자 집에서 불을 피우고 요리를 합니다.
문제: 누군가 요리를 하는 척하면서 실제로는 가스불도 안 켜고(무임승차), 혹은 요리에 몰래 독(악성 데이터)을 탈 수 있습니다.
해결책 (블록체인): 요리가 제대로 되고 있는지 마을 감시단(검증인)이 확인합니다. 요리를 진짜로 열심히 한 사람에게만 보상을 주고, 속임수를 쓴 사람은 마을에서 쫓겨나게(슬래싱) 합니다.
③ 맛보기 및 배달 단계 (Inference)
비유: 완성된 요리를 마을 사람들이 나누어 먹습니다.
문제: 요리사가 "최고급 스테이크"라고 팔아놓고 실제로는 "저렴한 고기"를 줄 수도 있습니다.
해결책 (블록체인): 요리사가 만든 요리가 정말 그 레시피대로 만들어졌는지 수학적으로 증명(영지식 증명 등)하여, 먹는 사람이 안심하고 믿을 수 있게 합니다.
④ 요리 시장 (Marketplace)
비유: 마을 사람들이 만든 맛있는 레시피를 서로 사고파는 시장입니다.
해결책: 중간 상인 없이, 레시피를 만든 사람이 직접 정당한 대가를 받을 수 있도록 블록체인이 거래를 보장합니다.
3. 이 논문이 말하는 핵심 요약 (SoK)
이 논문은 단순히 "이렇게 하면 좋다"라고 말하는 것이 아니라, **"현재 전 세계의 DeAI 프로젝트들이 어떤 방식으로 마을 공동체를 만들고 있는지, 그리고 어떤 위험(해킹, 속임수, 독극물 투입 등)이 있는지"**를 아주 체계적으로 정리한 '백과사전' 같은 논문입니다.
결론적으로: DeAI는 **"AI라는 강력한 요리 도구를 소수의 독점 기업이 아닌, 우리 모두가 안전하고 공정하게 나누어 쓰고 보상받을 수 있는 시스템을 만드는 기술적 여정"**을 다루고 있습니다.
물론, 이 마을이 완벽해지려면 아직 해결해야 할 숙제(속도 문제, 보안 문제 등)가 많다는 점도 함께 짚어주고 있습니다.
[기술 요약] 블록체인 기반 탈중앙화 인공지능(DeAI)에 관한 지식 체계화(SoK)
1. 문제 정의 (Problem Statement)
현재 인공지능(AI) 산업은 소수의 거대 기업이 데이터, 컴퓨팅 자원, 모델 학습 과정을 독점하는 중앙집중형 AI(CeAI) 구조를 띠고 있습니다. 이러한 구조는 다음과 같은 치명적인 문제를 야기합니다:
단일 장애점(Single Point of Failure): 중앙 서버 공격 시 시스템 전체 마비.
데이터 프라이버시 및 편향성: 데이터 독점으로 인한 개인정보 유출 위험 및 모델의 편향성 심화.
확장성 및 혁신 제한: 막대한 자본을 가진 소수만이 최첨단 모델을 개발할 수 있는 진입 장벽.
탈중앙화 AI(DeAI)가 대안으로 떠오르고 있으나, 산업계의 급격한 성장에도 불구하고 학계에서는 DeAI의 기술적 토대, 보안 위험, 설계 트레이드오프(Trade-off)에 대한 체계적인 분석과 분류가 부족한 상태입니다.
2. 연구 방법론 (Methodology)
본 논문은 DeAI 분야의 첫 번째 SoK(Systematization of Knowledge) 연구로서 다음과 같은 방법론을 사용합니다:
형식적 정의(Formalization): DeAI 시스템을 채굴자(Miners), 통신 그래프(P2P Graph), 데이터 분포, 인센티브 메커니즘, 검증자(Validators) 등을 포함한 수학적 튜플(S)로 정의하여 추상화했습니다.
생애주기 기반 분류(Lifecycle-based Taxonomy): AI 모델의 생애주기인 ①작업 제안(Task Proposing) → ②사전 학습(Pre-training) → ③학습 중(On-training) → ④사후 학습(Post-training) 단계에 따라 기존 솔루션들을 분류했습니다.
보안 위협 모델링: 각 단계에서 발생할 수 있는 공격(데이터 포이즈닝, 모델 탈취, 프롬프트 인젝션 등)을 분석했습니다.
실증적 평가(Empirical Evaluation): 대표적인 방어 기법(ZKP, PoL, Watermarking 등)을 실제 환경에서 시뮬레이션하여 그 효과와 비용(연산량, 저장 공간, 지연 시간)을 정량적으로 비교했습니다.
3. 주요 기여 (Key Contributions)
DeAI 프레임워크 정립: DeAI의 필수 속성을 정의하고, 탈중앙화 정도를 측정할 수 있는 지표(데이터, 아키텍처, 모델 소유권, 인센티브, 거버넌스)를 제시했습니다.
포괄적 분류 체계(Taxonomy) 제공: Bittensor, FLock.io, Ocean Protocol 등 수십 개의 실제 프로젝트를 AI 생애주기별로 분석하여 표(Table I)로 정리했습니다.
블록체인 기능의 역할 규명: 블록체인이 DeAI에서 인센티브 제공, 거버넌스, 감사 가능성(Auditability), 보안성을 어떻게 강화하는지 체계화했습니다.
보안 위협 및 완화 전략 분석: DeAI 특유의 보안 위험(예: GPU 공유 환경에서의 사이드 채널 공격, 경제적 유인에 의한 악의적 행동)을 식별하고 대응책을 제시했습니다.
실증적 벤치마크: 방어 기법 간의 성능-보안 트레이드오프를 실험을 통해 입증했습니다.
4. 주요 연구 결과 (Key Results)
실험을 통해 도출된 핵심 결과는 다음과 같습니다:
사전 학습(Pre-training) 단계: 데이터 포이즈닝 공격에 대해 **DP-SGD(차분 프라이버시)**가 가장 강력한 방어력을 보였으나, 연산 비용이 3배 증가하고 정확도가 하락하는 트레이드오프가 확인되었습니다. 반면 MixUp은 정확도 유지 측면에서 효율적인 대안이 될 수 있습니다.
학습 중(On-training) 단계: 모델 탈취(Model Stealing) 방어에서 **ZKP(영지식 증명)**가 가장 압도적인 효율성을 보였습니다. ZKP는 완벽한 탐지 성능을 보이면서도 다른 암호학적 방식(Commit-Reveal 등)보다 연산 및 저장 비용이 수천 배 낮았습니다.
사후 학습(Post-training) 단계: 모델 추출(Extraction) 공격 방어 시, 접근 제어(Rate Limiting)보다는 **출력 변조(Output Perturbation)**와 같이 모델 응답의 품질을 의도적으로 저하시키는 방식이 공격자의 학습 신호를 차단하는 데 훨씬 효과적이었습니다.
작업 제안(Task Proposing) 단계: 프론트러닝(Front-running) 공격 방어 시, Commit-Reveal 방식은 완벽한 방어를 제공하지만 지연 시간(Latency)이 327% 증가하는 비용이 발생합니다.
5. 의의 및 결론 (Significance & Conclusion)
본 논문은 DeAI 연구를 위한 종합적인 지도(Roadmap) 역할을 합니다.
학술적 의의: 파편화되어 있던 DeAI 연구들을 하나의 통일된 프레임워크로 묶어, 연구자들이 어떤 기술적 공백(Gap)을 메워야 하는지 명확히 제시했습니다.
산업적 의의: DeAI 프로젝트 설계 시 고려해야 할 보안 위험과 경제적 인센티브 설계의 중요성을 경고하며, 단순한 탈중앙화가 반드시 보안 강화로 이어지지는 않는다는 점을 시사했습니다.
향후 과제: 논문은 대규모 모델 학습을 위한 통신 효율성 최적화, 온체인 연산의 병목 현상 해결, 그리고 zkML(영지식 머신러닝)과 opML(낙관적 머신러닝) 간의 효율성 비교 연구 등이 향후 핵심 연구 분야가 될 것임을 강조하며 마무리합니다.