1. 문제 정의 (Problem)

기존의 영지식 머신러닝 (zkML) 과 제로지식 가상머신 (zkVM) 은 다음과 같은 근본적인 한계로 인해 실용화에 어려움을 겪고 있습니다.

• 비선형 연산의 비효율성: 현대 신경망은 Softmax, ReLU, Tanh 와 같은 비선형 함수를 광범위하게 사용합니다. 이를 저차수 산술 제약 시스템 (arithmetic constraint systems) 으로 표현하면 제약 조건의 수와 차수가 급격히 증가하여 계산 비용이 매우 높아집니다.
• 메모리 제약 (Memory Constraints): 대규모 모델의 추론을 증명할 때, 중간Witness(증명 데이터) 와 다항식을 메모리에 모두 저장해야 하므로 수 기가바이트 (GB) 단위의 메모리가 필요합니다. 이는 온디바이스 (on-device) 또는 리소스가 제한된 환경에서의 증명을 불가능하게 만듭니다.
• 범용성 부족: 기존 zkVM 은 CPU 명령어 실행을 시뮬레이션하는 방식 (RISC-V 등) 을 취하는데, 이는 텐서 연산 중심인 ML 모델의 구조적 특성을 활용하지 못해 불필요한 오버헤드를 발생시킵니다.
• 프롬프트 및 모델 보호: 모델 가중치, 입력 데이터, 심지어 아키텍처 자체를 보호하면서 검증해야 하는 프라이버시 요구사항을 충족하기 어렵습니다.

2. 방법론 (Methodology)

Jolt Atlas 는 기존 Jolt zkVM 의 'Lookup-centric(검색 중심)' 패러다임을 ML 추론에 맞게 재설계하여 다음과 같은 아키텍처를 채택했습니다.

2.1 ONNX 기반의 텐서 연산 직접 처리

• CPU 시뮬레이션 탈피: 기존 zkVM 이 CPU 레지스터와 메모리 접근을 시뮬레이션하는 것과 달리, Jolt Atlas 는 ONNX(Open Neural Network Exchange) 그래프를 직접 처리합니다.
• 텐서 레벨 검증: 스칼라 단위로 분해하여 검증하는 대신, 다변수 다항식 (Multilinear Polynomials) 수준에서 텐서 연산을 직접 검증합니다. 이는 ONNX 의 결정론적 데이터 흐름을 활용하여 메모리 일관성 검증 (Memory Consistency Verification) 을 단순화합니다.

2.2 Lookup Argument 와 Sumcheck 프로토콜

• Lookup Argument: 비선형 함수 (ReLU, Softmax 등) 를 산술 제약으로 직접 표현하지 않고, 미리 계산된 Lookup Table에 값이 존재함을 증명하는 방식으로 처리합니다. 이는 비선형 연산의 비용을 획기적으로 낮춥니다.
• Sumcheck 프로토콜: 대규모 계산 블록을 로그 시간 (logarithmic time) 에 검증 가능한 방식으로 압축합니다.
• Prefix-Suffix Decomposition: 64 비트와 같은 큰 입력에 대한 Lookup Table 이 불가능한 크기가 되는 문제를 해결하기 위해, 입력을 작은 조각 (Chunk) 으로 나누어 Prefix 와 Suffix 로 분해합니다. 이를 통해 증명의 메모리 사용량을 $O(|T|)$에서 $O(|T|^{1/C})$로 줄여 스트리밍 (Streaming) 증명을 가능하게 합니다.

2.3 Neural Teleportation (신경 전이)

• Lookup Table 의 크기를 줄이기 위해 Neural Teleportation 기법을 적용합니다. 활성화 함수 (예: Tanh, Erf) 의 입력 값을 일정한 인자 $\tau$로 나누어 입력 범위를 축소하고, 이에 따른 오차는 모델의 정확도에 미미한 영향을 주도록 설계합니다.
• 이를 통해 Lookup Table 의 크기를 16 비트 고정 소수점 표현에 적합하도록 줄여도 모델의 추론 정확도를 유지할 수 있습니다.

2.4 Zero-Knowledge 구현 (BlindFold)

• BlindFold 기법: 기존 Sumcheck 프로토콜은 증명 과정의 중간 값 (Witness) 을 노출할 수 있습니다. Jolt Atlas 는 BlindFold 기술을 적용하여 Sumcheck 검증기를 R1CS 회로로 인코딩하고, Nova 스타일의 폴딩 (Folding) 기법을 사용하여 증명 메시지를 Pedersen Commitment 로 감춥니다.
• 이를 통해 모델 가중치, 입력 데이터, 중간 계산 결과 등 모든 민감 정보를 숨기면서 검증 가능합니다.

2.5 커밋먼트 스키마 (HyperKZG)

• 기존 Jolt 가 사용한 Dory 대신, 다변수 다항식을 위한 HyperKZG (Pairing 기반) 를 사용하여 온체인 검증에 적합한 간결한 오프닝 (Succinct Openings) 을 제공합니다.

3. 주요 기여 (Key Contributions)

1. Jolt 에서 ML 로의 패러다임 전환: RISC-V 명령어 집합을 ONNX 계산 그래프로 대체하여, 범용 CPU 시뮬레이션이 아닌 텐서 연산에 최적화된 ZK 증명 시스템을 구축했습니다.
2. 스트리밍 증명 (Streaming Proving): Prefix-Suffix 분해 기법을 통해 메모리 제약이 있는 환경 (예: 모바일 기기) 에서도 대규모 모델의 증명을 가능하게 했습니다.
3. 비선형 연산의 효율적 처리: Lookup Argument 와 Neural Teleportation 을 결합하여 비선형 활성화 함수의 검증 비용을 대폭 낮추고 Lookup Table 크기를 최적화했습니다.
4. 완전한 영지식성 (Zero-Knowledge): BlindFold 기법을 통합하여 모델 가중치와 입력 데이터를 완전히 숨기는 zkML 프레임워크를 완성했습니다.
5. 실용적 성능 입증: 기존 프레임워크 (EZKL 등) 대비 월등히 빠른 증명 속도를 보여주었습니다.

4. 결과 (Results)

실험은 MacBook Pro (M3, 16GB RAM) 환경에서 수행되었습니다.

• nanoGPT (약 25 만 파라미터, 4 레이어):
  • Jolt Atlas: 증명 시간 14 초 (키 생성 포함 약 14.5 초).
  • EZKL (동일 모델): 증명 시간 237 초 (키 생성만 400 초 이상 소요).
  • 결과: 증명 생성 속도에서 약 17 배의 속도 향상을 기록했습니다.
• GPT-2 (1 억 2 천 5 백만 파라미터):
  • 전체 엔드 - 투 - 엔드 증명 시간이 약 38 초로 측정되었습니다. 이는 기존 zkML 솔루션으로는 상상하기 어려운 성능입니다.
  • 주요 단계별 시간: Witness 생성 (7.5 초), 커밋먼트 (3.5 초), Sumcheck 증명 (16 초), HyperKZG 증명 (3 초) 등.

5. 의의 및 중요성 (Significance)

• 온디바이스 검증 가능성: 고사양 GPU 나 특수 하드웨어 없이도 일반 소비자 기기 (M3 칩 등) 에서 대규모 언어 모델 (LLM) 및 분류 모델의 추론을 검증할 수 있음을 입증했습니다.
• 프라이버시 중심 AI: 모델 소유권 보호 (가중치 숨김) 와 데이터 프라이버시 (입력 숨김) 를 동시에 보장하며, 신뢰할 수 없는 환경 (Adversarial environments) 에서도 AI 의 신뢰성을 확보할 수 있습니다.
• 에이전트 커머스 및 AI 메모리: 자동화된 에이전트 간 거래 (Agentic Commerce) 에서 '가드레일 (Guardrails)'로 활용하거나, AI 의 컨텍스트 (AI Memory) 를 검증 가능하게 만들어 'Trustless AI' 생태계의 기반을 마련합니다.
• 미래 지향성: 향후 격자 기반 (Lattice-based) 커밋먼트 스키마 (Hachi 등) 로 전환하여 양자 내성 (Post-quantum) 을 확보하고, 온체인 (Ethereum 등) 검증 효율성을 높일 수 있는 확장성을 가지고 있습니다.

결론적으로, Jolt Atlas 는 zkML 분야에서 'Lookup Argument'와 'Tensor-level 최적화'를 결합하여 실용적인 성능과 강력한 프라이버시 보장을 동시에 달성한 획기적인 프레임워크입니다.