Mixed precision solvers with half-precision floating point numbers for Lattice QCD on A64FX processor

이 논문은 A64FX 프로세서에서 격자 QCD 시뮬레이션을 위해 반정밀도 (FP16) 를 혼합 정밀도 선형 솔버에 적용할 때 수치적 불안정성을 해결하기 위해 외부 반복 정제 단계와 내부 BiCGStab 솔버에 재스케일링 기법을 도입한 결과, FP64 대비 20% 이내의 추가 반복 횟수로 안정적인 연산이 가능함을 입증했습니다.

핵심

🏗️ 1. 배경: 거대한 도시를 설계하는 건축가들

우리가 우주의 기본 입자 (쿼크와 글루온) 가 어떻게 움직이는지 이해하려면, 마치 거대한 4 차원 도시를 설계하는 것과 같은 복잡한 계산을 해야 합니다. 이를 **양자 색역학 (Lattice QCD)**이라고 합니다.

이 계산을 위해 **후가쿠 (Fugaku)**라는 세계 최강의 슈퍼컴퓨터를 사용합니다. 하지만 이 계산은 너무 방대해서, 일반적인 컴퓨터로는 우주의 나이를 다 살아도 끝내지 못할 정도입니다.

📏 2. 문제: 정밀한 자 vs. 빠른 자

계산을 할 때 숫자의 정밀도 (Precision) 가 중요합니다.

• FP64 (이중 정밀도): 자의 눈금이 0.0000001mm 까지 있는 정밀한 자입니다. 아주 정확하지만, 자를 읽는 데 시간이 오래 걸립니다.
• FP32 (단일 정밀도): 눈금이 0.01mm 인 일반적인 자입니다. 속도가 빠르고, 한 번에 더 많은 자를 다룰 수 있습니다.
• FP16 (반정밀도): 눈금이 1mm 인 간이 자입니다. 가장 빠르고 가볍지만, 아주 작은 수를 표현하면 "0"으로 잘못 읽히거나 (Underflow), 너무 큰 수를 표현하면 "무한대"로 잘못 읽히는 (Overflow) 치명적인 오류가 생깁니다.

지금까지 과학자들은 **FP64(정밀한 자)**로만 계산하거나, **FP32(일반적인 자)**를 일부 섞어서 썼습니다. 하지만 최근 AI 시대가 오면서 **FP16(간이 자)**을 처리할 수 있는 강력한 칩 (A64FX 프로세서) 이 생겼습니다.

핵심 질문: "아주 빠른 FP16 을 쓰면 계산 속도가 2 배 이상 빨라질 텐데, 왜 안 쓸까?"
답: "너무 정확하지 않아서 결과가 엉망이 되거나, 계산이 중간에 멈춰버리기 때문입니다."

💡 3. 해결책: "비례缩放 (Rescaling)"이라는 마법

이 논문은 **"FP16 을 쓰되, 숫자가 너무 작아지거나 커지지 않도록 '비례缩放'을 해주는 새로운 방법"**을 제안합니다.

🎈 비유: 풍선과 물

계산 과정에서 숫자 (데이터) 는 마치 풍선이나 물과 같습니다.

• FP16 의 한계: 풍선 크기가 너무 작아지면 (0 에 가까워지면) 터져버리고, 너무 커지면 터져버립니다.
• 기존 방법: 그냥 FP16 을 쓰면, 계산이 반복될수록 숫자가 점점 작아져서 풍선이 터지고 (Underflow), 계산이 멈춥니다.
• 이 논문의 방법 (Rescaling):
  1. 외부 (Iterative Refinement): 계산할 때마다 숫자가 너무 작아지지 않도록 크기를 조절해 줍니다. (예: 0.0001 이면 1000 배 키워서 계산하고, 결과를 다시 1/1000 로 줄입니다.)
  2. 내부 (BiCGStab 솔버): 계산이 진행되면서 숫자가 작아지면, 실시간으로 다시 크기를 맞춰줍니다. 마치 풍선이 줄어들 때마다 공기를 조금씩 더 불어넣어 크기를 유지하는 것과 같습니다.

이 '비례缩放' 기술을 적용하자, FP16 을 써도 숫자가 터지지 않고 안정적으로 계산이 가능해졌습니다.

🚀 4. 결과: 속도가 2 배 빨라졌다!

연구진은 이 방법을 일본 후가쿠 슈퍼컴퓨터에서 테스트했습니다.

• 기존 FP64 (정밀한 자): 느리지만 정확함.
• 기존 FP32 (일반적인 자): 중간 정도 빠름.
• 새로운 FP16 (간이 자 + 비례缩放 기술): FP32 보다 2 배, FP64 보다 3 배나 빨랐습니다!

정확도는 FP64 수준으로 유지하면서, 속도는 비약적으로 향상되었습니다. 마치 고속도로를 달리는 스포츠카를 타면서도 정밀한 내비게이션을 사용하는 것과 같습니다.

🌟 5. 결론과 미래

이 연구는 **"빠른 계산 (FP16) 을 하더라도, 적절한 조절 기술 (Rescaling) 만 있다면 과학적 정확도를 해치지 않는다"**는 것을 증명했습니다.

• 의의: 앞으로 AI 나 과학 시뮬레이션에서 더 많은 데이터를 더 빠르게 처리할 수 있는 길이 열렸습니다.
• 미래: 이 기술은 다른 복잡한 물리 계산에도 적용될 수 있으며, 특히 차세대 슈퍼컴퓨터나 AI 가속기 (GPU) 에서 더 큰 효과를 발휘할 것으로 기대됩니다.

한 줄 요약:

"정밀한 자 (FP64) 는 너무 느리고, 간이 자 (FP16) 는 너무 부정확해서 못 썼는데, '크기 조절 기술'을 입혀서 간이 자로도 정밀한 건축을 2 배 빠르게 해냈다!"

기술 요약

논문 요약: A64FX 프로세서 기반 격자 QCD 를 위한 반정밀도 (FP16) 혼합 정밀도 솔버 연구

1. 연구 배경 및 문제 제기 (Problem)

• 배경: 과학적 계산은 일반적으로 고정밀도 (FP64) 연산을 요구하지만, AI 및 그래픽 처리의 발전으로 인해 저정밀도 (FP16, FP32) 연산의 성능 이점이 부각되고 있습니다. 특히 슈퍼컴퓨터 '후쿠 (Fugaku)'에 탑재된 A64FX 프로세서는 SVE(Scalable Vector Extension) 를 통해 FP16 연산에서 FP64 대비 4 배의 성능 향상을 제공합니다.
• 문제: 격자 양자 색역학 (Lattice QCD) 시뮬레이션의 핵심인 선형 방정식 솔버 (BiCGStab 등) 에 기존에 사용되던 FP32 기반 혼합 정밀도 기법을 그대로 FP16 에 적용할 경우, 수치적 불안정성이 발생합니다.
  • FP16 은 표현 가능한 지수 범위 (Exponent range) 가 매우 좁습니다 (약 $6.10 \times 10^{-5}$ ~ $65504$).
  • 반복 계산 과정에서 잔차 (residual) 벡터의 노름이 감소함에 따라 FP16 의 **언더플로우 (Underflow)**가 발생하여 알고리즘이 수렴하지 않거나 발산하는 문제가 나타납니다.
  • 기존 FP32 솔버는 이러한 문제를 겪지 않았으나, FP16 에서는 단순한 적용만으로는 효율적인 연산이 불가능했습니다.

2. 방법론 (Methodology)

이 논문은 A64FX 프로세서의 FP16 성능을 활용하기 위해 반정밀도 (FP16) 와 정밀도 (FP64) 를 혼합한 솔버에 재스케일링 (Rescaling) 기법을 도입하여 수치적 안정성을 확보하는 방법을 제안합니다.

• 혼합 정밀도 프레임워크:
  • 외부 반복 (Outer Iteration): FP64 정밀도로 전체 시스템을 해결합니다.
  • 내부 반복 (Inner Iteration): FP16 정밀도로 전처리 (Preconditioning) 또는 선형 시스템을 풉니다.
  • 알고리즘: BiCGStab 솔버와 Richardson 반복법을 기반으로 합니다.
• 핵심 기법: 재스케일링 (Rescaling)
  • 잔차 벡터 재스케일링: 반복 과정에서 잔차 벡터의 크기가 너무 작아져 언더플로우가 발생하지 않도록, 잔차 벡터에 정규화 인자 ($\gamma$) 를 곱하여 크기를 유지합니다.
  • 해 벡터 재스케일링: 시스템의 고유값이 매우 작아 해 (Solution) 벡터의 크기가 너무 커져 오버플로우가 발생할 수 있으므로, 해 벡터에도 스케일링 인자 ($\lambda$) 를 적용합니다.
  • 스케일링 인자 재계산: FP16 의 반올림 오차로 인해 스케일링이 정확하지 않을 수 있으므로, FP32 정밀도에서 잔차 노름을 재계산하여 스케일링 인자를 보정합니다.
• 구현 세부사항:
  • 하드웨어: 후쿠 (Fugaku) 슈퍼컴퓨터의 A64FX 프로세서.
  • 지시어 세트: ARM C 언어 확장 (ACLE) 의 _Float16 타입과 SVE 명령어를 활용하여 FP16 연산을 수행합니다.
  • 코드: 격자 QCD 코드인 Bridge++ 를 기반으로 A64FX 에 최적화된 QXS 브랜치를 사용했습니다.
  • 데이터 변환: FP16 벡터를 FP32/FP64 로 변환할 때, SVE 의 svrev 및 svcvt 명령어를 활용하여 효율적인 축약 (Reduction) 연산을 수행합니다.

3. 주요 기여 (Key Contributions)

1. FP16 기반 LQCD 솔버의 안정성 확보: FP16 의 좁은 동적 범위 (Dynamic range) 로 인한 언더플로우 문제를 해결하기 위해, 반복 정제 (Iterative Refinement) 단계와 내부 BiCGStab 솔버 모두에 재스케일링 기법을 도입했습니다.
2. A64FX 에 최적화된 알고리즘 제안: 기존 GPU 기반의 FP16 솔버 (예: QUDA) 와는 다른, A64FX 의 SVE 아키텍처에 특화된 재스케일링 전략을 제시했습니다.
3. 실용성 입증: 단순한 윌슨 (Wilson) 페르미온 행렬을 사용하여 실험을 수행했으나, 제안된 알고리즘이 복잡한 페르미온 행렬 (Clover, Domain-wall 등) 로도 확장 가능함을 시사했습니다.

4. 실험 결과 (Results)

• 실험 환경: 격자 크기 $32^3 \times 64$, 윌슨 행렬 ($\kappa=0.13$), 후쿠 슈퍼컴퓨터 (2.2 GHz, 부스트 에코 모드).
• 수렴성:
  • 재스케일링을 적용하지 않은 FP16 솔버는 수렴이 매우 느리거나 실패했습니다 (잔차 노름이 급격히 증가).
  • 재스케일링을 적용한 FP16 솔버는 FP64 솔버 대비 추가 반복 횟수가 20% 이내로 증가하는 수준으로 안정적으로 수렴했습니다.
• 성능 향상:
  • 연산 성능: FP64 (2045 GFlops), FP32 (3895 GFlops), FP16 (8249 GFlops) 순으로 성능이 향상되었습니다.
  • 실행 시간: FP16 혼합 정밀도 솔버는 FP32 혼합 정밀도 솔버 대비 약 2 배, FP64 솔버 대비 약 3 배 빠른 실행 시간을 기록했습니다.
  • 행렬 - 벡터 곱셈 횟수: FP16 솔버의 내부 반복 횟수는 FP32 솔버와 유사하거나 오히려 적은 수준 (약 850~900 회) 으로 유지되었습니다.
• 언더플로우 감소: 재스케일링을 적용한 경우, 입력 벡터 내의 0 값 요소 비율이 크게 감소하여 정보가 효율적으로 전파됨을 확인했습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 과학적 의의: 차세대 슈퍼컴퓨터 (Fugaku NEXT 등) 에 탑재될 Tensor Core 기반 가속기뿐만 아니라, 현재 후쿠 (Fugaku) 의 A64FX 프로세서에서도 FP16 을 활용한 고성능 과학 계산이 가능함을 입증했습니다.
• 기술적 확장성: 제안된 재스케일링 기법은 BiCGStab 에 국한되지 않고, 다른 저정밀도 솔버 및 전처리 조건부 (Preconditioners) 에도 적용 가능하여, 다양한 HPC 응용 분야에서 저정밀도 연산의 안정성을 높일 수 있는 방법론을 제공합니다.
• 향후 과제: 복잡한 페르미온 행렬 (Clover, Domain-wall) 에 대한 적용성 검증, BF16 (Brain Floating Point) 형식과의 비교 연구, 그리고 GPU 의 Tensor Core 를 활용한 구현이 향후 과제로 제시되었습니다.

결론적으로, 이 연구는 A64FX 프로세서의 FP16 성능을 극대화하면서도 수치적 안정성을 유지할 수 있는 혼합 정밀도 솔버 기법을 성공적으로 개발하여, 격자 QCD 시뮬레이션의 계산 효율을 획기적으로 개선했습니다.