Residual-adaptive truncation in an arbitrary-order tangent iteration for $\pi$: quadratic growth of the accuracy exponent

원주율(pi), 즉 원의 둘레와 지름의 비율을 계산하는 탐구는 오랫동안 수학의 가장 강력한 도구들을 검증하는 시험대로 기능해 왔습니다. 숫자 자체는 정의하기 매우 간단하지만, 그 무한하고 반복되지 않는 소수 전개 방식은 우리가 복잡한 계산을 어떻게 처리하는지를 보여주는 완벽한 테스트 케이스가 됩니다. 수 세기 동안 수학자들은 파이의 더 많은 자릿수를 찾기 위해 두 가지 주요 전략에 의존해 왔습니다. 첫 번째는 숫자의 긴 목록을 더하는 방식으로, 각 새로운 항이 일정하고 예측 가능한 양의 정확도를 더해줍니다. 두 번째 전략은 반복법(iterative methods)으로, 컴퓨터가 대략적인 추측값에서 시작하여 이를 반복적으로 정교하게 다듬는 방식입니다. 이러한 반복적 접근 방식에서 목표는 보통 매 단계마다 올바른 자릿수를 두 배로 늘리는 것이며, 이 과정을 '이차 수렴(quadratic convergence)'이라고 합니다. 이러한 방법들은 매우 빠르지만, 대개 엄격한 규칙을 따릅니다. 즉, 추측값을 개선하기 위해 사용하는 공식은 추측값이 더 정밀해지더라도 변하지 않고 그대로 유지됩니다.

버지니아 공과대학교의 시한 한(Shih-Han Wang)에 의한 새로운 연구는 그 규칙이 반드시 경직되어 있어야 한다는 생각에 도전합니다. 이 연구는 계산 자체가 정답에 얼마나 가까워졌는지에 따라 그 동작을 바꾸는 방법을 소개합니다. 고정된 공식을 사용하는 대신, 이 방법은 현재의 오차(현재의 추측값과 파이의 실제 값 사이의 차이)를 살펴보고, 이를 바탕으로 다음 계산 단계에 포함할 항의 개수를 결정합니다. 이는 계산이 개선됨에 따라 개선 속도가 급격히 가속화되는 자기 조절 시스템을 만들어냅니다. 이 연구는 이 방식이 단순히 올바른 자릿수를 두 배로 늘리는 것에 그치지 않고, 매 단계마다 올바른 자릿수를 제곱한다는 것을 입증하며, 기존의 고정 차수 방식보다 훨씬 빠르게 정밀도가 폭발적으로 증가함을 보여줍니다.

이 작업의 핵심은 탄젠트 함수와 관련된 특정한 수학적 관계에 있습니다. 어떤 숫자가 파이에 매우 가까울 때, 그 숫자의 탄젠트 값은 매우 작아지며, 이 작은 값은 오차를 측정하는 직접적인 척도로 작용합니다. 연구자는 이 오차의 크기를 사용하여 추측을 수정하는 데 필요한 정확한 항의 개수를 결정할 수 있다는 사실을 깨달았습니다. 표준적인 방법에서 수학자는 현재의 추측값이 아주 미세한 차이가 나든 큰 차이가 나든 상관없이, 전개의 처음 열 개 항을 수정하는 공식을 사용하기로 결정할 수 있습니다. 하지만 왕의 적응형 방법에서는 컴퓨터가 먼저 오차의 크기를 확인합니다. 오차가 크면 짧은 수정을 수행하고, 오차가 매우 작으면 자동으로 훨씬 더 길고 상세한 수정을 수행합니다. 이러한 결정은 매 단계마다 이루어지며, 이는 과정이 진행됨에 따라 게임의 규칙이 변하는 '비정상성(non-stationary)'을 의미합니다.

이 전략의 결과는 수학적으로 심오합니다. 연구는 만약 어떤 계산이 특정 수의 올바른 자릿수를 가지고 있다면, 다음 단계는 이전 자릿수의 대략 제곱만큼의 올바른 자릿수를 생성한다는 것을 증명합니다. 이해를 돕기 위해 설명하자면, 만약 계산이 10자리의 정확도를 확보했다면, 다음 단계에서는 약 100자리의 정확도로 뛰어오르게 됩니다. 만약 1,000자리에 도달하면, 다음 단계에서는 100만 자리로 도약합니다. 이는 다른 고속 알고리즘에서 보이는 선형적 또는 이차적 성장과는 근본적으로 다른 변화입니다. 논문은 이러한 성장이 단순한 이론적 가능성이 아니라, 시작 추측값이 이미 실제 값에 상당히 근접해 있다면 이 특정 유형의 반복법에 적용되는 입증된 수학적 법칙임을 보여줍니다.

이러한 발견을 검증하기 위해, 연구자는 추드노프스키(Chudnovsky) 공식으로부터 유도된 잘 알려진 파이 근사치를 사용하여 수치 실험을 수행했습니다. 초기 추측값은 약 13자리 소수점 아래까지 정확했습니다. 첫 번째 적응 단계 이후, 정확도는 약 385자리로 급증했습니다. 두 번째 단계는 정밀도를 거의 30만 자리까지 밀어 올렸습니다. 세 번째 단계는 너무나 강력하여 이론적으로 1,000억 자리 이상의 정확도를 생성할 수 있었는데, 이 숫자는 너무 방대하여 컴퓨터는 알려진 참조 표준과 비교하여 처음 100만 자리만을 검증할 수 있었습니다. 첫 100만 자리가 참조 표준과 완벽하게 일치했다는 사실은 이론적 예측이 정확했음을 확인시켜 주었습니다. 이 방법은 정밀도가 수천 자리에서 수백만 자리로 단 몇 번의 반복만으로 이동하며, 수학적 모델이 예측한 대로 정확도가 성장하는 일련의 근사치를 성공적으로 생성했습니다.

이 작업은 유연성 측면에서 다른 고속 방법들과 차별화됩니다. 다른 알고리즘들은 매번 자릿수를 두 배 혹은 세 배로 늘리는 것과 같은 고정된 '차수(order)'를 갖도록 설계될 수 있지만, 이 방법은 고정된 차수가 없습니다. 대신, 계산이 개선됨에 따라 그 차수가 자동으로 성장합니다. 연구는 이것이 실질적인 의미에서 무한히 빠른 것을 의미하지는 않는다고 명시하는데, 왜냐نه 계산을 수행하는 비용 또한 자릿수가 늘어남에 따라 증가하기 때문입니다. 그러나 현재 오차와 다음 오차 사이의 수학적 관계 측면에서 볼 때, 개선 속도는 현재 오차의 임의의 고정된 거듭제곱보다 빠릅니다. 연구는 다음 단계의 오차가 현재 오차의 임의의 고정된 거듭제곱에 비해 소멸할 정도로 작아진다는 엄격한 증명을 제공하며, 이는 기존의 모든 고정 차수 반복법과 구별되는 특성입니다.

또한, 이 연구는 스스로의 성공 범위에 대해서도 다룹니다. 이 방법은 시작 추측값이 실제 파이 값의 특정 범위, 구체적으로는 1 라디안의 4분의 1 이내에 있어야 합니다. 다행히도 실험에 사용된 추드노프스키 공식 유래의 시작점은 이 안전 구역 안에 충분히 들어와 있습니다. 일단 계산이 이 구역에 진입하면, 이 방법은 그 상태를 유지하며 계속해서 개선될 것임을 보장합니다. 논문은 임의의 시작점에서 파이를 찾는 문제를 해결한다고 주장하는 것이 아니라, 이미 근접한 추측값을 정교하게 다듬는 데 매우 효율적인 엔진을 제공하는 것입니다. 또한, 수학적 수렴은 놀랍지만, 이러한 계산을 실행하는 데 걸리는 실제 시간은 컴퓨터가 관여하는 엄청난 양의 자릿수를 얼마나 효율적으로 처리할 수 있는지에 달려 있다는 공학적 과제도 언급하고 있습니다.

궁극적으로, 이 연구는 우리가 수치적 답을 정교화하는 방식에 대한 새로운 사고방식을 제시합니다. 이는 수정 공식이 유연한 형태로 존재할 때, 현재의 오차를 단순히 진척도를 측정하는 용도뿐만 아니라 다음 움직임을 결정하는 전략으로 사용할 수 있음을 시사합니다. 오차가 수정의 깊이를 결정하도록 함으로써, 이 방법은 표준적인 반복 과정을 자기 가속 시스템으로 변모시킵니다. 연구 결과는 엄격한 수학적 증명과 직접적인 수치 검증을 통해 뒷받침되며, 올바른 자릿수가 이전의 정확도를 제곱하는 속도로 성장할 수 있음을 보여줍니다. 이러한 접근 방식은 고정된 규칙을 스스로 적응시켜 나가는 알고리즘을 통해 극도의 정확성에 도달하는 경로를 보여줌으로써, 고정밀 산술의 새로운 영역을 열어줍니다.