당신이 자라나는 콩나무의 높이를 측정하려고 한다고 상상해 보십시오. 당신은 자를 집어 들었지만, 손이 약간 떨리고 자 자체에는 미세한 흠집이 있습니다. 과학과 공학의 세계에서 우리는 이것을 "불확실성(uncertainty)"이라고 부릅니다. 보통 이 떨리는 숫자들을 가지고 수학 계산을 할 때, 우리는 그것들을 완벽하고 단단한 블록처럼 취급합니다. 우리는 "5 곱하기 3은 15다"라고 말합니다. 하지만 현실 세계에서 만약 당신의 "5"가 사실은 "5.001"이었고 "3"이 "2.999"였다면, 답은 정확히 15가 아닙니다. 그것은 가능성들의 어지러운 구름입니다.

수십 년 동안 과학자들은 이 어지러움을 추적하려고 노력해 왔습니다. 어떤 이들은 "답은 14와 16 사이에 있다"라고 말하는 것과 같은 "구간 산술(interval arithmetic)"을 사용합니다. 이는 안전하지만, 마치 "답이 이 헛간 전체 어딘가에 있다"라고 말하는 것처럼 너무 넓습니다. 다른 이들은 표준 부동 소수점 산술을 사용하는데, 이는 빠르지만 계산이 충돌을 일으킬 때까지 불확실성을 완전히 무시합니다. 큰 질문은 이것입니다: 단순히 답을 내놓는 것을 넘어, 우리가 그 답을 얼마나 신뢰할 수 있는지, 그리고 계산 단계를 거듭함에 따라 그 신뢰도가 어떻게 변하는지를 정확히 알려줄 수 있는 방법이 있을까요? 이것은 오차 분석(error analysis)이라 불리는 분야의 영역이며, 우리의 측정값에 있는 작은 실수가 어떻게 결론에 대한 큰 실수로 커지는지를 이해하는 데 전념하는 분야입니다.

여기에 연구자 칭푸 왕(Chengpu Wang)이 제안한 **통계적 테일러 전개(Statistical Taylor Expansion)**라는 새로운 방법이 등장합니다. 이 방법을 계산기라고 생각해보십시오. 이 계산기는 단순히 숫자를 계산하는 것이 아니라 *분포(distributions)*를 계산합니다. 당신이 이 계산기에 "5"라는 단일 숫자 대신 "흔들림이 있는 5"를 입력하면, 이 방법은 입력값이 알려진 형태(예: 종 모양의 곡선)와 특정 샘플 수를 가진 확률 변수라고 가정하고, 그 흔들림이 계산의 모든 단계를 통해 어떻게 파동처럼 퍼져나가는지를 추적합니다. 가장 흥able한 부분은, 이 방법이 이론적으로 **경로 독립적(path-independent)**이라고 주장한다는 점입니다.

이것이 왜 중요한지 이해하려면, 당신이 집에서 공원으로 걷는 과정을 상상해 보십시오. 만약 당신이 숲속을 통과하는 구불구불한 길을 간다면, 진흙투성이가 될 수도 있습니다. 만약 당신이 직선 도로를 따라간다면, 깨끗함을 유지할 것입니다. 전통적인 수학에서 "진흙"(오차)은 당신이 선택한 경로에 따라 달라집니다. 단계의 순서를 바꾸면 최종 결과가 달라질 수 있습니다. 왕의 방법은 통계적으로 불확실성을 추적한다면, 어떤 경로를 택하든 상관없어야 한다고 제안합니다. 최종적인 "불확실성의 구름"은 당신이 어떻게 도달했는지와 관계없이 동일해야 합니다. 그러나 논문은 실제 적용 시 누적된 반올림 오차(rounding errors)가 여전히 연산 순서에 따라 달라질 수 있지만, 이 방법이 이를 추가적인 불확실성으로 포착해낸다고 언급합니다. 논문은 이 아이디어를 테스트하기 위해 **분산 산술(Variance Arithmetic)**이라는 실용적인 도구를 소개하며, 이것이 표준 컴퓨터 라이브러리에서 숨겨진 오류를 찾아내고, 행렬 수학의 문제를 해결하며, 심지어 변수들이 어떻게 연결되어 있는지를 무시함으로써 일반적인 회귀 분석(데이터에 선을 맞추는 방식)이 근본적으로 결함이 있음을 밝혀낼 수 있음을 보여줍니다.

핵심 아이디어: 흔들리는 자

이제 이것이 어떻게 작동하는지 자세히 살펴보겠습니다. 논문에서 저자는 단순한 개념에서 시작합니다: 신호는 단순한 숫자가 아니라, 숫자와 흔들림의 조합입니다. 만약 당신이 길이를 $x \pm \delta x$로 측정한다면, 당신은 단순히 "5미터다"라고 말하는 것이 아닙니다. 당신은 "5미터일 가능성이 높지만, 아주 조금 더 길거나 짧을 수 있으며, 그 가능성의 형태는 이러하다"라고 말하는 것입니다.

논문은 **무상관 불확실성 조건(Uncorrelated Uncertainty Condition)**이라는 규칙을 기반으로 합니다. 테이블의 너비와 높이처럼 두 가지 측정값이 있다고 상상해 보십시오. 만약 너비의 흔들림이 높이의 흔들림과 아무런 관련이 없다면(독립적이라면), 수학은 비교적 간단합니다. 논문은 이를 사용하여 새로운 종류의 "테일러 전개"를 유도합니다. 당신은 미적분학의 고전적인 테일러 전개를 알고 있을 것입니다. 거기서는 곡선을 직선으로 근사하고 작은 보정치를 더합니다. 이 새로운 버전도 똑같이 수행하지만, 단순히 숫자를 더하는 것이 아니라 분산(흔들림의 제곱)을 더합니다.

그 결과, 모든 답에 대해 다음 세 가지를 제공하는 공식이 나옵니다:

1. 평균(The Mean): 가장 가능성 높은 답 (예: 15).
2. 편차(The Deviation): 불확실성의 구름이 얼마나 넓은지 (예: $\pm 0.5$).
3. 신뢰도(The Reliability): 그 구름을 얼마나 신뢰할 수 있는지 알려주는 0에서 1 사이의 점수.

"경로 독립적" 마법

여기서 논문은 매우 대담해집니다. 표준 컴퓨터 수학에서는 방정식을 쓰는 방식이 중요합니다. 만약 당신이 $x^2 - x$를 계산한다면, 수학적으로는 동일함에도 불구하고 $x(x-1)$을 계산할 때와 약간 다른 결과를 얻을 수 있습니다. 이것을 **의존성 문제(Dependency Problem)**라고 합니다. 이것은 마치 두 명의 요리사에게 같은 재료를 주고 서로 다른 순서로 케이크를 굽게 했을 때, 재료들이 어떻게 상호작용하는지 놓치는 바람에 결과적으로 약간 다른 맛이 나는 것과 같습니다.

왕의 방법은 이론적으로 이 문제를 해결한다고 주장합니다. 모든 중간 단계에서 "흔들림"을 추적함으로써, 이 방법은 수학을 어떻게 재배열하더라도 최종 불확실성이 동일하도록 보장합니다. 논문은 모든 숫자를 (값, 불확실성)의 쌍으로 취급하는 소프트웨어 구현체인 **분산 산술(Variance Arithmetic)**을 통해 이를 입증합니다.

저자들은 몇 가지 까다로운 시나리오로 테스트를 진행했습니다:

• 다항식(Polynomials): 이 방법이 반올림 오차(컴퓨터가 숫자를 저장할 때 발생하는 미세한 실수)를 추적하고 불확실성 범위를 좁게 유지할 수 있음을 보여주었습니다.
• 행렬 역행렬(Matrix Inversion): 이것은 방정식 체계를 푸는 복잡한 방법입니다. 논문은 가우스 소거법(Gaussian elimination)이 숫자 사이의 의존성을 깨뜨리기 때문에 오류를 유발한다는 것을 발견했습니다. 직접적인 공식을 사용하는 이 새로운 방법은 불확실성을 정직하게 유지합니다.
• 고속 푸리에 변환(FFT): 이것은 소리나 이미지를 주파수 성분으로 빠르게 분해하는 방법입니다. 논문은 사인(sine) 및 코사인(cosine) 함수를 위한 표준 수학 라이브러리가 실제 신호처럼 보이는 "공명(resonance)" 패턴—즉, 가짜 신호—을 만들어내는 숨겨진 수치적 오류를 가지고 있음을 발견했습니다. 특수한 "쿼트 사인(Quart Sine)" 함수와 분산 산술을 사용함으로써, 그들은 이러한 오류를 찾아낼 수 있었습니다.

이 논문이 배제하는 것들

이 논문은 일부 "표준" 관행에 대해 상당히 비판적입니다. 논문은 무작위 불확실성에 대해 **구간 산술(Interval Arithmetic)**을 사용하는 것에 명시적으로 반대합니다. 구간 산술은 "답은 14와 16 사이에 있다"라고 말하는 것과 같습니다. 논문은 이 방법이 오차를 과대평가하여 범위를 쓸모 없을 정도로 넓게 만든다는 것을 보여줍니다. 이는 마치 자동차가 실제로 시속 55마일로 달리고 있다는 것을 알면서도 0에서 100마일 사이를 달리고 있다고 말하는 것과 같습니다. 논문은 대부분의 현실 세계 오차가 최악의 시나리오가 아닌 무작위적인 현상(예: 동전 던지기)이기 때문에, 구간 산술은 잘못된 도구라고 제안합니다.

또한 논문은 일반 선형 회귀(Ordinary Linear Regression)(데이터에 선을 맞추는 표준적인 방식)가 결함이 있다고 주장합니다. 논문은 데이터 포인트들을 불확실성을 가진 것으로 취급할 때, 표준 공식들이 "x"와 "y" 값의 오차가 어떻게 연결되어 있는지를 무시한다는 점을 지적합니다. 이는 계산된 선이 실제보다 덜 정확해지는 "의존성 문제"로 이어집니다. 논문은 이러한 연결을 고려하는 "토탈 회귀(Total Regression)" 접근법을 제안하지만, 이것이 계산하기 훨씬 어렵고 종종 단순한 폐쇄형 해(closed-form solution)가 부족하여 결국 결함이 있는 일반적인 방법으로 다시 타협하게 된다는 점을 인정합니다.

결과: 얼마나 확신할 수 있는가?

저자들은 광범ale한 시뮬레이션과 테스트를 수행했으며, 결과는 유망하지만 아직 모든 상황에 대한 "해결된" 문제는 아닙니다.

• 성공 사례: 사인, 코사인, 로그와 같은 기본 수학 함수 및 행렬 연산을 포함한 테스트에서, 이 방법은 그들이 "이상적인 커버리지(ideal coverage)"라고 부르는 성과를 달왔습니다. 즉, 계산된 불확실성이 실제 결과의 퍼짐과 거의 완벽하게 일치했습니다(오차 편차가 약 1.0). 예를 들어, 신호에 노이즈를 추가하고 고속 푸리에 변환을 실행했을 때, 이 방법은 오류의 크기를 정확하게 식별해 냈습니다.
• "공명" 발견: 논문은 사인 및 코사인 함수를 위한 표준 컴퓨터 라이브러리에 작은 체계적 오류가 있음을 발견했습니다. 이러한 오류가 특정 주파수와 상호작용할 때, 실제 신호처럼 보이는 "공명 패턴"을 생성합니다. 논문은 이러한 오류가 유의미할 수 있으며, 표준 부동 소수점 산술이 이를 숨기고 있다고 제안합니다.
• 한계점: 이 방법은 아직 완벽하지 않습니다. 저자들은 로그나 거듭제곱과 같은 복잡한 함수에 대해, 입력 불확실성이 충분히 작을 때만 수학이 작동한다고 언급했습니다. 만약 "흔들림"이 너무 크면, 보정 항의 급수가 발산하여 방법이 무너집니다. 또한 이 방법은 많은 항을 계산해야 하므로 표준 수학보다 더 많은 컴퓨팅 파워를 요구한다는 점을 발견했습니다.
• 신뢰 수준: 논문은 이러한 발견이 측정되고 시뮬레이션된 것임을 제시합니다. 그들은 단순히 추측한 것이 아니라, 도구를 만들고 수천 번의 테스트를 수행하여 알려진 진실과 비교했습니다. 그러나 이 방법이 아직 "개발 초기 단계"에 있다는 점도 인정합니다. 그들은 이론은 타당하지만, 모든 확률 분포를 처리하고 일상적인 용도로 쓰일 만큼 빨라지기 위해서는 실질적인 구현 작업이 더 필요하다고 제안합니다.

요약

이 논문은 수학을 바라보는 새로운 방식을 제안합니다: 불확실성은 버그가 아니라 기능입니다. 모든 숫자를 가능성의 구름으로 취합하고 우리가 수학 계산을 할 때 그 구름이 어떻게 변하는지 추적함으로써, 우리는 단순한 숫자가 아닌, 우리 지식에 대한 정직한 평가를 얻을 수 있습니다.

저자들은 이 접근 방식이 통계적 테일러 전개라고 불리는 새로운 수학의 분과를 낳을 수 있다고 제안합니다. 이는 우리가 알고리즘을 작성하고, 데이터에 선을 맞추고, 컴퓨터가 주는 숫자를 신뢰하는 방식을 재고하도록 도전합니다. 이것이 모든 것을 즉시 해결하는 마법 지팡이는 아닐지라도, 계산의 신뢰도를 측정하는 엄격하고 이론적으로 경로 독립적인 방법을 제공하여, 엔지니어링 설계에서 과학적 발견에 이르기까지 숨겨진 오류로부터 우리를 구할 수 있는 잠재력을 가지고 있습니다. 코드는 오픈 소스로 공개되어 있어, 다른 이들이 이를 테스트하고 개선하며, 언젠가 이것이 우리가 수학을 하는 새로운 표준이 되도록 초대하고 있습니다.