On reliable computing on the real numbers

컴퓨터는 숫자를 세는 데는 탁월하지만, 현실 세계의 매끄럽고 끊김 없는 흐름을 다루는 데는 어려움을 겪습니다. 수학에서 선은 연속적입니다. 즉, 한 번도 도약하지 않고 선을 따라 이동할 수 있습니다. 그러나 컴퓨터에서는 모든 것이 화면의 픽셀이나 계단의 칸처럼 이산적인 정보 블록으로 구축됩니다. 컴퓨터가 무한히 계속되는 분수와 같은 실수를 처리하려고 할 때, 컴퓨터는 이를 잘라내고 반올림해야만 합니다. 이러한 반올림은 미세한 오차를 발생시킵니다. 단순한 계산에서는 이러한 오차가 사소해 보일 수 있지만, 복 phức한 과학 모델에서는 이 오차들이 쌓여 신뢰성을 파괴할 수 있습니다. 수십 년 동안 수학자와 컴퓨터 과학자들은 자연이 요구하는 정밀함을 잃지 않으면서도, 추상적인 수학을 모방하려는 시도만큼이나 신뢰할 수 있는 방식으로 실수를 계산하는 방법을 찾아왔습니다.

폴란드 시들체 대학교의 연구원인 스타니스와프 암보시크비에비치(Stanislaw Ambroszkiewicz)는 기초부터 이러한 신뢰성을 구축하는 새로운 방법을 제안했습니다. 그는 컴퓨터가 무한한 연속선을 직접 이해하도록 강요하는 대신, 공간을 나누고 재결합하는 방식에 기반한 시스템을 구축할 것을 제안합니다. 그의 연구는 '점근 수열(asymptotic sequences)'이라는 개념에 집중하는데, 이는 본질적으로 점점 더 상세해지는 지도들의 연속체입니다. 해안선을 묘사하려고 한다고 상상해 보십시오. 처음에는 거친 스케치로 시작하여, 그다음에는 더 상세한 버전을 그리고, 그다음에는 훨씬 더 미세한 버전을 그릴 수 있습니다. 각 버전은 실제 모습에 대한 더 나은 근사치가 됩니다. 암보시크비에비치는 이러한 근사치들을 단순한 추측이 아니라, 숫자 그 자체의 근본적인 구성 요소로 취급합니다.

그의 접근 방식의 핵심은 '인접성(adjacency)'이라는 단순하지만 강력한 아이디어에 달려 있습니다. 현실 세계에서 만약 당신이 땅을 가지고 있고 그것을 더 작은 필지로 나눈다면, 새로운 필지들은 예측 가능한 방식으로 여전히 이웃과 맞닿아 있습니다. 암보크비에비치는 이 접촉 관계를 공식화합니다. 그는 하나의 '단위'가 더 작은 부분들로 나뉘고, 그 부분들이 다시 또 다시 나뉘는 시스템을 만듭니다. 매 단계마다 시스템은 어떤 부분이 서로 옆에 있는지를 추적합니다. 이는 연속적인 선의 매끄러움을 모방하면서도 결코 무한을 직접 다룰 필요가 없는 연결의 사슬을 만들어냅니다. 컴퓨터는 숫자의 정확한 값을 알 필요가 없습니다. 단지 특정 세부 수준에서 특정 값이 어떤 '이웃'에 속하는지만 알면 됩니다.

이 방법은 직관주의 수학 철학, 특히 20세기 초 네덜란드의 수학자 레이첸 에흐베르투스 얀 브라우어(Luitzen Egbertus Jan Brouwer)의 작업에서 영감을 얻었습니다. 브라우어는 실수가 발견되기를 기다리는 미리 존재하는 점들이 아니라, 선택과 분할의 과정을 통해 생성되는 것이라고 믿었습니다. 암보시크비에비치는 이러한 철학적 아이디어를 실용적인 계산 프레임워크로 바꿉니다. 그는 만약 당신이 이 조각들이 어떻게 연결되고 나뉘는지에 대한 규칙을 따른다면, 계산하는 모든 함수가 연속적임을 보장할 수 있다는 것을 증명합니다. 표준 수학의 세계에는 도약하거나 끊어지는 함수들이 존재하지만, 암보시크비에비치의 시스템에서는 계산의 구조 자체가 그러한 끊김이 발생하는 것을 방지합니다.

이 논문은 이러한 '인접 패턴'을 사용함으로써 신뢰할 수 있고 계산 가능한 함수를 정의할 수 있음을 보여줍니다. 연구자는 만약 함수가 이 조각들이 맞닿고 나뉘는 방식을 존중한다면, 그 함수는 자동으로 연속성을 만족하게 된다는 것을 보여줍니다. 이는 중요한 발견인데, 왜냐하면 코드로 구현하기 어려운 복잡하고 추상적인 공리들에 의존하지 않고도 계산이 안정적임을 증명할 수 있는 방법을 제공하기 때문입니다. 이 작업은 자연에서 보이는 연속성이 컴퓨터가 서투르게 근사해야 하는 신비로운 속성이 아니라, 계산의 논리 안에 직접 구축될 수 있는 구조적 특징임을 시사합니다.

암보시크비에비치는 또한 이러한 추상적인 패턴이 수학자들이 모양과 공간을 설명하기 위해 사용하는 위상 공간과 어떻게 연관되는지에 대한 질문을 다룹니다. 그는 자신이 정의한 분할과 연결의 순서가 선, 정사각형, 심지어 토러스(torus)와 같은 더 복잡한 구조로 직접 매핑될 수 있음을 보여줍니다. 이는 그의 방법이 단순한 숫자에 국한되지 않음을 의미하며, 복잡한 기하학적 형상에 대한 계산을 위한 토대를 제공합니다. 이 시스템은 다양한 차원과 패턴을 다룰 수 있을 만큼 유연하여 다양한 물리적 실체를 모델링할 수 있습니다.

이 연구의 가장 중요한 성과 중 하나는 직관주의 수학에서 오랫동안 풀리지 않았던 퍼즐인 '브라우어 연속성 정리(Brouwer Continuity Theorem)'를 해결하는 것입니다. 이 정리는 연속 구간에서 정의된 모든 함수는 반드시 연속적이어야 한다는 내용입니다. 전통적인 수학에서 이는 우리가 쉽게 도약하는 함수를 써 내려갈 수 있기 때문에 역설적으로 보입니다. 그러나 암보시크비에비치는 자신의 프레임워크 내에서는 이것이 역설이 아니라 시스템이 구축된 방식의 자연스러운 결과임을 보여줍니다. 만약 함수가 그의 '선택 수열(choice sequences)'—공간의 단계별 분할—위에 정의된다면, 인접성의 규칙이 도약을 방지하기 때문에 함수는 도약할 수 없습니다. 함수는 한 조각에서 다음 조각으로 부드럽게 이동하도록 강제됩니다.

논문은 이 접근 방식이 신뢰할 수 있는 컴퓨팅을 위한 실질적인 경로를 제공한다고 결론짓습니다. 실수를 고정된 무한한 점들이 아닌 연결된 분할 구간의 연속체로 취급함으로써, 컴퓨터는 수학적으로 정확한 계산을 수행할 수 있으며, 오차의 누적을 완전히 제거하는 대신 함수의 범위를 계산함으로써 상대적으로 신뢰할 수 있는 결과를 보장할 수 있습니다. 이것은 단순히 이론적인 연습이 아닙니다. 저자는 이러한 원칙들이 그리드의 픽셀과 복셀(voxel)이 사용되어 세상을 모델링하는 엔지니어링 및 컴퓨터 그래픽과 같은 분야에서 이미 유효하다고 언급합니다. 이 그리드들이 어떻게 연결되는지에 대한 근본적인 구조를 이해함으로써, 우리는 기계의 이산적인 도구로 현실의 연속적인 성질을 다루는 소프트웨어를 구축할 수 있습니다. 이 작업은 신뢰할 수 있는 컴퓨팅의 열쇠가 기계를 인간과 더 비슷하게 만드는 것이 아니라, 숫자와 공간의 개념 자체를 기계의 강점에 맞게 재정의하는 방식에 있음을 시사합니다.