평평한 벽이나 둥근 공처럼 행동하지 않는 표면에 벽화를 그린다고 상상해 보십시오. 우리가 사는 일상적인 세계에서는 거대한 그림을 그리고 싶을 때 보통 캔버스를 평평하게 펼치거나 구체에 감쌉니다. 하지만 수학자들은 오랫동안 **쌍곡 평면(hyperbolic plane)**이라는 기묘하고 무한한 표면에 매료되어 왔습니다. 이것은 중심에서 멀어질수록 점점 더 넓어지는, 즉 공간의 양이 기하급수적으로 증가하는 천과 같습니다. 이는 에셔(Escher)의 유명한 '원 제한(Circle Limit)' 드로잉을 가능하게 하는 바로 그 기하학입니다. 그 그림 속에서 물고기들은 가장자리를 향해 헤엄칠수록 점점 작아지지만, 패턴은 결코 끝나지 않습니다.

오랫동안 컴퓨터는 평평한 화면이나 구체 위에서만 이미지를 생성할 수 있었습니다. 하지만 만약 우리가 이 기묘하고 확장하는 표면 위에 직접 존재하는 완전히 새로운 세계를 만들고 싶다면 어떻게 될까요? 이것이 바로 확산 모델(diffusion models), 즉 무작위의 정적 상태(static)를 서서히 선명한 그림으로 바꾸어 이미지를 생성하는 유형의 AI가 직면한 과제입니다. 보통 이 모델들은 큰 이미지를 작고 겹치는 정사각형 조각들로 나눈 뒤, 각 조각을 수정하고 이를 서로 블렌딩(blending)하여 합칩니다. 문제는 쌍곡 평면에서 이 작업을 수행할 때, 이 "정사각형"들이 기묘하게 늘어나거나 왜곡된다는 점입니다. 또한 이 조각들의 가장자리가 만나는 지점은 종종 흐릿한 덩어리로 변해버립니다. 이 디지털 세계를 걸어 다니려 하면, 블러(blur) 현상은 악화되고 패턴은 깨져 버립니다.

이 논문은 AI를 새로 학습시키지 않고도 이러한 문제들을 해결하는 HyperbolicDiffusion이라는 새로운 방법을 소개합니다. 연구자는 자신의 "페인팅 윈도우(painting windows)"를 배치하여 무한한 표면을 효율적으로 덮는 영리한 방법을 찾아냈으며, 윈도우가 만나는 모서리의 흐릿함을 해결하기 위한 2단계 프로세스를 구축했습니다. 그 결과, 에셔의 불가능한 예술을 디지털 버전으로 구현한 것처럼, 어떤 각도에서도 똑같이 잘 보이며 끝없이 탐험 가능한 선명하고 일관된 쌍곡 세계를 만들어냈습니다.

문제점: 확장하는 바닥과 흐릿한 가장자리

이것이 왜 어려운지 이해하려면, 끊임없이 확장하는 바닥에 타일을 까는 장면을 상상해 보십시오. 일반적인 방에서는 그냥 정사각형 타일을 깔면 됩니다. 하지만 쌍곡 평면에서는 바닥이 너무 빠르게 커지기 때문에, 넓은 영역을 덮으려면 기하급수적으로 많은 타일이 필요합니다. 만약 표준적인 레이아웃을 사용하려고 한다면, 수백만 개의 타일을 낭비하거나 거대한 틈을 남기게 될 것입니다.

설상가상으로, 이 타일들을 결합하여 이미지를 만들려고 할 때 기하학적 구조가 방해가 됩니다. 표면이 휘어져 있기 때문에, "정사각형" 윈도우는 위치와 방향에 따라 다르게 보입니다. 다섯 개의 서로 다른 윈도우가 동일한 지점에 그림을 그리려 할 때, 각 윈도우는 주변 환경을 조금씩 다르게 인식합니다. 만약 이 예측값들을 단순히 섞어버리면, 가장자리가 맞지 않아 유령처럼 흐릿한 잔상이 생깁니다. 이전의 구체(지구와 같은) 작업에서도 유사한 문제가 있었지만, 쌍곡 평면에서는 면적이 너무 빠르게 증가하기 때문에 문제가 훨씬 더 심각합니다.

해결책: 스마트 타일링 시스템과 2단계 수정법

Obvious Research(파리 소재)에서 근무하는 이 논문의 저자는 AI를 처음부터 다시 가르칠 필요 없이 기존의 AI가 쌍곡 세계를 그리도록 관리하는 영리한 시스템을 고안했습니다. 이들의 방법인 HyperbolicDiffusion은 크게 세 부분으로 작동합니다.

1. 스마트 타일링 (쌍곡 개화 커버, Hyperbolic Blooming Cover)
먼저, 자원을 낭비하지 않고 전체 영역을 덮을 수 있도록 "윈도우"(AI가 바라보는 정사각형)를 배치하는 방법이 필요했습니다. 저자는 **쌍곡 개화 커버(HBC)**라고 불리는 방법을 발명했습니다. 정원이 계속 커지는 곳에 꽃을 심는다고 상상해 보십시오. 꽃을 무작위로 혹은 딱딱한 격자 형태로 심는 대신, HBC는 밖으로 성장하는 완벽한 동심원 형태로 꽃을 심습니다. 이는 동적 계획법(dynamic programming)이라는 영리한 수학적 트릭을 사용하여, 각 고리(ring)에 지면을 완벽하게 덮기 위해 필요한 꽃의 개수를 정확히 계산합니다.

논문에 따르면 이 방법은 매우 효율적입니다. 이 방식은 1,100만 개 이상의 윈도우가 있는 레이아웃을 단 5.44초 만에 계획할 수 있습니다. 더 중요한 것은, 테스트한 영역들에 대해 이 레이아웃이 절대적인 최적의 배치보다 오차가 10% 이내임을 증명했다는 점입니다. 즉, 안전을 위해 수천 개의 윈데우를 추가로 낭비하지 않고, 필요한 최소한의 수에 거의 근접하게 사용하고 있다는 뜻입니다.

2. 공유 캔버스 (단계 A)
윈도우가 배치되면 AI가 그림을 그리기 시작합니다. 여기서 핵심은 쌍곡 표면의 모든 지점이 고유한 주소(ID)를 가진다는 것입니다. 설령 한 지점이 다섯 개의 윈도우에 나타나더라도, 그것은 항상 동일한 "주소"를 가집니다. AI는 겹쳐진 윈도우들을 살펴보고, 각 윈도우가 예측하는 이미지가 어떠해야 하는지 추측한 뒤, 각 윈도우를 얼마나 신뢰할지에 따라 이 예측값들을 혼합합니다. 이를 통해 쌍곡 표면 위에 하나의 통일된 이미지를 만들어냅니다.

하지만 저자는 이 첫 번째 단계가 완벽하지 않다는 것을 발견했습니다. 윈도우들이 서로 다르게 왜곡되어 있기 때문에, AI가 겹치는 영역에서 동일한 디테일을 조금씩 다르게 그릴 수 있습니다. 이는 특히 건물이나 숲과 같이 복잡한 장면에서 가장자리가 흐릿하거나 겹쳐 보이는 "고스팅(ghosting)" 효과를 유발합니다.

3. 수리 팀 (단계 B)
여기서 두 번째 마법이 일어납니다. 저자들은 이미지를 실제로 보기 전에도 기하학적 구조만으로 어디에서 블러(흐림)가 발생할지 예측할 수 있다는 것을 깨달았습니다. 그들은 여러 윈도우가 동일한 지점을 두고 서로 경쟁하는 곳을 보여주는 "다중성 마스크(multiplicity mask)"를 계산했습니다.

이 지도가 충돌(두 개 이상의 윈도우가 동일하게 기여하는 지점)을 나타내는 곳에서, 그들은 두 번째 수리 단계를 실행합니다. 그들은 해당 흐릿한 지점들을 가져와서, 약간의 노이즈를 다시 추가한 뒤(마치 모래가 든 병을 흔드는 것처럼), 이번에는 가장자리를 날카롭고 일관되게 만드는 데 집중하여 AI에게 다시 그리도록 요청합니다. 이 "재-노이징(re-noising)" 단계는 고스팅 현상을 해결하고 디테일을 선명하게 만듭니다.

연구 결과 및 시사점

연구자는 구름과 같은 단순한 질감부터 실내 방이나 건축용 프레스코화와 같은 복잡한 장면까지 다양한 대상을 대상으로 이 방법을 테스트했습니다. 결과는 다음과 같습니다.

• 타일링의 성공: HBC 방법은 반지름 12(쌍곡 기하학 관점에서 매우 큰 규모)까지의 영역을 예측된 윈도우 수로 성공적으로 덮었으며, 계획 단계는 가장 큰 레이아웃에서도 항상 빠르게(6초 미만) 완료되었습니다.
• 블러 제거: 테스트 결과, 두 번째 수리 단계가 가장자리의 선명도를 크게 높였습니다. "그래디언트 크기(gradient magnitude, 가장 날카로움을 측정하는 방식)"를 측정한 결과 평균 15% 개선되었고, "라플라시안 크기(Laplacian magnitude, 또 다른 선명도 지표)"는 17% 개선되었습니다.
• 단순한 평면 이미지가 아님: 이 방법은 평면 이미지를 생성한 뒤 원형으로 왜곡하는 방식이 아니라, 쌍곡 표면 위에 직접 이미지를 생성합니다. 따라서 사용자가 세계를 돌아다니며 "카메라"를 움직여도 이미지는 선명하고 일관되게 유지됩니다. 가장자리에서 아주 작게 보이는 패턴이 중심부에서는 크게 보일지라도, 흐릿해지거나 깨지지 않습니다.

논문은 단일 단계 프로세스(그냥 한 번 그리고 블렌딩하는 것)가 복잡하고 구조적인 콘텐츠를 처리하기에 충분하지 않다는 점을 명시적으로 밝히고 있습니다. 저자들은 윈도우를 더 밀집시키거나 소유권을 다르게 블렌딩하는 등 여러 가지 단일 단계 변형을 시도했지만, 그 어떤 것도 디테일을 잃지 않으면서 블러를 제거할 수는 없었습니다. 오직 이 2단계 접근 방식만이 작동했습니다.

또한, 이 방법이 구체(지구와 같은)에도 적용될 수 있으며 그곳에서도 기존 방식보다 뛰어난 성능을 보였다는 점을 보여줌으로써, 기하학 기반의 수리(repair) 개념이 강력하다는 것을 입증했습니다.

이 연구가 중요한 이유

이 연구는 "탐색 가능한 쌍곡형 벽화"와 비유클리드 게임 세계를 만드는 문을 열어줍니다. 예를 들어, 멀어질수록 무한히 넓어지는 복도를 걷거나, 영원히 확장되는 성당을 탐험하는 VR 경험을 담은 비디오 게임을 상상해 보십시오. 이미지가 곡면 위에 직접 생성되기 때문에, 사용자가 시점을 이동하더라도 세계는 선명하고 일관되게 유지됩니다. 이는 생성 예술이 쌍곡 평면이라는 기묘하고 아름다운 기하학을 진정으로 이해하도록 하여, 수학적 호기심을 디지털 창의성의 놀이터로 바꾸는 단계입니다.