당신이 복잡한 시스템, 예를 들어 날개 위로 흐르는 바람이나 인체를 통과하는 음파가 어떻게 움직이는지를 예측하려고 한다고 상상해 보십시오. 과학자들은 이러한 현상을 설명하기 위해 편미분 방정식(PDE)이라는 수학 방정식을 사용합니다. 이 방정식을 푸는 것은 거대한 실타래를 푸는 것과 같습니다. 느리고 어렵고 슈퍼컴퓨터를 필요로 하는 작업입니다. 오랫동안 연구자들은 인공지능(AI)이 이 실타래를 즉각적으로 풀 수 있는 '대리 모델(surrogate)' 혹은 빠른 대체재 역할을 수행하여, 느린 수학적 계산을 대신할 수 있기를 희망해 왔습니다. 하지만 표준 AI 모델은 급격한 고주파 진동이나 여러 크기에서 동시에 반복되는 패턴이 포함된 문제를 다룰 때 종종 어려움을 겪습니다. 이 모델들은 대략적인 큰 그림은 잘 잡아내지만, 아주 작고 빠른 세부 사항은 놓치거나, 모델 자체가 너무 거대하고 복잡해져서 효율적으로 학습하는 것이 불가능해지곤 합니다.

이 논문은 인간 수학자들이 수십 년 동안 어려운 문제들을 해결해 온 방식에서 영감을 얻은, 새로운 형태의 AI 모델 구축법을 소개합니다. 거대하고 단일한 AI 두뇌를 만드는 대신, 저자들은 '자기 구성적(self-composing)' 뉴럴 오퍼레이터를 제안합니다. 이것은 마치 모든 요리마다 매번 새로운 레시피를 만드는 것이 아니라, 하나의 단순하고 효율적인 요리 기술(백본 블록)을 가지고 반복해서 요리하는 숙련된 요리사와 같습니다. 요리사가 맛을 완벽하게 하기 위해 냄비를 젓고, 맛을 보고, 다시 젓고, 다시 맛을 보는 과정을 반복하듯, 이 AI는 동일한 단순한 단계를 반복 적용하여 정답을 정교하게 다듬어 나갑니다. 이 논문은 이 가볍고 단일한 단계를 여러 번 쌓음으로써, AI가 초음파 영상과 같은 매우 까다로운 고주파 파동 문제를 기존 방식보다 훨씬 더 높은 정확도와 적은 컴퓨터 자원으로 해결할 수 있음을 보여줍니다.

자기 구성적 셰프의 이야기

물리학과 공학의 세계에서 방정식을 푸는 것은 종종 '추측과 확인'의 게임입니다. 방의 온도를 찾는 완벽한 방법을 찾고 있다고 상상해 보십시오. 숫자를 하나 추측하고, 온도계를 확인하고, 얼마나 차이가 나는지 보고, 추측치를 조정한 뒤 다시 확인합니다. 답이 적절해질 때까지 이 과정을 반복합니다. 이것을 **반복법(iterative method)**이라고 부릅니다. 이는 수십 년간 사용되어 온 고전적인 컴퓨터 솔버들이 사용하는 논리와 같습니다. 거친 추측값을 취하고, 이를 개선하는 규칙을 적용하고, 답이 충분히 좋아질 때까지 반복하는 것입니다.

오랫동안 AI 연구자들은 단 한 번에 최종 정답으로 도약하려고 시ط하는 거대하고 단일한 신경망을 구축함으로써 이 방정식들을 학습시키려 노력했습니다. 하지만 이는 온도계를 한 번도 확인하지 않고 방의 최종 온도를 단 한 번의 도약으로 맞추려는 것과 같습니다. 이는 특히 고주파 파동(초음파의 빠른 진동 등)이나 복잡한 다중 스케일 패턴이 포함된 문제에서 자주 실패합니다. 이러한 표준 AI 모델들은 '스펙트럼 편향(spectral bias)'을 겪는데, 이는 모델이 느린 저주파 파동은 잘 포착하지만 빠른 고주파 파동은 제대로 잡아내지 못한다는 것을 의미합니다.

이 논문의 저자들은 간단한 질문을 던졌습니다. 만약 우리가 AI에게 기존의 전통적인 솔버들이 하는 방식을 가르친다면 어떨까? 만약 단 한 번의 거대한 도약 대신, AI에게 단순하고 반복 가능한 단계를 주고 그 단계를 반복해서 연습하게 한다면 어떨까?

"훈련 및 언롤(Train-and-Unroll)" 전략

이를 구현하기 위해 연구진은 **"훈련 및 언롤(Train-and-Unroll)"**이라 불리는 학습 전략을 발명했습니다.

당신이 학생에게 미로 찾기를 가르치고 있다고 상상해 보십시오. 만약 학생을 곧바로 거대한 100단계 미로에 던져 넣는다면, 학생은 혼란에 빠져 포기할 수도 있습니다. 하지만 1단계짜리 아주 작은 미로에서 시작하여, 동일한 규칙을 유지하면서 단계적으로 미로의 단계를 늘려나간다면 학생은 훨씬 빠르게 배울 수 있습니다.

이것이 바로 "훈련 및 언롤" 방식이 작동하는 방식입니다.

1. 작게 시작하기: AI는 자신의 '백본 블록'을 단 한 번 적용하는 법을 배우며 시작합니다. AI는 이 단일 단계를 완벽하게 익힙니다.
2. 깊이 키우기: 단계를 하나 마스터하면, 연구자들은 이 과정을 '언롤(펼치기)'합니다. 그들은 학습된 지식(가중치)을 가져와 이를 쌓아 올려 2단계 모델을 만듭니다. 처음부터 다시 시작하는 것이 아니라, 첫 번째 단계의 지식을 사용하여 두 번째 단계를 촉발합니다.
3. 반복하기: 이 과정을 반복하며 모델의 깊이를 1단계에서 2단계, 3단계 등으로 계속 추가하여 원하는 깊이에 도달할 때까지 성장시킵니다.

이 접근 방식은 AI를 위한 커리큘럼과 같습니다. 이를 통해 모델은 압도당하지 않으면서 복잡하고 깊은 패턴을 학습할 수 있으며, 매 단계마다 새로운 두뇌를 학습하는 대신 동일한 '두뇌'를 재사용하기 때문에 엄청난 양의 컴퓨터 메모리를 절약할 수 있습니다.

멀티그리드 백본의 마법

**초음파 컴퓨터 단층 촬영(USCT)**이라는 특정 과제를 해결하기 위해, 연구진은 특별한 종류의 '백본 블록'이 필요했습니다. USCT는 유방을 통해 음파를 보내 영상을 생성하는 과정입니다. 문제는 유방 조직이 불규칙하고 고르지 않아 음파가 복잡하게 산란되고, 튕겨 나가고, 뒤틀린다는 점입니다.

저자들은 자신의 백본이 수치 수학의 유명한 기법인 **멀티그리드 솔버(multigrid solver)**를 모방하도록 설계했습니다. 멀티그리드 솔버를 범죄 현장을 조사하는 탐정 팀에 비유해 보겠습니다.

• 한 명의 탐정은 멀리서 방 전체를 바라보며 큰 그림(저주파)을 봅니다.
• 다른 탐정은 특정 단서를 보기 위해 더 가까이 확대해서 봅니다(고주파).
• 이들은 사건을 빠르게 해결하기 위해 '확대된 뷰'와 '축소된 뷰' 사이에서 정보를 주고받습니다.

AI의 백본 블록도 이와 유사하게 작동합니다. 이 모델은 다양한 스케일에서 문제를 동시에 바라보는 구조를 사용합니다. 또한 조직의 국소적 특성에 따라 초점을 조절할 수 있는 특별한 '적응형 컨볼루션 메커니즘(Adaptive Convolution Mechanism)'을 갖추고 있습니다. 이를 통해 다른 AI 모델들이 놓치는 큰 파동과 아주 작은 고주파 떨림을 모두 잡아낼 수 있습니다.

수치가 말해주는 결과

연구진은 자신들의 새로운 방법인 SC-NO(Self-Composing Neural Operator)를 Fourier Neural Operator(FNO) 및 표준 UNet을 포함한 기존 최고의 AI 모델들과 비교 테스트했습니다. 연구진은 파동이 공간을 통해 이동하는 방식을 설명하는 **헬름홀츠 방정식(Helmholtz equation)**에 집중했으며, 특히 의료용 초음파에서 사용되는 300–500 kHz 주파수 범위를 대상으로 했습니다.

결과는 놀라웠습니다:

• 정확도: SC-NO 모델은 이 주파수 범위에서 표준 FNO 모델에 비해 예측 오차를 9배에서 13배까지 줄였습니다. 파동 물리학의 세계에서 이는 엄청난 도약입니다.
• 효율성: 이 모델은 훨씬 적은 파라미터(AI의 '뇌세포')로 이 높은 정확도를 달 Achieve했습니다. 예를 들어, 특정 테스트에서 자기 구성 모델은 표준 모델이 동일한 결과를 내기 위해 필요했던 0.57백만 개의 파라미터 대신 단 0.17백만 개의 파라미터만을 사용했습니다.
• 속도: 모델이 더 작고 구성 요소를 재사용하기 때문에 학습과 실행 속도가 빠릅니다. 한 실험에서 "훈련 및 언롤" 전략은 깊은 모델을 한꺼번에 학습시키는 것에 비해 총 학습 시간을 25.2% 단축했습니다.

한계와 미래

본 논문은 이 방법이 무엇이고 무엇이 아닌지를 명확히 밝히고 있습니다. 이것은 **대리 모델(surrogate model)**입니다. 즉, 매번 느린 전통적 수학 솔버를 실행할 필요 없이 입력값으로부터 직접 정답을 예측하는 법을 배운 것입니다. 단 하나의 결정적인 계산을 위해 극도로 정밀한 기계적 정확도가 필요한 경우에는 전통적인 솔버를 대체할 수 없습니다. 또한 저자들은 모델이 깊어짐에 따라 오차가 크게 감소하지만, 결국 단계를 더 추가해도 큰 도움이 되지 않는 '바닥(floor)'에 도달한다는 점을 지적했습니다. 이는 모델이 패턴을 잘 학습하지만, 단일 반복 단계가 정답을 정교화하는 데에는 한계가 있음을 시사합니다.

나아가, 연구진은 이 방법을 자동차 위로 흐르는 공기를 시뮬레이션하는 'Car-CFD'(전산 유체 역학) 벤치마크에서도 테스트했습니다. 여기서 얻은 이점은 다소 완만했습니다. 자기 구성 방식은 경쟁력은 있었지만, 초음파 파동에서 보여준 것과 같은 10배의 압도적인 향상은 보여주지 못했습니다. 이는 '자기 구성' 기법이 모든 수학 문제에 적용되는 만능 열쇠라기보다는, 고주파 파동이나 복잡한 다중 스케일 물리학이 포함된 특정 유형의 문제에 가장 효과적임을 시사합니다.

이것이 왜 중요한가

이 연구는 수치 수학의 오래된 세계와 딥러닝의 새로운 세계를 잇는 가교 역할을 합니다. 반복적 솔버(단계별로 수행하는 방식)의 검증되고 신뢰할 수 있는 논리를 유연하고 학습 가능한 AI 프레임워크 안에 담아냄으로써, 저자들은 효율적이면서도 강력한 도구를 만들어냈습니다.

의료 영상 분야에서 이는 종양을 더 일찍 발견할 수 있는 더 빠르고 선명한 초음파 스캔을 의미할 수 있습니다. 엔지니어들에게는 복잡한 유체 흐름을 훨씬 짧은 시간 안에 시뮬레이션함으로써 더 조용한 비행기나 더 효율적인 엔진을 설계할 수 있음을 의미합니다. 핵심적인 교훈은, 때때로 가장 똑똑한 AI를 만드는 방법은 모델을 더 크고 복잡하게 만드는 것이 아니라, 인내심을 갖고 단순한 단계를 수행하며 그것이 제대로 될 때까지 반복하도록 가르치는 것이라는 점입니다.