위대한 탐정 게임: 수학과 머신러닝이 만날 때

당신은 미스터리를 풀려고 노력 중이지만, 단서의 절반밖에 가지고 있지 않다고 상상해 보세요. 과학의 세계에서 이것은 흔한 문제입니다. 과학자들은 종에 따라 물리 법칙이나 생물학적 법칙처럼 세상이 어떻게 작동하는지에 대한 확고한 이론, 즉 **기계론적 모델(mechanistic model)**이라 불리는 일련의 규칙들을 가지고 있습니다. 이것을 케이크를 만드는 레시피라고 생각해 보세요. 밀가루, 달걀, 설탕이 필요하다는 것과 그것들을 섞는 일반적인 단계들을 알고 있습니다. 하지만 때때로 레시피에 중요한 재료가 빠져 있거나, 원래의 레시피가 고려하지 못한 방식으로 오븐의 온도가 이상하게 변하기도 합니다.

방 건너편에는 딥러닝(Deep Learning)(또는 신경망)이 있습니다. 이들은 엄청난 양의 사진을 보고 특정 고양이를 본 적이 없더라도 즉각적으로 고양이를 식별해 낼 수 있는 매우 똑똑한 탐정과 같습니다. 이들은 데이터 속에서 패턴을 찾는 데 매우 뛰어나지만, 종종 "블랙박스"와 같습니다. 데이터를 입력하면 답을 내놓지만, 왜 그런 답이 나왔는지 혹은 그 밑바탕에 깔린 규칙이 무엇인지 항상 설명할 수 있는 것은 아닙니다. 이들은 학습을 위해 방대한 양의 데이터를 필요로 하며, 한 번도 본 적 없는 상황을 예측하라고 하면 그저 짐작으로 답을 만들어낼 수도 있습니다.

과학자들이 던지는 큰 질문은 이것입니다: "우리는 두 세계의 장점을 결합할 수 있을까? 우리의 신뢰할 수 있는 규칙 기반 레시피를 가져와서, 그 똑똑한 탐정들이 빠진 조각들을 채우게 할 수 있을까?" 이것이 바로 **하이브리드 신경 모델링(Hybrid Neural Modelling)**이라는 분야가 하려는 일입니다. 이는 과학이 골격을 제공하고, AI가 우리가 아직 완전히 이해하지 못한 근육과 신경을 학습하도록 하는 시스템을 구축하는 것에 관한 것입니다. 이것이 중요한 이유는 현실 세계에서 우리는 완벽한 데이터를 갖는 경우가 거의 없기 때문입니다. 바이러스를 추적하든, 날씨를 예측하든, 혹은 뇌가 어떻게 발화하는지를 연구하든, 우리는 데이터를 통해 학습할 만큼 똑똑하면서도 미래를 예측할 수 있을 만큼 근거가 확실한 모델이 필요합니다.

논문: 로봇과 함께 레시피 섞기

"하이브리드 신경 모델링: 이론과 응용(Hybrid Neural Modelling: Theory and Applications)"이라는 논문에서 토마스 가스킨(Thomas Gaskin), 아나스타시아 반코프스키(Anastasia Bankowski), 스테파니 빈켈만(Stefanie Winkelmann)은 이 새로운 종류의 과학을 설계하는 건축가 역할을 합니다. 그들은 단순히 "둘을 섞자"라고 말하는 데 그치지 않고, 이 혼합이 어떻게 그리고 언제 작동하는지, 그리고 언제 잘못될 수 있는지를 설명하기 위해 엄격한 수학적 프레임워크를 구축합니다.

"그레이 박스(Grey Boxes)"의 스펙트럼
저자들은 이 모델들을 이해하기 위한 재미있는 방법으로 "스펙트럼" 관점을 도입합니다. 슬라이딩 스케일을 상상해 보세요:

• 화이트 박스(White Box): 모든 규칙이 알려져 있고 기록된 순수 수학 모델 (예: 완벽하고 전통적인 물리 방정식).
• 블랙 박스(Black Box): 인간의 입력 없이 컴퓨터가 데이터로부터 규칙을 완전히 추측하는 순수 AI 모델.
• 그레이 박스(Grey Box, 하이브리드): 이것이 최적의 지점입니다. 알려진 규칙(화이트 박스)은 유지하되, 혼란스럽고 알 수 없는 부분들을 신경망(블랙 박스)으로 대체하는 모델입니다.

논문은 일부 사람들이 기존의 규칙을 버리고 AI가 모든 것을 하게 두어야 한다고 생각하지만, 그것은 나쁜 생각이라고 주장합니다. AI가 잘 작동하려면 엄청난 양의 데이터가 필요하며, 생물학이나 사회 과학 같은 많은 분야에서는 데이터를 그만큼 많이 가지고 있지 못합니다. 또한, 순수 AI는 블랙박스이기 때문에 신뢰하기 어렵습니다. 알려진 규칙을 유지함으로써, 우리는 모델의 해석 가능성을 유지하고 보지 못한 것을 예측할 수 있는 능력을 보존합니다.

"빠진 조각을 학습하기"의 마법
이 논문의 핵심은 AI가 우리 과학 레시피의 "빠진 재료"를 찾도록 가르치는 방법입니다.

• 설정: 전염병(바이러스가 퍼지는 방식) 모델을 가정해 봅시다. 우리는 기본적인 수학을 알고 있습니다: 사람들이 병에 걸리고, 회복하며, 어쩌지 모르지만 다시 병에 걸릴 수도 있다는 것입니다. 하지만 우리는 정확히 얼в 빠르게 병에 걸리는지, 혹은 그 속도가 날씨에 따라 변하는지는 모릅니다.
• 기술: 저자들은 신경망을 방정식에 삽로 넣어 이러한 누락된 속도를 추측하는 방법을 보여줍니다. 네트워크는 실제 데이터(예: 화요일에 몇 명의 환자가 있었는지)를 살펴보고, 수학 모델의 예측이 실제 데이터와 일치할 때까지 자신의 추측을 조정합니다.
• 결과: 시뮬레이션에서 그들은 만약 단순한 숫자(예: 일정한 속도)만을 추측하려고 한다면 AI가 빠르고 완벽하게 답을 찾아낸다는 것을 발견했습니다. 하지만 AI에게 충분한 단서 없이 복잡하고 변화하는 속도를 추측하도록 요구하면, AI는 혼란에 빠집니다. 과거 데이터에는 완벽하게 들어맞는 해결책을 찾을 수는 있지만, 미래를 예측할 때는 처참하게 실패할 수도 있습니다.

"매니폴드(Manifold)"의 미스터리
논문에서 가장 매혹적인 아이디어 중 하나는 **식별 가능성(identifiability)**에 관한 것입니다. 때로는 단 하나의 정답만 존재하는 것이 아니라, 데이터에게는 똑같이 보이는 여러 가지 서로 다른 조합의 누락된 조각들이 존재할 수 있습니다. 저자들은 이를 "매니폴드(manifold)"라고 설명하는데, 이는 모든 정답이 존재하는 고차원 공간에서의 형상입니다.

• 비유: 당신이 숨겨진 물체의 그림자를 만져서 그 모양을 추측하려고 한다고 상상해 보세요. 때로는 구(sphere)와 평평한 원반(disk)이 특정 각도에서 정확히 같은 그림자를 드리울 수 있습니다. AI는 그것이 실제로는 구인데도 원반이라고 추측하는 데 갇힐 수 있습니다.
• 해결책: 논문은 이 전체 "형상"의 지도(map)를 그리기 위해 특수한 유형의 AI 구조(예: 인코더-디코더)를 사용하는 것을 제안합니다. AI에게 단 하나의 답을 강요하는 대신, 가능한 답변들의 전체 지형을 학습하게 함으로써 불확실성에 대한 더 나은 이해를 제공합니다.

메모리와 시간
논문은 또한 메모리(기억) 문제도 다룹니다. 현실 세계에서 사물은 단지 지금 이 순간 일어나고 있는 일에만 의존하는 것이 아니라, 어제, 지난주, 혹은 지난달에 일어났던 일에도 의존합니다.

• 실험: 그들은 이를 초파리의 신경 전달(신경 세포가 서로 소통하는 방식) 모델로 테스트했습니다. 그들은 "기억"을 가진 특수한 유형의 AI인 순환 신경망(RNN)을 사용했습니다.
• 발견: AI는 신경 신호의 속도가 현재 온도뿐만 아니라 온도 변화의 이력에 의존한다는 것을 성공적으로 학습했습니다. 이를 통해 모델은 현재 순간만을 바라보는 모델보다 훨씬 더 잘 미래의 행동을 예측할 수 있었습니다.

실제 적용 사례 (시뮬레이션)
저자들은 이론에만 머물지 않고, 이것이 실제로 어떻게 작동하는지 보여주기 위해 시뮬레이션을 실행했습니다:

1. 전염병: 하이브리드 모델이 감염률이 시간에 따라 어떻게 변하는지 학습할 수 있음을 보여주었지만, 이는 모델이 너무 "자유롭지" 않을 때만 가능했습니다. 만약 AI가 방정식의 모든 부분을 바꾸도록 허용한다면, 과거를 완벽하게 암기할 수는 있어도 미래를 예측하는 데는 실패했습니다.
2. 레이저 제어: 환경이 계속 변하는(예: 공기가 뜨거워지거나 차가워지는) 레이저 시스템을 시뮬레이션했습니다. 신경망은 컨트롤러 역할을 하여, 빔을 안정적으로 유지하기 위해 레이저 설정을 지속적으로 조정했습니다. 시뮬레이션 결과, AI는 이러한 변화에 실시간으로 적응하여 복잡한 물리 시스템을 제어하는 법을 효과적으로 "학습"할 수 있었습니다.

이 논문이 부정하는 것
이 논문이 말하지 않는 바를 명시하는 것도 중요합니다. 저자들은 단순히 모든 과학 모델을 순수 AI로 교체해야 한다는 생각에 명시적으로 반대합니다. 저자들은 시뮬레이션을 통해, 훈련 데이터가 제한적인 경우 "블랙 박스" AI(규칙이 없는 AI)가 새로운 상황에 제대로 일반화되지 못하고 자주 실패한다는 것을 보여주었습니다. 또한 하이브리드 모델이 강력하긴 하지만 마법은 아니라는 점도 분명히 했습니다. 문제가 너무 복나거나 데이터가 너무 부족하면, AI는 여전히 "지역 최솟값(local minimum, 좋아 보이는 틀린 답)"에 빠지거나 실제 물리 법칙을 찾아내는 데 실패할 수 있습니다.

결론
가스킨, 반코프스키, 빈켈만은 과학적 모델링의 미래를 위한 "사용 설명서"를 제공했습니다. 그들은 우리 방정식의 미지수 부분을 신경망이 풀어야 할 퍼즐로 취급함으로써, 데이터 중심적이면서도 과학적 근거가 확실한 모델을 구축할 수 있음을 증명했습니다. 그들은 성공의 열쇠가 단순히 AI를 더 똑똑하게 만드는 것이 아니라, 우리가 풀고자 하는 문제의 "형상"을 이해하는 데 있다고 제안합니다. 만약 문제에 많은 가능한 솔루션이 있다면(매니폴드), 우리는 단 하나의 점을 찍는 것이 아니라 그 전체 형상을 그려낼 수 있는 AI가 필요합니다. 이 접근 방식은 데이터가 부족하고 이해관계가 걸려 있는 분야에서, 과거로부터 배우면서도 세상을 지배하는 규칙을 놓치지 않을 수 있는 유망한 길을 제시합니다.