Reliability Diagnostics for Physics-Informed Neural Option-Pricing Models: Residual-Error Geometry, Greek Stability, and No-Arbitrage Structure

로봇에게 완벽한 초콜릿 케이크를 굽는 법을 가르치려 한다고 상상해 보세요. 금융의 세계에서 이 "케이크"는 옵션이라는 금융 계약으로, 이는 누군가에게 나중에 특정 가격으로 주식을 사고팔 수 있는 권리를 부여합니다. 이 케이크를 올바르게 굽기 위해서는 "편미분 방정식(PDE)"이라는 매우 엄격한 레시피를 따라야 합니다. 이 PDE는 돈의 물리 법칙과 같으며, 주가가 어떻게 움직이는지, 시간이 얼마나 남았는지, 그리고 시장의 변동성이 얼마나 큰지에 따라 옵션의 가격이 어떻게 변해야 하는지를 규정합니다.

오랫동안 수학자들은 이 레시피를 풀기 위해 모든 재료를 정밀한 자로 측정하는 요리사처럼, 경직된 격자 기반 도구들을 사용해 왔습니다. 하지만 최근에 새로운 종류의 로봇이 등장했습니다. 바로 물리 정보 신경망(Physics-Informed Neural Network, PINN)입니다. PINN은 단순히 레시피를 단계별로 따르는 대신, 맛을 보며 배우는 똑똑한 견습생과 같습니다. 이 로봇은 케이크를 구워보고, 그것이 물리 법칙(PDE)을 위반하는지 확인한 뒤, "맛 테스트"(오차)가 낮아질 때까지 레시피를 조정합니다. 여기서 모두가 던지는 핵심적인 질문은 이것입니다. 만약 이 로봇이 물리 법칙에 따라 케이크 맛이 완벽하다고 말한다면, 우리는 정말로 이 로봇에게 실제 돈을 맡길 수 있을까요? 이 논문은 바로 이 질문, 즉 낮은 "맛 오차"가 실제로 로봇이 신뢰할 수 있는 케이크를 구웠다는 것을 의미하는지, 아니면 아무도 눈치채지 못한 탄 밑바닥을 숨기고 있는 것뿐인지를 탐구합니다.

---

로봇 셰프와 "완벽한" 케이크

고액이 오가는 금융의 세계에서 옵션 가격을 틀리는 것은 단순한 수학적 오류가 아닙니다. 그것은 수백만 달러의 손실을 의미할 수 있습니다. 금융 공학자들은 주가 폭락에 대한 보험 비용을 결정하거나 자신의 베팅을 헤지(hedge)하기 위해 이 가격들을 사용합니다. 수년 동안 그들은 이러한 가격 문제를 풀기 위해 고전적인 수학적 방법들에 의존해 왔습니다. 하지만 시장이 점점 더 복잡해짐에 따라, 그들은 인공지능, 특히 물리 정보 신경망(PINN)이라 불리는 유형의 AI로 눈을 돌리기 시작했습니다.

PINN을 정답지를 보는 것뿐만 아니라 우주의 법칙을 따르도록 강요받으며 수학 문제를 배우는 학생이라고 생각해보세요. 금융에서 "우주의 법칙"은 무차익 원칙(no-arbitrage principles), 즉 아무런 대가 없이 무언가를 얻을 수 없다는 기본 원칙입니다. AI는 "잔차(residual)"를 최소화하도록 훈련됩니다. 잔차란 AI가 예측한 값과 물리 법칙이 일어나야 한다고 말하는 값 사이의 차이를 뜻하는 멋진 용어입니다. 만약 잔차가 0이라면, AI는 규칙을 완벽하게 따른 것입니다.

많은 이들이 전제하고 있는 가정은 간단합니다. 만약 AI의 잔차가 낮다면(즉, 규칙을 잘 따르고 있다면), 그 가격은 정확할 것이다. 이는 마치 제과 규칙에 관한 객관식 퀴즈에서 만점을 받은 학생이라면 반드시 완만한 케이크를 구울 수 있을 것이라고 가정하는 것과 같습니다.

현실 점검: 규칙이 결과와 일치하지 않을 때

밀라노 폴리테크니코 대학의 연구원 프란체스코 데무로(Francesco Demuro)는 이 가정을 테스트하기로 했습니다. 그는 가장 기본적인 유럽형 콜 옵션의 가격을 책정하는 방식인 블랙-숄즈(Black-Scholes) 모델을 사용하여 통제된 실험을 설계했습니다. 그는 AI 로봇의 두뇌(구조), 훈련 시드(무작위 시작점), 그리고 규칙과 최종 맛 중 무엇을 더 중요하게 여길지(손실 가중치)를 조정하며 60가지의 서로 다른 버전의 AI 로봇을 훈련시켰습니다.

그 후 그는 이 AI 로봇들을 두 가지 대상과 비교했습니다:

1. 골드 스탠다드(Gold Standard): 정확한 수학 공식 (즉, "완벽한 케이크").
2. 올드 스쿨 방식: 매우 정밀하지만 느리게 움직이는 자와 같은 고전적인 컴퓨터 방법인 크랭크-니콜슨(Crank-Nicolson) 방식.

여기서 이 논문이 밝혀내는 반전이 있습니다: 낮은 잔차 손실이 좋은 가격을 보장하는 것은 아닙니다.

실험 결과, "규칙 위반" 점수(잔차)를 최소화한 AI 로봇들이 실제 가격에서는 여전히 상당한 실수를 저지르는 경우가 많았습니다. 일부 로봇은 평균적으로 3.65달러(평균 절대 오차)만큼 차이가 났는데, 이는 단순히 정답지를 암기한 지도 학습 신경망(supervised neural network)의 오차가 0.19달러에 불과했던 것과 대조적입니다. 더욱 놀라운 점은, 규칙을 완벽하게 따른 AI 로봇들이 때때로 "불안정한" 가격을 만들어냈다는 것입니다.

주식 옵션 가격을 계산하는 로봇을 상상해 보세요. 주가가 아주 조금 움직이면, 옵션 가격도 아주 조금 움직여야 합니다. 하지만 이러한 AI 모델 중 일부에서는 주가가 아주 미세하게 움직였을 뿐인데 옵션 가격이 급격히 뛰거나, 심지어 올라가야 할 때 오히려 내려가기도 했습니다. 이것은 "계란을 하나 더 넣으면 케이크 크기가 절반이 될 것이다!"라고 말하는 로봇 셰프와 같습니다. 이는 돈을 보호하려는 헤지펀드 매니저에게는 재앙입니다.

새로운 진단 도구: 케이크 전체를 점검하기

그렇다면 "잔차 점수"가 충분하지 않다면, AI가 신뢰할 수 있는지 어떻게 알 수 있을까요? 데무로는 단순히 규칙만 보는 것이 아니라 전체 그림을 보는 새로운 "신뢰도 점수(Reliability Score)"를 제안합니다. 그는 품질 관리 검사관처럼 네 가지 특정 사항을 확인하도록 제안합니다:

1. 잔차(The Residual): 물리 법칙을 따랐는가? (그렇지만 그것만으로는 부족합니다).
2. 종료 조건(The Terminal Condition): 마지막 맛을 제대로 냈는가? 옵션의 수명이 끝나는 시점에 가격은 반드시 실제 페이오프(payoff)와 일치해야 합니다 (마치 케이크가 마지막에는 반드시 초콜릿 맛이어야 하는 것과 같습니다). 만약 여기서 실패한다면 나머지 모든 것이 틀린 것입니다.
3. 무차익 구조(No-Arbitrage Structure): 가격이 논리적으로 움직이는가? 예를 들어, 주가가 올라가면 옵션 가격도 반드시 올라가야 합니다. 만약 AI가 가격이 내려간다고 말한다면, 이는 돈의 기본 법칙을 위반하는 것입니다.
4. 그리스 지표의 안정성(Greek Stability): 민감도(Greeks라고 불림)가 안정적인가? 이것들은 트레이더들이 헤지를 위해 사용하는 숫자들입니다. 만약 AI의 "델타(Delta)"(주가 변화에 따른 가격 변화량)가 요동친다면, 그것은 리스크 관리에 있어서 무용지물입니다.

데무로가 이 모든 점검 항목을 하나의 "전체 신뢰도 점수"로 결합했을 때, 그는 강력한 사실을 발견했습니다. 이 새로운 점수는 잔차 점수만 볼 때보다 어떤 AI 모델이 실제로 정확한지를 훨씬 더 잘 예측했습니다. 실제로 이 새로운 점수와 실제 오차 사이의 상관관계는 그가 발견한 것 중 가장 강력했습니다.

오차의 기하학

이 논문은 또한 "잔차-오차 기하학(Residual–Error Geometry)"이라는 개념을 사용하여 왜 이런 일이 발생하는지에 대한 흥미로운 통찰을 제공합니다. AI 예측의 오차를 하나의 풍경(landscape)이라고 상상해 보세요. "잔차"는 그 풍경이 드리우는 그림자와 같습니다. 때때로 그림자는 작고 깔끔해 보이지만, 실제 풍경 자체에는 그림자가 보여주지 못하는 거대한 숨겨진 골짜기나 솟구침이 있을 수 있습니다.

논문은 이러한 금융 방정식의 경우, 잔차가 오차의 "미분 이미지(differential image)"일 뿐이라고 설명합니다. 이는 AI가 실제 가격에서 발생하는 큰 실수들을 매끄럽게 다듬어서 "그림자(잔차)"는 작아 보이게 만들 수 있지만, 실제 가격은 여전히 특정하고 위험한 지점에서 틀릴 수 있음을 의미합니다. 이는 곡선의 공식을 외웠지만 정작 곡선을 약간 잘못 그리는 학생과 같습니다. 공식은 맞지만, 그려진 곡선은 쓸모가 없는 것입니다.

헤스톤 파일럿: 더 크고 복잡한 주방

이 아이디어가 더 복잡한 세상에서도 작동하는지 확인하기 위해, 저자는 헤스톤(Heston) 모델을 사용하여 작은 "파일럿 연구"를 수행했습니다. 이 모델은 변동성(시장의 '공포')이라는 두 번째 재료가 포함된 케이크 레시피와 같습니다. 이는 수학을 훨씬 어렵게 만들며, 수학이 까다로워지는 "퇴화(degenerate)" 영역을 도입합니다.

단 두 개의 모델만을 사용한 이 파일럿 연구에서도, 새로운 진단 도구를 사용한 "개선된" 버전이 베이스라인보다 더 나은 성능을 보였습니다. 더 낮은 오차와 더 높은 신뢰도 점수를 기록했습니다. 비록 작은 테스트였지만, 이는 새로운 진단 도구가 수학이 복잡해지고 "정답"을 찾기 어려운 상황에서도 효과적임을 시사합니다.

결론: 믿되, 검증하라

이 논문의 주요 결론은 금융계에 던지는 부드럽지만 단호한 경고입니다: 뉴럴 네트워크가 규칙을 따랐다고 해서 그것을 그냥 믿지 마십시오.

통제된 환경인 블랙-숄즈 모델에서는, 정답지를 보고 학습한 지도 학습 AI가 물리 정보 AI보다 실제로 더 나은 성능을 보였습니다. 하지만 이 논문의 진짜 가치는 "AI가 나쁘다"라고 말하는 데 있는 것이 아닙니다. 만약 당신이 정답지가 없는 복잡한 문제를 해결하기 위해 AI를 사용하고자 한다면, 작업 내용을 확인할 더 나은 방법이 필요하다는 것을 말하고 있습니다.

단순히 훈련 손실이나 잔차만 봐서는 안 됩니다. 가격이 마지막에 타당한지, 무차익 원칙을 따르는지, 그리고 민감도 수치가 안정적인지를 반드시 확인해야 합니다. 논문은 우리가 이러한 AI 로봇에게 우리의 돈을 관리하게 하거나 리스크를 헤지하게 하기 전에, 이 모든 항목을 체크하는 "신뢰도 대시보드"를 구축해야 한다고 제안합니다.

결국, 이 논문은 AI가 수학적 금융을 새롭고 복잡한 영역으로 확장할 수 있게 해주지만, 그만큼 새로운 종류의 감독이 필요하다고 주장합니다. 우리는 "AI가 규칙을 따랐는가?"라는 질문에서 벗어나, "AI가 만든 케이크가 실제로 먹을 수 있는 것인가?"라는 질문으로 나아가야 합니다. 그 답은 우리가 이전에 생각했던 것보다 훨씬 더 넓은 범위의 진단 도구에 달려 있다는 것이 밝혀졌습니다.