📊 statistics

SPINEX_ Symbolic Regression: Similarity-based Symbolic Regression with Explainable Neighbors Exploration

이 논문은 설명 가능한 이웃 탐색을 활용하여 고가치 수식을 식별함으로써 180개 이상의 벤치마크 함수에 대해 선도적인 방법들과 비교하여 경쟁력 있는 정확도와 구조적 유사성을 입증하는 새로운 유사성 기반 심볼릭 회귀 알고리즘인 SPINEX_SymbolicRegression을 소개한다.

원저자: MZ Naser, Ahmed Z Naser

게시일 2026-08-21

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: MZ Naser, Ahmed Z Naser

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

현대 과학의 광활한 풍경 속에서 데이터는 어디에나 존재합니다. 교량 위의 센서, 우주의 망원경, 그리고 실험실의 기구들은 세상이 어떻게 작동하는지를 설명하는 끝없는 숫자들의 흐름을 생성합니다. 수십 년 동안 이 데이터를 이해하기 위한 표준적인 방법은 강력한 '블랙박스'처럼 작동하는 머신러닝 모델을 사용하는 것이었습니다. 이러한 시스템은 다음에 일어날 일을 예측하는 데 매우 탁월합니다. 폭풍을 예보하거나 질병을 높은 정확도로 식별할 수 있습니다. 하지만, 이들은 왜 그러한 예측을 내렸는지에 대해서는 설명하지 못하는 경우가 많습니다. 이들은 이유 없이 결과만을 제시하며, 과학자들에게 정답은 주되 그 밑바탕에 깔린 메커니즘에 대한 이해는 남겨주지 않습니다.

여기서 심볼릭 회귀(symbolic regression)라고 알려진 다른 접근 방식이 등장합니다. 데이터를 미리 설정된 형태에 강제로 맞추는 전통적인 방식과 달리, 심볼릭 회귀는 마치 호기심 많은 탐험가처럼 행동합니다. 이 방식은 변수들 사이의 관계를 설명하는 실제 수학적 문장을 찾아 나섭니다. 단순히 숫자를 추측하는 대신, 데이터가 지배하는 공식을 발견하며 스스로 방정식을 쓰려고 시도합니다. 목표는 단지 예측하는 것이 아니라, 인간이 읽고 이해하며 검증할 수 있는 방식으로 자연의 숨겨진 법칙을 드러내는 것입니다. 이러한 투명하고 설명 가능한 모델을 만들어내는 능력은 물리나 공학 같은 분야에서 매우 중요한데, 그곳에서는 '무엇'을 아는 것만큼이나 '왜'를 아는 것이 중요하기 때문입니다.

이러한 명확성에 대한 필요성을 바탕으로, 연구진은 SPINEX_SymbolicRegression이라는 새로운 알고리즘을 개발했습니다. 이 도구는 '유사성(similarity)'이라는 개념을 사용하여 이러한 수학적 문장을 더 효과적으로 찾도록 설계되었습니다. 알고리즘이 거대한 숲에서 특정 종류의 나무를 찾는다고 상상해 보십시오. 알고리즘은 모든 나무를 하나하나 개별적으로 살펴보는 대신, 나무들을 서로 비교합니다. "이 새로운 나무가 이미 잘 자라고 있는 나무들과 닮았는가?"라고 묻는 것입니다. 유망한 후보들과 구조적으로 유사한 표현들에 집중함으로써, 알고리즘은 더욱 지능적으로 탐색 공간을 항해할 수 있습니다. 이 알고리즘은 단순히 숫자에 가장 잘 맞는 답을 찾는 것이 아니라, 지금까지 발견한 가장 성공적인 모델들과 동일한 구성 요소(예: 동일한 변수와 연산)를 공유하는 답을 찾습니다.

연구진은 이 새로운 방법을 182개의 다양한 수학적 문제 모음과 함께 테스트했습니다. 이 문제들은 무작위로 생성된 단순한 방정식부터 운동 법칙이나 열역학 같은 실제 물리적 현상에서 유도된 복잡한 공식까지 다양했습니다. 연구진은 이 새로운 알고리즘을 해당 분야의 선도적인 도구인 PySR과 맞붙였으며, 어떤 것이 올바른 수학적 표현을 더 자주 찾아내는지 확인하기 위해 수천 번의 시뮬레이션을 수행했습니다. 결과는 특정 영역에서 새로운 접근 방식의 뚜렷한 우위를 보여주었습니다. 기존의 도구가 때때로 가공되지 않은 예측 측면에서 약간 더 정확한 답을 찾기도 했지만, 새로운 알고리즘은 '올바른 재료'를 찾는 데 훨씬 더 뛰어났습니다. 새로운 알고리즘은 시스템을 설명하는 데 필요한 정확한 변수 집합과 수학적 연산을 식별하는 데 훨씬 더 유능했습니다. 많은 경우, 연구진이 사용 가능한 모든 변수를 사용하도록 요구했을 때, 이 새로운 방법은 진정한 방정식의 구조를 정확히 찾아내며 완벽한 일치를 달성하는 빈도가 경쟁 모델보다 훨씬 높았습니다.

이 연구의 핵심 특징은 설명 가능성에 대한 집중입니다. 연구진은 단순히 작동하는 블랙박스를 원하는 것이 아니라, 알고리즘이 어떻게 사고하는지를 보고 싶어 했습니다. 그들은 사용자가 알고리즘이 솔루션을 어떻게 진화시켰는지, 어떤 변수를 중요하게 고려했는지, 그리고 최선의 추측치가 실제 밑바탕에 깔린 법칙과 얼마나 유사한지를 정확히 볼 수 있게 해주는 도구들을 포함했습니다. 한 가지 시연에서, 알고리즘은 단순한 곡선을 위한 공식을 찾도록 요청받았습니다. 알고리즘은 대상과 밀접하게 일치하는 식을 성공적으로 진화시켰으며, 시스템은 왜 특정 부분의 공식이 다른 부분보다 더 잘 작동했는지에 대한 상세한 분석을 제공했습니다. 이러한 수준의 투명성은 과학자들이 모델이 잘 예측하기 때문만이 아니라, 그 뒤에 숨겨진 논리를 볼 수 있기 때문에 모델을 신뢰할 수 있게 해줍니다.

본 연구는 이러한 유사성 기반의 접근 방식이 수학적 관계를 밝혀내는 강력한 새로운 방법을 제공한다고 결론짓습니다. 정확성과 구조적 유사성 사이의 균형을 맞춤으로써, 알고리즘은 정밀하면서도 이해 가능한 모델을 일관되게 생성했습니다. 연구진은 이 방법이 매우 효과적이긴 하지만 상당한 컴퓨팅 파워를 요구하며, 이러한 유사성을 계산하는 속도를 개선할 여지가 여전히 남아 있다고 언급했습니다. 그러나 이번 연구 결과는 유사성의 원칙을 통해 탐색을 유도함으로써, 과학자들이 정확할 뿐만 아니라 물리 세계의 근본 원칙과 일치하는 모델을 생성할 수 있음을 시사합니다. 이는 머신러닝 분야가 컴퓨터가 미래를 예측할 수 있을 뿐만 아니라 그것을 지배하는 규칙을 설명할 수 있는 미래로 한 걸음 더 다가서게 합니다.

기술 요약: SPINEX_SymbolicRegression

문제 정의
기호 회귀(Symbolic Regression, SR)는 데이터에 가장 잘 부합하는 수식의 수학적 형태와 파라미터를 자율적으로 발견하는 것을 목표로 하며, 이는 심층 신경망과 같은 "블랙박스" 머신러닝 모델에 대한 투명한 대안을 제공한다. 유전 프로그래밍(Genetic Programming, GP)과 같은 전통적인 SR 방식은 잠재적 수식의 탐색 공간을 탐색하기 위해 진화 알고리즘을 활용하지만, 정확도, 구조적 복잡성, 그리고 해석 가능성 사이의 균형을 맞추는 데 어려움을 겪는 경우가 많다. 또한, 기존의 접근 방식들은 의미 있고 일반화 가능한 모델을 향해 탐색을 유도하거나, 발견된 식이 알려진 물리 법칙 또는 도메인 특화 제약 조건과 일치하도록 보장하기 위해 '유사성(similarity)'의 개념을 충분히 활용하지 못할 수 있다. 본 연구는 견고함과 모델 충실도를 높이기 위해 유사성 기반 탐색과 설명 가능한 이웃 탐색을 효과적으로 통합하는 SR 알고리즘의 필요성을 다룬다.

방법론
본 논문은 SPINEX(Similarity-based Predictions with Explainable Neighbors Exploration) 프레임워크를 확장한 새로운 알고리즘인 SPINEX_SymbolicRegression을 소개한다. 이 방법론은 유전 프로그래밍과 유사성 기반 접근 방식을 결려 고가치(high-merit) 수식을 식별한다. 주요 기술적 구성 요소는 다음과 같다:

유사성 및 다양성 관리: 알고즘은 수식 간의 구조적 유사성을 정량화하기 위해 트리 편집 거리(tree edit distance) 메트릭을 활용한다. 또한, 인구 다양성을 유지하고 조기 수렴을 방지하기 위해 similarity_threshold를 사용한다. dynamic_similarity_threshold 메커니즘은 인구 다양성 수준에 따라 진화 과정 중 이 임계값을 조정한다.
설명 가능한 이웃 탐색(Explainable Neighbors Exploration): 알고리즘은 후보 수식의 "이웃"을 추적하여 국소 최적해(local optima)를 분석한다. 이는 진화된 항(term)들에 대한 상세한 내역을 제공하며, 여기에는 적합도 점수, 평균 제곱 오차(MSE) 기여도, 상관 계수, 그리고 타겟 함수에 대한 코사인 및 유클리드 유사도 측도가 포함된다.
변수 및 연산자 선택: 시스템은 통계적 척도(상관관계 및 상호 정보량)를 사용하여 변수의 관련성을 평가함으로써 포함 전략(guided 또는 probabilistic)을 안내한다. 또한 모든 입력 피처가 표현되도록 보장하는 force_all_variables 옵션을 지원하는데, 이는 특정 변수가 이론적으로 필수적인 도메인에서 매우 중요하다.
사용자 가이드 및 제약 조건: 사용자는 도메인 지식(user_expression)을 초기 인구 집단에 직접 주입하거나 제약 조건으로 사용하여, 진화 과정을 확립된 이론적 틀으로 유도할 수 있다.
적응형 진화 메커니즘: 알고리즘은 동적 엘리트 선택(dynamic_elite), 과적합을 방지하기 위한 적응형 복잡도 페널티, 그리고 수치적 안정성을 보장하기 위한 견고한 수학적 연산 처리(예: 안전한 나눗셈, 안전한 로그) 기능을 갖추고 있다.
벤치마킹 프로토콜: 알고-리즘은 Feynman (Easy, Medium, Hard), Keijzer, Korns, Livermore, Nguyen, R rationals의 6개 문제 세트에 걸친 182개의 수학적 벤치마킹 함수를 대상으로 평가되었다. 성능은 결정 계수( $R^2$ ), 정확한 변수 집합 일치(VM), 정확한 연산자 집합 일치(OP) 지표를 사용하여 PySR과 비교되었다.

주요 기여

알고리즘 혁신: 유사성 기반 탐색 네비게이션과 설명 가능한 이웃 분석을 독특하게 통합하여 구조적으로 정확한 모델 발견을 강화한 SPINEX_SymbolicRegression을 제안하였다.
포괄적인 벤치마킹: 무작위 생성된 수식부터 실제 물리 현상(예: Feynman 강의)에서 유도된 방정식에 이르기까지 182개의 다양한 함수에 대해 광범 Expansive한 테스트를 수행하였다.
설명 가능성 프레임워크: 최종 수식만을 출력하는 것이 아니라, 진화 과정, 변수 중요도, 그리고 탐색 공간 내 이웃 수식의 성능에 대한 세밀한 통찰력을 제공하는 메커니즘을 개발하였다.
성능 검증: 특정 구성, 특히 구조적 충실도(변수 및 연산자 매칭) 측면에서 선도적인 알고리즘(특히 PySR)의 성능과 대등하거나 이를 능가함을 입증하였다.

결과
벤치마킹 결과는 SPINEX_SymbolicRegression이 테스트된 문제 세트 전반에서 경쟁력 있는 성능을 보임을 나타낸다:

정확도 ( $R^2$ ): 순수 예측 정확도( $R^2$ ) 측면에서는 PySR이 대부분의 문제 사례에서 일반적으로 앞섰으나, SPINEX는 두 가지 특정 사례에서 이를 능가하였다.
구조적 충실도: SPINEX는 정확한 변수 집합 일치(VM) 및 **정확한 연산자 집합 일치(OP)**에서 상당한 우위를 보였다. force_all_variables=True로 설정했을 때, SPINEX는 여러 구성에서 최대 100%의 정확한 변수 매칭을 달성하며 PySR을 크게 앞질렀다. 이는 SPINEX가 기저 방정식의 올바른 구조적 구성 요소를 복구하는 데 특히 효과적임을 시사한다.
구성의 영향: 성능은 일반적으로 더 큰 인구 규모(100 vs 50)와 증가된 세대 수(1000 vs 100)와 함께 개선되었다. 모든 변수를 포함하는 것(force_all_variables=True)이 유도된 수식의 구조적 정확도를 눈에 띄게 향상시켰다.
사례 연구: 이차 함수( $y=2X^2+3X+5$ ) 테스트에서, 알고리즘은 적합도 0.9197을 가진 국소 최적해( $X^2 + 10X$ )를 성공적으로 식별하였으며, 이는 이웃들보다 우수한 성능을 보였으나, 정확한 계수를 포착하기 위해서는 추가적인 정교화가 필요할 수 있음을 논문은 언급하였다.

의의 및 주장
저자들은 SPINEX_SymbolicRegression이 유사성의 개념을 추진력으로 활용함으로써 기호 회귀를 위한 강력한 대안을 제공한다고 주장한다. 본 논문은 유사성 측도를 활용하는 것이 알고리즘이 탐색 공간을 더 효과적으로 항해하고, 관련 패턴을 식별하며, 구조적 제약 조건을 준수하는 의미 있는 모델을 생성하도록 보장할 수 있다고 상정한다.

본 연구의 의의는 명시적이고 투명하며 구조적으로 정확한 데이터의 수학적 기술을 생성할 수 있는 능력에 있다. 예측 정확도와 함께 구조적 유사성(변수 및 연산자 매칭)을 우선시함으로써, 이 알고리즘은 과학 및 공학 분야에서 높아지는 해석 가능성에 대한 요구를 해결한다. 저자들은 이러한 접근 방식이 근본적인 법칙을 재발견하고, 이론적 모델을 검증하며, 생성된 모델이 확립된 과학적 원리와 일치하도록 보장하는 데 특히 가치 있다고 강조한다. 비록 논문에서 계산 집약적인 측면과 유사성 메트릭 계산의 최적화 필요성을 인정하고 있으나, 제안된 방법이 일관되게 경쟁력 있는 성능을 제공하며, 특정 구조적 맥락에서는 기존의 선도적인 알고리즘들을 능가한다고 단언한다.

유사한 논문