💻 computer science

GPU-Accelerated Genetic Programming for Symbolic Regression with Beagle Framework

이 논문은 GPU 기반 유전 프로그래밍 프레임워크인 Beagle 이 Feynman 데이터셋에서 기존 CPU 기반 시스템 (StackGP, PySR) 보다 상징적 회귀 성능이 월등히 뛰어나다는 것을 벤치마킹을 통해 입증했습니다.

원저자: Nathan Haut, Ilya Basin, Marzieh Kianinejad, Ruchika Gupta, Elijah Smith, Zachary Perrico, Wolfgang Banzhaf

게시일 2026-03-16

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Nathan Haut, Ilya Basin, Marzieh Kianinejad, Ruchika Gupta, Elijah Smith, Zachary Perrico, Wolfgang Banzhaf

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

🚀 핵심 이야기: "수천 명의 요리사 vs 한 명의 천재 요리사"

상징적 회귀 (Symbolic Regression) 는 **"데이터를 보고 그 데이터를 설명하는 수학적 공식 (비밀 레시피) 을 찾아내는 작업"**입니다. 예를 들어, 사과가 떨어지는 속도 데이터를 보고 "중력 공식"을 찾아내는 거죠.

기존의 컴퓨터 프로그램들은 이 공식을 찾기 위해 수천 번의 시도를 반복하며, 매번 "이 공식이 맞을까? 저 공식이 맞을까?"를 검증합니다. 문제는 이 검증 과정이 너무 느리다는 점입니다.

이 논문은 **"GPU(그래픽 카드) 를 이용해 이 과정을 100 배, 1,000 배 빠르게 만든 Beagle 이라는 새로운 도구"**를 소개합니다.

🌟 주요 내용 3 가지

1. Beagle 이란 무엇인가? (수천 명의 요리사 팀)

기존의 CPU(일반 컴퓨터 두뇌) 는 한 번에 한두 가지 일만 잘합니다. 하지만 Beagle 은 **NVIDIA GPU(게임용 그래픽 카드)**를 활용합니다.

비유: 기존 방식은 한 명의 요리사가 천천히 요리를 해보는 거라면, Beagle 은 수백만 명의 요리사가 동시에 각자 다른 레시피를 만들어보고 "어떤 게 가장 맛있는지"를 한 번에 비교하는 것입니다.
결과: Beagle 은 **수백만 개의 후보 (개체)**를 한 번에 처리할 수 있어, 기존 방식보다 훨씬 넓은 영역을 빠르게 탐색합니다.

2. 두 가지 전략 (점수 비교 vs 상관관계)

Beagle 은 공식을 찾을 때 두 가지 다른 '평가 기준 (피트니스 함수)'을 사용했습니다.

전략 A (점-to-점 비교): "내 예측값이 실제 값과 100% 똑같은가?"를 하나하나 따집니다. (기존 방식)
전략 B (상관관계): "내 예측값이 실제 값과 흐름이 같은가?"를 봅니다. 숫자가 정확히 같지 않아도, "올라갈 때는 같이 오르고, 내릴 때는 같이 내리는지"를 봅니다.
발견: 놀랍게도 **전략 B(상관관계)**가 GPU 환경에서 더 뛰어난 결과를 냈습니다. 마치 "완벽한 정답을 찾기보다, 전체적인 방향을 잘 잡는 것이 더 빠르고 효과적이었다"는 뜻입니다.

3. 실험 결과 (페이먼 데이터셋)

연구진은 물리학의 유명한 '페이먼 데이터셋'(100 개의 물리 법칙을 찾는 문제) 으로 실험을 했습니다.

조건: 10 분과 30 분이라는 짧은 시간 안에 정답을 찾을 수 있는지 경쟁시켰습니다. (참고: 다른 경쟁자들은 CPU 만 사용했고, Beagle 만 GPU 를 썼습니다.)
결과:
- Beagle (상관관계 전략): 100 문제 중 82 개를 성공적으로 찾았습니다.
- Beagle (기존 전략): 66 개 성공.
- 경쟁자 (StackGP, PySR): 64~65 개 정도 성공.
- 결론: Beagle 이 압도적으로 빠르고 정확했습니다. 특히 상관관계 전략을 쓸 때 가장 강력했습니다.

💡 흥미로운 부가 발견: "허수 (NaN) 를 두려워하지 마세요"

일반적으로 수학 공식에서 '허수'나 '무한대' 같은 이상한 숫자가 나오면 프로그램을 멈추거나 그 데이터를 버립니다. 하지만 Beagle 은 그런 이상한 숫자가 나오는 위치 자체를 정보로 활용했습니다.

비유: 다른 요리사들은 "재료가 상했다"고 해서 그 요리를 통째로 버리는 반면, Beagle 은 "아, 이 재료가 상하는 위치를 알면 레시피를 더 잘 고칠 수 있겠구나!"라고 생각했습니다.
효과: 이 방식을 쓰니, 더 복잡한 문제들도 해결할 수 있게 되었습니다.

🏁 결론: 왜 이것이 중요한가?

이 연구는 **"인공지능이 복잡한 수학적 문제를 풀 때, GPU 를 잘 활용하면 기존 컴퓨터보다 훨씬 빠르고 효율적"**임을 증명했습니다.

기존: 밤새 컴퓨터를 돌려도 답이 안 나올 수 있음.
Beagle: 10~30 분 안에 답을 찾아냄.

이 기술은 과학 연구, 재료 개발, 금융 예측 등 시간이 중요하고 복잡한 문제를 해결해야 하는 모든 분야에서 혁신을 일으킬 수 있습니다. 마치 "수천 년 걸릴 일을 10 분 만에 끝내는 마법 지팡이"를 만든 것과 같습니다.

논문 요약: Beagle 프레임워크를 활용한 GPU 가속 기호 회귀

1. 문제 정의 (Problem)

기호 회귀 (Symbolic Regression, SR) 의 계산 비용: 기호 회귀는 데이터를 설명하는 수학적 식을 찾는 진화 알고리즘 (Genetic Programming, GP) 의 일종입니다. 그러나 반복적인 평가, 변이, 선택 과정을 거치기 때문에 엄청난 계산 자원이 필요합니다.
기존 CPU 기반 시스템의 한계: 전통적인 CPU 기반 GP 시스템은 대규모 개체군 (Population) 을 처리하거나 짧은 시간 내에 고품질 해를 찾는 데 한계가 있습니다. 특히 복잡한 피트니스 함수 평가나 대규모 데이터셋 처리 시 병목 현상이 발생합니다.
효율성과 접근성: 실제 응용 분야 (핵물리학, 재료과학 등) 에서는 해석 가능성 (Interpretability) 이 중요하며, 사용자는 긴 대기 시간 (수 시간~하루) 없이 1 시간 이내의 결과물을 원합니다. 따라서 제한된 시간 내에 더 많은 문제를 해결할 수 있는 고효율 시스템이 필요합니다.

2. 방법론 (Methodology)

이 연구는 Beagle이라는 새로운 오픈소스 GP 프레임워크를 소개하고, 이를 Feynman 기호 회귀 벤치마크를 사용하여 평가합니다.

Beagle 프레임워크의 핵심 아키텍처:
- GPU 가속화: NVIDIA CUDA 를 기반으로 하며, C# 과 ILGPU 라이브러리를 사용하여 저수준의 GPU 프로그래밍을 가능하게 합니다.
- 비동기 처리 및 배치 처리: CPU 는 선택 (Selection), 변이 (Mutation), 번식/사망 루프를 담당하고, GPU 는 개체군 (Population) 의 피트니스 평가 (Fitness Evaluation) 를 전담합니다.
- 대규모 개체군 지원: 메모리 할당/해제 오버헤드를 줄이기 위해 'Dead Pool' 방식을 사용하여 가비지 컬렉션을 최소화합니다. 이를 통해 수백만~수천만 개의 개체군을 처리할 수 있습니다.
- 스레드 효율성: 각 CUDA 블록을 하나의 개체 (Organism) 로, 각 스레드를 하나의 피트니스 케이스로 매핑하여 GPU 워프 (Warp) 의 스레드 분기 (Divergence) 를 최소화합니다.
- 선택 전략: 대규모 개체군에서 정렬 (Sorting) 의 병목 현상을 해결하기 위해, 전체 개체군을 정렬하는 대신 무작위 샘플 (100 개) 을 추출하여 분포의 백분위수를 추정하는 '몬테카를로 영감 선택 (Monte-Carlo-Inspired Rank Selection)' 방식을 사용합니다.
피트니스 함수 (Fitness Functions):
- 점대점 (Point-to-Point) 오차: RMSE 와 유사한 방식.
- 상관관계 기반 (Correlation-based) 피트니스: 모델 출력과 타겟 데이터 간의 상관관계 ( $r$ ) 를 기반으로 점수를 계산합니다. ( $r^4$ 를 최대화). 이는 해의 다양성을 유지하고 국소 최적해에 갇히는 것을 방지하는 데 유리합니다.
- NaN 처리: Beagle 은 훈련 데이터에 NaN(Not a Number) 이 포함된 경우 이를 제거하지 않고, 모델이 동일한 위치에서 NaN 을 생성하면 이를 '일치'로 간주하여 보상하는 독특한 방식을 채택합니다.
벤치마크 설정:
- 데이터셋: Feynman 기호 회귀 벤치마크 (100 개의 물리 방정식 문제).
- 비교 대상: StackGP (Python 기반, CPU 단일 스레드) 및 PySR (Julia 엔진 기반, Python API, 멀티스레드 CPU).
- 환경: Intel Xeon Platinum CPU 와 NVIDIA V100 GPU 사용. 시간 제약은 10 분과 30 분으로 설정.

3. 주요 기여 (Key Contributions)

Beagle 프레임워크 소개: CPU 와 GPU 를 혼용하여 대규모 개체군을 효율적으로 처리하는 새로운 오픈소스 SR 프레임워크를 개발 및 설명.
성능 벤치마킹: Feynman 벤치마크를 통해 Beagle 의 성능을 검증하고, 최신 CPU 기반 시스템 (StackGP, PySR) 과 비교.
GPU 기반 상관관계 피트니스 함수 구현: GPU 에서 상관관계 피트니스 함수를 효율적으로 실행하여 검색 효율성을 높이는 방법을 제시.
NaN 처리 전략의 효과 입증: 훈련 데이터의 NaN 위치 정보를 피트니스 함수에 반영하여 해의 정확도를 극대화하는 방법론을 제시.

4. 실험 결과 (Results)

성능 비교 (10 분 및 30 분 실행):
- Beagle (Corr): 상관관계 피트니스 함수를 사용한 Beagle 이 10 분 및 30 분 모두에서 가장 높은 성능을 보였습니다. 10 분 실행 시 100 개 문제 중 82 개를 성공적으로 해결 (Typical 기준), 30 분 시 84 개를 해결했습니다.
- Beagle (Pt-Pt): 기본 점대점 피트니스 함수를 사용한 Beagle 도 StackGP 와 PySR 보다 우세했습니다 (10 분: 66 개, 30 분: 74 개).
- StackGP 및 PySR: Beagle 에 비해 성능이 낮았습니다. StackGP 는 10 분에 65 개, PySR 은 64 개를 해결했습니다.
상관관계 피트니스의 효과: 상관관계 피트니스 함수는 개별 평가 속도가 느리지만, 전체적인 검색 효율성이 높아 최종적으로 더 많은 문제를 해결했습니다.
NaN 처리의 영향: Beagle 은 NaN 처리가 가능한 유일한 시스템이었습니다. 허수 영역을 포함하는 데이터셋에서 Beagle 은 10 번의 실행 중 모두 완벽한 해를 찾은 반면, StackGP 와 PySR 은 한 번도 완벽한 해를 찾지 못했습니다. 이는 Beagle 이 데이터의 불완전성을 활용하여 더 넓은 탐색 공간을 다룰 수 있음을 보여줍니다.

5. 의의 및 결론 (Significance)

GPU 가속의 실질적 이점: Beagle 은 제한된 시간 (10~30 분) 내에 기존 CPU 기반 시스템보다 훨씬 많은 기호 회귀 문제를 해결함으로써, GP 의 실용성을 크게 향상시켰습니다.
대규모 개체군 활용: 수백만 개의 개체군을 효율적으로 관리할 수 있는 능력은 진화 알고리즘의 다양성과 탐색 능력을 획기적으로 높여줍니다.
미래 지향성: 이 연구는 시간 제약이 엄격하고 탐색 공간이 거대한 문제들 (복잡한 물리 법칙 발견, 신약 개발 등) 에 대해 GP 를 더 매력적이고 접근 가능한 도구로 만듭니다. 또한, NaN 과 같은 비정형 데이터를 효과적으로 처리하는 능력은 기존 시스템이 놓치고 있던 정보를 활용할 수 있는 가능성을 열었습니다.

결론적으로, 이 논문은 Beagle이 GPU 아키텍처를 전략적으로 활용하여 기호 회귀 분야에서 새로운 성능 기준을 설정했음을 입증했습니다.