🤖 AI

Differentiate the Evaluator, Not the Program: An Efficient Runtime Representation for Neuro-Symbolic Learning

이 논문은 기호적 구조와 배치된 수치적 상태를 분리함으로써 실행 가능한 프로그램의 미분 과정을 효율적으로 수행하여 기존의 프로그램 및 파라미터 공동 탐색의 병목 현상을 극복하고, 신경-기호적 과학적 발견을 최대 24배까지 가속화하는 런타임 표현인 네이티브 미분 가능 가상 머신(Native Differentiable Virtual Machine, NDVM)을 소개한다.

원저자: Lucas Sheneman

게시일 2026-07-07

📖 4 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Lucas Sheneman

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

핵심 문제: "커스텀 자동차"의 병목 현상

당신이 완벽한 자동차 설계를 찾으려는 자동차 제조업체라고 상상해 보세요. 당신에게는 매일 수천 개의 새로운 자동차 설계도를 발명하는 AI가 있습니다. 어떤 것은 트럭이고, 어떤 것은 스포츠카이며, 어떤 것은 바퀴가 세 개고, 어떤 것은 문이 없습니다.

각 새로운 설계도에 대해, 그 차가 특정 트랙에서 얼마나 잘 달리는지 테스트해야 합니다. 이를 위해 보통 다음과 같은 과정을 거쳐야 합니다:

전용 공장을 딱 그 하나의 자동차 설계도만을 위해 구축합니다.
차가 얼마나 빠른지 확인하기 위해 테스트를 실행합니다.
차를 더 빠르게 만들기 위해 엔진 설정(연속적인 파라미터)을 미세하게 조정합니다.
다음 설계도는 완전히 다르기 때문에, 방금 만든 공장을 철거합니다.

이 논문은 이러한 방식이 시간 낭비라고 주장합니다. 매번 새로운 자동차를 위해 공장을 짓는 것(새로운 컴퓨터 그래프를 컴파일하는 것)이 너무 오래 걸려서, 실제로 차를 운전할 시간이 거의 없기 때문입니다. 병목 현상은 운전이 아니라 공장을 짓는 데서 발생합니다.

기존 방식 vs. 새로운 방식

기존 방식 (스테이징 - Staging):
현재의 방법들은 모든 새로운 자동차 설계도를 하나의 고유한 프로젝트로 취급합니다. 그들은 그 특정 자동차만을 위한 특수 고속 테스트 트랙을 구축하기 위해 프로세스를 중단합니다. 만약 AI가 1,000개의 서로 다른 자동차를 제안한다면, 당신은 1,000개의 서로 다른 트랙을 만들어야 합니다. 이는 운전하는 시간보다 트랙을 만드는 데 더 많은 시간을 쓰게 하므로 매우 느립니다.

기존 방식 (인터프리터 - Interpreter):
또 다른 방법은 어떤 자동차도 달릴 수 있는 범용적인 "유니버설 테스트 트랙"(인터프리터)을 사용합니다. 하지만 이 트랙은 무겁고 투박한 장비들로 만들어졌습니다. 자동차가 턱을 넘거나 코너를 돌 때마다, 트랙은 멈춰서 매뉴얼을 확인하고 스스로를 재설정해야 합니다. 너무 느려서 자동차가 거의 움직이지 못할 정도입니다.

새로운 방식 (NDVM): "프로그램이 아닌 평가자를 미분하라"
저자들은 **네이티브 미분 가상 머신(NDVM)**을 구축했습니다. 이것은 매우 효율적인 유니버셜 드라이빙 시뮬레이터라고 생각하면 됩니다.

매번 새로운 자동차를 위해 새 트랙을 만드는 대신, 그들은 어떤 자동차 설계도라도 즉시 처리할 수 있는 믿을 수 없을 정도로 빠른 단 하나의 트랙을 만들었습니다.

작동 원리: "구조와 숫자의 분리"

NDVM의 비결은 자동차의 **형태(Shape)**와 엔진의 **속도(Speed)**를 분리하는 방식에 있습니다.

구조 (설계도): 자동차의 형태(트럭인가? 바퀴가 3개인가?)는 단순하고 가벼운 데이터로 취급됩니다. 이는 마치 종이에 적힌 간단한 지시 사항과 같습니다. 시스템은 새로운 것을 구축하지 않고 이 종이를 매우 빠르게 읽습니다.
숫자 (엔진): 실제로 미세 조정해야 하는 속도, 연료, 타이어 압력 등은 "숫자"들입니다. NDVM에서 이 숫자들은 밀집된 고속 컨베이어 벨트(배치 버퍼) 안에 빽빽하게 담깁니다.

비유:
어떤 레시피(프로그램)를 주더라도 요리를 할 수 있는 요리사(평가자)를 상상해 보세요.

기존 방식: 새로운 레시피가 나올 때마다 요리사는 멈춰서, 주방을 처음부터 새로 만들고, 요리를 한 뒤, 다시 주방을 철거합니다.
NDVM: 요리사는 하나의 초고속 영구 주방을 가지고 있습니다. 새로운 레시피를 받으면, 요리사는 단순히 재료 목록(구조)을 읽고 즉시 고속 조립 라인 위에서 음식(숫자)을 만들기 시작합니다. 주방을 새로 짓는 것이 아니라, 메뉴만 바꾸는 것입니다.

왜 게임 체인저인가

이 논문은 기존 시스템에서 시간이 정확히 어디에 쓰이는지 측정했고, 충격적인 사실을 발견했습니다: 시간의 90%가 "주방"(인터프리터)을 관리하는 데 쓰였고, 실제 "요리"(수학 연산)를 하는 데는 단 1%만 쓰였다는 것입니다.

주방 관리와 요리를 분리함으로써, NDVM은 엄청난 속도 향상을 달성했습니다:

배칭 (조립 라인): NDVM은 동일한 자동차 설계도에 대해 256개의 서로 다른 엔진 설정을 동시에 테스트할 수 있습니다. "주방을 걷는 비용"을 공유하기 때문에, 설정당 비용이 약 60배 감소합니다.
속도: 테스트 결과, 복잡한 작업에서 NDVM은 기존의 투박한 시스템보다 최대 10,000배 더 빨랐습니다.
발견: AI가 최적의 과학적 모델을 찾는 테스트에서, NDVM은 기존 방식보다 24배 더 빠르게 좋은 솔루션을 찾아냈습니다. 이는 동일한 시간 내에 AI가 훨씬 더 깊은 가능성의 "숲"을 탐험할 수 있게 해주었습니다.

이것이 아닌 것 (한계점)

이 논문은 이 기술이 무엇이 아닌지도 명확히 밝히고 있습니다:

이것은 모든 컴퓨터 프로그램을 빠르게 만드는 마법의 지팡이가 아닙니다. 만약 당신이 하나의 특정 프로그램을 수백만 번 반복해서 실행해야 한다면, 기존의 "커스텀 공장 구축" 방식이 여전히 더 낫습니다.
이것은 수학의 거친 부분을 부드럽게 만드는 방법이 아닙니다. 논리는 정확하고 이산적(discrete)인 상태를 유지합니다 (자동차는 트럭이거나 세단이지, '트럭 같은 세단'이 아닙니다).
현재는 CPU 기반 시스템(표준 컴퓨터 프로세서와 같은 방식)이며, 아직 그래픽 카드(GPU) 시스템은 아닙니다. 하지만 저자들은 추후 이를 구현할 계획입니다.

결 Loook (결론)

이 논문은 미세 조정과 테스트가 필요한 컴퓨터 프로그램을 실행하는 새로운 방법을 소개합니다. 모든 새로운 프로그램을 하나의 고유한 건설 프로젝트로 취하는 대신, 프로그램을 단순한 데이터로 취급하고 이를 하나의 최적화된 엔진을 통해 실행합니다. 이를 통해 과학자들과 AI 시스템은 과거에 단 몇 개의 아이디어를 테스트하는 데 걸렸던 시간 동안 수천 개의 서로 다른 아이디어를 테스트할 수 있게 되었으며, 이는 새로운 과학적 모델의 발견을 훨씬 더 빠르게 만듭니다.

기술 요약: 프로그램이 아닌 평가기를 미분하라

1. 문제 정의

본 논문은 **프로그램-파라미터 공동 탐색(program-and-parameter co-search)**의 핵심 병목 현상을 다룹니다. 이 워크플로에서는 외부 루프(예: 진화 탐색 또는 대규모 언어 모델)가 구조적으로 구별되는 수천 개의 후보 과학 모델을 제안하고, 내부 루프는 데이터에 맞춰 이들의 연속적인 파라미터를 보정합니다.

현재의 구현 전략들은 다음과 같은 트레이드오프를 강요합니다:

스테이징(Tracing/Partial Evaluation): 각 후보 프로그램은 별도의 미분 가능한 그래프로 컴파일됩니다. 고정된 프로그램에 대해서는 빠르지만, 탐색 루프가 재컴파일 없이 후보를 변형하거나 폐기할 수 없으므로 "데이터로서의 프로그램(program-as-data)" 속성을 희생하게 됩니다.
인터프리터 기반 접근 방식: 프로그램은 런타임 데이터로 유지되지만, 기존 구현(예: PyTorch와 같은 eager 텐서 프레임워크)은 모든 런타임 값(태그, 심볼, 힙 주소, 숫자 등)을 작은 태그된 텐서로 표현합니다. 이는 텐서를 할당하고 순회하는 비용이 실제 수치 계산 비용을 압도하는 거대한 "표현세(representational tax)"를 발생시킵니다.

핵심 가설은 미분 가능한 인터프리터에서 지배적인 병목 현상은 산술 연산이 아니라 **표현 및 제어 흐름 순회(representation and control flow traversal)**라는 것입니다. 결과적으로 공동 탐색에서 파라미터 보정이 모델 생성보다 제한 요인이 됩니다.

2. 방법론: 네이티브 미분 가상 머신 (NDVM)

저자들은 심볼릭 구조와 미분 가능한 수치 상태를 분리하는 런타임 표현인 NDVM을 제로합니다. 설계 철학은 다음과 같은 슬로건으로 요약됩니다: "프로그램이 아닌 평가기를 미분하라."

핵심 설계 원칙

구조적/수치적 분리:
- 이산 구조(Discrete Structure): 태그, 심볼, 힙 주소, 클로저 및 환경은 네이티브 스칼라 값(예: 정수)으로 표현됩니다. 이들은 미분되지 않으며 텐서 저장소를 할당하지 않습니다.
- 수치 페이로드(Numeric Payloads): 오직 미분 가능한 숫자만이 밀집된 배치 버퍼(Structure-of-Arrays) 내에 존재합니다. 단일 구조적 값은 $B$ 개의 수치 페이로드를 가진 배치를 가리킬 수 있습니다.
정확한 실현된 트레이스(Exact Realized Trace): 제어 흐름을 부드럽게 만들거나 완화하지 않습니다. 평가기는 프로그램의 데이터를 실행하며, 선택된 경로의 정확한 트레이스를 기록합니다. 역방향 모드 미분은 이 실현된 트레이스 상의 수치 프리미티브에만 적용됩니다.
배치 네이티브 실행: 단일 평가기 워크(walk)는 여러 파라미터 벡터의 팝퓰레이션을 동시에 처리합니다. 구조적 워크는 공유(스칼라)되며, 수치 페이로드만이 배치 차원으로 확장됩니다.
네이티브 테이프(Native Tape): 역방향 모드 미분은 수치 연산만을 포함하는 컴팩트한 네이티브 테이프로 기록됩니다. 구조적 연산(심볼 조회, 태그 테스트, 브랜치 디스패치)은 테이프 노드를 생성하지 않습니다.

구현 세부 사항

런타임: 직접 스레딩된 평가기(direct-threaded evaluator), 적절한 꼬리 호출(tail calls), 그리고 쓰기 전용 아레나 힙(write-once arena heap)을 갖춘 네이티브 C++ 런타임으로 구현되었습니다.
미분: 외부 옵티마이저(예: Adam)가 보정을 주도할 수 있도록 PyTorch autograd.Function 경계를 사용하여 네이티브 런타임을 미분 가능한 텐서 연산으로 노출합니다.
발산 처리: 레인 마스킹(lane masking)을 통해 배치 간의 발산하는 제어 흐름을 지원하여, 특정 경로를 탄 레인에 대해서만 그래디언트가 게이팅되도록 보장합니다.

3. 주요 기여

런타임-표현 테제: 본 논문은 미분 가능한 심볼릭 계산을 위한 구조적/수치적 분리를 도입하여, 스테이징 없이 임의의 런타임 프로그램에 대해 정확한 역방향 모드 그래디언트를 가능하게 합니다.
고정된 Phase-0 비용 모델: PyTorch 백엔드 상에서 실질적인 미분 가능한 Scheme 인터프리터(DMCI)를 프로파일링함으로써, 저자들은 **전방 실행 시간의 85–90%**가 값 박싱(value boxing)과 평가기 순회에 소비되며, 원시 산술 연산은 ~1% 이하임을 입증했습니다. 이 비용은 배치 크기에 독립적입니다.
네이티브 런타임 구현: 다양한 스위트(스칼라, 재귀, 클로저, 80단계 칼만 필터)에 대해 베이스라인 백엔드와 정확한 전방 및 그래디언트 등가성을 달성하는 완전히 구현된 CPU 런타임을 제공합니다.
범용성: 이 표현 방식은 DMCI(트리 워킹 평가기)와 별도의 스택 바이트코드 VM라는 두 가지 서로 다른 클라이언트에 대해 검증되어, 이 접근 방식이 특정 인터프리터 아키텍처에 국한되지 않음을 증명합니다.
분해된 속도 향상 분석: 저자들은 표현 방식(구조적/수치적 분리)과 실행 엔진(네이티브 vs Python)으로부터 얻은 이득을 분리하여 제시합니다.
- 표현 방식 자체(eager Python 환경에서)는 4–5배의 속도 향상을 가져옵니다.
- 네이티브 실행은 프로그램 깊이에 따라 추가로 8배에서 2133배의 속도 향상을 더합니다.

4. 결과

논문은 float32 정밀도를 사용하여 단일 CPU 코어(AMD Ryzen Threadripper PRO)에서의 측정 결과를 보고합니다.

배치 아모티제이션(Batch Amortization): 파라미터 벡터의 구조적 워크를 공유함으로써, NDVM은 배치 크기를 $B=1$ 에서 $B=256$ 으로 이동할 때 레인당 보정 비용을 약 60배 감소시킵니다.
멀티코어 스케일링: 후보 평가들이 공유되는 가변 상태가 없기 때문에, 멀티코어 스케줄러는 근사 선형 스케일링(16개 코어에서 ~15배)을 달성합니다.
엔드 투 엔드 공동 탐색:
- 보정 처리량: 칼만 필터 최대 가능도 적합(maximum-likelihood fit)에서, NDVM은 베이스라인(139,000회)보다 CPU 시간당 약 8100배 더 많은 보정을 수행합니다(17회).
- 발견의 경계(Discovery Frontier): LLM이 제안한 프로그램을 사용하는 심볼릭 회귀 작업에서, NDVM은 실제 시간 기준으로 ~24배 더 빠르게 고품질 솔루션에 도달합니다.
- 재귀 집약적 작업: 깊은 반복 맵(iterated maps)의 경우, 경계 이동은 ~340배에 달하며, NDVM은 베이스라인 백엔드가 동일한 예산 내에서 도달하지 못한 성공적인 적합을 찾아냅니다.
스테이징과의 비교: 스테이징 방식(예: JAX)은 후보당 수백에서 수만 번의 그래디언트 단계가 진행된 후에야 NDVM을 앞지릅니다. 후보가 몇 단계 만에 변형되거나 폐기되는 공동 탐색 상황에서는 "스테이징 비용을 지불하지 않는(pay-nothing-to-stage)" NDVM의 특성이 우월합니다.

5. 의의 및 주장

본 논문은 효율적인 런타임 미분이 파라미터 보정 속도를 AI가 생성한 모델 제안 속도와 일치시킬 수 있다고 주장합니다.

병목의 전환: NDVM은 파라미터 보정을 공동 탐색의 병목에서 제거하여, 모델 제안 단계(예: LLM 생성)를 새로운 제한 요인으로 노출합니다.
정확성 vs 완화: 제어 흐름을 미분 가능하게 만들기 위해 제어 흐름을 완화하는 미분 가능한 인터프리터와 달리, NDVM은 정확하고 이산적인 제어를 유지하며 수치 페이로드만을 미분합니다. 이는 완화 파라미터 튜닝 없이 전체 언어의 임의의 런타임 프로그램을 지원합니다.
시스템 기반: 이 연구는 메카니즘적 구조와 정량적 파라미터화를 동시에 탐색하는 과학적 발견 워크플로우를 위한 실질적인 시스템 기반을 제공합니다.

한계 및 범위:

현재 구현은 CPU 기반이며, 전체 GPU 인터프리터는 향후 과제입니다.
사용된 언어 서브셋은 변이(쓰기 전용 힙), 예외, 동적 형상을 제외합니다.
그래디언트 정확성은 베이스라인 및 유한 차분법(finite differences)을 통해 경험적으로 검증되었습니다. 체계적인 기계 검증 증명은 향후 과제입니다.
이점은 인터프리터 순회가 산술 연산보다 지배적이고, 후보가 긴 최적화 실행 동안 재사용되지 않는 워크로드에 특화되어 있습니다.