기술 요약: 계산 및 실험 수학을 위한 SageMath 증강 LLM 에이전트 평가

문제 정의

최근 AI의 수학적 발전은 주로 자동 형식화(자연어를 Lean이나 Coq와 같은 형식 언어로 번역하는 것)와 자동 정리 증명에 집중되어 왔습니다. 이러한 접근 방식들은 경진대회에서 금메달 수준의 성과를 거두고 특정 미해결 난제들을 해결하기도 했으나, 더 넓은 범위의 수학 연구 워크플로우에서 **컴퓨터 대수 시스템(CAS)**이 수행하는 역할은 간과하고 있습니다.

조합론적 가환 대수학, 그래프 이론, 유한 군론과 같은 계산 및 실험 수학 분야에서 연구자들은 가설을 탐색하고, 후보를 검증하며, 반례를 찾기 위해 SageMath와 같은 CAS 도구를 일상적으로 사용합니다. 그러나 이러한 심볼릭 엔진을 에이전트형 대규모 언어 모델(LLM) 워크플로우에 통합하는 연구는 아직 미개척 영역으로 남아 있습니다. 본 연구의 핵심 질문은 다음과 같습니다: 검증 가능한 심볼릭 피드백이 연구 수준의 수학 문제에 대한 프런티어 LLM의 성능을 어느 정도 향상시키며, 에이전트 설정에서 모델의 행동을 어떻게 변화시키는가?

방법론

실험 설정

저자들은 LLM이 두 가지 도구와 반복적으로 상호작용하는 ReAct 스타일의 에이전트 설정을 제안합니다:

1. SageMath: GAP, Singular, PARI/GP와 같은 시스템에 대한 통합된 Python 인터페이스를 제공하는 오픈 소스 CAS입니다. 에이전트는 코드를 생성하고, 격리된 샌드박스에서 이를 실행하며, 검증 가능한 출력을 받습니다.
2. Context7: API 시그니처나 모듈 경로에 대한 환각 현상을 완화하기 위해 최신 문서와 코드 예제를 제공하는 도구입니다.

본 연구는 133개의 연구 수준 문제(RealMath 벤치마크에서 추출)로 구성된 정제된 데이터셋을 바탕으로 15개의 프런티어 모델(GPT-5.5, Claude Opus 4.7/4.8, Qwen 3.7-Max, DeepSeek 변형 모델 등 포함)을 평가합니다. 이 데이터셋은 SageMath에 적합하도록 알고리즘적으로 검증 가능한 해답(수치 또는 심볼릭 표현식)을 가진 문제들만 포함하도록 정제되었습니다.

평가 프로토콜

평가는 각 모델에 대해 두 가지 조건을 비교합니다:

1. 도구 미사용 베이스라인(Tool-Free Baseline): 외부 도구 없이 직접 추론합니다.
2. 도구 증강 에이전트 설정(Tool-Augmented Agentic Setting): SageMath와 Context7에 접근할 수 있는 반복적 추론을 수행합니다 (문제당 도구 호출 횟수는 15회로 제한).

검증 파이프라인:
심볼릭 등가성을 처리하기 위해 하이브리드 검증 파이프라인이 사용됩니다:

• 심볼릭 검증기(Symbolic Validator): SymPy를 사용하여 모델의 출력을 정답과 비교합니다. 차이가 0으로 단순화되면 정답으로 인정합니다.
• LLM-as-a-Judge: 심볼릭 검증기에 의해 거부된 사례는 구조적으로는 다르지만 수학적으로 동일한 표현식을 포착하기 위해 세 개의 프런티어 모델(Claude Opus 4.7, GPT-5.5, Gemini 3.5 Flash)을 통한 다수결 투표 방식으로 재평가됩니다.

주요 기여

1. 도구 사용 에이전트 평가: CAS 접근이 연구 수준의 문제 해결 능력을 유의미하게 향상시킨다는 것을 보여주는 경험적 연구입니다. 본 연구는 통제된 절제 실험(ablation)을 통해 검증 가능한 심볼릭 피드백의 효과를 분리하여 입증했습니다.
2. 벤치마크 정제: RealMath 벤치마크를 정제하여, 실행 가능한 심볼릭 검증을 위한 다단계 후처리 파이프라인과 실행 가능한 문제 필터링 과정을 도입했습니다.
3. 오류 및 행동 분석: 실행 실패, 복구 역학, 도구 호출 트레이스를 정밀하게 분석하여, 효과적인 에이전트와 그렇지 못한 에이전트 사이의 뚜렷한 행동 패턴을 밝혀냈습니다.

결과

성능 향상

• 전반적 개선: 도구 접근은 평가된 모든 모델의 해결률을 높였으며, 평균 **+9.7 퍼센트 포인트(pp)**의 상승을 기록했습니다.
• 상승 폭의 범위: 상승 폭은 Kimi K2.7의 +1.5 pp부터 Qwen 3.7-Max의 +27.8 pp(42.1%에서 69.9%로 상승)까지 모델마다 크게 달랐습니다.
• 오픈 모델 vs 폐쇄형 모델: 오픈 웨이트 모델은 베이스라인 자체가 약했기 때문에 평균적으로 더 높은 상승폭(+15.3 pp)을 보였으나, 폐쇄형 프런티어 모델(+6.5 pp)에 비해 상대적으로 더 큰 폭으로 향상되었습니다. 그러나 CAS 접근은 오픈 모델과 폐쇄형 모델 간의 성능 격차를 좁혔습니다.
• 최고 성능 모델: GPT-5.5는 도구 사용 설정에서 가장 낮은 토큰 사용량과 함께 **75.2%**라는 가장 높은 해결률을 달이트했습니다. Opus 4.8이 73.7%로 그 뒤를 이었습니다.

효율성 및 토큰 사용량

• 토큰 비효율성: 높은 토큰 소비가 반드시 높은 정확도로 이어지지는 않았습니다. 도구 사용 설정에서의 문제당 토큰 사용량은 약 34k에서 556k 사이였습니다.
• 효율성 역전: 도구 미사용 설정에서 모든 모델이 해결 가능한 문제들에 대해서는 오픈 웨이트 모델이 가장 토큰 효율적이었습니다. 그러나 도구가 있어야만 해결 가능한 문제의 경우, **폐쇄형 모델(GPT-5.5, Opus 4.7/4.8)**이 가장 효율적이었던 반면, 오픈 웨이트 모델은 최하위 순위를 기록했습니다.

행동 패턴

• 양봉형(Bimodal) 트레이스 길이: 에이전트 실행 길이는 뚜렷한 양봉 분포를 보입니다. 강력한 모델(Opus 4.7, GPT-5.5)은 주로 검증을 위해 도구를 사용하며 보통 첫 3~4회의 도구 상호작용 내에 문제를 해결합니다. 반면 약한 모델들은 솔루션을 찾기 위해 계산을 반복하며 15회의 호출 한도를 모두 소진하는 경우가 많았습니다.
• 복구 역학: 실패한 도구 호출로부터의 복구 능력은 단순 실패율보다 더 큰 차이를 보였습니다. 강력한 모델은 실패로부터 69~77%의 확률로 복구한 반면, 약한 모델(예: Sonnet 5)은 복구율이 16%에 불과했습니다.
• 오류 유형: 지배적인 실패 모드는 TypeError(786건)였으며, 이는 구문 오류보다는 Sage의 객체 시스템을 잘못 다룬 결과였습니다. NameError는 인터프리터 상태를 호출 간에 유지하지 못한 모델들에서 공통적으로 나타났습니다.

도메인별 발견 사항

• 조합론(Combinatorics): SageMath의 성숙한 지원 덕분에 가장 큰 평균 상승폭(+18.7 pp)을 보였습니다.
• 군론(Group Theory): 가장 어려운 카테고리로 남았습니다. 일부 상승은 관찰되었으나 어떤 모델도 44%의 해결률을 넘지 못했으며, 특정 모델(예: GPT-5.5)의 경우 도구 접근이 오히려 점수를 낮추기도 했습니다.
• 답변 유형: 모델들은 심볼릭 표현식보다 수치 문제에서 전반적으로 더 좋은 성능을 보였습니다. 도구 접근은 심볼릭 조작에 취약한 모델들(예: Qwen은 표현식에서 +36 pp 상승)의 격차를 유의미하게 줄였습니다.

의의 및 주장

저자들은 CAS 증강 에이전트가 수학자의 계산적 탐색을 돕는 유망한 방향이라고 주장합니다. 본 연구는 다음을 입증합니다:

1. 검증 가능한 피드백의 중요성: CAS에 대한 접근은 에이전트가 반복적인 실험을 통해 추론을 정교화할 수 있게 하며, 이는 계산 수학 연구 루프를 효과적으로 모사합니다.
2. 추측 발견(Conjecture Discovery): 트위스티드 토러스 매듭(twisted torus knot) 문제에 대한 사례 연구는 에이전트가 중간 객체 계산, 패턴 식별, 추측 형성, 파라미터에 따른 검증 등 수학자의 워크플로우 핵심 요소를 재현할 수 있음을 보여줍니다.
3. 자동화를 향한 단계: 본 연구는 자동 추측 발견을 향한 단계로 제시되며, 실행 가능한 심볼릭 계산이 순수 정리 증명을 넘어 프런티어 모델의 실질적인 추론 능력을 크게 확장할 수 있음을 시사합니다.

결론적으로, 현재의 시스템은 깊은 이론적 통찰이나 특화된 현대적 지식을 요구하는 문제에는 한계가 있으나, 관찰된 성능 향상은 LLM을 심볼릭 엔진과 결합하는 것이 실험 수학을 발전시키는 실행 가능한 경로임을 보여줍니다.