수학의 세계를 거대하고 끝이 없는 도서관이라고 상상해 보십시오. 오랫동안 이 도서관에서 가장 똑똑한 AI "학생"들은 훌륭한 **솔버(Solver, 해결사)**와 같았습니다. 그들은 잘 작성된 특정 숙제를 받아서, 지시 사항을 읽고 답을 찾아내는 데 매우 뛰어났습니다. 만약 당신이 그들에게 고등학교 경시대회 수학 문제를 준다면, 그들은 종종 인간 천재보다 더 빠르게 답을 찾아낼 수 있었습니다. 그들은 완벽하게 포장된 트랙 위를 달리는 레이스카와 같았습니다. 빠르고, 정확하며, 신뢰할 수 있었습니다.

하지만 이 논문의 저자들은 우리가 벽에 부딪히고 있다고 주장합니다. 이 솔버들은 경주를 완주하는 데는 뛰어나지만, 경주 자체를 발명할 수는 없습니다. 그들은 도서관을 둘러보고, 수십 년 동안 놓여 있던 먼지 쌓인 미해결 미스터리를 찾아내어, 그것을 깨뜨릴 완전히 새로운 방법을 고안해 낼 수는 없습니다.

이 논문은 이제 더 나은 레이스카를 만드는 것을 멈추고 **리서치 에이전트(Research Agent, 연구 에이전트)**를 만들기 시작해야 할 때라고 제안합니다. 이들은 단순히 지시를 따르는 학생이 아니라, 미지의 세계를 헤매고, 길을 잃기도 하고, 기이한 아이디어를 시도하며, 어쩌면—정말로 어쩌면—새로운 무언가를 발견할 수 있는 탐험가들입니다.

현재 상태: "솔버(Solver)"의 시대

현재 AI는 알려진 도전 과제들을 압도하고 있습니다.

• MiniF2F 벤치마크: 이것은 초고난도 고등학교 수학 시험과 같습니다. 2021년에 AI는 약 30%를 맞혔습니다. 2025년 7월까지, Seed-Prover라는 시스템은 99.6%(244문제 중 243문제)를 맞혔습니다. 기본적으로 만점 수준입니다.
• IMO (국제 수학 올림피아드): 이것은 세계 최고의 고등학생들을 위한 가장 어려운 문제들입니다. 2024년에 AlphaProof라는 AI는 "은메달" 수준의 성적을 거두었습니다. 2025년 7월까지, Seed-Prover는 2025년 경시대회 문제 6개 중 5개를 해결했습니다.

이것은 엄청난 일입니다! 이는 AI가 엄격하고 기계적으로 검증 가능한 수학을 수행할 수 있음을 증명합니다. 하지만 여기에는 함정이 있습니다. 이 문제들은 모두 우주의 어딘가에 이미 답이 존재하는 문제들입니다. AI는 단지 알려진 보물을 향한 경로를 찾고 있을 뿐입니다.

문제점: "연구의 격차(Research Gap)"

논문은 실제 수학 연구가 얼마나 무질서한지를 지적합니다. 그것은 객관식 시험이 아닙니다. 그것은 마치 건초더미에서 바늘을 찾는 것과 같은데, 심지어 아직 그 바늘이 어떻게 생겼는지조차 모르는 상태와 같습니다.

저자들은 현재의 AI 시스템이 "프런티어 연구(frontier research)"에 있어서 근본적인 한계가 있다고 주장합니다.

• "재발견"의 함정: AI가 유명한 미해결 문제(예를 들어, 1,100개 이상의 까다로운 수학 수수께끼 모음인 Erdős Problems 목록에 있는 문제)를 해결했다고 주장할 때, AI는 종관적으로 이미 책에 적혀 있는 솔루션을 찾아낸 것에 불과한 경우가 많습니다. 즉, AI가 몰랐을 뿐이지 새로운 발견이 아닙니다.
• "환각(Hallucination)"의 위험: 만약 당신이 AI에게 답을 모르는 문제를 풀어보라고 한다면, AI는 그럴듯해 보이지만 실제로는 엉터리인 증명을 만들어낼 수도 있습니다. "막혔다, 새로운 아이디어가 필요하다"라고 말할 수 있는 인간과 달리, AI는 종종 자신만만하게 낭떠러지로 걸어 들어갑니다.

이 논문은 현재의 AI가 새로운 거대 정리를 발견하는 독자적인 수학자가 될 준비가 되었다는 생각을 명시적으로 배제합니다. 저자들은 DeepSeek-Prover나 AlphaProof 같은 시스템은 여전히 "솔버"일 뿐, "연구자"는 아니라고 말합니다. 그들은 인간의 도움 없이 **리만 가설(Riemann Hypothesis)**이나 나비에-스토크스 방정식(Navier-Stokes equations) 같은 진정한 미해결 난제들을 다룰 수 없습니다.

로드맵: 솔버에서 연구자로

그렇다면 어떻게 레이스카를 탐험가로 바꿀 수 있을까요? 저자들은 극복해야 할 다섯 가지 큰 장애물을 제시합니다.

1. 데이터 사막 (The Data Desert)
단 10페이지의 텍스트만 읽고 소설 쓰는 법을 배우려고 노력하는 상황을 상상해 보십시오. 그것이 형식 수학(formal math)의 문제입니다. 인터넷에는 수십억 단어의 일반 텍스트가 있지만, 형식 수학 코드(Lean이라는 시스템 기반)는 약 130만 줄밖에 되지 않습니다.

• 해결책: 우리는 AI에게 "인간의 수학"(모호하고 맥락에 의존함)을 "컴퓨터의 수학"(매우 정밀함)으로 번역하는 법을 가르쳐야 합니다. 이를 **자동 형식화(Autoformalization)**라고 합니다. 논문은 이 과정이 나아지고는 있지만 여전히 까다롭다고 제약합니다. 번역에서의 아주 작은 실수가 어려운 문제를 쉽게 보이게 하거나, 쉬운 문제를 불가능하게 만들 수 있기 때문입니다.

2. 사라진 지도 (The Missing Map)
현재의 AI는 모든 수학 문제를 별개의 섬처럼 취급합니다. 하지만 실제 수학에서는 모든 것이 연결되어 있습니다. 기하학의 증명이 대수학의 보조정리에 의존할 수도 있습니다.

• 해결책: 우리는 거대한 **지식 그래프(Knowledge Graph)**를 구축해야 합니다. 모든 정리가 하나의 노드가 되고, 그들을 연결하는 선들이 어떻게 관계되어 있는지를 보여주는 웹을 상상해 보십시오. 만약 AI가 이러한 연결 고리를 볼 수 있다면, 매번 처음부터 시작하는 대신 오래된 아이디어를 사용하여 새로운 문제를 해결할 수 있을 것입니다.

3. 검증에서 발견으로 (From Checking to Discovering)
현재 AI는 증명이 맞는지 확인하는 것(검증, Verification)에는 뛰어나지만, 증명을 처음부터 만들어내는 것(발견, Discovery)에는 서툽니다.

• 해결책: 우리는 새로운 정리를 **추측(conjecture)**하고 그것을 증명하려고 시도할 수 있는 시스템을 구축해야 합니다. AlphaEvolve와 같은 일부 실험은 자연이 종을 진화시키듯 AI가 새로운 아이디어를 "진화"시키도록 하는 방식을 시도하고 있습니다. 그러나 논문은 이것이 아직 초기 단계에 있으며, AI가 인간 천재처럼 새로운 수학적 개념(예: 새로운 종류의 수)을 스스로 발명할 수는 없다고 지적합니다.

4. 도구 상자 (The Toolbelt)
인간 수학자들은 단순히 뇌만 사용하는 것이 아니라, 계산기, 컴퓨터, 소프트웨어 등의 도구를 사용하여 힘든 작업을 수행합니다.

• 해설책: AI도 이러한 도구들을 사용하는 법을 배워야 합니다. 하지만 여기에는 주의점이 있습니다. 만약 AI가 계산기에 합계를 요청했을 때, 그 계산기가 실수하지 않았다는 것을 AI가 어떻게 알 수 있을까요? 논문은 AI가 외부 도구의 결과물에 속지 않도록, 그 도구들의 작업 내용을 검증할 수 있는 더 나은 방법이 필요하다고 제안합니다.

5. 인간과 AI의 춤 (The Human-AI Dance)
이 논문은 미래가 "AI 대 인간"이 아니라, **"AI + 인간"**이라고 주장합니다.

• 해결책: AI를 초고속 연구 조수라고 생각하십시오. AI는 초 단위로 수천 편의 논문을 읽고, 1,000개의 가능한 증명을 검토하며, 데이터를 정리할 수 있습니다. 인간은 **선장(Captain)**으로서 직관, "직감", 그리고 어떤 아이디어가 실제로 탁월한 것인지 아니면 단순한 환각인지를 판단하는 최종 판결을 제공합니다.
• 실제 사례: 2025년 말, Aristotle이라는 이름의 AI 에이전트가 Erdős 목록의 문제를 해결하는 데 도움을 주었습니다. 이 에이전트는 증명을 생성해 냈지만, 알고 보니 그 문제가 원래 문제의 약간 "약화된(weakened)" 버전임이 밝혀졌습니다. 인간 수학자들이 개입하여 원래의 문제는 여전히 미해결 상태임을 인지해야 했습니다. 이는 AI가 강력하긴 하지만, 그것을 정직하게 유지하기 위해서는 여전히 인간의 도움이 필요함을 보여줍니다.

결론

이 논문은 행동 촉구(Call to Action)입니다. 저자들은 이렇게 말합니다. "우리는 놀라운 솔버들을 만들어 냈습니다. 그들은 어떤 수학 경진대회에서도 승리할 수 있습니다. 하지만 인류 지식의 경계를 넓히기 위해서는, 우리는 리서치 에이전트를 만들어야 합니다."

이 에이전트들은 단순히 규칙을 따르는 것이 아니라, 새로운 규칙을 쓰는 것을 도울 것입니다. 하지만 논문은 분명히 말합니다. 우리는 아직 그 단계에 도달하지 못했습니다. 현재의 AI는 뛰어난 견습생이지, 마스터가 아닙니다. AI에게는 더 나은 데이터, 더 나은 지도, 더 나은 도구, 그리고 무엇보다도 어둡고 미개척된 수학의 영역을 안내해 줄 인간 파트너가 필요합니다.

"풀이(Solving)"에서 "발견(Discovering)"으로 가는 여정은 다음 번의 거대한 도약이며, 그곳에 도달하기 위해서는 팀의 노력이 필요할 것입니다.