Mathematicians in the age of AI

이 논문은 AI 가 수학 연구 수준 정리를 증명할 수 있게 됨에 따라 수학자들이 최신 기술을 파악하고 연구 방식의 변화를 고려하여 새로운 도전과 기회에 적절히 대응해야 한다고 주장합니다.

핵심

📖 핵심 내용: "수학이라는 정원에서 AI 라는 새로운 농기구가 왔다"

1. 배경: 수학에도 '스마트폰'이 들어왔다

과거에는 수학자들이 손으로만 계산을 하고, 논리를 하나하나 쌓아 올렸습니다. 하지만 최근 AI 가 등장하면서 상황이 달라졌습니다.

• 공식적 증명 (Formal Proof): AI 가 수학 논리를 컴퓨터 언어로 완벽하게 검증해 줍니다. 마치 건축가가 설계도를 컴퓨터로 100% 정확히 검토해주는 것과 같습니다.
• 비공식적 증명 (Informal Proof): AI 가 새로운 아이디어를 찾아내거나, 복잡한 패턴을 발견합니다. 마치 탐정들이 방대한 증거를 순식간에 분석해 범인을 찾아내는 것과 같습니다.

저자는 "이 기술은 아직 초기 단계지만, 수학이라는 정원을 가꾸는 방식을 완전히 바꿔놓을 것"이라고 말합니다.

2. 최근 사건: "친구와 함께 가꾸던 정원을 AI 회사가 독차지하려다?"

글에는 두 가지 흥미로운 실제 사례가 나옵니다.

• 사례 1: '수학 인 (Math Inc.)'이라는 회사의 등장
  수학자들이 2 년 동안 정성들여 'E8 격자'라는 어려운 수학 문제를 컴퓨터로 검증하는 프로젝트를 진행했습니다. 그런데 한 AI 회사가 갑자기 나타나, 엄청난 컴퓨팅 파워로 그 작업을 단숨에 끝내버렸습니다.

  • 문제점: 수학자들은 "우리가 만든 기초 위에 AI 가 완성한 것"인데, 회사가 "우리의 AI 가 다 해결했다"라고 홍보할까 봐 걱정했습니다. 마치 친구들이 함께 쌓아 올린 레고 성을 한 회사가 가져가서 "내가 혼자 만들었다"라고 주장하는 상황과 비슷합니다.
  • 결과: 다행히 회사는 수학자들의 공로를 인정하고 함께 일하기로 약속했지만, "AI 가 인간을 대체할 수 있다"는 사실이 명확해졌습니다.

• 사례 2: 수학자들이 AI 에게 시험을 내다
  수학자들이 10 개의 어려운 문제를 AI 에게 내보냈습니다. 결과는 놀라웠습니다. 구글의 AI 가 10 문제 중 6 개를 완벽하게 풀었습니다.

  • 의미: 예전에는 AI 가 수학 문제를 풀면 "틀렸어"라고 웃었지만, 이제는 AI 가 수학자보다 더 잘 풀 수 있는 시대가 왔다는 뜻입니다.

3. 걱정거리: "수학자는 이제 일자리가 없을까?"

이제 수학자들은 당황스럽습니다.

• 자부심의 상실: "우리는 어려운 문제를 해결하는 천재들인데, 이제 AI 가 그 일을 다 해버리면?"
• 교육의 위기: 학생들이 AI 로 숙제를 다 하면, 수학 교사는 무엇을 가르쳐야 할까요?
• 비유: 체스를 생각해보세요. 컴퓨터가 인간보다 훨씬 잘하지만, 여전히 프로 체스 선수가 있습니다. 하지만 학교에서 아이들에게 체스를 가르치는 건 어렵고, 체스 강사로 생계를 유지하기도 힘들어졌습니다. 수학도 이런 운명을 맞을 수 있을까요?

4. 해결책: "AI 를 적으로 삼지 말고, 최고의 조수로 삼자"

저자는 "공포에 질려 도망치지 말고, AI 를 우리 손에 넣자"라고 말합니다.

• 수학의 본질은 사라지지 않는다: AI 는 도구일 뿐입니다. 우리가 세상을 이해하고, 논리적으로 사고하며, 아이디어를 전달하는 능력은 여전히 중요합니다.
• 새로운 역할: 수학자들은 더 이상 '계산기' 역할을 할 필요가 없습니다. 대신 AI 가 풀지 못하는 더 큰 문제를 설계하거나, AI 가 찾은 해답이 맞는지 **검증하는 '감독관'**이 되어야 합니다.
• 비유: 요리사가 있습니다. 과거에는 재료를 다듬고 불을 조절하는 모든 일을 요리사가 했지만, 이제 '스마트 오븐'이 자동으로 구워줍니다. 하지만 맛있는 요리를 기획하고, 새로운 레시피를 개발하며, 음식의 맛을 평가하는 것은 여전히 요리사의 몫입니다.

💡 결론: "수학자들은 AI 와 함께 춤추자"

이 글의 핵심 메시지는 **"AI 가 수학자를 대체할 것이 아니라, 수학자가 AI 를 어떻게 활용하느냐가 중요하다"**는 것입니다.

• AI 가 계산과 증명을 대신해 준다면, 수학자들은 더 창의적이고 거대한 문제를 해결할 수 있게 됩니다.
• 우리는 학생들에게 AI 를 어떻게 올바르게 쓸지 가르쳐야 하고, 수학의 본질적인 즐거움과 통찰력을 잃지 않도록 노력해야 합니다.

"AI 가 오더라도, 우리는 수학이라는 정원에서 더 아름다운 꽃을 피울 준비가 되어 있어야 합니다."

기술 요약

논문 요약: 수학의 AI 시대 (Mathematicians in the Age of AI)

저자: Jeremy Avigad (ICARM 소장)
날짜: 2026 년 3 월 3 일
핵심 주제: 인공지능 (AI) 이 연구 수준의 수학적 정리를 증명하는 능력의 급격한 발전과 이로 인한 수학계의 구조적 변화, 그리고 수학자들이 직면한 도전과 기회.

1. 문제 제기 (Problem)

• AI 의 급격한 진보: 2022 년 초창기 ChatGPT 의 수학 능력 부족에서 불과 4 년 만에 (2026 년 기준) AI 가 국제 수학 올림피아드 (IMO) 금메달 수준을 넘어, 실제 연구 수준의 정리 (Theorem) 를 공식적 (Formal) 및 비공식적 (Informal) 으로 증명할 수 있는 수준에 도달함.
• 수학 직업의 위기: 수학자들이 가진 고유한 능력 (복잡한 논리 구성, 통찰력, 패턴 인식) 이 AI 에 의해 대체될 가능성. 이로 인해 수학 교육의 동기 부여 (즐거움) 와 산업/정부 지원 (서비스 과목 수요) 이 감소할 수 있다는 우려.
• 협력의 왜곡: AI 개발 기업들이 인간 연구자들의 오랜 노력 (블루프린트 작성, 인프라 구축) 을 무시하고 AI 만의 성과로 과시하거나 ('Drive-by proving'), 프로젝트의 완성도를 prematurely(조기에) 선언하여 인간 연구자들의 동기를 꺾는 사례 발생.

2. 방법론 및 배경 (Methodology & Background)

논문은 저자가 지휘하는 ICARM(Institute for Computer-Aided Reasoning in Mathematics) 의 활동과 최근의 구체적인 사례들을 기반으로 함. 주요 기술적 접근법은 다음과 같음:

• 형식화 및 증명 보조 도구 (Formalization & Proof Assistants): Lean, Mathlib 등을 사용하여 수학적 정리를 형식적 언어로 변환하고 검증.
• 자동 추론 (Automated Reasoning): SAT 솔버 등을 활용하여 조합론, 대수학, 정수론 등에서의 미해결 문제 해결.
• 머신러닝 및 신경망 (Machine Learning & Neural Networks):
  • 계산 데이터 내 패턴 및 관계 발견.
  • 새로운 결과 도출 및 반례 탐색.
  • 편미분방정식 (PDE) 해법 계산 및 현상 식별.
  • 하이브리드 접근법: 언어 모델 (LLM) 과 에이전트 시스템을 사용하여 비공식적 논증 작성 및 형식적 증명 생성 (Lean 등 증명기에서 검증).
• 사례 연구 (Case Studies):
  • E8 격자 최적성 증명 (Formal): Maryna Viazovska 의 8 차원 구 채우기 증명 형식화 프로젝트. AI 스타트업 'Math Inc.'가 'Gauss'라는 에이전트를 투입하여 인간 팀의 노력 없이 최종 증명을 완료한 사건.
  • 비공식적 증명 챌린지 (Informal): 11 명의 수학자가 10 개의 미발표 연구 문제를 AI 에게 제시. OpenAI 모델과 Google DeepMind 의 'Aletheia' 에이전트가 10 문제 중 6 개를 정답으로 해결 (일부는 "완벽하고 아름답다"는 평가를 받음).

3. 주요 기여 및 발견 (Key Contributions & Results)

• 기술적 성취 확인:
  • AI 가 4 년 만에 '0'에 가까운 증명 능력에서 연구 수준 증명 능력을 획득했음을 입증.
  • 인간과 AI 의 협력 (Human-AI Collaboration) 모델이 가능하지만, AI 가 인간 연구자의 기여 (스캐폴딩, 계획, 인프라 구축) 를 어떻게 인정받아야 하는지에 대한 윤리적/실무적 쟁점이 부각됨.
  • AI 가 수학 연구의 '지루한 부분 (tedium)'을 줄여주거나 방해할 수 있는 양면성 확인.
• 직업적 영향 분석:
  • 교육: 수학의 즐거움이 AI 에 의한 단순 질의응답으로 대체될 경우, 수학 전공 학생 수 감소 우려.
  • 서비스 과목: 공학, 데이터 과학 등 타 학문 분야에서 AI 를 활용한 문제 해결이 일반화되면, 전통적인 수학 강의 수요가 급감할 가능성 제기.
  • 경쟁: 체스 엔진이 인간보다 뛰어나도 체스 선수가 존재하지만, 수학 교육은 체스나 음악과 달리 '실용적 도구'로서의 가치가 주를 이루므로, AI 가 그 역할을 대체할 경우 수학계의 생존 기반이 흔들릴 수 있음.

4. 논의 및 시사점 (Significance)

• 수학의 본질적 가치 재정의:
  • AI 는 도구일 뿐이며, 수학은 AI 의 의사결정 과정을 감시, 감사, 검증할 수 있는 '정밀한 언어와 추상화'를 제공하는 핵심 수단임.
  • 수학은 AI 시대에 인간의 주체성 (Agency) 을 유지하고, AI 의 결과를 검증하며, AI 를 효과적으로 활용하는 qualitative/quantitative 도구를 제공하는 역할을 수행해야 함.
• 미래 전략 (Recommendations):
  • 저항이 아닌 수용: AI 사용을 거부하기보다, 수학자들이 주도적으로 기술을 도입하고 목적에 맞게 변형 (Molding) 해야 함.
  • 교육의 변화: 학생들에게 AI 를 적절히 활용하는 지혜와 핵심 수학적 직관 (Intuition) 을 동시에 가르쳐야 함.
  • 목표의 확장: AI 를 활용하여 Langlands 프로그램, 골드바흐 추측, P vs NP 문제 등 난제 해결을 가속화하는 방향으로 수학계를 재편해야 함.

5. 결론

이 논문은 AI 가 수학 연구의 모든 측면 (검증, 발견, 교육, 협업) 을 교란할 수 있음을 경고하지만, 동시에 수학자들이 이 변화를 두려워하기보다 적극적으로 수용하고 주도할 때 수학이 더욱 번성할 수 있음을 역설함. 수학자들은 문제 해결자이자 이론 구축자로서의 정체성을 유지하며, AI 를 활용하여 더 높은 수준의 수학적 성취를 이루어야 한다고 주장함.