Discovering mathematical concepts through a multi-agent system

이 논문은 실험, 증명 시도, 반례 탐구 등의 상호작용을 모방한 다중 에이전트 시스템을 통해 폴리헤드론 데이터와 선형대수 지식을 바탕으로 호몰로지 개념을 자율적으로 재발견하고, 이러한 국소적 과정들의 최적 조합이 수학적으로 흥미로운 개념을 효과적으로 도출할 수 있음을 입증합니다.

핵심

이 논문은 **"수학이라는 거대한 미로를 AI 가 스스로 길을 찾아 헤매게 하는 방법"**을 소개합니다.

기존의 AI 는 주로 "정답이 있는 문제를 푸는 것"에 능했습니다. 하지만 진짜 수학 연구는 정답이 정해져 있지 않고, **"어떤 질문을 던져야 할지"**부터 스스로 고민하며 새로운 개념을 만들어내는 과정입니다. 이 논문은 그 과정을 AI 가 스스로 경험하게 한 놀라운 실험입니다.

이 복잡한 내용을 일상적인 비유로 쉽게 설명해 드릴게요.

---

1. 핵심 아이디어: "호기심 있는 탐험가"와 "까다로운 심판"

이 연구는 두 명의 AI 에이전트 (가상의 캐릭터) 가 서로 경쟁하며 수학 개념을 발견하게 합니다.

• 탐험가 (Conjecturing Agent):

  • 역할: "저기 저기, 이런 규칙이 있는 것 같아!"라고 끊임없이 가설을 세우는 호기심 많은 아이입니다.
  • 행동: 데이터 (다양한 도형의 그림) 를 보며 "꼭짓점 수 - 모서리 수 + 면 수 = 2 인가?" 같은 규칙을 찾아내려 합니다.
  • 목표: 자신의 가설이 증명될 수 있는, 즉 '진짜'라고 말할 수 있는 명제를 만드는 것입니다.

• 심판 (Skeptical Agent):

  • 역할: "아니야, 그건 틀렸어. 여기엔 예외가 있어!"라고 끊임없이 반박하는 까다로운 심사위원입니다.
  • 행동: 탐험가가 만든 가설이 약하면, 더 어려운 데이터 (예: 구멍이 있는 도형) 를 보여주고 "이건 어떻게 설명할 거야?"라고 물어봅니다.
  • 목표: 탐험가가 너무 쉽게 "진짜"라고 착각하지 못하게 막는 것입니다.

🎮 게임의 규칙:
이 두 캐릭터는 서로 싸우지만, 그 과정에서 수학의 진리가 드러납니다. 탐험가는 심판의 반박을 피하기 위해 더 정교한 규칙을 찾아야 하고, 심판은 탐험가가 더 깊은 통찰을 얻도록 데이터를 바꿔줍니다. 이 과정이 반복되면서 AI 는 스스로 **'호몰로지 (Homology, 구멍의 수를 세는 개념)'**라는 복잡한 수학 개념을 발견하게 됩니다.

---

2. 배경 이야기: 오일러의 실수와 교훈

이 실험은 18 세기 수학자 오일러가 겪은 일에서 영감을 받았습니다.

• 오일러의 실수: 오일러는 모든 입체 도형에 대해 "꼭짓점 - 모서리 + 면 = 2"라는 멋진 규칙을 발견했습니다. 하지만 그는 **구멍이 있는 도형 (예: 사진 액자 모양)**을 고려하지 않았습니다. 사진 액자는 구멍이 하나 있어서 이 규칙이 깨졌습니다.
• 교훈: 수학자들은 처음에는 단순한 규칙을 발견하지만, **예외 (반례)**를 만나면 규칙을 수정하고 더 깊은 개념 (구멍의 수, 즉 '종수'나 '호몰로지') 을 만들어냅니다.

이 논문은 AI 가 오일러처럼 데이터를 보고 규칙을 만들고, 반례를 만나고, 결국 더 깊은 개념을 스스로 만들어내는 과정을 재현했습니다.

---

3. 실험 결과: AI 가 '수학자'가 되다?

연구진은 AI 에게 선형대수학 (행렬 계산) 지식만 주고, 다양한 도형 (구, 토러스, 클라인 병 등) 의 데이터를 주었습니다.

• 결과: AI 는 스스로 **"구멍의 수 (Betti 수)"**와 **"오일러 지표"**라는 두 가지 개념을 찾아냈고, 이 둘이 어떻게 연결되는지 (예: 구멍이 하나면 오일러 지표가 0 이 된다) 를 증명하는 명제를 만들어냈습니다.
• 중요한 점: AI 는 "구멍"이라는 단어를 사전에 알려주지 않았습니다. 오직 데이터 속의 패턴과 **반박 (심판의 역할)**을 통해 스스로 "아, 이 도형은 구멍이 있구나!"라고 깨달은 것입니다.

---

4. 왜 이 연구가 중요한가요? (일상적인 비유)

기존의 AI 는 레시피를 보고 요리를 하는 요리사였습니다. "감자튀김을 만들어줘"라고 하면 감자튀김을 잘 만듭니다. 하지만 새로운 요리를 발명하거나, "왜 이 재료가 어울리는지"를 스스로 탐구하는 것은 어렵습니다.

이 연구의 AI 는 요리 연구원과 같습니다.

1. 재료를 섞어보며 (데이터 분석) "이게 맛있을 것 같아!"라고 제안합니다.
2. 다른 연구원이 "아니야, 이 재료는 안 어울려"라고 반박합니다.
3. 이 과정을 반복하며, 결국 **"이 두 재료를 섞으면 새로운 풍미가 난다"**는 **새로운 요리법 (수학 개념)**을 스스로 발견합니다.

5. 결론: 수학은 '정답 찾기'가 아니라 '대화'다

이 논문이 전하는 가장 큰 메시지는 **"수학은 혼자서 정답을 찾는 것이 아니라, 질문과 반박이 오가는 대화 속에서 새로운 개념이 태어나는 과정"**이라는 것입니다.

AI 에게 단순히 문제를 풀게 하는 것이 아니라, **질문하는 사람 (탐험가)**과 **비판하는 사람 (심판)**을 만들어 서로 대화하게 했을 때, AI 는 인간이 오랫동안 고민해 온 수학적 통찰을 스스로 재발견할 수 있었습니다.

이는 앞으로 AI 가 단순히 계산기를 넘어, 진짜 새로운 아이디어를 만들어내는 연구 파트너가 될 수 있다는 희망을 보여줍니다.

기술 요약

이 논문은 **다중 에이전트 시스템 (Multi-Agent System)**을 활용하여 수학 개념을 자발적으로 발견하고 재발견하는 새로운 계산적 모델을 제안합니다. 저자들은 수학적 발견이 단순한 증명 과정이 아니라, 가설 설정 (Conjecturing), 증명 시도, 반례 탐구 (Counterexamples) 간의 역동적인 상호작용을 통해 이루어진다는 통찰에 기반하여 시스템을 설계했습니다.

주요 내용은 다음과 같습니다.

1. 문제 정의 (Problem)

• 현재 AI 의 한계: 기존의 수학 AI 는 주로 주어진 문제를 해결하거나 (Answering), 특정 목적 함수 하에서 최적화되는 객체를 생성하는 데 집중해 왔습니다. 그러나 수학 연구의 핵심인 **'자율적인 질문 제기 (Questioning)'**와 **'흥미로운 개념의 발견 (Discovery of interesting concepts)'**을 수행하는 데는 한계가 있습니다.
• 핵심 과제: AI 가 데이터와 기본 지식 (선형대수) 만을 바탕으로, 인간 수학자가 역사적으로 발견했던 복잡한 수학적 개념 (이 경우 **호몰로지 (Homology)**와 오일러 지표 (Euler Characteristic)) 를 스스로 재발견하고 그 관계를 규명할 수 있는가?
• 벤치마크: 오일러의 다면체 가설 ($V - E + F = 2$) 이 구멍이 있는 도형 (토러스 등) 에서는 성립하지 않음을 발견하고, 이를 일반화하여 **호몰로지 (Betti 수)**를 도입하는 과정을 AI 가 재현하는 것.

2. 방법론 (Methodology)

저자는 수학적 탐구 과정을 모델링하기 위해 두 개의 경쟁하는 에이전트와 **환경 (Environment)**으로 구성된 다중 에이전트 강화학습 (MARL) 시스템을 구축했습니다.

A. 시스템 구성

1. 가설 설정 에이전트 (Conjecturing Agent, CA):

   • 역할: 데이터를 분석하여 새로운 수학적 명제 (가설) 를 생성합니다.
   • 구현: 심볼릭 회귀 (Symbolic Regression) 알고리즘을 사용하여 선형대수적 변수 (행렬의 랭크, 영공간 차원 등) 와 연산자 (+, -, = 등) 를 조합하여 식을 생성합니다.
   • 목표: 데이터에 잘 맞는 (Fidelity) 동시에 복잡도가 적절한 명제를 찾아내어 '증명 가능성'을 높이는 것.

2. 회의적 에이전트 (Skeptical Agent, SA):

   • 역할: CA 가 생성한 가설을 검증하고, CA 가 지나치게 단순하거나 편향된 데이터만 보지 못하도록 **데이터 분포 (Data Distribution)**를 동적으로 조절합니다.
   • 구현: 각 데이터 포인트에 가중치 ($\lambda_i$) 를 부여합니다. CA 가 초기에 발견한 패턴 (예: 구형 다면체) 에만 의존하지 않도록, SA 는 반례 (예: 토러스, 클라인 병) 에 대한 가중치를 높여 CA 가 더 일반적인 법칙을 찾도록 유도합니다. 이는 수학사에서 반례가 개념 정립에 기여한 역사적 과정 (라카토스의 증명과 반증) 을 모방한 것입니다.

3. 환경 (MathWorld) 및 증명 가능성 (Provability):

   • 데이터: 삼각분할된 구, 토러스, 클라인 병 등의 표면 데이터를 Incidence Matrix 형태로 제공합니다.
   • 증명기 (Prover): 생성된 명제를 Lean4 형식으로 변환하여 자동 증명기 (Lean Copilot 또는 사전 작성된 선형대수 증명 스크립트) 에 전달합니다.
   • 보상 (Reward): 명제가 증명되면 CA 는 큰 보상을, SA 는 부정적 보상을 받습니다. 또한, 명제의 길이가 길거나 (복잡도) 증명되지 않았더라도 데이터 분포를 잘 조절하면 중간 보상을 받습니다.

B. 학습 알고리즘

• MADDPG (Multi-Agent Deep Deterministic Policy Gradient): 중앙 집중식 학습과 분산 실행을 통해 에이전트 간의 상호작용을 최적화합니다. CA 와 SA 는 서로의 행동을 관찰하며 정책을 업데이트합니다.

3. 주요 기여 (Key Contributions)

1. 새로운 다중 에이전트 발견 프레임워크: 가설 생성과 증명/반증의 피드백 루프를 통합하여, AI 가 스스로 '흥미로운' 수학적 개념을 발견할 수 있는 역동적인 구조를 제안했습니다.
2. 호몰로지 개념의 자발적 재발견: AI 가 오일러 지표 ($\chi = V - E + F$) 와 Betti 수 ($b_i$) 사이의 관계를 데이터와 선형대수 지식만으로 스스로 유도해냈습니다. 이는 명시적인 지시 없이도 수행되었습니다.
3. 통계적 검증 (Ablation Studies): 시스템의 각 구성 요소 (CA 만, SA 만, 증명기 제거 등) 를 제거한 실험을 통해, 전체적인 역동적 상호작용이 개념 발견에 필수적임을 통계적으로 입증했습니다.

4. 실험 결과 (Results)

• 학습 문제 1 달성: 시스템은 다양한 다면체 데이터 (구, 토러스, 클라인 병 등) 를 학습하여, 오일러 지표의 두 가지 정의 (기하학적 정의 $V-E+F$ 와 대수적 정의 $b_0 - b_1 + b_2$) 가 동등함을 증명하는 명제를 생성했습니다.
• 모델 비교 (Ablation Study):
  • 전체 시스템 (M0): 모든 에이전트와 환경이 포함된 경우, Betti 수 ($b_1$) 와 오일러 지표 ($\chi$) 를 모두 발견하고 증명하는 데 성공했습니다.
  • 가설 에이전트만 (Only CA): SA 가 없으면 데이터 탐색이 비효율적이었으며, 복잡한 개념 (호몰로지) 을 발견하지 못했습니다.
  • 증명기 제거 (M1): 증명 피드백이 없으면 단순한 패턴 매칭에 그쳤습니다.
  • 노이즈 실험: 증명 점수에 노이즈를 추가해도 전체 시스템은 여전히 성공적이었으나, 성능은 감소했습니다.
• 통계적 유의성: 전체 시스템이 부분 모델들보다 개념 발견 및 증명 성공률에서 통계적으로 유의미하게 (2$\sigma$ 이상, 최대 5$\sigma$) 높은 성능을 보였습니다.

5. 의의 및 결론 (Significance)

• 수학적 '흥미로움'의 자동화: 수학에서 '흥미로운' 개념은 단순히 데이터에 맞는 것이 아니라, 증명 시도와 반례를 통해 정제되는 과정의 결과임을 보여줍니다. 이 시스템은 이러한 국소적 과정들의 최적화 조합이 어떻게 놀랍도록 인간과 유사한 수학적 통찰을 만들어낼 수 있는지 입증했습니다.
• 자율 연구의 가능성: 인간 수학자의 연구 방식 (질문 - 증명 - 수정 - 재정의) 을 계산 모델로 구현함으로써, AI 가 단순히 문제를 푸는 것을 넘어 새로운 수학적 지식을 생성할 수 있는 가능성을 제시했습니다.
• 역사적 재현: 오일러의 다면체 가설에서 호몰로지 이론으로 이어지는 역사적 발견 과정을 AI 가 단시간 내에 재현했다는 점은, 수학적 발견의 본질이 데이터와 논리의 상호작용에 있음을 시사합니다.

요약하자면, 이 논문은 경쟁적 다중 에이전트 강화학습을 통해 AI 가 복잡한 수학적 개념 (호몰로지) 을 데이터와 기본 지식만으로 재발견할 수 있음을 보였으며, 이는 AI 기반 수학 연구의 새로운 패러다임을 제시합니다.