🤖 AI

Iteris: Agentic Research Loops for Computational Mathematics

이 논문은 계산 수학의 미해결 문제들을 위해 설계된 에이전트형 AI 시스템인 Iteris를 소개하며, 이 시스템은 이후 인간 전문가에 의해 검증된 두 가지 복잡한 연구 과제에 대해 수치적 증거, 구성 및 증명 초안을 성공적으로 생성하였습니다.

원저자: Leheng Chen, Zihao Liu, Wanyi He, Bin Dong

게시일 2026-06-02

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Leheng Chen, Zihao Liu, Wanyi He, Bin Dong

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

한 팀의 연구원들이 숫자의 세계와 알고리즘의 세계에 존재하는 매우 까다롭고 미해결된 두 가지 퍼즐을 풀기 위해 고군분투하고 있다고 상상해 보십시오. 이것들은 단순한 수학 숙제가 아닙니다. 전문 수학자들이 한동안 막혀 있었던 열린 문제들입니다.

이 문제를 해결하기 위해 저자들은 Iteris라는 디지털 연구 조수를 구축했습니다. Iteris를 단일한 초지능이라기보다는, 각기 특정한 직무를 가진 전문화된 AI 에이전트들로 구성된 협업 워크숍이라고 생각하십시오.

시스템이 작동하는 방식은 다음과 같습니다.

워크숍 팀 (에이전트들)

하나의 AI가 모든 것을 동시에 처리하는 대신, Iteris는 세 가지 주요 역할이 포함된 루프로 작업을 분해합니다.

탐험가 (정찰병): 이 에이전트는 "연구의 숲"을 돌아다닙니다. 최종 결정을 내리지는 않습니다. 대신 다양한 경로를 확인하고, 오래된 기록을 읽으며, "이 길이 막다른 길인가, 아니면 흥미로운 무언가가 있는가?"라고 질문합니다. 그리고 기획자에게 빠른 보고서를 보냅니다.
기획자 (프로젝트 매니저): 이 에이전트는 큰 그림을 봅니다. 정찰병의 보고서와 프로젝트의 이력을 읽습니다. 그리고 "좋아, 다음 단계로는 특정 컴퓨터 시뮬레이션을 실행해야 해" 또는 "이 특정 부분에 대한 증명을 작성해 보자"라고 결정합니다. 그리고 할 일 목록을 만듭니다.
실행자 (전문가): 이들은 실제로 과업을 수행하는 작업자들입니다.
- 기초 에이전트: 모두가 정의(예를 들어, 모두가 "삼각형"이 무엇인지 아는 것과 같은)에 동의하는지 확인합니다.
- 실험 에이전트: 실제 세상에서 어떤 일이 일어나는지 확인하기 위해 숫자와 시뮬레이션을 실행합니다.
- 증명 에이전트: 어떤 것이 왜 참인지 증명하기 위한 논리적 근거를 작성하려고 시도합니다.
- 검토 에이전트: 품질 관리 검사관 역할을 하며, 작업이 견고한지 혹은 논리에 구멍이 있는지 확인합니다.

비법: 팀은 단순히 서로 대화하는 것이 아니라, 공유된 "디지털 노트"(파일)에 기록을 남깁니다. 이를 통해 팀이 막히거나 순환 오류에 빠질 경우, 이전에 무엇을 시도했는지 되돌아보고 실수를 반복하지 않을 수 있습니다.

해결된 두 가지 퍼즐

이 논문은 이 팀이 최근의 한 워크숍에서 다룬 두 가지 특정 문제를 어떻게 해결했는지 설명합니다.

1. 두 주자 사이의 경주 (Conjugate Gradient vs. Randomized Coordinate Descent)

문제: 두 명의 주자가 결승선(수학 방정식을 푸는 것)에 도달하려고 한다고 상상해 보십시오. 한 주자(CG)는 전체 지도를 한꺼번에 보는 마라톤 전문가입니다. 다른 한 주자(RCL)는 작고 저렴한 발걸음을 내딛지만 훨씬 더 많은 걸음을 걸어야 하는 단거리 선수입니다. 질문은 이것입니다: 어떤 조건 하에서 단거리 선수가 마라톤 선수를 이기는가?
결과: Iteris는 수천 번의 시뮬레이션을 실행하여 지형(수학적 특성)에 따라 단거리 선수가 이기는지 마라톤 선수가 이기는지를 보여주는 정확한 "지도"(위상도)를 구축했습니다.
인간의 손길: AI는 일반적인 지도를 찾아냈지만, 주자들이 얼마나 빨리 느려지는지에 관한 특정 영역에서 실수를 저질렀습니다. 인간 수학자가 이 오류를 발견했고, AI는 이를 수정했습니다.

2. 정리되지 않은 책장 (QR Factorization)

문제: 여러분에게 책장(행렬)이 있고, 선반이 안정적으로 유지되도록 가장 좋은 책(열)들을 골라내야 한다고 상상해 보십시오. QRCP라는 표준 규칙은 "가장 무거워 보이는 책을 골라라"라고 말합니다. 질문은 이것입니다: 이 규칙이 책들이 까다롭게 배치되어 있더라도 항상 안정적인 책 세트를 선택하는가?
결과: Iteris는 이 규칙이 항상 작동한다는 것을 증명하려고 시도했지만 계속 실패했습니다. 하지만 포기하는 대신, 시스템은 그 실패들을 이용해 "규칙을 깨뜨리는 트릭 책장"을 어떻게 만들 수 있는지 알아냈습니다. 즉, 규칙이 불안정한 책 세트를 선택하게 만드는 구체적이고 직관에 반하는 사례를 구축했습니다.
인간의 손길: AI는 "트릭 책장"을 만들었지만, 그 설명은 엉망이고 읽기 어려웠습니다. 인간 수학자가 AI의 어수선한 기록을 다른 사람들이 이해할 수 있는 깔끔하고 읽기 쉬운 이야기로 재구성해야 했습니다.

핵심 요약

이 논문은 AI가 실제 연구를 돕기에 충분히 발전하고 있지만, 모든 것을 자동으로 해결해 주는 마법 지팡이는 아니라고 주장합니다.

AI가 잘한 점: 다양한 아이디어를 탐색하고, 방대한 양의 실험을 실행하며, 증명의 초안을 작성했습니다. 그것은 솔루션의 "형태"를 찾아냈습니다.
인간이 한 일: 인간은 편집자이자 안전망 역할을 했습니다. 인간은 AI의 논리적 오류를 잡아내고, 엉망인 설명을 수정하며, 최종 결과물이 수학적으로 타당한지 확인했습니다.

요약하자면, Iteris는 아이디어와 초안을 생성하는 강력한 연구 파트너이지만, 여전히 인간 전문가의 검증, 수리, 그리고 다듬는 과정이 필요합니다. 이 논문은 이러한 "인간 참여형(human-in-the-loop)" 접근 방식이 현재 계산 수학의 어려운 문제들을 해결하는 가장 좋은 방법임을 보여줍니다.

기술 요약: Iteris: 계산 수학을 위한 에이전트 기반 연구 루프

1. 문제 정의

본 논문은 **계산 수학의 미해결 문제(open problems)**에 AI를 적용하는 데 따르는 과제를 다룹니다. 경쟁 문제나 단일 목적 최적화 작업과 달리, 이 영역의 연구는 수치 실험, 적대적 구성(adversarial construction), 그리고 형식적 증명 개발 사이의 복잡한 상호작용을 필요로 합니다. 현재의 AI 시스템은 이러한 서로 다른 연구 모드들을 조정하거나, 사실을 분리하고 검증하며 재구성해야 하는 장기적인 연구 궤적을 유지하는 데 어려움을 겪는 경우가 많습니다.

저자들은 제안된 시스템인 Iteris를 Simons Workshop 컬렉션 [3]의 두 가지 특정 미해결 문제에 적용했습니다:

문제 2.4: 멱함수 스펙트럼(power-law spectra)을 가진 선형 시스템에서 공액 경사법(Conjugate Gradient, CG)과 무작위 좌표 하강법(Randomized Coordinate Descent, RCD) 사이의 점근적 비교. 목표는 두 방법 사이의 정규화된 비용 비율에 대한 위상도(phase diagram)를 결정하는 것입니다.
문제 4.3: 행이 직교하는 행렬(matrix with orthonormal rows)에 대해, 열 피보팅을 사용하는 QR 분해(QRCP)가 잘 조건화된(well-conditioned) 부분 행렬을 안정적으로 선택하는지에 관한 질문(특히 낮은 코히어런스 조건하에서).

2. 방법론: Iteris 시스템

Iteris는 탐색(explore)–계획(plan)–실행(execute) 루프로 구성된 에이전트 기반 연구 시스템입니다. 이 시스템은 장기 상태 저장소이자 에이전트 간의 구조화된 메시징 역할을 하는 파일 기반 메모리 시스템을 통해 서로 다른 연구 모드들을 조정합니다.

2.1 에이전트 프로토콜

시스템의 각 반복은 세 가지 뚜렷한 단계로 진행됩니다:

탐색 (Explore): **탐색 에이전트(Exploration Agent)**는 "경량 리포지토리 수준 프로빙(light repository-level probing)"을 수행합니다. 프로젝트 파일을 읽고, 최근 반복 사항을 검사하며, 그럴듯한 경로에 대해 스크래치 추론(scratch reasoning) 초안을 작성합니다. 결정적으로, 이 에이전트는 공식적인 계획을 작성하는 것이 아니라, 시스템이 정체된 분기에 과도하게 몰입하는 것을 방지하기 위해 권장되는 작업 형태, 국소 최적점(local-minimum) 체크, 그리고 리스크 평가를 담은 권고 사항을 기록합니다.
계획 (Plan): **계획 에이전트(Plan Agent)**는 전역 프로젝트 상태(문제 정의, 로드맵, 메모리, 경로 상태)와 탐색 권고 사항을 읽습니다. 이 에이전트는 다음 반복을 위한 **작업 풀(task pool)**을 결정하며, 작업 카테고리, 목표, 입력 및 검증 요구 사항을 정의하는 구조화된 TASK_POOL.json을 출력합니다.
실행 (Execute): 특화된 **실행 에이전트(Execution Agents)**는 할당된 작업을 수신하고 특정 연구 동작을 수행하며, 구조화된 결과 파일을 프로젝트 메모리에 다시 기록합니다.

2.2 실행 에이전트

시스템은 마크다운 기반의 역량 명세에 따라 작업별 기술이 정의된 네 가지 범주의 실행 에이전트를 운용합니다:

파운데이션 에이전트 (Foundation Agent): 출처를 감사하고, 정의를 고정하며, 추측 카드(conjecture cards) 초안을 작성하고, 주장 규율(claim discipline)을 유지합니다.
실험 에이전트 (Experiment Agent): 수치 작업(테스트 하네스, 진단, 반례 탐색)을 실행합니다. 여기서 증거는 증명이 아닌 가이드로 취급됩니다.
증명 에이전트 (Proof Agent): 안정적인 명제, 특수 사례 또는 보조정리에 대한 증명 아티팩트를 구축하고 검증합니다.
리뷰 에이전트 (Review Agent): 증거, 증명 격차(proof gaps), 경로의 가치를 평가하여 연구 분기를 심화할지, 재구성할지, 혹은 폐기할지를 권고합니다.

2.3 관심사의 분리

탐색 에이전트와 계획 에이전트를 분리하는 것은 핵심적인 설계 특징입니다. 계획 에이전트가 전역적 일관성을 유지하는 동안, 탐색 에이전트는 "국소적 관성(local inertia)"(예: 점진적인 후속 작업)을 감지하기 위해 공격적인 프로빙을 수행하며, 공식적인 작업이 확정되기 전에 대안적인 방향을 제안합니다. 이를 통해 시스템은 전역적인 계획의 일관성을 유지하면서도 현재의 경로 너머를 탐색할 수 있습니다.

3. 주요 기여 및 결과

3.1 결과 I: CG vs. RCD 위상도

Iteris는 멱함수 스펙트럼( $A_n = U_n \text{diag}(1^{-p}, \dots, n^{-p})U_n^*$ )에 대한 CG와 RCD의 비교에 적용되었습니다.

정리 1: 시스템은 $n \to \infty$ 일 때의 비율 $\rho_n(\epsilon, p)$ (RCD 에포크 대비 CG 단계)의 점근적 거동에 대한 고정 매개변수 위상도를 확립했습니다.
주요 발견:
- $p > 1$ (합산 가능한 스펙트럼)의 경우: RCD는 $O(1)$ 에포크 내에 수렴하는 반면 CG는 $O(n)$ 단계가 소요되므로, $\rho_n \to 0$ 입니다.
- $p = 1$ 의 경우: $\rho_n \to 0$ 이며 로그 경계(logarithmic bound)를 가집니다.
- $0 < p < 1$ 의 경우: 거동은 꼬리 측도(tail measure) $\nu_p$ 를 포함하는 유한 차원 모멘트 문제로부터 유도된 제한적 CG 플로어(limiting CG floor) $F(p)$ 에 의해 지배됩니다.
- 만약 오차 임계값 $\epsilon < F(p)$ 라면, CG는 수렴을 위해 차수를 키워야 하는 반면 RCD는 유계(bounded) 상태를 유지하여 $\rho_n \to 0$ 이 됩니다.
- 만 만약 $\epsilon > F(p)$ 라면, CG는 $O(1)$ 단계 내에 수렴하는 반면 RCD는 양의 비율의 에포크를 필요로 하여, $\rho_n$ 이 0에서 멀리 떨어진 값으로 유계됩니다.
인간-AI 상호작作用: 시스템은 위상 구조와 "행켈 플로어(Hankel floor)" 메커니즘을 식별했습니다. 그러나 초기 증명 초안은 $p < 1$ 영역의 속도 분석에서 정당화되지 않은 더 강한 가정에 의존했습니다. 인간 전문가가 이 격차를 발견하였고, 상호작용을 통해 보수적이고 검증된 속도 경계를 제공하도록 논증이 수정되었습니다.

3.2 결과 II: QRCP 반례

Iteris는 행이 직교하고 코히어런스가 유계된 행렬에 대해 QRCP가 잘 조건화된 부분 행렬을 확실히 선택하는지를 다루었습니다.

정리 2: 시스템은 행 에너지가 균등하게 제어됨에도 불구하고 QRCP가 잘 조건화된 부분 행렬을 선택하는 데 실패할 수 있음을 보여주는 **저-코히어런스 반례 군(counterexample family)**을 구축했습니다.
주요 발견: 임의의 $H^* > 1$ (코히어런스 상한) 및 $B > 0$ 에 대하여, 직교 행을 가지며 코히어런스 $\mu(Q) < H^*$ 를 만족하는 행렬 $Q$ 가 존재하여, 선택된 부분 행렬의 조건수가 $B k^e$ 를 초과하게 됩니다.
메커니즘: 이 반례는 "삼각 역치환(triangular back-substitution)" 압력을 이용합니다. 시스템은 국소 피보팅 조건을 만족하지만 큰 역행렬 노름(inverse norm)을 생성하는 선택된 코어 블록을 설계했습니다. 이후 전역적 직교성을 회복하기 위해 피보팅 규칙에 의해 선택되지 않는 추가적인 열들을 삽입하였습니다.
인간-AI 상호작용: Iteris는 장애물을 식별하고 구성을 생성했습니다. 증명 궤적은 처음에 우회적이었으나, 인간 전문가가 논증을 읽기 쉬운 형태로 재구성하고 비형식적 정리를 Lean 4 검증과 정렬했습니다.

4. 의의 및 주장

본 논문은 에이전트 기반 AI 시스템이 계산 수학의 미해결 문제에 대한 연구 워크플로우에 의미 있게 참여할 수 있음을 주장하지만, 인간의 검증이 여전히 필수적임을 강조합니다.

벤치마크를 넘어: Iteris는 AI가 고립된 연습 문제를 푸는 수준을 넘어, 장기적인 탐색적 아티팩트와 증명 초안을 생성하며 진정한 연구에 참여할 수 있음을 입증합니다.
워크플로우 통합: 시스템은 수치 실험(행켈 플로어나 역치환 압력과 같은 구조적 특징 식별)과 형식적 증명 구축을 성공적으로 조정합니다.
인간 개입의 역할: 저자들은 Iteris가 인간의 노력을 제거하는 것이 아니라 **전환(shift)**시킨다고 명시적으로 밝힙니다.
- CG 사례에서, 시스템은 구조를 찾아냈지만 인간이 속도 분석을 수정했습니다.
- QRCP 사례에서, 시스템은 반례를 찾아냈지만 인간이 증명을 재구성하고 의미론적 일관성을 검증했습니다.
직접적인 LLM과의 비교: 고급 모델(예: GPT-Pro)에 직접 질의하는 것은 그럴듯한 휴리스틱이나 고수준의 스케치를 만들어낼 수는 있지만, 증명을 완결하지 못하며, 종종 기대되는 경계와 확률적인 경계를 혼동하거나 그럴듯한 단계를 이미 완료된 의무로 취급하는 경향이 있습니다. 반면, Iteris는 휴리스틱을 검사 가능한 증명 의무로 분해하고 리뷰 에이전트를 사용하여 정당화되지 않은 지름길을 차단합니다.

논문은 AI가 탐색 공간을 넓히고 초안 논증을 생성할 수는 있지만, 최종적인 수학적 판단, 가정의 검증, 격차 탐지 및 기술(exposition)은 여전히 중요한 인간의 책임이라고 결론짓습니다.