🤖 AI

Socratic-Geo: Synthetic Data Generation and Geometric Reasoning via Multi-Agent Interaction

Socratic-Geo는 고품질 기하학적 추론 데이터의 부족을 극복하기 위해 합성 데이터 생성과 모델 학습을 동적으로 결합하는 완전 자율형 멀티 에이전트 프레임워크로서, 기존 베이스라인보다 현저히 적은 자원을 사용하면서도 추론과 이미지 생성 모두에서 최첨단 성능을 달성합니다.

원저자: Zhengbo Jiao, Shaobo Wang, Zifan Zhang, Wei Wang, Bing Zhao, Hu Wei, Linfeng Zhang

게시일 2026-02-04

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Zhengbo Jiao, Shaobo Wang, Zifan Zhang, Wei Wang, Bing Zhao, Hu Wei, Linfeng Zhang

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

학생에게 복잡한 기하학 문제를 푸는 법을 가르치려 한다고 상상해 보십시오. 하지만 당신에게는 좋은 교과서가 턱없이 부족합니다. 가지고 있는 몇 안 되는 책들은 너무 비싸거나, 오류투성이거나, 혹은 충분히 도전적이지 않습니다. 이것이 현재 AI의 상태입니다. 멀티모달 거대 언ာ 모델(MLLM)은 그림과 글을 이해하는 데는 뛰어나지만, 기하학 학습을 위한 고품질의 '그림-문제' 쌍이 부족하기 때문에 기하학 문제 해결에는 어려움을 겪습니다.

이 논문은 이 문제를 해결하기 위해 세 명의 스터디 그룹처럼 작동하는 새로운 시스템인 Socratic-Geo를 소개합니다. 이 시스템은 인간이 새로운 문제를 써주기를 기다리는 대신, 단 108개의 시드 문제(마치 교과서 한 페이지 정도의 분량)로부터 시작하여 스스로 커리큘럼을 구축합니다.

이 "스터디 그룹"이 어떻게 작동하는지 쉬운 비유를 통해 설명하겠습니다.

세 가지 에이전트 (스터디 그룹)

교사 (설계자 및 비평가)
- 역할: 교사는 단순히 질문을 던지는 것이 아니라, 코드를 사용하여 문제를 만듭니다. 컴퓨터를 이용해 정밀한 파이썬(Python) 코드로 완벽한 기하학 도형을 그리는 선생님을 상상해 보십시오.
- "소크라테스식" 반전: 교사는 단순히 추측하지 않습니다. 두 가지 내부 검증 과정을 거칩니다.
  - 성찰(Reflect): "이 문제가 실제로 풀 수 있는 문제인가?" (수학적 검증)
  - RePI: "그림이 설명과 일치하는가?" (시각적 검증)
- 행동: 학생이 문제를 틀리면, 교사는 단순히 정답을 알려주는 데 그치지 않습니다. 학생이 왜 실패했는지 분석한 뒤, 그 약점을 구체적으로 겨냥하여 약간 더 어려운 새로운 문제를 만들도록 코드를 다시 작성합니다.
해결사 (학생)
- 역할: 학습을 시도하는 AI 모델입니다. 이미지와 질문을 보고 문제를 풀려고 노력합니다.
- 학습 방식: 해결사는 교사의 답을 단순히 암기하지 않습니다. 대신, 시도하고, 실패하고, 단순한 "맞음" 또는 "틀림"의 신호를 받은 뒤 다시 시도합니다. 이는 시행착오를 통해 배우는 과정과 같습니다. 반복해서 실패하면, 교사에게 특정 목표를 가진 새로운 레슨을 만들어 달라고 요청합니다.
생성기 (삽화가)
- 역할: 그리는 법을 배웁니다. 교사의 코드를 관찰하며 학습합니다.
- 마법 같은 점: 교사는 코드를 사용하여 수학적으로 정확한 도형을 만듭니다. 생성기는 이 과정을 지켜보며 텍text 명령어를 고품질의 기하학 이미지로 변환하는 법을 배웁니다. 이는 마치 견습 화가가 거장 화가의 붓놀림을 관찰하며 완벽하게 재현하는 법을 배우는 것과 같습니다.

순환 구조: 피드백 루프

시스템은 다음과 같은 연속적인 루프로 작동합니다:

고군분투: 해결사가 문제를 시도하지만 실패합니다.
진단: 교사가 실패 원인을 분석합니다. "아, 학생이 60도 각도 법칙을 사용하는 법을 이해하지 못했구나."
발명: 교사는 그 특정 법칙을 반드시 사용해야만 풀 수 있는 도형을 만들기 위해 새로운 코드를 작성합니다. 그리고 수학적 검증과 그림의 완벽함을 확인합니다.
레슨: 해결사가 새로운 문제를 시도합니다.
예술: 그동안 생성기는 교사의 코드를 학습하여 처음부터 이러한 도형들을 더 잘 그릴 수 있게 됩니다.

이것이 왜 중요한가? (결과)

논문은 이 방식이 매우 효율적이고 강력하다고 주장합니다:

데이터 효율성: 다른 방식들이 수천 개의 인간 제작 예시를 필요로 하는 반면, Socratic-Geo는 단 108개의 문제로 시작했습니다. 이 시스템은 스스로 데이터셋을 약 2,500개까지 확장했으며, 10,000개 이상의 인간 제작 예시로 학습된 모델보다 더 나은 성능을 보였습니다. 이는 마치 잘 선별된 몇 페이지의 노트만으로 한 학기 분량의 수학을 마스터하는 것과 같습니다.
추론 능력: "해결사"는 일반적인 방식보다 훨씬 적은 양의 데이터(통상적인 데이터의 4분의 1 수준)만을 사용하고도 기하학 테스트 점수를 4.13점 높였습니다.
그리기 능력: "생성기"는 수학 도형을 그리는 데 있어 최고의 오픈 소스 모델이 되었습니다. 이 모델은 까다로운 테스트에서 **42.4%**를 기록하며, Seedream-4.0과 같은 상용 모델을 능가했고 Gemini-2.5-Flash-Image와 같은 최상위 모델에 근접했습니다.

핵심 혁신

오늘날 대부분의 AI 시스템은 일방통행 도로와 같습니다. 데이터가 만들어지면, 그 후에 AI가 학습합니다. 만약 데이터가 나쁘다면, AI는 나쁜 습관을 배우게 됩니다.

Socratic-Geo는 **폐쇄 루프(Closed Loop)**입니다. AI가 학습하고, 시스템에 자신의 약점을 알리면, 시스템은 즉시 그 요구에 맞춰 데이터를 수정합니다. 이는 "교사"와 "학생"이 함께 진화하는 자기 교정 엔진이며, 생성되는 모든 데이터가 수학적으로 타당하고 고품질이며, 다음에 무엇을 배워야 할지에 완벽하게 맞춤화되도록 보장합니다.

요약하자면, Socratic-Geo는 거의 아무것도 없는 상태에서 시작하여 기하학적 추론을 마스터하기 위해 자신만의 완벽한 교과서와 완벽한 삽화를 스스로 만들어내는 자가 학습 기계입니다.

기술 요약: Socratic-Geo

1. 문제 정의

멀티모달 대규모 언어 모델(MLLM)은 시각-언어 이해 측면에서 크게 발전했으나, 기하학적 추론 능력에서는 심각한 병목 현상을 겪고 있습니다. 이러한 한계는 훈련에 필요한 고품질 이미지-텍스트 쌍의 극심한 부족에서 기인합니다. 기존의 해결책들은 다음과 같은 결정적인 트레이드오프에 직면해 있습니다:

인간 주석(Human Annotation): 비용이 매우 많이 들고 시간이 오래 걸립니다.
자동화된 방법들: 충실도(fidelity), 다양성, 그리고 훈련 효과를 동시에 보장하는 데 실패합니다.
- *이미지 기반 텍스트 증강(Image-based textual augmentation)*은 기존 이미지를 위한 설명을 정교화할 뿐, 새로운 구조를 생성하지 못하는 수동적인 방식입니다.
- *기호 기반 무작위 생성(Symbolic-driven random generation)*은 블라인드 탐색과 휴리스틱 필터링에 의존하며, 생성을 학습 요구 사항으로부터 분리시킵니다.
- *LLM 기반 증강(LLM-driven augmentation)*은 종종 블랙박스 형태의 증폭기로 작용하여, 편향을 상속받고 기하학적 구조에 대한 미세한 제어 능력이 부족합니다.
정적 패러다임(Static Paradigms): 대부분의 기존 접근 방식은 합성이 모델의 학습 과정과 분리된 일방향 데이터셋을 생성하며, 모델의 약점을 바탕으로 한 반복적 개선의 기회를 놓치고 있습니다.

2. 방법론: Socratic-Geo 프레임워크

저자들은 다중 에이전트 상호작용을 통해 데이터 합성와 모델 학습을 결적으로 결합한 완전 자율형 동적 프레임워크인 Socratic-Geo를 제안합니다. 소크라테스식 문답법에서 영감을 받은 이 시스템은 Teacher(교사), Solver(해결사), **Generator(생성기)**라는 세 가지 특화된 에이전트에 의해 구동되는 폐쇄 루프 엔진으로 작동합니다.

2.1 Teacher 에이전트 (주도적 설계자)

Teacher는 기하학 문제를 생성하기 위해 매개변수화된 Python 스크립트를 생성하며, 순수성과 유효성을 보장하기 위해 "구상 및 검증(conceive-and-verify)" 루프를 채택합니다:

Reflect (해결 가능성 체크): 수학적 타당성과 해결 가능성을 검증합니다.
RePI (시각적 검증기): 렌더링된 도표가 텍스트 설명 및 기하학적 공리와 완벽하게 일치하는지 확인합니다.
워크플로우:
1. 진단(Diagnose): Solver의 실패 경로를 분석하여 특정 추론 약점(예: 누락된 공리, 의미론적 불일치)을 식별합니다.
2. **발명(Invent): 이러한 약점을 명시적으로 겨냥하는 새로운 문제를 구성하기 위해 근간이 되는 Python 코드를 프로그래밍 방식으로 수정합니다.
3. 자격 부여(Qualify): 문제를 직접 풀어봄으로써 새로운 문제를 스스로 검증합니다. 검증된 트리플릿(triplet)만이 커리큘럼에 포함됩니다.

2.2 Solver 에이전트 (강화 학습)

Solver는 검증 가능한 보상이 있는 작업에 설계된 강화 학습 알고리즘인 **GRPO(Group Relative Policy Optimization)**를 통해 진화합니다.

훈련 패러다임: Solver는 오직 시행착오를 통해서만 학습합니다. 훈련 중에 Teacher의 사고 과정(Chain-of-Thought)이나 참조 해답을 관찰하지 않습니다.
보상 신호: 정답 여부를 나타내는 이진 보상 신호를 받습니다. 만약 $k$ 번의 시도가 모두 실패하면, Teacher는 정책 업데이트를 가이드하기 위한 유일한 긍정적 예시로서 검증된 참조 해답을 주입합니다.
커리큘럼 진화: 커리큘럼 $C$ 는 반복적으로 성장합니다. Solver가 해결하지 못한 문제는 Teacher가 강화된 버전을 발명하도록 트리거하며, 이를 통해 데이터셋이 Solver의 진화하는 능력에 적응하도록 보장합니다.

2.3 Generator 에이전트 (시너지적 부산물)

Generator는 추론 루프와 독립적으로 작동하지만 Teacher가 생성한 자산을 활용합니다.

지식 증류(Distillation): Teacher는 자신의 프로그래밍 방식 드로잉 지침(Python 코드)을 자연어 드로잉 지침( $p_{diagram}$ )으로 변환합니다.
훈련: 확산 기반 모델인 Generator는 고품질의 $(instruction, image)$ 트리플릿을 통해 미세 조정됩니다. 이는 Teacher의 기호적, 규칙 기반 드로잉 지능을 Generator의 신경망 가중치로 증류하여, 텍스트 프롬프트로부터 기하학적으로 정밀한 도표를 생성할 수 있게 합니다.

3. 주요 기여

목표 지향적 프로그래밍 합성: 학습자의 약점을 진단함으로써 생성 목표를 설정하고 코드 수정을 통해 이미지 구조를 강화하는 패러다임을 구축합니다. 이는 능동적 자기 교정을 위한 Reflect-RePI 메커니즘에 의해 뒷받침되며, 수학적 및 시각적 타당성을 보장합니다.
다중 에이전트 상호작용 프레임워크: Socratic-Geo는 합성과 학습을 긴밀하게 결합합니다. Teacher-Solver 상호작용은 추론의 진화를 이끌며, Generator는 이러한 능력을 프로그래밍 데이터로부터 제어 가능한 기하학적 이미지 생성으로 확장합니다.
높은 데이터 효율성: 이 프레임워크는 단 108개의 시드 문제로부터 시작하여 최첨단(SOTA) 결과를 달성하였으며, 이는 작고 고품질인 반복적 커리큘럼이 대규모 정적 데이터셋보다 우수함을 입증합니다.

4. 실험 결과

4.1 Solver 성능 (기하학적 추론)

여섯 가지 벤치마크(MathVerse, GeoQA, MathVision, MathVista, WeMath, GeomVerse)에서 평가되었습니다:

성능: Socratic-Solver는 전체 평균 정확도 **49.11%**를 달성했습니다.
비교: 이는 제로샷 베이스라인 대비 4.13 포인트 향상된 수치이며, 가장 강력한 베이스라인인 GeoReasoning보다 2.43 포인트 앞섭니다.
데이터 효율성: 모델은 단 2.5k개의 합성 훈련 샘플을 사용하여 이러한 결과를 얻었습니다 (R-CoT나 GeoReasoning과 같이 7.2k~10k 개의 샘플을 사용하는 베이스라인의 4분의 1 수준).

4.2 Generator 성능 (텍스트-투-이미지)

GenExam-Math 벤치마크에서 평가되었습니다:

성능: Socratic-Generator는 **42.4%**의 Relaxed Score를 달성했습니다.
비교: 이는 오픈 소스 모델 중 새로운 SOTA를 기록한 것으로, Seedream-4.0(39.8%)을 능가하고 폐쇄형 모델인 Gemini-2.5-Flash-Image(43.1%)의 성능에 근접했습니다.
Strict Score: 6.0의 Strict Score를 달성하여 기본 Qwen-Image 모델(0.0)을 크게 압도했습니다.

4.3 절제 연구 (Ablation Studies)

Qualify 모듈: 검증 단계를 제거했을 때 성능 저하(제로샷 베이스라인 미만)가 발생하여, 검증되지 않은 합성 데이터가 학습을 저해하는 오류를 유발함을 확인했습니다.
RL vs. SFT: 동일한 데이터에 대해 강화 학습(RL) 훈련이 지도 미세 조정(SFT)보다 1.74% 높은 성능을 보여, 이 작업에는 모방 학습보다 시행착오 학습 패러다임이 더 우월함을 입증했습니다.
Teacher 역량: 성능 향상은 원시 모델 용량보다는 Solver의 실패 로그와 코드에 대한 Teacher의 접근 권한("정보 특권")에 의해 주로 주도되었습니다. 즉, 3B 파라미터 규모의 Teacher조차 10k 샘플로 훈련된 베이스라인보다 뛰어난 성능을 보였습니다.

5. 의의 및 주장

본 논문은 Socratic-Geo가 정적이고 일방향적인 데이터 생성에서 동적이고 합성-학습이 결합된 폐쇄 루프로 전환함으로써 기하학적 데이터 부족이라는 핵심 병목 현상을 해결한다고 주장합니다.

자기 개선 엔진: 이 프레임워크는 최소한의 시드 세트로부터 지속적으로 추론 약점을 식별하고 해결함으로써 매우 정보가 풍부한 커리큘럼을 확장할 수 있음을 보여줍니다.
이중 효과성: 추론 능력(Solver)의 향상과 고충실도 시각 콘텐츠(Generator)의 생성을 성공적으로 통합하여, 프로그래밍적 제어가 기호적 논리와 시각적 표현 사이의 간극을 메울 수 있음을 증명했습니다.
확장성: 저자들은 이 확장 가능하고 자기 개선되는 데이터 엔진이 기하학을 넘어 다른 STEM 분야로도 확장될 수 있으며, 복잡한 멀티모달 추론 작업의 데이터 제한을 극복하는 경로를 제공한다고 상정합니다.