Each language version is independently generated for its own context, not a direct translation.
🧠 배경: 왜 기존 방식은 한계가 있을까? (교사의 한계)
기존에는 '거부 샘플링 (Rejection Sampling)'이라는 방식을 썼습니다. 이는 마치 수학 선생님이 학생에게 문제를 풀게 할 때, 선생님이 먼저 정답을 알고 있는 문제만 골라주는 것과 같습니다.
- 문제점: 선생님이 스스로도 풀지 못하는 아주 어려운 문제 (코너 케이스) 가 있다면, 그 문제는 아예 버려집니다.
- 결과: 학생은 쉬운 문제만 풀게 되어, 선생님이 풀지 못했던 난이도의 문제에는永远 (영원히) 도달할 수 없게 됩니다. 이를 논문에서는 **'교사의 천장 (Teacher Ceiling)'**이라고 부릅니다. 학생은 선생님의 실력을 넘을 수 없기 때문입니다.
✨ HEAL 의 등장: "실패한 문제를 어떻게 살릴까?"
이 논문은 **"선생님이 혼자서 못 풀더라도, 힌트를 주면 풀 수 있는 경우가 많다"**는 통찰에서 출발합니다. 실패한 문제를 버리지 않고, 힌트를 주어 다시 풀게 만든 뒤 그 과정을 학생에게 가르치는 것입니다.
이를 위해 3 가지 핵심 도구를 개발했습니다.
1. GEAR: "막히는 순간에 딱 맞는 힌트 주기"
- 비유: 학생이 문제를 풀다가 완전히 막혀서 헤매고 있을 때, 선생님이 "이 부분에서 이 공식 쓰면 돼"라고 딱 그 순간에 힌트를 주는 것입니다.
- 원리: AI 가 어디에서 헷갈려서 막히는지 (엔트로피 분석) 를 감지해서, 그 지점에만 정답의 일부를 알려줍니다. 이렇게 하면 선생님이 원래 풀지 못했던 어려운 문제도 '해결된 과정'으로 만들어낼 수 있습니다.
2. PURE: "가짜 해법을 걸러내는 필터"
- 비유: 힌트를 주니까 선생님이 문제를 풀긴 했는데, 논리 없이 정답만 대충 맞춰서 "왜 36 인가요? 정답이 36 이니까요!"라고 말하는 가짜 해법이 나올 수 있습니다.
- 원리: PURE 는 이런 **가짜 해법 (단순 암기나 논리 건너뛰기)**을 찾아내서 걸러냅니다. 논리적으로 꼼꼼하게 풀어진 '진짜 해법'만 학생에게 가르쳐 줍니다.
3. PACE: "난이도별 단계별 학습 커리큘럼"
- 비유: 갑자기 어려운 미적분 문제를 주면 학생이 당황해서 포기합니다.
- 1 단계: 선생님이 혼자 푼 쉬운 문제부터 학습.
- 2 단계: 힌트를 받아 푼 보통 어려운 문제 학습.
- 3 단계: GEAR 로 고쳐서 만든 아주 어려운 문제 학습.
- 원리: 이렇게 단계별로 난이도를 높여가며 학습하게 하면, 학생이 기초를 튼튼히 다진 뒤 어려운 문제도 자연스럽게 소화할 수 있습니다.
🚀 결론: 왜 이것이 중요한가요?
이 방법 (HEAL) 을 쓰면 작은 AI 모델이 다음과 같은 성과를 냅니다.
- 교사의 한계를 넘는다: 선생님이 혼자 못 풀던 문제도 힌트를 통해 해결 과정을 만들어내므로, 학생은 선생님이 풀지 못했던 영역까지 성장할 수 있습니다.
- 논리력이 향상된다: 단순히 정답만 외우는 게 아니라, 어려운 문제를 어떻게 논리적으로 풀어가는지 '사고 과정'을 배웁니다.
- 실제 검증: 수학 경시대회 (AIME) 나 올림피아드 같은 아주 어려운 시험에서 기존 방식보다 훨씬 높은 점수를 받았습니다.
한 줄 요약:
"선생님이 혼자서 못 풀던 어려운 문제도, 적절한 힌트와 꼼꼼한 검증, 그리고 단계별 학습을 통해 '가짜'가 아닌 '진짜' 해법으로 만들어내면, 작은 학생도 거인 선생님을 따라잡을 수 있다!"
이 기술은 앞으로 더 똑똑하고 작고 효율적인 AI 를 만드는 데 큰 역할을 할 것으로 기대됩니다.