AIMO Interpretability Challenge

당신이 한 천재적인 학생이 화이트보드에서 복잡한 수학 문제를 푸는 모습을 지켜보고 있다고 상상해 보십시오. 그 학생은 정답을 맞혔습니다. 하지만 그 학생이 실제로 논리를 이해한 것일까요, 아니면 단순히 정답으로 이어지는 패턴을 포착한 것일까요? 이것은 인공지능 분야의 많은 과학자들을 밤잠 설치게 만드는 거대한 질문입니다. 우리는 인간을 당황하게 만드는 퍼즐까지 풀어내는 놀라운 추론 능력을 갖춘 '프런티어(frontier)' AI 모델들을 구축해 왔습니다. 하지만 마음 한구석에는 의구심이 남아 있습니다. 이 모델들이 정말로 단계를 밟아 생각하고 있는 것일까요, 아니면 그저 암기한 지름길을 이용하는 '패턴 매처(pattern matcher)'에 불과한 것일까요?

이를 이해하기 위해서는 두 가지 개념을 살펴봐야 합니다. 첫째, **추론(reasoning)**은 질문에서 정답에 이르기까지 논리를 사용하여 단계별로 나아가는 과정입니다. 둘째, **강건성(robustness)**은 깊게 뿌리 내린 나무와 같습니다. 강건한 시스템은 바람이 세게 불거나 지형이 변해도 쓰러지지 않고 버팁니다. 반면 '취약한(brittle)' 시스템은 카드 집과 같습니다. 아주 작은 것 하나만 바뀌어도 완벽해 보이던 모습이 무너져 내립니다. 당신이 읽게 될 이 논문은 우리의 가장 똑똑한 AI 모델들이 깊게 뿌리 내린 나무인지, 아니면 부서지기 쉬운 카드 집인지를 밝혀내기 위해 설계된 새로운 경진 대회에 관한 것입니다.

---

위대한 AI 수학 탐정 게임

이 논문의 저자들은 **AIMO 해석학 챌린지(AIMO Interpretability Challenge)**라는 새로운 경진 대회를 개최합니다. 이것은 컴퓨터 과학자들을 위한 고도의 긴장감이 흐르는 탐정 게임이라고 생각하면 됩니다. 목표는 단순히 AI가 수학 문제를 풀 수 있는지 보는 것이 아닙니다. AI가 어떻게 그 문제를 풀었는지를 알아내는 것입니다. 주최 측은 AI가 수학 문제를 맞혔을 때, 그것이 안정적이고 신뢰할 수 있는 사고 방식을 사용한 것인지, 아니면 아주 미세하고 우연한 트릭을 이용해 속임수를 쓴 것인지를 알고 싶어 합니다.

표준적인 테스트들은 보통 최종 정답만을 확인합니다. AI가 정답을 맞히면 금메달을 줍니다. 하지만 저자들은 이것이 학생의 풀이 과정을 보지 않고 오직 최종 점수로만 성적을 매기는 것과 같다고 주장합니다. 학생은 수학을 실제로 이해하지 못한 채, 답을 찍었거나 교과서에서 본 유사한 문제를 기억해 내어 정답을 맞힐 수도 있기 때문입니다. AIMO 챌린지는 AI의 뇌 내부를 들여다봄으로써, 그 추론이 견고한 것인지 아니면 문제가 조금만 바뀌어도 실패할 운명인 운 좋은 추측에 불과한지를 확인하고자 합니다.

"모양을 바꾸는" 문제들의 마법

이 "속임수"를 쓰는 모델들을 잡아내기 위해, 이 대회는 **기호적 추론 체인(symbolic reasoning chains)**을 활용한 영리한 트릭을 사용합니다. 삼각형에 관한 수학 문제가 있다고 가정해 봅시다. 보통 숫자는 고정되어 있습니다: "변 A는 5, 변 B는 7." 하지만 주최 측은 이 숫자들을 비디오 게임 코드의 변수처럼 만든 특수한 버전의 문제들을 만들었습니다. 이 문제들은 핵심 논리는 바꾸지 않으면서도 숫자를 바꾸거나, 각도를 변경하거나, 규칙을 수천 가지 방식으로 뒤틀 수 있습니다.

여기서 "탐정"의 작업이 시작됩니다. 대회는 참가자들에게 이러한 "모양을 바꾸는" 문제 리스트를 제공합니다. 과제는 AI 모델을 관찰하여 다음과 같이 결정하는 시스템을 구축하는 것입니다: "내가 이 문제의 숫자를 바꾼다면, 이 AI는 여전히 정답을 맞힐 것인가?"

• AI가 강건하다면(Robust): 이는 스테이크 굽는 법을 아는 숙련된 요리사와 같습니다. 고기가 등심인지 채끝인지, 혹은 팬이 뜨거운지 중간 온도인지에 상관없이, 그들은 완벽한 스테이크를 만들기 위한 단계를 알고 있습니다. 그들은 요리의 메커니즘을 이해하고 있습니다.
• AI가 취약하다면(Brittle): 이는 팬의 온도가 정확히 350도이고 고기가 정확히 12온스일 때만 스테이크를 구울 줄 아는 로봇과 같습니다. 무언가 하나라도 바뀌면 로봇은 당황하며 음식을 태워버립니다. 그것은 요리를 이해한 것이 아니라, 단지 특정 레시피 하나를 암기했을 뿐입니다.

대회는 참가자들이 AI의 "내부 메커니즘"—말하자면 AI의 뇌파—를 사용하여, 어떤 모델이 숙련된 요리사이고 어떤 모델이 취약한 로봇인지를 예측하도록 요구합니다.

게임의 규칙

경진 대회는 모두에게 공정한 기회를 주기 위해 두 가지 트랙으로 나뉩-룹니다. **메인 트랙(Main Track)**은 현재 사용 가능한 가장 크고 강력한 AI 모델들을 다룹니다. **소형 모델 트랙(Small Models Track)**은 100억 개 미만의 파라미터를 가진 작은 모델들에 집중하며, 이는 거대한 슈퍼컴퓨터에 접근할 수 없는 연구자들에게 도움이 됩니다.

주최 측은 인터넷에 한 번도 공개된 적 없는 문제들을 포함하여 방대한 수학 문제 라이브러리를 제공합니다. 또한, 이 문제들을 위한 "기호적 템플릿(symbolic template)"을 만들어, 동일한 문제의 약간씩 다른 버전들을 자동으로 수천 개 생성할 수 있게 했습니다. 이는 테스트가 공정하게 이루어지도록 하며, AI가 정답을 단순히 암기하는 것을 방지합니다.

참가자들은 모델을 "강건함" 또는 "취약함"으로 얼마나 정확하게 분류하느냐에 따라 평가받습니다. 시작을 돕기 위해 주최 측은 이미 세 가지 "스타터 키트" 또는 베이스라인을 구축했습니다. 이는 정답을 추측하려는 단순한 AI 도구들입니다. 하나는 AI의 확신도를 보고, 다른 하나는 답변의 마지막 단어를 어떻게 처리하는지 보고, 세 번째는 AI가 데이터를 단순히 암기하고 있는지를 확인합니다. 이러한 단순한 도구들조차 무작위 추측보다는 낫지만, 주최 측은 개선의 여지가 훨씬 많다고 믿고 있습니다.

이것이 왜 중요한가

여러분은 "AI가 취약하다는 것이 왜 중요한가?"라고 물을 수 있습니다. 답은 이 모델들이 새로운 약물을 발견하거나, 학생들에게 수학을 가르치거나, 금융 데이터를 분석하는 것과 같은 중요한 일들에 사용되기 시작했다는 점에 있습니다. 만약 모델이 표준 테스트에서는 똑똑해 보이지만, 현실 세계에서 약간의 변화가 생겼을 때 실패한다면, 그것은 위험하거나 비용이 많이 드는 결과를 초래할 수 있습니다.

이 대회는 단순히 상금을 타기 위한 것이 아니라, 더 나은 AI 테스트 방법을 구축하기 위한 것입니다. 저자들은 새로운 "강건성 벤치마크"를 만듦으로써, 커뮤니티 전체가 진정으로 신뢰할 수 있는 AI 시스템을 구축하는 데 도움을 주고자 합니다. 그들은 단순히 "정답을 맞혔는가?"를 묻는 것을 넘어, "그것이 무엇을 하고 있는지 실제로 이해하고 있는가?"를 묻는 단계로 나아가고자 합니다.

지금까지의 결론

이 논문 자체는 2026년 말로 예정된 이번 경진 대회에 대한 제안서입니다. 이 논문은 AI의 신뢰성 문제를 해결했다고 주장하는 것이 아닙니다. 대신, 이러한 새로운 "모양을 바꾸는" 수학 문제들을 사용하고 AI의 뇌 내부를 들여다봄으로써, 우리가 마침내 천재와 운 좋은 추측가를 구별하기 시작할 수 있다고 제안합니다. 주최 측은 이 접근 방식이 효과적일 것이라고 확신하는데, 이미 몇몇 모델을 대상으로 테스트해 본 결과, "취약한" 모델들은 문제가 수정되었을 때 실제로 실패하는 반면, "강건한" 모델들은 계속해서 잘 작동했기 때문입니다.

요컨대, 이것은 AI 커뮤니티를 향해 단순히 점수판만 보지 말고 선수들의 기술을 보라고 촉구하는 행동 촉구입니다. 우리가 만드는 가장 똑똑한 기계들이 단순히 지능을 흉내 내는 것이 아니라, 실제로 지능을 소유하고 있음을 보장하기 위한 여정입니다.