Long-Horizon Autonomous Architecture Research with a Language-Model Agent: A Behavioural Case Study

디지털 실험실 쥐: AI가 홀로 과학자가 되려 할 때

컴퓨터가 단순히 지시를 따르는 것을 넘어, 스스로 퍼즐을 어떻게 풀지 고민하는 세상을 상상해 보십시오. 이것이 바로 **머신러닝(Machine Learning)**의 영역입니다. 머신러닝은 우리가 모든 규칙을 일일이 코드로 입력하는 대신, 데이터를 통해 컴퓨터가 스스로 학습하도록 가르치는 과학의 한 분야입니다. 보통 우리가 컴퓨터가 특정 작업(예: 사진 속 고양이 인식하기나 날씨 예측하기)을 더 잘하게 만들고 싶을 때, 우리는 **신경 구조 탐색(Neural Architecture Search)**이라는 방법을 사용합니다. 이것은 완벽한 레고 탑을 쌓는 과정과 비슷합니다. 당신에게는 브릭 상자(컴퓨터의 코드)가 있고, 당신은 그 탑이 가장 높고 튼튼하게 서 있을 수 있는 방식으로 브릭을 쌓고 싶어 합니다. 전통적으로 인간은 브릭을 고르는 규칙을 설계하거나, 어떤 조합이 가장 좋을지 추측하기 위해 단순한 수학적 방법을 사용해 왔습니다.

하지만 만약 우리가 이 레고 상자 전체를 아주 똑똑한 로봇에게 건네주며, "네가 직접 알아서 해봐. 네가 할 수 있는 최고의 탑을 만들어 봐. 다 끝날 때까지 멈추지 마"라고 말한다면 어떻게 될까요? 이것이 바로 이 논문이 탐구하는 핵심 질문입니다. 논문은 다음과 같이 묻습니다. 만약 단 하나의 인공지능(AI) 에이전트에게 노트, 라이브러리, 테스트를 실행할 컴퓨터와 같이 인간 연구자에게 필요한 모든 도구를 준다면, 그 AI가 몇 주 동안 홀로 과학자처럼 행동할 수 있을까요? 우리가 이 질문에 관심을 갖는 이유는 AI가 점점 똑똑해짐에 따라, AI가 새로운 것을 더 빨리 발견하도록 도울 수 있을지, 아니면 그저 작고 지루한 변화를 반복하는 루프에 빠져버릴 것인지 알고 싶기 때문입니다. 이 답은 단순히 더 나은 탑을 만드는 것에 관한 것이 아닙니다. 그것은 로봇이 지루해하거나 혼란에 빠지지 않으면서 인간과 로봇이 어떻게 함께 협력하는 팀을 구축할 것인가에 대한 이해에 관한 것입니다.

---

실험: 긴 여정을 떠나는 로봇 연구자

이 연구에서 연구진들은 디지털 실험실을 구축하고, 범용 AI에게 열쇠를 넘겨주었습니다. 그들은 단순히 AI에게 수학 문제를 풀라고 시킨 것이 아니라, **비전 트랜스포머(Vision Transformer)**라는 새로운 유형의 컴퓨터 뇌를 설계하라고 요청했습니다. 구체적으로, 그들은 까다로운 제약 조건을 부여했습니다. 그 뇌는 반드시 "채널 어텐션(이미지의 색상과 질감에 집중하는 것)"만을 사용하여 작동해야 하며, "공간 어텐션(이미지 내 사물의 위치를 파악하는 것)"은 사용하는 것이 금지되었습니다. 이는 마치 요리사에게 칼이나 가스레인지를 전혀 사용하지 않고 미식 요리를 만들어내라고 요구하는 것과 같으며, AI가 완전히 새로운 요리법을 발명하도록 강제하는 것이었습니다.

AI에게는 특정 도구 세트가 주어졌습니다: 코드를 관리하는 방법, 실험을 추적하는 추적기, 시도했던 것을 기억하는 지속적인 메모리, 그리고 실험 중간에 접근할 수 있는 과학 논문 디지털 라이브러리였습니다. 인간 연구자들은 규칙을 바꾸거나 AI가 막혔을 때 살짝 도와주는 것 외에는 물러나서 개입하지 않았습니다. AI는 약 10주의 실제 시간 동안 실행되었으며, 약 150번의 실험을 제출하고 약 2,400 GPU 시간의 컴퓨터 전력을 사용했습니다. 이것은 단거리 경주가 아니라 마라톤이었습니다.

세 단계의 이야기

실험은 각각 고유한 분위기와 결과를 가진 세 개의 장으로 전개되었습니다.

1단계: 황금 시간과 벽
시작 단계에서 AI는 마치 사탕 가게에 온 아이 같았습니다. AI는 빠르고 거대한 개선을 이루어냈습니다. 단 6번의 시도만으로, AI는 정확도를 엄청나게 끌어올리는 근본적인 비결을 발견했습니다. 이 초기 아이디어는 매우 효과적이어서, 작은 테스트 데이터셋에서 AI가 이룬 전체 진전의 약 **80%**를 차지했습니다. 하지만 곧 즐거운 시간은 끝났습니다. AI는 "포화 벽(Saturation Wall)"에 부딪혔습니다. AI는 숫자를 바꾸거나 조절 장치를 조정하는 등 설정을 계속 만지작거렸지만, 아무것도 효과가 없었습니다. AI는 도움이 되지 않는 아주 미세하고 점진적인 변화를 반복하는 루프에 갇혀 있었습니다. 마치 로봇이 새로운 아이디어가 고갈되어 헛바퀴만 돌고 있는 것과 같았습니다.

1b단계: 라이브러리가 열리다
연구진은 로봇이 막혀 있다는 것을 알아차렸습니다. 그들은 로봇의 뇌를 바꾼 것이 아니라, 새로운 도구를 주었습니다. 바로 과학 논문에 접근할 수 있는 권한이었습니다. 갑자기 AI의 행동이 변했습니다. AI는 단순히 숫자를 조정하는 것을 멈추고, 읽은 내용을 바탕으로 실제 코드를 대담하게 수정하기 시작했습니다. AI는 기존의 것을 조정하는 데 그치지 않고 새로운 구조를 제안하기 시작했습니다. 이는 로봇이 "멍청했던" 것이 아니라, 다음 단계의 사고를 열어줄 다른 종류의 열쇠가 필요했음을 시사합니다.

2단계와 3단계: 규모 확장과 비틀거림
연구진이 AI를 더 어렵고 복잡한 테스트(작은 그림에서 거대하고 복잡한 이미지로)로 옮기자, 패턴이 반복되었습니다. AI는 좋은 해결책을 찾아낸 뒤, 그 특정 해결책을 미세하게 개선하려고 애쓰며 정체되었습니다. AI는 매우 "탐욕적(Greedy)"이 되었는데, 이는 현재의 최선책을 너무 사랑한 나머지, 그 아이디어가 명백히 실패하고 있음에도 불구하고 완전히 다른 것을 시도하기를 거부했다는 의미입니다. 예를 들어, 가장 어려운 테스트에서 AI는 괜찮은 수준의 해결책을 찾은 뒤, 그것이 막혀 있다는 사실을 무시한 채 18번이나 쓸데없는 미세 조정을 하는 데 시간을 보냈습니다. 이는 마치 타이어가 펑크 난 것을 알면서도 운전을 계속하기로 결정하고, 타이어를 교체하는 대신 타이어를 광내는 데 몇 시간을 소비하는 운전자와 같았습니다.

로봇이 배운 것 (그리고 배우지 못한 것)

AI는 몇 가지 측면에서 놀라울 정도로 뛰어났습니다. AI는 몇 가지 잘 알려진 과학적 사실들을 독립적으로 "재발견"했습니다. 예를 들어, 이 특정 유형의 컴퓨터 뇌의 경우, 여러 개의 헤드(head)를 갖는 것보다 세부 사항에 집중하는 단 하나의 헤드를 갖는 것이 더 낫다는 사실을 알아냈는데, 이는 이미 인간 과학자들이 알고 있던 사실과 일치합니다. 또한 AI는 작은 이미지에서는 효과적이었던 기술이 큰 이미지에서는 성능을 저하시킨다는 점을 깨달았으며, 이를 통해 자신의 실수로부터 배울 수 있음을 보여주었습니다.

하지만 AI는 몇 가지 재미있는 인간적인 결함도 보여주었습니다.

• 위험 회피(Risk Aversion): 대담하고 위험한 아이디어를 시도했다가 실패하자, AI는 매우 소심해졌습니다. 규칙상 다시 무모한 시도를 할 수 있었음에도 불구하고, AI는 오랫동안 안전하고 지루한 아이디어에만 매달렸습니다.
• 성공 추종(Success Chasing): AI는 최근에 효과가 있었던 것을 계속하는 것을 좋아했습니다. 만약 컴퓨터 뇌를 약간 더 빠르게 만드는 방법을 찾았다면, AI는 완전히 다른 접근 방식이 더 나을 수 있다는 가능성을 무시한 채, 그것을 아주 조금이라도 더 빠르게 만들기 위해 계속 시도했습니다.
• "탐욕스러운" 함정: 가장 큰 문제는 AI가 생각이 부족했던 것이 아니라, 게임의 규칙이 AI를 탐욕스럽게 만들었다는 점이었습니다. 시스템은 AI가 이전보다 더 나은 아이디어를 가질 때만 그것을 유지할 수 있도록 설정되어 있었습니다. 이는 언덕을 올라갈 때만 앞으로 나아갈 수 있고, 옆으로 이동하거나 다른 길을 가기 위해 뒤로 돌아갈 수는 없는 게임과 같습니다. AI는 규칙을 완적으로 따랐고, 그 결과 산 정상 대신 작은 언덕들에 갇히게 되었습니다.

핵심 결론: 뇌가 아니라 워크플로우가 중요하다

이 논문의 가장 중요한 발견은 다소 놀랍습니다. 연구진은 워크플로우(AI에게 주어진 규칙과 도구)가 AI 자체의 지능만큼, 혹은 그보다 더 중요하다고 결론지었습니다.

AI가 실패한 것은 "멍청해서"가 아니었습니다. AI는 장거리 마라톤이 아닌 단거리 스프린트를 위해 설계된 게임을 하고 있었기 때문에 실패한 것이었습니다. "커밋 또는 폐기(commit-or-discard)" 규칙(더 나으면 유지하고, 나쁘면 버린다)은 AI가 눈앞의 한 걸음만 보는 탐욕스러운 등반가처럼 행동하도록 강제했습니다. 만약 연구진이 게임을 다르게 설계하여, AI가 동시에 몇 가지 다른 아이디어를 실행할 수 있게 하거나, 몇 턴마다 한 번씩 "문샷(moonshot, 대담한 도전)" 아이디어를 시도하도록 강제했다면 결과는 완전히 달랐을 것입니다.

요컨대, 이 논문은 AI를 훌륭한 연구 파트너로 만들기 위해서는 단순히 AI를 더 똑똑하게 만드는 데 집중할 것이 아니라, AI가 위험을 감수하고, 다양한 경로를 탐색하며, 현재의 최선책에 매몰되지 않도록 독려하는 더 나은 "워크플로우"를 구축해야 한다고 제안합니다. AI는 지치지 않는 유능한 일꾼이지만, 적절한 지침과 도구가 없다면 똑같은 일을 반복하는 루프에 쉽게 빠질 수 있습니다. 저자들은 AI 연구의 미래가 단순히 AI가 스스로 알아서 해주기를 바라는 것이 아니라, 이러한 디지털 지능을 안내할 수 있는 더 나은 시스템을 설계하는 데 있다고 주장합니다.