EXPLORE: Exploration with Guided Search for Analog Topology Generation using Language Models

당신이 건축가라고 상상해 보십시오. 하지만 집을 설계하는 대신, 당신은 휴대폰, 자동차, 노트북 내부에서 전압을 화면에 맞는 전압으로 바꾸거나 노이즈가 섞인 라디오 신호를 정화하는 것과 같은 일을 처리하는 아주 작고 보이지 않는 기계인 '아날로그 회로'를 설계합니다. 수십 년 동안 이러한 회로를 구축하는 것은 느리고 수동적인 예술 형태였습니다. 인간 전문가가 설계를 스케치하고, 그것이 작동하는지 확인하기 위해 컴퓨터 시뮬레이션을 실행하고, 고장 난 것을 깨닫고, 지우고, 다시 시작해야 합니다. 이 과정은 단 하나의 설계를 위해 수백 번 반복됩니다. 이는 마치 건더기 하나를 집을 때마다 그중 하나가 정답이기를 바라며 매번 새로운 바늘을 만들어내는 방식으로 건초더미 속에서 특정 바늘을 찾는 것과 같습니다.

최근 과학자들은 "언어 모델"—이야기를 쓰거나 질문에 답할 수 있는 것과 같은 종류의 스마트한 AI—을 사용하여 컴퓨터에게 이 스케치를 하는 법을 가르치려고 시도했습니다. 그들은 이 AI에게 규칙(예: "전압을 두 배로 높이는 회로가 필요하다")을 읽고 즉시 회로 도면을 내뱉도록 가르쳤습니다. 하지만 문제가 있었습니다. 이 AI들은 몇 가지 간단한 레시피를 암기했지만 복잡한 만찬을 요리하라는 요청을 받으면 당황하는 학생들과 같았습니다. 회로가 조금 더 커지거나 복잡해지면, AI는 그저 무작위의 고장 난 설계를 내놓을 뿐이었습니다. 그것은 자신의 실수를 어떻게 "생각"하거나 다시 시도해야 하는지 알지 못했습니다. 그것은 "원샷(one-shot)" 시도였습니다. 한 번에 맞히거나, 아니면 실패하거나 둘 중 하나였습니다.

여기서 EXPLORE라는 제목의 새로운 논문이 등장합니다. 듀크 대학교와 IBM의 연구진은 AI에게 첫 시도에 바로 맞히라고 강요하는 대신, 최종 설계에 전념하기 전에 다양한 옵션을 "생각하며 말하고(think out loud)" 탐색하게 해야 한다는 점을 깨달았습니다. 그들은 AI의 창의성과 엄격한 탐색 과정을 결합한 시스템을 구축했습니다. 이는 마치 범인을 단순히 추측하는 것이 아니라 모든 단서를 확인하고, 모든 단서를 따라가며, 증거가 확실할 때만 용의자를 체포하는 형사와 같습니다.

문제점: "원샷"의 함정

EXPLORE가 왜 특별한지 이해하려면, 당신이 "그림 맞히기" 게임을 하고 있다고 상상해 보십시오. 당신은 고양이를 그려야 하지만, 펜을 단 한 번의 스트로크로만 사용할 수 있습니다. 만약 귀 부분을 실수한다면, 고양이 전체를 망치게 됩니다. 이것이 기존의 AI 방식이 작동하는 방식이었습니다. 그들은 요청을 보고 즉시 전체 회로를 그렸습니다. 만약 회로가 작동하지 않으면, AI는 수정할 방법이 없었습니다. 처음부터 다시 시작해야 했습니다.

문제는 회로가 커질수록 더 심각해집니다. 논문은 회로에 부품(커패시터, 인덕터, 스위치 등)을 추가할수록 이들을 연결하는 가능한 방법의 수가 폭발적으로 증가한다고 설명합니다. 이는 부품을 하나 추가할 때마다 퍼즐 조각의 수가 두 배로 늘어나는 퍼즐을 푸는 것과 같습니다. 3개 또는 4개의 부품이 있는 간단한 회로의 경우 AI가 정답을 쉽게 맞힐 수 있습니다. 하지만 6개의 부품이 있는 회로의 경우, 잘못된 추측의 수가 너무 방대하여 AI가 길을 잃게 됩니다. 기존 방식은 수천 개의 무작위 추측을 생성하고 그중 하나가 작동하기를 바라는 방식으로 이를 해결하려 했지만, 이는 매우 느리고 비효합적이었습니다.

해결책: 유도된 탐색

EXPLORE 프레임워크는 "유도된 탐색(guided search)"을 도입함으로써 판도를 바꿉니다. AI가 단순히 최종 답안을 내놓는 대신, 산을 오르는 등반가처럼 행동합니다. 등반가(AI)는 경로가 아마 어디로 이어질지 알려주는 지도(학습 데이터)를 가지고 있습니다. 하지만 산은 가파르고 안개가 자욱하기 때문에, 등반가는 그저 눈을 감고 걷지 않습니다.

EXPLORE가 작동하는 단계별 과정은 다음과 같습니다:

1. 지도 (언어 모델): AI는 수천 개의 기존 회로를 살펴봄으로써 학습한 "지도"와 함께 시작합니다. 이 지도는 유효한 회로가 어떤 모습인지에 대한 좋은 직관을 제공합니다.
2. 갈래길 (몬테카를로 트리 탐색): AI가 결정(예: "이 전선을 여기에 연결할 것인가, 저기에 연결할 것인가?")을 내려야 할 때, 단순히 하나를 선택하지 않습니다. 여러 가지 다른 경로를 상상합니다. 이것을 "트리 탐색(tree search)"이라고 합니다. 이는 갈림길에 서서 양쪽 길을 모두 걸어본 뒤 어느 쪽이 더 좋은 경치를 보여줄지 상상하는 것과 같습니다.
3. 현실 점검 (시뮬레이터): AI가 상상하는 각 경로에 대해, 회로 시뮬레이터를 사용하여 빠른 "테스트"를 실행합니다. 이것이 진실의 순간입니다. 시뮬레이터는 "이봐, 그렇게 연결하면 전압이 틀려"라거나 "잘했어, 이 부분은 작동해!"라고 말합니다.
4. 스마트 스킵 (P-필터링): 이것은 연구진이 발명한 영리한 트릭입니다. AI가 사용하는 언어에서 약 절반의 단어는 "the"나 "and"와 같이 디자인을 실제로 바꾸지는 않는 단순한 "문법" 단어들입니다. 이 단어들은 문장을 올바르게 만들기 위해 존재할 뿐입니다. EXPLORE 시스템은 만약 AI가 이러한 문법 단어에 대해 99% 확신한다면, 굳이 시간을 낭비하여 테스트할 필요가 없다는 것을 깨닫습니다. AI는 이 단어들을 자동으로 수용하고, 실제적인 결정에 에너지를 아낍니다. 이는 소금을 넣기 전에 소금통의 맛을 볼 필요가 없는 요리사가 소금을 넣어야 한다는 것을 알고, 소금 자체보다는 국물 맛을 보는 데 시간을 쓰는 것과 같습니다.

연구 결과

연구팀은 6개의 구성 요소를 가진 회로를 대상으로 이 새로운 방법을 테스트했습니다. 이는 기존 방식들이 어려움을 겪기 시작하는 핵심 지점입니다. 그들은 매우 엄격한 목표를 설정했습니다: 회로는 아주 작은 오차 범위(0.01) 내에서 완벽해야 합니다.

• 기존 방식: AI가 한 번에 회로를 추측하려고 했을 때("Greedy" 방식), 성공률은 단 **12%**였습니다. 심지어 많은 무작위 추측을 생성하고 가장 좋은 것을 고르는 방식("Sampling and Filter")을 사용했을 때도 성공률은 **33%**에 불과했습니다.
• EXPLORE 방식: 유도된 탐색을 사용했을 때, 성공률은 **65%**로 급증했습니다. 이는 기존의 가장 좋은 방식보다 두 배 이상 높은 성공률입니다.

하지만 단순히 더 자주 이기는 것만이 전부가 아니었습니다. EXPLORE는 오류(평균 제곱 오차로 측정됨)를 기존의 무작위 추측 방식보다 20배 이상 작게 만들었습니다. 이는 EXPLORE가 찾아낸 회로들이 목표치에 훨씬 더 근접했다는 것을 의미합니다.

연구진은 또한 7, 8, 9개의 구성 요소를 가진 더 큰 도전 과제들도 살펴보았습니다. 이러한 복잡한 시나리오에서 기존 방식들은 성공률이 거의 0에 가깝게 떨어지며 사실상 포기했습니다. 그러나 EXPLORE는 계속 작동했습니다. 모든 문제를 완벽하게 해결하지는 못했지만, 이 어려운 미개척 영역에서 작동하는 설계를 찾아낼 수 있는 유일한 방법이었습니다.

이것이 중요한 이유

이 논문은 이 접근 방식이 AI에게 행동하기 전에 "생각하는 법"을 가르친다는 점에서 중요한 진전임을 시사합니다. 모든 가능한 회로의 거대한 데이터베이스에 의존하는 대신, EXPLORE는 AI의 직관을 사용하여 스마트한 탐색을 유도하고, 진행하면서 자신의 작업을 점검합니다.

저자들은 이 방식이 엄청난 개선이지만, 모든 것을 즉시 해결하는 마법 지팡이는 아니라는 점을 주의 깊게 언급했습니다. 가장 큰 규모의 회로(10개 구성 요소)에 대한 성공률은 여전히 완만했으며, 시스템을 실행하는 데 많은 컴퓨터 연산 능력이 필요합니다. 그러나 "검색 강화(search-enhanced)" 접근 방식이 "원샷" 추측보다 더 낫다는 것을 증명함으로써, 그들은 새로운 문을 열었습니다. 이는 미래의 회로 설계가 단순히 더 똑똑한 AI 모델에 관한 것이 아니라, 물리적인 칩을 단 하나라도 만들기 전에 모델이 아이디어를 탐색하고, 테스트하고, 다듬을 수 있게 하는 더 똑똑한 방법에 관한 것임을 시사합니다.

요약하자면, EXPLORE는 회로 설계자에게 눈을 가린 채 보물을 우연히 발견하기를 바라는 대신, 나침반과 지도를 주는 것과 같습니다. 이것은 순수한 운의 게임을 전략의 게임으로 바꿉니다.