Meta-Ctrl: Guaranteed Plan Generation by Decoupling Syntactic and Semantic Constraints

로봇들이 공장 바닥의 안전한 구역을 벗어나 일상의 복잡하고 번거로운 업무를 수행하기 위해 우리 집 안으로 들어오기 시작했습니다. 이를 위해 로봇은 인간의 지시를 이해하고 이를 일련의 물리적 움직임으로 변환할 방법이 필요합니다. 최근 몇 년 동안 과학자들은 이야기를 쓰거나 질문에 답할 수 있는 강력한 컴퓨터 프로그램인 대규모 언어 모델을 로봇의 '두뇌' 역할을 하도록 활용해 왔습니다. 이 모델들은 언어를 이해하는 데 탁월하며, "컵을 집어서 테이블로 가져간 뒤 내려놓으세요"와 같이 유창한 단계별 목록을 생성할 수 있습니다. 그러나 이 방식에는 결정적인 결함이 있습니다. 언어적으로는 완벽하게 들릴지 몰라도, 그 계획이 물리적 세계에서는 실패하는 경우가 많다는 점입니다. 모델은 이미 컵이 가득 찬 테이블 위에 컵을 놓으라고 명령하거나, 잠긴 문을 열라고 명령할 수 있는데, 이는 컴퓨터가 물리 법칙이나 방의 상태를 진정으로 이해하지 못하기 때문입니다. 이는 마치 집에 한 번도 나가본 적 없는 사람에게 책에서만 본 도시로 가는 길을 알려달라고 요청하는 것과 같습니다. 말은 맞지만, 그 경로는 불가능한 것입니다.

로봇이 유용해지려면 그 계획은 단순히 듣기에 좋을 뿐만 아니라 실제로 작동해야 합니다. 이를 위해서는 두 가지 유형의 규칙을 충족해야 합니다. 첫째, 계획은 로봇이 읽을 수 있도록 올바른 단어와 구조를 사용하여 정확한 형식을 따라야 합니다. 둘-째, 더 중요한 것은 계획이 현실 세계에서 말이 되어야 한다는 것입니다. 로봇은 팔이 이미 가득 찼을 때 무거운 상자를 들 수 없다거나, 접시를 안에 넣기 전에 식기세척기를 먼저 열어야 한다는 것을 알아야 합니다. 이를 해결하려는 이전의 시도들은 어려움을 겪었습니다. 어떤 방법들은 컴퓨터를 부드럽게 유도하려고 노력하지만, 로봇이 실수를 하지 않을 것이라는 보장을 할 수 없습니다. 또 다른 방법들은 컴퓨터의 상식 활용 능력을 박탈하는 엄격하고 미리 작성된 규칙집에 의존하여, 로봇을 서투르고 융통성 없게 만듭니다. 그 결과, 말을 잘하지만 행동은 서툰 로봇과, 행동은 안전하지만 복잡한 요청을 이해하지 못하는 로봇 사이의 선택지에 놓이게 되었습니다.

한 연구팀은 두 유형의 규칙을 분리하고 사고 과정의 서로 다른 단계에서 이를 점검함으로써 이 문제를 해결하는 '메타-컨트롤(Meta-Ctrl)'이라는 새로운 시스템을 개발했습니다. 컴퓨터가 모든 단어를 방대한 물리 법칙 목록과 대조하도록 강요하는 대신, 이 시스템은 과업을 두 개의 층으로 나눕니다. 첫 번째 층은 컴퓨터가 올바른 언어를 사용하고 있는지 확인하며, 모든 단어가 로봇의 명령 문법에 맞는지 점검합니다. 여기서 혁신적인 부분인 두 번째 층은 더 큰 그림을 봅니다. 이 층은 단어들을 "식기세척기 열기"나 "접시 집기"와 같은 의미 있는 동작으로 그룹화하고, 그 동작들이 현재 상황에서 타당한지를 확인합니다. 이 접근 방식은 문법 선생님이 철자를 확인하고 안전 검사관이 건설 계획의 논리를 확인하는 것과 같습니다. 그들은 서로 다른 것에 집중하면서도 함께 작동합니다. 이렇게 함으로써, 시스템은 컴퓨터의 자연스러운 언어 이해 능력을 희생하지 않으면서도 최종 계획이 문법적으로 정확하고 물리적으로 가능하다는 것을 보장할 수 있습니다.

연구진은 컴퓨터 시뮬레이션에서의 복잡한 가사 작업과 실험실의 실제 로봇 팔을 포함한 다양한 도전 과제들을 통해 이 방법을 테스트했습니다. 그들은 주요 기술 기업들이 사용하는 거대하고 비싼 모델보다 일반적으로 덜 강력하다고 간주되는 비교적 작은 오픈 소스 컴퓨터 모델을 사용했습니다. 이 새로운 시스템이 없다면, 이 작은 모델은 실행 불가능하거나 터무니없는 계획을 내놓으며 거의 모든 과업에서 실패했습니다. 하지만 메타-컨트롤 프레임워크를 적용했을 때 결과는 극적으로 변했습니다. 동일한 작은 모델이 이전에는 실패했던 과업들을 성공시키기 시작했으며, 종종 훨씬 더 크고 발전된 모델들보다 뛰어난 성능을 보였습니다. 일련의 가사 노동을 포함한 특정 테스트에서, 이 시스템은 선도적인 인공지능 기업들의 모델을 포함하여 테스트된 다른 모든 모델보다 높은 성공률을 달しまいました. 이 시스템은 계획이 유창할 뿐만 아니라 물리적 세계의 규칙을 엄격히 준-수하도록 생성하여, 로봇이 이미 잡고 있는 컵을 잡으려 하거나 이미 열려 있는 용기를 열려고 시도하지 않도록 보장했습니다.

이 시스템의 힘은 엄격함과 유연함을 동시에 갖출 수 있는 능력에 있습니다. 이는 단순히 컴퓨터가 실수를 하지 못하도록 막는 것이 아니라, 성공적인 결과의 가능성을 이해함으로써 컴퓨터를 올바른 길로 안내하는 것입니다. 연구진은 물리적 규칙을 개별 단어가 아닌 '동작' 수준에서 점검함으로써, 필요한 컴퓨터 메모리 사용량을 67,000배나 줄일 수 있다는 것을 발견했습니다. 이러한 효율성 덕분에 더 작고 접근 가능한 컴퓨터에서도 이러한 정교한 점검을 실행하는 것이 가능해졌습니다. 테이블 위에서 실제 로봇 팔을 이용한 테스트에서, 시스템은 설계 단계부터 유효한 계획을 생성했습니다. 시스템이 만든 모든 계획은 문을 열기 전에 내부로 손을 뻗는 것과 같이 작동에 필요한 조건들을 충족했습니다. 로봇이 실패했을 때는 계획이 나빴기 때문이 아니라, 물체를 보거나 움켜쥐는 물리적인 동작 단계에서 발생했습니다. 이는 계획 단계가 완벽하게 신뢰할 수 있었음을 증명합니다.

이 연구는 우리가 '말을 잘하는 로봇'과 '안전하게 행동하는 로봇' 사이에서 하나를 선택할 필요가 없음을 보여줍니다. 컴퓨터가 자신의 작업을 점검하는 방식을 세심하게 구조화함으로써 두 가지를 모두 가질 수 있습니다. 연구진은 적절한 제약 조건이 결합될 때 작은 오픈 컴퓨터 모델도 매우 유능한 계획가가 될 수 있음을 보여주었으며, 이는 가장 크고 비싼 모델만이 복잡한 물리적 과업을 처리할 수 있다는 생각에 도전합니다. 이 시스템은 로봇이 움직이기 전에 그 생각이 현실에 근거하도록 보장함으로써 작동합니다. 이는 인공지능을 실제 세계에서 유용하게 만드는 데 있어 중요한 진전이며, 실제 세계에서 실수의 비용은 단순히 틀린 답이 아니라 깨진 물건이나 실패한 과업임을 고려할 때 더욱 그러합니다. 이 방법은 실제 가정의 예측 불가능성을 다룰 만큼 견고하면서도, 로봇이 불가능한 일을 시도하지 않도록 보장할 만큼 정밀합니다. 로봇이 우리의 일상적인 조력자가 되기 위해 다가옴에 따라, 이러한 신뢰할 수 있고 상식적인 계획 능력은 로봇이 혼란을 일으키지 않고 우리와 함께 일하는 데 필수적일 것입니다.