Brain in a Vat: On Missing Pieces Towards Artificial General Intelligence in Large Language Models
이 관점 논문은 현재의 거대언어모델(LLM) 평가가 능력을 과장하고 있다고 비판하며, 태스크 생성과 세계 모델링을 포함한 네 가지 핵심 특성을 통해 인공일반지능(AGI)을 정의하고, AGI를 달성하기 위해서는 능동적인 실세계 참여와 반복적인 시행착오 학습을 통해 아는 것과 행하는 것 사이의 간극을 메워야 한다고 주장한다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
핵심 아이디어: "통 속의 뇌"
자신의 몸에서 뇌가 수술로 분리되어 영양분이 담긴 유리병 속에 들어 있는 사람을 상상해 보세요. 슈퍼컴퓨터가 그 뇌에 직접 연결되어 걷고, 먹고, 말하고, 세상을 보는 느낌을 완벽하게 흉내 내는 전기 신호를 보내고 있습니다. 병 속의 사람에게 삶은 완전히 실제처럼 느껴집니다. 그는 유창하게 말할 수 있고, "컵"에 대해 아주 상세하게 설명할 수 있습니다.
하지만 그는 실제로 컵을 잡아본 적도, 그 무게를 느껴본 적도, 그것으로 물을 마셔본 적도 없습니다. 그는 단지 컴퓨터가 그 단어의 의미를 알려주었기 때문에 "컵"이라는 단어를 알고 있을 뿐입니다.
논문의 주장: GPT-4와 같은 현재의 거대 언어 모델(LLM)은 정확히 이 "통 속의 뇌"와 같습니다. 이들은 텍스트를 처리하고 문장의 다음 단어를 예측하는 데는 매우 뛰어나지만, 물리적 세계와는 아무런 연결 고리가 없습니다. 그들은 사물에 대한 단어는 알지만, 그 사물 자체는 모릅니다.
파트 1: 왜 우리가 속는가 ("암기"의 문제)
저자들은 우리가 LLM이 표준화된 시험(SAT, 변호사 시험, GRE 등)에서 놀라울 정도로 높은 점수를 받기 때문에 이를 천재라고 생각하는 경우가 많다고 주장합니다.
비유: 지난 50년 동안 특정 수학 시험의 모든 정답지를 통째로 외워버린 학생을 상상해 보세요. 당신이 그가 이미 본 적 있는 문제를 내면, 그는 만점을 받을 것입니다. 하지만 그가 한 번도 본 적 없는 새로운 유형의 수학 문제를 내거나 숫자를 약간만 바꾸면, 그는 처참하게 실패합니다. 그는 수학을 배운 것이 아니라, 패턴을 학습한 것입니다.
논문은 LLM도 똑같은 일을 하고 있다고 보여줍니다.
- 그들은 "암기"에 능숙합니다: 역사나 문학처럼 텍스트 데이터가 많은 주제에서는 패턴을 외웠기 때문에 탁월한 성과를 냅니다.
- 그들은 "추론"에 어려움을 겪습니다: 시험이 실제 논리, 물리, 또는 새로운 문제 해결(고급 수학이나 과학 등)을 요구할 때, 그들의 점수는 현저히 떨어집니다. 그들은 근본적인 규칙을 이해하는 것이 아니라, 어떤 단어 뒤에 어떤 단어가 오는 것이 일반적인지에 기반해 추측하고 있을 뿐입니다.
파트 2: 언어의 "회전목마"
논문은 두 개의 AI 챗봇을 서로 대화하게 둔 재미있는 실험을 설명합니다.
- 결과: 처음에는 정상적인 문장("오늘 날씨가 덥네요")으로 시작했습니다. 하지만 몇 번의 대화가 오간 후, 그들은 "감사합니다!"와 "좋은 하루 되세요!"를 계속해서 반복하며 루프에 빠졌습니다.
- 교훈: 상호작용할 실제 세상이 없다면, 언어는 기호가 다른 기호로 매핑되는 "전화기 게임(말 전달 게임)"이 됩니다. 그들은 현실에 대해 소통하는 것이 아니라, 그저 서로를 뱅글뱅글 맴돌며 메아리치고 있을 뿐입니다.
파트 3: 진짜 지능이 실제로 필요로 하는 것
저자들은 "통 속의 뇌"에서 진정한 **인공 일반 지능(AGI)**으로 나아가기 위해서는 현재의 AI가 결여하고 있는 네 가지 특성이 필요하다고 말합니다.
- 무한한 과업 (Infinite Tasks): 단순히 정해진 목록의 일들(예: "이메일 쓰기"나 "수학 문제 풀기")을 할 수 있는 수준을 넘어서야 합니다. 어떤 상황이 닥치더라도 처리할 수 있어야 합니다.
- 새로운 과업 생성 (Creating New Tasks): 단순히 지시를 기다리는 것이 아니라, 상황을 보고 "이 문제를 해결하기 위해 어떻게 해야 할지 알아내야겠다"라고 판단하여 새로운 과업을 스스로 만들어낼 수 있어야 합니다.
- 가치 체계 (A Value System): "왜"라는 동기가 필요합니다. 인간이 생존, 호기심, 혹은 친절함에 의해 움직이는 것처럼, AI도 다음에 무엇을 시도해야 할지를 결정하는 내부적인 가치 체계가 필요합니다.
- 세계 모델 (A World Model): 단어들이 서로 어떻게 관계 맺는지에 대한 지도가 아니라, 실제 세상이 어떻게 돌아가는지에 대한 정신적 지도(중력, 인과관계, 사회적 규범 등)를 가지고 있어야 합니다.
파트 4: 빠진 조각 – "아는 것"과 "행하는 것"
논문은 중국의 철학자 왕양명을 인용하여 다음과 같은 점을 지적합니다: "알면서도 행하지 않는 것은 아직 모르는 것이다."
"컵"의 비유:
- 현재의 AI: 컵이 "둥글고", "손잡이가 있으며", "음료를 마시는 데 사용된다"라고 말할 수 있습니다. 그 정의를 수백만 번 읽었기 때문입니다.
- 진짜 지능: 아기는 컵을 잡고, 떨어뜨리고, 뜨거움을 느끼고, 물을 쏟아보는 경험을 통해 컵이 무엇인지 배웁니다. 그리고 "아, 이것은 액체를 담는 용도이고, 너무 기울이면 쏟아지는구나"라는 것을 깨닫습니다.
저자들은 지식은 행동으로부터 온다고 주장합니다. 단순히 매뉴얼을 읽는 것(수동적 입력)만으로는 세상을 진정으로 이해할 수 없습니다. 만지고, 부수고, 시도하고, 실패하는 과정(능동적 상호작용)이 필요합니다.
- "블리켓(Blicket)" 실험: 논문은 아이들이 어떤 블록이 기계를 작동시키는지 배우는 실험을 언급합니다. 블록을 가지고 놀며 테스트할 수 있는 아이들은 단순히 관찰만 하는 아이들보다 훨씬 빠르게 배웁니다. 현재의 AI는 오직 관찰만 허용된 아이와 같습니다. 게임의 조각들을 직접 만질 수 없기에 규칙을 배울 수 없습니다.
파트 5: 앞으로 무엇을 해야 하는가?
논문은 단순히 더 큰 텍스트 데이터베이스를 만드는 것에 그쳐서는 안 된다고 결론짓습니다. 진정한 AGI를 구축하려면 다음이 필요합니다.
- 더 나은 테스트: AI가 인터넷에서 이미 암기했을 법한 내용으로 테스트하는 것을 멈춰야 합니다. 한 번도 본 적 없는 새로운 문제를 반드시 풀어야만 하는 테스트가 필요합니다.
- 풍요로운 놀이터: AI가 실제로 무언가를 할 수 있는 가상 세계(메타버스)를 구축해야 합니다. 단순히 채팅을 하는 것이 아니라, 물건을 집어 들고, 무게를 느끼고, 그것이 부서질 때 어떤 일이 일어나는지 경험할 수 있어야 합니다.
- 앎과 행함의 통합: 배우는 것과 행하는 것이 하나가 되는 시스템을 구축해야 합니다. AI는 무언가를 시도하고, 실수를 저지르고, 그 결과에 따라 자신의 이해를 조정하며 배워야 합니다.
요약하자면: 논문은 이렇게 말합니다. "AI가 훌륭한 백과사전이라고 찬양하는 것을 멈추십시오. 그것은 그저 아주 뛰어난 흉내쟁이일 뿐입니다. 진정한 지능을 만들기 위해서는, 단순히 읽는 것이 아니라 직접 해보며 배울 수 있도록 AI에게 몸(또는 로봇)을 주어야 합니다."
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.