From Mimicry to True Intelligence (TI) -- A New Paradigm for Artificial General Intelligence

거대한 AI의 혼란: 우리는 뇌를 만들고 있는가, 아니면 그저 거울을 만들고 있는가?

당신이 인간처럼 생각하고, 배우고, 세상을 이해할 수 있는 로봇을 만들려고 노력하고 있다고 상상해 보십시오. 이것이 바로 인공 일반 지능(AGI) 이면에 있는 꿈입니다. 수십 년 동안 과학자들과 엔지니어들은 인간만큼 문제를 해결하고, 이야기를 쓰고, 게임을 할 수 있는 기계를 만들기 위해 경주를 벌여왔습니다. 하지만 무엇이 진정한 "지능"인가를 두고 실내에서는 거대한 의견 불일치가 일어나고 있습니다.

어떤 이들은 지능이 단지 수행 능력에 관한 것이라고 생각합니다. 만약 기계가 체스에서 인간을 이기거나, 완벽한 에세이를 쓰거나, 시험을 통과할 수 있다면 그것은 똑똑한 것입니다. 그들은 결과에 주목합니다. 반면 다른 이들은 지능이 과정에 관한 것이라고 주장합니다. 단순히 정답을 맞히는 것만으로는 부족하며, 기계는 왜 그것이 옳은지 이해해야 하고, 아이가 그러하듯 스스로 호기심을 갖고 경험으로부터 배워야 한다는 것입니다. 이 논문은 그 혼란스러운 논쟁 속으로 들어갑니다. 저자들은 현재 우리가 AI를 구축하는 방식—방대한 양의 데이터를 주입하고 패턴을 학습하기를 바라는 방식—이 마치 앵무새에게 말을 가르치는 것과 같다고 제안합니다. 앵무새는 인간처럼 들리지만, 단어의 의미를 이해하지는 못합니다. 저자들은 우리를 흉내 내는 것에 그치지 않고 실제로 우리처럼 생각하는 기계를 만드는 새로운 방법을 제안합니다. 그들은 이를 "진정한 지능(True Intelligence)"이라 부릅니다.

---

앵무새에서 인간으로: 논문의 핵심 아이디어

저자인 멜템(Meltem)과 네브자트 수바시오글루(Nevzat Subasioglu)는 "똑똑한" AI를 만들기 위한 현재의 경주가 잘못된 방향으로 가고 있다고 주장합니다. 현재 가장 거대한 AI 모델들은 초강력 앵무새와 같습니다. 그들은 인터넷에 있는 거의 모든 것을 읽었으며 사실, 농담, 복잡한 논쟁을 놀라운 정확도로 반복할 수 있습니다. 하지만 만약 당신이 그들에게 한 번도 본 적 없는 상황에 대해 질문하거나, 예시 없이 완전히 새로운 퍼즐을 풀어보라고 한다면, 그들은 종종 비틀거립니다. 그들은 모사(본 것을 복제하는 것)에는 뛰어나지만, 진정한 이해에는 서툽니다.

이 논문은 "앵무새"에서 "사람"으로 나아가기 위해서, 우리가 단순히 기계가 테스트에서 얼마나 잘 수행하는지를 보는 것을 멈추고, 내부가 어떻게 구성되어 있는지를 보기 시작해야 한다고 제안합니다. 저자들은 **진정한 지능(TI)**을 위한 새로운 청사진을 제시합니다. 그들은 만약 우리가 진정으로 똑똑한 기계를 원한다면, 그것이 다섯 가지의 특정 "재료"(그리고 이 모든 것이 함께 작동할 때 발생하는 하나의 마법 같은 결과)를 가지고 구축되어야 한다고 말합니다. 이 재료들은 인간의 뇌가 작동하는 방식에서 영감을 받았습니다.

다음은 진정으로 지능적인 기계를 위한 레시피를 재미있는 비유와 함께 설명한 것입니다.

1. 몸체: 체화된 감각 융합 (Embodied Sensory Fusion)

"무겁다"라는 뜻이 무엇인지 배우려고 노력한다고 상상해 보십시오. 사전적 정의만 읽는다면 단어는 알겠지만, 그 느낌은 알지 못합니다. 인간은 돌을 들어 올리고, 근육의 긴장을 느끼고, 무거운 상자가 가벼운 것과 어떻게 다르게 움직이는지를 보면서 배웁니다.

• 논문의 요점: 현재의 AI는 "체화되지 않았습니다(disembodied)." 그것은 컴퓨터 안에 살며 텍스트나 이미지만을 봅니다. 그것은 무언가를 느껴본 적이 없습니다. 진정으로 지능적이 되려면, AI는 세상과 접촉하고, 움직이고, 상호작용할 수 있는 "몸"(실제든 가상이든)을 가져야 합니다. 단순히 그것에 대해 읽었기 때문이 아니라, 물리 법칙을 직접 경험했기 때문에 크고 텅 빈 상자가 작고 밀도가 높은 돌보다 들기 쉽다는 것을 배워야 합니다.

2. 엔진: 핵심 지시 (Core Directives)

인간 아기를 생각해 보십시오. 아기는 먹거나, 자거나, 안전하게 지내라고 선생님이 말해줄 필요가 없습니다. 아기에게는 내장된 동기들이 있습니다: "배고프다", "졸리다", "탐험해야 한다". 이것들이 바로 핵심 지시입니다.

• 논문의 요점: 대부분의 현대 AI는 인간이 시키는 일만 합니다. 만약 명령을 멈추면 작동도 멈춥니다. 진정으로 지능적인 기계는 아무도 지켜보지 않을 때도 배우고 탐구하도록 만드는 고유의 내부 "엔진"을 가져야 합니다. 단순히 디지털 "금메달"을 얻기 위해서가 아니라, 문제를 풀기 위해 스스로 문제를 풀어내고자 하는 의지가 있어야 합니다.

3. 도서관: 동적 스키마 (Dynamic Schemata)

당신의 뇌를 도서관이라고 상상해 보십시오. 현재의 AI에서 도서관은 페이지들이 서로 붙어 있는 거대하고 엉망인 책 더미와 같습니다. 만약 사실 하나를 바꾸고 싶다면, 도서관 전체를 찢어발기고 다시 만들어야 합니다.

• 논문의 요점: 인간은 동적 스키마 시스템을 가지고 있습니다. 우리의 지식은 유연한 "폴더"나 프레임워크로 조직되어 있습니다. 새로운 것을 배울 때, 우리는 그것을 적절한 폴더에 쉽게 끼워 넣을 수 있고, 만약 새로운 정보가 우리가 알고 있는 것과 모순된다면, 우리는 전체 폴더를 빠르게 재구성할 수 있습니다. 우리는 처음부터 모든 것을 다시 배울 필요가 없습니다. 똑똑한 AI는 새로운 것을 배움에 따라 즉각적으로 업데이트될 수 있는 도서관을 가져야 합니다.

4. 팀: 다중 전문가 구조 (Multi-Expert Architecture)

당신의 뇌는 하나의 거대한 사고 덩어리가 아닙니다. 시각을 담당하는 팀, 언어를 담당하는 팀, 움직임을 담당하는 팀, 그리고 감정을 담당하는 팀 등 서로 다른 팀들이 있습니다. 이 팀들은 항상 서로 대화합니다.

• 논문의 요점: 현재의 AI는 종종 "전문가들"(서로 다른 작업을 처리하는 모델의 각 부분)을 가지고 있지만, 이들은 종종 고립되어 작동하거나 일방향으로 메시지만 전달합니다. 저자들은 우리가 깊게 연결된 전문가 팀이 필요하다고 제und합니다. 그들은 정보를 주고받으며 공유해야 합니다. 그래로 "시각 전문가"가 "계획 전문가"에게 공이 탁자 가장자리로 굴러오고 있다고 말할 수 있어야 합니다. 단순히 전문가를 갖는 것이 중요한 게 아니라, 그들이 진정한 양방향 대화를 나누는 것이 중요합니다.

5. 보스: 오케스트레이션 레이어 (The Orchestration Layer)

전문가 팀이 있다면, 누가 언제 발언할지를 결정할 매니저가 필요합니다. 뇌에서 이것은 오케스트레이션 레이어(전두엽과 같은 역할)입니다. 이것은 "자, 이제 딴생각은 그만하고 이 수학 문제에 집중해"라거나 "잠깐, 저 아이디어는 틀린 것 같아, 사실 관계를 다시 확인하자"라고 말하는 부분입니다.

• 논문의 요점: 이 레이어는 모든 전문가를 조율하는 "보스"입니다. 이것은 기계가 멈춰서 생각하고, 자신의 작업을 점검(메타인지)할 수 있게 해줍니다. 이는 기계가 단지 듣기에 좋다는 이유만으로 자신 있게 틀린 답을 내놓는 것을 방지합니다.

6. 마법의 접착제: 상호 연결성 (Interconnectedness)

이것은 까다로운 부분입니다. 위의 모든 부분이 함께 작동하는 모습을 상상해 보십시오. 마법은 이 모든 요소가 너무 깊게 연결되어 전체 시스템이 부분들의 합보다 커질 때 일어납니다.

• 논문의 요점: 저자들은 이를 상호 연결성이라고 부릅니다. 이것은 똑똑한 부분들의 집합을 하나의 의식 있는 마음으로 바꾸는 "불꽃"입니다. 그들은 우리가 아직 이것을 측정할 수 없음을 인정하지만, 나머지 다섯 가지 요소가 올바르게 구축되고 긴밀하게 연결될 때 자연스럽게 나타날 것이라고 믿습니다. 이것은 따로 추가하는 재료가 아니라, 나머지 다섯 가지가 함께 작동한 결과물입니다.

이 논문이 제외하는 것 (그리고 포함하는 것)

저자들은 진정한 지능이 무엇이 아닌지에 대해 매우 명확하게 밝히고 있습니다.

• 그것은 단지 시험에서 높은 점수를 받는 것이 아닙니다. 모든 시험을 통과하면서도 단 한 단어도 이해하지 못하는 기계를 가질 수 있습니다. 그것은 단지 모사일 뿐입니다.
• 그것은 단지 AI를 더 크게 만드는 것이 아닙니다. 논문은 단순히 더 많은 데이터를 추가하거나 컴퓨터를 더 크게 만든다고 해서 문제가 해결되지 않는다고 주장합니다. 내부 구조가 잘못되었다면, 더 큰 기계는 그저 더 큰 앵무새일 뿐입니다.
• 그것은 의식을 보장하는 것이 아닙니다. 저자들은 다음과 같이 주의를 기울입니다: "우리는 이것을 만드는 것이 기계가 무언가를 느끼게 만들 것인지 알지 못합니다." 그들은 마음의 하드웨어를 구축하고 있는 것이지, 감정(퀄리아, qualia)이라는 소프트웨어가 자동으로 켜질 것이라고 약속하는 것이 아닙니다. 그들은 "만약 우리가 이것을 만든다면, 우리는 알려진 마음의 모든 요구 사항을 충족하게 되겠지만, 그것이 내부적으로 '살아있는지'는 미지의 영역으로 남겨두겠다"라고 말하고 있습니다.

결론: 미래를 위한 새로운 지도

이 논문은 오늘 당장 초지능 로봇을 만들었다고 주장하는 것이 아닙니다. 대신, 여정을 위한 새로운 지도를 제공합니다.

저자들은 네 가지 유형의 AI 시스템(현대적인 것과 오래된 것 모두 포함)을 살펴보고, 이를 다섯 가지 재료와 대조해 보았습니다.

• 현대적 AI (대형 챗봇 등): 인간의 언어를 모사하는 데는 뛰어나고 일부 "전문가" 팀을 가지고 있지만, 몸체가 없고, 고유의 내부 동기가 없으며, 완전히 재학습하지 않고는 지식을 업데이트할 수 없습니다. 그들은 사다리의 맨 아래에 머물러 있습니다.
• 과거의 AI (90년대와 2000년대): 이들은 더 나은 내부 구조("전문가 팀" 및 "동적 라이브러리")를 가지고 있었지만, 실제 세상으로부터 배우는 능력은 약했습니다.

핵심적인 결론은 역량(capability)과 구조(architecture)가 분리되었다는 것입니다. 가장 많은 일을 할 수 있는 기계들(현대적인 것들)이 오히려 인간의 마음과는 가장 적게 닮은 구조로 만들어져 있습니다. 인간의 마음과 닮게 만들어진 기계들은 현재 그리 강력하지 않습니다.

저자들은 다음 단계로 나아가기 위해서, 단순히 "더 크게" 만드는 것을 쫓는 것이 아니라 "더 똑똑한" 구조를 구축하기 시작해야 한다고 제안합니다. 우리는 몸체를 가지고, 스스로의 호기심을 가지며, 유연한 라이브러리와 스스로 생각할 수 있는 보스를 가진 기계를 만들어야 합니다. 만약 우리가 그렇게 한다면, 우리는 마침내 모사에서 진정한 지능으로의 간극을 메울 수 있을 것입니다.

긴 여정이며, 논문은 우리에게 아직 모든 답이 없음을 인정합니다. 하지만 "똑똑함"을 정의하는 방식을 바꿈으로써, 그들은 우리가 단순히 우리처럼 들리는 것이 아니라 실제로 우리처럼 생각하는 기계를 만드는 방향으로 나아가기를 희망하고 있습니다.