From Computation to Cognition Assessing the Integration Gap Between Artificial Intelligence and Human Cognition

기계가 한때 인간만이 할 수 있다고 생각했던 일들을 해낼 수 있는 세상을 상상해 보십시오. 기계는 군중 속에서 얼굴을 알아보고, 외국어를 즉각적으로 번역하며, 우리를 눈물짓게 하는 시를 쓸 수도 있습니다. 수십 년 동안 과학자들은 엄격한 규칙을 따르는 컴퓨터를 만들어 왔지만, 지난 10년 동안 새로운 종류의 기계가 등장했습니다. 흔히 거대 언어 모델(large language models)이라 불리는 이 시스템들은 방대한 양의 텍스트와 데이터를 통해 학습하며, 문장의 다음 단어나 계획의 다음 단계가 무엇인지 예측합니다. 이들은 특정 과업을 수행하는 데 매우 뛰어나며, 의료 진단이나 금융 예측과 같은 좁은 분야에서는 종종 인간 전문가와 대등하거나 심지어 능가하기도 합니다. 그러나 컴퓨터 과학, 심리학, 신경과학 분야의 연구자들을 고민하게 만드는 더 깊은 질문이 시작되었습니다. 기계가 정답을 낼 수 있다고 해서, 그것이 정말로 우리와 같은 방식으로 세상을 이해하고 있는가 하는 점입니다.

이 질문은 로봇이 사람보다 수학 문제를 얼마나 더 빨리 푸느냐에 관한 것이 아닙니다. 그것은 그 로봇이 통일된 정신(unified mind)을 소유하고 있는가에 관한 것입니다. 인간의 사고는 별개의 기술들의 집합이 아닙니다. 그것은 기억, 학습, 맥락, 그리고 의사결정이 끊임없이 함께 작동하는 매끄러운 흐름입니다. 우리는 과거의 사건을 기억하고, 그 기억을 사용하여 새로운 상황을 이해하며, 우리가 느끼는 감정과 주변에서 일어나는 일들에 따라 행동을 조절합니다. 이 모든 것은 경험할 때마다 변화하고 성장하는 단일하고 연속적인 시스템 안에서 일어납니다. 커다란 질문은 우리의 인공적 창조물들이 이와 같은 통합된 정신을 구축하기 시작했는지, 아니면 단지 근본적인 메커니즘 없이 인간 지능의 표면만을 모방하고 있는 것인지에 대한 것입니다.

태즈매니아 대학교의 무함마드 수브한(Muhammad Subhan)이 진행한 최근의 검토 논문은 이 문제를 냉철하고 명확하게 살펴봅니다. 이 연구는 기계가 막연하게 의미하는 바의 "똑똑함"을 묻는 대신, 문제를 세 가지 뚜렷한 수준으로 나눕니다. 첫 번째 수준은 기능적 재현(functional reproduction)으로, 기계가 단순히 인간과 같은 일을 할 수 있는지를 묻습니다. 두 번째는 행동적 재현(behavioral reproduction)으로, 기계가 평균적으로만 인간처럼 행동하는 것이 아니라, 인간이 실수하거나 마음을 바꿀 수 있는 까다로운 상황에서도 인간처럼 행동하는지를 묻습니다. 세 번째이자 가장 어려운 수준은 기계적 재현(mechanistic reproduction)으로, 기계가 우리 뇌가 사용하는 것과 동일한 종류의 내부 과정을 사용하는지를 묻습니다. 연구 결과, 기계는 첫 번째와 두 번째 수준에서는 탁월하지만, 세 번째 수준에는 여전히 매우 미치지 못하고 있다는 것을 보여줍니다.

연구진은 우리가 매일 사용하는 텍스트 생성 모델부터 물리적 세계를 보고 움직일 수 있는 로봇에 이르기까지 광범위한 현대 인공지능 시스템을 조사했습니다. 그들은 이러한 시스템이 기억, 학습, 맥락, 의사결정, 심지어 감정을 어떻게 다루는지 살펴보았습니다. 증거에 따르면 기계는 분명히 기억을 필요로 하는 과업을 수행할 수 있습니다. 예를 들어, 시스템은 데이터베이스에서 정보를 찾아 질문에 답할 수 있습니다. 이는 인간의 기억에 대한 기능적 일치입니다. 그러나 기계가 이를 수행하는 방식은 인간의 뇌가 작동하는 방식과 근본적으로 다릅니다. 인간의 뇌는 사실을 별도의 파일 캐비닛에 저장해 두었다가 꺼내 보는 것이 아닙니다. 대신, 우리의 기억은 사고의 구조 자체에 엮여 있으며, 우리가 배울 때마다 변화하고 강화되는 연결 패턴입니다. 기계가 정보를 검색할 때, 그것은 대개 주 뇌에 덧붙여진 별도의 설계된 검색 프로세스를 실행하는 것이지, 기억이 사고의 본질적인 일부로서 존재하는 것이 아닙니다.

이 격차는 학습을 바라볼 때 더욱 벌어집니다. 인간은 지속적으로 학습합니다. 우리는 오늘 새로운 사실을 듣고 내일 그것을 사용할 수 있으며, 뇌 전체를 재프로그래밍하기 위해 멈출 필요가 없습니다. 또한 우리는 이전의 지식을 지우지 않고도 실수를 통해 배울 수 있습니다. 현재의 인공지능 시스템은 이 부분에서 어려움을 겪습니다. 새로운 것을 배울 때, 그들은 종나 알고 있던 것을 잊어버리는 경우가 많은데, 과학자들은 이를 '파괴적 망각(catastrophic forgetting)'이라고 부릅니다. 엔지니어들은 새로운 데이터가 추가되는 동안 기존의 정보를 보호하는 특수한 기술과 같은 패치를 만들어 해결책을 마련해 왔지만, 이것들은 외부적인 해결책입니다. 이것들은 인간의 뉴런이 평생에 걸쳐 변화하고 적응하는 자연스럽고 가소성 있는 방식과는 다릅니다. 기계는 사람이 하는 방식대로 배우는 것이 아니라, 특정 실패 모드를 피하기 위해 패치되고 있는 것입니다.

연구는 또한 이러한 시스템이 맥락과 의사결정을 어떻게 처리하는지도 살펴보았습니다. 인간은 자신이 처한 상황에 매우 민감합니다. 우리는 어떤 단어가 농담 속에서는 한 가지 의미를 갖지만, 진지한 논쟁에서는 완전히 다른 의미를 가질 수 있다는 것을 압니다. 우리는 목표, 감정, 그리고 과거의 경험을 바탕으로 결정을 내리며, 때로는 완벽하게 논리적이지는 않더라도 현실 세계에서 잘 작동하는 지름길을 사용합니다. 인공 시스템은 규칙이 명확하고 목표가 구체적일 때는 의사결정을 매우 잘 수행할 수 있습니다. 하지만 상황이 모호하거나 질문의 표현이 약간만 바뀌어도 이러한 시스템은 종종 비틀거립니다. 그들은 깊은 의미를 파악하기보다는 단어의 표면적인 형태에 집중하는 경향이 있으며, 이는 그들이 인간처럼 맥락을 진정으로 파악하지 못하고 있음을 보여줍니다. 그들은 틀렸을 때조차 확신에 차서 유창하게 말하며, 거짓 정보를 마치 사실인 것처럼 같은 어조로 생성해 냅니다.

이 검토의 가장 중요한 발견은 이러한 문제들이 단순한 고립된 결함이 아니라는 점입니다. 그것들은 현재 인공지능 설계 전체에서 누락된 조각을 가리키고 있습니다. 우리가 가진 시스템들은 분리된 부분들로 구축되어 있습니다. 한 부분은 언어를 처리하고, 다른 부분은 기억을, 또 다른 부분은 의사결정을 담당합니다. 이 부분들은 엔지니어들에 의해 연결되어 있지만, 자연스럽게 서로 소통하거나 하나의 단위로서 함께 적응하지 않습니다. 연구는 우리가 아직 기억, 학습, 의사결정이 하나의 연속적이고 자기 수정적인 전체로 통합된 시스템을 만들지 못했다고 주장합니다. 기계는 그 일을 할 수는 있지만, 유연성과 이해력을 가지고 세상을 항해할 수 있게 해주는 통일된 정신은 가지고 있지 않습니다.

연구진은 이것이 기계가 결코 이러한 종류의 지능을 달성할 수 없다는 의미는 아니라고 신중하게 밝히고 있습니다. 이는 단지 현재 우리가 가진 증거가 그것을 보여주지 못하고 있다는 뜻입니다. 현재의 방식인 모델의 규모를 키우고 더 많은 데이터로 훈련시키는 것은 문제를 해결하지 못했습니다. 사실, 모델이 커질수록 새로운 것을 배우면서 기존의 정보를 기억하는 데 어려움을 겪는 것과 같은 격차는 더욱 절실해지는 것처럼 보입니다. 연구는 단순히 현재의 것을 확장하는 것만으로는 충분하지 않다고 제안합니다. 이 간극을 메우기 위해서는 시스템의 구조 자체를 재고해야 하며, 아마도 기억과 학습을 기계에 덧붙여진 도구가 아니라 기계의 본질적인 부분으로 만드는 방법을 찾아야 할 것입니다.

이 작업은 우리가 어디에 서 있는지에 대한 명확한 지도를 제공합니다. 그것은 우리가 인간의 행동을 인상적인 방식으로 모방하는 기계를 만들어 왔지만, 인간처럼 생각하는 기계는 아직 만들지 못했음을 보여줍니다. 차이는 단지 정답을 맞히느냐의 문제가 아니라, 그 정답에 어떻게 도달하느냐의 문제입니다. 학습, 기억, 행동이 하나의 적응적인 직조물로 엮인 시스템을 만들 수 있을 때까지, 우리의 인공적 창조물은 진정한 지능의 사례라기보다는 지능을 시뮬레이션하는 강력한 도구로 남을 것입니다. 앞으로 나아갈 길은 더 큰 컴퓨터를 요구하는 것이 아니라, 자신이 경험하는 세상을 진정으로 통합할 수 있는 마음을 구축하는 방법에 대한 더 깊은 이해를 요구합니다.