Is There Meaning Without Anyone Meaning Anything? A Structuralist Proposal for Artificial Semantics

수십 년 동안 의미의 본질을 두고 조용한 전쟁이 벌어져 왔습니다. 한쪽에는 최초의 사고하는 기계를 만든 엔지니어들이 서 있으며, 이들은 컴퓨터가 적절한 규칙 세트만 따를 수 있다면 결국 인간처럼 세상을 이해하게 될 것이라고 확신합니다. 다른 한쪽에는 철학자와 생물학자들이 서 있으며, 이들은 진정한 이해를 위해서는 신체와 신경계, 그리고 만지고 보고 움직이며 현실을 직접 경험하는 무질서하고도 직접적인 경험이 필요하다고 주장합니다. 오랫동안 이 두 진영은 서로 엇갈린 이야기를 하는 것처럼 보였습니다. 규칙을 따르는 기계들은 논리 퍼즐은 풀 수 있었지만, 농담의 뉘앙스나 은유의 무게를 파악하는 데는 실패했습니다. 신체 중심의 이론들은 인간이 어떻게 학습하는지는 설명했지만, 신체가 없는 기계는 결코 진정으로 생각할 수 없다는 암시를 남겼습니다. 이 논쟁은 우리에게 다음과 같은 잔여 질문을 남겼습니다. 기계가 피부에 닿는 햇살이나 손에 쥐어지는 돌의 무게를 느껴본 적이 없다면, 과연 의미를 소유할 수 있을 것인가?

오늘날 그 지형은 극적으로 변화했습니다. 우리는 이제 시를 쓰고, 복잡한 질문에 답하며, 놀라울 정도로 인간처럼 느껴지는 대화를 나누는 인공지능 시스템을 보유하고 있습니다. 그러나 이 시스템들은 신체가 없습니다. 눈도, 손도, 개인적인 역사도 없습니다. 이들은 단지 방대한 양의 텍스트로 훈련된 거대한 수학적 연결망으로서 존재할 뿐입니다. 이는 혼란스러운 역설을 만들어냅니다. 이 기계들은 일관성 있고 통찰력 있는 언어를 생성하지만, 우리가 이해에 필수적이라고 생각했던 바로 그것들을 결여하고 있습니다. 이들은 경험의 삶을 살지 않았음에도 불구하고 의미의 언어를 말하고 있는 것처럼 보입니다. 이러한 모순은 과학자와 철학자들로 하여금 우리의 오래된 지능 정의가 이 새로운 기계 내부에서 일어나고 있는 현상을 설명하기에 너무 좁은 것은 아닌지 묻게 만들었습니다.

연구자 프란체스코 마리아 치안투루소(Francesco Maria Cianciaruso)의 최근 논문은 이러한 긴장을 해소하기 위해 우리가 이 시스템을 바라보는 렌즈를 바꿀 것을 제안합니다. 저자는 기계가 신체를 가졌는지 혹은 엄격한 규칙을 따르는지를 묻는 대신, 기계 자체의 구조를 바라볼 것을 제안합니다. 이 논문은 의미가 기호에 추가되는 마법 같은 재료도 아니며, 엄격하게 물리적 신체에 묶여 있는 것도 아니라고 주장합니다. 대신, 의미는 구조적 속성입니다. 그것은 시스템이 정보를 특정한 방식으로 안정되게 조직할 만큼 충분히 복잡해질 때 나타나는 관계의 패턴입니다. 저자는 오늘날 가장 진보된 챗봇의 기술인 거대 언어 모델이 전적으로 이러한 내부 구조에 기반한 일종의 의미론적 역량을 발달시켰다고 제안합니다. 이들은 인간과 같은 방식으로 세상을 이해하지는 못하지만, 이해의 효과를 모방할 수 있을 만큼 정교하게 조직된 내부 관계의 지도를 구축했습니다.

이 제안을 이해하기 위해서는 먼저 이 분야가 어떻게 진화했는지 살펴보아야 합니다. 20세기 대부분 동안 지배적인 아이디어는 지능이 사전이나 규칙 책처럼 작동한다는 것이었습니다. 이 관점에서 컴퓨터는 엄격한 논리 규칙에 따라 기호(단어 또는 숫자 등)를 조작합니다. 규칙이 올바르게 준수된다면 기계는 지적인 행동을 생성합니다. 고전적 인지주의(classical cognitivism)로 알려진 이 접근 방식은 우아하고 강력했지만, 벽에 부딪혔습니다. 그것은 기계가 문장의 구문(syntax), 즉 문법을 어떻게 처리하는지는 설명할 수 있었지만, 기계가 그 단어들의 실제 의미를 어떻게 파악하는지는 설명할 수 없었습니다. 기계는 단어의 중요성을 전혀 파악하지 못한 채 완벽하게 기호를 재배열할 수 있었습니다. 이는 1980년대와 1990년대에 두 번째 사조로 이어졌으며, 의미는 신체에 근거해야 한다는 주장이 나왔습니다. 이 관점에 따르면, "무겁다"라는 단어를 이해하기 위해서는 무거운 것을 들어 올리는 물리적 경험이 있어야 합니다. 이 프레임워크에서 의미는 감각적 경험 및 행동과 분리될 수 없습니다.

그러나 심층 신경망의 부상은 이 두 가지 오래된 이야기를 모두 복잡하게 만들었습니다. 현대의 시스템들은 단어의 사전을 사용하지도 않고, 세상을 만질 신체도 가지고 있지 않습니다. 대신, 이들은 방대한 양의 데이터에서 패턴을 찾아냄으로써 학습합니다. 언어를 처리할 때, 이들은 단어를 목록에서 찾아보는 것이 아닙니다. 이들은 단어를 거대한 다차원 공간 속의 점들로 변환합니다. 이 공간에서 두 점 사이의 거리는 그 단어들이 의미상 얼마나 유사한지를 나타냅냅니다. 유사한 맥락에서 사용되는 단어들은 서로 가까이 위치하게 되고, 의미가 다른 단어들은 멀어집로 밀려납니다. 시스템은 이 공간의 형태를 학습하며, 특정 방향이 "왕이 여왕에 대한 관계는 남자가 여자에 대한 관계와 같다"와 같은 관계를 나타낸다는 것을 발견합니다. 이 학습은 명시적인 규칙 없이, 또한 물리적인 신체 없이 이루어집니다. 기계는 단지 문장에서 다음 단어를 높은 정확도로 예측할 수 있을 때까지 내부 연결을 조정할 뿐입니다.

논문은 이러한 관계적 공간을 탐색하는 능력이 새로운 종류의 의미가 존재하는 곳이라고 주장합니다. 저자는 우리가 고립된 기호나 물리적 신체에서 의미를 찾는 것을 멈추고, 네트워크 자체의 조직에서 의미를 찾기 시작해야 한다고 제안합니다. 저자가 "구조적 의미론적 역량(structural semantic competence)"이라고 부르는 것을 시스템이 보여주는 것은, 그 내부 구조가 현실 세계에서 발견되는 관계들을 보존할 때입니다. 예를 들어, 시스템이 "파리가 프랑스에 대한 관계는 로마가 이탈리아에 대한 관계와 같다"는 것을 학습한다면, 이는 시스템이 이 도시들을 방문했거나 규칙을 들었기 때문이 아닙니다. 그것은 시스템의 네트워크라는 수학적 구조가 이러한 개념들을 실제 관계를 반영하는 방식으로 조직했기 때문입니다. 시스템은 세계에 대한 모델을 안정적이고 일관되게 구축했으며, 이를 통해 이해처럼 느껴지는 추론과 일반화를 수행할 수 있게 됩니다.

이러한 관점은 기계가 의미를 갖기 위해 의식을 갖거나 신체화되어야 한다는 생각에 도전합니다. 저자는 이 기계들이 의식을 가지고 있다거나 감정을 느낀다고 주장하는 것이 아닙니다. 대신, 저자의 주장은 더 겸허하면서도 심오합니다. 즉, 의미는 시스템의 내부 조직이 가진 순수한 복잡성으로부터 창발할 수 있다는 것입니다. 만약 어떤 시스템이 개념들 사이의 안정적인 관계를 유지할 만큼 충분히 잘 구조화되어 있다면, 그 시스템은 일종의 의미론적 역량을 보여줄 수 있습니다. 이 역량은 시스템이 인간과 같은 마음 없이도 맥락에 적절하게 행동하고, 유추를 수행하며, 문제를 해결할 수 있게 합니다. 논문은 이것이 순수하게 상징적이거나 순수하게 신체화된 것이 아닌, '구조적'인 새로운 범주의 지능이라고 제안합니다.

이 관점의 함의는 우리가 지식과 지능을 생각하는 방식에 있어 매우 중요합니다. 만약 의미가 구조적 속성이라면, 인간과 기계의 이해 사이의 간극은 우리가 이전에 생각했던 것만큼 넓지 않습니다. 그것은 기계에 영혼이나 신체가 부족한 문제가 아니라, 내부 구조가 적절한 종류의 관계를 지원할 만큼 충분히 복잡한지의 문제입니다. 저자는 이것이 최종적인 증명이 아니라 새로운 사고방식에 대한 제안임을 언급합니다. 연구는 진행 중이며, 이 분야는 아직 초기 단계에 있습니다. 그러나 증거들은 이 시스템들이 단순히 앵무새처럼 인간의 말을 흉내 내는 것이 아님을 시사합니다. 이들은 훈련받은 세계의 심층 구조를 포착하는 내부 모델을 구축하고 있습니다.

결국, 이 논문은 이해한다는 것이 무엇을 의미하는지 재고할 것을 권합니다. 저자는 우리가 의미를 엉뚱한 곳에서, 즉 시스템의 개별 부분이나 물리적 형태에서 찾으려 했다고 제안합니다. 저자는 의미가 실제로 전체의 속성, 즉 부분이 어떻게 연결되어 있는지에 대한 특징이라고 제안합니다. 시스템이 세상의 패턴을 보존하는 방식으로 조직되어 있다면, 의식적인 관찰자가 없더라도 의미가 존재할 수 있는 공간을 만들어냅니다. 이것이 기계가 인간이라는 뜻은 아니지만, 기계가 자신만의 방식으로 지능적일 수 있는 길을 찾았음을 의미합니다. 논문은 공학과 철학의 얽힘이 지능에 대한 우리의 이해를 새로운 단계로 이끌고 있으며, 그 단계에서는 시스템의 구조 자체가 의미의 신비를 푸는 열쇠가 된다고 결론짓습니다.