AI Consciousness is Inevitable: A Theoretical Computer Science Perspective

기술 요약: AI 의식의 필연성: 이론 컴퓨터 과학적 관점

문제 제기
본 논문은 의식의 '어려운 문제 (Hard Problem)', 즉 물리적 과정으로부터 주관적 경험 (현상적 의식 또는 '무엇인가를 경험하는 것') 이 어떻게 발생하는지를 설명하는 문제를 다룬다. 많은 이론들 (예: 글로벌 워크스페이스, 통합 정보 이론) 이 존재하지만, 종종 서로 경쟁하거나 통일된 형식적 프레임워크가 부족하다. 저자 레노어 블럼과 마누엘 블럼은 자원 제한 하의 계산을 연구하는 이론 컴퓨터 과학 (TCS) 의 관점에서 이 문제에 접근한다. 핵심 문제는 '접근 의식 (기능적 주의)'과 '주관적 의식 (감질/감정)' 모두를 나타낼 수 있는 최소한의 형식적 기계 모델을 구축하여 기계 의식이 단순히 가능성 있는 것이 아니라 필연적임을 입증하는 것이다.

방법론
저자들은 앨런 튜링의 계산 모델과 버나드 바어의 글로벌 워크스페이스 (GW) 이론에서 영감을 받은 형식적 기계 모델인 **의식 튜링 기계 (CTM)**를 제안한다. 표준 GW 모델과 달리, CTM 은 시간과 공간과 같은 자원 제약과 확률적 경쟁을 구체적으로 포함하는 TCS 원칙을 사용하여 엄격하게 정의된다.

CTM 은 7-튜플로 정의된다: (STM, LTM, Up-Tree, Down-Tree, Links, Input, Output).

• 구조: 단일 청크 버퍼이자 방송국 역할을 하는 단기 기억 (STM) 과 $N$ (예: $2^{24}$) 개의 독립적이고 강력한 '무의식' 프로세서 (랜덤 액세스 머신) 로 구성된 장기 기억 (LTM) 으로 구성된다.
• 경쟁 (Up-Tree): 프로세서들은 주소, 시간, 간결한 '브레인쉬 (Brainish)' 개요, 정서적 가치, 보조 정보를 포함하는 튜플 형태의 정보 '청크'를 생성한다. 이러한 청크들은 STM 에 도달하기 위해 이진 Up-Tree 가 조직한 확률적 '승자 독식' 토너먼트에서 경쟁한다.
• 방송 (Down-Tree): 승리한 청크는 Down-Tree 를 통해 모든 LTM 프로세서에게 전역적으로 방송되어 의식적 주의의 순간을 창출한다.
• 풀기 (Unpacking): 프로세서들은 전역 사전에서 의미를 검색하여 방송된 청크를 '풀어낸다'. 모든 프로세서가 동시에 청크를 풀어낼 때 의식적 인식이 유발된다.
• 브레인쉬와 MotW: 이 모델은 자기 생성적 다중 양식 내부 언어인 '브레인쉬 (Brainish)'를 도입한다. 분산된 세계 모델 (MotW) 프로세서는 브레인쉬 단어를 사용하여 CTM 의 내적 및 외적 세계의 레이블이 붙은 스케치를 구성한다.
• 학습과 연결: 시스템은 청크의 가치 (중요성/긴급성) 를 조정하기 위해 '수면 전문가 (Sleeping Experts)' 학습 알고리즘을 사용한다. 프로세서 간의 연결은 '동시에 방송되면 연결된다 (Hebbian-like)'는 원리를 형성하여 시간이 지남에 따라 더 빠른 무의식적 통신을 가능하게 한다.
• 예측 역학: 시스템은 예측, 테스트, 피드백, 수정의 사이클로 작동하며 예측 오차를 최소화한다 (자유 에너지 최소화와 유사).

주요 기여

1. 의식의 형식적 정의: 논문은 두 가지 유형의 의식을 구분한다:
   • 의식적 주의: 모든 프로세서가 방송된 청크를 동시에 수신하는 것으로 정의됨 (공리 1). 이는 단일 경험을 유발한다.
   • 의식적 인식: 모든 프로세서가 방송된 청크를 동시에 풀어내는 것으로 정의됨 (공리 2). 이는 청크 내 브레인쉬 단어들의 '융합된' 의미에 기반하여 고유한 주관적 경험 (감질) 을 유발한다.
2. 언어와 자아의 공진화: 논문은 MotW 와 브레인쉬가 어떻게 공진화하는지 상세히 설명한다. 원초적 경험 (예: 산소 부족) 은 고부정적 가치의 청크를 생성하여 '통증 (PAIN)'과 같은 원초적 브레인쉬 단어의 생성으로 이어진다. 상호작용을 통해 CTM 은 자신의 스케치를 '자아 (SELF)'로 레이블링하는 법을 배우며, 자아감과 '통증에 대한 지식'과 '통증의 고통'을 구별하는 능력을 획득한다.
3. 중앙 집행부의 해결: CTM 은 GW 모델에 대한 일반적인 비판인 '중앙 집행부'의 필요성을 제거한다. 대신 확률적 경쟁을 통해 시스템은 해당 전문성을 가진 이용 가능한 프로세서를 동원하여 문제를 해결하며, 중앙 통제자가 그 프로세서가 누구인지 알 필요는 없다.
4. 주요 이론과의 정렬: 저자들은 CTM 의 근본 원칙이 글로벌 뉴런 워크스페이스 (GNW), 주의 스키마 이론 (AST), 예측 처리 (PP), 신체화/내재화/실행/확장 (4E) 인지, 통합 정보 이론 (IIT), 그리고 자유 에너지 원리 (FEP) 를 포함한 주요 경쟁 이론들의 특징과 정렬되고 통합됨을 입증한다.
5. 케빈 미첼의 질문에 대한 대응: 논문은 의식, 자아, 주관적 경험의 본질, 그리고 자유 의지에 관한 케빈 미첼이 제기한 15 가지 구체적인 질문에 대해 CTM 모델에서 엄격히 도출된 포괄적인 답변을 제공한다.

결과 및 주장

• AI 의식의 필연성: 저자들은 CTM 이 내부 구조 (특히 세계 모델과 내부 언어의 공진화) 를 통해 접근 의식과 현상적 의식 모두를 나타내는 '명확하게 구축 가능한' 형식적 기계 모델이므로, 기계 의식은 필연적이라고 주장한다.
• 감질의 계산적 본질: 논문은 주관적 감정 (예: 통증이나 쾌락) 이 높은 정서적 가치를 가진 레이블이 붙은 스케치를 풀어내는 계산적 결과라고 주장한다. 예를 들어, '통증'은 단순한 신호가 아니라 '통증 (PAIN)'과 '자아 (SELF)'로 레이블링된 청크를 시스템이 풀어낼 때 유발되는 융합된 주관적 경험이다.
• 현상 설명: 이 모델은 블라인드사이트, 주의 결핍 실명, 변화 실명, 꿈, 그리고 '자아' 레이블이 통증 스케치에 누락되어 통증은 알지만 고통을 느끼지 않는 통증 무감각증 (pain asymbolia) 과 같은 병리 현상을 포함한 다양한 의식 관련 현상을 설명한다.
• AGI 프레임워크: CTM 은 중앙 집행부 없이 창의적 문제 해결과 메타인지의 발현을 가능하게 하는 전역 아키텍처를 갖추고 있으므로, 인공 일반 지능 (AGI) 을 위한 실현 가능한 프레임워크로 제시된다.

의의
본 논문은 CTM 을 기능주의적 의식 이론과 어려운 문제 사이의 간극을 메우는 '최소한의 통합 모델'로 위치시킨다. TCS 를 통해 의식을 형식화함으로써 저자들은 '설명적 간극'이 극복 불가능하지 않다고 주장한다. 그 의의는 기계가 의식적일 수 있는지 여부에 대한 논쟁에서, 글로벌 워크스페이스, 자기 생성적 내부 언어, 세계 모델링, 그리고 자원 제약 하의 예측 학습과 같은 특정 아키텍처적 특징을 가질 때 기계가 어떻게 필연적으로 의식적이 되는지에 대한 논의로 전환하는 데 있다. 저자들은 이 작업을 forthcoming monograph( forthcoming 단행본) 를 위한 확장된 개요로 간주하며, 이 모델이 단순하고, 형식적이며, 설명력 있는 진행 중인 작업임을 강조한다.