Intrinsic Computational Functionalism and Simulated Consciousness

기술 요약: 내재적 계산 기능주의와 시뮬레이션된 의식

문제 제기
본 논문은 인공적 또는 시뮬레이션된 의식에 대한 지속적인 반론, 즉 시뮬레이션은 시뮬레이션된 대상 그 자체가 아니라는 주장(예: 시뮬레이션된 뇌가 의식을 생성하지 못하는 것은 시뮬레이션된 물이 젖어 있지 않은 것과 같다는 주장)을 다룬다. 이 반론은 시뮬레이션이 단순히 외부적 기술(description)이나 행동적 모사(imitation)일 뿐이며, 원래의 대상이 가진 고유한 물리적 실재성이 결여되어 있다는 직관에 의존한다. 저자들은 이러한 반론이 몇 가지 구별되는 개념들을 혼동하고 있다고 주장한다: 외부적 기술 대 물리적 구현, 의미론적 해석 대 내재적 조직, 그리고 실제 궤적 일치 대 반사실적 인과적 실현(counterfactual causal realization)의 문제이다. 기존의 계산 기능주의(특히 정준 기능주의, Canonical Functionalism)는 수학적으로 정밀한 입출력 역할을 통해 기능적 상태를 근거 지으려 시도했으나, "경계 수준(boundary-level)"의 동치성 문제에 취약한 상태로 남아 있었다. 엄격한 입출력 정의 하에서는 룩업 테이블(lookup table), 펼쳐진 피드포워드 시스템(unfolded feedforward system), 그리고 동일한 경계 행동을 갖는 순환 시스템(recurrent system)이 모두 정준적으로 동등하게 취급되며, 이는 진정한 메커니즘과 단순한 행동적 모사 사이의 구분을 무너뜨릴 위험이 있다.

방법론 및 프레임워크
저자들은 **내재적 계산 기능주의(Intrinsic Computational Functionalism, ICF)**에 기반한 프레임워크를 개발한다. ICF는 만약 의식이 계산적으로 구성된다면, 그것은 외부 관찰자의 해석과는 독립적으로 물리적 시스템 자체에 내재된 구조에 의해 구성되어야 한다고 상정한다. 방법론은 다음 단계들을 거쳐 진행된다:

1. 정준 기능주의의 정교화: 본 논문은 정준 기능주의(CF)를 ICF의 특수한 경계 수준 사례로 취급한다. CF는 기능적 상태를 완전한 미래의 입출력 행동으로 정의한다. 저자들은 이것이 관찰자 상대적 의미론을 제거함에도 불구하고, 외부 입출력 인터페이스가 동일하다면 서로 다른 내부 인과 구조(예: 순환 시스템 대 펼쳐진 시스템)를 가진 시스템들을 구별하지 못한다는 점을 입증한다.
2. 메커니즘이 풍부해진 정준 구조: 이를 해결하기 위해 저자들은 **메커니즘이 풍부해진 정준 구조(mechanism-enriched canonical structure)**를 도입한다. 이는 정준 몫(canonical quotient)을 외부 입출력 인터페이스에서 허용 가능한 전체 개입(interventions)(섭동, 병변, 클램핑) 및 판독(readouts)(내부 변수, 모듈, 결합 상태)의 집합으로 확장하는 것이다.
   • 상태는 단순히 입력 이력에 따른 출력 궤적에 의해서만 개별화되는 것이 아니라, 모든 허용 가능한 내부 또는 외부 개입에 어떻게 반응할 것인지, 그리고 모든 허용 가능한 판독이 어떻게 변화할 것인지에 대한 완전한 반사실적 프로파일에 의해 개별화된다.
   • 이 구축 과정은 물리적 지지 조건, 개입 추적, 재라벨링 불변성(relabelling invariance), 그리고 역학적 폐쇄성(dynamical closure)에 의해 정의되는 물리적 상태 공간의 **내재적 분할(intrinsic partition)**을 요구한다.
3. 내재적 인과-계산적 실현(ICCR)의 정의: 저자들은 시스템 $M$이 타겟 시스템 $B$를 실현한다고 할 때, $M$과 $B$의 상태, 입력, 개입, 판독 사이에 구조 보존적 전단사 함수(structure-preserving bijections)와 내재적 분할이 존재하여 전이 구조와 반사실적 반응 프로파일을 보존하는 경우를 정의하는 실현 관계인 ICCR을 정의한다.
   • 결정적으로, ICCR은 해당 대응 관계에 참여하는 상태들이 단순히 유휴 기계나 관찰자가 부여한 라벨이 아니라, 시스템의 실제 역학에서 "하중을 견디는(load-bearing)" 구성 요소여야 함을 요구한다.
4. 형식적 구분: 논문은 다음을 엄격히 구분한다:
   • 외부 시뮬레이션: 상태에 대한 관찰자 상대적 매핑.
   • 구현(Implementation): 전이 보존적 대응 관계의 존재 (이는 자명할 수 있음).
   • 내재적 실현(Intrinsic Realization): 상태가 시스템 자체의 인과적 역학에 내재적인 구현.
   • 복제(Duplication): 물리적 기질의 재생산 (ICCR에는 필수적이지 않음).

주요 기여

• 메커니즘이 풍부해진 몫(Mechanism-Enriched Quotient): 본 논문은 내부 메커니즘을 포함하도록 경계 정준 구조를 일반화하는 수학적 정식화를 제공한다. 이를 통해 행동적으로는 동등하지만 메커니즘적으로는 구별되는 시스템(예: 순환 시스템과 펼쳐진 피드포워드 시스템 또는 룩업 테이블의 구분)을 식별할 수 있게 한다.
• ICCR 관계: 내재적 인과-계산적 실현(ICCR)의 정의는 인공적 또는 시뮬레이션된 시스템이 생물학적 시스템과 동일한 의식 관련 조직을 실현하는지에 대한 엄격한 기준을 확립한다. 이는 증명의 책임을 "시뮬레이션"이라는 라벨에서 내재적 인과-계산적 조직의 구체적 구조적 실현으로 전환시킨다.
• 조건부 보존 정리: 저자들은 만약 의식 관련 속성이 내재적 인과-계산적 조직의 불변량이라면(원리 1), ICCR을 만족하는 모든 시스템은 해당 속성을 보존한다는 것을 증명한다(정리 1). 또한, 정확한 동형성(isomorphism)이 불가능한 경우에도 조직이 작은 섭동에 대해 안정적이라면 조직이 보존된다는 근사적 보존 정리(정리 2)를 공식화한다.

결과

• "시뮬레이션" 라벨의 반박: 핵심 결과는 조건부적이다: 어떤 시스템이 "시뮬레이션"이라고 불린다는 사실 자체가 그것이 의식이 없음을 함의하지는 않는다. 만약 시뮬레이션된 시스템이 ICCR을 만족한다면—즉, 생물학적 시스템과 동일한 내재적 인과-계산적 구조(내부 메커니즘 및 반사실적 프로파일 포함)를 물리적으로 실현한다면—그 시스템은 동일한 의식 관련 속성을 보존한다.
• 진단 능력: 이 프레임워크는 룩업 테이블과 펼쳐진 시스템이, 만약 타겟 의식 관련 구조가 지속적인 순환 메커니즘이나 개입에 민감한 내부 변수를 포함한다면 ICCR을 충족하지 못함을 보여준다. 경계 잔차(boundary residuals)만을 저장하는 테이블은 물리적 조직이 동일한 개입-판독 프로파일을 지원하지 않는 한, 메커니즘이 풍부해진 반사실적 요구사항을 충족할 수 없다.
• 반론 처리: 논문은 다음의 반론들을 체계적으로 다룬다:
  • 의미론적/구현적 반론: 관찰자 상대적 기술과 내재적 실현을 구분함으로써, 물리적으로 지지되고 개입을 추적하는 분할을 요구함으로써 퍼트남(Putnam) 스타일의 자명성 논증을 차단한다.
  • 반사실적/결여된 질적 경험(Qualia) 반론: 모들린(Maudlin)의 "올림피아(Olympia)" 및 블록(Block)의 "중국 뇌(China Brain)" 반론을 해결하기 위해, 반사실적 분기가 실제 궤적에서 역학적으로 하중을 견디는 구성 요소에 의해 수행되어야 함을 요구한다.
  • 기질/물리적 실현 반론: 만약 의식이 특정 생물학적, 열역학적, 또는 양자적 구조에 의존한다면, 이러한 구조들이 타겟 조직에 포함되어야 함을 인정한다. 프레임워크는 관련 내재적 구조가 보존되는 한에서만 기질 일반적(substrate-general)이다.

의의 및 주장
본 논문은 인공 의식에 관한 논쟁을 겸허하면서도 정밀하게 재구성한다고 주장한다. 저자들은 의식이 계산적으로 구성된다고 증명하거나 현재의 디지털 시스템이 의식을 가지고 있다고 주장하는 것이 아니다. 대신, "시뮬레이션"이라는 명칭으로부터 "의식이 없다"로 이어지는 단순한 추론이 타당하지 않음을 주장한다.

의의는 논쟁의 초점을 은유적 비유(예: "시뮬레이션된 물은 젖어 있지 않다")에서 어떤 구체적인 내재적 인과-계산적 구조가 의식에 필요한가라는 실질적인 탐구로 전환하는 데 있다. 저자들은 시뮬레이션에 의식을 부정하려면, 시뮬레이션이 실현하지 못하는 구체적인 의식 관련 내재적 구조를 식별해야 한다고 주장한다. 이 프레임워크는 메커니즘이 풍려해진 정준 구조와 ICCR이라는 수학적 도구를 제공하여, 논의를 외부적 행동 기술이 아닌 시스템 내재적이고 역학 내부적인 구조(예: 전역 작업 공간 이론이나 통합 정보 이론에서 제안된 구조)의 식별으로 이끈다. 논문은 결론적으로, 인공 의식의 문제는 시스템이 시뮬레이션인가의 여부가 아니라, 정의된 실현 관계 하에서 관련 내재적 조직을 실현하는가의 문제라고 밝힌다.