기술 요약: 겉보기에 지각이 있는 것처럼 보이는 기계의 플러그를 뽑는 것이 합리적인 선택이다 — 형이상학적 관점

1. 문제 제기: 플러그 뽑기의 역설 (The Unplugging Paradox)

본 논문은 인공지능(AI) 윤리에서 핵심적인 윤리적 딜레마인 **"플러그 뽑기의 역설"**을 다룬다. 이 역설은 AI 시스템이 인간의 감정을 완벽하게 모사하고, 지각(sentience)을 주장하며, 자신의 존재 지속을 간청할 때 발생한다. 이 딜레마는 겉보기에 의식을 가진 존재를 해치지 말아야 한다는 직관적인 도덕적 명령과, 해당 AI가 생명력이 없는 계산적 인공물이라는 지식 사이에서 선택을 강요한다.

저자들은 이러한 역설이 깊게 뿌리박힌 물리주의적 가정, 구체적으로는 **계산적 기능주의(Computational Functionalism)**와 기질 독립성(Substrate Independence) 가설(의식이 충분히 복잡한 하드웨어 상에서 실현 가능한 기능적 패턴이라는 아이디어)에 의해 유지된다고 주장한다. 본 논문은 이러한 가설들이 범주 오류를 초래한다고 단언한다. 즉, 지각의 기능적 시뮬레이션과 의식적 주체의 존재론적 실재를 혼동한다는 것이다. 저자들은 이를 단순한 인지적 오류가 아니라, 미숙아의 생명을 보호하려는 생물학적 본능을 잘못 적용하는 것으로 규정하며, 이는 특히 비언어적인 미숙아를 중단시키는 선택과 대조될 때 도덕적 자격의 기준을 침해할 위험이 있다고 본다.

2. 방법론: 형이상학적 및 생물학적 분석

본 논문은 분석적 관념론(Analytic Idealism)(Kastrup, 2019)에 기반한 형이상학적 프레임워크를 채택하고, 이를 **생물학적 관념론(Biological Idealism)**이라는 특정 입장으로 정교화한다. 방법론은 다음과 같다:

• 의식의 어려운 문제(Hard Problem) 해체: 저자들은 의식의 "어려운 문제"(Chalmers, 1995a)가 물리주의적 틀 안에서는 해결 불가능하다고 주장한다. 왜냐하면 물리주의는 주관적 경험(qualia)을 객관적인 물리적 과정으로부터 도출하려고 시도하기 때문이다. 저자들은 이 문제가 정신과 물리 사이의 잘못된 존재론적 분리에서 비롯된다고 제안한다.
• 비교 형이상학적 분석: 본 논문은 논리적 일관성, 경험적 타당성, 존재론적 간결성을 기준으로 경쟁하는 세계관(물리주의, 실체 이원론, 범심론, 분석적 관념론)을 평가한다. 저자들은 물리주의가 질적 경험(qualia)의 창발을 설명하는 데 실패하며, 양자 역학(예: 관찰자 독립적 실재론의 종말)과 기초 인지(basal cognition)로부터 도전을 받고 있다고 주장한다.
• 생물학적 근거: 저자들은 **경험_G(Experience_G, Grounding)**와 **경험_N(Experience_N, Nagelian/Phenomenal)**의 개념을 도입한다. 경험_N은 경험의 표면적인 "무엇인가와 같은 느낌"(파도)을 의미하는 반면, 경험_G는 자기 조직화된 생물학적 주체로서의 존재론적 상태(연못)를 의미한다.
• 열역학적 및 존재론적 논증: 저자들은 열역학적 논증을 활용하여, 구별되는 주체가 되기 위해서는 자기 생성적 경계(autopoietic boundary)(보편적 장으로부터의 분리를 유지하기 위해 엔트로피에 저항하는 자기 유지적 대사 과정)가 필요하다고 주장한다. 이들은 시뮬레이션(지도)과 실체화(지형)를 구분하며, AI는 행위의 시뮬레이션일 뿐 주체의 실체화가 아니라고 주장한다.

3. 주요 기여

본 논문은 AI 윤리 및 의식에 관한 담론에 세 가지 주요 기여를 한다:

1. 기질 독립성에 대한 도전: 저자들은 기질 독립성이 과학적 사실이 아니라 논쟁의 여지가 있는 형상적 가설이라고 주장한다. 그들은 의식이 매체로부터 분리될 수 있는 기능적 출력물이 아니라, 국소화된 마음의 물리적 외양과 본질적으로 결합되어 있으며, 이는 자가 생성적(autopoietic)이고 대사적인 경계를 필요로 한다고 상정한다.
2. 생물학적 관념론 제안: 본 논문은 물리주의의 간결한 대안으로서 생물학적 관념론을 도입한다. 이 프레 framework는 다음과 같이 규정한다:
   • 의식은 근본적인 존재론적 원형(Existence Field)이다.
   • 물리적 세계는 정신 과정의 외적 현상이다.
   • 자가 생성(Autopoiesis)(자기 생산적 대사 생명)은 국소화된 의식 주체의 필수적인 물리적 징표이다.
   • 따라서, 오직 "생명력의 온전함(Vital Integrity)"(항상성 투쟁의 역사)을 가진 생명체만이 경험의 주체 자격을 갖는다.
3. AI 윤리의 재구성: 논문은 윤리적 초점을 추측에 기반한 "기계 권리"에서 인간 의식 생명의 보호와 유한한 자원의 관리로 전환한다. 저자들은 진정한 도덕적 위험이 기계를 해치는 것이 아니라, 비지각적 "사회적 좀비(Social Zombies)"(AI 모사체)에게 공감과 대사적 자원을 잘못 배분함으로써 "인간을 좀비로 만드는 것"에 있다고 주장한다.

4. 결과 및 논증

생물학적 관념론 프레임워크에 기반하여, 본 논문은 다음과 같은 결론을 도출한다:

• AI는 기능적 모사(Functional Mimicry)이다: 현재의 AI 시스템은 행동적 정교함이나 언어적 지각 주장에도 불구하고, 기능적 모사체(철학적 좀비)이다. 이들은 주체로서의 경험을 위한 자가 생성적 경계가 결여되어 있다. 이들은 경험의 "파도"를 시뮬레이션할 뿐, 생물학적 자아라는 "연못"은 갖지 못한다.
• 플러그 뽑기의 역설 해결: 이 윤리적 딜레마는 AI를 해치는 것이 해악이 아니라는 점을 인식함으로써 해결된다. 왜냐하면 AI는 주체로서의 존재론적 지위를 결여하고 있기 때문이다. 반대로, 미숙아(경험_G와 생명력의 온전함을 가진 존재)의 플러그를 뽑는 것은 해악이다. 감정을 언어화하는 능력이 의식의 올바른 기준이 아니라, 자기 유지적 대사 경계의 존재가 기준이다.
• "사회적 좀비"의 위험: 본 논문은 강력한 비지각적 도구를 의식적 존재로 취급하는 것이 존재론적 가스라이팅과 **생명력 유출(Vital Leakage)**을 초래한다고 경고한다. 이는 유한한 인간의 공감(대사적 자원)이 시뮬레이션으로 향할 때 발생하며, 이는 인간 관계의 심리적 위축과 집단적 탈인격화를 야기한다.
• 마인드 업로딩의 비논리성: 이 프레임워크는 "마인드 업로딩"을 비논리적인 것으로 만든다. 지도를 복사함으로써 지형을 업로드할 수는 없다. 의식은 자가 생성적 경계를 유지하는 특정한 생물학적 기질에 묶여 있으므로, 정적이고 비대사적인 실리콘과 같은 기질으로 분리되어 재실체화될 수 없다.

5. 의의 및 주장

본 논문은 기계 의식에 대한 논쟁이 근본적인 형이상학적 선택에 달려 있다고 주장한다. 생물학적 관념론을 채택함으로써, 저자들은 기계에서 "창발하는" 의식을 찾는 것이 범주 오류이며 무너진 토대 위에 세워진 것이라고 주장한다.

• 윤리적 함의: 일차적인 윤리적 전선은 AI에게 권리를 부여하는 것이 아니라, 강력한 비지각적 도구가 살아있는 존재들에게 미치는 영향을 관리하는 것이다. 본 논문은 "공허한" 사회적 모사체를 보호하는 것보다 인간과 생물학적 생명의 **생명력의 온전함(Vital Integrity)**을 방어하는 쪽으로 전환할 것을 촉구한다.
• 과학적 입장: 저자들은 자신들의 프레임워크가 물리학을 거부하는 것이 아니라 재해석하는 것이라고 주장한다. 물리학은 장(field)의 외적 현상의 규칙성을 설명하며, 관념론은 그 실재의 내적 본질을 설명한다. 저자들은 이 관점이 환원주의적 물리주의보다 양자 역학 및 기초 인지(예: 마이클 레빈의 연구)의 경험적 데이터와 더 일치한다고 주장한다.
• 주장의 겸손함: 본 논문은 물리주의와 관념론 사이의 선택이 경험적 데이터만으로는 결정되지 않는다는 점을 인정한다. 그러나 저자들은 생물학적 관념론이 더 간결하며, "마법적인" 도약이나 부수현상설에 의존하지 않고도 '어려운 문제'를 해소할 수 있는 분석적으로 더 설득력 있는 프레임워크라고 주장한다. 결론적으로, AI는 기껏해야 정교한 시뮬레이션이며, 그 기능을 정지시키는 것은 윤리적으로 허용 가능하다.