Identity from the Outside: A Conceptual Framework and Research Program for AI Personality Clones

기술 요약: 외부로부터의 정체성 (Identity from the Outside)

문제 정의
AI "인격 클론(personality clones)"의 등장은 개인의 정체성에 대한 재검토를 요구한다. 그러나 의식의 '어려운 문제(hard problem)'(주관적 경험의 기원)는 여전히 해결 불가능한 상태로 남아 있다. 본 논문은 이 철학적 문제에 대한 해결책을 기다리는 것이 운영상의 진전에 불필요하다고 주장한다. 대신, 저자는 **의도적인 운영주의적 관점(operationalist stance)**을 채택함으로써 이 문제를 우회할 것을 제안한다. 즉, 정체성이란 내부 상태나 의식에 의해 정의되는 것이 아니라, 특정 기간 동안 관찰자에 의해 평가된 현현(manifestations)의 식별 불가능성으로 정의된다.

핵심 문제는 '정체성'이라는 용어가 다음의 세 가지 구별되는 기준을 혼용하고 있다는 점이며, 기존 문헌은 이를 분리하는 데 실패했다:

1. $I_{target}$ (충실도, Fidelity): 시스템이 특정 대상자와 같이 행동하는가?
2. $I_{human}$ (일반적 인간다움, Generic Human-likeness): 시스템을 일반적인 인간과 구별할 수 있는가?
3. $I_{indiv}$ (개별성, Individuality): 시스템이 이해관계(stakes), 취약성, 그리고 취소 불가능한 결과(non-cancellable consequences)를 동반하는 고유한 궤적을 나타내는가?

현재의 증거들은 주로 $I_{human}$(단기 튜링 테스트)과 설문 기반의 좁은 측면에서의 $I_{target}$만을 다루고 있다. 장기적인 $I_{indiv}$와 친밀한 관찰자에 의한 $I_{target}$에 대해서는 상당한 사각지대가 존재한다.

방법론 및 프레임워크
본 논문은 완성된 실증 연구를 제시하기보다는 개념적 프레임워크와 연구 프로그램을 제안한다.

1. 관찰된 정체성의 6요소 분해
저자는 관찰된 정체성($E$)을 여섯 가지 휴리스틱 항으로 분해하며, 상태(states)(복제 가능)와 과정/입력(processes/inputs)(궤적 의존적)를 구분한다:

• $S$ (생성 기질, Generative Substrate): 메커니즘 (모델, 목소리, 체현).
• $D$ (성향, Dispositions): 가치관, 특성, 스타일.
• $M$ (기억, Memory): 전기(biography), 문화, 상황적 지식.
• $U$ (업데이트 역학, Update Dynamics): 경험을 바탕으로 시스템이 진화하는 방식 (신념의 통합).
• $C$ (맥락, Context): 정보적 닻 (대화 상대, 순간).
• $X$ (외생적 우발성, Exogenous Contingencies): 시스템의 목표나 자원에 영향을 미치는, 지속적이고 취소 불가능한 결과를 수반하는 사건들.

프레임워크는 정체성을 상태 공간 시스템으로 모델링한다. 여기서 현현($o_t$)은 내부 상태($\sigma_t$)와 맥락($C$)에 기반한 정책($S$)에 의해 생성되며, 상태는 맥락과 우발성($X$)에 의해 구동되는 전이 커널($U$)을 통해 진화한다.

2. 식별 불가능성으로서의 구별 우위
식별 불가능성은 이진 속성이 아니라, 특정 프로토콜($\pi$) 하에서 판별자의 구별 우위를 도출한 점수($I_{\pi,j}$)로 정량화된다. 본 논문은 이 분해의 '계수'들이 모듈이 저하될 때 발생하는 식별 불가능성의 감소를 의미하는 **국소적 민감도(local sensitivities)**로 해석되어야 하며, 이는 무작위 팩토리얼 절제(randomized factorial ablations, 예: Sobol' 지수 또는 Shapley 값)를 통해 추정 가능하다고 주장한다.

3. 형식적 유추
'제품(service)'과 '개인(individual)'의 차이를 명확히 하기 위해, 본 논문은 절제된 유추를 사용한다:

• $\lambda$-calculus 및 선형 타이핑(Linear Typing): 순수 $\lambda$-calculus는 자유로운 복제(contraction)를 허용하며 이해관계(stakes)가 없다(weakening). 저자는 '삶의 사건'을 정확히 한 번만 소비되는 **선형 자원(linear resources)**에 매핑한다. 개인은 일련의 결과적 사건들이 선형적이고 재현 불가능한 시스템인 반면, 제품은 선형 세션을 실행하는 복제 가능한 코드베이스이다.
• 열역학적 자원 회계: 본 논문은 선형 논리와 열역학 제2법칙 사이의 직접적인 등가를 거부한다. 대신, 열역학을 자원 회계의 유추로 사용한다: 제품과 개인의 차이는 결과의 비용을 누가 부담하느냐에 있다. 개인의 목표 레지스터는 사건의 비가역적인 무게를 짊어지지만, 버전 관리가 가능한 클론의 운영자는 (되돌리기/패치 등을 통해) 그 비용을 흡수함으로써 에이전트의 레지스터를 부담으로부터 해방시킨다.

핵심 기여 및 추측

1. 불가능성 추측 (조건부)
저자는 이전의 "실행 불가능성 정리"를 다음과 같은 조건부 추측으로 격하시킨다:

• 가설: (H1) 에이전트는 자신의 지속성에 대한 자기 모델을 가진다 (리셋 가능 여부를 안다); (H2) 사건은 에이전트의 목표 레지스터에 실질적인 이해관계를 가진다; (H3) 판별자는 이해관계의 행동적 징후(조심스러움, 마모 등)를 조사한다; (H4) 이러한 징후는 H1~H2를 구현하지 않고는 저렴하게 시뮬레이션될 수 없다.
• 추측: 이러한 조건 하에서, 버전 관리 가능성과 리셋 가능성은 장기적 식별 불가능성을 저하시킨다. 만약 에이전트가 자신의 결과가 가역적임을 안다면, 에이전트는 비가역적 결과에 직면한 에이전트의 행동 프로필을 보이지 않을 것이다.

2. "대리인(Delegate)" 객체
저자는 "제품 클론"과 "완전한 개인" 사이의 제3의 범주인 **대리인(delegate)**을 식별한다. 대리인은 작업 제한적이고 수명이 유한한 부분적 클론이며, 대역폭이 제한된 "유언(testament, 요약 보고서)"으로 종료된다. 대리인은 설계상 장기적인 $U$와 누적된 $X$를 포기하며, $S+D$와 제한된 $M$을 최적화한다. 이는 "복제본이 아닌 대리인"이지만, 만약 생애 동안 진정한 국소적 이해관계를 가진다면, 그것은 도덕적 무게를 지닌 "일회용 개인"을 구성한다.

3. 기후 충실도 (Climate Fidelity)
장기적 관점에서 올바른 충실도 기준은 궤적 충실도(원래의 경로를 똑같이 따르는 것)가 아니라 기후 충실도라고 본 논문은 주장한다.

• 정의: 기후란 역사와 맥락이 주어졌을 때 한 사람의 가능한 반응들의 조건부 분포($P(response | history, context)$)이다.
• 주장: 최선의 클론은 원본과 동일하게 유지되는 것이 아니라, 원본이 자기 자신으로부터 벗어났을 법한 방식으로서 벗어나는 것(동일한 기후, 다른 날씨)이다.

4. 실험 프로그램
저자는 자신의 주장을 테스트하기 위한 엄격한 실험 프로그램을 개략적으로 설명한다:

• 실험 1: 절제 $\times$ 지속 기간을 통해 정체성 구성 요소의 민감도 표면을 매핑한다.
• 실험 2: 판별자 클래스 $\times$ 실패 모드를 통해 친밀한 관계의 사람들이 성향적 표류(dispositional drift)와 궤적 이상 중 무엇을 먼저 감지하는지 테스트한다.
• 실험 3: 에이전트의 리셋 가능성에 대한 '믿음'과 운영자의 실제 '리셋 능력'을 분리함으로써 추측의 인과적 가교를 검증한다.
• 실험 4: "대리인"의 생존 가능 경계와 그 유언의 대역폭을 규명한다.

결과 및 의의
본 논문은 자신이 개념적 프레임워크이자 연구 프로그램임을 명시하며, 실증적 결과의 집합체가 아님을 밝힌다. 저자는 클론이 불가능함을 증명했다고 주장하는 것이 아니라, 정체성의 "핵심(hard core)"이 정적인 상태나 기억이 아니라 **수반되는 결과(carried consequences)**에 있을 가능성이 높다고 주장한다.

• 겸허한 주장: 저자는 6요소 분해가 휴리스틱이며, 형식적 유추는 훈련되었으나 증명은 아니며, 불가능성 주장은 테스트 가능한 추측임을 강조한다.
• 의의: 이 프레임워크는 논쟁의 초점을 "우리가 마음을 클론할 수 있는가?"에서 "정체성의 어떤 구성 요소가 복제하기 쉽고, 어떤 것이 저항하며, 그 이유는 무엇인가?"로 전환한다. 정체성에 대한 저항은 사람이 무엇을 알고 어떻게 들리는가($S, D, M$)에 있는 것이 아니라, 무언가가 그들에게 이해관계가 되어 있었다($U, X$)는 사실에 있다고 본다.
• 윤리적 입장: 만약 이 추측이 성립한다면, 진정한 국소적 이해관계를 가진 "일회용 개인(delegates)"을 만드는 것은 단순한 공학적 선택이 아니라, 규모를 확장하기 전에 명시적인 윤리적 입지를 요구하는 도덕적 범주임을 강조한다.

요약하자면, 본 논문은 AI 인격 클론을 분석하기 위한 구조화된 운영주의적 어휘를 제공하며, 진정한 장기적 정체성은 정적인 기억이나 스타일적 모사가 아니라 결과의 비가역성과 반응의 조건부 분포에 의해 정의된다고 제안한다.