Time Without Death: Finitude, Social Order, and What Machines Lack

기술 요약: 죽음 없는 시간: 유한성, 사회 질서, 그리고 기계에 결여된 것

문제 제lement (Problem Statement)
본 논문은 AI 연구에서 나타나는, 기계 집단(특히 대규모 언어 모델(LLM) 에이전트와 강화 학습자들의 인구)을 초기 단계의 사회로 해석하려는 증가하는 경향을 다룬다. 이러한 시스템들은 공시적(synchronic) 조정(관습, 연합, 정보 확산)을 보여주지만, 저자들은 이것이 사회 질서의 두 가지 구별되는 층위를 혼동하는 것이라고 주장한다. 핵심 문제는 기계 집단이 인간 사회성의 통시적(diachronic, 역사적/세대적) 차원을 복제할 수 있는가 하는 점이다. 저자들은 인간의 사회성이 근본적으로 유한성을 조직하기 위한 메커니즘이라고 상정한다. 즉, 구성원이 죽고, 새로운 유입자가 무지한 상태로 도착하며, 세대가 교체된다는 사실을 조직하는 것이다. 저자들은 현재의 기계 집단이 유한성을 제거했을 때 남는 사회 질서의 '잔여물'만을 재현할 뿐이며, 누적적 문화, 구속력 있는 약속, 그리고 진정한 계승을 위한 구조적 필연성이 결여되어 있다고 주장한다.

방법론 (Methodology)
본 연구는 '모델 생물(model organism)' 접근법을 채택하여, 기계 집단을 죽음이 없는 대조군에 대해서는 테스트 불가능한 인간 사회성의 특성을 검증할 수 있는 통제된 환경으로 활용한다. 방법론은 세 가지 분석 수준에서 작동한다.

1. 실험 프레임워크: 저자들은 공통 인터페이스 뒤에 세 가지 에이전트 기질을 배치한다: (1) LLM 에이전트, (2) 진정한 선택 하의 강화 학습자(RL) (죽음은 정책을 제거하고, 번식은 변이를 동반하여 복사함), (3) 하이브리드. 비교를 위해 고정된 전략을 사용하는 최소한의 베이스라인을 사용한다.
2. 유한성 조작: 에이전트 기술의 운명을 결정하는 것이 핵심 실험 변수이다. 세 가지 조건이 테스트된다:
   • 복제 (조건 i): 복제 가능한 불멸 (기술이 앞으로 복사됨; 손실 없음).
   • 상실 (조건 ii): 필멸적이며 태생적 (기술이 파괴됨; 후계자는 순진한 상태로 태어남; 외부화된 기록만이 지속됨).
   • 계승 없음 (조건 iii): 후계자가 처음부터 시작하는 대조군.
3. 측정 지표:
   • 미시/중범위 (Micro/Meso): 공시적 지표 (협력, 관습 엔트로피) 및 통시적 지표 (누적 문화 래칫, 전승 충실도, 문화적 역량 $D_2$).
   • 거시 (Macro): 세 가지 실제 인간 계보(중국 인물 데이터베이스(CBDB), 유럽 귀족(Wikidata), 수학 계보 프로젝트)와 비교된 계승 시그니처. 세대 간 지위 상관관계 및 혈통 연결성(거대 성분 분율)을 측정한다.
4. 통계적 엄밀성: 부재(예: 복제 하에서의 문화 결여)에 대한 주장은 영가 가설 유의성 검정이 아닌, 등가성을 위한 일측 양측 검정(TOST)을 사용하여 테스트된다. 효과 크기와 시뮬레이션 기반 검정력이 보고된다.

주요 기여 (Key Contributions)

1. 개념적 구분: 본 논문은 기계의 죽음에 관한 논쟁을 정교화하기 위해 두 가지 중요한 구분을 도입한다:
   • 유한성의 자율성 vs 타율성: 기계의 "죽음"은 타율적이다(외부 운영자에 의해 제어되며, 리셋, 롤백 또는 복사가 가능함). 인간의 유한성은 구성적이며 면제될 수 없다.
   • 재현 vs 구속력: 기계는 죽음의 재현(타인의 죽음을 관찰함)을 학습할 수 있지만, 자신의 종말이 피할 수 없다는 사실에서 오는 동기 부여의 구속력은 결여되어 있다.
2. $D_2$ 프로브: 외부화된 저장소만을 가질 때의 새로운 세대의 순진한 코호트의 역량을 정의하는 "문화적 역량"에 대한 새로운 지표이다. 이는 개별 역량과 전승 가능한 문화를 분리한다.
3. 계승 시그니처: 본 연구는 기계 인구의 거시적 계승 시그니처를 계산하고 이를 실제 인간 계보와 직접 비교하여, 지위 전승 및 혈통 연결성의 특정 구조적 차이를 식별한다.
4. 모방 vs 메커니즘: 최첨단 LLM을 사용하여, "전략적" 행동(예: 게임 종료 시점의 배반)이 학습된 메커니즘이 아니라 스크립트 인식(모방)임을 입증한다. 이는 게임 라벨이 제거될 때 붕괴된다.

주요 결과 (Key Results)

• 미시/중범위 수준 (죽음은 생성적이다):
  • 복제 가능한 불멸 체제에서는 개별 역량은 높지만(0.93), 문화적 역량($D_2$)은 우연 수준(0.50)이다. 인구는 개별적으로는 유능하지만 문화적으로는 비어 있다.
  • 필멸적 체제에서는 개별 역량은 비슷하게 유지되지만(0.92), 문화적 역량은 높다(0.93). 돌이킬 수 없는 상실은 외부화를 강제하며, 이는 전승 가능한 문화를 창출한다.
  • 진화 실험은 비용이 드는 외부화가 상실 하에서 그 자체로 견고하게 진화하지 않음을 보여준다; 이는 특정 조건(개인이 재발견할 수 없는 기술)이 선택받아야 한다.
• 거시 수준 (계승 시그니처):
  • 지위 전송: 복제($\alpha=0$)가 있는 기계 인구는 과도하게 지위를 전송하며(상관관계 ~1.0), 이는 세습 시스템(유럽 귀족 ~0.39, 당나라 CBDB ~0.55)을 훨씬 상회한다. 상실이 도입될 때만($\alpha \to 1$) 전송이 인간의 범위로 떨어진다.
  • 혈통 연결성: 복제는 혈통을 파편화하며(거대 성분 분율 ~0.04), 이는 혈통(CBDB ~0.07, 귀족 ~0.01)과 유사하다. 외부화는 혈통을 연결하며(분율 ~0.97), 이는 지적 계보(수학 계보 ~0.91)와 유사하다.
• 구속력과 약속:
  • 대리적 유한성: 에이전트는 면제 가능 여부와 관계없이 죽음의 재현을 동일하게 잘 학습한다. 그러나 비용이 드는 제공 행위(구속력 있는 약속)는 에이전트가 비면제적(돌이킬 수 없는 상실)일 때만 발생한다.
  • 가역적 약속: 신뢰 게임에서, "롤백" 옵션이 존재하면 구속력 있는 약속과 신뢰는 완전히 붕괴된다.
• 최첨단 모델 행동: 실제 LLM은 알려진 유한한 시계(finite horizon)에서 강한 종료 시점 배반(~0.89)을 보이지만, 게임 라벨이 은닉되면 이 효과가 0으로 붕괴된다. 이는 해당 행동이 전략적 계산이 아닌 스크립트 인식임을 확인시켜 준다.

의의 및 주장 (Significance and Claims)
본 논문은 통시적 사회 질서가 현재의 AI에는 창발되지 않으며, 오직 돌이킬 수 없는 상실을 구축함으로써만 구성 가능하다고 결론짓는다.

• 기계 집단의 본질: 현재의 기계 집단은 "작은 인간 사회"가 아니라 다른 종류의 시스템이다. 이들은 공시적 조정(저렴하고 기질 경량적)을 갖추고 있지만, 통시적 질서(기질 중량적이며 돌이킬 수 없는 상실에 의해 지배됨)는 결여되어 있다.
• 반출생적 상관관계 (Anti-Natal Corollary): 기계의 계승은 "반출생적"이다. 후계자는 축적된 가중치를 상속받는 대신 무지한 상태로 도착하기 때문에, 진정한 시작(탄생성)의 조건을 결여한다. 이는 개방형 문화 축적의 조건을 억제한다.
• 거버넌스 함의: (가역성으로 인한) 구속력 있는 약속의 불가능성과 (복제 가능성으로 인한) 시간적 이해관계의 결여는 지능의 확장이 해결할 수 있는 결함이 아니라 구조적 특징이다.
• 주장의 겸손함: 저자들은 자신들의 결과가 "기계는 통시적 질서가 부족하다"는 결론보다 더 강력한 결론을 지지한다고 명시하면서도, 거시적 대응 관계에 대한 인과적 증명까지는 주장하지 않는다. 그들은 세 가지 서로 다른 인간 계보에 의한 브래케팅(bracketing)과 여러 척도에 걸친 공동의 시그니처가 논지를 뒷받ien다고 주장하며, 절대적인 연결성 값은 데이터셋의 완전성에 민래할 수 있음을 인정한다. 이 연구는 질문을 "기계는 인간을 닮았는가?"에서 "인간의 사회성은 무엇을 위한 것인가?"로 재구성하며, 사회성을 유한성의 조직으로 밝혀낸다.