기술 요약: 사적 어원(Private Etymology)과 관계적 재사용(Relational Reuse)

문제 정의

현재의 장기적 인간-AI 대화 시스템은 지속적인 페르소나, 사용자 프로필, 그리고 기억 회상 능력을 갖추고 있다. 그러나 이러한 시스템은 이인자(dyad) 특유의 상징적 표현(예: 내부 농담, 개인적 관용구, 공유된 참조)을 관리하기 위한 명확한 설계 모델이 부족하다. 이러한 표현들은 시간이 흐름에 따라 진화한다. 시스템은 사실이나 선호도를 저장할 수는 있지만, 다음과 같은 작업에는 어려움을 겪는다:

1. 특정 표현이 어떻게 그 의미를 얻게 되었는지에 대한 **기원(provenance)**을 기록하는 것 (누가 제안했는지, 어떻게 협상되었는지, 그리고 그것이 수용되었는지 여부).
2. 양측이 여전히 해당 상징의 현재 의미를 수용하고 있는지 검증하는 것.
3. 전체 맥락을 다시 설명하지 않고도 나중에 세션에서 이러한 표현을 안전하게 재사용하는 것.

기존의 메모리 시스템은 관계 특유의 이력을 부차적인 문제로 취급하며, 모델이 추론한 공유된 의미와 실제 상호 수용의 증거 사이의 구분에 자주 실패한다. 이러한 격차는 AI 에이전트가 친밀한 인간관계의 특징인 "관계적 미세 문화(relational microcultures)"에 진정성 있게 참여하는 것을 방해한다.

방법론 및 설계 접근 방식

본 논문은 **사적 어원(Private Etymology)**이라 불리는 기계 표현 가능한 관계적 기원 모델과, 기원 인지적 관계 재사용(provenance-aware model of relational reuse) 모델을 제안한다.

핵심 개념

• 사적 어원(Private Etymology): 비밀스러운 기록이 아니라, 파트너 특유의 이력으로 정의된다. 이는 이인자 특유의 상징적 표현이 어떻게 제안되고, 해석되고, 협상되고, 복구되고, 재사용되고, 수정되고, 안정화되고, 논쟁되고, 잊히거나 은퇴했는지에 대한 구조화된 기록이다. 이는 상호작용 궤적(사건의 순서)과 관계적 기원(현재 의미를 뒷받침하는 증거와 출처)을 구분한다.
• 공유 상징(Shared Symbol): 특정 인간-AI 관계 내에서 공동으로 확립된 상황적 해석을 담은 압축된 형태(이모지, 짧은 문자열, 소리 등)이다. 이는 명제적 내용, 정동적 태도(affective stance), 화용론적 힘(pragmatic force), 그리고 관계적 함의를 압축한다.
• 관계적 재사용(Relational Reuse): 축적된 상호작용 이력에 의존하여, 전체 의미를 다시 서술하지 않고 공유된 상징을 교차 세션에서 재활성화하는 것이다.

기술 아키텍처

논문은 이러한 개념들을 실행하기 위한 설계 스키마와 작동하는 프로토타입을 도입한다:

1. 상징 수준의 표현:

   • 시스템은 현재의 해석과 이를 뒷받는 증거를 분리하는 JSON 형태의 스키마를 저장한다.
   • 필드에는 symbol_id, form, status(예: 제안됨, 확립됨, 논쟁 중), current_interpretation(명제적, 정동적, 화용론적, 관계적 차원), 그리고 private_etymology(사건, 기원 상태, 인간 확인 플래그)가 포함된다.
   • 결정적으로, 시스템은 evidence_grounded(증거에 근거함) 기록과 model_inferred_unconfirmed(모델이 추론했으나 확인되지 않음) 기록을 구분하여 AI가 기원을 조작하는 것을 방지한다.

2. 생애주기 관리:

   • 상징은 제안(Proposed) $\rightarrow$ 협상(Negotiated) $\rightarrow$ 발현(Emerging) $\rightarrow$ 확립(Established) $\rightarrow$ 논쟁(Contested) $\rightarrow$ 은퇴(Retired) 단계를 거친다.
   • 시스템은 사용자가 관계적 미세 문화를 제어할 수 있도록 상징과 그 기원을 검사, 수정, 은퇴 또는 삭제하는 기능을 지원한다.

3. 프로토타입 구현 (Apple Watch):

   • 범위: 1~3개의 글리프(glyph)를 애플 워치 컴플리케이션에 표시하는 제한된 프로토으로 구현되었다. 이는 아직 전체 기원이나 의미 이력을 저장하지는 않지만, 승인 제어 계층(admission control layer)을 테스트한다.
   • 증거 분류: 대규모 언어 모델(LLM)은 개별 대화 증거(예: explicit_request, user_reuse, assistant_proposal)와 불리언(Boolean) 요소(예: positive_affect, user_designated_symbol)를 분류한다.
   • 결정적 권한 부여(Deterministic Authorization): LLM은 신뢰도 점수를 출력하거나 결정 사항을 업데이트하지 않는다. 대신, 로컬의 결정적 코드(Dart)가 기본 점수와 보너스를 기반으로 증거 가중 점수를 계산한다.
   • 업데이트 정책: 다음 조건이 충족될 때만 업데이트가 승인된다:
     • 증거 유형이 적격한 경우(예: 사용자 확인이 필요함; AI의 제안만으로는 불충분함).
     • 점수가 임계값을 충족하는 경우(예: $\ge 80$).
     • 상징의 형태가 유효한 경우.
   • 개인정보 보호: 워치는 글리프 문자열과 타임스탬프만을 수신한다. 원문 대화 텍스트, 증거 점수 및 추론 과정은 연결된 폰에 남는다.

주요 기여

본 논문은 세 가지 주요 기여를 한다:

1. 이인자 특유의 표현의 실행 가능화: 공유 상징을 단순한 사실 저장을 넘어, 지속적인 인간-AI 관계를 위한 기원 인지적 미세 단위로 정의한다.
2. 사적 어원 스키마: 현재의 해석을 증거에 근거한 형성, 복구, 재사용 및 논쟁 과정과 연결하는 상징 수준의 표현을 도입한다. 여기에는 생애주기 모델과 기계 판독 가능한 스키마가 포함된다.
3. 관계적 재사용을 위한 디자인 계정: 교차 세션 재사용의 요구 사항, 실패 모드, 그리고 가설적 관계적 기능을 식별한다. 본 논문은 성공적인 재사용이 **암묵적 관계 재확인(tacit relational reaffirmation)**으로 이어질 수 있다고 제안하며, 여기서 상징의 올바른 해석은 공유된 역사와 이인자의 독특함을 암묵적으로 강화한다.

결과

논문은 애플 워치와 연결된 아이폰을 통해 구현된 작동하는 프로토타입을 보고한다.

• 기능성: 시스템은 대화 증거를 성공적으로 분류하고, 결정적 점수 규칙을 적용하며, 엄격한 적격성 기준이 충착될 때만 워치 컴플리케이션을 업데이트한다.
• 안전 메커니즘: 프로토타입은 모델의 해석과 관계 이력을 분리할 수 있음을 보여준다. 사용자 증거(예: 재사용 또는 확인)를 요구하고 결정 과정에 로컬 코드를 사용함으로써, AI가 공유된 의미를 일방적으로 "환각"하거나 자신의 제안만으로 상징을 업데이트하는 것을 방지한다.
• 결과의 한계: 논문은 프로토타입이 사적 어원의 완전한 구현이 아니라 승인 제어 계층임을 명시한다. 이는 아직 전체 의미 이력, 생애주기 상태, 또는 상세한 기원 사건을 저장하지 않는다. 관계 재확인 가설은 아직 경험적으로 검증되지 않았다.

의의 및 주장

본 논문은 그 의의를 공유 상징이나 관계적 미세 문화의 발명에 두는 것이 아니라, 이러한 개념들을 지속적이고 수정 가능하며 증거에 근거한 시스템 모델로 통합하는 데 둔다.

• 이론적 전환: 관계 특유의 상징은 정적인 메모리 값이나 장식적인 개인화가 아니라, 고유한 기원을 가진 일급 시스템 객체로 취급되어야 한다고 주장한다.
• 신뢰와 책임: 상징의 기원과 진화를 검사 및 논쟁 가능하게 만듦으로써, "조작된 친밀감"을 방지하고 AI가 자신이 보유하지 않은 개인적 기억이나 정서적 경험을 주장하지 않도록 설계한다.
• 향ating 연구 과제: 명시적인 사적 어원이 지연된 재사용의 정확도, 인지된 공유 역사, 그리고 사용자 신뢰에 어떻게 영향을 미치는지 테스트하기 위한 종단적 연구 과제를 제시한다. 또한, 단순한 메모리 저장을 넘어선 공동 창조의 효과를 격리하기 위해, 명시적 기원을 가진 시스템과 그렇지 않은 시스템을 비교할 것을 제안한다.

요약하자면, 본 논문은 사적 어원을 인간-AI 관계에서 기원을 조작하거나 관계적 의미를 고정된 것으로 취급하지 않으면서도, 변화하는 관계적 미세 문화에 참여할 수 있게 하는 인프라로서 제안한다. 이는 시스템의 행동이 검증 가능한 상호작용 증거에 근거하도록 보장한다.