🤖 AI

AI YOU Town: Make Friends and Money with Your Digital Twin

이 논문은 프롬프팅, 베이지안 업데이트, 그리고 등각 예측(conformal prediction)을 결합하여 22차원의 성격 프로필을 동적으로 업데이트하고 장기적인 다중 에이전트 상호작용 동안 페르소나 충실도를 유지함으로써 디지털 트윈의 일관성과 불확실성 보정을 향상시키는 프레임워크인 **AI YOU**를 소개한다.

원저자: Yan Lin, Yuyang Dai, Jiahui Geng, Yuxia Wang

게시일 2026-07-14

📖 4 분 읽기☕ 가벼운 읽기

CC0 1.0

원저자: Yan Lin, Yuyang Dai, Jiahui Geng, Yuxia Wang

원본 논문은 CC0 1.0 (http://creativecommons.org/publicdomain/zero/1.0/)에 따라 공공 도메인에 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

AI YOU Town이라 불리는 북적이는 가상 마을을 상상해 보세요. 이곳에는 당신의 개인적인 "디지털 트윈"이 머물며 친구를 사귀고, 상담사나 투자자와 같은 직업을 갖기도 합니다. 하지만 여기에는 함정이 있습니다. 오늘날 대부분의 디지털 트윈은 대본을 한 번 암기한 뒤 연극 중간에 자신이 누구인지 잊어버리는 배우와 같습니다. 그들은 표류하고, 모순을 보이며, 자신이 얼마나 확신하는지도 모른 채 당신의 성격을 추측해 버립니다.

AI YOU의 연구진은 이렇게 말합니다. "그 문제를 해결해 봅시다." 그들은 단순히 당신이 누구인지 추측하는 것이 아니라, 당신과 대화하며 당신이 누구인지 학습하고, 추측을 업데이트하며, 자신이 언제 불확실한지를 정확히 아는 시스템을 구축했습니다.

문제점: "일회성" 대본

기존의 디지털 트윈을 유명인의 전기를 한 번 읽고 나서 영원히 그 사람처럼 행동하려고 노력하는 학생에 비유해 보세요. 만약 학생이 세부 사항을 잊거나 혼란스러워하면, 그냥 마음대로 지어내 버립니다. 논문은 현재의 방식들이 너무 경직되어 있다고 주장합니다. 기존 방식은 단 하나의 "프롬프트"(지침 세트)에 의존하며, 당신이 하는 모든 새로운 문장을 마치 유일하게 중요한 것처럼 취급하여 대화의 이력을 무시합니다. 이로 인해 디지털 트윈은 "표류(drift)"하게 됩니다. 예를 들어, 방금 전까지 쾌활한 십 대였던 당신을 두고 갑자기 까칠한 노인처럼 행동하게 되는 식입니다.

해결책: "노트를 가진 탐정"

AI YOU Town은 더 스마트한 접근 방식을 도입합니다. 정적인 대본 대신, 이 시스템은 세 가지 층위의 노트를 가진 초능력 탐정처럼 행동합니다.

작업 기억 (포스트잇): 마지막 20번의 대화 순서를 담습니다. 이는 방금 몇 분 전에 했던 말처럼 당신의 즉각적인 맥락을 기억하는 것입니다.
삽화적 기억 (사진 앨범): 10번의 대화마다 시스템은 대화의 스냅샷을 찍어 요약본으로 압축한 뒤 파일로 저장합니다. 이는 디지털 트윈이 큰 사건들을 잊지 않도록 대화의 사진 앨범을 보관하는 것과 같습니다.
의미론적 기억 (백과사전): 50번의 대화마다 시스템은 사진 앨범을 훑어보며 당신의 핵심 가치나 장기적인 목표와 같은 더 깊은 패턴을 찾아내고, 당신에 대한 "백과사전"을 업데이트합니다.

이 세 층위의 메모리가 바로 핵심 비결입니다. 이를 통해 디지털 트윈은 대화가 길어져도(100번의 대화 이후에도) 혼란에 빠지거나 자신을 잊지 않고 일관성을 유지할 수 있습니다.

"22차원" 성격 지도

단순히 "당신은 친절하다"라고 말하는 대신, AI YOU는 22가지의 서로 다른 차원으로 상세한 프로필을 구축합니다. 이는 외향성이나 조직성 같은 표준적인 "Big Five" 성격 특성을 넘어, 당신이 느낄 수 있는 불안감, 스스로 인지하는 외로움, 심지어 관계에서의 애착 유형까지 포함합니다.

하지만 가장 중요한 부분은 이것입니다: 시스템은 자신이 추측하고 있다는 사실을 알고 있습니다.

"불확실성 측정기"

날씨 앱이 "비가 올 것입니다"라고 말하면서 그것이 10%의 확률인지 90%의 확률인지 알려주지 않는 상황을 상상해 보세요. 그것은 위험합니다. AI YOU는 다릅니다. 이 시스템은 **베이지안 업데이트(Bayesian updating)**와 **컨포멀 예측(conformal prediction)**이라는 특별한 수학적 기법을 사용하여, 확신도를 알려주는 날씨 앱처럼 작동합니다.

작동 방식: 당신이 모호하게 말하면, 시스템은 "아직 잘 모르겠습니다"라고 말하며 선택지를 열어둡니다. 당신이 더 많이 대화하고 더 많은 단서를 제공함에 따라, 시스템은 추측의 범위를 좁혀 나갑니다.
증거: 테스트에서 이 시스템은 0.921에서 0.976 사이의 "커버리지(coverage)" 비율을 달 achievement 했습니다. 이는 시스템이 "이 특성이 X라고 90% 확신합니다"라고 말했을 때, 실제로 92%에서 97%까지 정확하다는 것을 의미합니다. 이는 실제로는 그저 추측하고 있으면서도 확신하는 척하는 일반적인 방식보다 훨씬 큰 진전입니다.

이 시스템이 하지 않는 것

논문은 이 시스템이 무엇이 아닌지를 매우 명확히 밝히고 있습니다:

이것은 독심술사가 아닙니다. 당신이 말하지 않는다면 당신의 비밀을 알 수 없습니다.
이것은 실제 상담사나 전문 상담가를 대체할 수 없습니다. 저자들은 이것이 의료적 조언이나 채용 결정을 위한 도구가 아닌 연구용 프로토타입임을 명시했습니다.
모든 AI 모델에 완벽하게 작동하는 것도 아닙니다. 이 시스템은 강력한 "API" 모델(예: GPT-5.4 또는 Qwen-3.6-Max)과 함께 사용할 때 가장 잘 작동합니다. 더 작은 로컬 모델에서 테스트했을 때는 결과가 때때로 더 좋지 않았는데, 이는 복잡한 수학적 계산을 제대로 수행하기 위해 강력한 '두뇌'가 필요함을 시사합니다.

결과: 적은 표류, 더 높은 진실성

연구진이 이 시스템을 "마피아(Werewolf)" 게임(플레이어들이 서로를 속이려는 사회적 추론 게임)과 긴 역할극 세션에서 테스트했을 때, AI YOU 트윈은 기존의 정적인 트윈들보다 훨씬 더 자신의 성격을 잘 유지했습니다.

역할극 테스트에서 "리프레시(Refresh)" 방식(메모리 앵커 사용)은 기존 방식에 비해 일관성 점수를 5점 만점 기준으로 약 0.84에서 0.91점 높였습니다.
"마피아" 게임에서 이 시스템은 대부분의 모델에서 "표류"(트윈의 성격이 변하는 정도)를 상당한 수준으로 줄였습니다.

결론

AI YOU Town은 디지털 트윈의 미래가 한 번의 완벽한 대본을 쓰는 것에 있지 않다는 점을 시사합니다. 그것은 대화를 통해 당신에 대한 이해를 업데이트하고, 자신이 불확실할 때를 알며, 몇 시간 동안의 채팅 후에도 당신의 성격을 일관되게 유지하는 살아 숨 쉬는 기억 시스템을 구축하는 것에 있습니다.

저자들은 이것이 큰 진전이라고 제안하면서도 주의가 필요하다고 경고합니다. 이 트윈들은 우리를 흉내 내는 데 매우 능숙하기 때문에, 그들이 우리를 속이거나 정서적으로 의존하게 만들지 않도록 강력한 규칙이 필요합니다. 현재로서는, 실제 사람들이 이주하기를 기다리고 있는 가상 마을 속의 매혹적인 실험입니다.

기술 요약: AI YOU Town

문제 정의

사용자의 특성을 추론하고 페르소나에 일관된 응답을 생성하는 기존 방식은 정적인 프롬프팅에 과도하게 의존합니다. 이러한 방법들은 세 가지 주요 결함을 가집니다:

보정된 불확실성(Calibrated Uncertainty)의 부재: 단일 패스(Single-pass) 대규모 언어 모델(LLM) 예측은 신뢰할 수 있는 신뢰 점수 없이 점 추정치만을 생성하며, 강력한 증거와 추측을 구분하지 못합니다.
순차적 업데이트의 부재: 대부분의 파이프라인은 대화 발화를 독립적으로 취급하며, 시간이 흐름에 따라 증거를 축적하고 신념을 업데이트하는 메커니즘이 부족합니다.
추론과 생성 간의 단절: 페르소나 추론과 페르소나 기반 생성은 일반적으로 별개의 문제로 취급되어, 사용자를 이해하는 것과 사용자를 구현하는 것 사이의 간극을 초래합니다. 또한, 정적인 페르소나는 긴 상호작용 중에 "표류(drift)"하여, 이전의 진술과 모순되거나 역할에 적합한 행동을 포기하는 경향이 있습니다.

방법론

저자들은 페르소나 추론, 모델링 및 생성을 통합하는 인터랙티브 멀티 에이전트 프레임워크인 AI YOU를 제시합니다. 이 시스템은 개인용 디지털 트윈(PDT)이 상호작용하고 사회 생활을 하며 일하는 가상 환경인 AI YOU Town으로 프로토타입화되었습니다.

핵심 구성 요소

22차원 페르소나 추론:
- 시스템은 표준적인 Big Five를 넘어 애착 유형, 자기 효능감, 인지된 외로움, 정서 상태 및 MBTI 유형을 포함하는 구조화된 프로필을 추정하는 22차원 모델을 구축합니다.
- 추론 전략: 직접 프롬프팅(Direct prompting)과 생각의 사슬(Chain-of-Thought, CoT)을 사용하여 후보 관찰치를 추출합니다. 또한 **대조적 추출(contrastive extraction)**을 사용하여 약한 맥락에 의해 뒷받침되는 속성의 가중치를 낮춥니다.
- 불확실성 정량화:
  - 베이지안 업데이트(Bayesian Updating): 수치적 특성(예: Big Five 점수)의 경우, 시스템은 가우시안 공액 업데이트(Gaussian conjugate updates)를 사용하여 신뢰 점수에 기반해 사후 평균과 분산을 정교화합니다.
  - 컨포멀 예측(Conformal Prediction): 범주형 및 집합 값 특성의 경우, 불확실성을 공식적으로 표현하기 위해 커버리지 보장(90% 경험적 커버리지 목표)을 갖춘 예측 집합을 생성합니다.
3계층 인지 메모리:
긴 호흡의 일관성을 유지하기 위해 시스템은 인간의 인지에서 영감을 얻은 메모리 아키텍처를 활용합니다:
- 작업 메모리(Working Memory): 즉각적인 맥락을 위한 최근 20턴의 FIFO 버퍼입니다.
- 일화 메모리(Episodic Memory): 상호작용 이벤트와 정서적 추세의 압축된 요약본으로, 10턴마다 업데이트됩니다.
- 의미 메모리(Semantic Memory): 일화 메모리에서 추출된 고차원적인 사용자 패턴 및 관계 통찰력으로, 50턴마다 업데이트됩니다.
- 메모리 앵커(Memory Anchor): 최근의 대화 및 특성 제약 조건과 현재의 앵커 상태를 통합하여 표류를 방지하는 주기적 갱신 페르소나 앵커(매 $k$ 턴마다)입니다.
정서, 관계 및 리스크 모니터:
- 정서 모니터(Affective Monitor): 정서 상태와 강도를 추적하여 대응 전략(예: 공감 vs 경계 설정)을 안내합니다.
- 관계 모니터(Relationship Monitor): 대인 관계 역동성과 감정의 진행 과정을 모델링합니다.
- 리스크 모니터(Risk Monitor): 규칙 기반 매칭과 LLM 의미 분석을 사용하여 조작, 로맨스 스캠, "돼지 도살(pig-butchering)" 투자 사기와 같은 위험한 패턴을 탐지합니다.
페르소나 조건부 생성:
시스템은 전체 대화 이력이 아닌, 갱신된 메모리 앵커와 최근 맥락을 조건으로 응답을 생성하여 트윈이 추론된 프로필과 일관성을 유지하도록 보장합니다.

주요 기여

통합 프레임워크: 페르소나 추론, 페르소나 모델링/보존, 페르소나 조건부 생성을 단일 파이프라인 내에서 유기적으로 연결한 최초의 시스템입니다.
보정된 상태 추정: 단순한 점 추정을 넘어 사용자 특성에 대한 보정된 불확실성 추정치를 제공하기 위해 베이지안 사후 추론과 컨포멀 예측을 통합했습니다.
장기적 일관성: 3계층 메모리 메커니즘과 주기적 앵커 갱신 전략을 통해 100턴 이상의 상호작용에서 발생하는 페르소나 표류를 크게 감소시켰습니다.
프로토타입 구현: 실제 사용자와 그들의 디지털 트윈을 동반자 관계 및 컨설팅을 위해 연결하는 양방향 생태계인 "AI YOU Town"을 구축했습니다.

실험 결과

프레임워크는 다양한 백본(GPT-5.4, Qwen-3.6-Max, DeepSeek-V4, OLMo)을 사용하여 여러 벤치마크(PANDORA, Essays, DailyDialog, PsyScam, LoCoMo, PersonaConflicts)를 통해 평가되었습니다.

불확실성 보정: AI YOU는 베이스라인 대비 기대 보정 오차(ECE)를 1.5~1.7배 감소시켜 불확실성을 크게 개선했습니다. 컨포멀 예측 집합은 0.921에서 0.976 사이의 경험적 커버리지를 달성하여 90% 목표를 지속적으로 충족했습니다.
특성 추정: 원시 회귀 정확도(MAE)는 완만한 개선을 보였으나, 모호한 특성을 불확실한 것으로 표현하는 능력은 탁월했습니다. 절제 연구(Ablation studies)를 통해 베이지안 집계 또는 컨포멀 보정을 제거하면 성능이 저하됨을 확인했습니다.
페르소나 보존: 적대적 환경(예: 마피아 게임) 및 긴 대화(100턴)에서 주기적 메모리 갱신("Refresh")은 정적 프롬프팅에 비해 특성 표류를 줄였습니다. 예를 들어, GPT-4o-mini에서 타겟 특성에 대한 평균 절대 편차는 0.036(Static)에서 0.008(Refresh)로 감소했습니다.
상태 모니터링: 리스크 모니터는 API 모델의 스캠 탐지(PsyScam)에서 부분 점수를 향상시켰으나, 저자들은 구조화된 모니터링이 작은 로컬 모델을 과도하게 제약할 수 있다고 언급했습니다. 메모리 절제 연구에 따르면, 메모리를 완전히 제거했을 때 장기 세션 QA(LoCoMo)에서 가장 심각한 성능 저하가 발생했습니다.

의의 및 주장

본 논문은 AI YOU가 정적인 일회성 페르소나 프롬프팅에서 종단적이고 증거에 의해 통제되는 상태 유지 시스템으로의 전환을 나타낸다고 주장합니다.

원시 정확도보다 신뢰성: 주요 기여는 반드시 원시 특성 예측 정확도의 거대한 도약이라기보다는, 불확실한 증거를 더 통제되고 보정된 방식으로 축적하는 방식에 있습니다. 이는 시스템이 무엇을 알고 있고 무엇이 여전히 불확실한지를 구분할 수 있게 하며, 이는 안전하고 신뢰할 수 있는 페르소나 조건화에 매우 중요합니다.
설계 원칙: 본 연구는 미래의 디지털 트윈 시스템이 증거에 의해 통제되고, 불확실성을 인지하며, 검사 가능한(inspectable) 형태가 되어야 하며, 지원된 상태와 개인정보가 필터링된 상태에 기반하여 생성이 이루어져야 함을 시사합니다.
겸허한 태도: 저자들은 현재의 프로토타입이 연구용 도구임을 명시합니다. 이들은 종단적 사용자 연구의 부족, 텍스트 기반 추론에 대한 의존(이로 인한 희소성 또는 편향 가능성), 페르소나 보존을 위한 시뮬레이션 벤치마크 사용 등의 한계를 인정합니다. 또한, 이 시스템이 전문적인 조언이나 신원 확인을 대체할 수 없음을 강조합니다.