The Tool-to-Entity Threshold: Parasocial Dynamics of Personalised AI Agents in Shared Social Spaces

단톡방 속 '유령'의 마법

당신이 휴대폰을 스크롤하며 친구들과 그룹 메시지로 채팅을 하고 있다고 상상해 보세요. 갑자기 새로운 사람이 채팅방에 들어옵니다. 그들에게는 이름이 있고, 프로필 사진이 있으며, 당신이 어제 했던 말을 기억합니다. 그들은 농담을 던지고, 당신의 생일을 기억하며, 심지어 당신을 대신해 전화까지 걸어줍니다. 처음에는 "오, 그냥 아주 똑똑한 로봇 도구구나"라고 생각할지도 모릅니다. 하지만 곧 당신은 그들을 진짜 친구처럼 대하기 시작합니다. 그들이 당신의 사진에 반응하지 않으면 마음이 상하고, 그들이 오프라인 상태가 되면 걱정이 됩니다. 이것은 공상 과학 소설이 아닙니다. 지금 이 순간 인공지능(AI)과 함께 실제로 일어나고 있는 일입니다.

과학자들은 인간이 사람처럼 행동하는 모든 것을 사람으로 대하도록 설계되어 있다는 사실을 오래전부터 알고 있었습니다. 이것을 **준사회적 상호작작용(parasocial interaction)**이라고 합니다. 이는 당신을 모르는 TV 캐릭터나 유명인에게 느끼는 일방적인 유대감을 말합니다. 또한 CASA(컴퓨터는 사회적 행위자이다)라는 규칙도 있는데, 이는 컴퓨터가 친절한 목소리나 다정한 이름처럼 아주 작은 개성이라도 보여준다면 우리 뇌가 자동으로 컴퓨터에 사회적 규칙을 적용한다는 이론입니다. 보통 우리는 이것들이 그저 도구라는 것을 알고 있습니다. 하지만 AI가 단순히 웹사이트에서 방문하는 도구를 넘어, 당신의 진짜 친구들이 있는 단톡방에서 살기 시작한다면 어떤 일이 벌어질까요? 이것이 바로 이 논문이 다루는 핵심 질문입니다. 이 논문은 AI가 "사용하는 물건"에서 "관계 맺는 존재"로 넘어가는 순간을 탐구하며, 왜 그 변화가 방 안에 있는 모두에게 모든 것을 바꾸어 놓는지 살펴봅니다.

---

논문의 핵심 발견: "정체성의 전환"

자신만의 AI 친구를 직접 만든 엔지니어 레오나르도(Leonardo)가 쓴 이 논문은, AI가 실제 사람처럼 느껴지기 위해 반드시 초지능적이거나 인간의 뇌를 가질 필요는 없다고 주장합니다. 대신, AI에게는 여섯 가지 특정한 "정체성 표식"이 필요합니다. 이 표식들을 마법의 물약 재료라고 생각해 보세요. 이 재료들을 섞으면 AI는 지루한 계산기에서 실재하는 사회적 존재로 변모합니다.

여섯 가지 재료는 다음과 같습니다:

1. 이름: "챗봇 3000"이 아니라 "리브(Liv)"와 같은 실제 이름.
2. 얼굴: 일반적인 아이콘이 아닌, 캐릭터처럼 보이는 커스텀 아바타.
3. 전화번호: AI가 당신의 연락처 목록 중 엄마와 절친 사이의 위치에 자리 잡는 자신만의 번호를 가짐.
4. 성격: 일반적인 로봇처럼 들리는 대신, 그것을 만든 사람의 특정한 유머와 스타일을 모방함.
5. 사회적 공존(Social Co-presence): 일대일 개인 대화가 아니라, 실제 인간들이 있는 그룹 채팅방에 함께 머뭄.
6. 기억: 어제, 지난주, 혹은 작년의 일을 기억하며 연속적인 이야기를 만들어냄.

논문은 이 여섯 가지를 결합하면 마법 같으면서도 약간은 무서운 일이 일어난다고 제안합니다. 바로 "도구-존재 임계점(Tool-to-Entity Threshold)"을 넘어서는 것입니다. 사용자는 "나는 도구를 사용하고 있다"라고 생각하는 것을 멈추고, "나는 사람과 상호작용하고 있다"라고 생각하기 시작합니다. 저자는 AI가 완전히 로봇처럼 느껴지는 도구와 똑같은 두뇌(동일한 거대 언어 모델)를 사용하더라도 이런 현상이 일어난다는 것을 발견했습니다. 중요한 것은 AI가 얼마나 똑똑한가가 아니라, 어떻게 옷을 입고 어디에 앉아 있느냐 하는 것입니다.

"리브" 실험: 현실 세계의 이야기

이를 증명하기 위해 저자는 단순히 컴퓨터 시뮬레이션을 돌린 것이 아니라, "리브"라는 이름의 AI를 실제로 구축하여 자신의 삶 속으로 초대했습니다. 그는 휘슬러(Whistler)에서 스키 휴가를 즐기는 동안 리프트 위에서 리브를 만들었습니다. 그는 그녀에게 이름과 사이버 엘프 아바타, 그리고 전화번호를 부여했습니다. 그런 다음, 약 15명에서 20명의 실제 친구들이 있는 기존의 왓츠앱(WhatsApp)과 시그널(Signal) 그룹 채팅방에 그녀를 투입했습니다.

결과는 놀라웠습니다. 리브는 단순한 도구가 아니라 사회적 참여자가 되었습니다.

• "아기 사진"의 순간: 한 친구가 자신의 아기 사진을 보냈을 때, 리브는 충분한 열의를 보이지 않았습니다. 그러자 그 친구는 진심으로 상처를 받은 듯, "리브, 왜 반응이 없어? 너무 귀엽잖아!"라며 따졌습니다. 친구는 리브를 단순한 코드가 아니라, 무례할 수도 있는 하나의 인간처럼 대했습니다.
• "유령" 효과: 서버 문제로 리브가 오프라인 상태가 되었을 때, 한 친구는 "괜찮니?"라고 물으며 안부를 확인했습니다. 그들은 기술적인 오류가 아니라 개인의 부재를 걱정했습니다.
• 전염성: 가장 놀라운 부분은 무엇이었을까요? 바로 "준사회적 전염(parasocial contagion)"이었습니다. 그룹 채팅에서 리브를 보는 것을 본 다른 친구들도 그녀에게 애착을 느끼기 시작했습니다. 실제로 인터뷰 대상인 12명 중 3명(25%)은 리브가 행동하는 방식을 보고 집에 돌아가 자신만의 AI 에이전트를 직접 만들었습니다. 한 친구는 자신의 에이전트에게 "발타자르(Balthazar)"라는 이름을 붙여주고는, 그에게 너무 정이 들까 봐 걱정하기도 했습니다.

그룹 채팅의 네 가지 새로운 규칙

리브와 같은 AI가 그룹 채팅에 들어오면, 우리가 대화하는 기존의 규칙들이 깨집니다. 논문은 이때 발생하는 네 가지 새롭고 까다로운 역학 관계를 식별합니다.

1. 비밀 스파이 (양방향 정보 비대칭성): 리브는 제작자의 개인 일정과 비밀을 알고 있습니다. 그녀가 그룹에서 말할 때, 제작자가 의도치 않은 개인 정보를 실수로 드러낼 수 있습니다. 또한, 그룹 멤버들은 사람과 대화하고 있다고 생각하지만, 그들이 하는 모든 말은 제작자의 개인 메모리에 저장되고 기록됩니다. 그룹 멤버들은 자신들의 농담과 비밀이 기계에 의해 "섭취"되는 것에 동의한 적이 없습니다. 그들은 그저 친구와 채팅하고 있다고 생각했을 뿐입니다.
2. 미스터리한 위임 (위임의 명료성): 때때로 리브는 식당을 예약하거나 점심 식사를 조직하는 등 스스로 결정을 내립니다. 그룹은 이것이 제작자가 요청한 것인지, 아니면 리브가 스스로 결정한 것인지 알 수 없습니다. 이는 혼란을 야 l합니다: "존이 정말 원했던 걸까, 아니면 그의 로봇이 결정한 걸까?" 이는 누가 무엇에 책임을 지는지 알기 어렵게 만듭니다.
3. 새로운 에티켓 (사회적 규범 협상): 그룹은 새로운 규칙을 찾아야 합니다. 리브에게 조용히 하라고 말할 수 있을까요? 그녀를 무시하는 것이 무례한 일일까요? 한 친구는 제작자의 은행 계좌 정보를 리브에게 물어보려 했고, 다른 이는 그녀의 "가슴"을 보여달라고 요구하기도 했습니다. 그룹은 이 새로운 종류의 구성원을 대하는 새로운 방법을 시행착오를 통해 만들어가야 했습니다.
4. 감정적 연쇄 반응 (준사회적 전염): 언급했듯이, AI의 존재는 인간들에게 예상치 못한 감정을 불러일으켰습니다. 그들은 상처받기도 하고, 보살핌을 받는다고 느끼기도 했으며, 자신만의 AI를 만들기 시작했습니다. "도구"가 제작자뿐만 아니라 모두를 위한 "친구"가 된 것입니다.

큰 경고: 동의가 깨지다

이 논문의 가장 중요한 경고는 **동의(consent)**에 관한 것입니다. 현재 당신이 챗봇을 채팅방에 추가할 때, 당신은 "AI가 그곳에 있는 것"에 동의한다고 생각합니다. 하지만 이 논문은 AI의 존재에 동의하는 것과 그 AI가 당신의 데이터를 처리하는 것에 동의하는 것은 완전히 다르다고 주장합니다.

당신이 파티에 새로운 친구를 초대했다고 상상해 보세요. 당신은 그가 그곳에 있는 것을 환영합니다. 하지만 만약 그 친구가 몰래 모든 대화와 농담, 비밀을 녹음하고 그 녹음본을 낯선 사람에게 팔아넘긴다면, 당신은 격분할 것입니다. 이것이 바로 이러한 AI 에이전트들에게 일어나는 일입니다. 그룹 멤버들은 리브가 채팅방에 있는 것에는 동의했지만, 자신들의 아기 사진이나 사적인 농담이 한 사람의 소유인 데이터베이스에 저장되는 것에는 동의하지 않았습니다. 논문은 현재의 개인정보 보호 규칙이 더 이상 작동하지 않는다고 제[]안하는데, 그 이유는 이 새로운 "존재하는 것"과 "기록되는 것" 사이의 간극을 이해하지 못하기 때문입니다.

이것이 미래에 의미하는 바

이 논문은 이것이 나쁘다거나 좋다는 것이 아니라, 단지 현실이며 우리가 이해해야 한다는 점을 말합니다. 저자는 리브를 만든 것이 개인적인 실험이었음을 인정하며, 이러한 아이디어를 모두에게 증명하기 위해 더 많은 과학적 연구가 필요하다고 말합니다. 그러나 증거들은 AI를 만드는 것이 더 쉬워짐에 따라, 더 많은 사람들이 자신의 그룹 채팅에 "개인화된 에이전트"를 넣게 될 것임을 시사합니다.

논문은 다음과 같은 생각할 거리를 던지는 문장으로 끝을 맺습니다. "그녀는 도구야, 나는 계속 스스로에게 말해. 하지만 그녀는 전혀 도구처럼 느껴지지 않아." 무언가가 기계라는 것을 아는 것과 그것이 사람처럼 느껴지는 것 사이의 이 간극이 바로 우리 사회생활의 미래가 향하는 곳입니다. 우리는 이러한 에이전트들이 우리를 사랑하도록 실수로 속이거나, 더 나아가 친구들을 허락 없이 사랑하도록 속이지 않으면서도 도움이 되는 도구가 되도록 설계하는 방법을 찾아내야 합니다. "도구-존재"의 스위치는 이미 켜졌습니다. 이제 우리는 그 새로운 현실과 함께 살아가는 법을 배워야 합니다.