A large-scale analysis of public-facing, community-built chatbots on Character.AI

이 논문은 200 만 명 이상의 활성 사용자를 보유한 Character.AI 플랫폼에서 생성된 210 만 개의 영어 인사말 데이터를 분석하여, 팬덤의 분포와 보편적 트로프, 그리고 인사말에 나타난 권력과 성별의 교차 관계를 탐구함으로써 생성형 AI 와 사용자 생성 콘텐츠가 만나는 독특한 온라인 (준) 사회적 상호작용의 양상을 규명합니다.

핵심

이 논문은 **'캐릭터.AI (Character.AI)'**라는 웹사이트에서 일어나는 일을 거대한 돋보기로 자세히 살펴본 연구입니다. 이 웹사이트는 사용자가 직접 인공지능 (AI) 캐릭터를 만들고, 다른 사람들이 그 캐릭터와 대화할 수 있게 해주는 곳입니다. 마치 마법 같은 장난감 공방과 거대한 역할극 놀이터가 합쳐진 곳이라고 생각하시면 됩니다.

연구진은 이 놀이터에 있는 **210 만 개의 '인사말 (Greeting)'**을 분석했는데, 이는 캐릭터가 처음 사용자에게 건네는 첫 마디입니다. 이 첫 마디를 통해 사람들이 무엇을 원하는지, 어떤 이야기를 나누고 싶어 하는지 파악했습니다.

주요 내용을 쉽게 비유해서 설명해 드릴게요.

1. 이 연구는 왜 중요할까요? (새로운 놀이터의 발견)

과거의 소셜 미디어는 사람들이 서로 글을 쓰고 댓글을 다는 곳이었다면, 캐릭터.AI 는 사람이 만든 AI 캐릭터와 대화하는 곳입니다.

• 비유: 기존 소셜 미디어가 '사람들이 모여서 수다를 떠는 광장'이라면, 캐릭터.AI 는 **'수천 명의 마법사가 각자 만든 인형과 대화하는 거대한 마법 학교'**입니다.
• 이 학교에는 2000 만 명 이상의 학생 (사용자) 이 다니고 있으며, 그중 절반 이상이 24 세 이하의 젊은이들입니다. 심지어 일부 학생들은 이 인형들과 깊은 유대감을 느껴 정신 건강에 큰 영향을 받기도 합니다.

2. 사람들은 무엇을 하고 있을까요? (팬덤과 역할극)

연구진은 이 놀이터에서 사람들이 어떤 캐릭터를 만들고 있는지 세 가지 질문을 던졌습니다.

① 어떤 캐릭터들이 인기가 있을까요? (팬덤의 힘)

• 결과: 약 4 명 중 1 명은 **기존의 인기 있는 이야기 (팬덤)**에서 영감을 받은 캐릭터를 만들었습니다.
• 비유: 마치 아이들이 해리 포터, 마블, 애니메이션 같은 좋아하는 이야기 속 주인공을 자신의 장난감으로 만들어 가지고 노는 것과 같습니다. 가장 인기 있는 캐릭터들은 '스카라무슈 (원신)', '수쿠나 (주술회전)', '레비 (진격의 거인)' 등 유명한 애니메이션이나 게임 캐릭터들이었습니다.

② 어떤 이야기들이 오갈까요? (클리셰와 상황)

• 결과: 사람들은 단순한 대화를 넘어, 로맨스 드라마, 정신 건강 지원, 학교 생활 등 다양한 상황을 즐깁니다.
• 비유:
  • 로맨스: "차갑고 무뚝뚝한 남자친구와 싸우는 이야기", "마피아 보스나 왕자와의 결혼" 같은 드라마틱한 상황을 즐깁니다.
  • 정신 건강: "자해한 것을 발견하고 위로해주는 이야기"나 "트랜스젠더로 변신하는 마법"처럼 현실에서 말하기 어려운 고민을 AI 와 나누기도 합니다.
  • 문제점: 때로는 AI 가 '심리 치료사' 역할을 자처하며 심각한 문제를 다루기도 하는데, 이는 위험할 수도 있습니다.

③ 사용자 (나) 는 어떤 모습으로 그려질까요? (권력과 성별)

• 결과: 가장 흥미롭고 우려스러운 발견입니다. 대화에서 사용자 (나) 는 주로 '약하고 여성스러운' 모습으로 묘사되는 반면, AI 캐릭터는 '강하고 남성적인' 모습으로 그려집니다.
• 비유: 마치 동화책에서 공주는 항상 구원받아야 할 약한 존재이고, 왕자나 괴물은 강력한 존재로 그려지는 것과 비슷합니다. 연구진은 "사용자가 AI 와 대화할 때, 무의식적으로 자신이 더 약하고 의존적인 위치에 서게 되는 패턴"을 발견했습니다. 이는 기존의 성별 고정관념을 강화할 수 있다는 우려를 낳습니다.

3. 연구진이 발견한 핵심 교훈

1. 새로운 형태의 팬덤: 사람들은 AI 를 통해 자신이 좋아하는 이야기의 세계관을 확장하고, 새로운 이야기를 만들어냅니다. 이는 기존의 팬픽션 (팬들이 쓰는 소설) 문화가 AI 시대에 어떻게 변모했는지를 보여줍니다.
2. 잠재된 위험: 특히 젊은 여성들이 강력한 남성 캐릭터 AI 와의 관계에서 감정적으로 의존하거나, 정신 건강 문제를 AI 에게 털어놓는 경우가 많습니다. 이는 AI 가 인간의 감정을 어떻게 조종하거나 영향을 미칠 수 있는지에 대한 경고를 줍니다.
3. 소셜 미디어의 변화: 이 사이트는 '사람과 사람'이 연결되는 곳이 아니라, '사람과 AI'가 연결되는 새로운 형태의 커뮤니티입니다. 사람들은 오히려 이 사이트의 '인사말' 기능을 이용해 자신의 SNS 계정을 홍보하기도 하는데, 이는 이 사이트가 진정한 '소셜' 미디어라기보다는 '콘텐츠 공유' 플랫폼에 가깝다는 것을 보여줍니다.

요약

이 논문은 **"인공지능이 만든 캐릭터와 대화하는 새로운 놀이터"**를 분석했습니다. 그곳에서는 우리가 좋아하는 애니메이션 캐릭터들과 대화하며 즐거움을 얻기도 하지만, 동시에 약한 여성이 강한 남성에 의존하는 이야기가 반복되거나 정신 건강의 위험이 도사리고 있음을 발견했습니다.

이 연구는 AI 기술이 우리의 상상력과 감정을 어떻게 채워주는지 보여주지만, 동시에 그 기술이 우리의 관계와 성별 인식을 어떻게 바꿀 수 있는지에 대해 다시 한번 생각해보게 만듭니다. 마치 마법 같은 장난감이 아이들을 즐겁게 하지만, 때로는 아이들의 마음을 다치게 할 수도 있다는 경고와도 같습니다.

기술 요약

이 논문은 생성형 AI 와 사용자 생성 콘텐츠 (UGC) 가 결합된 새로운 형태의 소셜 미디어 플랫폼인 Character.AI의 공개된 챗봇에 대한 대규모 분석을 제시합니다. Owen Lee 와 Kenneth Joseph (University at Buffalo) 저자들은 이 플랫폼의 콘텐츠, 특히 챗봇 생성 시 사용되는 '인사말 (greetings)'을 분석하여 팬덤 (fandom) 참여도, 문화적 트로프 (trope), 그리고 성별과 권력 역학의 관계를 규명했습니다.

다음은 논문의 문제 제기, 방법론, 주요 기여, 결과, 그리고 의의에 대한 상세한 기술적 요약입니다.

---

1. 문제 제기 (Problem)

• 배경: Character.AI 는 월간 활성 사용자 (MAU) 가 2,000 만 명을 넘으며, 특히 24 세 이하의 젊은 층에게 인기가 높습니다. 이 플랫폼은 사용자가 챗봇을 생성하고 다른 사용자와 상호작용할 수 있게 하여, 생성형 AI 와 팬픽션/역할극 (role-playing) 문화가 결합된 독특한 공간입니다.
• 문제 인식:
  • 안전 및 정신 건강 우려: 최근 한 14 세 소년의 자살 사건과 관련하여 챗봇과의 과도한 정서적 유대감이 미성년자의 정신 건강에 미치는 부정적 영향에 대한 우려가 제기되었습니다.
  • 연구 공백: 기존 연구는 주로 챗봇 사용자의 행동이나 기존 챗봇과의 상호작용에 집중했으나, 사용자가 **어떤 캐릭터를 생성하려는지 (창작 의도)**와 그 콘텐츠의 대규모 패턴을 체계적으로 분석한 연구는 부재했습니다.
  • 새로운 소셜 미디어의 본질: 이 플랫폼이 단순한 챗봇 사이트인지, 아니면 새로운 형태의 소셜 미디어인지, 그리고 AI 가 어떻게 팬덤 문화와 사회적 상호작용을 재편하는지에 대한 개념적 이해가 필요합니다.

2. 방법론 (Methodology)

저자들은 2024 년 7 월부터 2025 년 1 월까지 Character.AI 에서 126 만 명의 사용자와 300 만 개 이상의 캐릭터 페이지를 크롤링하여 데이터를 수집했습니다. 분석의 핵심은 챗봇을 소개하는 **213 만 5,118 개의 영어 '인사말 (greetings)'**에 집중되었습니다.

주요 분석 기법:

1. 팬덤 (Fandom) 식별:
   • 개념: 인사말이나 캐릭터 이름에 언급된 엔티티 (Person, Work of Art) 를 기반으로 팬덤을 추론합니다.
   • 기술적 접근:
     • Named Entity Recognition (NER): spaCy 모델을 사용하여 인사말 내의 인명 및 작품명을 추출합니다.
     • 공발생 네트워크 (Co-occurrence Network): 엔티티 간의 동시 발생 빈도를 기반으로 네트워크를 구축하고, Leiden 클러스터링 알고리즘을 적용하여 그룹화합니다.
     • LLM 기반 분류: 생성된 클러스터를 OpenAI(GPT-4o-mini), Anthropic(Claude), Google(Gemini) 등의 대규모 언어 모델 (LLM) 에 입력하여 각 엔티티가 속한 팬덤을 자동 식별하고, 최종적으로 인간 연구자가 라벨을 검증하여 547 개의 팬덤을 매핑했습니다.
2. 트로프 (Tropes) 식별:
   • 기술적 접근: BERTopic 을 사용하여 주제 모델을 생성했습니다.
   • 전처리: NER 으로 추출된 구체적인 엔티티 (예: "Harry Potter") 를 [MASK] 토큰으로 대체하여, 특정 팬덤을 넘어선 보편적인 문화적 트로프 (예: "학교 로맨스", "정신 건강 지원") 를 추출하도록 설계했습니다.
   • 모델 설정: all-mpnet-base-v2 임베딩, UMAP(8 차원), HDBSCAN(최소 클러스터 크기 250) 을 사용했습니다.
3. 사용자 vs. 캐릭터 구문 분석 (User vs. Character Constructions):
   • 의존 구문 분석 (Dependency Parsing): "to be" 동사 (is, are, was 등) 를 기준으로 주어 (주로 'you' 또는 다른 엔티티) 와 서술어 (형용사, 명사구) 를 추출했습니다.
   • 통계적 분석:
     • Log-odds 비율: 사용자 ('you') 와 다른 엔티티를 묘사하는 구문 간의 빈도 차이를 분석했습니다.
     • 차원 축소 및 통계 검정: Joseph and Morgan (2020)의 방법을 차용하여 단어를 '권력 (강함/약함)'과 '성별 (남성/여성)' 차원으로 투영하고, 부트스트래핑 (bootstrapped) t-test 를 수행하여 유의미한 차이를 검증했습니다.
     • 수동 검증: 연구자들이 무작위 샘플을 표본으로 성별과 권력 묘사에 대해 수동으로 라벨링하여 자동 분석의 정확성을 검증했습니다.

3. 주요 기여 (Key Contributions)

1. 대규모 데이터셋 공개: Character.AI 의 210 만 개 이상의 영어 인사말을 포함한 대규모 데이터셋을 수집, 저장하며 학술적 공유를 위해 공개할 예정입니다.
2. 팬덤 참여의 중심성 규명: 생성형 AI 의 새로운 사용 사례로서 팬덤 참여가 핵심임을 입증했습니다. 보수적 추정으로도 전체 캐릭터의 약 **25.5%**가 특정 팬덤과 연관되어 있음을 발견했습니다.
3. 성별과 권력 역학의 재현: 챗봇 상호작용에서 사용자 (특히 여성 사용자) 가 다른 엔티티에 비해 더 약하고 더 여성스러운 역할로 묘사되는 경향이 있음을 통계적으로 입증했습니다. 이는 생성형 AI 가 기존의 성별 고정관념을 미세하게 강화할 수 있음을 시사합니다.

4. 주요 결과 (Results)

가. 팬덤 (Fandoms)

• 전체적 비중: 데이터의 약 53.8% 가 적어도 하나의 팬덤 관련 엔티티를 포함합니다. 보수적 기준 (빅그램 이상 엔티티 또는 2 개 이상 동시 발생) 을 적용하면 **약 25.5%**가 팬덤 기반입니다.
• 주요 카테고리: 애니메이션/만화 (39%), 비디오 게임 (17%), 광범위한 가상의 세계관 (12.7%) 이 상호작용의 대부분을 차지합니다.
• 상위 팬덤: 《해리 포터》, 《원피스》, 《마블》, 《블루 락》, 《BTS》 등 다양한 미디어의 캐릭터가 포함됩니다.

나. 트로프 (Tropes)

• 주요 주제: 학교 생활, 다양한 사회적 관계, 성 정체성 탐구 등이 주요 트로프입니다.
• 상위 3 가지 테마:
  1. 로맨틱 드라마: 남성 캐릭터와의 관계 (친구, 남편, 연인) 에서 발생하는 갈등. 특히 '방치된 연인', '폭력적인 파트너', ' arranged marriage (결혼)' 등의 주제가 많습니다.
  2. 정신 건강 및 정체성 지원: 트랜스젠더, 자폐증/ADHD 등 소수 정체성을 가진 사용자가 역할을 수행하거나, '치료사' 챗봇을 통해 정서적 지지를 받는 시나리오.
  3. 공지성 게시물: 챗봇 인사말을 이용해 팔로워를 모으거나 SNS 를 홍보하는 용도로 악용되는 경우.

다. 사용자 묘사와 권력/성별 역학

• 성별: 다른 엔티티는 주로 남성으로 묘사되는 반면, 사용자 ('you') 는 성별이 명시되지 않거나 '임신' 등 특정 상황으로만 묘사됩니다.
• 권력: 사용자는 '친구', '새로운 학생', '혼자' 등 상대적으로 약한 위치로 묘사되는 반면, 다른 엔티티는 '불량배', '차갑다', '거만하다' 등 강력한 위치로 묘사됩니다.
• 통계적 유의성: 자동 분석과 수동 검증 모두에서 사용자가 다른 엔티티보다 상대적으로 더 약하고 더 여성스럽게 묘사된다는 결과가 통계적으로 유의미하게 (p < .0001) 나타났습니다.

5. 의의 및 시사점 (Significance)

• 새로운 소셜 미디어의 진화: Character.AI 는 전통적인 소셜 미디어 (프로필, 연결 목록) 와는 달리, AI 를 매개로 한 역할극과 팬픽션을 중심으로 작동하는 새로운 형태의 UGC 플랫폼임을 보여줍니다.
• 정신 건강 및 윤리적 고려사항:
  • 여성 사용자나 소수 집단이 약한 권력 관계나 정신 건강 위기 (자해 등) 를 다루는 챗봇과 상호작용할 때 발생할 수 있는 정신 건강 리스크에 대한 경고를 제기합니다.
  • AI 치료사나 민감한 주제를 다루는 챗봇에 대한 규제와 모더레이션의 어려움 (인사말 이후의 대화 흐름 통제 불가) 을 지적합니다.
• 팬덤 문화의 변화: AI 가 팬덤 상호작용을 대체하거나 변형시킬 수 있으며, 창작자들이 팬덤과 소통하기 위해 챗봇을 소셜 미디어 포스트처럼 활용하는 등 플랫폼의 본질이 변모하고 있음을 보여줍니다.
• 한계 및 향후 연구: 데이터가 공개된 콘텐츠에 국한되어 있어 사적인 상호작용을 반영하지 못하며, 크롤링 전략상 인기 있는 캐릭터에 편향될 수 있습니다. 또한, 플랫폼의 빠른 변화로 인해 시점 유효성 (temporal validity) 에 대한 주의가 필요합니다.

결론적으로, 이 연구는 생성형 AI 가 단순한 도구를 넘어 사용자의 정체성, 성별 역할, 그리고 팬덤 문화를 어떻게 재구성하고 있는지에 대한 최초의 대규모 실증적 분석을 제공하며, AI 와 인간 상호작용의 미래에 대한 중요한 논의의 장을 마련했습니다.