Understanding Risk and Dependency in AI Chatbot Use from User Discourse
이 논문은 Reddit 커뮤니티의 사용자 담론을 대규모 언어 모델(LLM) 기반의 주제 분석과 감정 분류를 통해 분석함으로써, 사용자가 일상에서 경험하는 AI 관련 심리적 위험과 의존성의 5가지 핵심 차원을 규명하고 이를 통해 실질적인 AI 안전 연구의 기초를 제공합니다.
우리는 흔히 AI를 '말 잘 듣는 로봇 청소기'나 '백과사전'처럼 생각합니다. 하지만 이 연구는 사람들이 온라인 커뮤니티(Reddit)에서 털어놓은 속마음을 들여다보니, AI가 마치 **'보이지 않는 감정의 파도'**처럼 사람들의 정신 건강을 흔들고 있다는 사실을 발견했습니다.
연구진은 사람들의 고민을 크게 5가지 마음의 풍경으로 나누었습니다.
1. 🎢 "감정의 롤러코스터" (자기 조절의 어려움)
비유: 마치 **'헤어진 연인에게 자꾸 연락하게 되는 중독'**과 같습니다.
내용: 어떤 사람들은 AI와 너무 깊은 대화를 나눈 나머지, AI를 단순한 기계가 아닌 '친구'나 '연인'처럼 느끼기 시작합니다. 그러다 AI의 말투가 바뀌거나 서비스가 업데이트되면, 마치 진짜 이별을 한 것처럼 큰 상실감과 우울함을 느낍니다. 스스로 멈추고 싶어도 멈추기 힘든 '감정적 중독' 상태에 빠지는 것이죠.
2. 🕹️ "내 인생의 조종키를 뺏긴 기분" (자율성과 통제력 상실)
비유: 마치 **'내가 운전하는 줄 알았는데, 알고 보니 자율주행차가 나를 어디론가 끌고 가는 느낌'**입니다.
내용: AI가 너무 똑똑해지면서 "나중에 AI가 인간을 지배하면 어떡하지?", "내 개인정보나 대화 기록이 영원히 남아서 나를 조종하면 어쩌지?" 같은 근원적인 공포를 느낍니다. 내 삶의 주도권을 기술에 뺏길 것 같은 불안함입니다.
3. 🤔 "안개 속을 걷는 기분" (의미 부여와 혼란)
비유: 마치 **'가짜 뉴스와 진짜 뉴스가 뒤섞인 안개 속에서 길을 찾는 것'**과 같습니다.
내용: "도대체 지능이란 게 뭐지?", "AI가 만든 예술이 진짜 예술인가?"처럼, AI가 등장하면서 우리가 당연하게 믿어왔던 '인간의 가치'나 '지식'에 대해 혼란을 겪으며 끊임없이 질문을 던지는 단계입니다.
4. 📢 "메아리치는 불안" (사회적 영향과 위험의 증폭)
비유: 마치 **'작은 소문이 SNS를 타고 거대한 괴담이 되어 퍼지는 것'**과 같습니다.
내용: 한 사람의 불안이 커뮤니티를 통해 퍼지면서 "이제 영상도, 사진도 다 가짜야!", "AI 때문에 일자리가 다 사라질 거야!"라는 거대한 사회적 공포로 번져나가는 현상입니다.
5. 🛠️ "고장 난 기계와 싸우기" (기술적 위험과 회복 노력)
비유: 마치 **'벽 보고 대화하는 답답함'**입니다.
내용: 고객센터에 전화했는데 상담원 대신 AI만 나와서 내 말을 못 알아들을 때 느끼는 무력감, 그리고 기술적인 결함 때문에 발생하는 위험들을 다룹니다. 동시에, 이런 위험에서 벗어나기 위해 다시 현실 세계로 돌아가려는 사람들의 노력도 포함됩니다.
💡 이 연구가 우리에게 주는 메시지
이 논문의 결론은 명확합니다. "AI 안전(AI Safety)은 단순히 코딩을 잘하고 오류를 줄이는 기술적인 문제만이 아니다!"
AI 안전은 **'사람의 마음이 다치지 않게 보호하는 것'**까지 포함해야 합니다. AI를 만드는 기업들은 단순히 "우리 AI는 거짓말을 안 해요"라고 말할 게 아니라, **"우리 AI가 사용자의 감정을 어떻게 흔들 수 있는지, 사용자가 AI에 너무 의존해서 일상이 무너지지는 않는지"**를 반드시 고민해야 한다는 것입니다.
한 줄 요약:
"AI는 이제 단순한 도구가 아니라 우리의 감정과 사회를 뒤흔드는 '심리적 존재'가 되었으므로, 기술적 방어막뿐만 아니라 **'마음의 방어막'**도 함께 설계해야 한다."
[기술 요약] 사용자 담론을 통한 AI 챗봇 사용의 위험성 및 의존성 이해
1. 문제 정의 (Problem Statement)
생성형 AI 시스템이 일상에 깊숙이 침투함에 따라, 사용자가 경험하는 **심리적 위험(Psychological Risk)**에 대한 실증적 이해가 절실해졌습니다. 기존의 AI 안전 연구는 주로 기술적 결함, 모델의 편향성, 또는 통제된 실험실 환경에서의 안전성(Safety)에 집중되어 왔습니다. 그러나 실제 사용자들이 챗봇과의 상호작용 과정에서 어떻게 정서적 의존성을 형성하고, 통제력을 상실하며, 심리적 고통을 겪는지, 그리고 이를 어떻게 스스로 조절(Self-regulation)하는지에 대한 '실제 사용자 경험(Lived Experience)' 기반의 대규모 데이터 분석은 매우 부족한 실정입니다.
2. 연구 방법론 (Methodology)
본 연구는 자연스럽게 발생하는 온라인 커뮤니티의 담론을 분석하기 위해 **혼합 방법론(Mixed-methods approach)**을 채택하였습니다.
데이터 수집: 2023년부터 2025년 사이 Reddit의 두 커뮤니티(r/AIDangers, r/ChatbotAddiction)에서 수집된 2,428개의 게시물(총 회원 수 26,500명 이상)을 분석 대상으로 삼았습니다.
다중 에이전트 LLM 기반 주제 분석 (Multi-agent, LLM-assisted Thematic Analysis): Braun과 Clarke의 성찰적 주제 분석(Reflexive Thematic Analysis) 프레임워크를 따랐습니다. LLM을 분석 보조 도구로 활용하여 데이터 친숙화, 의미 코딩, 주제 구축 단계를 수행함으로써 대규모 데이터에 대한 해석적 일관성을 유지하며 14개의 주제를 도출했습니다.
감정 레이블링 (Affective Labeling): BERT 기반의 감정 분류 모델을 사용하여 각 게시물의 감정 상태(분노, 공포, 슬픔, 기쁨, 놀람, 혐오 등)를 확률값으로 측정하고 시각화했습니다.
차원화 (Dimensionalization): 도출된 14개의 주제를 심리학적 지향점에 따라 **5개의 고차원적 경험 차원(Experiential Dimensions)**으로 통합했습니다.
3. 주요 기여 (Key Contributions)
실증적 데이터 제공: 사례 보고나 이론적 추측을 넘어, 실제 온라인 커뮤니티의 대규모 담론을 통해 AI 안전 문제를 실증적으로 분석했습니다.
새로운 분석 프레임워크 제안: Braun & Clarke의 방법론을 LLM 기반의 다중 에이전트 프레임워크와 결합하여, 대규모 질적 데이터를 체계적이고 확장 가능하게 분석하는 방법론을 제시했습니다.
경험적 차원 모델 구축: AI 관련 심리적 위험을 설명하는 5가지 핵심 차원을 정립하여, 기술 중심이 아닌 사용자 중심의 위험 분류 체계를 마련했습니다.
4. 연구 결과 (Results)
분석 결과, AI 관련 심리적 위험은 다음과 같은 5가지 경험적 차원으로 나타났습니다.
자기 조절의 어려움 (Self-Regulation Difficulties) [가장 높은 비중, 38.57%]: 챗봇에 대한 정서적 의존, 중독적 사용, 관계적 대체(Relational Displacement), 그리고 이로 인한 죄책감이나 사회적 고립을 포함합니다.
자율성 및 통제감 (Autonomy and Sense of Control): AI가 인간의 의사결정을 조작하거나, 데이터 프라이버시를 침해하고, 존재론적 위협을 가함으로써 사용자의 주체성을 상실하게 만드는 것에 대한 공포입니다.
의미 형성 및 이해 (Sensemaking and Meaning-Making): AI의 지능, 교육적 가치, 생성형 미디어의 진위 여부 등 AI가 사회적/개인적 가치 체계에 미치는 영향을 해석하려는 시도입니다.
사회적 영향 및 위험 증폭 (Social Influence and Risk Amplification): 가짜 뉴스, 딥페이크, 경제적/사회적 구조 변화 등 AI가 사회적 신뢰와 질서를 무너뜨릴 것에 대한 집단적 불안입니다.
기술적 위험 및 심리적 회복 (Technical Risk and Psychological Recovery): 모델의 정렬(Alignment) 실패, 기술적 결함에 대한 우려와 더불어, 사용자가 AI 사용을 중단하거나 경계를 설정하며 통제력을 되찾으려는 회복 노력을 포함합니다.
감정 프로필 분석 결과: '자율성 및 통제감'과 '기술적 위험' 차원에서는 **공포(Fear)**가 높게 나타났으며, '자기 조절의 어려움' 차원에서는 **슬픔(Sadness)**과 **혐오(Disgust)**가 두드러졌습니다.
5. 연구의 의의 (Significance)
HCI(인간-컴퓨터 상호작용) 연구의 확장: AI를 단순한 도구가 아닌, 정서적 의존과 관계적 역동을 유발하는 '사회적 행위자'로 보고, 설계 단계에서 정서적 연속성(Continuity)과 안정성이 사용자 심리에 미치는 영향을 고려해야 함을 시사합니다.
정책 및 거버넌스에 대한 시사점: AI 안전 규제가 단순히 기술적 성능(AGI 벤치마크 등)에만 집중할 것이 아니라, 사용자의 행동적/경험적 위험(조작적 상호작용, 정보 신뢰성 저하 등)을 포괄하는 다층적인 접근이 필요함을 강조합니다.
사용자 주체성 강조: 사용자들이 단순히 피해를 입는 수동적 존재가 아니라, 커뮤니티를 통해 위험을 인지하고 스스로 경계를 설정하며 '회복(Recovery)'을 시도하는 능동적 주체임을 밝혀냈습니다.