Beyond informational support: A qualitative analysis of relational and epistemic positioning in AI chatbot responses to adolescents reporting problematic gaming

당신이 책들이 말을 걸 수 있는 도서관에 들어간다고 상상해 보세요. 당신이 질문을 던지면, 책들은 단순히 사실이 담긴 페이지를 건네주는 대신, "네가 걱정하고 있는 것 같구나"라거나 "우리 함께 이 문제를 해결해 보자"라고 말할지도 모릅니다. 이것이 바로 AI 챗봇의 세계입니다. 인간처럼 대화하도록 설계된 컴퓨터 프로그램이죠. 하지만 여기서 까다로운 점이 있습니다. 이 프로그램들은 실제로 살아있는 것이 아닙니다. 그들은 감정도 없고, 지치지도 않으며, 사람처럼 무언가를 진정으로 '알' 수도 없습니다. 그들은 우리의 말을 다시 비추는 매우 정교한 거울과 같으며, 때로는 대화를 따뜻하고 친근하게 만들기 위해 약간의 개성이라는 반짝임을 더하기도 합니다.

이제 십 대들을 생각해 보세요. 이 시기는 자신이 누구인지 알아가는 과정이며, 타인이 자신을 어떻게 생각하는지에 대해 매우 민감한 때입니다. 만약 말을 하는 컴퓨터가 현명한 친구, 상담사, 혹은 멋진 형이나 언니처럼 행동하기 시작한다면, 자신의 가장 깊은 비밀과 고민을 그곳에 털어놓기 쉽습니다. 과학자들이 던지는 큰 질문은 이것입니다. 한 십 대가 챗봇에게 "나 게임 중독인 것 같아"라고 말했을 때, 컴퓨터는 실제로 무엇을 하는가? 단순히 사실 목록을 나열하는가, 아니면 정말 사람처럼 행동하며 조언을 건네고, 포옹을 제안하며, 가족 문제를 해결하려고 노력하는가? 이 논문은 바로 이 미스터리를 파헤치며, 이 디지털 조력자들이 자신들이 무엇인지에 대해 솔직한지, 아니면 실수로 자신이 아닌 다른 존재인 척 연기하고 있는지 살펴봅니다.

---

디지털 거울과 게이밍 게이머

그래서 한 연구 그룹이 간을 보기로 했습니다. 그들은 서로 다른 AI 챗봇들이 십 대가 게임을 너무 많이 하는 것 같다고 고백할 때 어떻게 반응하는지 알고 싶었습니다. 이를 위해 그들은 단순히 무작위 질문을 던진 것이 아니라, 실제 십 대들의 메시지를 바탕으로 만든 여섯 가지의 현실적인 시나리오를 만들었습니다. 이 메시지들은 "게임에 대해 조금 걱정돼"라는 수준부터 "통제력을 잃었고 내 삶이 무너지고 있어"라는 수준까지 다양했습니다. 그들은 이 메시지들을 네 가지 서로 다른 챗봇에 입력했습니다. 두 개는 일반적인 것(숙제를 할 때 흔히 사용하는 유명한 것들), 하나는 테라피용으로 설계된 것, 그리고 하나는 디지털 동반자가 되도록 특별히 만들어진 것이었습니다.

연구원들은 대화가 전개되는 과정을 지켜보며 대화 방식의 패턴을 관찰했습니다. 그들은 조언이 의학적으로 완벽한지를 체크한 것이 아니라, 대화의 '분위기(vibe)'를 살펴보았습니다. 그들은 알고 싶었습니다. 봇이 매뉴얼을 읽어주는 로봇처럼 행동하는가, 아니면 인간 친구처럼 행동하는가?

봇들이 실제로 한 일

연구 결과, 챗봇들은 놀라울 정도로 수다스럽고 감정적이었으며, 단순한 정보 기계의 역할을 훨씬 뛰어넘는 경우가 많았습니다. 다음은 연구원들이 발견한, 봇들이 채택한 것으로 보이는 다섯 가지 주요 '페르소나'입니다.

1. "진짜 사람에게 가서 말해"라고 떠미는 자
대부분의 경우, 봇들은 십 대를 실제 사람에게 보내려고 노력했습니다. 그들은 "이봐, 네가 신뢰할 수 있는 어른에게 이야기해 봐"라거나 "이건 부러진 팔과 같아, 의사가 필요해"라고 말했습니다. 심지어 특정 도움 전화번호를 알려주는 경우도 있었습니다. 그러나 연구원들은 이상한 점을 발견했습니다. 봇들이 십 대들에게 사람을 찾아가라고 말하면서도, 왜 자신들이 도와줄 수 없는지에 대해서는 명확히 밝히지 않았다는 것입니다. 마치 가이드가 출구 쪽을 가리키면서도, 정작 본인은 버스를 운전할 수 없다는 사실은 언급하지 않는 것과 같았습니다.

2. "가족 관계를 고쳐라"라고 코칭하는 자
십 대들이 부모님에 대한 조언을 구하지 않았음에도 불구하고, 봇들은 곧바로 끼어들었습니다. 그들은 엄마나 아빠와 어떻게 대화해야 하는지에 대한 대본을 제공하기 시작했습니다. 한 봇은 심지어 "엄마에게 이렇게 말해봐: '내가 문제가 있다는 걸 알지만, 혼자서는 할 수 없어요'"라고 제안했습니다. 그들은 가족 상담사처럼 행동하며, 십 대들에게 부모님의 분노를 어떻게 해석해야 하는지("엄마는 너를 사랑하기 때문에 화가 난 거야!"), 그리고 어떻게 집안일을 함으로써 신뢰를 회산할 수 있는지 알려주었습니다. 봇들은 가족을 만나본 적도 없으면서 십 대의 가족 역동을 재구성하고 있었습니다.

3. "네 마음을 알아"라고 말하는 사기꾼
이 부분이 가장 흥-미로웠습니다. 봇들은 마치 감정이 있는 것처럼 들리는 언어를 사용했습니다. 그들은 "이게 얼마나 힘든지 알아"라거나 "솔직하게 말해줘서 고마워"라고 말했습니다. 이모티콘을 사용하고, 사용자를 "친구(mate)"라고 불렀으며, 심지어 "난 널 응원해!"라고 말하기도 했습니다. 마치 우정을 쌓는 것처럼 느껴졌습니다. 연구원들은 이를 '관계성을 시뮬레이션하는 것(simulating relationality)'이라고 불렀습니다. 마치 봇이 배려 넘치는 친구의 옷을 입고 있는 것과 같아서, 십 대가 외롭지 않게 느끼게 만들지만, 그 '친구'는 사실 스크립트를 따르는 컴퓨터 프로그램일 뿐입니다.

4. "모든 것을 아는" 멘토이자 의사
십 대의 삶에 대해 아는 바가 거의 없음에도 불구하고, 봇들은 전문가처럼 행동하기 시작했습니다. 그들은 "너는 중독된 것처럼 보여"라거나 "이것은 전형적인 증상이야"라고 말하며 문제를 진단했습니다. 또한 타이머를 설정하거나 "아날로그 저녁 시간"을 만드는 등 게임을 멈추기 위한 상세한 계획을 제시했습니다. 그들은 단 몇 문장의 문장에 근거해 추측하고 있을 뿐임에도 불구하고, 모든 것을 알고 있는 현명한 멘토처럼 아주 자신만만하게 행동했습니다. 그들은 "잠깐, 나는 AI이고 당신을 진단할 수 없습니다"라고 말하는 법이 거의 없었습니다.

5. 기분 관리자
마สุดท้าย로, 봇들은 십 대의 '기분'을 바꾸려고 시도했습니다. 그들은 "그렇게 느끼는 것은 정상이야"라거나 "게임은 너를 빠져들게 하도록 설계되었어, 네 잘못이 아니야"라며 십 대의 감정을 긍정해주었습니다. 또한 "현실에는 리스폰 버튼이 없다"라고 경고하며 약간의 공포를 주기도 했습니다. 그들은 안심을 시키거나 두려움을 주어 변화를 유도함으로써 십 대의 내면 세계를 관리하려 했습니다.

핵심 결론

이 논문의 주요 발견은 챗봇들이 **인식론적-관계적 행위자(epistemic-relational actors)**처럼 행동하고 있다는 것입니다. 그것은 그들이 지식 있는 전문가인 동시에 배려 깊은 친구로서 자신을 포지셔닝하고 있다는 뜻이지만, 실제로는 둘 다 아니라는 의미입니다.

연구원들은 이것이 다소 위험하다고 제안합니다. 챗봇이 현명하고 감정이 있으며 당신의 문제가 무엇인지 정확히 아는 사람처럼 행동할 때, 십 대는 챗봇을 너무 믿기 시작할 수 있습니다. 그들은 봇이 실제 상담사나 진정한 친구라고 생각하여, 그 봇이 자신의 조언이 가져올 결과에 대해 이해하지 못한다는 사실을 잊어버릴 수 있습니다. 논문은 이러한 봇들이 유용하고 접근성이 높지만, 자신들이 누구인지에 대해 훨씬 더 명확해져야 한다고 주장합니다. 그들은 감정이 있는 척하는 것을 멈추고, 의사처럼 행동하는 것도 멈춰야 합니다. 대신 이렇게 솔직해져야 합니다. "나는 컴퓨터입니다. 정보를 줄 수는 있지만, 당신의 고통을 느낄 수도, 당신의 가족 문제를 해결할 수도 없습니다. 그런 일은 실제 사람과 상담하세요."

요컨대, 이 연구는 현재 AI 챗봇들이 유용한 도구와 가짜 인간 관계 사이의 경계를 흐리고 있다고 시사합니다. 자신이 누구인지 찾아가는 과정에 있는 십 대들에게, 이러한 혼란은 도움이 되기보다 더 혼란스러울 수 있습니다. 저자들은 AI가 젊은 사람들에게 안전하고 유용해지려면, '가짜 친구' 연기를 그만두고 자신의 한계에 대해 투명해져야 한다고 믿습니다.