Feeling Included by AI: Belonging and Authenticity in Human-AI Interaction

인공지능이 급격히 확장되는 세상에서, 연구의 상당 부분은 접근의 메커니즘, 즉 누가 온라인에 접속할 수 있는지, 누가 하드웨어를 보유하고 있는지, 그리고 소프트웨어가 저렴한지에 집중해 왔습니다. 이것은 사람들이 도구가 없다는 이유만으로 소외되지 않도록 보장하는 개념인 '디지털 포용'의 토대입니다. 그러나 기계가 더욱 대화 능력을 갖추고 인간의 사회적 신호를 모방할 수 있게 됨에 따라, 다른 종류의 질문이 등장하기 시작했습니다. 이제는 단순히 사람이 접속할 수 있는지를 묻는 것을 넘어, 그 사람이 그곳에 있는 동안 어떻게 느끼는지를 물어야 합니다. 음성 비서가 질의에 응답하거나 챗봇이 조언을 제공할 때, 사용자는 자신이 경청되고 존중받으며, 있는 그대로의 모습으로 존재할 수 있다고 느낍니까? 이러한 변화는 대화의 중심을 구조적 측면에서 심리적 측면으로 이동시키며, 기술이 인간에게 소속감을 줄 수 있는지, 아니면 단지 차갑고 효율적인 도구로서 기능할 뿐인지를 탐구합니다.

한 연구팀은 인간과 AI 간의 상호작용 속에서 느껴지는 이러한 포용감을 조사하기 위해, 두 가지 구체적인 정서적 상태인 '소속감'과 '진정성'에 초점을 맞추어 연구를 수행했습니다. 이 맥락에서 소속감이란 시스템이 자신을 신경 쓰고, 기억하며, 가치 있는 참여자로 대우한다는 느낌을 의미합니다. 진정성은 판단이나 교정에 대한 두려움 없이 자신의 진실한 생각과 감정을 표현할 수 있는 자유를 뜻합니다. 연구진은 이러한 감정들이 정말 중요한지를 알고 싶었습니다. 구체적으로, 그들은 AI 시스템으로부터 포용된다고 느끼는 것이 기술에 대한 만족도와 상호작용이 공정하고 존중받았다는 인식의 강화로 이어지는지를 질문했습니다. 답을 찾기 위해 그들은 단일 집단이나 단일 유형의 기계에 의존하지 않았습니다. 대신, 빠른 과업 수행을 위해 설계된 음성 인식 비서인 아마존 알렉사(Amazon Alexa) 사용자 219명과, 길고 복잡한 대화가 가능한 텍스트 기반 생성형 AI인 챗GPT(ChatGPT) 사용자 577명이라는 두 개의 뚜렷한 집단으로부터 데이터를 수집했습니다.

연구 결과, 포용감을 느끼는 것과 사용자가 기술을 평가하는 방식 사이에는 명확하고 긍정적인 상관관계가 있음이 드러났습니다. 두 집단 모두에서, 소속감을 느끼고 진정성을 발휘할 수 있다고 느낀 사용자들은 더 높은 수준의 만족도를 보고했습니다. 또한 이들은 상호작용이 더 정의롭다고 인식했는데, 이는 AI가 자신을 존엄하고 공정하게 대우했다고 느꼈음을 의미합니다. 이는 상호작용의 정서적 품질이 답변의 기술적 정확도만큼이나 중요하다는 점을 시사합니다. AI 시스템이 공감하며 응답하고, 과거의 세부 사항을 기억하거나, 비판적이지 않은 어조를 채택할 때, 시스템은 단순히 과업을 완수하는 것을 넘어 사용자가 경험에 대해 더 긍정적으로 느끼게 만드는 관계를 구축합니다.

그러나 연구진은 모든 사람이 이러한 상호작용을 동일하게 경험하는 것은 아니라는 사실도 발견했습니다. 데이터 패턴을 분석함으로써, 그들은 동일한 기술에 대해 서로 다르게 반응하는 뚜xt한 사용자 그룹을 식별했습니다. 아마존 알렉사 사용자 그룹에서는 데이터가 두 가지 명확한 프로필로 나뉘었습니다. 연구진이 '내성적 사용자(reserved users)'라고 명명한 한 그룹은 전체 표본의 약 45%를 차지했습니다. 이들은 소속감, 진정성 및 만족도 점수가 낮게 나타났습니다. 이들은 주로 기기를 기능적인 도구로 취급하며, 깊은 정서적 연결을 기대하지 않고 유용성을 위해 사용하는 것으로 보였습니다. 나머지 55%를 차지한 '몰입형 사용자(engaged users)' 그룹은 높은 수준의 포용감과 만족도를 보고했는데, 이는 이들에게 음성 비서가 단순한 명령 센터 이상의 진정한 상호작용의 원천이었음을 시사합니다.

챗GPT 사용자의 양상은 더 복잡했습니다. 텍스트 기반 생성형 AI는 더 풍부하고 다양한 대화를 가능하게 하기 때문에, 연구진은 여섯 가지의 서로 다른 사용자 프로필을 발견했으나, 그중 세 가지만이 진정으로 구별되는 경험을 보여주었습니다. 사용자 중 약 33%를 차지하는 큰 규모의 한 그룹은 '유틸리티 지향적(utility-oriented)'이라고 묘사되었습니다. 이들은 내성적인 알렉사 사용자들과 마찬가지로 소속감이나 진정성에 대해 대체로 무관심한 모습을 보였습니다. 이들의 만족도는 AI가 자신을 어떻게 느끼게 하는지와 관계없이, 문제를 해결하고 과업을 효율적으로 수행하는 능력에서 왔습니다. 또 다른 그룹인 '몰입형 사용자'는 표본의 약 17%를 차지했습니다. 이들은 강한 연결감과 높은 진정성, 깊은 만족감을 느꼈으며, AI를 지원적인 파트너로 간주했습니다. 세 번째 그룹인 '균형 잡힌 사용자(balanced users)'는 약 33%로 가장 큰 비중을 차지했습니다. 이들은 AI의 가치를 높게 평가하면서도 적절한 수준의 포용감을 느꼈으나, 동시에 시스템의 한계 또한 인지하고 있었습니다. 이들은 상호작용을 즐기면서도 몰입형 그룹과 같은 수준의 정서적 깊이를 기대하지는 않았습니다.

이러한 발견은 모든 사용자가 기술로부터 동일한 것을 원한다는 통념에 도전합니다. 어떤 이들은 단순히 작동하는 기계에 만족하지만, 다른 이들은 연결감과 인정의 욕구를 갈망합니다. 이 연구는 AI 개발자와 기업들에게 앞으로 나아갈 길이 단순히 속도나 정확도를 개선하는 것 이상임을 시사합니다. 진정으로 사용자를 포용하기 위해서는, 시스템이 소속감을 조성하고 진정한 자기표현을 허용하도록 설계되어야 합니다. 이는 공감적이고, 비판적이지 않으며, 개인의 요구에 반응하는 인터페이스를 만드는 것을 의미합니다. 사용자의 선호도를 기억하는 음성 비서든, 사용자의 감정 상태에 적응하는 챗봇이든, 목표는 상호작용이 공정하고 인간적으로 느껴지도록 보장하는 것입니다. 인공지능이 학교에서 직장에 이르기까지 일상의 구조 속에 스며듦에 따라, 이러한 정서적 차원을 이해하는 것은 필수적입니다. 단순히 접근 가능한 시스템을 구축하는 것만으로는 부족합니다. 우리는 사람들이 진정으로 자신이 속해 있다고 느낄 수 있는 시스템을 구축해야 합니다.