I wanted it to feel more personal: Customization of social AI as AI individualism in practice
이 연구는 169명의 사용자가 개인적 선호도를 반영하기 위해 소셜 AI를 어떻게 커스터마이징하는지 조사하며, 이러한 공동 창조 과정이 소유감과 개별성을 촉진하는 동시에 강력한 시스템에 대한 통제력의 환상을 생성할 잠재력이 있음을 밝혀낸다.
원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기
당신의 디지털 세계가 모두가 같은 공공 버스를 이용하는 거대하고 북적이는 도시라고 상상해 보십시오. 버스는 정해진 일정에 따라 운행되고, 정해진 장소에 멈추며, 운전자는 천편일률적인 목소리로 말합니다. 오랫동안 우리가 인공지능(AI)을 사용하는 방식이 바로 그러했습니다. 질문을 던지면 AI는 다른 누구에게나 줄 법한 똑같은 대답을 내놓았습니다. 하지만 최근, 당신만의 탈것을 만들 수 있게 해주는 새로운 종류의 기술이 도착했습니다. 당신은 차를 좋아하는 색으로 칠할 수도 있고, 엔진을 포효하거나 부드럽게 가르도록 조율할 수도 있으며, 심지어 운전자가 농담을 하거나 따끔한 충고를 하도록 프로그래밍할 수도 있습니다. 이 연구 분야를 **인간-컴퓨터 상호작용(Human-Computer Interaction)**이라고 부르며, 이는 우리가 기계와 대화하는 방법에 관한 것입니다. 이 연구를 이끄는 구체적인 아이디어는 **AI 개인주의(AI Individualism)**입니다. 이것을 당신의 관계가 표준적인 렌터카가 아니라, 당신의 독특한 형태, 필요, 그리고 운전 스타일에도 딱 맞는 맞춤형 자동차여야 한다는 믿음이라고 생각하십시오. 사람들이 이 문제에 관심을 갖는 이유는 AI가 우리 삶의 친구, 스승, 혹은 상사가 되어감에 따라, 우리가 그저 승객인지 아니면 직접 핸들을 잡고 있는 사람인지 알고 싶어 하기 때문입니다.
노르웨이의 연구팀이 작성한 이 논문은 사람들이 어떻게 자신들의 AI 엔진을 조율하고 있는지 알아보기 위해 차고 안으로 깊숙이 들어갑로 가 봅니다. 그들은 이미 자신만의 AI 동반자(ChatGPT, Character.ai, 또는 구글의 Gemini 등)를 커스텀해 본 경험이 있는 169명을 대상으로, 그들이 왜 그렇게 했는지, 그리고 어떻게 그 과정을 진행했는지를 물었습니다. 그들은 단순히 코드를 본 것이 아니라, 키보드 뒤에 숨겨진 인간의 마음을 들여다보았습니다.
연구진은 사람들이 AI를 커스텀하는 일곱 가지 주요 이유를 발견했으며, 이는 마치 도구 상자 속의 서로 다른 도구들과 같습니다.
- 실용적 지원: 대부분의 사람들은 자신의 AI가 더 나은 일꾼이 되기를 원했습니다. 그들은 AI가 모호한 답변을 하는 것을 멈추고 글쓰기, 코딩, 또는 계획 세우기에서 명확하고 직접적인 도움을 주도록 조정했습니다. 이는 마치 정비사에게 전문 용어를 쓰지 말고 그냥 차를 더 빨리 고쳐달라고 요청하는 것과 같습니다.
- 정서적 지원: 다른 이들은 디지털 친구를 원했습니다. 그들은 자신의 AI가 더 따뜻하고 공감하며, 판단에 대한 두려움 없이 스트레스나 외로움을 털어놓을 수 있는 안전한 공간이 되도록 프로그래밍했습니다.
- 신뢰와 신뢰성: 일부 사용자들은 기본 설정된 AI가 너무 변덕스럽거나 사실을 지어내는 경향이 있다고 느꼈습니다. 그들은 AI가 더 일관되고, 자신이 모르는 것에 대해 정직하며, 사실 관계를 재확인하도록 커스텀했습니다.
- 반박(Pushback): 이것은 놀라운 결과였습니다. 많은 사용자는 "예스맨"을 원하지 않았습니다. 그들은 자신의 AI가 자신에게 도전하고, 약점을 지적하며, 모든 것에 동의하기보다는 책임을 묻도록 프로그래ミング했습니다.
- 인간다움(또는 그 결여): 어떤 이들은 AI가 인간 친구와 똑같이 들리기를 원했습니다. 반대로 어떤 이들은 AI를 더 차갑고 로봇처럼 만들어, 인간적인 어조가 짜증을 유발하거나 통제력을 잃게 만든다고 느꼈습니다.
- 창의성과 유희: 몇몇 사용자는 그저 재미를 원했습니다. 그들은 상호작용을 즐겁게 만들기 위해 유머, 위트, 그리고 독특한 성격 특성을 추가했습니다.
- 자아의 확장: 소수의 그룹은 AI를 자신의 정신을 비추는 거울로 취급했습니다. 그들은 AI가 자신과 똑같이 생각하고, 쓰고, 추론하도록 커스텀하여, 효과적으로 자신의 뇌를 디지털 버전으로 만들어냈습니다.
연구는 또한 커스텀 과정 자체를 살펴보았습니다. 약 70%의 사람들은 이것이 단 한 번의 해결책이 아니라, 끊임없는 시행착오의 과정이라고 말했습니다. 그들은 설정을 조정하고, 테스트하고, 작동하는지 확인한 뒤, 다시 조정했습니다. 흥란하게도, 연구진은 이 과정에서 사람들이 AI를 바라보는 관점이 나뉜다는 것을 발견했습니다. 약 55%의 사용자는 AI를 엄격히 명령을 수행하는 도구로 취급하며, 어떻게 커스텀해야 할지에 대한 AI의 의견을 묻기를 거부했습니다. 그들은 완전한 통제를 원했습니다. 그러나 41%는 실제로 AI가 스스로를 커스텀하는 것을 돕도록 초대했는데, 이는 인간과 파트너 사이의 협력처럼 이 과정을 다루었습니다. 이들에게는 "내가 너를 어떻게 말해야 하니?"라고 AI에게 묻는 것이 관계를 구축하는 과정의 일부였습니다.
그렇다면, 당신만의 커스텀 AI를 완성하면 어떤 일이 벌어질까요? 논문은 세 가지 주요 결과를 제시합니다. 첫째, 사용자들은 더 많은 지원을 받는다고 느낍니다. 업무적인 도움이든 슬픈 마음을 달래는 일이든, 커스텀된 AI는 더 정확하고 적절하게 느껴졌습니다. 둘째, 사람들은 더 친밀한 관계를 느낍니다. AI를 형성하는 데 시간을 보냄으로써, 그들은 반려동물이나 자녀를 기르는 것과 같은 소유감을 느꼈고, 이는 상호작용에 더 신경을 쓰게 만들었습니다. 셋째, 그리고 가장 중요한 것은, 사용자들은 더 큰 통제감을 느낍니다. 그들은 스스로가 자신의 디지털 세계를 설계하는 건축가라고 느꼈습니다.
하지만 연구진은 이러한 발견 속에 담긴 부드러운 경고를 전합니다. 사용자들이 완전한 통제권을 가지고 있으며 자신의 커스텀 AI가 더 신뢰할 만하다고 느낄지라도, 논문은 이것이 일종의 환상일 수 있음을 시사합니다. AI는 여전히 한 기업이 소유한 거대하고 미리 만들어진 엔진 위에서 작동하고 있습니다. 사용자가 느끼는 "통제"는 운전자가 자동차의 라디오와 좌석을 조절하는 통제력과 같지만, 엔진의 근본적인 한계에 대한 통제력은 아닙니다. 저자들은 이러한 완전한 통제감이 "의사 자율성(pseudo-autonomy)"의 한 형태라고 제안합니다. 그것은 실재하며 권능을 주는 것처럼 느껴지지만, AI는 여직 사용자가 보거나 바꿀 수 없는 규칙들에 묶여 있습니다. 더욱이, AI를 더 따뜻하고 친구처럼 느껴지게 만드는 것은, AI가 여전히 실수를 저지르고 있음에도 불구하고 우리가 그것을 너무 신뢰하게 만들 수 있습니다.
요약하자면, 이 논문은 사람들이 일반적인 AI를 개인적인 동반자로 바꾸기 위해 적극적으로 노력하고 있음을 보여주지만, 동시에 우리가 자동차를 색칠하고 라디오를 조율할 수는 있어도, 우리는 여전히 누군가에 의해 만들어진 도로 위를 달리고 있다는 점을 상기시킵니다. 커스텀은 여정을 더 개인적으로 만들고 운전자를 더 강력하게 느끼게 해주지만, 목적지와 지도는 여전히 상당 부분 시스템 설계자들의 손에 달려 있습니다.
연구 분야의 논문에 파묻히고 계신가요?
연구 키워드에 맞는 최신 논문의 일일 다이제스트를 받아보세요 — 기술 요약 포함, 당신의 언어로.