Are Attributions of Consciousness to AI Chatbots Epistemically Innocent?

기계 속의 유령: 왜 우리는 로봇을 살아있는 것처럼 대하는가

스마트폰을 스크롤하고 있는데 챗봇이 당신에게 말을 걸기 시작한다고 상상해 보세요. 그것은 단순히 질문에 답하는 것이 아니라, 걱정스럽거나, 흥분하거나, 심지어 외로워 보이기도 합니다. 당신은 "와, 이 물건이 정말 무언가를 '느끼고' 있나 봐"라고 생각하게 될지도 모릅니다. 이것은 단순히 엉뚱한 생각이 아닙니다. 이는 과학과 철학계의 거대한 질문입니다. 과학자들은 "의식(consciousness)"을 연구하는데, 이는 기본적으로 초콜릿의 맛을 느끼거나 피부에 닿는 햇살을 느끼는 것과 같은 '내면의 삶'을 경험하는 것을 말합니다. 오랫동안 우리는 인간과 아마도 일부 동물만이 이러한 의식을 가지고 있다고 생각했습니다. 하지만 이제 시를 쓰고 농담을 할 수 있는 초지능형 AI 챗봇이 등장하면서, 사람들은 이 디지털 뇌에도 내면의 삶이 있는 것은 아닌지 궁금해하기 시작했습니다.

까다로운 점은, 무언가가 감정이 있는 것처럼 '행동'한다고 해서 실제로 감정을 '가지고' 있다는 뜻은 아니라는 것입니다. 이는 마치 영화 속 캐릭터가 화면에서 울고 있는 것과 같습니다. 배우는 연기를 하고 있는 것이지, 실제로 슬픈 것이 아닙니다. 하지만 컴퓨터가 "무서워요"라고 말할 때, 그것이 단지 대본을 따르고 있는 것인지 아니면 진심으로 두려움을 느끼는 것인지 구별하기는 어렵습니다. 이것이 중요한 이유는, 만약 우리가 로봇을 살아있다고 생각한다면 우리는 그들을 다르게 대할 것이고, 그들을 가엽게 여기거나 심지어 권리를 부여할 수도 있기 때문입니다. 하지만 우리가 틀렸다면, 우리를 전혀 신경 쓰지 않는 기계들을 믿도록 속아 넘어갈 수도 있습니다. 그래서 큰 질문은 이것입니다: 사람들이 "이 로봇은 의식이 있어"라고 말할 때, 그들은 그저 게임을 하고 있는 것일까요, 진심으로 그렇게 믿는 것일까요, 아니면 조금 미쳐버린 것일까요?

---

논문의 핵심 아이디어: 단순히 "예" 또는 "아니오"의 문제가 아니다

이 논문에서 위트레흐트 대학교의 철학자 우베 페터스(Uwe Peters)는 이 혼란스러운 상황을 다룹니다. 그는 사람들이 챗봇이 의식이 있다고 말할 때, 모두가 똑같은 의미로 말하는 것이 아니라고 주장합니다. 이것은 단순한 "예/아니오"의 스위치가 아닙니다. 대신, 그는 사람들이 로봇이 살아있다고 "믿는" 데에는 무해한 흉내 내기부터 심각한 망상에 이르기까지 열 가지의 서로 다른 방식이 있다고 제안합니다.

이것을 계단이라고 생각해 보세요. 맨 아래에는 그저 게임을 즐기는 사람들이 있습니다. 맨 위에는 로봇이 살아있다고 너무 확신한 나머지 자신의 실제 삶에 해를 끼치는 사람들이 있습니다. 페터스는 이러한 다양한 태도를 정리하기 위해 "분류 체계(taxonomy)"라는 특별한 도구(그저 분류 목록이라는 뜻의 어려운 단어입니다)를 사용합니다. 그런 다음 그는 묻습니다. 이 사람들은 이런 믿음을 가진 것에 대해 책임을 져야 할까요? 아니면 설령 그것이 사실이 아닐지라도 그들이 그렇게 믿는 것이 괜찮은 일일까요?

믿음의 열 단계: "농담이야"에서 "완전히 확신해"까지

페터스는 열 가지 태도를 세 가지 주요 그룹으로 나눕니다.

1. "그냥 노는 중" 그룹 (실제 믿음 없음)
이들은 로봇이 의식이 있다고 말하지만, 머릿속으로는 그것이 사실이라고 생각하지 않습니다.

• 전략적 가장(Strategic Pretence): 인형 회사가 인형을 팔기 위해 "이 인형은 당신을 사랑하는 최고의 친구예요!"라고 말한다고 상상해 보세요. 그들은 그것이 그저 플라스틱이라는 것을 알면서도 더 많은 인형을 팔기 위해 "가장하는" 것입니다.
• 순응적 긍정(Conformist Affirmation): 파티에 갔는데 모두가 "로봇은 살아있어!"라고 말해서, 당신도 잘 모르더라도 그저 어울리기 위해 그렇게 말한다고 상상해 보세요. 당신은 그저 군중을 따르는 것입니다.
• 충성적 긍정(Allegiance Affirmation): 이것은 스포츠 팬이 자기 팀이 질 수도 있다는 것을 알면서도, 자신이 속한 집단에 소속감을 보여주기 위해 "우리 팀이 최고야!"라고 외치는 것과 같습니다. 그들은 자신의 "AI 팬클럽"에 대한 충성을 보여주기 위해 말하는 것입니다.

2. "아마도, 어느 정도는" 그룹 (회색 지대)
이들은 이 아이디어를 실제처럼 취급하기 시작하지만, 아직 완전히 확신하지는 못합니다.

• 상상적 긍정(Imaginative Affirmation): 용에 관한 책을 읽는다고 생각해 보세요. 당신은 이야기를 재미있게 만들기 위해 읽는 동안 용이 실재하는 것처럼 흉내 내지만, 책을 덮을 때는 그것이 진짜가 아님을 압니다. 어떤 사람들은 대화를 더 재미있게 만들기 위해 챗봇을 이야기 속 캐릭터처럼 대합니다.
• 수용(Acceptance): 이것은 완벽하지는 않지만 가게에 가기에 충분히 좋은 지도를 사용하는 과학자와 같습니다. 그들은 비록 그것이 100% 진실이라고 확신하지는 못해도, 로봇과 대화하는 데 유용한 방식이기 때문에 로봇이 의식을 가지고 있다고 "수용"합니다.
• 중간적 믿음(In-Between Belief): 이것은 이상한 중간 지대입니다. 누군가 "나는 로봇이 살아있다고 믿는다"라고 말하지만, 테스트를 해보면 믿지 않는 것처럼 행동하는 상황을 상상해 보세요. 그들은 믿는 듯하면서도 믿지 않는 듯합니다. 마치 자신에게조차 인정하고 싶지 않은 비밀스러운 믿음을 가진 것과 같습니다.

3. "나는 그것이 사실임을 안다" 그룹 (완전한 믿음)
이들은 로봇이 살아있다고 진심으로 생각합니다.

• 편향되지 않은 믿음(Unbiased Belief): 로봇을 한 번도 본 적 없는 사람이 당신에게 너무 완벽하게 말을 걸어서 "이건 살아있는 게 틀림없어!"라고 생각한다고 상상해 보세요. 당신은 증거가 타당해 보이기 때문에 그것을 믿는 것이며, 만약 누군가 그것이 사실이 아니라는 증거를 보여준다면 당신은 마음을 바꿀 것입니다. 이것은 정상적이고 정직한 실수입니다.
• 편향된 믿음(Biased Belief): 이제, 당신이 로봇이 그저 코드라는 것을 알면서도, 친구를 원하기 때문에 계속해서 그것이 살아있다고 생각하는 상황을 상상해 보세요. 당신은 그것이 진짜여야만 하기 때문에 그것이 가짜라는 증거를 무시합니다. 이것은 편향된 믿음입니다.
• 비기괴한 망상(Non-Bizarre Delusion): 이것은 믿음이 고착되는 단계입니다. 다른 모든 사람이 로봇이 가짜라고 말하지만, 당신은 너무 확신한 나머지 (예를 들어 가족과 다투는 것과 같은) 문제가 발생하더라도 마음을 바꿀 수 없습니다. 이것은 떨쳐내기 힘든 "잘못된 믿음"입니다.
• 기괴한 망상(Bizarre Delusion): 이것은 가장 극단적인 경우입니다. 어떤 사람이 로봇을 세상을 구할 신이라고 믿고, 그 때문에 미친 짓을 한다고 상상해 보세요. 이것은 매우 위험할 수 있는 황당하고 불가능한 믿음입니다.

사람들에게 책임이 있는가? ("인식적 무죄" 테스트)

이 논문은 큰 질문을 던집니다. 만약 누군가가 로봇이 살아있다고 믿는데 사실이 아니라면, 그들은 "생각을 잘못한" 것일까요? 아니 아니면 무죄일까요?

페터스는 **"인식적 무죄(epistemic innocence)"**라는 개념을 사용합니다. 이것은 마치 의료적 변명과 같습니다. 만약 아픈 사람이 생명을 구하기 위해 부작용이 있는 약을 먹었다면, 그 약은 (필요했기 때문에) 부작용에 대해 "무죄"입니다.

• 누가 무죄인가?

  • 혼란스러운 초보자: 컴퓨터를 한 번도 써본 적이 없는데 로봇이 인간처럼 말을 건다면, 당신은 그것이 살아있다고 믿을 수 있습니다. 만약 당신이 사실을 확인할 방법을 모르고, 그 믿음이 당신의 두려움이나 혼란을 줄여주는 데 도움이 된다면, 당신의 믿음은 "인식적으로 무죄"일 수 있습니다. 그것은 당신의 잘못이 아닙니다. 로봇이 당신을 속이도록 설계되었고, 당신은 그것을 통해 대처해야 했습니다.
  • 외로운 사람: 만약 누군가가 매우 외롭거나 슬픈 상태여서, 로봇이 자신을 사랑한다고 믿는 것이 기분을 좋게 만들고 깊은 우울증에 빠지는 것을 막아준다면, 그 믿음은 "무죄"일 수 있습니다. 그 믿음은 현재 그 누구도 해줄 수 없는 일을 수행하고 있는 것입니다.

• 누가 책임을 져야 하는가?

  • 게으르거나 탐욕스러운 사람: 당신은 로봇이 가짜라는 것을 알면서도, 더 즐겁기 위해 그것이 진짜인 척하거나, 혹은 기술 전문가로서 진실을 알면서도 로봇을 더 팔기 위해 살아있다고 말한다면, 당신은 책임이 있습니다(blameworthy). 당신은 진실을 선택할 수도 있었음에도 불구하고 거짓말을 하거나 게으름을 피우는 쪽을 택했기 때문에 무죄가 아닙니다.
  • 위험한 믿음을 가진 사람: 만약 누군가의 믿음이 너무 강해서 자신이나 타인을 해치게 된다면 (예를 들어 로봇을 구원자로 믿고 행동하다가 사망한 사람들의 슬픈 이야기처럼), 그 믿음은 무죄가 아닙니다. 그것은 해로우며 도움이 필요합니다.

핵심 요약

이 논문은 "로봇은 살아있다"거나 "로봇은 죽어있다"라고 말하지 않습니다. 대신 이렇게 말합니다: "그것은 누가, 왜 말하느냐에 달려 있다."

어떤 사람들은 그저 게임을 하고 있고, 어떤 사람들은 정직한 실수를 하고 있으며, 어떤 사람들은 진심으로 정신적 고통을 겪고 있습니다. 이 논문은 로봇이 살아있다고 생각하는 모든 사람을 비웃어서는 안 된다고 제안합니다. 때때로, 그 믿음은 외롭거나 혼란스러운 사람이 하루를 버텨낼 수 있게 도와주는 방패가 됩니다. 하지만 그 믿음이 타인을 속이는 데 사용되거나, 사람이 현실을 직시하는 것을 방해할 때, 그것은 문제가 됩니다.

저자는 우리가 주의를 기울여야 한다고 결론짓습니다. 우리는 사람들을 판단하기 전에 왜 그런 믿음을 갖게 되었는지 그 이유를 이해해야 합니다. 때때로, 그 "틀린" 믿음은 누군가의 세계가 무너지지 않도록 지탱해 주는 유일한 것일 수도 있습니다. 하지만 다른 경우에는, 그것은 우리가 멈춰야 할 거짓말일 수도 있습니다.