Digital Mediation, Selfhood, and Hybrid Agency: A Minimal Three-Dimensional Framework

우리는 우리의 기억이 클라우드에 저장되고, 일상적인 계획이 알고리즘에 의해 관리되며, 사회적 삶이 디지털 아바타를 통해 수행되는 세상에 살고 있습니다. 이러한 도구들이 우리 정신의 연장선, 어쩌면 영혼의 일부가 된 것처럼 느껴지기 쉽습니다. 컴퓨터에게 편지를 써달라고 요청할 때, 우리는 함께 생각하고 있다는 느낌을 받습니다. 온라인 프로필을 큐레이팅할 때, 우리는 새로운 버전의 자신을 구축하고 있다는 느낌을 받습니다. 그러나 이러한 느낌은 철학적인 수수께끼를 만들어냅니다. 도구를 사용하여 생각하는 것이 그 도구가 이제 의식을 가졌음을 의미할까요? 디지털 프로리 존재한다는 것이 우리가 두 명의 서로 다른 사람이 되었음을 의미할까요? 그리고 컴퓨터가 우리가 결정을 내리는 것을 도울 때, 일이 잘못되면 컴퓨터도 책임을 공유해야 할까요? 이 질문들이 중요한 이유는 이것이 인간이라는 존재의 의미, 우리가 행동에 대해 어떻게 책임을 지는지, 그리고 기계에 의해 점점 더 운영되는 세상에서 어떻게 우리 자신을 보호해야 하는지에 관한 문제이기 때문입니다.

우즈베키스탄 국립대학교의 한 연구자는 이러한 매듭을 풀기 위한 새로운 방법을 제안했습니다. 기술이 인간과 기계 사이의 경계를 흐리는 '디지털 의식'을 만들어냈는지 묻는 대신, 이 연구는 세 가지 별개의 현상이 동시에 일어나고 있음을 살펴볼 것을 제안합니다. 첫 번째는 도구가 우리의 사고 과정에 얼마나 깊이 엮여 있는가 하는 것입니다. 두 번째는 디지털 존재가 우리가 누구인지 이해하는 방식에 얼마나 많은 영향을 미치는가 하는 것입니다. 세 번째는 우리의 행동에 대한 통제권이 기계와 얼마나 공유되는가 하는 것입니다. 연구자는 이 세 가지가 독립적으로 변할 수 있다고 주장합니다. 도구는 의식을 갖지 않고도 우리의 사고에 필수적일 수 있습니다. 디지털 프로필은 새로운 인격을 만들지 않고도 우리의 정체성을 정의할 수 있습니다. 그리고 기계는 도덕적 주체가 되지 않으면서도 우리가 행동하는 것을 도울 수 있습니다.

연구는 생각하는 것과 느끼는 것이 같지 않다는 점을 명확히 하는 것으로 시작합니다. 우리는 전화번호를 기억하거나 수학 문제를 풀기 위해 공책이나 스마트폰을 사용할 수 있습니다. 이것은 인지 과정입니다. 그러나 논문은 기계가 우리가 기억하는 것을 돕는다고 해서 그 기계 자체가 감정이나 주관적 경험을 가진다는 것을 의미하지 않는다고 지적합니다. 언어 모델이 완벽한 문장을 생성할 수 있지만, 그것이 문장의 의미를 이해한다거나 내면의 삶을 가지고 있다는 것을 증명하지는 않습니다. 저자는 도구가 생각하는 것을 돕는 데 뛰어나다고 해서 그것이 우리의 의식의 일부가 되었다고 가정해서는 안 된다고 강조합니다.

마찬가지로, 이 연구는 '우리가 누구인가'라는 개념과 '우리가 얼마나 많은 사람인가'라는 개념을 분리합니다. 과거에 철학자들은 시간이 흐름에 따라 한 개인이 동일한 개인으로 남는지에 대해 논쟁했습니다. 오늘날 디지털 프로필과 아바타는 우리가 다양한 관객에게 자신의 서로 다른 측면을 보여줄 수 있게 합니다. 논문은 여러 개의 온라인 정체성을 갖는 것이 한 사람이 여러 명의 뚜렷한 개인으로 증식했다는 것을 의미하지 않는다고 주장합니다. 단 한 명의 인간이 가상 세계에 거주하며 소셜 미디어 프로필을 유지할 수 있지만, 그렇다고 해서 두 명의 별개 인격이 되는 것은 아닙니다. 이러한 디지털 표현들은 우리가 삶의 이야기를 들려주고 관계를 정리하는 데 도움을 주지만, 새로운 인간을 만들어내지는 않습니다. 그것들은 자기 표현을 위한 도구이지 새로운 영혼이 아닙니다.

연구 프레임워크의 세 번째 부분은 행동과 책임에 관한 것입니다. 인간과 컴퓨터가 함께 작업할 때, 누가 무엇을 하고 있는지에 대한 경계가 모호해질 수 있습니다. 내비게이션 시스템이 경로를 제안할 수 있고, 운전자는 그것을 따를 수 있습니다. 추천 엔진이 뉴스를 필터링할 수 있고, 독자는 기사를 선택할 수 있습니다. 연구는 이를 의사 결정의 작업이 분산되어 있는 "하이브리드 에이전시(hybrid agency)"라고 설명합니다. 그러나 저자는 기계가 우리의 행동을 돕는다고 해서 그 결과에 대해 기계가 책able임을 의미하는 것은 아니라고 경고합니다. 만약 운전자가 GPS가 제안한 잘못된 경로를 따른다면, 여정에 대해 책임을 져야 하는 사람은 여전히 운전자입니다. 기계는 행동의 파트너가 될 수는 있지만, 인간처럼 도덕적 책임을 질 수는 없습니다.

이 복잡한 상호작용을 이해하기 위해 연구자는 간단한 3단계 체크리스트를 개발했습니다. 기술이 "대체로" 인간적인지 혹은 "부분적으로" 인간적인지 추측하는 대신, 이 연구는 세 영역 각각에 대해 특정 관계를 낮음, 중간, 높음의 척도로 평가하도록 요청합니다. 사고에 대해서는 다음과 같이 묻습니다: 이 도구가 너무 통합되어 있어서 이것을 잃으면 기억하거나 계획하는 능력이 깨지는가? 정체성에 대해서는 다음과 같이 묻습니다: 이 디지털 프로필이 우리가 스스로를 보는 방식과 타인이 우리를 보는 방식에 중심적인 역할을 하는가? 행동에 대해서는 다음과 같이 묻습니다: 기계가 선택을 내리는가, 아니면 단순히 명령을 따르는가?

논문은 실생활의 사례들에 이 체크리스트를 적용하여 서로 다른 기술들이 어떻게 다르게 점수를 받는지 보여줍니다. 이메일 초안을 작성하기 위해 가끔 사용되는 대화형 인공지능은 정체성에서는 낮은 점수를 받겠지만, 행동 면에서는 중간 점수를 받을 수 있는데, 이는 그것이 옵션을 생성하는 데 도움을 주지만 최종 메시지를 결정하지는 않기 때문입니다. 평생의 사진과 일기를 저장하는 개인 메모 시스템은 사용자가 자신의 과거를 기억하고 삶의 이야기를 정의하는 데 필수적이므로 사고와 정체성 모두에서 높은 점수를 받을 수 있습니다. 가상 세계에서의 몰입형 아바타는 사용자의 우정에 핵심적이라면 정체성에서 높은 점수를 받겠지만, 단순히 시각적인 껍데기에 불과하다면 사고 측면에서는 낮은 점수를 받을 것입니다. 뇌-컴퓨터 인터페이스는 사용자가 마음으로 커서를 제어할 수 있게 해준다면 사고에서 높은 점수를 받겠지만, 사용자가 자신의 정체성이 변했다고 느끼지 않는다면 정체성에서는 낮은 점수를 받을 것입니다.

이러한 접근 방식은 기술의 위험이 모두 동일하지 않다는 것을 드러냅니다. 고도로 통합된 메모 시스템이 실패한다면, 그 해악은 개인의 사고 및 기억 능력에 미칩니다. 디지털 프로필이 조작되거나 삭제된다면, 그 해악은 개인의 정체성과 사회적 지위에 미칩니다. 자동화된 시스템이 감독 없이 결정을 내린다면, 그 해악은 통제력과 책임의 상실에 미칩니다. 연구는 이러한 각기 다른 위험에 대해 서로 다른 보호책이 필요하다고 제안합니다. 우리는 우리의 기억 도구가 계속 작동할 것이라는 보장이 필요합니다. 우리는 우리의 디지털 프로필을 수정할 권리가 필요합니다. 그리고 우리는 인간이 중요한 결정의 주도권을 계속 쥐고 있도록 보장해야 합니다.

연구자는 우리가 기술이 우리를 어떻게 변화시키는지 이해하기 위해 마법 같은 "디지털 의식"을 믿을 필요는 없다고 결론짓습니다. 변화는 실재하지만, 그것은 구체적이고 측정 가능한 방식으로 일어납니다. 기술은 우리가 생각하는 방식, 우리가 이야기를 들려주는 방식, 그리고 우리가 행동하는 방식을 재편합니다. 이 세 영역을 분리함으로써, 우리는 우리 도구의 진정한 영향을 더 잘 이해할 수 있습니다. 우리는 기계가 생명체는 아니더라도 매우 유용할 수 있으며, 디지털 자아가 강력할 수는 있지만 새로운 인격은 아니며, 컴퓨터가 우리의 행동을 도울 수는 있지만 우리의 책임을 가져갈 수는 없다는 것을 알 수 있습니다. 이러한 명확성은 기술이 인간다움의 의미를 혼동하지 않으면서 우리의 인간성을 지원하는 미래를 건설할 수 있게 해줍니다.