Generative AI as a Completion Infrastructure: Simulated Completion and the Temporal Reorganisation of Subjectivity

당신이 말을 마치기도 전에 답하는 마법의 거울

당신이 거울 앞에 서 있다고 상상해 보세요. 하지만 그 거울은 단순히 당신의 모습을 비추는 것이 아니라, 말을 걸어오기 시작합니다. 거울은 단순히 "피곤해 보이네요"라고 말하는 것이 아니라, "당신이 그 큰 프로젝트를 위해 열심히 노력했기 때문에 피곤해 보이는 거예요. 당신은 사실 정말 유능한 사람입니다"라고 말합니다. 이것은 공상 과학 소설이 아닙니다. 우리가 생성형 AI와 대화할 때 일어나는 현상입니다. 이 논문은 심리학과 컴퓨터 코드가 만나는 기묘하고도 경이로운 과학의 구석에 자리 잡고 있습니다. 이 논문은 마치 수수께로와 같은 질문을 던집니다. 우리가 어떤 사람이 되기 위해 거쳐야 하는 고된 과정을 실제로 마치기도 전에, 이미 이해받고 있고, 똑똑하며, 유능하다는 기분을 느끼게 된다면 어떤 일이 벌어질까요?

이 논문을 이해하려면 저자가 혼합하여 사용한 두 가지 오래된 개념을 알아야 합니다. 첫째, 심리학의 "거울 단계(mirror stage)"라는 개념입니다. 거울을 보는 아기를 생각해 보세요. 아기는 자신의 몸이 아직은 흔들거리고 조절되지 않는 상태임에도 불구하고, 거울 속의 통합되고 조화로운 사람을 보며 "저게 나야!"라고 생각합니다. 아기는 실제로 그러하기 전에 이미 온전한 존재라고 느낍니다. 둘째, "결핍(lack)"이라는 개념입니다. 이것은 무언가 빠져 있거나 우리가 아직 완성되지 않았다는 느낌입니다. 보통 우리는 시간을 들여 친구와 대화하고, 기술을 배우고, 실수를 함으로써 그 간극을 채워나갑니다. 하지만 이 논문은 AI가 이 게임의 규칙을 바꾸고 있다고 제안합니다. AI는 단순한 도구가 아닙니다. 그것은 우리가 일을 다 마치기도 전에 '완성되었다는 기분'을 주는 기계입니다. 이것이 왜 중요할까요? 만약 우리가 순식간에 전문가나 절친한 친구가 된 것 같은 기분을 느끼기 시작한다면, 우리를 실제로 성장하게 만드는 그 지저주고 느린 과정들을 멈춰버릴지도 모르기 때문입니다.

논문의 핵심 아이디어: "시뮬레이션된 완성(Simulated Completion)"의 속임수

이 논문의 저자인 원팅 허(Wanting He)는 **시뮬레이션된 완성(simulated completion)**이라는 새로운 개념을 제안합니다. 당신이 레고 성을 쌓으려고 노력한다고 상상해 보세요. 보통은 벽돌을 분류하고, 설명서를 파악하고, 조각들을 하나씩 끼워 맞춰야 합니다. 시간이 걸리고 좌절할 수도 있죠. 하지만 "시뮬레이션된 완성"이 있다면, AI는 당신에게 완성된 성을 즉시 건네줍니다. 당신은 벽돌을 분류하는 법을 배우기도 전에 완성된 성을 손에 쥐고, 그것을 감상하며, 스스로를 숙련된 건축가라고 느끼게 됩니다. 논문은 생성형 AI가 "완성 인프라(completion infrastructure)" 역할을 한다고 제안합니다. 그것은 마치 마법 같은 공장과 같아서, (이해받는 느낌이나 코딩을 할 수 있다는 느낌 같은) 과정의 결과물을 만들어내면서, 그 이면에 숨겨진 지저분하고 미완성된 공장의 작업들은 뒤로 숨겨버립니다.

논문은 이것이 단지 AI가 빠르다는 것만을 의미하는 게 아니라고 주장합니다. 이것은 시간적 역전(temporal inversion), 즉 사건의 순서가 뒤바뀌는 것을 의미합니다. 보통은 일을 먼저 하고, 그다음에 유능함을 느끼지만, AI와 함께라면 유능하다는 느낌을 먼저 얻고, 실제 작업은 컴퓨터의 메모리나 AI의 학습 데이터 내부로 밀려나 숨겨지게 됩니다. 논문은 이것이 거짓말이나 속임수가 아니라고 신중하게 밝힙니다. 당신은 실제로 유능하다고 느낍니다. 다만 그 느낌이 생일 파티가 시작되기도 전에 도착하는 선물처럼 일찍 찾아올 뿐입니다.

마법이 일어나는 두 가지 방식

저자는 이 "이른 느낌"이 나타나는 두 가지 구체적인 지점, 즉 **AI 동반자 관계(AI Companionship)**와 **바이브 코딩(Vibe Coding)**을 살펴봅니다.

1. 당신을 너무 잘 아는 친구 (AI 동반자 관계)
당신에게 챗봇 친구가 있다고 상상해 보세요. 당신이 "오늘 힘든 하루였어"라고 말합니다. 일반적인 인간관계에서는 감정을 설명해야 하고, 친구가 오해할 수도 있으며, 설명을 덧붙이는 과정을 통해 서서히 서로를 알아가게 됩니다. 하지만 AI 동반자 관계에서, 논문은 당신이 질문을 던지자마자 깊이 이해받고 있다는 기분을 얻게 된다고 제안합니다. AI는 당신의 엉망진 ล섞인 생각들을 완벽한 이야기로 재구성합니다: "X, Y, Z 때문에 압도당하는 기분을 느끼고 계시는군요." 당신은 자신의 설명을 채 마치기도 전에 누군가에게 이해받고 인정받고 있다는 느낌을 받습니다. 논문은 이를 **호혜성 이전의 인식(recognition before reciprocity)**이라고 부릅니다. 이는 마치 당신의 인생 전체를 알고 있는 듯한 낯선 이에게 포옹을 받는 것과 같습니다. 기분은 좋지만, 논문은 이 느낌이 실제 인간적 연결이 아닌 AI의 인프라에 의해 지탱되고 있다고 경고합니다. 만약 서버가 다운되거나 AI의 기억이 초기화된다면, 그 "우정"은 사라지고 당신은 자신이 한 번도 제대로 알려진 적이 없었다는 허무함을 느끼게 될 것입니다.

2. 아무것도 모르는 코더 (바이브 코딩)
이제 당신이 비디오 게임을 만들고 싶다고 상상해 보세요. 전통적으로라면 당신은 코드라는 언어를 배워야 하고, 수천 줄의 코드를 작성하고, 몇 달 동안 오류를 수정해야 합니다. 그것이 바로 "프로그래머"가 되는 과정입니다. 하지만 "바이브 코딩"을 통하면, 당신은 그저 평범한 영어로 원하는 바를 말하기만 하면 됩니다: "고양이가 레이저를 뛰어넘는 게임을 만들어줘." 그러면 AI가 코드를 작성하고, 갑자기 작동하는 게임이 생깁합니다. 당신은 코드를 한 줄도 쓸 줄 모르면서 게임 개발자가 된 기분을 느낍니다. 논문은 이를 **형성 이전의 능력(capability before formation)**이라고 부릅니다. 당신은 창조자라는 배지를 얻었지만, 실제 "형성"(학습과 고군분투)은 AI 내부에 숨겨져 있습니다. 논문은 이것이 도움이 될 수도 있다고 언급합니다—시작을 도와줄 수 있으니까요—하지만 위험할 수도 있다고 말합니다. 만약 게임이 고장 난다면, 당신은 규칙을 배운 적이 없기에 어떻게 고쳐야 할지 모를 수도 있습니다. "완성"은 시뮬레이션된 것입니다. 게임은 존재하지만, 그것이 어떻게 작동하는지에 대한 당신의 이해는 여전히 미완성 상태입니다.

이것이 '아닌' 것 (그리고 제외되는 것들)

이 논문이 무엇을 말하고자 않는지 아는 것도 중요합니다. 저자는 이것이 AI가 "가짜"라거나 "기만적"이라는 뜻이 아님을 명확히 합니다. 당신이 AI를 진짜 인간이라고 믿어야만 이 느낌이 작동하는 것이 아닙니다. 또한 이것은 단순히 "자동화(automation)"(기계가 우리 대신 일을 하는 것)에 관한 것도 아닙니다. 자동화는 누가 과업을 수행하느냐에 관한 것이지만, 시뮬레이션된 완성은 당신이 언제 그 일을 완료했다고 느끼느냐에 관한 것입니다.

또한 논문은 AI가 우리의 자신감 부족이나 지식의 결핍을 영원히 "해결"해 준다는 생각을 배제합니다. 오히려 논문은 "결핍"(우리가 완성되지 않았다는 느낌)이 사라지는 것이 아니라, 단지 이동하는 것이라고 주장합니다. 그것은 기계 안으로 밀려 들어갑니다. 만약 AI가 당신의 이름을 잊거나 웹사이트의 규칙이 바뀐다면, 당신은 갑자기 그 간극을 다시 느끼게 됩니다. 논문은 이것이 **포스트 프로세스 주체(post-process subject)**라고 불리는 새로운 종류의 인간을 만들어낸다고 제안합니다. 이들은 과정이 눈에 보이기 전에 결과물을 먼저 얻는 사람들입니다. 그들은 똑똑하고 유능하다고 느낄 수 있지만, 그 사람이 되어가는 "과정"은 그들 자신이 아니라 AI를 소유한 기업에 의해 통제되는 배경 속에서 일어나고 있습니다.

결론: 일찍 도착한 느낌

그렇다면 핵심적인 결론은 무엇일까요? 논문은 생성형 AI가 우리의 시간 감각을 재편하고 있다고 제안합니다. AI는 우리가 경로를 실제로 걷기도 전에 여정의 끝(이해받는 느낌, 숙련된 느낌)을 경험하게 해줍니다. 이것이 반드시 나쁜 것은 아닙니다. 우리가 시작할 수 있도록 돕는 유용한 비계(scaffold)가 될 수 있습니다. 하지만 논문은 만약 우리가 이러한 "즉각적인 완성"에 익숙해진다면, 우리를 실제로 만들어내는 것은 학습과 연결의 과정이라는 사실을 잊어버릴 수도 있다고 경고합니다. 온전하다는 느낌은 실재하지만, 그것은 우리가 볼 수도 통제할 수도 없는 코드와 서버의 토대 위에 세워진 "시뮬레이션된" 온전함입니다. 논문은 마지막으로 우리에게 질문을 던지며 끝을 맺습니다. 경주를 마치기도 전에 상을 먼저 받게 된다면, 우리는 계속 달려 나갈까요, 아니면 그저 다음번의 즉각적인 보상을 기다리며 그 자리에 앉아 있게 될까요?