Algorithmic hustle: a critical political economy of AI slop production and consumption in South Korea

광대하고 소란스러운 인터넷의 풍경 속에서, 기이하고 새로운 현상이 나타났다. 바로 겉보기에는 실제처럼 보이고 소리도 생생하지만, 그 이면에 인간의 사고는 거의 담겨 있지 않은 영상들이다. 이것들은 초기 컴퓨터 그래픽의 서투르고 우스꽝스러운 실수와는 다르다. 인공지능에 의해 완전히 생성된, 매우 정교하게 다듬어진 이미지, 목소리, 그리고 이야기의 흐름이다. 이 영상들은 무언가를 가르치거나, 즐거움을 주거나, 아이디어를 표현하기 위해 설계된 것이 아니라, 단지 광고 수익을 창출할 수 있도록 당신의 시선을 화면에 최대한 오래 붙들어 두기 위해 설계되었다. 연구자들은 이를 "AI 슬롭(AI slop, AI 쓰레기)"이라고 부른다. 이는 의미가 거세된 채, 우리가 온라인에서 무엇을 볼지 결정하는 시스템을 공략하기 위해 대량으로 만들어진 콘텐츠를 설명하는 용어이다. 왜 이런 일이 벌어지고 있는지 이해하려면 디지털 플랫폼이 어떻게 작동하는지를 살펴봐야 한다. 이러한 플랫폼은 주의력(attention)이 화폐가 되는 거대한 시장과 같다. 플랫폼은 어떤 영상을 보여줄지 결정하기 위해 복잡한 컴퓨터 프로그램, 즉 알고-리즘을 사용한다. 이 프로그램들은 영상이 아름다운지 혹은 진실한지는 상관하지 않는다. 오직 사람들이 계속 시청하게 만드는가만을 중요하게 여긴다. 창작자들이 시스템이 질보다 양과 속도를 보상한다는 사실을 깨닫게 되면, 그들은 비록 말하고자 하는 바가 아무것도 없을지라도 기계의 요구에 완벽히 부합하는 콘텐츠를 생산하기 시작한다.

한국대학교의 한 연구팀은 한 가지 당혹스러운 질문에 답하기 위해 나섰다. 왜 한국이 이 현상의 세계적 중심지가 되었는가 하는 점이다. 인터넷은 어디에나 존재하지만, 한국은 이러한 유형의 콘텐츠가 가장 많이 생산되고 소비되는 곳으로 두드러진다. 연구진은 수천 개의 유튜브 채널 데이터를 분석했으며, 한국에 기반을 둔 단 11개의 채널이 84억 5천만 회의 조회수를 기록했다는 사실을 발견했다. 이는 2위인 파키스탄(53억 4천만 회)과 3위인 미국(33억 9천만 회)을 훨씬 상회하는 수치다. "3분 지혜"라는 이름의 단 하나의 채널은 독자적으로 20억 회 이상의 조회수를 모았다. 연구진은 한국이 다른 국가들보다 인터넷이 더 빠르거나 더 강력한 컴퓨터를 보유하고 있다는 사실을 발견한 것이 아니다. 대신, 그들은 한국 특유의 사회적, 경제적 역사가 노동자들이 생존하기 위해 무의미한 콘텐츠를 생산하는 것이 가장 논리적인 선택이 될 수밖에 없는 '퍼펙트 스톰'을 만들어냈음을 발견했다.

연구는 이러한 행동을 설명하기 위해 "알고리즘 허슬(algorithmic hustle)"이라는 새로운 개념을 도입한다. 간단히 말해, 이는 창의성과 의미를 포기하더라도 플랫폼의 규칙에 맞게 자신의 노동을 최적화하는 작업 방식을 의미한다. 연구진은 이것이 창작자들이 비효율적이거나 냉소적이기 때문이 아니라, 시스템이 그들을 그렇게 하도록 보상하기 때문이라고 주장한다. 한국에서 이는 두 가지 구체적인 형태로 나타난다. 첫 번째는 창작자가 자신의 정체를 완전히 숨기는 "익명 허슬(anonymous hustle)"이다. 한국 사회에서 부업을 갖는 것이 낙인이 될 수 있고, 알고리즘 또한 제작자가 누구인지 신경 쓰지 않기 때문에, 제작자들은 얼굴, 목소리, 이름을 모두 제거한다. 그들은 실재하는 사람과 분리된, 보이지 않는 기계가 되어 콘텐츠를 생산한다. 두 번째 형태는 "투쟁적 여가(combative leisure)"이다. 이는 휴식과 노동의 경계가 사라진 상황을 묘사한다. 끊임없이 생산적이어야 한다는 압박에 지친 사람들은 잠을 자거나 휴식을 취해야 할 시간에 AI 도구를 사용하여 영상을 찍어내며 자신의 자유 시간을 두 번째 직업으로 탈바꿈시킨다.

왜 한국에서 이 현상이 이토록 강렬하게 나타나는지 이해하기 위해, 연구진은 한국의 "압축적 근대성(compressed modernity)" 역사를 살펴보았다. 이는 한국이 수십 년의 발전을 불과 몇 년 만에 압축하여, 매우 짧은 시간 동안 급격한 산업화와 사회적 변화를 겪었음을 설명하는 용어이다. 이는 안전이나 깊은 성찰보다 성장과 속도를 우선시하는 문화를 만들어냈다. 연구진은 이러한 문화적 사고방식이 디지털 플랫폼이 작동하는 방식과 완벽하게 일치한다는 것을 발견했다. 과거 한국이 공장과 인프라를 빠르게 구축하기 위해 경주했던 것처럼, 이제는 인공지능과 같은 신기술을 채택하기 위해 경주하고 있다. 그러나 이러한 기술을 관리하는 데 필요한 규칙과 윤리는 아직 따라잡지 못했다. 이 격차로 인해 사람들은 자신이 만드는 것의 가치를 판단하는 법을 배우기 전에 시스템을 이용하는 법을 먼저 배운다. 따라잡아야 한다는 압박감과 많은 이들이 생계를 유지하기 위해 여러 개의 아르바이트를 병행해야 하는 취업 시장이 결합되어, 노동자들을 저항이 가장 적은 경로, 즉 인간의 영혼 없이도 끊임없이 쏟아져 나오는 콘텐츠를 만들기 위해 AI를 사용하는 길로 내몰고 있다.

연구진은 이 콘텐츠가 실제로 어떻게 작동하는지 보기 위해 세 가지 주요 유형을 조사했다. 첫 번째 유형은 AI를 사용하여 동물이나 역사적 장면의 슬라이드쇼를 생성하고, 로봇 목소리로 대본을 읽게 하는 방식이다. 두 번째 유형은 AI 목소리로 책을 읽어주거나 조언을 건네며, 배경에는 단순한 스톡 영상을 사용하는 방식이다. 세 번째이자 가장 인기 있는 유형은 고급 비디오 생성기를 사용하여 동물이 불가능한 방식으로 싸우거나 상호작용하는 짧은 클립을 만드는 것이다. 이 영상들은 서사도, 교육적 가치도, 현실과의 연결 고리도 없다. 그것들은 순수하게 반응을 유도하기 위해 설계된 시각적 자극일 뿐이다. 연구 결과, 콘텐츠에서 의미가 제거될수록 제작 비용은 저렴해지고 플랫폼에 의해 추천될 가능성은 높아졌다. 예를 들어, "3분 지혜" 채널은 매우 성공적이어서 단 1년 만에 약 404만 달러의 광고 수익을 올린 것으로 추정된다. 해당 채 채널이 규정 위반으로 삭제되었을 때, 채널은 사라지지 않고 단순히 이름을 바꾸어 게임 영상을 게시하며 수백만 명의 구독자를 그대로 유지했다. 이는 시스템이 창작자가 아닌 '포맷'에 보상한다는 것을 보여준다.

또한 논문은 유튜브가 이 문제를 다루는 방식의 모순을 강조한다. 유튜브는 공개적으로 이러한 유형의 콘텐츠를 "AI 슬лоп(AI 쓰레기)"이라 부르며 이를 삭제하겠다고 약속하며 비난해 왔다. 그러나 유튜브가 창작자에게 비용을 지급하는 방식은 실제로 이러한 행위를 조장한다. 시스템은 콘텐츠의 질이 좋든 나쁘든 상관없이 사람들이 오랫동안 시청하게 만드는 영상에 보상을 준다. 연구진은 유튜브가 특정 채널을 삭제하면서도, 문제를 일으킨 근본적인 규칙은 그대로 둔다는 사실을 발견했다. 한 채널이 차단되자마자 다른 채널들이 동일한 방식을 사용하여 그 빈자리를 빠르게 채웠다. 플랫폼은 가끔 문을 닫는 문지기 역할을 하지만, 그 뒤의 복도는 여전히 열려 있으며 교통량은 다른 길을 찾아 들어올 뿐이다. 연구는 금융적 인센티브가 질이나 진실이 아닌 조회수와 시청 시간에 집중되어 있는 한, 이 순환은 계속될 것이라고 시사한다.

결론적으로, 연구진은 AI 슬롭이 기술의 실패나 사람들이 좋은 이야기에 대한 감각을 잃어버린 징후가 아니라고 결론짓는다. 그것은 망가진 시스템에 대한 합리적인 대응이다. 한국에서는 고압적인 노동 문화, 급격한 발전의 역사, 그리고 의미보다는 주의력을 돈으로 환산하는 디지털 경제가 결합되어, 무의서한 콘텐츠를 생산하는 것이 노동자에게 가장 현명한 선택이 되는 환경을 만들었다. 연구는 이 문제를 해결하기 위해서는 단순히 나쁜 영상을 삭제하는 것 이상의 것이 필요하다고 주장한다. 플랫폼이 창작자에게 측정 지표(metrics)가 아닌 의미에 가치를 두도록 지급 방식을 바꾸어야 하며, 사회가 사람들을 이러한 종류의 노동으로 내모는 경제적 압박을 해결해야 한다. 만약 그렇지 않다면, 무의미한 콘텐츠의 범람은 더욱 커질 것이다. 한국의 사례는 경고를 준다. 디지털 시스템의 인센티브가 인간의 필요와 충돌할 때, 시스템이 승리할 것이며, 그 결과는 아무것도 말하지 않는 소음으로 가득 찬 세상이 될 것이라는 점이다.