Algorithmic hustle: a critical political economy of AI slop production and consumption in South Korea

インターネットという広大で騒々しい風景の中に、奇妙で新しい現象が現れた。それは、見た目や音は本物のように見えるが、その背後に人間の思考がほとんど存在しない動画である。これらは初期のコンピュータグラフィックスのような、不器用で滑稽な間違いではない。人工知能によって完全に生成された、画像、音声、そして物語の高度に洗練されたストリームである。これらは教えたり、楽しませたり、思想を表現したりするためではなく、単に広告収入を生み出すために、あなたの目を画面に釘付けにするように設計されている。研究者たちはこれを「AIスロップ（AIのカス）」と呼んでいる。これは、意味を剥ぎ取られ、オンラインで見せるものを決定するシステムを欺くために大量生産されたコンテンツを指す言葉である。なぜこのようなことが起きているのかを理解するには、デジタルプラットフォームの仕組みを見る必要がある。これらのプラットフォームは、アテンション（注目）が通貨となる巨大な市場のように機能している。プラットフォームは複雑なコンピュータプログラム、すなわちアルゴリズムを使用して、どの動画をあなたに見せるかを決定する。これらのプログラムは、動画が美しいか真実であるかには関心がない。ただ、人々を視聴し続けさせることだけに執着している。クリエイターたちが、システムが質よりも量とスピードを報酬として与えることに気づくと、彼らはたとえ語るべき内容が何一つなくても、機械のニーズに完璧に合致するコンテンツを作り始めるのである。

高麗大学の研究チームは、ある不可解な問いに答えるべく調査を開始した。なぜ韓国がこの現象の世界的な中心地となったのか、という問いである。インターネットは世界中に存在するが、韓国はこの種のコンテンツが最も多く生産され、視聴されている場所として際立っている。研究者たちは数千のYouTubeチャンネルのデータを分析し、韓国を拠点とするわずか11のチャンネルだけで、84.5億回の再生数を蓄積していたことを発見した。これは、2位のパキスタン（53.4億回）、3位のアメリカ（33.9億回）を大きく上回る数字である。「3分間の知恵（3 Minutes Wisdom）」と呼ばれる単一のチャンネルは、それだけで20億回以上の再生数を集めていた。研究者たちは、韓国が他の国よりも優れたインターネット環境や強力なコンピュータを持っているわけではないことを突き止めた。代わりに、この国の独特な社会的・経済的歴史が、意味のないコンテンツを生産することが労働者にとって最も論理的な選択肢となるような、「完璧な嵐」を作り出したことを発見したのである。

この研究は、この行動を説明するための新しい概念を導入しており、それを「アルゴリズム・ハッスル（アルゴリズムへの邁進）」と呼んでいる。簡単に言えば、これは創造性や意味を放棄してでも、プラットフォームのルールに合うように自らの労働を最適化する働き方のことである。研究者たちは、これはクリエイターが非効率的であったり冷笑的であったりするためではなく、システムがそうすることを報いているのだと主張している。韓国では、これは2つの具体的な形態をとる。第一は「アノニマス・ハッスル（匿名の邁進）」であり、クリエイターは自身の正体を完全に隠す。韓国社会では副業を持つことが偏見の対象となることがあり、またアルゴリズムも誰が動画を作ったかには関心を持たないため、制作者たちは顔、声、名前を削ぎ落としていく。彼らは、現実の人間から切り離された、目に見えない機械となる。第二の形態は「コンバティブ・レジャー（戦闘的余暇）」である。これは、休息と仕事の境界線が消滅した状況を指す。人々は絶えず生産的であらねばならないという圧力に疲れ果て、睡眠やリラックスすべき時間にAIツールを駆使して動画を量産し、自由時間を第二の仕事へと変えてしまうのである。

なぜこれが韓国でこれほど激しく起きているのかを理解するために、研究者たちはこの国の「圧縮された近代化」の歴史に着目した。これは、韓国がいかに短期間で急速な工業化と社会変化を遂げたかを表す用語であり、数十年の発展をわずか数年に凝縮したものである。これにより、安全性や深い内省よりも、スピードと効率を至上命題とする文化が形成された。研究者たちは、この文化的マインドセットがデジタルプラットフォームの仕組みと完璧に合致していることを発見した。かつてこの国が工場やインフラを迅速に建設するために駆け抜けたように、現在は人工知能のような新技術を採用するために駆け抜けている。しかし、これらの技術を管理するためのルールや倫理が追いついていない。このギャップにより、人々は、自分が作っているものの価値を判断する方法を学ぶ前に、システムを欺く方法を学んでしまうのである。ついていくためのプレッシャーと、生活を営むために多くの人が複数のアルバイトを保持しなければならない雇用市場の状況が相まって、労働者を「抵抗の少ない道」、すなわち、人間の魂を必要としないエンドレスなコンテンツをAIで作る道へと押しやっている。

研究者たちは、このコンテンツが実際にどのように機能しているかを見るために、主に3つのタイプを検証した。第一のタイプは、動物や歴史的なシーンのスライドショーに、ロボットのような声で台本を読み上げる音声を組み合わせた、AIによる画像の生成である。第二のタイプは、背景に単純なストック映像を流しながら、AI音声が本を読んだりアドバイスを与えたりするものである。第三の、そして最も普及しているタイプは、高度なビデオ生成器を使用して、動物が戦ったりあり得ない相互作用をしたりする短いクリップを作成するものである。これらの動画にはストーリーも、教育的価値も、現実との繋がりもない。それらは単なる視覚的刺激であり、反応を引き起こすために設計されている。研究によれば、コンテンツから意味が取り除かれればされるほど、制作コストは下がり、プラットフォームによって推奨される可能性は高まる。例えば、「3分間の知恵」というチャンネルは非常に成功し、年間推定404万ドルの広告収入を得ていた。プラットフォームが最終的にルール違反としてコンテンツを削除した際、そのチャンネルは消滅したのではなく、単に名前を変えてビデオゲームの動画を投稿し始め、数百万人の登録者を維持したままだった。これは、システムがクリエイターではなく、フォーマットに対して報酬を与えていることを示している。

また、この論文は、YouTubeがこの問題にどのように対処しているかという矛盾についても指摘している。同社は公にはこの種のコンテンツを非難し、「AIスロップ」と呼び、削除することを約束している。しかし、YouTubeがクリエイターに支払う仕組みは、実際にはこの行動を助長している。このシステムは、コンテンツが良いか悪いかにかかわらず、人々を長く視聴させ続ける動画に対して報酬を与える。研究者たちは、YouTubeが特定のチャンネルを削除しても、問題を生み出しているルール自体は変更されていないことを発見した。一つのチャンネルがバン（禁止）されると、すぐに他のチャンネルが同じ手法を用いてその空白を埋めるために現れる。プラットフォームは、時折ドアを閉める門番のような役割を果たしているが、その背後の廊下は開いたままであり、交通量は別の道を見つけて入ってくる。研究は、報酬のインセンティブが品質や真実性ではなく、視聴数や視聴時間に集中している限り、このサイクルは続くことを示唆している。

最終的に、研究者たちは、AIスロップはテクノロジーの失敗でも、人々が優れた物語を好まなくなった兆候でもない、と結論づけている。それは、壊れたシステムに対する合理的な反応である。韓国においては、高圧的な労働文化、急速な発展の歴史、そして意味よりもアテンションに対して支払われるデジタル経済の組み合わせが、空虚なコンテンツを生産することが労働者にとって最も賢明な選択となる環境を作り出した。研究は、この問題を解決するには、単に悪い動画を削除すること以上のことが必要であると論じている。もしプラットフォームが、指標よりも意味を重視するようにクリエイターへの支払い方法を変更せず、もし社会が人々をこのような仕事へと追い込む経済的圧力を解決しないのであれば、無意味なコンテンツの洪水は増していくばかりである。韓国の事例は警告を発している。デジタルシステムのインセンティブが人間のニーズと衝突するとき、システムが勝利し、その結果として、何も語らないノイズに満ちた世界が生まれるのだ。