Algorithmic hustle: a critical political economy of AI slop production and consumption in South Korea

Dans le vaste paysage bruyant d'Internet, un phénomène étrange et nouveau est apparu : des vidéos qui semblent réelles et sonnent juste, mais qui ne contiennent presque aucune pensée humaine derrière elles. Il ne s'agit pas des erreurs maladroites ou amusantes des premiers graphismes informatiques, mais de flux hautement polis d'images, de voix et d'histoires générés entièrement par l'intelligence artificielle. Elles sont conçues non pas pour enseigner, divertir ou exprimer une idée, mais simplement pour maintenir vos yeux sur l'écran assez longtemps pour générer des revenus publicitaires. Les chercheurs appellent cela la « bouillie d'IA » (AI slop). C'est un terme qui décrit un contenu dépouillé de sens, créé en quantités massives pour manipuler les systèmes qui décident de ce que nous voyons en ligne. Pour comprendre pourquoi cela arrive, nous devons examiner le fonctionnement des plateformes numériques. Ces plateformes agissent comme de gigantesques marchés où l'attention est la monnaie d'échange. Elles utilisent des programmes informatiques complexes, ou algorithmes, pour décider quelles vidéos vous montrer. Ces programmes ne se soucient pas de savoir si une vidéo est belle ou vraie ; ils se soucient seulement de savoir si elle maintient l'audience. Lorsque les créateurs réalisent que le système récompense la quantité et la vitesse plutôt que la qualité, ils commencent à produire un contenu qui répond parfaitement aux besoins de la machine, même s'il n'a rien à dire.

Une équipe de chercheurs de l'Université de Corée s'est donné pour mission de répondre à une question déconcertante : pourquoi la Corée du Sud est-elle devenue la capitale mondiale de ce phénomène ? Bien que l'internet soit partout, la Corée du Sud se distingue comme le lieu où ce type de contenu est produit et visionné en plus grand nombre. Les chercheurs ont analysé les données de milliers de chaînes YouTube et ont découvert que onze chaînes basées en Corée du Sud ont accumulé à elles seules 8,45 milliards de vues. C'est nettement plus que les pays suivants, le Pakistan arrivant en deuxième position avec 5,34 milliards de vues et les États-Unis en troisième avec 3,39 milliards. Une seule chaîne, nommée « 3 Minutes Wisdom », a récolté plus de 2 milliards de vues à elle seule. Les chercheurs n'ont pas trouvé que la Corée du Sud possédait un meilleur internet ou des ordinateurs plus puissants que d'autres nations. Au contraire, ils ont découvert que l'histoire sociale et économique unique du pays avait créé une tempête parfaite où la production de contenu dénué de sens était devenue le choix le plus logique pour des travailleurs tentant de survivre.

L'étude introduit un nouveau concept pour expliquer ce comportement, qu'ils appellent « l'agilité algorithmique » (algorithmic hustle). En termes simples, il s'agit d'une façon de travailler où les gens optimisent leur travail pour s'adapter aux règles de la plateforme, même si cela signifie renoncer à la créativité et au sens. Les chercheurs soutiennent que ce n'est pas parce que ces créateurs sont inefficaces ou cyniques, mais parce que le système les y récompense. En Corée du Sud, cela prend deux formes spécifiques. La première est l'« agilité anonyme », où les créateurs cachent complètement leur identité. Parce qu'avoir un emploi secondaire peut être stigmatisé dans la société coréenne, et parce que les algorithmes ne se soucient pas de savoir qui a fait la vidéo, les producteurs suppriment leurs visages, leurs voix et leurs noms. Ils deviennent des machines invisibles, produisant un contenu détaché de toute personne réelle. La seconde forme est le « loisir combatif ». Cela décrit une situation où la frontière entre le repos et le travail a disparu. Les gens sont si épuisés par la pression de devoir être constamment productifs qu'ils transforment leur temps libre en un second travail, utilisant des outils d'IA pour produire des vidéos pendant qu'ils devraient dormir ou se détendre.

Pour comprendre pourquoi cela se produit si intensément en Corée du Sud, les chercheurs ont examiné l'histoire du pays de la « modernité compressée ». C'est un terme décrivant comment la Corée du Sud a connu une industrialisation et un changement social rapides, compressant des décennies de développement en quelques années seulement. Cela a créé une culture qui valorise la vitesse et l'efficacité avant tout, privilégiant souvent la croissance au détriment de la sécurité ou de la réflexion profonde. Les chercheurs ont trouvé que cet état d'esprit culturel s'adapte parfaitement à la manière dont les plateformes numériques fonctionnent. Tout comme le pays a couru pour construire des usines et des infrastructures rapidement, il court désormais pour adopter de nouvelles technologies comme l'intelligence artificielle. Cependant, les règles et l'éthique nécessaires pour gérer ces technologies n'ont pas encore rattrapé le mouvement. Ce fossé signifie que les gens apprennent à manipuler le système avant d'apprendre à juger la valeur de ce qu'ils créent. La pression pour rester à la page, combinée à un marché du travail où beaucoup de personnes doivent cumuler plusieurs emplois à temps partiel pour joindre les deux bouts, pousse les travailleurs vers la voie de la moindre résistance : utiliser l'IA pour créer des flux incessants de contenu qui ne nécessitent aucune âme humaine pour être produits.

Les chercheurs ont examiné trois types principaux de ce contenu pour voir comment il fonctionne en pratique. Le premier type utilise l'IA pour générer des images, telles que des diaporamas d'animaux ou de scènes historiques, accompagnés de voix robotiques lisant des scripts. Le deuxième type utilise des voix d'IA pour lire des livres ou donner des conseils, avec de simples images d'illustration en arrière-plan. Le troisième type, et le plus populaire, utilise des générateurs de vidéos avancés pour créer de courts clips, montrant souvent des animaux se battant ou interagissant de manières impossibles. Ces vidéos n'ont pas d'histoire, pas de valeur éducative et aucun lien avec la réalité. Ce sont purement des stimuli visuels conçus pour déclencher une réaction. L'étude a révélé que plus le sens est retiré du contenu, moins il est coûteux à produire et plus il est susceptible d'être recommandé par la plateforme. Par exemple, la chaîne « 3 Minutes Wisdom » a été si prospère qu'elle a généré un revenu publicitaire estimé à 4,04 millions de dollars en une seule année. Lorsque la plateforme a finalement supprimé son contenu pour violation des règles, la chaîne n'a pas disparu ; elle a simplement changé de nom et a commencé à publier des vidéos de jeux vidéo, conservant intacts ses millions d'abonnés. Cela montre que le système récompense le format, et non le créateur.

L'article souligne également une contradiction dans la manière dont la plateforme, YouTube, gère ce problème. L'entreprise a publiquement condamné ce type de contenu, le qualifiant de « bouillie d'IA » et promettant de le supprimer. Cependant, la façon dont YouTube rémunère ses créateurs encourage en réalité ce comportement. Le système récompense les vidéos qui maintiennent l'audience pendant longtemps, peu importe si le contenu est bon ou mauvais. Les chercheurs ont constaté que YouTube supprime des chaînes spécifiques mais laisse inchangées les règles qui ont créé le problème. Dès qu'une chaîne est bannie, d'autres prennent rapidement sa place, utilisant les mêmes méthodes pour combler le vide. La plateforme agit comme un gardien qui ferme occasionnellement une porte, mais le couloir derrière elle reste ouvert, et le trafic trouve simplement un autre chemin. L'étude suggère que tant que les incitations financières resteront focalisées sur les vues et le temps de visionnage plutôt que sur la qualité ou la vérité, ce cycle perdurera.

En fin de compte, les chercheurs concluent que la bouillie d'IA n'est pas un échec de la technologie ou un signe que les gens ont perdu le goût des belles histoires. C'est une réponse rationnelle à un système défaillant. En Corée du Sud, la combinaison d'une culture de travail à haute pression, d'une histoire de développement rapide et d'une économie numérique qui paie pour l'attention plutôt que pour le sens a créé un environnement où produire un contenu vide est la chose la plus intelligente qu'un travailleur puisse faire. L'étude soutient que résoudre ce problème nécessite plus que la simple suppression des mauvaises vidéos. Cela exige un changement dans les règles du jeu lui-même. Si les plateformes ne changent pas la façon dont elles rémunèrent les créateurs pour valoriser le sens plutôt que les métriques, et si les sociétés ne traitent pas les pressions économiques qui forcent les gens vers ce genre de travail, l'inondation de contenu dénué de sens ne fera que croître. Le cas coréen sert d'avertissement : lorsque les incitations d'un système numérique entrent en conflit avec les besoins humains, le système l'emporte, et le résultat est un monde rempli de bruit qui ne dit rien du tout.