Algorithmic hustle: a critical political economy of AI slop production and consumption in South Korea

In het uitgestrekte, luidruchtige landschap van het internet is een vreemd nieuw fenomeen ontstaan: video's die er echt uitzien en klinken, maar bijna geen menselijke gedachte bevatten. Dit zijn niet de onhandige, grappige fouten van vroege computergrafica, maar hoog gepolijste stromen van beelden, stemmen en verhalen die volledig door kunstmatige intelligentie zijn gegenereerd. Ze zijn niet ontworpen om te onderwijzen, te vermaken of een idee uit te drukken, maar simpelweg om je ogen lang genoeg op het scherm te houden om advertentie-inkomsten te genereren. Onderzoekers noemen dit "AI slop". Het is een term die inhoud beschrijft die ontdaan is van betekenis, gecreëerd in enorme hoeveelheden om de systemen te manipuleren die bepalen wat we online te zien krijgen. Om te begrijpen waarom dit gebeurt, moeten we kijken naar hoe digitale platforms werken. Deze platforms fungeren als enorme marktplaatsen waar aandacht de valuta is. Ze gebruiken complexe computerprogramma's, of algoritmen, om te beslissen welke video's ze aan je tonen. Deze programma's geven niet om de vraag of een video mooi of waarheidsgetrouw is; ze geven alleen om het feit of het mensen aan het kijken houdt. Wanneer makers beseffen dat het systeem kwantiteit en snelheid beloont boven kwaliteit, beginnen ze content te produceren die perfect voldoet aan de behoeften van de machine, zelfs als het niets te zeggen heeft.

Een team van onderzoekers van de Korea University zette zich in om een verwarrende vraag te beantwoorden: waarom is Zuid-Korea de wereldwijde hoofdstad van dit fenomeen geworden? Hoewel het internet overal is, valt Zuid-Korea op als de plek waar dit type content in de hoogste aantallen wordt geproduceerd en bekeken. De onderzoekers analyseerden gegevens van duizenden YouTube-kanalen en ontdekten dat elf kanalen gevestigd in Zuid-Korea alleen al 8,45 miljard weergaven hadden verzameld. Dit is aanzienlijk meer dan de op één na hoogste landen, met Pakistan op de tweede plaats met 5,34 miljard weergaven en de Verenigde Staten op de derde plaats met 3,39 miljard. Eén enkel kanaal, genaamd "3 Minutes Wisdom", had op zichzelf al meer dan 2 miljard weergaven verzameld. De onderzoekers vonden niet dat Zuid-Korea een beter internet of krachtigere computers had dan andere landen. In plaats daarvan ontdekten ze dat het unieke sociale en economische verleden van het land een perfecte storm had gecreëerd waarin het produceren van betekenisloze content de meest logische keuze werd voor werknemers die probeerden te overleven.

De studie introduceert een nieuw concept om dit gedrag te verklaren, wat zij "algoritmische hustle" noemen. In eenvoudige termen is dit een manier van werken waarbij mensen hun arbeid optimaliseren om aan de regels van het platform te voldoen, zelfs als dat betekent dat ze creativiteit en betekenis opgeven. De onderzoekers stellen dat dit niet komt omdat deze makers inefficiënt of cynisch zijn, maar omdat het systeem hen hiervoor beloont. In Zuid-Korea neemt dit twee specifieke vormen aan. De eerste is "anonieme hustle", waarbij makers hun identiteit volledig verbergen. Omdat het hebben van een bijbaan in de Koreaanse samenleving een stigma kan hebben, en omdat de algoritmen er niet om geven wie de video heeft gemaakt, ontdoen producenten zich van hun gezichten, stemmen en namen. Ze worden onzichtbare machines die content produceren die losstaat van een echt persoon. De tweede vorm is "combative leisure" (strijdbare vrije tijd). Dit beschrijft een situatie waarin de lijn tussen rust en werk is verdwenen. Mensen zijn zo uitgeput door de druk om constant productief te zijn, dat ze hun vrije tijd veranderen in een tweede baan, waarbij ze AI-tools gebruiken om video's te produceren terwijl ze eigenlijk zouden moeten slapen of ontspannen.

Om te begrijpen waarom dit zo intens gebeurt in Zuid-Korea, keken de onderzoekers naar de geschiedenis van het land met "gecomprimeerde moderniteit". Dit is een term die beschrijft hoe Zuid-Korea in een zeer korte tijd een snelle industrialisatie en sociale verandering onderging, waarbij decennia van ontwikkeling in enkele jaren werden samengeperst. Dit creëerde een cultuur die boven alles snelheid en efficiëntie waardeert, waarbij groei vaak prioriteit krijgt boven veiligheid of diepe reflectie. De onderzoekers vonden dat deze culturele mindset perfect past bij de manier waarop digitale platforms opereren. Net zoals het land ooit rende om fabrieken en infrastructuur snel op te bou zamanda, racet het nu om nieuwe technologieën zoals kunstmatige intelligentie te adopteren. De regels en ethiek die nodig zijn om deze technologieën te beheren, zijn echter nog niet mee gegroeid. Deze kloof betekent dat mensen leren hoe ze het systeem kunnen manipuleren voordat ze leren hoe ze de waarde van wat ze creëren moeten beoordelen. De druk om bij te blijven, gecombineerd met een arbeidsmarkt waar veel mensen meerdere bijbanen moeten hebben om rond te komen, duwt werknemers naar het pad van de minste weerstand: het gebruik van AI om eindeloze stromen content te maken die geen menselijke ziel vereisen om te produceren.

De onderzoekers onderzochten drie hoofdvormen van deze content om te zien hoe dit in de praktijk werkt. Het eerste type gebruikt AI om afbeeldingen te genereren, zoals diavoorstellingen van dieren of historische scènes, vergezeld van robotstemmen die scripts voorlezen. Het tweede type gebruikt AI-stemmen om boeken voor te lezen of advies te geven, met eenvoudige stockbeelden op de achtergrond. Het derde en meest populaire type gebruikt geavanceerde videogeneratoren om korte clips te maken, vaak die dieren laten vechten of op onmogelijke manieren met elkaar interageren. Deze video's hebben geen verhaal, geen educatieve waarde en geen verbinding met de realiteit. Het zijn puur visuele stimuli die bedoeld zijn om een reactie uit te lokken. De studie vond dat hoe meer betekenis er uit de content wordt verwijderd, hoe goedkoper het is om te maken en hoe groter de kans dat het door het platform wordt aanbevolen. Zo was het kanaal "3 Minutes Wisdom" zo succesvol dat het in een enkel jaar naar schatting 4,04 miljoen dollar aan advertentie-inkomsten verdiende. Toen het platform de content uiteindelijk verwijderde vanwege het overtreden van de regels, verdween het kanaal niet; het veranderde simpelweg van naam en begon video's van videogames te plaatsen, waarbij het zijn miljoenen abonnees intact hield. Dit laat zien dat het systeem het format beloont, niet de maker.

Het artikel belicht ook een tegenstrijdigheid in de manier waarop het platform, YouTube, met dit probleem omgaat. Het bedrijf heeft dit type content publiekelijk veroordeeld, het "AI slop" genoemd en beloofd het te verwijderen. Echter, de manier waarop YouTube zijn makers betaalt, moedigt dit gedrag juist aan. Het systeem beloont video's die mensen lang genoeg aan het kijken houden, ongeacht of de inhoud goed of slecht is. De onderzoekers vonden dat YouTube specifieke kanalen verwijdert, maar de regels die het probleem creëerden ongewijzigd laat. Zodra een kanaal wordt verbannen, nemen anderen snel zijn plaats in door dezelfde methoden te gebruiken om de leegte te vullen. Het platform fungeert als een poortwachter die af en toe een deur sluit, maar de gang erachter blijft open, en het verkeer vindt simpelweg een andere weg naar binnen. De studie suggereert dat zolang de financiële prikkels gericht blijven op weergaven en kijktijd in plaats van op kwaliteit of waarheid, deze cyclus zal voortduren.

Uiteindelijk concluderen de onderzoekers dat AI slop geen falen van technologie is of een teken dat mensen hun smaak voor goede verhalen zijn verloren. Het is een rationele reactie op een kapot systeem. In Zuid-Korea heeft de combinatie van een hoge druk in de werkcultuur, een geschiedenis van snelle ontwikkeling en een digitale economie die betaalt voor aandacht in plaats van betekenis, een omgeving gecreëerd waarin het produceren van lege content de slimste keuze is voor een werknemer. De studie stelt dat het oplossen van dit probleem meer vereist dan alleen het verwijderen van slechte video's. Het vereist een verandering in de regels van het spel zelf. Als platforms niet veranderen in hoe ze makers betalen om betekenis boven statistieken te waarderen, en als samenlevingen de economische druk niet aanpakken die mensen dwingt tot dit soort werk, zal de vloedgolf van betekenisloze content alleen maar groeien. De Koreaanse casus dient als een waarschuwing: wanneer de prikkels van een digitaal systeem botsen met menselijke behoeften, zal het systeem winnen, en is het resultaat een wereld vol lawaai dat helemaal niets zegt.