Algorithmic hustle: a critical political economy of AI slop production and consumption in South Korea

In der riesigen, lärmenden Landschaft des Internets ist ein seltsames neues Phänomen aufgetaucht: Videos, die echt aussehen und klingen, hinter denen jedoch fast kein menschlicher Gedanke steckt. Dies sind nicht die tollpatschigen, lustigen Fehler früher Computeranimationen, sondern hochglanzpolierte Ströme von Bildern, Stimmen und Geschichten, die vollständig von künstlicher Intelligenz generiert wurden. Sie sind nicht dazu gedacht, zu lehren, zu unterhalten oder eine Idee auszudrücken, sondern lediglich dazu, Ihre Augen lange genug auf den Bildschirm zu binden, um Werbeeinnahmen zu generieren. Forscher nennen dies „AI Slop“ (KI-Schund). Es ist ein Begriff, der Inhalte beschreibt, denen die Bedeutung entzogen wurde und die in massiven Mengen erstellt werden, um die Systeme zu manipulieren, die entscheiden, was wir online sehen. Um zu verstehen, warum dies geschieht, müssen wir uns ansehen, wie digitale Plattformen funktionieren. Diese Plattformen fungieren wie riesige Marktplätze, auf denen Aufmerksamkeit die Währung ist. Sie nutzen komplexe Computerprogramme, oder Algorithmen, um zu entscheiden, welche Videos Ihnen gezeigt werden. Diese Programme scheren sich nicht darum, ob ein Video schön oder wahrhaftig ist; sie achten nur darauf, ob es Menschen zum Weiterschauen bewegt. Wenn Schöpfer erkennen, dass das System Quantität und Geschwindigkeit über Qualität stellt, beginnen sie, Inhalte zu produzieren, die den Bedürfnissen der Maschine perfekt entsprechen, selbst wenn sie nichts zu sagen haben.

Ein Forschungsteam der Korea University machte sich daran, eine rätselhafte Frage zu beantworten: Warum ist Südkorea das globale Zentrum dieses Phänomens geworden? Während das Internet überall präsent ist, sticht Südkorea als der Ort hervor, an dem diese Art von Inhalten in den höchsten Zahlen produziert und konsumiert wird. Die Forscher analysierten Daten von tausenden YouTube-Kanälen und fanden heraus, dass allein elf Kanäle mit Sitz in Südkorea 8,45 Milliarden Aufrufe akkumuliert hatten. Dies ist signifikant mehr als in den nächsthöheren Ländern, wobei Pakistan mit 5,34 Milliarden Aufrufen an zweiter Stelle und die USA mit 3,39 Milliarden an dritter Stelle standen. Ein einzener Kanal namens „3 Minutes Wisdom“ hatte allein über 2 Milliarden Aufrufe gesammelt. Die Forscher fanden nicht heraus, dass Südkorea über besseres Internet oder leistungsfähigere Computer als andere Nationen verfüge. Stattdessen entdeckten sie, dass die einzigartige soziale und wirtschaftliche Geschichte des Landes einen perfekten Sturm geschaffen hat, in dem die Produktion bedeutungsloser Inhalte die logischste Wahl für Arbeiter war, die zu überleben versuchten.

Die Studie führt ein neues Konzept ein, um dieses Verhalten zu erklären, das sie „Algorithmic Hustle“ (algorithmisches Hustlen) nennen. Vereinfacht gesagt handelt es sich dabei um eine Arbeitsweise, bei der Menschen ihre Arbeit optimieren, um den Regeln der Plattform zu entsprechen, selbst wenn dies bedeutet, Kreativität und Sinn aufzuge-ben. Die Forscher argumentieren, dass dies nicht geschieht, weil diese Ersteller ineffizient oder zynisch sind, sondern weil das System sie genau dafür belohnt. In Südkorea nimmt dies zwei spezifische Formen an. Die erste ist das „anonyme Hustle“, bei dem die Ersteller ihre Identität vollständig verbergen. Da es in der koreanischen Gesellschaft stigmatisiert sein kann, einen Nebenjob zu haben, und weil die Algorithmen nicht darum scheren, wer das Video erstellt hat, entfernen die Produzenten ihre Gesichter, Stimmen und Namen. Sie werden zu unsichtbaren Maschinen, die Inhalte produzieren, die von keiner echten Person mehr losgelöst sind. Die zweite Form ist das „konfliktbehaftete Vergnügen“ (combative leisure). Dies beschreibt eine Situation, in der die Grenze zwischen Ruhe und Arbeit verschwunden ist. Menschen sind so erschöpft vom Druck, ständig produktiv sein zu müssen, dass sie ihre Freizeit in einen zweiten Job verwandeln und KI-Tools nutzen, um Videos zu produzieren, während sie eigentlich schlafen oder entspannen sollten.

Um zu verstehen, warum dies in Südkorea so intensiv geschieht, untersuchten die Forscher die dortige Geschichte der „komprimierten Modernität“. Dies ist ein Begriff, der beschreibt, wie Südkorea eine schnelle Industrialisierung und sozialen Wandel durchlief und Jahrzehnte der Entwicklung in wenigen Jahren zusammenpresste. Dies schuf eine Kultur, die Geschwindigkeit und Effizienz über alles stellt und oft Wachstum über Sicherheit oder tiefgründige Reflexion priorisiert. Die Forscher fanden heraus, dass diese kulturelle Denkweise perfekt zur Funktionsweise digitaler Plattformen passt. Genau wie das Land einst versuchte, Fabriken und Infrastrukturen schnell aufzubauen, eilt es nun dem Einsatz neuer Technologien wie künstlicher Intelligenz hinterher. Die Regeln und Ethik, die notwendig wären, um diese Technologien zu steuern, sind jedoch nicht nachgezogen. Diese Lücke bedeutet, dass Menschen lernen, das System zu manipulieren, bevor sie lernen, den Wert dessen zu beurteilen, was sie erschaffen. Der Druck, Schritt zu halten, kombiniert mit einem Arbeitsmarkt, auf dem viele Menschen mehrere Teilzeitjobs ausüben müssen, um über die Runden zu kommen, drängt die Arbeiter auf den Weg des geringsten Widerstands: die Nutzung von KI zur Erstellung endloser Ströme von Inhalten, die keine menschliche Seele zur Produktion benötigen.

Die Forscher untersuchten drei Haupttypen dieser Inhalte, um zu sehen, wie sie in der Praxis funktionieren. Der erste Typ nutzt KI zur Generierung von Bildern, wie etwa Diashows von Tieren oder historischen Szenen, gepaart mit Roboterstimmen, die Skripte vorlesen. Der zweite Typ nutzt KI-Stimmen, um Bücher vorzulesen oder Ratschläge zu geben, mit einfachem Stock-Footage im Hintergrund. Der dritte und populärste Typ nutzt fortschrittliche Videogeneratoren, um kurze Clips zu erstellen, die oft Tiere zeigen, die auf unmögliche Weise kämpfen oder interagieren. Diese Videos haben keine Geschichte, keinen pädagogischen Wert und keinen Bezug zur Realität. Sie sind rein visuelle Reize, die darauf ausgelegt sind, eine Reaktion hervorzurufen. Die Studie fand heraus, dass mit zunehmender Entfernung von Bedeutung aus dem Inhalt die Produktionskosten sinken und die Wahrscheinlichkeit steigt, dass der Inhalt von der Plattform empfohlen wird. So war beispielsweise der Kanal „3 Minutes Wisdom“ so erfolgreich, dass er in einem einzigen Jahr schätzungsweise 4,04 Millionen Dollar an Werbeeinnahmen generierte. Als die Plattform seine Inhalte schließlich wegen Regelverstößen entfernte, verschwand der Kanal nicht; er änderte einfach seinen Namen und begann, Videos von Videospielen zu posten, wobei er seine Millionen Abonnenten intakt hielt. Dies zeigt, dass das System das Format belohnt, nicht den Schöpfer.

Der Artikel hebt auch einen Widerspruch in der Art und Weise hervor, wie die Plattform YouTube mit diesem Problem umgeht. Das Unternehmen hat diesen Arten von Inhalten öffentlich verurteilt, sie als „AI Slop“ bezeichnet und versprochen, sie zu entfernen. Die Art und Weise, wie YouTube seine Ersteller jedoch bezahlt, fördert dieses Verhalten tatsächlich. Das System belohnt Videos, die Menschen über lange Zeit zum Zuschauen bewegen, ungeachtet dessen, ob der Inhalt gut oder schlecht ist. Die Forscher fanden heraus, dass YouTube zwar spezifische Kanäle entfernt, aber die Regeln, die das Problem verursacht haben, unverändert lässt. Sobald ein Kanal gesperrt wird, treten schnell andere an seine Stelle und nutzen dieselben Methoden, um die Lücke zu füllen. Die Plattform agiert wie ein Torwächter, der gelegentlich eine Tür schließt, aber der Flur dahinter bleibt offen, und der Verkehr findet einfach einen anderen Weg hinein. Die Studie legt nahe, dass dieser Kreislauf so lange anhalten wird, wie die finanziellen Anreize auf Aufrufe und die Sehdauer statt auf Qualität oder Wahrheit fokussiert bleiben.

Letztendlich kommen die Forscher zu dem Schluss, dass „AI Slop“ kein Versagen der Technologie oder ein Zeichen dafür ist, dass die Menschen ihren Geschmack für gute Geschichten verloren haben. Es ist eine rationale Antwort auf ein kaputtes System. In Südkorea hat die Kombination aus einer Hochdruck-Arbeitskultur, einer Geschichte schneller Entwicklung und einer digitalen Ökonomie, die nach Aufmerksamkeit statt nach Bedeutung bezahlt, ein Umfeld geschaffen, in dem die Produktion leerer Inhalte das Klügste ist, was ein Arbeiter tun kann. Die Studie argumentiert, dass die Lösung dieses Problems mehr erfordert als nur das Löschen schlechter Videos. Es erfordert eine Änderung der Regeln des Spiels selbst. Wenn die Plattformen nicht ändern, wie sie Ersteller bezahlen, um Bedeutung über Metriken zu schätzen, und wenn Gesellschaften nicht die wirtschaftlichen Zwänge angehen, die Menschen zu dieser Art von Arbeit zwingen, wird die Flut an bedeutungslosen Inhalten nur weiter wachsen. Der Fall Korea dient als Warnung: Wenn die Anreize eines digitalen Systems mit menschlichen Bedürfnissen kollidieren, wird das System gewinnen, und das Ergebnis wird eine Welt voller Lärm sein, der gar nichts aussagt.