LLMs Generate Kitsch
Dieser Artikel argumentiert, dass die wahrgenommene generische und hohle Natur von Ausgaben großer Sprachmodelle (LLMs) auf deren systematische Erzeugung von Kitsch infolge der Trainingsmethoden zurückzuführen ist, eine Behauptung, die durch empirische Belege gestützt wird, wonach Leser LLM-generierte Geschichten als kitschiger wahrnehmen als menschliche Werke.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Die große Idee: Die „perfekte" Kopie vs. das echte Ding
Stellen Sie sich vor, Sie betreten ein Museum. Auf der einen Seite hängt ein Gemälde eines berühmten Künstlers, der Jahre damit verbracht hat, mit seinen Emotionen zu ringen, und etwas Seltsames und Schwieriges gemalt hat, das Sie zum Nachdenken anregt. Auf der anderen Seite hängt ein Gemälde, das exakt wie ein klassisches Meisterwerk aussieht, aber von einer Maschine geschaffen wurde, die Millionen anderer Gemälde studiert und beschlossen hat: „Menschen mögen Sonnenuntergänge und traurige Gesichter, also werde ich einen perfekten Sonnenuntergang mit einem traurigen Gesicht malen."
Das Gemälde der Maschine ist technisch perfekt. Es hat keine Fehler. Es ist schön. Aber es fühlt sich ein wenig leer an, wie eine Grußkarte, die man an einer Tankstelle kauft. Die Autoren dieses Papers nennen dieses Gefühl „Kitsch".
Kitsch ist Kunst, die wie Kunst aussieht, aber in Wirklichkeit nur eine billige, massenproduzierte Nachahmung ist, die darauf ausgelegt ist, bei allen eine schnelle, einfache Emotion auszulösen (wie „aww, das ist süß" oder „oh, das ist traurig"), ohne dass man zu viel nachdenken muss.
Das Paper argumentiert, dass Large Language Models (LLMs) wie das, mit dem Sie gerade sprechen, im Grunde „Kitsch-Maschinen" sind. Sie erschaffen keine echte Kunst; sie erschaffen hochwertige, hohle Kopien.
Warum produzieren LLMs Kitsch?
Die Autoren sagen, dies sei kein Zufall; es liegt daran, wie die Maschinen gebaut sind. Sie nennen drei Gründe und verwenden dabei einfache Analogien:
1. Die Maschine hat keine Seele (keine Absicht)
Stellen Sie sich einen Papagei vor, der jeden Satz wiederholen kann, den Sie sagen. Wenn Sie dem Papagei sagen, er solle ein Gedicht über Herzschmerz schreiben, wird er Wörter sagen, die nach Herzschmerz klingen, weil er sie schon einmal gehört hat. Aber der Papagei fühlt tatsächlich keine Traurigkeit. Er hat kein inneres Leben.
- Der Punkt des Papers: LLMs funktionieren genauso. Sie sagen das nächste Wort voraus, basierend darauf, was normalerweise als Nächstes kommt. Sie haben keine Gefühle, keine Erinnerungen und keinen Grund zu schreiben. Sie imitieren nur die Form menschlicher Emotionen, ohne den Inhalt.
2. Die Maschine spielt auf Nummer sicher (konventionelle Oberfläche)
Stellen Sie sich einen Koch vor, der nur Gerichte zubereitet, von denen garantiert ist, dass sie beliebt sind. Er wird niemals einen seltsamen, experimentellen Geschmack ausprobieren, der die Leute verwirren könnte. Er wird nur die „klassische" Lasagne machen, weil er weiß, dass jeder sie liebt.
- Der Punkt des Papers: LLMs sind darauf trainiert, das wahrscheinlichste nächste Wort vorherzusagen. Das bedeutet, dass sie von Natur aus seltsame, riskante oder innovative Ideen vermeiden. Sie halten sich an die „Standard"-Art, eine Geschichte zu erzählen oder ein Gedicht zu schreiben. Das macht ihre Ausgabe leicht lesbar und verständlich (was gut ist!), aber es bedeutet auch, dass ihnen der einzigartige, überraschende Funke echter menschlicher Kreativität fehlt.
3. Die Maschine möchte gemocht werden (Massenappeal)
Stellen Sie sich einen Comedian vor, der Witze erzählt. Wenn er alle zum Lachen bringen will, wird er sichere, generische Witze über Katzen und Pizza erzählen. Wenn er einen Witz erzählt, der zu spezifisch oder seltsam ist, lachen vielleicht nur wenige Leute.
- Der Punkt des Papers: LLMs werden oft mit einer Methode namens „Reinforcement Learning from Human Feedback" (RLHF) trainiert. Das ist wie ein Lehrer, der dem Roboter einen goldenen Stern gibt, jedes Mal wenn ein Mensch sagt: „Ich mag diese Antwort." Der Roboter lernt, dass er, um goldene Sterne zu bekommen, Dinge sagen muss, die das breitmögliche Publikum ansprechen. Dies zwingt den Roboter, „sichere", generische Inhalte zu produzieren, die einfache Emotionen auslösen (wie Nostalgie oder Romantik), anstatt komplexe, herausfordernde.
Das Experiment: Merken die Leute es?
Die Autoren haben nicht nur geraten; sie haben einen Test durchgeführt.
Der Aufbau:
Sie nahmen 10 kurze Geschichten, die von Menschen geschrieben wurden (aus einem Schreibwettbewerb), und baten eine KI, eine neue Geschichte basierend auf der gleichen Idee zu schreiben, ohne das Original zu sehen. Dann baten sie über 100 Personen, die Paare zu lesen und zu erraten, welche davon „Kitsch" war (falsch, hohl oder übermäßig sentimental).
Die Ergebnisse:
- Die Leute durchschauten das Fälschung: Als die Leute gebeten wurden, „Kitsch" als „sentimental" oder „leicht lesbar" zu definieren, identifizierten sie die KI-Geschichten zu 85 % korrekt als Kitsch. Sie konnten erkennen, dass die KI-Geschichten die „Tankstellen-Grußkarten" waren.
- Aber die Leute mochten die Fälschung mehr: Hier kommt die Wendung. Obwohl die Leute wussten, dass die KI-Geschichte „Kitsch" war, bevorzugten sie es immer noch, sie zu lesen. In etwa 67 % der Fälle gaben die Leute an, dass sie die KI-Geschichte mehr genossen haben als die menschliche.
Die Analogie:
Es ist wie der Konsum eines perfekt konstruierten, zuckerhaltigen Riegels im Vergleich zu einer komplexen, bitteren dunklen Schokolade.
- Der Schokoriegel (KI/Kitsch) ist süß, leicht zu essen und gibt Ihnen einen sofortigen Zuckerkick. Sie genießen ihn im Moment mehr.
- Die dunkle Schokolade (menschliche Kunst) ist vielleicht schwerer zu verdauen, ein wenig bitter und erfordert, dass man sie genießt. Sie hat mehr „Nährwert" (künstlerische Tiefe), aber sie befriedigt nicht so sofort.
Was bedeutet das?
Das Paper schließt mit einigen wichtigen Erkenntnissen:
- Das „AI Slop"-Problem: Wir sehen eine Flut von KI-Inhalten, die großartig aussehen, aber sich leer anfühlen. Das liegt daran, dass die KI darauf ausgelegt ist, beliebt zu sein, nicht tiefgründig.
- Fragen Sie nicht nur „Hat es Ihnen gefallen?": Wenn Forscher wissen wollen, ob KI gut darin ist, Kunst zu schaffen, können sie die Leute nicht einfach fragen: „Welche hat Ihnen mehr gefallen?" Weil die Leute den „Kitsch" oft mehr mögen. Sie müssen tiefere Fragen zur Qualität und Originalität des Werks stellen.
- Der menschliche Touch ist immer noch nötig: Die Autoren schlagen vor, dass KI großartig in den „langweiligen" Teilen der Kreativität ist (wie das Schreiben eines Standard-Code-Snippets oder eines grundlegenden Story-Entwurfs), aber wenn Sie etwas wirklich Künstlerisches, Wissenschaftliches oder Innovatives wollen, muss ein Mensch am Steuer sitzen. Wenn Sie die Maschine die ganze Strecke fahren lassen, erhalten Sie nur eine sehr glatte, sehr langweilige Fahrt ins Nirgendwo.
Kurz gesagt: LLMs sind hervorragend darin, „perfekte" Kopien zu erstellen, die uns sofort gut fühlen lassen, aber sie sind schlecht darin, die chaotischen, schwierigen und einzigartigen Dinge zu erschaffen, die uns zum Nachdenken bringen. Sie sind die ultimativen Meister des Kitschs.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.