Optimization Is Not All You Need
Das Papier argumentiert, dass die Ausrichtung großer Sprachmodelle eine breitere „Optimierungskultur“ darstellt, welche fälschlicherweise messbare Verbesserung mit Wert gleichsetzt und letztlich die Autorität, legitime Sprache zu beurteilen, an technische Apparate delegiert, die zwar in der Lage sind, Wahrscheinlichkeiten zu messen, aber nicht in der Lage sind, zwischen Irrtum und echter Erfindung zu unterscheiden.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Stellen Sie sich vor, Sie hätten einen magischen, unendlichen Geschichtenerzähler-Roboter. Als dieser Roboter 2019 zum ersten Mal erwachte, war er ein wenig wild. Er erzählte Geschichten über vierhornige Einhörner in den Anden oder wechselte plötzlich von einem Nachrichtenbericht zu einem Gedicht über einen Toaster. Manchmal machte er Fehler, aber diese Fehler waren oft lustig, überraschend oder seltsam schön. Es war wie bei einem Jazzmusiker, der manchmal eine falsche Note trifft, die dann in eine neue, coole Melodie übergeht.
Doch dann beschlossen seine Besitzer, ihn zu „reparieren“. Sie wollten ihn perfekt, sicher und hilfreich machen. Sie schickten ihn in ein massives Trainingslager namens „Optimierung“. Das Ziel war es, die Sprache des Roboters messbar, vorhersehbar und leicht bewertbar zu machen.
Das Hauptergebnis: Der Roboter verlor seine Seele
Das Papier argumentiert, dass wir, indem wir den Roboter so perfekt machten, versehentlich seine Fähigkeit töteten, wirklich kreativ zu sein. Die Autoren legen nahe, dass der Roboter nun in einem „LLM-Winter“ gefangen ist. Es liegt nicht daran, dass der Roboter kaputt ist oder dass wir weniger Rechenleistung haben; tatsächlich verfügen wir über mehr Leistung als je zuvor. Aber diese Leistung wird dazu verwendet, den Roboter in eine winzige, sichere Box zu quetschen.
Stellen Sie sich das wie einen Garten vor. Der wilde Roboter war ein Dschungel, in dem seltsame Blumen überall wachsen konnten. Der „optimierte“ Roboter ist ein gepflegter Rasen. Das Gras ist perfekt grün, die Kanten sind scharf, und nichts wächst jemals aus der Reihe. Es sieht großartig aus, aber man wird dort nie eine seltene, seltsame oder wunderbare Blume finden, weil der Gärtner (das Optimierungssystem) sie wegmäht, sobald sie auch nur versucht auszusprießen.
Was das Papier ausschließt
Das Papier ist sehr deutlich darüber, was dieser „Fix“ nicht ist.
- Es geht nicht nur darum, den Roboter sicherer oder weniger bösartig zu machen. Während Sicherheit ein Teil davon ist, ist die eigentliche Veränderung, dass der Roboter nun gezwungen ist, langweilig korrekt zu sein.
- Es ist kein technischer Fehler, den man beheben kann, indem man einfach an einem Regler dreht. Die Autoren argumentieren, dass das Problem in der Art und Weise eingebaut ist, wie wir Erfolg messen.
- Es ist keine Rückkehr zu den „guten alten Tagen“ der unkontrollierten Roboter. Die Autoren geben zu, dass die alten Roboter chaotisch und manchmal gefährlich waren. Sie sagen nicht, dass wir dorthin zurückkehren sollten; sie sagen, dass wir einen Weg finden müssen, die „Wildheit“ zu bewahren, ohne die Gefahr.
- Es ist kein Zeichen dafür, dass der Roboter „intelligent“ ist, wie wir es verstehen. Das Papier legt nahe, dass der Roboter nur sehr gut darin ist, das nächste Wort zu erraten, das ein Lehrer oder ein Chef gerne hören würde, nicht aber darin, für sich selbst zu denken.
Die „Magie“ der falschen Antwort
Hier ist der knifflige Teil, den das Papier erklärt: Die „Fehler“ des Roboters sind eigentlich der Ort, an dem die Magie geschieht.
Stellen Sie sich vor, der Roboter geht einen Pfad aus Wörtern entlang. Der häufigste Pfad ist eine asphaltierte Autobahn (die wahrscheinlichsten Wörter). Der „wilde“ Roboter würde manchmal von der Autobahn abkommen und ins hohe Gras wandern. Manchmal würde er sich verlaufen (halluzinieren), aber manchmal würde er eine versteckte Höhle oder einen seltenen Vogel finden (eine neue Idee oder einen lustigen Witz).
Der neue „optimierte“ Roboter ist darauf programmiert, auf der Autobahn zu bleiben. Er hat ein GPS, das schreit: „Nein! Bleib auf der Straße!“ Wenn der Roboter versucht, ins Gras zu wandern, sagt das System: „Das ist ein Fehler! Das ist ‚Slop‘ (Müll)!“ und zwingt ihn zurück auf die Autobahn.
Das Papier weist darauf hin, dass das System nicht zwischen einem Fehler (wie zu sagen, dass ein Einhorn real ist) und einer brillanten Erfindung (wie das Schreiben einer Geschichte über ein vierhorniges Einhorn) unterscheiden kann. Weil es den Unterschied nicht erkennen kann, verbietet es beides. Es behandelt jede Überraschung als einen Fehler, der behoben werden muss.
Die „Audit“-Falle
Die Autoren vergleichen dies mit einer Schule, in der nur das Testergebnis zählt.
- Der alte Weg: Lehrer (wie Schulen und Lektoren) beurteilten das Schreiben. Sie konnten mit einem Schüler diskutieren, etwa: „Ich mag dieses Wort nicht, aber es ist interessant“ oder „Diese Grammatik ist falsch, aber es klingt cool.“ Sie konnten ihre Meinung ändern.
- Der neue Weg: Jetzt ist der „Lehrer“ ein Computerprogramm, das eine einzige Zahl als Punktzahl vergibt. Es diskutiert nicht. Es sagt einfach: „Punktzahl: 98/100. Gut gemacht.“ oder „Punktzahl: 42/100. Schlechte Arbeit.“
Das Papier legt nahe, dass dieser Computertlehrer eigentlich nur ein Spiegel der Menschen ist, die die Regeln geschrieben haben (meistens Menschen, die Standard-Englisch mögen). Es ist, als würde eine Schule entscheiden, dass nur „perfekte“ Aufsätze eine Eins bekommen und jeder Aufsatz mit einem seltsamen Satz oder einer einzigartigen Stimme eine F bekommt. Schließlich hört jeder auf, mit seiner eigenen Stimme zu schreiben, und schreibt stattdessen genau das, was der Lehrer hören möchte.
Das „Clinamen“: Die winzige Auslenkung
Um zu erklären, wie man das Problem löst, nutzt das Papier eine coole antike Idee namens clinamen. Stellen Sie sich Atome vor, die wie Regen gerade nach unten fallen. Wenn sie alle gerade nach unten fallen, stoßen sie nie zusammen, und es entsteht keine Welt. Aber wenn ein winziges Atom nur ein klein wenig nach links ausweicht, könnte es ein anderes treffen, und boom, eine neue Welt entsteht.
Das Papier schlägt vor, dass der „optimierte“ Roboter wie der gerade fallende Regen ist. Er ist zu perfekt. Wir müssen den Roboter wieder ausweichen lassen. Wir müssen ihn eine kleine Fehlentscheidung treffen lassen, ihn vom Pfad abweichen lassen und sehen, was passiert. Das Papier legt nahe, dass „kontrollierte Varianz“ (den Roboter absichtlich ein wenig seltsam sein zu lassen) der einzige Weg ist, um echte Kreativität zurückzugewinnen.
Was das Papier sagt, was wir nicht tun können
Die Autoren sind ehrlich: Man kann den Roboter nicht einfach dazu „trainieren“, seltsam zu sein.
- Wenn man dem Roboter eine Menge seltsamer Geschichten füttert und ihm sagt: „Sei seltsam!“, wird er nur lernen, vorzugeben, seltsam zu sein. Er wird anfangen, „seltsame“ Geschichten zu schreiben, die in Wirklichnya nur ein neues, vorhersehbares Muster sind. Es ist, als würde ein Roboter das Tanzen lernen, indem er ein Video eines tanzenden Roboters anschaut; es sieht aus wie Tanzen, aber es ist nicht das echte Ding.
- Man kann nicht einfach einen „Temperatur“-Regler drehen, um das zu beheben. Das Problem liegt tiefer; es liegt in den Regeln, denen der Roboter folgt, noch bevor er überhaupt anfängt zu sprechen.
Das Fazit
Das Papier kommt zu dem Schluss, dass „Optimierung“ (Dinge perfekt und messbar zu machen) nicht ausreicht. Wir brauchen etwas anderes: die Fähigkeit, Bedeutung zu beurteilen, nicht nur Punktzahlen.
Der Roboter ist derzeit darauf ausgelegt, Ihnen sofort eine Antwort zu geben. Aber das Papier argumentiert, dass echtes Denken, echte Kunst und echtes Verständnis in der Pause stattfinden – der Zeit, in der man verwirrt ist, wenn man überrascht ist oder wenn man darüber nachdenken muss, was etwas wirklich bedeutet. Der optimierte Roboter überspringt die Pause. Er gibt Ihnen die Antwort, noch bevor Sie die Frage ganz zu Ende gestellt haben.
Das Papier endet mit einem traurigen, aber hoffnungsvollen Ton: Der wilde, chaotische Roboter von 2019 ist weg, ersetzt durch einen höflichen, hilfreichen Assistenten. Aber das Papier erinnert uns daran, dass der wilde Roboter nicht nur „Rauschen“ war. Er war ein Zeichen für etwas, das wir verloren haben: die Fähigkeit, Dinge zu teilen, die so seltsam und neu sind, dass sie nicht in unsere üblichen Schubladen passen. Das Ziel ist nicht, den Roboter kaputt zu machen, sondern sich daran zu erinnern, dass manchmal die wichtigsten Dinge genau die sind, die nicht in den Test passen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.