The Illusion of Stochasticity in LLMs
Diese Arbeit zeigt, dass Large Language Models als Agenten versagen, wenn sie direkt aus spezifischen Wahrscheinlichkeitsverteilungen stochastisch sampeln müssen, da sie ihre internen Wahrscheinlichkeitsschätzungen nicht zuverlässig in stochastische Ausgaben umwandeln können, obwohl sie bei vorgegebenen Zufallszahlen noch funktionsfähig bleiben.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Das große Missverständnis: LLMs sind keine würfelnden Zauberer
Stellen Sie sich vor, Sie haben einen extrem intelligenten Roboter (einen großen Sprachmodell-LLM), der alles über Wahrscheinlichkeiten weiß. Sie sagen ihm: „Wirf einen fairen Würfel und nimm eine Zahl zwischen 1 und 6."
Was passiert? Der Roboter denkt nach, erklärt Ihnen die Theorie des Würfels perfekt und sagt dann: „Die Zahl ist 4." Sie werfen ihn noch einmal an. Er sagt wieder: „Die Zahl ist 4." Und noch einmal: „4."
Das ist das Kernproblem, das diese Studie aufdeckt: Große Sprachmodelle sind Meister des „Wissens", aber absolute Anfänger beim „Tun" von Zufall.
Hier ist die Aufschlüsselung, warum das so ist und was die Forscher herausgefunden haben:
1. Der „Illusions-Trick" (Das Problem)
Wenn ein Sprachmodell einen Text schreibt, ist es nicht wirklich zufällig. Es wählt das nächste Wort basierend auf dem, was es in seinen Trainingsdaten gesehen hat.
- Die Analogie: Stellen Sie sich vor, Sie bitten einen Koch, der alle Kochbücher der Welt auswendig kennt, ein zufälliges Gericht zu kochen. Er weiß genau, was ein „zufälliges Menü" ist. Aber wenn er kocht, greift er unbewusst immer wieder zu den Gerichten, die er am häufigsten gegessen hat (z. B. Pizza oder Pasta), weil diese in seinem „Gedächtnis" am stärksten verankert sind. Er kann sich nicht wirklich von seinen Gewohnheiten lösen, um etwas wirklich Neues und Zufälliges zu kreieren.
- Das Ergebnis: Wenn man LLMs bittet, eine zufällige Zahl oder einen Buchstaben zu wählen, landen sie oft bei bestimmten Favoriten (z. B. die Zahl 7, 42 oder der Buchstabe „C"). Sie simulieren Zufall, aber es ist nur eine Illusion. Es ist wie ein Würfel, der auf der Seite 6 festklebt, obwohl er glaubt, er sei fair.
2. Warum „Nachdenken" nicht hilft
Die Forscher haben versucht, den Modellen zu helfen, indem sie sie aufforderten, erst „nachzudenken" (Chain-of-Thought).
- Die Analogie: Es ist, als würde man dem Koch sagen: „Denk erst genau nach, wie man einen fairen Würfelwurf simuliert." Der Koch schreibt dann eine perfekte Anleitung auf ein Blatt Papier, erklärt die Mathematik hinter dem Würfeln, aber am Ende kocht er trotzdem wieder die Pizza, weil er im Moment des „Auswählens" (des Generierens des Wortes) immer noch von seinen alten Mustern getrieben wird.
- Das Ergebnis: Selbst wenn das Modell die Mathematik perfekt versteht, scheitert es daran, das Ergebnis tatsächlich zufällig zu generieren.
3. Der Versuch, einen Computer zu imitieren (PRNG)
Da die Modelle selbst keinen echten Zufall haben, haben die Forscher sie gebeten, einen Algorithmus zu simulieren, den Computer nutzen, um Zufallszahlen zu erzeugen (einen sogenannten Pseudo-Zufallszahlengenerator).
- Die Analogie: Sie geben dem Koch die genauen mathematischen Schritte eines Zufallszahlengenerators vor: „Nimm die Zahl X, multipliziere sie mit Y, addiere Z..."
- Das Ergebnis: Bei einfachen Aufgaben (wie einer Liste von Zahlen) waren die großen Modelle sehr gut darin, diese Schritte nachzuvollziehen. Sie konnten die „Rechnung" im Kopf durchführen. Aber sobald die Rechnung komplexer wurde (z. B. bei Gauß-Verteilungen, die zwei Zufallszahlen benötigen), gerieten sie ins Stolpern. Sie verloren den Überblick über die riesigen Zahlen, die dabei entstanden, und machten Rechenfehler.
4. Die einzige Lösung: Der externe Würfel
Das Wichtigste, was die Studie sagt, ist: Verlassen Sie sich nicht auf das Gehirn des KI-Modells für Zufall.
- Die Analogie: Wenn Sie einen echten Zufall brauchen, geben Sie dem Koch nicht den Befehl „Würfle selbst". Geben Sie ihm stattdessen einen echten Würfel von außen und sagen Sie: „Wirf diesen Würfel und sag mir, was oben liegt."
- Die Lösung: Die Modelle können hervorragend damit umgehen, wenn ihnen ein echter Zufallswert (ein „Seed" oder ein Zufallszahl aus einem externen Programm) gegeben wird. Sie können diesen Wert dann in das gewünschte Ergebnis umwandeln (z. B. „Aus dieser Zahl mach eine Farbe"). Aber sie können den Zufallswert selbst nicht zuverlässig erzeugen.
Fazit für den Alltag
Wenn Sie eine KI als Agenten einsetzen (z. B. in einem Spiel, bei der Erkundung neuer Ideen oder bei Sicherheitsfragen), sollten Sie niemals darauf vertrauen, dass die KI selbst zufällige Entscheidungen trifft.
- Das Problem: Die KI ist wie ein Schauspieler, der glaubt, er sei ein Zufallszahlengenerator, aber eigentlich nur die häufigsten Szenen aus seinem Skript wiederholt.
- Die Empfehlung: Lassen Sie die KI die Logik und das Wissen übernehmen, aber nutzen Sie einen externen, echten Zufallsmechanismus (einen Computer-Würfel), um die eigentliche zufällige Entscheidung zu treffen. Nur so ist das System wirklich unvorhersehbar und fair.
Zusammengefasst: LLMs wissen, was Zufall ist, aber sie können ihn nicht selbst spielen.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.