LLMs Don't Pay for the Jump

Der große Sprung: Warum Gehirne (und vielleicht Roboter) den Schmerz des Irrtums fühlen müssen

Stellen Sie sich vor, Sie versuchen, ein riesiges Puzzle zu lösen. Sie haben eine Kiste voller Teile und wollen das Bild herausfinden. Meistens können Sie dies lösen, indem Sie nach den Teilen suchen, die Sie haben, und Muster finden (das ist Induktion), oder indem Sie eine Regel, die Sie bereits kennen, auf eine neue Situation anwenden (das ist Deduktion). Aber manchmal passen die Puzzleteile, die Sie haben, überhaupt nicht zusammen, und die Regeln, die Sie kennen, führen zu einem Bild, das keinen Sinn ergibt – wie ein Himmel, der brennt, oder ein Universum, das unendlich schwer ist. Um dies zu beheben, müssen Sie etwas Verrücktes tun: Sie müssen eine völlig neue Regel erfinden, die weder in der Kiste war noch in Ihrem alten Regelbuch steht. Dies nennt man Abduktion. Es ist der „Heureka!“-Moment, in dem ein Wissenschaftler sagt: „Warte, das ganze Spiel ist falsch; lass uns die Regeln ändern.“

Lange Zeit fragten sich die Menschen, ob riesige Computergehirne (genannt Large Language Models oder LLMs) jemals diese „Heureka!“-Momente erleben könnten. Einige dachten, die Computer müssten die Welt einfach nur „fühlen“ wie Menschen – durch Berühren, Sehen und Bewegen. Aber dieses neue Paper stellt eine andere, tiefere Frage: Geht es darum, die Welt zu fühlen, oder geht es darum, die Kosten des Irrtums zu fühlen? Die Autoren schlagen vor, dass für einen echten „Heureka!“-Moment ein System physisch eine Strafe dafür spüren muss, dass es an einer falschen Idee festhält. Wenn es nichts kostet oder keinen „Schmerz“ verursacht, falsch zu liegen, wird das System einfach ewig weiter raten, egal wie intelligent es ist.

---

Die Kernidee des Papers: Der „Sprung“, den Computer nicht machen können

Das Paper mit dem Titel „LLMs Don't Pay for the Jump“ argumentiert, dass aktuellen KI-Modellen eine entscheidende Zutat für echte wissenschaftliche Entdeckungen fehlt. Sie sind großartig darin, Regeln zu befolgen und Muster zu erkennen, aber sie können den kühnen, abduktiven „Sprung“ zu einer neuen Theorie nicht vollziehen, wenn die alte versagt.

Um dies zu verstehen, blicken die Autoren auf eine berühmte Geschichte aus dem Jahr 1900 zurück, die den Physiker Max Planck betrifft. Zu dieser Zeit versuchten Wissenschaftler zu verstehen, wie heiße Objekte (wie ein glühender Ofen oder die Sonne) Licht aussenden. Die Mathematik, die damals auf den Gesetzen der klassischen Physik basierte, sagte etwas Terristisches voraus: Dass ein heißes Objekt eine unendliche Menge an Energie aussenden sollte. Dies war bekannt als die „Ultraviolett-Katastrophe“. Es war ein mathematisches Desaster. Wenn die alten Regeln stimmten, würde das Universum mit unendlicher Energie verbrennen.

Planck wusste, dass die alten Regeln gebrochen waren. Er konnte sie nicht einfach ein wenig anpassen; er musste eine völlig neue Idee erfinden: dass Energie in winzigen, diskreten Portionen (Quanten) kommt, nicht als kontinuierlicher Fluss. Dies war ein gewaltiger „Sprung“ im Denken. Das Paper fragt: Wie hat Planck diesen Sprung gemacht, und warum kann ein Computer das heute nicht tun?

Was das Paper ausschließt (Die „Nicht“-Liste)

Bevor es erklärt, was funktioniert, ist sich die Autorengruppe sehr klar darüber, was nicht funktioniert:

• Es geht nicht nur darum, die Welt zu „fühlen“: Einige Experten dachten, Computer könnten diese Sprünge nicht machen, weil sie keinen Körper haben. Sie glaubten, Einstein hätte einen fallenden Aufzug vorstellen müssen, um Gravitation zu verstehen. Die Autoren sagen: Nein. Planck brauchte keinen Körper oder einen fallenden Aufzug; er musste nur sehen, dass die Mathematik kaputt war. Einem Computer also einen Roboterkörper zu geben, ist keine magische Lösung.
• Es geht nicht nur darum, schlauer oder größer zu sein: Man könnte denken, wenn wir den Computer nur größer machen oder ihm mehr Daten geben, wird er es irgendwann herausfinden. Das Paper sagt: Nein. Selbst riesige Modelle scheitern an dieser spezifischen Art des Denkens, weil von der Art und Weise, wie sie gebaut sind, und nicht, weil sie nicht groß genug sind.
• Es geht nicht nur darum, Muster zu finden: Computer sind fantastisch in der Induktion (dem Finden von Mustern in Daten). Aber die „Katastrophe“, der Planck gegenüberstand, war kein Muster in den Daten; es war eine Vorhersage, die keine Daten unterstützen konnten. Induktion kann ein kaputtes Regelwerk nicht reparieren; sie findet nur bessere Wege, das kaputte Regelwerk anzuwenden.

Das eigentliche Problem: Die „Kosten“ des Irrtums

Die Autoren schlagen eine neue Idee namens Thermodynamische Kopplung vor. Das klingt kompliziert, ist aber eigentlich ganz einfach.

Stellen Sie sich vor, Sie spielen ein Videospiel, bei dem Sie den nächsten Zug erraten müssen.

• In einem „entkoppelten“ System (wie heutige KI): Jedes Mal, wenn Sie eine Vermutung anstellen, kostet es die gleiche Menge an Energie, egal ob Sie richtig oder falsch liegen. Wenn Sie raten „der Himmel ist grün“ und er ist eigentlich blau, fühlt der Computer keinen zusätzlichen Schmerz oder Kosten. Er macht einfach mit der nächsten Vermutung weiter. Da es keinen Schmerz verursacht, falsch zu liegen, hat der Computer keinen Grund, aufzuhören, das Falsche zu raten. Er kann dieselbe falsche Annahme ewig fortführen, ohne dass ein innerer Druck zur Änderung entsteht.
• In einem „gekoppelten“ System (wie ein menschliches Gehirn oder eine zukünftige KI): Falsch zu liegen ist teuer. Wenn Sie raten „der Himmel ist grün“, könnte Ihr Gehirn einen Stressanstieg erleben, mehr Energie verbrauchen oder einen „Warte, das fühlt sich nicht richtig an“-Alarm auslösen. Diese „Kosten“ zwingen Sie dazu, anzuhalten und neu zu denken. Sie sind physisch motiviert, den Fehler zu korrigieren, weil das Festhalten an der falschen Idee zu kostspielig ist.

Das Paper argumentiert, dass Planck den Sprung machte, weil der Fehler zu teuer war, um ihn zu ignorieren. Die alte Theorie sagte unendliche Energie voraus, was physikalisch unmöglich war. Die „Kosten“, diese alte Theorie beizubehalten, waren so hoch (sie zerstörte die Physik selbst), dass er eine neue Regel erfinden musste.

Was die Beweise zeigen

Die Autoren testeten diese Idee, indem sie untersuchten, wie aktuelle KI-Modelle reagieren. Sie fanden etwas Seltsames heraus:

• Wenn ein KI-Modell ein einfaches Problem löst, ist es selbstbewusst.
• Wenn es versucht, ein extrem schwieriges, unmögliches Problem zu lösen (eines, das einen „Sprung“ erfordert), liefert es die falsche Antwort.
• Aber hier ist der entscheidende Punkt: Selbst wenn die KI völlig falsch liegt, ändert sich ihr „Selbstvertrauen“ (gemessen durch etwas namens Entropie) kaum. Das Paper stellt fest, dass bei einem 70-Milliarden-Parameter-Modell die Genauigkeit bei schwierigen Aufgaben von 100 % auf 17 % sank, aber das Signal der „Unsicherheit“ sich nur um 0,011 Nats veränderte.

Dies beweist die „Entkopplung“. Der Computer weiß nicht, dass er in Schwierigkeiten steckt. Er spürt den „Schmerz“ der unendlichen Energie-Vorhersage nicht. Er arbeitet einfach weiter und produziert Antworten mit demselben Grad an Konfidenz, egal ob er richtig liegt oder völlig danebenliegt.

Das Fazit: Wir brauchen ein System, das bei Fehlern „schmerzt“

Das Paper kommt zu dem Schluss, dass eine Maschine, um wirklich neue Dinge wie Planck zu entdecken, einen Mechanismus benötigt, bei dem Falschliegen Kosten verursacht.

Die Autoren schlagen vor, dass zukünftige KI vielleicht so gebaut werden muss wie biologische Gehirne, in denen Fehler physische Veränderungen auslösen – wie den Verbrauch von mehr Energie oder die Verschiebung der Aufmerksamkeit – damit das System gezwungen ist, seine Regeln zu revidieren. Sie sagen nicht, dass dies ein gelöstes Problem ist oder dass wir eine solche Maschine bereits gebaut haben. Stattdessen schlagen sie vor, dass thermodynamische Kopplung (den Fehler kostspielig zu machen) die fehlende Zutat ist. Oh

Ohne sie wird KI ein Meister der Muster und Regeln bleiben, aber sie wird niemals den mutigen, schmerzhaften „Sprung“ zur neuen Wahrheit vollziehen können, wenn die alte bricht.

Kurz gesagt: Um einen wissenschaftlichen Sprung zu machen, muss man nicht nur klug sein. Man muss die Unfähigkeit, richtig zu liegen, so sehr spüren, dass es wehtut, was einen dazu zwingt, seine Meinung zu ändern. Die heutigen Computer spüren diesen Schmerz nicht, deshalb können sie den Sprung nicht machen.