Stellen Sie sich vor, Sie versuchen einem Roboter beizubringen, eine Geschichte zu schreiben oder ein mathematisches Problem zu lösen. Lange Zeit war der beste Weg, dies zu tun, darin, den Roboter zu lehren, Wort für Wort zu sprechen, streng von links nach rechts, wie ein Mensch, der ein Buch liest. Dies nennt man „autoregressive“ Generierung. Es funktioniert gut, ist aber etwas starr. Wenn der Roboter in den ersten Satz einen Fehler macht, muss er den Rest der Geschichte basierend auf diesem Fehler weiterschreiben, oder er muss ganz von vorne beginnen. Er kann nicht einfach zum Anfang zurückspringen, um ihn zu korrigieren, während er in der Mitte schreibt, so wie es ein menschlicher Lektor tut.

Kürzlich entdeckten Wissenschaftler einen neuen Typ von KI namens „Masked Diffusion Model“. Denken Sie an dies wie an ein „Lückentext“-Spiel. Anstatt Wörter nacheinander zu schreiben, betrachtet die KI einen Satz, in dem einige Wörter verborgen (maskiert) sind, und versucht zu erraten, was sie sind. Da sie jedes beliebige verborgene Wort jederzeit betrachten kann, sollte sie in der Lage sein, hin und her zu springen, den Anfang zu korrigieren, dann das Ende, dann die Mitte, in jeder beliebigen Reihenfolge, die sie möchte. Dies wird „Any-Order Inference“ genannt. Es klingt nach dem perfekten Werkzeug für komplexe Aufgaben wie das Programmieren, bei denen Programmierer oft zwischen dem großen Ganzen und winzigen Details hin und her springen. Aber hier ist der Haken: Nur weil die KI dazu kann, heißt das nicht, dass sie es auch tut.

Dieses Paper untersucht, warum diese leistungsstarken „Lückentext“-Roboter oft in einem Trott stecken bleiben und sich genau wie die alten „von links nach rechts“ arbeitenden Roboter verhalten, obwohl sie die Freiheit dazu hätten. Die Autoren, ein Team von Forschern der University of Texas at Austin und der Harvard University, entdeckten eine versteckte Falle namens „Positionale Unsicherheit“. Sie fanden heraus, dass die KI zwar weiß, welches Wort sie benötigt (wie eine bestimmte Funktion in einem Computerprogramm), sie aber verwirrt darüber ist, wo dieses Wort in dem fertigen Satz stehen sollte. Weil sie sich über den Ort unsicher ist, spielt sie auf Nummer sicher und füllt die Lücken in einer langweiligen, vorhersehbaren Reihenfolge aus, wodurch sie die kreative, nicht-lineare Denkweise verpasst, in der sie eigentlich gut sein sollte.

Um dies zu beheben, haben die Forscher dem Roboter nicht nur seine Zuversicht erhöht, sondern ihm zwei neue Superkräfte verliehen. Die erste ist, als würde man dem Roboter eine Schere und einen Klebestift geben. Anstatt an einer festen Anzahl von Lücken gebunden zu sein, kann der Roboter überall dort neue Lücken einfügen, wo er sie braucht, und den gesamten Satz verschieben, um Platz für neue Ideen zu schaffen. Die zweite Superkraft ist, als würde man den Roboter lehren, in „Blöcken“ oder „Absätzen“ statt in einzelnen Wörtern zu denken. Anstatt Wort für Wort zu raten, rät er ganze Bedeutungseinheiten auf einmal, was es ihm ermöglicht, zu entscheiden, welche große Idee es als Nächstes aufbauen soll, ohne sich in den Details zu verlieren.

Das Team testete diese Ideen bei Computerprogrammierungen und mathematischen Problemen. Sie fanden heraus, dass diese Roboter durch die Verwendung dieser neuen Methoden tatsächlich anfingen, wie menschliche Programmierer zu denken, indem sie zwischen verschiedenen Teilen des Codes hin und her sprangen, um ihre Arbeit zu verfeinern. Dies führte zu besseren Ergebnissen, da die Roboter mehr Probleme korrekt lösten als zuvor. Das Paper legt nahe, dass wir, um KI dazu zu bringen, wirklich wie ein Mensch zu denken, Modelle entwickeln müssen, die nicht nur die Fähigkeit haben, hin und her zu springen, sondern in der Lage sind, das Hin-und-Her-Springen zur natürlichen, einfachen Wahl zu machen.

Das Problem: Die „Fixe Leinwand“-Falle

Die Forscher untersuchten zunächst, warum diese „Lückentext“-Modelle (Masked Diffusion Models, oder MDMs) nicht ihr Versprechen halten. Theoretisch sollte ein MDM in der Lage sein, jedes verborgene Token in einer Sequenz zu jedem beliebigen Zeitpunkt offenzulegen. Wenn man es bittet, ein Python-Programm zu schreiben, sollte es in der Lage sein, den Funktionsnamen zu schreiben, dann zum Loop zu springen, dann zurück zur Variablendefinition zu gehen, und das alles in einer chaotischen, menschenähnlichen Reihenfolge.

Als sie die Modelle jedoch in Aktion beobachteten, sahen sie etwas Enttäuschendes. Obwohl die Modelle die Freiheit hatten, jede beliebige Reihenfolge zu wählen, entschieden sie sich fast immer dafür, die Lücken von links nach rechts aufzufüllen, genau wie die alten Modelle. Die Autoren nennen dies „Causal Collapse“. Es ist, als hätte der Roboter eine Karte der ganzen Stadt, entscheidet sich aber trotzdem dafür, die Straße Block für Block abzulaufen und dabei alle Abkürzungen ignoriert.

Das Paper argumentiert, dass dies nicht nur eine schlechte Angewohnheit ist, sondern ein grundlegender Fehler im Aufbau dieser Modelle. Das Problem ist die Positionale Unsicherheit. Stellen Sie sich vor, Sie bauen eine LEGO-Burg. Sie wissen, dass Sie ein „Turm“-Teil benötigen. Aber Sie wissen noch nicht genau, wo der Turm hinkommt, weil Sie die Wände um ihn herum noch nicht gebaut haben. Wenn Sie den Turm jetzt platzieren wollen, könnten Sie ihn an der falschen Stelle platzieren.

In einem Standard-MDM ist die „Leinwand“ (die Sequenz der Tokens) fixiert. Das Modell muss entscheiden: „Setze ich das Wort 'return' hierhin, oder hierher, oder hierher?“ Wenn das Modell weiß, dass es eine 'return'-Anweisung benötigt, aber nicht sicher ist, ob diese innerhalb oder nach einer Schleife stehen sollte, verteilt sich sein Vertrauen auf all diese möglichen Stellen. Da das Vertrauen gestreut ist, fühlt sich das Modell beim Platzieren dieser 'return'-Anweisung „weniger sicher“ als beim Platzieren eines einfachen Wortes, das eindeutig auf das vorherige folgt. Um auf Nummer sicher zu gehen, füllt es zuerst die einfachen, lokalen Wörter aus und sperrt sich damit effektiv in eine Links-nach-Rechts-Reihenfolge ein. Das Paper zeigt, dass dies selbst dann passiert, wenn das Modell sehr intelligent ist; das feste Raster der Leinwand zwingt es zu vorzeitigen Festlegungen.

Lösung 1: FlexMDM (Die Schere und der Kleber)

Um das „Wo setze ich das hin?“-Problem zu lösen, ist der erste Lösungsansatz FlexMDM. Dieser Ansatz ändert die Regeln des Spiels, indem er die feste Leinwand entfernt.

Stellen Sie sich vor, Sie schreiben eine Geschichte auf ein Blatt Papier, aber anstatt an den Linien festzusitzen, die Sie begonnen haben, besitzen Sie einen magischen Radiergummi und einen Klebestift. Wenn Sie einen Satz schreiben und merken, dass Sie mitten im Text einen neuen Absatz benötigen, können Sie magisch eine neue Zeile Platz genau dort einfügen. Die Wörter, die Sie zuvor geschrieben haben, gleiten zur Seite, um Platz zu machen.

FlexMDM macht genau das. Es erlaubt dem Modell, während des Generierungsprozesses neue Tokens (oder Masken) zu einfügen. Wenn das Modell entscheidet, ein Token offenzulegen, muss es sich nicht auf einen permanenten Platz in der endgültigen Sequenz festlegen. Später, wenn das Modell entscheidet, dass es mehr Platz oder eine andere Struktur benötigt, kann es neue Lücken einfügen, und die zuvor enthüllten Tokens verschieben sich an ihre neuen, korrekten Positionen.

Diese einfache Änderung bricht die Falle der „Positionalen Unsicherheit“. Das Modell muss sich nicht mehr fragen: „Ist das die richtige Stelle?“, denn die Stelle kann sich bewegen. Die Forscher fanden heraus, dass dies dem Modell ermöglichte, Code auf eine viel menschenähnlichere Weise zu generieren. Anstatt eine Zeile vollständig abzuschließen, bevor die nächste beginnt, konnte das Modell einen Funktionsnamen entwerfen, dann zum Schreiben eines Loops springen und dann zurückkehren, um die Details der Funktion auszufüllen. Sie maßen dies anhand der „Baumstruktur“ des Codes und fanden heraus, dass FlexMDM viel wahrscheinlicher zwischen verschiedenen Zweigen des Codes hin und her sprang, während das Standardmodell einfach stur einen Pfad entlangmarschierte.

In ihren Tests verfeinerten sie ein 7-Milliarden-Parameter-Modell (Dream-Coder), um diese Methode anzuwenden. Auf Coding-Benchmarks wie HumanEval und MBPP schnitt dieses neue „flexible“ Modell besser ab als das Original, insbesondere wenn sie es erlaubten, mehrere Versuche (Pass@16) zu generenieren. Es zeigte, dass das Modell durch das Zulassen der Umgestaltung der Leinwand kreativere Lösungen explorieren konnte.

Lösung 2: LatentMDM (In Blöcken denken)

Die zweite Lösung, LatentMDM, verfolgt einen anderen Ansatz. Anstatt mit der Position einzelner Wörter zu kämpfen, ändert sie die Ebene, auf der das Modell denkt.

Stellen Sie sich vor, Sie versuchen, einem Freund einen Film zu beschreiben. Wenn Sie versuchen, ihn Wort für Wort zu beschreiben („Der Mann ging, dann blieb er stehen, dann sah er...“), ist es schwer, das große Ganze zu erfassen. Aber wenn Sie ihn in „Szenen“ oder „Blöcken“ beschreiben („Zuerst betritt der Held den Raum. Dann sieht er den Bösewicht. Schließlich kämpfen sie.“), ist es viel einfacher, hin und her zu springen. Sie können sagen: „Lass uns zuerst über die Kampfszene reden“, ohne sich um die exakten Wörter der Eintrittsszene sorgen zu müssen.

LatentMDM macht dies, indem es Tokens in semantische Segmente (wie Codezeilen oder logische Blöcke) gruppiert und jedes Segment als eine einzige Einheit in einem „Latenten Raum“ (einer komprimierten, abstrakten Repräsentation der Bedeutung) behandelt. Anstatt ein Token nach dem anderen zu erraten, rät das Modell, welches Segment es als Nächstes offenlegen soll.

Dies verschiebt die „Positionale Unsicherheit“ von der Ebene der einzelnen Wörter auf die Ebene ganzer Ideen. Das Modell muss sich nicht fragen, ob ein bestimmtes Wort in Slot 5 oder Slot 6 gehört; es entscheidet einfach: „Ich werde als Nächstes das 'Loop'-Segment schreiben.“ Da die Segmente grober gefasst sind, kann das Modell viel sicherer über die Reihenfolge der Ideen sein, selbst wenn die exakten Wörter innerhalb dieser Segmente noch nicht vollständig geklärt sind.

Die Forscher trainierten ein kleineres 125-Millionen-Parameter-Modell von Grund auf neu mit dieser Methode auf einem Mathematik-Datensatz namens TinyGSM. Sie fanden heraus, dass dieses Modell tatsächlich in der Lage war, Segmente in einer nicht-links-nach-rechts-orientierten Reihenfolge offenzulegen, was Standardmodelle nicht effektiv konnten. Tatsächlich übertraf LatentMDM die Standardmodelle und sogar einige größere autoregressive Modelle bei mathematischen Problemen, und das bei höherer Geschwindigkeit. Dies deutet darauf hin, dass das Modell durch das Denken in „Blöcken“ den Lösungsraum effizienter navigieren kann und den richtigen Weg findet, ohne sich in den Details zu verlieren.

Was das bedeutet

Das Paper kommt zu dem Schluss, dass es nicht ausreicht, lediglich die Schnittstelle für Any-Order-Inference zu besitzen (die Fähigkeit, eine beliebige Lücke zu wählen). Die internen Mechanismen des Modells müssen dies auch unterstützen. Wenn das Modell an einem festen Raster von Wörtern festhängt, wird es natürlich in eine Links-nach-Rechts-Reihenfolge kollabieren, weil es zu viel Angst hat, einen Fehler darüber zu machen, wo die Dinge hingehören.

Indem die Forscher entweder das Raster flexibel gestalteten (FlexMDM) oder in größeren Blöcken denken ließen (LatentMDM), zeigten sie, dass KI das „Links-nach-Rechts“-Gewohnheitsmuster wirklich durchbrechen kann. Diese Modelle generieren nicht nur Text; sie generieren ihn mit einer Struktur, die der Art und Weise ähnelt, wie Menschen tatsächlich denken und komplexe Dinge aufbauen – indem sie zurück und wieder vorwärts springen, Ideen verfeinern und verschiedene Pfade explorieren, bevor sie sich auf eine endgültige Lösung festlegen.

Die Autoren weisen vorsichtig darauf hin, dass dies vielversprechende Schritte sind, aber keine endgültige Lösung für alle KI-Reasoning-Probleme. Sie testeten diese Ideen primär bei der Programmierung und Mathematik, und obwohl die Ergebnisse stark waren, deuten sie darauf hin, dass weitere Arbeit nötig ist, um zu sehen, ob diese „Any-Order“-Verhaltensweisen auch für andere Arten von Aufgaben oder in größeren Maßstäben funktionieren. Aber die Kernbotschaft ist klar: Um KI dazu zu bringen, wie ein Mensch zu denken, müssen wir aufhören, sie zu zwingen, wie eine Schreibmaschine zu schreiben, und stattdessen zulassen, dass sie wie ein Architekt denkt.