Layer-Order Inversion: Rethinking Latent Multi-Hop Reasoning in Large Language Models
Diese Arbeit stellt die vorherrschende „Hop-aligned“-Hypothese des Multi-Hop-Reasoning in LLMs infrage, indem sie eine „Layer-Order-Inversion“ demonstriert, bei der Antworten für spätere Hops vor den intermediären Brückenentitäten dekodiert werden können, und schlägt ein „Probabilistic Recall-and-Extract“-Framework vor, um dieses Phänomen durch breiten, flachen Recall gefolgt von selektiver tiefer Extraktion zu erklären.
Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen
Große Sprachmodelle sind die digitalen Geister hinter den fortschrittlichsten Systemen der künstlichen Intelligenz von heute. Sie werden mit riesigen Mengen an Text trainiert und lernen, das nächste Wort in einem Satz mit bemerkenswerter Genauigkeit vorherzusagen. Diese Fähigkeit ermöglicht es ihnen, Fragen zu beantworten, Geschichten zu schreiben und Probleme zu lösen, die das Verknüpfen verschiedener Informationsteile erfordern. Eine der beeindruckendsten Leistungen, die diese Modelle vollbringen, ist das mehrstufige Denken (Multi-Hop-Reasoning). Dies ist der Prozess, eine Frage zu beantworten, die nicht mit einem einzigen Fakt gelöst werden kann, sondern stattdessen das Verknüpfen mehrerer Wissenselemente erfordert. Um beispielsweise die Frage „Aus welchem Land stammt der Sport, den Stephen Curry spielt, ursprünglich?“ zu beantworten, muss ein Modell zuerst den Sport identifizieren, dann den Ursprung dieses Sports finden und schließlich diese beiden Fakten kombinieren, um zur Antwort zu gelangen. Jahrelang glaubten Wissenschaftler, dass diese Modelle solche Rätsel lösten, indem sie einem strengen, schrittweisen internen Pfad folgten, ähnlich wie ein Mensch eine Matheaufgabe Gleichung für Gleichung löst. Sie dachten, das Modell würde zuerst den Zwischenschritt ermitteln, ihn speichern und ihn dann nutzen, um die endgültige Antwort zu finden. Genau zu verstehen, wie diese Maschinen diese geistigen Akrobatiken vollziehen, ist entscheidend – nicht nur, um ihre Intelligenz zu verbessern, sondern auch, um zu wissen, wann und warum sie scheitern könnten.
Ein Team von Forschern der University of Science and Technology of China und der Hong Kong University of Science and Technology hat nun diesen lang gehegten Glauben infrage gestellt. Indem sie in das Innenleben großer Sprachmodelle blickten, entdeckten sie, dass diese Systeme nicht immer dem geordneten, schrittweisen Pfad folgen, der zuvor angenommen wurde. Stattdessen fanden sie ein Phänomen, das sie Schichten-Reihenfolge-Inversion (Layer-Order Inversion) nennen. In einem standardmäßigen, schrittweisen Prozess würde man erwarten, dass das Modell die mittlere Information ermittelt, bevor es die endgültige Antwort ermitteln kann. Die Forscher beobachteten jedoch, dass das Modell in vielen Fällen die endgültige Antwort bereits zu „wissen“ scheint, bevor es die Zwischenschritte vollständig durchdrungen hat. Dies geschieht, wenn die Fragen komplexer werden und mehr Verbindungen in der Kette des logischen Denkens beinhalten. Je tiefer die Frage geht, desto wahrscheinlicher ist es, dass das Modell die endgültige Antwort bereits in seinem internen Speicher bereit hat, bevor es die Brückenfakten, die die Punkte verbinden, explizit verarbeitet hat.
Um dies aufzudecken, nutzten die Forscher eine Technik namens Patchscopes, die wie ein Mikroskop für die internen Gedanken des Modells wirkt. Sie fütterten die Modelle mit komplexen Fragen mit bis zu vier Schritten der logischen Ableitung und beobachteten, wie die Informationen hervortraten, während die Daten durch die Schichten des Modells flossen. Sie untersuchten zwei spezifische Punkte: den Beginn der Frage, an dem das Subjekt eingeführt wird, und das ganz am Ende der Frage, wo das Modell sich auf die Generierung einer Antwort vorbereitet. Sie fanden heraus, dass das Modell zwar oft den ersten Schritt des Denkprozesses nahe dem Anfang der Frage verarbeitete, die endgültige Antwort jedoch oft viel früher als erwartet im internen Zustand des Modells erschien, manchmal sogar noch bevor die Zwischenfakten vollständig geformt waren. Dies widerspricht der Vorstellung, dass das Modell einen starren Schaltkreis aufbaut, bei dem jeder Schritt abgeschlossen sein muss, bevor der nächste beginnt. Stattdessen deutet es auf einen flüssigeren Prozess hin, bei dem das Modell die endgültige Antwort direkt abrufen kann, fast wie ein Bauchgefühl, noch bevor es den logischen Pfad dorthin vollständig konstruiert hat.
Die Forscher schlagen einen neuen Weg vor, um dieses Verhalten zu verstehen, den sie ein probabilistisches Recall-and-Extract-Framework (Abruf-und-Extraktions-Rahmenwerk) nennen. Anstatt einer starren Maschine, die einem festen Satz von Regeln folgt, schlagen sie vor, dass das Modell eher wie eine riesige Bibliothek arbeitet, in der Informationen basierend auf Wahrscheinlichkeiten abgerufen werden. In dieser Sichtweise bewegt sich das Modell nicht nur vertikal durch seine Schichten, um einen Schritt nach dem anderen zu lösen. Es bewegt sich auch horizontal über die Wörter im Satz. Die Forscher fanden heraus, dass in den flachen Schichten des Modells, nahe dem Ende des Satzes, ein breiter, intuitiver Abruf der endgülten Antwort stattfindet. Dieser Abruf fungiert wie ein Signal oder ein Verdacht, der auf die korrekte Lösung hindeutet. Dieses Signal ist nicht das Ergebnis einer abgeschlossenen logischen Kette, sondern vielmehr eine direkte Assoziation, die das Modell wahrnimmt. In schwächeren Modellen oder bei sehr schwierigen Fragen wird dieses intuitive Signal noch dominanter und führt das Modell manchmal zur richtigen Antwort, selbst wenn es die Schritte noch nicht vollständig durchdacht hat, oder umgekehrt dazu, dass es in die Irre geführt wird, wenn das Signal irreführend ist.
Diese neue Perspektive hilft zu erklären, warum Modelle manchmal auf eine Weise erfolgreich oder erfolglos sind, die zuvor verwirrend war. Wenn ein Modell eine mehrstufige Frage richtig beantwortet, kann dies daran liegen, dass dieses intuitive Signal stark genug war, um die endgültige Antwort zu leiten, selbst wenn das schrittweise Denken unvollständig war. Umgekehrt liegt ein Scheitern des Modells oft nicht daran, dass ihm die Fakten fehlen, sondern dass es versäumt hat, die endgültige Antwort durch dieses intuitive Signal abzurufen oder die korrekten Informationen aus dem angesammelten Wissen zu extrahieren. Die Studie zeigt, dass die Fähigkeit eines Modells, komplexe Fragen zu beantworten, auf einem Gleichgewicht zwischen diesem breiten, intuitiven Abruf und einer gezielteren, tiefen Extraktion der spezifischen Antwort beruht. Diese Entdeckung legt nahe, dass die interne Logik künstlicher Intelligenz weniger wie ein starrer Fließbandprozess und mehr wie ein dynamischer Prozess von Gedächtnis und Assoziation ist, bei dem das Ziel manchmal schon gesehen werden kann, bevor der Pfad vollständig beschritten wurde.
Ertrinken Sie in Arbeiten in Ihrem Fachgebiet?
Erhalten Sie tägliche Digests der neuesten Arbeiten passend zu Ihren Forschungsbegriffen — mit technischen Zusammenfassungen, in Ihrer Sprache.