Stellen Sie sich vor, Sie versuchen, das nächste Wort in einer Geschichte oder die nächste Note in einem Lied zu erraten. In der Welt der Informatik wird dies als „Sequenzvorhersage“ bezeichnet. Jahrzehntelang war das Goldstandard-Verfahren für die perfekte Durchführung dessen eine theoretische Idee namens Solomonoff-Induktion. Denken Sie an einen superintelligenten Detektiv, der jede mögliche Art und Weise untersucht, wie eine Geschichte von einem Computerprogramm hätte geschrieben werden können. Er gewichtet jedes einzelne Programm: Er gibt den kurzen, einfachen Programmen einen riesigen Vorteil und den langen, komplizierten Programmen ein winziges, winziges Gewicht. Wenn der Detektiv in der Lage wäre, jedes Programm im Universum gleichzeitig zu prüfen, würde er Vorhersagen mit einem Fehler treffen, der streng durch die Komplexität des Programms begrenzt ist, das die Geschichte generiert.

Es gibt jedoch einen Haken. Dieser perfekte Detektiv ist großartig darin, den nächsten Schritt in einer einzelnen Geschichte zu erraten, aber er weiß nicht, wie er aus einer ganzen Bibliothek verschiedener Geschichten „lernen“ kann. Wenn man ihm einen Datensatz von tausend verschiedenen Büchern zeigt, kann er nicht wirklich sagen: „Ah, ich sehe das Muster hier; das nächste Buch wird wahrscheinlich wie diese sein.“ Er betrachtet jede neue Geschichte als ein frisches Rätsel, unfähig, sein Verständnis basierend auf den Trainingsdaten zu aktualisieren. Dies ist ein Problem, da moderne Künstliche Intelligenz, wie die Chatbots, die wir heute nutzen, dadurch funktioniert, dass sie auf massiven Datensätzen trainiert wird, um allgemeine Regeln zu lernen. Wir brauchen einen Weg, die perfekte Logik des Detektivs beizubehalten, ihm aber die Fähigkeit zu geben, aus einer ganzen Bibliothek von Beispielen zu lernen, nicht nur aus einer einzigen Geschichte.

Hier setzt das Paper „Hierarchical Solomonoff Induction: An Unbounded Machine Learning Model“ von Nathan Young an. Der Autor schlägt einen verbesserten Detektiv vor, die Hierarchische Solomonoff-Induktion (HSI). Anstatt nur nach Programmen zu suchen, blickt HSI auf die Regeln, die diese Programme generieren. Stellen Sie sich einen „Meta-Detektiv“ vor, der nicht nur das nächste Wort errät, sondern errät, welcher Typ eines Geschichtengenerators verwendet wird. Er führt einen „Hyperprior“ – eine riesige, gewichtete Liste aller möglichen Arten, Geschichten zu schreiben. Wenn HSI einen Datensatz von Trainingsbeispielen sieht, aktualisiert es diese Liste, indem es das Gewicht der Generatoren erhöht, die zu den Daten passen, und das Gewicht derer senkt, die nicht passen.

Das Paper beweist zwei wesentliche Dinge. Erstens zeigt es, dass dieser neue HSI-Detektiv mathematisch identisch mit dem ursprünglichen perfekten Detektiv (Solomonoff-Induktion) ist, wenn er eine einzelne Sequenz betrachtet, was bedeutet, dass er alle ursprünglichen Vorhersagekräfte beibehält. Zweitens, und viel wichtiger, beweist es, dass HSI aus einem Datensatz lernen kann, genau wie ein maschinelles Lernmodell. Das Paper demonstriert, dass mit zunehmender Menge an Daten, die man HSI füttert, sein durchschnittlicher exzessiver Fehler schrumpft und schließlich gegen Null konvergiert, wodurch er das zugrunde liegende Muster der Daten perfekt vorhersagen kann. Der Autor argumentiert, dass HSI die „ideale“ Version des maschinellen Lernens ist: ein theoretisches Modell, das uns genau zeigt, wie gut ein System performen könnte, wenn es über unbegrenzte Rechenleistung verfügen würde und aus jedem Datensatz lernen könnte, ohne seine Fähigkeit zu optimalen Vorhersagen zu verlieren.

Die neue Superkraft des Detektivs

Um zu verstehen, warum das eine große Sache ist, schauen wir uns an, wie der ursprüngliche Detektiv, die Solomonoff-Induktion (SolInd), arbeitet. Stellen Sie sich vor, Sie haben eine magische Box, die jedes beliebige Computerprogramm ausführen kann. Sie wollen das nächste Zeichen in einer Textzeichenfolge erraten. SolInd sagt: „Lass uns jedes mögliche Programm ausprobieren, das den bisher gesehenen Text hätte schreiben können.“ Es gibt jedem Programm einen Score basierend auf seiner Länge: Ein kurzes, einfaches Programm erhält einen hohen Score, während ein langes, komplexes Programm einen sehr niedrigen Score erhält. Es kombiniert dann alle diese Scores, um das nächste Zeichen zu erraten. Dies ist brillant, denn es garantiert, dass SolInd – falls der Text von irgendeinem Computerprogramm erstellt wurde – es irgendwann herausfinden wird, wobei der Fehler durch die Komplexität dieses Programms begrenzt ist.

Aber hier liegt der Fehler: SolInd ist ein wenig ein „Ein-Trick-Pferd“. Es ist darauf ausgelegt, den nächsten Schritt in einer einzelnen Sequenz vorherzusagen. Wenn Sie ihm einen Datensatz von 100 verschiedenen Geschichten zur „Trainingszwecken“ geben, weiß es nicht, was zu tun ist. Sie könnten versuchen, alle 100 Geschichten zu einem einzigen riesigen String zusammenzufügen und diesen SolInd zu füttern, aber das ist so, als würde man versuchen, Französisch, Spanisch und Mandarin zu lernen, indem man ein Buch liest, in dem diese Sprachen einfach wahllos aneinandergeklebt sind. Der Detektiv wird durch den „Kleber“ und die Reihenfolge der Geschichten verwirrt und wird möglicherweise komplizierte Regeln erfinden, um die Reihenfolge zu erklären, anstatt die eigentlichen Sprachen zu lernen. Er kann nicht so „trainieren“, wie es modernes KI-Lernen tut; er kann nur auf eine Sequenz zur Zeit „testen“.

Nathan Youngs Paper führt die Hierarchische Solomonoff-Induktion (HSI) ein, um dies zu beheben. Denken Sie an HSI als einen Detektiv, der einen Chef hat. Der Chef (der „Hyperprior“) schaut nicht nur auf die Programme; der Chef schaut auf die Verteilungen – die Regeln, die entscheiden, welche Programme geschrieben werden.

Stellen Sie sich eine Bibliothek vor, in der jedes Buch von einem anderen Autor geschrieben wurde.

• SolInd ist ein Leser, der ein Buch betrachtet, versucht, den nächsten Satz zu erraten, und dann das Buch schließt. Wenn ein neues Buch eintrifft, beginnt er wieder bei Null und vergisst alles über das vorherige.
• HSI ist ein Leser, der eine Liste aller möglichen Autoren besitzt. Wenn er einige Seiten aus einem neuen Buch liest, gleicht er dies mit seiner Liste ab. „Oh, dieser Stil ähnelt sehr dem von Autor A“, denkt er. „Ich werde Autor A eine höhere Wahrscheinlichkeit geben, der Schreiber zu sein.“ Während er mehr Bücher liest, wird er immer besser darin, zu erkennen, welcher Autor gerade welches Buch schreibt. Er errät nicht nur das nächste Wort; er errät den Stil des Autors basierend auf der gesamten Sammlung der Bücher, die er gesehen hat.

Die mathematische Magie

Das Paper nutzt etwas sehr Cleveres in der Mathematik, um zu beweisen, dass HSI nicht nur eine schicke Idee ist, sondern ein rigoroses Upgrade. Der Autor verwendet ein Konzept aus der Statistik namens De-Finetti-Theorem. Vereinfacht gesagt besagt dieses Theorem, dass es, wenn man eine Reihe von Dingen hat, die scheinbar einem Muster folgen (wie ein Kartendeck, bei dem die Reihenfolge keine Rolle spielt), es eine verborgene Regel (eine „latente Variable“) geben muss, die diese Dinge generiert.

Das Paper wendet dies auf Computerprogramme an. Es argumenttiert, dass es, wenn wir einen Datensatz von Sequenzen haben, einen „wahren Generator“ (ein spezifisches Computerprogramm oder eine Regel) gibt, der sie erstellt hat. HSI behandelt diesen Generator als verborgene Variable. Es führt eine Wahrscheinlichkeitsverteilung über alle möglichen Generatoren aufrecht. Wenn HSI einen Datensatz sieht, aktualisiert es seinen Glauben darüber, welcher Generator der wahre ist.

Das Paper beweist ein erstaunliches Ergebnis: HSI ist mathematisch identisch mit SolInd. Das bedeutet, wenn man HSI nimmt und es bittet, eine einzelne Sequenz vorherzusagen, performt es exakt so gut wie der ursprüngliche perfekte Detektiv, mit einem Fehler, der durch die Komplexität des Generators begrenzt ist. Aber HSI hat eine zusätzliche Superkraft: Es kann seinen „Chef“ (den Hyperprior) auf einen ganzen Datensatz konditionieren.

Der Autor zeigt, dass der Fehler, den HSI bei der Vorhersage eines Datensatzes macht, durch die „Komplexität“ des wahren Generators im Hyperprior begrenzt ist. Auf einfache Deutsch ausgedrückt: Wenn die Regel, die Ihre Daten erstellt hat, einfach ist, wird HSI sie schnell lernen und fast keine Fehler machen. Wenn die Regel komplex ist, wird es länger dauern, aber das Paper beweist, dass mit wachsendem Datensatz der durchschnittliche exzessive Fehler von HSI gegen Null sinkt. Er konvergiert im Limes zur perfekten Vorhersage.

Was das für die KI bedeutet

Das Paper legt nahe, dass HSI das „ideale ungebundene Modell“ für maschinelles Lernen ist. Aktuelle KI-Modelle, wie Large Language Models (LLMs), versuchen im Wesentlichen das zu tun, was HSI tut, aber mit begrenzter Rechenleistung und spezifischen Architekturen (wie neuronalen Netzen).

Der Autor weist darauf hin, dass LLMs oft mit SolInd verglichen werden, aber dieser Vergleich ist unvollständig, da LLMs aus Datensätzen lernen, während SolInd dies nicht tut. HSI schließt diese Lücke. Es bietet eine theoretische Obergrenze für das, was maschinelles Lernen erreichen kann. Es sagt uns, dass wir, wenn wir über unbegrenzte Rechenleistung und die richtige Art und Weise zur Organisation unseres Lernens verfügen würden, ein System bauen könnten, das aus jedem Datensatz lernt und die Zukunft mit optimaler Genauigkeit vorhersagt.

Das Paper berührt auch eine praktische Anwendung: wie wir KI trainieren. Derzeit trainieren wir KI manchmal, indem wir ihr einen langen Textstring einspeisen (Konkatenierung von Dokumenten). Das Paper schlägt vor, dass ein besserer Weg, der mit HSI übereinstimmt, darin besteht, jedes Dokument als separates Stück von Daten zu behandeln, das den „Hyperprior“ des Modells aktualisiert. Dies deckt sich mit jüngsten Erkenntnissen, dass das Training auf separaten Dokumenten besser funktioniert als das bloße Aneinanderkleben von Dokumenten.

Der Haken

Natürlich gibt es einen Haken. Genau wie das ursprüngliche SolInd ist auch HSI unberechenbar (uncomputable). Es erfordert das Überprüfen einer unendlichen Anzahl von Programmen und einer unendlichen Menge an Speicher. Wir können heute kein echtes HSI bauen. Es ist ein „Gedankenexperiment“, das uns zeigt, was das theoretische Limit von Intelligenz ist.

Der Autor argumentt jedoch, dass dies es nicht nutzlos macht. Nur weil wir keinen perfekten Motor bauen können, heißt das nicht, dass wir keine besseren Autos bauen können, indem wir verstehen, wie ein perfekter Motor funktioniert. HSI gibt uns eine Landkarte. Es zeigt uns, dass die Art und Weise, wie moderne KI lernt (das Aktualisieren von Überzeugungen basierend auf Daten), der richtige Weg ist, und es gibt uns eine mathematische Methode, um zu messen, wie nah wir dem Ideal kommen.

Zusammenfassend lässt sich sagen, dass dieses Paper den „perfekten Detektiv“ der Vergangenheit nimmt und ihm einen „lernenden Chef“ gibt. Es beweist, dass dieses neue System, HSI, alle optimalen Vorhersagekräfte des alten Detektivs beibehält und gleichzeitig die Fähigkeit erlangt, aus einer ganzen Bibliothek von Beispielen zu lernen. Es ist ein theoretischer Beweis dafür, dass der bestmögliche Algorithmus für maschinelles Lernen existiert, und er sieht aus wie eine Hierarchie von Wahrscheinlichkeiten, die sich selbst über die Zeit aktualisiert. Auch wenn wir ihn noch nicht bauen können, sagt er uns genau, worauf wir abzielen sollten.