🤖 machine learning

Interestingness as an Inductive Heuristic for Future Compression Progress

Dieser Beitrag formalisiert „Interessantheit" als induktive Heuristik für zukünftigen Kompressionsfortschritt und zeigt durch theoretische Analyse und empirische Experimente, dass vergangene Durchbrüche zukünftige Entdeckungen exponentiell vorhersagen, wobei die Algorithmische Priorität deutlich optimistischere Projektionen liefert als die Längenpriorität.

Ursprüngliche Autoren: Vincent Herrmann, Jürgen Schmidhuber

Veröffentlicht 2026-05-15

📖 5 Min. Lesezeit🧠 Tiefgang

CC BY 4.0

Ursprüngliche Autoren: Vincent Herrmann, Jürgen Schmidhuber

Originalarbeit lizenziert unter CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dies ist eine KI-generierte Erklärung des untenstehenden Papers. Sie wurde nicht von den Autoren verfasst oder gebilligt. Für technische Genauigkeit konsultieren Sie das Originalpaper. Vollständigen Haftungsausschluss lesen

Das große Problem: Wie man für immer lernt

Stellen Sie sich einen Roboter vor, der für immer lernen soll, immer intelligenter wird und dabei ohne menschlichen Lehrer auskommt. Dies nennt man „offene Intelligenz".

Der Roboter hat zwei Aufgaben:

Lernen: Er untersucht Daten, um Muster zu finden (wie ein Schüler, der ein Lehrbuch liest).
Generieren: Er erstellt neue Probleme oder Daten, die er als Nächstes untersuchen soll (wie ein Lehrer, der einen neuen Test erstellt).

Der schwierige Teil ist die Generierungsphase. Wenn der Roboter einfach nur zufälliges Rauschen erzeugt, lernt er nichts. Wenn er Dinge erzeugt, die er bereits kennt, wird er gelangweilt. Er braucht eine Möglichkeit, das perfekte neue Rätsel auszuwählen: etwas, das nicht zu einfach (langweilig) und nicht zu schwer (unmöglich) ist, sondern genau richtig, um ihm etwas Neues beizubringen.

Das Paper fragt: Wie weiß ein Roboter, welches neue Rätsel „interessant" ist, bevor er es überhaupt versucht zu lösen?

Die Kernidee: „Interessantheit" ist eine Glaskugel

Die Autoren argumentieren, dass „Interessantheit" nicht davon abhängt, wie cool etwas aussieht. Es ist ein Vorhersagewerkzeug. Es ist eine Möglichkeit zu raten: „Wenn ich Zeit damit verbringe, dies zu studieren, werde ich später einen 'Aha!'-Moment haben?"

Sie nennen dies Fortschritt bei der Kompression.

Kompression ist wie das Zusammenfassen einer langen Geschichte in einen kurzen Satz. Wenn Sie viele Daten mit einer einfachen Regel zusammenfassen können, haben Sie sie „komprimiert".
Fortschritt tritt ein, wenn Sie eine neue Regel finden, die Ihre Zusammenfassung noch kürzer macht.

Das Paper schlägt vor, dass ein guter „Interessantheits"-Detektor die Geschichte des Roboters betrachten und fragen sollte: „Basierend darauf, wie wir bisher gelernt haben, gibt es eine gute Chance, dass wir bald eine neue Abkürzung finden?"

Das Experiment: Der „Stagnations"-Messwert

Um dies zu testen, betrachteten die Autoren die Lerngeschichte des Roboters als Graphen. Stellen Sie sich einen Wanderer vor, der einen Berg hinuntersteigt (der Berg repräsentiert die Schwierigkeit der Daten).

Jedes Mal, wenn der Wanderer einen neuen, kürzeren Weg hinunter findet, ist das ein „Durchbruch" oder ein „Abfall" im Graphen.
Stagnationslänge: Dies ist die Distanz, die der Wanderer seit dem letzten Mal zurückgelegt hat, als er eine Abkürzung fand.

Die Hauptentdeckung:
Das Paper beweist mathematisch, dass Zeit wichtiger ist als Größe.

Wenn der Roboter gestern einen Durchbruch hatte, ist die Wahrscheinlichkeit hoch, dass er heute einen weiteren findet.
Wenn der Roboter lange Zeit keinen Durchbruch gefunden hat, sinkt die Chance, bald einen zu finden, wie von einer Klippe.

Es ist wie Angeln. Wenn Sie gerade einen großen Fisch gefangen haben, ist das Wasser wahrscheinlich voll davon, also sollten Sie an derselben Stelle weiterwerfen. Wenn Sie seit drei Stunden an derselben Stelle werfen und keine Bisse haben, sind die Chancen, gerade jetzt einen Fisch zu fangen, fast null. Sie sollten an eine neue Stelle ziehen.

Die drei „Welten" (Priors)

Die Autoren testeten diese Idee in drei verschiedenen „Universen" (mathematischen Modellen darüber, wie Daten erzeugt werden), um zu sehen, ob die Regel standhält.

Die „Zufälliges Tippen"-Welt (Längen-Prior): Stellen Sie sich einen Affen vor, der auf einer Tastatur tippt. Kurze Zeichenketten sind häufiger als lange. In dieser Welt ist es sehr unwahrscheinlich, dass Sie bald eine Abkürzung finden, wenn Sie eine Weile keine gefunden haben.
Die „Einfaches Programm"-Welt (Algorithmischer Prior): Stellen Sie sich vor, das Universum wird von den einfachsten möglichen Computerprogrammen erzeugt. Dies ist die „optimistischste" Welt. Hier gibt es, selbst wenn Sie eine Weile feststecken, immer noch eine anständige Chance, dass ein großer Durchbruch kommt, aber es ist immer noch viel wahrscheinlicher, dass er bald nach dem letzten stattfindet.
Die „Schnelle Ausführung"-Welt (Geschwindigkeits-Prior): Diese Welt hasst langsame Programme. Wenn eine Abkürzung existiert, wäre sie bereits gefunden worden. In dieser Welt werden Sie, wenn Sie keine Abkürzung gefunden haben, wahrscheinlich nie eine finden. Dies ist die pessimistischste Sichtweise.

Das Ergebnis: In allen drei Welten galt die Regel: Der jüngste Durchbruch ist der beste Prädiktor für den nächsten. Je länger Sie ohne Sieg warten, desto unwahrscheinlicher ist ein kommender Sieg.

Der „optimistische" vs. der „pessimistische" Roboter

Das Paper fand im Zusammenhang mit der „Einfaches Programm"-Welt (Algorithmischer Prior) etwas Überraschendes. Sie ist viel optimistischer als die „Zufälliges Tippen"-Welt.

In der „Zufälligen" Welt, wenn Sie feststecken, stecken Sie wahrscheinlich für immer fest.
In der „Einfaches Programm"-Welt, wenn Sie feststecken, warten Sie vielleicht nur auf die nächste große Entdeckung, und die potenzielle Belohnung ist enorm (quadratisch höher).

Dies legt nahe, dass, wenn unser KI-System annimmt, die Welt bestehe aus einfachen, entdeckbaren Mustern, es weiterhin versuchen sollte, von Dingen zu lernen, die ihm kürzlich etwas Neues gelehrt haben, selbst wenn es eine Weile her ist.

Der Realwelt-Test

Die Autoren haben nicht nur Mathematik betrieben; sie führten tatsächliche Computersimulationen mit drei verschiedenen Arten von „Computern" durch (2-Tag-Systeme, Zelluläre Automaten Regel 110 und Brainfuck-Code).

Sie generierten Millionen von Programmen und beobachteten, wie sie „lernten" (Daten komprimierten).
Das Ergebnis: Die Realweltdaten stimmten perfekt mit der Mathematik überein. Die „Stagnationslänge" (Zeit seit dem letzten Sieg) war das stärkste Signal dafür, ob ein neuer Sieg bevorstand.

Das Fazit

Damit ein Roboter für immer lernen kann, ohne einen menschlichen Chef, braucht er eine einfache Regel für die Auswahl dessen, was er als Nächstes studieren soll:
„Konzentriere dich auf die Dinge, die dir kürzlich etwas Neues gelehrt haben."

Wenn eine Aufgabe seit langem langweilig ist, verschwende keine Zeit mehr damit. Wenn sie dir gerade eine neue Erkenntnis gegeben hat, bleib dabei, denn der nächste große Durchbruch liegt wahrscheinlich gleich um die Ecke. Diese „Induktive Eigenschaft der Interessantheit" ist der Kompass, der selbstverbessernde Systeme vorwärts bewegt.

Technische Zusammenfassung: Interestingness als induktive Heuristik für zukünftigen Kompressionsfortschritt

1. Problemstellung

Der Beitrag adressiert einen kritischen Engpass bei der Entwicklung von sich selbst verbessernden, offen-endigen intelligenten Systemen: die Herausforderung der Interestingness (Interessantheit). Während aktuelle Paradigmen des maschinellen Lernens (z. B. Gradientenabstieg, RL) im Lernphasen-Bereich (Extraktion von Mustern aus Daten) erhebliche Erfolge erzielt haben, bleibt die Generierungsphase ein offenes Problem. Konkret: Wie kann ein autonomes System prospektiv identifizieren, welche Aufgaben, Daten oder Artefakte das Potenzial für zukünftigen Fortschritt besitzen, ohne auf menschliche Filterung oder handgefertigte Curricula angewiesen zu sein?

Bestehende Maße für Interestingness (z. B. Vorhersagefehler, Informationsgewinn, Lernfortschritt) sind weitgehend post-hoc: Sie quantifizieren, was bereits gelernt wurde, nachdem Rechenressourcen aufgewendet wurden. Ein sich selbst verbesserndes System benötigt eine prospektive Heuristik, um zukünftige Lernbarkeit vorherzusagen, bevor signifikante Ressourcen gebunden werden, und dabei zwischen dem Unlernbaren, dem bereits Gelernten und dem Unbekannten, aber Lernbaren zu unterscheiden.

2. Methodik

Die Autoren formalisieren „Interestingness" als induktive Heuristik für zukünftigen Kompressionsfortschritt. Sie nutzen Werkzeuge aus der Algorithmischen Informationstheorie (AIT) und der Algorithmischen Statistik, um die Beziehung zwischen vergangener Fortschrittsentwicklung und zukünftiger Entdeckung zu analysieren.

Kernkonzepte

Kompressionsfortschritt: Interestingness wird definiert als die erwartete Reduktion der gesamten Beschreibungslänge (Modellkomplexität + Datenresiduum), wenn ein neues Objekt integriert wird. Dies entspricht dem Minimum Description Length (MDL)-Prinzip.
Komplexitäts- vs. Laufzeitprofile ( $D_x$ ): Die Autoren analysieren die Trajektorie der kürzesten Programmlänge $K_r(x)$ , die erforderlich ist, um eine Zeichenkette $x$ innerhalb eines Laufzeitbudgets $r$ zu berechnen. Ein „Abfall" in diesem Profil stellt einen Kompressionsdurchbruch dar.
Log-Größen- vs. Komplexitätsprofile ( $P_x$ ): Um algorithmische Statistik zu nutzen, verwenden sie das Profil, das die Log-Größe der kleinsten Menge beschreibt, die $x$ für eine gegebene Modellkomplexität enthält.
Die $P_x \leftrightarrow D_x$ -Korrespondenz: Mithilfe der Busy-Beaver-Funktion ($BB$) stellen die Autoren eine affine Transformation zwischen dem Log-Größen/Komplexitäts-Profil und dem Komplexitäts/Laufzeit-Profil her. Dies ermöglicht es, theoretische Ergebnisse, die aus $P_x$ abgeleitet wurden, auf den rechnerisch relevanten $D_x$ -Bereich zu übertragen.
Induktive Eigenschaft: Die zentrale Frage ist, ob die Form eines Profils, das bis zu einem Grenzwert $t$ beobachtet wurde (die „Stagnationslänge" $t - \hat{m}$ , wobei $\hat{m}$ der letzte beobachtete Abfall ist), statistisch die Existenz und das Ausmaß zukünftiger Abfälle (weiterer Kompression) vorhersagen kann.

Untersuchte Priors

Die Studie bewertet die induktiven Eigenschaften unter drei verschiedenen Priors über berechenbare Zeichenketten:

Längen-Prior ( $L$ ): Gleichverteilte Wahrscheinlichkeit über Zeichenkettenlängen.
Algorithmischer Prior ( $M$ ): Solomons Prior, der Zeichenketten mit kurzen Beschreibungen (Programmen) bevorzugt.
Geschwindigkeits-Prior ( $S$ ): Bestraft sowohl Programmlänge als auch Laufzeit und bevorzugt schnell berechenbare Zeichenketten.

3. Hauptbeiträge

Der Beitrag leistet folgende theoretische und empirische Beiträge:

Formalisierung induktiver Interestingness: Die Autoren beweisen, dass die induktive Eigenschaft von Interestingness theoretisch tragfähig ist. Sie zeigen, dass die Stagnationslänge (die Lücke seit dem letzten beobachteten Kompressionsdurchbruch) der primäre Prädiktor für zukünftigen Fortschritt ist.
Exponentieller Zerfall der Entdeckungswahrscheinlichkeit: Sie beweisen, dass die Wahrscheinlichkeit eines neuen Kompressions-„Abfalls" exponentiell verschwindet, wenn die Stagnationslänge zunimmt. Dies impliziert, dass die vielversprechendsten Objekte für weitere Auseinandersetzung diejenigen sind, die den jüngsten Fortschritt aufweisen.
Vergleich der Priors:
- Der Algorithmische Prior erweist sich als deutlich „optimistischer" als der Längen-Prior. Für dasselbe beobachtete Profil liefert der Algorithmische Prior im Vergleich zum Längen-Prior eine quadratische Zunahme des erwarteten zukünftigen Kompressionsfortschritts.
- Der Geschwindigkeits-Prior ist der „konservativste": Er geht davon aus, dass, wenn eine schnellere Kompressionsmethode existierte, sie bereits gefunden worden wäre, was in vielen Fällen zu einem nahezu null erwarteten zukünftigen Fortschritt führt.
Empirische Validierung: Die theoretischen Trends werden über drei rechnerisch universelle Paradigmen hinweg bestätigt: 2-Tag-Systeme, Zelluläre Automaten Regel 110 und Brainfuck (BF). In allen Fällen unterstützen die Daten die Erkenntnis, dass aktueller Fortschritt ein starker Indikator für zukünftige Komprimierbarkeit ist, insbesondere unter dem Algorithmischen Prior.

4. Ergebnisse

Theoretische Schranken: Unter dem Längen- und dem Algorithmischen Prior ist die Wahrscheinlichkeit eines zukünftigen Abfalls $p(m_x \ge t | \hat{P})$ ungefähr $2^{-(t-\hat{m})}$ . Der erwartete zukünftige Kompressionsfortschritt nimmt ebenfalls exponentiell mit der Stagnationslänge ab.
Prior-Sensitivität: Während der exponentielle Zerfall für alle Priors gilt, unterscheidet sich das Ausmaß des erwarteten Fortschritts. Der Algorithmische Prior sagt ein signifikant höheres Entdeckungspotenzial voraus als der Längen-Prior, während der Geschwindigkeits-Prior minimalen zusätzlichen Fortschritt vorhersagt.
Empirische Bestätigung: Experimente an 2-Tag-, Regel-110- und Brainfuck-Systemen spiegeln die theoretischen Kurven wider. Mit zunehmender Anzahl von Schritten seit dem letzten beobachteten Fortschritt verschwindet der durchschnittliche verbleibende Kompressionsfortschritt. Die Ergebnisse für den Geschwindigkeits-Prior in empirischen Settings sind weniger ausgeprägt als im theoretischen Grenzfall (aufgrund des Fehlens extrem kurzer Laufzeiten in den spezifischen experimentellen Aufbauten), aber der allgemeine Trend, dass Stagnation den erwarteten Fortschritt reduziert, bleibt bestehen.

5. Bedeutung und Behauptungen

Der Beitrag argumentiert, dass Interestingness nicht als intrinsische Eigenschaft eines Objekts betrachtet werden sollte, sondern als eine relationale, prospektive Heuristik, die auf der Trajektorie des Kompressionsfortschritts basiert.

Autonomie: Durch die Formalisierung von Interestingness als prospektive Bewertung bietet der Beitrag eine prinzipielle Grundlage für autonome Systeme, um Aufgaben ohne menschliches Eingreifen auszuwählen. Er legt nahe, dass Systeme Objekte priorisieren sollten, bei denen die „Stagnationslänge" kurz ist.
Theoretische Fundierung: Die Arbeit verankert das intuitive Konzept von „Neugier" oder „Interestingness" im rigorosen Rahmen der Algorithmischen Informationstheorie und geht über heuristische Definitionen hinaus zu beweisbaren induktiven Eigenschaften.
Grenzen und zukünftige Richtungen: Die Autoren vermerken bescheiden, dass ihre theoretischen Ergebnisse auf der Busy-Beaver-Funktion beruhen, die Laufzeiten beinhaltet, die physikalisch nicht realisierbar sind. Sie argumentieren jedoch, dass die maschinenunabhängige Natur dieser Ergebnisse die intrinsischen algorithmischen Eigenschaften von Objekten widerspiegelt. Sie erkennen an, dass in strukturierten Domänen (z. B. biologische Systeme, Fraktale) die Geschichte des Fortschritts möglicherweise wichtiger ist als nur die Aktualität des letzten Abfalls (skalenfreie Emergenz), eine Eigenschaft, die von den aktuellen Priors nicht vollständig erfasst wird. Sie schließen, dass zukünftige Arbeiten darauf fokussieren müssen, introspektive Modelle zu entwickeln, die ihre eigenen „Kompressionsgrenzen" explizit modellieren können, um echte Offenheit zu erreichen.