🤖 machine learning

Interestingness as an Inductive Heuristic for Future Compression Progress

Dit artikel formaliseert "interessantheid" als een inductieve heuristiek voor toekomstige compressievooruitgang, en toont aan de hand van theoretische analyse en empirische experimenten aan dat eerdere doorbraken exponentieel toekomstige ontdekkingen voorspellen, waarbij de Algorithmische Prior aanzienlijk optimistischere projecties biedt dan de Lengte-Prior.

Oorspronkelijke auteurs: Vincent Herrmann, Jürgen Schmidhuber

Gepubliceerd 2026-05-15

📖 5 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Vincent Herrmann, Jürgen Schmidhuber

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Het Grote Probleem: Hoe voor altijd te blijven leren

Stel je een robot voor die voor altijd moet leren, steeds slimmer wordt op eigen houtje zonder een menselijke leraar. Dit heet "open-ended intelligence" (open-eindige intelligentie).

De robot heeft twee taken:

Leren: Het bestudeert data om patronen te vinden (zoals een student die een tekstboek leest).
Genereren: Het creëert nieuwe problemen of data om als volgende te bestuderen (zoals een leraar die een nieuwe toets maakt).

Het moeilijke deel is de Generatie-fase. Als de robot zomaar willekeurige ruis maakt, leert het niets. Als het dingen maakt die het al kent, raakt het verveeld. Het heeft een manier nodig om het perfecte nieuwe raadsel te kiezen: iets dat niet te makkelijk is (saai) en niet te moeilijk (onmogelijk), maar precies goed om iets nieuws te leren.

Het paper vraagt zich af: Hoe weet een robot welk nieuw raadsel "interessant" is, voordat het het zelfs maar probeert op te lossen?

De Kernidee: "Interessantheid" is een Kristallen Bol

De auteurs betogen dat "interessantheid" niet gaat over hoe cool iets eruitziet. Het is een voorspellingsinstrument. Het is een manier om te raden: "Als ik tijd steek in het bestuderen van dit, krijg ik dan later een 'Aha!'-moment?"

Ze noemen dit Compressievooruitgang.

Compressie is als het samenvatten van een lang verhaal in één korte zin. Als je veel data kunt samenvatten met een simpele regel, heb je het "gecomprimeerd".
Vooruitgang ontstaat wanneer je een nieuwe regel vindt die je samenvatting nog korter maakt.

Het paper suggereert dat een goede "interessantheids"-detector naar de geschiedenis van de robot moet kijken en vragen: "Op basis van hoe we tot nu toe hebben geleerd, is er een goede kans dat we binnenkort een nieuwe afkorting vinden?"

Het Experiment: De "Stagnatie"-meter

Om dit te testen, keken de auteurs naar de geschiedenis van het leren van de robot als een grafiek. Stel je een wandelaar voor die een berg afdaalt (de berg vertegenwoordigt de moeilijkheidsgraad van de data).

Elke keer dat de wandelaar een nieuw, korter pad naar beneden vindt, is dat een "doorbraak" of een "daling" in de grafiek.
Stagnatielengte: Dit is de afstand die de wandelaar heeft afgelegd sinds de laatste keer dat hij een afkorting vond.

De Belangrijkste Ontdekking:
Het paper bewijst wiskundig dat tijd belangrijker is dan omvang.

Als de robot gisteren een doorbraak vond, is de kans groot dat het vandaag een andere vindt.
Als de robot al een lange tijd geen doorbraak heeft gevonden, daalt de kans om er binnenkort eentje te vinden als een afgrond.

Het is als vissen. Als je net een grote vis hebt gevangen, zit het water waarschijnlijk vol met ze, dus moet je blijven vissen op die plek. Als je al drie uur op dezelfde plek vist zonder dat er ook maar één beet heeft, is de kans om nu een vis te vangen bijna nul. Je moet verhuizen naar een nieuwe plek.

De Drie "Werelden" (Priors)

De auteurs testten dit idee in drie verschillende "universums" (wiskundige modellen van hoe data wordt gegenereerd) om te zien of de regel standhoudt.

De "Willekeurig Typen"-wereld (Length Prior): Stel je een aap voor die op een toetsenbord typt. Korte strings komen vaker voor dan lange. In deze wereld is het zeer onwaarschijnlijk dat je binnenkort een afkorting vindt als je er al een tijdje geen hebt gevonden.
De "Eenvoudig Programma"-wereld (Algorithmic Prior): Stel je voor dat het universum wordt gegenereerd door de simpelst mogelijke computerprogramma's. Dit is de meest "optimistische" wereld. Hier is er, zelfs als je al een tijdje vastzit, nog steeds een redelijke kans dat er binnenkort een grote doorbraak komt, maar het is nog steeds veel waarschijnlijker dat het binnenkort gebeurt na de laatste.
De "Snelle Uitvoering"-wereld (Speed Prior): Deze wereld haat trage programma's. Als er een afkorting bestaat, zou deze al gevonden zijn. In deze wereld, als je geen afkorting hebt gevonden, zul je die waarschijnlijk nooit vinden. Dit is het meest pessimistische standpunt.

Het Resultaat: In alle drie de werelden bleek de regel waar: De meest recente doorbraak is de beste voorspeller van de volgende. Hoe langer je wacht zonder winst, hoe minder waarschijnlijk het is dat er winst komt.

De "Optimistische" versus "Pessimistische" Robot

Het paper vond iets verrassends over de "Eenvoudig Programma"-wereld (Algorithmic Prior). Het is veel optimistischer dan de "Willekeurig Typen"-wereld.

In de "Willekeurige" wereld, als je vastzit, zit je waarschijnlijk voor altijd vast.
In de "Eenvoudig Programma"-wereld, als je vastzit, wacht je misschien gewoon op de volgende grote ontdekking, en is de potentiële beloning enorm (kwadratisch hoger).

Dit suggereert dat als onze AI ervan uitgaat dat de wereld is opgebouwd uit simpele, ontdekbare patronen, het moet blijven proberen om te leren van dingen die het recent iets nieuws hebben geleerd, zelfs als het al een tijdje geleden is.

De Realiteitstest

De auteurs deden niet alleen wiskunde; ze draaiden daadwerkelijke computersimulaties met drie verschillende soorten "computers" (2-Tag-systemen, Rule 110 cellulaire automata en Brainfuck-code).

Ze genereerden miljoenen programma's en keken hoe ze "leerden" (data comprimeerden).
Het Resultaat: De realiteitsdata kwam perfect overeen met de wiskunde. De "stagnatielengte" (tijd sinds de laatste winst) was het sterkste signaal voor of er een nieuwe winst kwam.

De Conclusie

Om een robot voor altijd te laten leren zonder een menselijke baas, heeft het een simpele regel nodig voor het kiezen van wat het als volgende moet bestuderen:
"Focus op de dingen die je recent iets nieuws hebben geleerd."

Als een taak al een lange tijd saai is, stop dan met tijdverspilling erop. Als het je net een nieuw inzicht gaf, blijf erbij, want de volgende grote doorbraak ligt waarschijnlijk om de hoek. Deze "Inductieve Eigenschap van Interessantheid" is het kompas dat zelfverbeterende systemen vooruit houdt.

Technische Samenvatting: Interessantheid als Inductieve Heuristiek voor Toekomstige Compressievooruitgang

1. Probleemstelling

Het artikel adresseert een kritieke knelpunt in de ontwikkeling van recursief zelfverbeterende, open-ended intelligente systemen: de uitdaging van interessantheid. Waar huidige machinelearning-paradigma's (bijv. Gradient Descent, RL) aanzienlijk succes hebben behaald in de leerfase (patronen extraheren uit data), blijft de generatiefase een open probleem. Specifiek: hoe kan een autonoom systeem prospectief identificeren welke taken, data of artefacten potentieel hebben voor toekomstige vooruitgang, zonder te vertrouwen op menselijke filtering of handgemaakte curricula?

Bestaande maatstaven voor interessantheid (bijv. voorspellingsfout, informatiewinst, leerprogressie) zijn grotendeels post-hoc: ze kwantificeren wat al is geleerd nadat computationele middelen zijn besteed. Een zelfverbeterend systeem vereist een prospectieve heuristiek om toekomstige leerbaarheid te voorspellen voordat aanzienlijke middelen worden ingezet, en onderscheid te maken tussen het onleerbare, het reeds geleerde en het onbekende maar leerbare.

2. Methodologie

De auteurs formaliseren "interessantheid" als een inductieve heuristiek voor toekomstige compressievooruitgang. Ze maken gebruik van hulpmiddelen uit de Algorithmische Informatietheorie (AIT) en Algorithmische Statistiek om de relatie tussen vorige vooruitgang en toekomstige ontdekking te analyseren.

Kernconcepten

Compressievooruitgang: Interessantheid wordt gedefinieerd als de verwachte reductie in de totale beschrijvingslengte (modelcomplexiteit + dataresidu) wanneer een nieuw object wordt geïntegreerd. Dit sluit aan bij het Minimum Description Length (MDL)-principe.
Complexiteits- versus Runtime-profielen ( $D_x$ ): De auteurs analyseren de trajectorie van de kortste programmalengte $K_r(x)$ die nodig is om een string $x$ te berekenen binnen een runtime-begroting $r$ . Een "daling" in dit profiel vertegenwoordigt een compressiedoorbraak.
Log-grootte versus Complexiteitsprofielen ( $P_x$ ): Om algorithmische statistiek te benutten, gebruiken ze het profiel dat de log-grootte beschrijft van de kleinste verzameling die $x$ bevat voor een gegeven modelcomplexiteit.
De $P_x \leftrightarrow D_x$ Correspondentie: Met behulp van de Busy Beaver-functie ($BB$) stellen de auteurs een affiene transformatie vast tussen het log-grootte/complexiteitsprofiel en het complexiteit/runtime-profiel. Dit maakt het mogelijk theoretische resultaten afgeleid van $P_x$ te mappen naar het computationeel relevante $D_x$ -domein.
Inductieve Eigenschap: De centrale vraag is of de vorm van een profiel waargenomen tot een cutoff $t$ (de "stagnatielengte" $t - \hat{m}$ , waarbij $\hat{m}$ de laatst waargenomen daling is) statistisch de existentie en omvang van toekomstige dalen (verdere compressie) kan voorspellen.

Onderzochte Priors

De studie evalueert de inductieve eigenschappen onder drie verschillende priors over berekenbare strings:

Lengte-prior ( $L$ ): Uniforme waarschijnlijkheid over stringlengtes.
Algorithmische prior ( $M$ ): Solomoff's prior, die strings met korte beschrijvingen (programma's) bevoordeelt.
Snelheidsprior ( $S$ ): Straft zowel programmalengte als runtime, en bevoordeelt snel-berekenbare strings.

3. Belangrijkste Bijdragen

Het artikel levert de volgende theoretische en empirische bijdragen:

Formalisatie van Inductieve Interessantheid: De auteurs bewijzen dat de inductieve eigenschap van interessantheid theoretisch levensvatbaar is. Ze tonen aan dat de stagnatielengte (het gat sinds de laatst waargenomen compressie-doorbraak) de primaire voorspeller is van toekomstige vooruitgang.
Exponentiële Afname van Ontdekkingswaarschijnlijkheid: Ze bewijzen dat de waarschijnlijkheid van een nieuwe compressie-"daling" exponentieel verdwijnt naarmate de stagnatielengte toeneemt. Dit impliceert dat de meest veelbelovende objecten voor verdere betrokkenheid die zijn die de meest recente vooruitgang vertonen.
Vergelijking van Priors:
- De Algorithmische prior blijkt aanzienlijk meer "optimistisch" dan de Lengte-prior. Voor hetzelfde waargenomen profiel levert de Algorithmische prior een kwadratische toename op in verwachte toekomstige compressievooruitgang ten opzichte van de Lengte-prior.
- De Snelheidsprior is het meest "conservatief", ervan uitgaande dat als een snellere compressiemethode bestond, deze al zou zijn gevonden, wat in veel gevallen leidt tot een bijna nul verwachte toekomstige vooruitgang.
Empirische Validatie: De theoretische trends worden bevestigd over drie computationeel universele paradigma's: 2-Tag-systemen, Rule 110 cellulaire automata en Brainfuck (BF). In alle gevallen ondersteunt de data de bevinding dat recente vooruitgang een sterke indicator is van toekomstige compressibiliteit, met name onder de Algorithmische prior.

4. Resultaten

Theoretische Grenzen: Onder de Lengte- en Algorithmische Priors is de waarschijnlijkheid van een toekomstige daling $p(m_x \ge t | \hat{P})$ ongeveer $2^{-(t-\hat{m})}$ . De verwachte toekomstige compressievooruitgang neemt ook exponentieel af met de stagnatielengte.
Prior-gevoeligheid: Hoewel de exponentiële afname voor alle priors geldt, verschilt de omvang van de verwachte vooruitgang. De Algorithmische prior voorspelt aanzienlijk hoger potentieel voor ontdekking dan de Lengte-prior, terwijl de Snelheidsprior minimaal extra vooruitgang voorspelt.
Empirische Bevestiging: Experimenten met 2-Tag, Rule 110 en Brainfuck-systemen spiegelen de theoretische krommen. Naarmate het aantal stappen sinds de laatst waargenomen vooruitgang toeneemt, verdwijnt de gemiddelde resterende compressievooruitgang. De resultaten voor de Snelheidsprior in empirische settings zijn minder uitgesproken dan in de theoretische limiet (vanwege het ontbreken van extreem korte runtimes in de specifieke experimentele opstellingen), maar de algemene trend dat stagnatie de verwachte vooruitgang vermindert, blijft gelden.

5. Betekenis en Aanspraken

Het artikel betoogt dat interessantheid niet moet worden gezien als een intrinsieke eigenschap van een object, maar als een relationele, prospectieve heuristiek gebaseerd op het traject van compressievooruitgang.

Autonomie: Door interessantheid te formaliseren als een prospectieve beoordeling, biedt het artikel een principieel fundament voor autonome systemen om taken te selecteren zonder menselijke tussenkomst. Het suggereert dat systemen objecten moeten prioriteren waar de "stagnatielengte" kort is.
Theoretische Grondslag: Het werk verankert het intuïtieve concept van "nieuwsgierigheid" of "interessantheid" in het rigoureuze kader van de Algorithmische Informatietheorie, en gaat voorbij aan heuristische definities naar bewijsbare inductieve eigenschappen.
Beperkingen en Toekomstige Richtingen: De auteurs merken bescheiden op dat hun theoretische resultaten afhankelijk zijn van de Busy Beaver-functie, die runtimes omvat die fysiek niet realiseerbaar zijn. Ze betogen echter dat het machine-onafhankelijke karakter van deze resultaten de intrinsieke algorithmische eigenschappen van objecten weerspiegelt. Ze erkennen dat in gestructureerde domeinen (bijv. biologische systemen, fractalen) de geschiedenis van vooruitgang misschien belangrijker is dan alleen de recentie van de laatste daling (schaalvrije emergentie), een eigenschap die niet volledig wordt vastgelegd door de huidige priors. Ze concluderen dat toekomstig werk zich moet richten op het ontwikkelen van introspectieve modellen die expliciet hun eigen "compressiefronten" kunnen modelleren om ware open-endedness te bereiken.