📈 economics

The Dynamics of Intelligence Explosions

Dit artikel analyseert wiskundig de dynamiek van door AI gedreven intelligentie-explosies, waarbij wordt aangetoond dat singuliere groei moeilijker te bereiken is dan voorheen werd aangenomen, en benadrukt dat generatietijd een cruciale, vaak verwaarloosde factor is die bepaalt of feedbackloops resulteren in een verticale asymptoot of in sneller-dan-exponentiële maar eindige groei.

Oorspronkelijke auteurs: Toby Ord

Gepubliceerd 2026-08-17

📖 8 min leestijd🧠 Diepgaand

CC BY 4.0

Oorspronkelijke auteurs: Toby Ord

Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). ✨ Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer

Stel je voor dat je naar een autorace kijkt waarbij de auto's steeds beter worden in het bouwen van zichzelf. In de wereld van kunstmatige intelligentie bestaat er een fascinerend idee genaamd een "intelligentie-explosie". Het is het concept dat als een computer slim genoeg wordt om het volgende, nog slimmere computer te ontwerpen, die nieuwe computer vervolgens kan helpen bij het ontwerpen van een nóg betere computer, enzovoort. Dit creëert een feedbackloop, zoals een microfoon die te dicht bij een luidspreker komt en een sissend feedbackgeluid veroorzaakt, maar in plaats van geluid is het een snelle explosie van intelligentie. Wetenschappers proberen er de exacte snelheid van te bepalen. Zou het een gestage klim zijn, een razendsnelle sprint, of een plotselinge, onmogelijke sprong naar oneindigheid in een oogwenk? Dit is de vraag die wiskundige Toby Ord aanpakt in zijn artikel. Hij onderzoekt de wiskunde achter deze zelfverbeterende machines om te zien of ze werkelijk een "singulariteit" kunnen bereiken—een punt waar intelligentie zo snel groeit dat het een verticale wand raakt in een eindige tijd—of dat er andere, iets langzamere, maar nog steeds ongelooflijk snelle manieren zijn waarop deze explosie zou kunnen uitvallen.

De Race naar Oneindigheid: Waarom de "Sprong" Moeilijker is dan We Denken

Stel je voor dat je een cake bakt, maar in plaats van een timer te gebruiken, heb je een magische oven. Elke keer dat je een cake bakt, wordt de oven slimmer en bouwt hij een betere oven voor de volgende ronde. De eerste oven doet er 10 minuten over. De tweede, die slimmer is, bouwt een derde in 5 minuten. De derde bouwt een vierde in 2,5 minuut. Als dit doorgaat en de tijd die nodig is om de volgende oven te bouwen telkens wordt gehalveerd, zou je kunnen denken dat je in slechts een paar uur een oneindig aantal cakes kunt bakken. Dit is de droom van een "intelligentie-explosie": een machine die zichzelf steeds slimmer en sneller maakt, totdat hij alle menselijke kennis in een flits overstijgt.

Lama lang dachten veel experts dat deze explosie eruit zou zien als een "verticale asymptoot". In wiskundige termen: stel je een grafiek voor waarbij de lijn recht omhoog schiet, als een raket die de hemel raakt en een oneindige hoogte bereikt in een eindige hoeveelheid tijd. Het is de ultieme "boem". Maar het artikel van Toby Ord suggereert dat hoewel deze verticale raket mogelijk is, hij in werkelijkheid veel moeilijker te bouwen is dan we dachten. Er bestaat zelfs een hele andere categorie explosies die ongelooflijk snel zijn—sneller dan exponentieel—maar die niet recht omhoog naar oneindigheid schieten. Ze razen gewoon heel, heel snel vooruit zonder ooit die verticale wand te raken.

Het Geheime Ingrediënt: De "Generatietijd"

Om te begrijpen waarom de verticale raket zo moeilijk te bouwen is, moeten we kijken naar een verborgen variabele die de meeste mensen vergeten: Generatietijd.

Beschouw de feedbackloop als een estafette. De eerste hardloper (AI 1) geeft het stokje door aan de tweede hardloper (AI 2), die het weer doorgeeft aan de derde (AI 3). De "generatietijd" is hoe lang het duurt voordat één hardloper zijn deel voltooid heeft en de volgende hardloper gereed heeft gemaakt.

In de oude, eenvoudige wiskundige modellen gingen mensen ervan uit dat deze estafette direct gebeurde, of in ieder geval met een constante snelheid. Ze dachten dat als de hardlopers steeds sneller werden (meer "intelligentie"), de race simpelweg zou versnellen naar oneindigheid. Maar Ord wijst op een cruciale fout: Je kunt niet een oneindig aantal rondjes rennen in een eindige hoeveelheid tijd, tenzij de tijd die nodig is om elk rondje te rennen naar nul krimpt.

Stel je voor dat je een race loopt waarbij je een oneindig aantal rondjes moet voltooien.

Scenario A: Je rent elk rondje in 10 seconden, dan 9, dan 8. Je wordt sneller, maar je besteedt nog steeds 10 seconden, dan 9 seconden. Hoe snel je ook wordt, je zult nooit een oneindig aantal rondjes voltooien in slechts 10 minuten. Je loopt simpelweg door je tijd heen.
Scenario B: Je rent het eerste rondje in 10 seconden, het tweede in 5, het derde in 2,5, het vierde in 1,25. Hier krimpt de tijd voor elk rondje razendsnel. Als je de tijd telkens blijft halveren, kun je er daadwerkelijk een oneindig aantal rondjes voltooien in een eindige tijd (zoals 20 seconden totaal).

Ord's artikel laat zien dat voor een intelligentie-explosie die die "verticale asymptoot" (de singulariteit) bereikt, de generatietijd (de tijd om de volgende AI te bouwen) ongelooflijk snel naar nul moet krimpen. Het is niet genoeg dat de AI alleen maar slimmer wordt; het proces van het maken van de volgende AI moet onmogelijk snel gaan.

De "Middenweg"-Explosie

Hier komt de wending: Het artikel suggereert dat hoewel de "verticale asymptoot" mogelijk is, het eigenlijk vrij zeldzaam is. Er is een enorme, verwaarloosde middenweg.

Stel je een groeicurve voor die super-exponentieel is. Dit betekent dat het sneller groeit dan een standaard exponentiële curve (zoals samengestelde rente). Het schiet omhoog op de grafiek! Maar omdat de generatietijd niet snel genoeg naar nul krimpt om de singulariteit te bereiken, gaat de lijn nooit verticaal. Hij blijft gewoon razendsnel stijgen, sneller en sneller, maar hij raakt nooit die verticale wand van "oneindigheid in eindige tijd".

Ord noemt dit "sub-singulair" groeiend. Het is nog steeds angstaanjagend snel. Het is nog steeds een explosie. Maar het is niet de "magische verticale sprong" die sommige modellen voorspellen. Het is meer als een raket die zo hard versnelt dat het voelt alsof hij het universum zal breken, maar hij bereikt nooit die onmogelijke verticale afgrond.

Waarom de Wiskunde Ertoe Doet (en Waarom het Lastig is)

Het artikel gebruikt wat complexe wiskunde om dit te bewijzen, maar de kern van het idee is simpel: Je kunt de beperkingen van tijd niet omzeilen.

In de oude modellen gebruikten mensen vergelijkingen die ervan uitgingen dat de AI zijn eigen snelheid direct kon verbeteren. Maar in de echte wereld kost het bouwen van een nieuwe AI tijd. Je moet het ontwerpen, trainen en testen. Zelfs als de AI een genie is, kost het nog steeds tijd om de code te schrijven of de experimenten uit te voeren.

Ord laat zien dat als je deze "tijd" serieus neemt (met behulp van wat hij "tijd-ingebedde verschilvergelijkingen" noemt), de voorwaarden voor een singulariteit zeer strikt zijn. Er moeten twee dingen tegelijkertijd gebeuren:

De AI moet steeds beter blijven worden zonder ooit te stoppen (onbegrensde groei).
De tijd die nodig is om de volgende versie te maken, moet zeer snel naar nul krimpen (de "Zeno-conditie").

Als de tijd om de volgende AI te maken een bodem bereikt—bijvoorbeeld: het duurt altijd minimaal 1 uur om een nieuw model te trainen, ongeacht hoe slim de AI is—dan is de verticale explosie onmogelijk. De groei zal dan slechts een zeer steile, zeer snelle exponentiële curve worden, maar het zal geen singulariteit zijn.

De Valstrik van Meting

Het artikel waarschuwt ons ook voor hoe we "intelligentie" meten. Stel je voor dat je meet hoe goed een schaker is.

Maatstaf A: Hoeveel wedstrijden hij op rij wint.
Maatstaf B: Hoeveel seconden hij nodig heeft om een zet te doen.

Als een AI zo goed wordt dat hij nooit een fout maakt, zou Maatstaf A naar oneindig kunnen gaan (oneindig veel overwinningen). Maar Maatstaf B zou een limiet kunnen bereiken (hij kan niet sneller bewegen dan het licht). Het artikel betoogt dat sommige populaire manieren om AI-vooruitgang te meten eruit kunnen zien alsof ze een "singulariteit" bereiken (naar oneindig gaan) simpelweg door de manier waarop we ze meten, en niet omdat de AI daadwerkelijk oneindig slim wordt. Het is als een coördinaat-singulariteit in de natuurkunde: een foutje in de kaart, niet een echte afgrond in het terrein.

De Kern van het Verhaal

Dus, wat betekent dit alles voor de toekomst?

Toby Ord zegt niet dat de explosie niet zal gebeuren. Hij zegt dat de "verticale asymptoot" (de instantane sprong naar oneindige intelligentie) veel moeilijker te bereiken is dan de eenvoudige wiskundige modellen suggereerden. Het vereist dat de AI niet alleen slimmer wordt, maar ook dat het proces van slimmer worden onmogelijk snel gaat, waarbij de tijd tussen de generaties naar nul krimpt.

In plaats daarvan zullen we waarschijnlijk een "super-exponentiële" explosie zien. Dit is een periode van ongelooflijk snelle verandering waarin de capaciteiten van AI in snelheid verdubbelen en verdrievoudigen, wat potentieel ons vermogen om ze te controleren overtreft. Het is een "snelle baan" explosie in plaats van een "verticale sprong".

Het artikel suggereert dat als we de toekomst van AI willen begrijpen, we niet alleen moeten kijken naar hoe veel slimmer de AI wordt. We moeten de generatietijd in de gaten houden. Hoe lang duurt het om de volgende versie te bouwen? Als die tijd stopt met krimpen, stopt de verticale explosie. Als die tijd blijft krimpen, kunnen we ons op maken voor een rit die nog wilder is dan we gedacht hebben.

Kortom: de explosie is echt, maar de "verticale afgrond" is misschien een fata morgana. Het echte gevaar is een snelheid die zo hoog is dat het als een afgrond voelt, zelfs als het technisch gezien slechts een zeer steile heuvel is. En dat is nog steeds genoeg om de wereld voor altijd te veranderen.

Technische Samenvatting: De Dynamiek van Intelligentie-explosies

Probleemstelling
Het artikel behandelt de wiskundige dynamiek van AI R&D-automatisering (AIRDA), een feedbackloop waarbij AI-systemen helpen bij het ontwerpen en bouwen van opeenvolgende, meer capabele AI-systemen. Hoewel het concept van een "intelligentie-explosie" (gecoind door I.J. Good) suggereert dat dergelijke feedback kan leiden tot snelle, potentieel onbegrensde groei in capaciteiten, verwarren bestaande economisch geïnspireerde modellen vaak verschillende soorten explosieve groei. Specifiek nemen standaardmodellen vaak aan dat elke super-exponentiële groei noodzakelijkerwijs leidt tot een "singulariteit in eindige tijd" (een verticale asymptoot waarbij capaciteit $A$ in een eindige tijd $t^*$ naar oneindig gaat). De auteur voert aan dat deze aanname kritieke fysieke beperkingen over het hoofd ziet, met name de discrete aard van feedbackloops en de tijd die nodig is om deze te voltooien (generatietijd), wat leidt tot een overschatting van de waarschijnlijkheid van singular groei.

Methodologie
Het artikel maakt gebruik van wiskundige modellering om de dynamiek van AIRDA te analyseren, waarbij het drie verschillende modelleringskaders doorloopt:

Differentiaalvergelijkingen: De auteur analyseert eerst standaard continue modellen van de vorm $\dot{A} = f(A)$ . Het analyseert de voorwaarden waaronder $A(t)$ super-exponentiële groei vertoont versus singular groei (blow-up in eindige tijd). De analyse maakt onderscheid tussen de "blow-up conditie" (convergentie van de integraal van de reciproke van $f(A)$ ) en eenvoudige super-lineariteit.
Verschilvergelijkingen: In het besef dat AI R&D plaatsvindt in discrete stappen in plaats van continue stromen, verschuift het artikel naar verschilvergelijkingen ( $\Delta A_n = f(A_n)$ ). Het demonstreert dat in zuivere discrete tijd, singular groei wiskundig onmogelijk is, ongeacht de groeisnelheid van $f(A)$ , aangezien een eindig aantal stappen niet oneindig kan bereiken.
Tijd-ingebedde Verschilvergelijkingen: Om de kloof tussen discrete stappen en continue tijd te overbruggen, introduceert de auteur een model waarbij de generatietijd ( $T_n$ ), of de duur van de $n$ -de feedbackloop, een variabele kan zijn die in de loop van de tijd krimpt. Dit kader maakt het mogelijk om de interactie tussen de snelheid van loop-voltooiing en de omvang van capaciteitswinsten te analyseren.

Kernbijdragen en Resultaten

Ontkoppeling van Super-exponentiële en Singular Groei:
Het artikel demonstreert dat super-exponentiële groei (groei die sneller is dan elke exponentiële functie) niet noodzakelijkerwijs een singulariteit in eindige tijd impliceert.
- In continue modellen ( $\dot{A} = f(A)$ ) produceren functies zoals $f(A) = A \log(A)$ dubbel exponentiële groei, maar falen ze voor de "blow-up conditie", wat betekent dat $A(t)$ nooit in eindige tijd oneindig wordt.
- In discrete modellen is singular groei onmogelijk, tenzij de generatietijd $T_n$ voldoende snel krimpt.
De Kritieke Rol van Generatietijd:
De centrale bevinding is dat singular groei in een realistische, discrete feedbackloop vereist dat de generatietijd ( $T_n$ ) snel genoeg naar nul nadert om aan een "Zeno-conditie" te voldoen (de som van alle generatietijden moet convergeren naar een eindige waarde).
- Singulariteitstheorema: Voor een tijd-ingebedde verschilvergelijking heeft $A(t)$ $A (t)$ een singulariteit indien en slechts indien:
  1. De generatietijd $T_n$ aan de Zeno-conditie voldoet (voldoende snel convergeert om oneindige loops in eindige tijd toe te staan).
  2. De capaciteit $A_n$ aan de grenzeloosheidsconditie voldoet (zonder begrenzing groeit).
- Het artikel voert aan dat het bereiken van de Zeno-conditie fysiek moeilijk is. Als generatietijden een ondergrens bereiken (bijvoorbeeld door fysieke limieten van chipontwerp of trainingstijd), wordt singular groei onmogelijk, zelfs als de winsten in capaciteit enorm zijn.
Herwaardering van "Explosieve" Scenario's:
De analyse suggereert dat de meest waarschijnlijke uitkomst van AIRDA super-exponentiële maar sub-singulaire groei is. Als generatietijden afnemen maar een bodem bereiken (bijvoorbeeld verzadiging op machinesnelheid), kan het systeem overgaan van een super-exponentiële fase naar een hoog-rate exponentiële fase, en uiteindelijk naar een logistische verzadiging, in plaats van een verticale asymptoot.
Maatstaf-afhankelijkheid:
Het artikel analyseert hoe de keuze van de capaciteitsmaatstaf ( $A$ ) de observatie van singulariteiten beïnvloedt.
- Voor "gelijkaardige" maatstaven (waar de ene naar oneindig gaat dan en slechts dan als de andere) blijft de drempel voor singular groei consistent.
- Echter, voor "ongelijksoortige" maatstaven (bijvoorbeeld Mean Time Between Failures versus algemene intelligentie), impliceert een singulariteit in één maatstaf (bijvoorbeeld oneindige betrouwbaarheid op een specifieke taak) niet een singulariteit in de andere. Het artikel waarschuwt dat maatstaven zoals "tijdhorizon" naar oneindig kunnen divergeren zonder een echte explosie in algemene intelligentie te vertegenwoordigen.

Betekenis en Claims
Het artikel beweert de theoretische verstandhouding van intelligentie-explosies te verfijnen door een verwarring in de bestaande literatuur te corrigeren tussen super-exponentiële groei en singular groei.

Bescheidenheid van Claims: De auteur stelt expliciet dat de wiskundige singulariteiten die worden besproken waarschijnlijk geïdealiseerde limieten zijn die reële fysieke processen niet zullen bereiken vanwege bovengrenzen aan intelligentie, middelen of generatietijd. Het doel is niet om te bewijzen dat een intelligentie-explosie zal plaatsvinden, maar om de condities te verhelderen die vereist zijn voor de meest extreme vormen van groei.
Beleids- en Meetimplicaties: Het artikel voert aan dat omdat het observeren van super-exponentiële groeicijfers (bijvoorbeeld toenemende maandelijkse groeipercentages) niet voldoende bewijs is voor een aanstaande singulariteit, omdat singular groei moeilijker te bereiken is dan voorheen gedacht (het vereist dat generatietijden naar nul gaan).
Focus op Generatietijd: De auteur concludeert dat het volgen van de "generatietijd" crucialer is voor het voorspellen van explosieve dynamiek dan het volgen van de omvang van de capaciteitswinsten per cyclus. Het artikel suggereert dat als generatietijden niet willekeurig kunnen worden verminderd, de "explosie" waarschijnlijk zal manifesteren als een snelle versnelling gevolgd door een plateau, in plaats van een verticale asymptoot.

Uiteindelijk stelt het artikel dat hoewel AIRDA aanzienlijke risico's met zich meebrengt door vooruitgang te versnellen, de specifieke dynamiek van een "singulariteit" (oneindige capaciteit in eindige tijd) een fragiele wiskundige mogelijkheid is die rust op condities (verdwijnende generatietijd) die fysiek wellicht onbereikbaar zijn.