AI+HW 2035: Shaping the Next Decade

Dit visiedocument schetst een tienjarig roadmap voor de co-ontwikkeling van AI en hardware, met als doel de efficiëntie met 1000x te verhogen en duurzame, mensgerichte intelligente systemen te realiseren door middel van gecoördineerde inspanningen tussen academische, industriële en overheidsinstanties.

De kern

Stel je voor dat kunstmatige intelligentie (AI) een enorme, hongerige speler is die net een marathon heeft gelopen. Hij is ongelooflijk sterk geworden, maar hij is ook extreem moe, hongerig en heeft een enorme rekening voor zijn energieverbruik gekregen.

Dit rapport, getiteld "AI + HW 2035", is een plan van een groep slimme experts (van universiteiten en bedrijven zoals NVIDIA, Google en IBM) om te voorkomen dat deze speler uitvalt door de stekker eruit te trekken. Ze zeggen: "We kunnen niet gewoon blijven groeien zoals nu. We moeten slimmer worden, niet alleen groter."

Hier is de uitleg in simpele taal, met een paar creatieve vergelijkingen:

1. Het Grote Probleem: De "Verkeersopstopping"

Op dit moment bouwen we AI-modellen alsof we een auto bouwen die steeds sneller moet, maar we vergeten de wegen.

• De Metafoor: Stel je een superkrachtige chef-kok (de AI) voor in een keuken. De chef kan in een seconde een maaltijd koken, maar hij moet elke keer 10 minuten lopen naar de voorraadkast om één kruid te halen. De tijd die hij spendeert aan lopen (data verplaatsen) is veel langer dan de tijd die hij spendeert aan koken (rekenen).
• Het Resultaat: De keuken staat vol met dure apparatuur, maar de chef staat de hele dag te wachten. Ook verbruikt het lopen enorm veel energie. Dit is wat er nu gebeurt in computerchips: het verplaatsen van data kost meer energie dan het rekenen zelf.

2. De Oplossing: "De Keuken Verbouwen" (Co-Design)

Vroeger maakten de software-bouwers (de chefs) hun recepten, en de hardware-bouwers (de architecten) de keuken, zonder met elkaar te praten. De architect bouwde een keuken voor een oude stijl van koken, terwijl de chef al nieuwe, snelle technieken had.

• De Visie voor 2035: We moeten de keuken en het recept tegelijkertijd ontwerpen.
• De Analogie: In plaats van een lange gang naar de voorraadkast, bouwen we de kasten direct in de muren van de kookplaat. De ingrediënten (data) zitten direct waar de kok ze nodig heeft. Dit heet "Compute-in-Memory" (rekenen waar de data zit).
• Het Doel: We willen 1000 keer efficiënter worden. Dat betekent dat we met dezelfde hoeveelheid elektriciteit 1000 keer meer "slimheid" kunnen produceren.

3. De Drie Sporen van Verandering

A. De Hardware (De Motor)

We moeten stoppen met het bouwen van één grote, zware motor voor alles.

• De Vergelijking: In plaats van één gigantische vrachtwagen die alles vervoert, gebruiken we een slimme vloot van kleine, gespecialiseerde voertuigen. Sommige voertuigen zijn gemaakt voor zware lasten (grote AI-modellen in de cloud), andere zijn lichte fietsen voor snelle boodschappen (AI op je telefoon of in een robot).
• Nieuwe Technieken:
  • 3D-stacking: In plaats van een platte stad (een chip), bouwen we wolkenkrabbers. We stapelen rekenkracht en geheugen op elkaar, zodat de "lift" (data) niet ver hoeft te reizen.
  • Licht (Fotonica): In plaats van elektrische draden (die warm worden), gebruiken we lichtstralen om data te sturen. Dat is sneller en koeler, net als een lichtstraal die niet warm wordt.

B. De Software (Het Recept)

We moeten stoppen met het eten van "grote, zware maaltijden" voor elke kleine honger.

• De Vergelijking: Waarom eet je een hele koe als je alleen een boterham nodig hebt? We moeten kleine, slimme modellen leren maken die net zo goed zijn voor specifieke taken (zoals een robot die een deur opent) zonder de enorme energie van een gigantisch model.
• Nieuwe Ideeën:
  • Fysica-in-Intelligentie: AI moet niet alleen leren uit data, maar ook begrijpen hoe de natuur werkt (zwaartekracht, thermodynamica). Dan hoeft hij niet alles te raden, maar kan hij de natuurwetten gebruiken om sneller te leren.
  • Zelflerende Systemen: De AI moet zichzelf kunnen verbeteren en zijn eigen "recepten" aanpassen aan de "keuken" waar hij in staat.

C. De Menselijke Factor (De Gastheer)

AI moet niet alleen slim zijn, maar ook vertrouwbaar en veilig.

• De Vergelijking: Een razendsnelle auto is nutteloos als je niet weet hoe je moet remmen. We moeten AI bouwen die begrijpt wat wij willen, die eerlijk is, en die niet crasht als het even tegenzit.
• Belangrijk: We moeten zorgen dat niet alleen de rijke bedrijven (de "hyperscalers") deze technologie hebben, maar dat ook universiteiten en kleine bedrijven er toegang toe krijgen. Anders wordt de kloof te groot.

4. Het Grote Obstakel: De Stroomcrisis

Dit is misschien wel het belangrijkste punt.

• De Metafoor: De AI-groei is als een vlammenzee. Als we niet snel genoeg nieuwe stroomcentrales bouwen (en vooral duurzame, zoals kernenergie of zon), gaat de brandweer (het stroomnet) het niet redden.
• Het Noodplan: We hebben een "stroomcrisis" binnen 5 jaar. De oplossing is niet alleen efficiëntere chips, maar ook investeren in nieuwe energiebronnen en het slimmer verdelen van de energie.

5. Wat moet er nu gebeuren? (De Actiepunten)

De auteurs roepen iedereen op om samen te werken:

• Overheid: Moet investeren in onderzoek en zorgen dat er genoeg stroom is. Ze moeten ook zorgen dat universiteiten toegang hebben tot de beste computers, zodat ze niet alleen achter de schermen blijven.
• Bedrijven: Moeten stoppen met alleen te kijken naar "hoe snel is het?" en gaan kijken naar "hoe zuinig is het?". Ze moeten hun kennis delen.
• Universiteiten: Moeten studenten leren die zowel software als hardware begrijpen. De grens tussen "programmeur" en "chipontwerper" moet verdwijnen.

Samenvattend

Dit rapport zegt: "Stop met het bouwen van grotere en zwaardere AI's. Begin met het bouwen van slimmere, zuiniger en beter gecoördineerde systemen."

Het is alsof we van een auto die 100 liter benzine per 100 km verbruikt, overstappen op een elektrische auto die op zonne-energie rijdt, maar dan 1000 keer slimmer. Als we dit doen, kunnen we AI gebruiken om echte problemen op te lossen (zoals klimaatverandering en ziektes) in plaats van dat AI zelf het grootste probleem wordt.

De kernboodschap: In 2035 moet AI niet alleen "slimmer" zijn, maar vooral slimmer per watt.

Technische samenvatting

Hier is een gedetailleerde technische samenvatting van het paper "AI+HW 2035: Shaping the Next Decade", vertaald en samengevat in het Nederlands.

Titel: AI+HW 2035: De vorming van het komende decennium

Auteurs: Een consortium van toonaangevende onderzoekers en ingenieurs van universiteiten (zoals UIUC, Stanford, UCLA, Caltech) en industrie (NVIDIA, Google, IBM, AMD, OpenAI, etc.).

---

1. Het Probleem: Een Kritieke Koppeling en Duurzaamheidskrisis

Het paper identificeert een fundamenteel disbalans in de huidige ontwikkeling van kunstmatige intelligentie (AI) en hardware (HW):

• Ontkoppeling van trajecten: AI-algoritmen worden ontworpen rondom gisteren's systemen, terwijl chips worden geoptimaliseerd voor vandaag's werklasten. Dit leidt tot een fragmentatie waar de snelle evolutie van AI (maanden) niet kan bijhouden met de langzamere cyclus van hardwareontwikkeling (jaren).
• De "Memory Wall" en Energiecrisis: De exponentiële groei van grote AI-modellen heeft data-overdracht (data movement) de dominante bottleneck gemaakt. De energie die nodig is om data te verplaatsen tussen geheugen en processor overschrijdt nu ver de energie die nodig is voor de berekeningen zelf.
• Onhoudbaarheid: Het trainen van frontier-modellen verbruikt energie die vergelijkbaar is met honderden huishoudens, en datacenters concurreren met landen in stroomvraag. De huidige "brute-force" schaalstrategie (meer compute, grotere modellen) is economisch en ecologisch niet vol te houden.
• Gebrek aan visie: Er ontbreekt een cohesieve, langetermijnvisie om AI en HW strategisch te coördineren, wat resulteert in geïsoleerde silo's in onderzoek en ontwikkeling.

2. Methodologie: Een Multi-Laagse Co-Design Visie

Het paper stelt geen enkelvoudige oplossing voor, maar een holistische, gelaagde roadmap voor co-evolutie over de komende 10 jaar (tot 2035). De aanpak is gebaseerd op drie onderling verbonden abstractielagen die continu met elkaar moeten interageren:

1. Hardware-laag (Technologieën):

   • Verschuiving van rekenkracht-gericht naar geheugen-gericht (memory-centric) en data-gericht architecturen.
   • Implementatie van Compute-in-Memory (CIM) en analoge AI-chips om data-overdracht te minimaliseren.
   • Dichte 3D-integratie (monolithisch en heterogeen) om de fysieke afstand tussen logica, geheugen en interconnects te verkleinen.
   • Gebruik van fotonische/optische interconnects voor hoge bandbreedte en lage latentie.
   • Integratie van kwantumprocessors voor specifieke optimalisatieproblemen.

2. Algoritme-laag (Paradigma's):

   • Ontwikkeling van hardware-bewuste modellen die rekening houden met fysieke beperkingen (energie, geheugen, ruis).
   • Verschuiving van brute-force attention-mechanismen naar efficiëntere architecturen (bijv. State Space Models, Mamba, hybride kleine modellen).
   • Physics-informed learning: Het integreren van natuurkundige wetten in AI-modellen om de data-efficiëntie te verhogen (vooral voor wetenschappelijke ontdekking en robotica).
   • Agentic AI: Systemen die dynamisch modellen, resources en uitvoeringsstrategieën selecteren op basis van real-time hardware-telemetrie.

3. Toepassing-laag (Sociale Impact):

   • Focus op Physical AI: Robotica, autonome voertuigen en industriële systemen die in de echte wereld opereren met strenge eisen aan energie-efficiëntie en real-time respons.
   • Verschuiving van "FLOPs" als succesmaatstaf naar "Intelligence per Joule" (intelligentie per energie-eenheid).
   • Democratisering van toegang tot AI-infrastructuur via kleinere, gespecialiseerde modellen (SLMs) die op edge-apparaten kunnen draaien.

Kernmethodologie: De paper pleit voor "AI-in-the-loop" ontwerpprocessen, waarbij AI-systemen helpen bij het ontwerpen van de hardware die op zijn beurt weer de AI versnelt. Dit creëert een positieve feedbacklus.

3. Belangrijkste Bijdragen en Inzichten

Het paper biedt een uitgebreid kader met concrete inzichten en richtlijnen:

• De 1000x Efficiëntiedoelstelling: Het paper stelt een ambitieus doel voor: een 1000-voudige verbetering in de efficiëntie van AI-training en inferentie binnen 10 jaar. Dit wordt bereikt door een combinatie van:
  • ~10x winst door algoritme- en modeloptimalisatie.
  • ~20x winst door silicon-gebruik en hardware-vooruitgang.
  • ~5x winst door systeemniveau-efficiëntie (cooling, power delivery, fleet management).
• Herdefiniëring van Schaal: Succes wordt niet meer gemeten aan modelgrootte, maar aan intelligentie per joule, betrouwbaarheid en aanpasbaarheid.
• Overbrugging van de Training-Inferentie Kloof: Het onderscheidt duidelijk de eisen voor training (doorvoer, statistische efficiëntie) versus inferentie (lage latentie, deterministisch, energie-efficiënt), vooral voor fysieke AI-systemen.
• Heterogene Integratie: De toekomstige stack zal bestaan uit een convergentie van CPU's, GPU's, NPUs, FPGA's, analoge accelerators en kwantumprocessors, allemaal geoptimaliseerd via gemeenschappelijke compilers en runtime-systemen.
• Betrouwbaarheid en Veiligheid: Het benadrukt dat betrouwbaarheid (inclusief Silent Data Corruption) en veiligheid in de hardware-laag moeten worden ingebouwd (formele verificatie, fysieke constraints), niet als een nagedachte in de software.

4. Resultaten en Toekomstvisie (2035)

Hoewel het een visiepaper is, schetst het concrete mijlpalen voor succes in 10 jaar:

• Technologisch:
  • Naadloze interoperabiliteit tussen heterogene componenten zonder volledige software-stack herontwerp.
  • Hardware die zich aanpast naarmate algoritmen evolueren (reconfigureerbare systemen).
  • De overgang van cloud-only naar een cloud-edge continuüm, waarbij gespecialiseerde kleine modellen (SLMs) de meeste inferentie op edge-apparaten uitvoeren.
  • Oplossing van de "power crisis" door gediversifieerde energiebronnen (zoals Small Modular Reactors) en stroom-efficiëntere datacenters.
• Sociaal/Economisch:
  • Democratisering van AI: Universiteiten en startups krijgen toegang tot geavanceerde hardware via gedeelde infrastructuur (zoals NAIRR).
  • Een bloeiende AI-gedreven economie met nieuwe business modellen in robotica, gezondheidszorg en klimaatmodelleren.
  • Een werkkracht die geschoold is in zowel AI als hardware, met een focus op cross-disciplinair onderzoek.

5. Significantie en Call to Action

De significance van dit paper ligt in zijn unificerende rol voor de gemeenschap:

• Brug tussen Silo's: Het verbindt de AI-gemeenschap (algoritmen), de hardware-gemeenschap (architectuur/EDA) en de systeemgemeenschap, die vaak gescheiden opereren.
• Beleid en Investering: Het roept op tot gecoördineerde nationale initiatieven (NSF, DARPA, DOE) en publiek-private partnerschappen om de hoge kosten en risico's van fundamenteel onderzoek te delen.
• Duurzaamheid: Het plaatst energie-efficiëntie en milieu-impact centraal in de AI-ontwikkeling, wat essentieel is voor de langetermijnoverleving van de sector.
• Actiepunten: Het paper concludeert met een lijst van concrete acties voor academia (interdisciplinair onderzoek, open benchmarks), industrie (co-investering in prototypes, open standaarden) en overheid (infrastructuurinvesteringen, immigratiebeleid voor talent).

Conclusie:
"AI+HW 2035" is een strategisch manifest dat stelt dat de volgende golf van AI-innovatie niet zal komen van het simpelweg groter maken van modellen, maar van een radicale heruitvinding van de rekenparadigma's door middel van diepe co-design. Zonder deze integratie dreigt de AI-sector vast te lopen in fysieke, economische en ecologische grenzen. De weg naar 2035 vereist een gezamenlijke inspanning om "Intelligence per Joule" tot de nieuwe gouden standaard te maken.