Pathways to AGI
Dit artikel onderzoekt kritisch de socio-politieke en economische contingenties achter de huidige AI-ontwikkeling door vijf kernvragen te analyseren met betrekking tot historische paden, beslispunten en modeltrajecten, teneinde transparante en duurzame alternatieven voor het concept van Artificial General Intelligence voor te stellen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Het Grote Plaatje: Het Gaat Niet Alleen om "Slimme" Robots
Stel je voor dat je een race bekijkt om te zien wie de slimste robot ter wereld kan bouwen. De meeste mensen denken dat de winnaar degene zal zijn met het grootste brein of de snelste processor.
Dit paper betoogt dat de race eigenlijk niet gaat over wie de "slimste" robot heeft. In plaats daarvan gaat het over wie het parcours heeft aangelegd, wie de startlijn bezit en wie de regels van de race heeft bepaald.
De auteurs zeggen dat de huidige "Artificial General Intelligence" (AGI) die we vandaag zien, geen natuurlijke wetenschappelijke ontdekking is die zomaar gebeurde. Het is een specifiek product dat is gevormd door geld, zakelijke deals, juridische contracten en de persoonlijke geschiedenissen van een kleine groep mensen. Ze noemen dit een "Critical Pathway Analysis" – in de basis: kijken naar de geschiedenis van hoe we hier zijn gekomen om te zien welke deuren werden geopend en welke werden dichtgegooid.
1. Wat is AGI? (De Doelen die Blijven Bewegen)
Het paper begint met de stelling dat er geen enkele definitie is voor AGI. Het is als proberen "een goede auto" te definiëren, terwijl de één zegt dat het "snel" betekent, de ander "veilig", en de derde "goedkoop".
- De Vendor-definitie: Grote techbedrijven (zoals OpenAI, Google, Microsoft) definiëren AGI op basis van wat hen geld oplevert. Bijvoorbeeld, OpenAI zegt dat AGI het moment is waarop AI "economisch waardevol werk" beter kan doen dan mensen. Het is als een autobedrijf dat zegt: "We hebben een perfecte auto wanneer deze pizza sneller kan bezorgen dan een mens."
- De Geld-definitie: Er zijn gelekte documenten die suggereren dat voor Microsoft en OpenAI AGI misschien pas wordt aangekondigd wanneer de technologie 100 miljard dollar winst genereert. Dit maakt AGI tot een financieel doelwit in plaats van een wetenschappelijke mijlpaal.
- De Menselijke Definitie: Het paper betoogt dat mensen niet alleen op één manier "slim" zijn. We hebben verschillende soorten intelligentie (zoals goed zijn in wiskunde, goed zijn in het begrijpen van gevoelens, goed zijn in dingen repareren). Huidige AI is zeer goed in één ding (praten en schrijven) maar verschrikkelijk in andere. De auteurs suggereren dat we moeten zoeken naar "Artificial Multiple Intelligences" (AMI) – een systeem dat veel verschillende soorten problemen kan aanpakken, niet alleen chatten.
2. De "Levensvatbaar Systeem"-Analogie
De auteurs gebruiken een theorie genaamd het Viable System Model (van een man genaamd Stafford Beer) om uit te leggen waarom huidige AI nog niet echt "algemeen" is.
- De Analogie: Stel je een menselijk lichaam voor.
- De Handen (Systeem 1): Dit zijn de huidige AI-modellen. Ze zijn ongelooflijk snel in typen, coderen en teksten samenvatten. Ze zijn de "handen" die het werk doen.
- Het Brein en Zenuwstelsel (Systeem 2-5): Deze delen beheren coördinatie, veiligheid, langetermijnplanning en ethiek.
- Het Probleem: Huidige AI heeft supersnelle handen, maar het mist een volledig ontwikkeld zenuwstelsel. Het weet niet wanneer het moet stoppen, het kan niet plannen voor volgend jaar en het kan de complexe regels van de samenleving of het recht niet begrijpen. Het is als een lichaam met enorme, snelle handen maar geen brein om te vertellen waar het naartoe moet of wat gevaarlijk is.
- De Conclusie: Een echte "Algemene Intelligentie" is niet alleen een slim model; het is een heel systeem van systemen dat het model, de regels, de veiligheidscontroles en de mensen die het beheren, omvat.
3. De Vijf Paden (Het Verhaal van de Race)
Het paper bekijkt vijf grote spelers en hoe hun specifieke geschiedenissen hun AI hebben gevormd.
- OpenAI (De Zakelijke Draai): Begon als een non-profit onderzoekslab. Maar ze hadden geld nodig, dus werden ze een "capped-profit" bedrijf en gingen ze een partnerschap aan met Microsoft.
- De Pivot: Ze besloten hun beste modellen geheim te houden (achter een API) om geld te verdienen, in plaats van ze met de wereld te delen. Dit maakte ze rijk en populair, maar het betekende ook dat ze stopten met het focussen op diep veiligheidsonderzoek om de productdeadlines bij te houden.
- Anthropic (De Veiligheidsrebellen): Een groep topwetenschappers verliet OpenAI omdat ze zich zorgen maakten over veiligheid. Ze startten Anthropic om AI te bouwen die "stuurbaar" en veilig is.
- De Strijd: Ze probeerden een "grondwet" voor AI te bouwen (een set regels die de AI volgt). Maar ze hadden nog steeds miljarden dollars nodig van Amazon en Google om te kunnen concurreren. Het paper vraagt: Kun je veilig blijven wanneer je wanhopig op zoek bent naar investergeld?
- Google (De Late Ontluikende Bloem): Google bedacht de kern technologie (de Transformer) maar bracht het niet als product uit omdat ze zich zorgen maakten over veiligheid en reputatie.
- De Fout: Ze wachtten te lang. Tegen de tijd dat ze hun AI uitbrachten (Gemini), had OpenAI de markt al overgenomen. Google probeert nu bij te halen, maar hun cultuur van "onderzoek eerst" botst met de noodzaak om snel te bewegen.
- xAI / Grok (De Wildcard): Opgericht door Elon Musk. Hun pad wordt gedreven door een specifiek politiek verhaal ("anti-woke") en een verlangen om sneller te gaan dan wie dan ook.
- Het Risico: Ze hebben een enorm distributie-voordeel (Twitter/X) en een supercomputer gebouwd in recordtijd. Maar ze hebben bijna geen veiligheidsonderzoek of governance. Ze zijn de "snelle auto zonder remmen".
- Microsoft (De Enterprise Koning): Microsoft bouwde niet de slimste AI; ze bouwden het beste leveringssysteem. Ze namen de technologie van OpenAI en zetten het in elke kantoorcomputer ter wereld (Copilot).
- De Strategie: Ze focussen op het veilig genoeg maken van AI voor banken en ziekenhuizen om te gebruiken. Ze bouwen de "governance"-laag, zelfs als ze niet degene zijn die het kernbrein uitvinden.
4. De "Mensen Factor" (De Kleine Kring)
Het paper wijst erop dat de hele AI-industrie wordt gerund door een zeer kleine groep mensen die elkaar allemaal kennen.
- De "Google Brain" Connectie: Bijna alle top AI-onderzoekers begonnen bij het onderzoekslab van Google.
- De "OpenAI" Connectie: Veel van hen verlieten Google om bij OpenAI te gaan werken.
- De "Anthropic" Connectie: Vervolgens vertrok een groot deel van hen bij OpenAI om Anthropic te starten.
- Het Resultaat: Het is een "draaideur". Dezelfde kleine groep mensen blijft tussen bedrijven bewegen, en neemt hun ideeën met zich mee. Dit betekent dat de industrie zeer "gesloten" is – ze denken allemaal op dezelfde manier, gebruiken dezelfde tools en missen verschillende denkwijzen (zoals hoe een bioloog of psycholoog het probleem zou aanpakken).
5. Wat Moeten We Doen? (De Aanbevelingen)
Het paper concludeert dat het huidige pad te smal is. We zetten alles op een paar bedrijven die proberen winst te maken.
- Kijk niet alleen naar de race: We moeten verschillende soorten onderzoek financieren, niet alleen de "grootste model"-race. We moeten bestuderen hoe AI onzekerheid begrijpt, hoe het omgaat met langetermijnplanning en hoe het in de samenleving past.
- Maak AI een Openbare Voorziening: Net zoals we openbaar water en elektriciteit hebben, moet AI worden behandeld als een publieke hulpbron. Het zou niet alleen een abonnementsservice voor de rijken moeten zijn.
- Souvereine AI: Landen moeten ervoor zorgen dat ze zelf controle hebben over hun AI-infrastructuur (computers, data, regels) zodat ze niet afhankelijk zijn van één buitenlands bedrijf.
- Controleer het Werk: We hebben onafhankelijke auditors nodig om te controleren of AI daadwerkelijk veilig en slim is, in plaats van de bedrijven te laten zeggen: "Vertrouw ons, we zijn veilig."
Samenvatting
Het paper betoogt dat AGI geen bestemming is die we zomaar "ontdekken". Het is een pad dat we bouwen. Momenteel bouwen we een pad dat geplaveid is met geld, gecontroleerd wordt door een paar bedrijven en gericht is op het maken van chatbots.
Om te komen tot een werkelijk intelligente, veilige en nuttige AI, moeten we stoppen met het behandelen ervan als een consumentenproduct en beginnen met het behandelen ervan als een complex systeem dat moet worden bestuurd, gecontroleerd en gebouwd ten behoeve van iedereen, niet alleen aandeelhouders. We moeten de weg verbreden zodat verschillende soorten intelligentie kunnen groeien, niet alleen de soorten die de meeste winst opleveren.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.