Position: AI Must Become Planet-Centered, Not Just Human-Centered

Dit position paper pleit voor een paradigmaverschuiving van mensgerichte naar Planeet-Centrische AI (PCAI), een ontwerpfilosofie die geworteld is in systeemdenken en kunstmatige intelligentie heroriënteert naar planetaire socio-ecologische stabiliteit om de verergering van systemische risico's onder de huidige omstandigheden van diepe onzekerheid te voorkomen.

De kern

Het Grote Idee: We Moeten de GPS Veranderen

Stel je voor dat je in een auto rijdt. De afgelopen tien jaar heeft de AI-gemeenschap een zeer slimme GPS gebouwd. Deze GPS is ontworpen om ervoor te zorgen dat de auto geen voetgangers raakt, niet verdwaalt en de bestuurder zo snel mogelijk op de bestemming brengt. Dit wordt Human-Centered AI (Mensgerichte AI) genoemd. Het is geweldig voor de bestuurder, maar het artikel betoogt dat dit niet genoeg is voor de wereld waarin we leven.

De auteur, María Pérez-Ortiz, zegt dat onze planeet als een gigantisch, complex ecosysteem is waar alles met elkaar verbonden is—als een enorme, levende web. Als je aan één draadje trekt, trilt het hele web. Op dit moment kijkt onze "Human-Centered GPS" alleen naar de bestuurder. Het ziet niet dat sneller rijden om sneller op het werk te komen een file kan veroorzaken die een brandweerwagen blokkeert, of dat de uitlaatgassen van de auto over tien jaar de lucht vergiftigen die de bestuurder dan inademt.

Het artikel stelt een nieuwe filosofie voor genaamd Planet-Centered AI (PCAI) (Planeetgerichte AI). In plaats van alleen te vragen: "Is dit goed voor de menselijke gebruiker?", moeten we vragen: "Is dit goed voor het hele web van het leven, nu en in de toekomst?"

Waarom de Oude Manier Faalt: De "Wicked Problem" Valstrik

Het artikel legt uit dat veel van de grote uitdagingen waar we vandaag de dag voor staan (zoals klimaatverandering of verlies van biodiversiteit) "Wicked Problems" (Wrede Problemen) zijn.

• Tame Problemen (De Oude Manier): Denk aan een puzzel of een wiskundige vergelijking. Je kent de regels, je kent het doel, en als je het hebt opgelost, is het klaar. Huidige AI is geweldig in dit soort problemen.
• Wicked Problemen (De Nieuwe Realiteit): Denk aan het proberen te ontwarren van een knoop terwijl iemand anders aan het andere uiteinde trekt en de knoop steeds van vorm verandert.
  • Geen Helder Doel: Iedereen is het oneens over hoe "opgelost" eruitziet.
  • Geen Veilige Praktijk: Je kunt niet zomaar "proberen en falen", omdat de fout permanent kan zijn (zoals smeltende ijskappen).
  • Alles is Verbonden: Het oplossen van het ene probleem leidt vaak tot het breken van iets anders elders.

Het artikel betoogt dat huidige AI is gebouwd voor "Tame Problemen". Wanneer we AI dwingen om "Wicked Problemen" op te lossen, maakt het vaak de situatie erger zonder dat we het doorhebben totdat het te laat is.

Drie Manieren waarop Huidige AI het Fout Heeft

1. De "Efficiëntievat" (Rebound Effects)
Stel je voor dat je een superefficiënte stofzuiger koopt die de helft minder elektriciteit verbruikt. Je denkt: "Geweldig, ik bespaar energie!" Maar omdat hij zo goedkoop en gemakkelijk in gebruik is, begin je drie keer per dag het hele huis te stofzuigen, en koop je een tweede exemplaar voor de garage. Uiteindelijk verbruik je meer energie dan voorheen.
Het artikel noemt dit een Rebound Effect. AI maakt dingen vaak efficiënter (zoals het rijden van auto's of landbouw), maar omdat het goedkoper en gemakkelijker is, doen we er meer van, wat de planeet uiteindelijk meer schaadt. Huidige AI ziet dit niet, omdat het alleen de bespaarde energie per mijl telt, niet de extra gereden mijlen.

2. De "Blinde Vlek"
Huidige AI is als een camera met een zeer smalle lens. Het ziet alleen wat er direct voor het staat.

• Voorbeeld: Een AI die ontworpen is om stropers te stoppen, is misschien erg goed in het opsporen van dieren. Maar het artikel wijst erop dat deze AI ook gebruikt kan worden om lokale inheemse bevolkingsgroepen te bespioneren, waardoor zij bang worden om bij natuurbehoud te helpen. De AI "slaat het doel" bij het opsporen van stropers, maar faalt in het grotere plaatje van gemeenschapsvertrouwen.
• Het artikel zegt dat AI-ethiek meestal alleen om menselijke gebruikers geeft en planten, dieren en de bodem negeert. Maar als de bodem sterft, sterven de mensen ook.

**3. Het "Kristallen Bol" Probleem
AI is goed in het voorspellen van de toekomst op basis van het verleden (zoals zeggen dat het gaat regenen omdat het gisteren ook regende). Maar in een veranderende wereld ziet het verleden er niet uit als de toekomst.

• De Analogie: Stel je voor dat je een schip probeert te navigeren met een kaart van de oceaan van 100 jaar geleden. De stromingen zijn veranderd, er zijn nieuwe eilanden verschenen en de stormen zijn anders.
• Het artikel zegt dat AI vaak handelt als een kristallen bol die slechts één mogelijke toekomst laat zien. Maar in een complexe wereld zijn er vele mogelijke toekomsten. We hebben AI nodig die ons helpt verschillende mogelijkheden te verkennen, zodat we betere keuzes kunnen maken, in plaats van alleen één uitkomst te voorspellen.

De Oplossing: Planet-Centered AI (PCAI)

Het artikel stelt voor dat we de manier waarop we AI bouwen vanaf de grond af aan moeten herontwerpen. Dit is hoe dat er in eenvoudige termen uitziet:

• Breng het Volledige Web in Kaart: Voordat we een AI bouwen, moeten we een kaart tekenen van hoe deze verbonden is met alles (mensen, natuur, economie). We moeten vragen: "Als we dit doen, wat gebeurt er dan met de vissen? Wat gebeurt er met de boer? Wat gebeurt er over 50 jaar?"
• Stop met het Proberen te "Optimaliseren" van Alles: In plaats van te zoeken naar het enkel "beste" antwoord, moet AI ons de afwegingen laten zien. "Als we X doen, besparen we geld maar schaden we de rivier. Als we Y doen, redden we de rivier maar kost het meer." Het moet mensen helpen debatteren en beslissen, in plaats van de beslissing simpelweg voor ons te nemen.
• Houd de Lange Termijn in de Gaten: We moeten de AI blijven observeren nadat we hem hebben aangezet. Als de AI problemen begint te veroorzaken (zoals het stimuleren van meer autorijden), moeten we een manier hebben om op de "ongedaan maken"-knop te drukken of koers te wijzigen.
• Wees Bescheiden: Het artikel geeft toe dat we niet alles kunnen voorspellen. Daarom moet AI een hulpmiddel zijn voor het begrijpen van complexe systemen, niet een hulpmiddel om ze te controleren.

De Grote Waarschuwing (De Falsifieerbare Claim)

Het artikel eindigt met een gedurfde, toetsbare claim:

"Als we AI-systemen bouwen die alleen geven om snel, goedkoop of efficiënt zijn, zonder na te denken over hoe ze het hele systeem doen schudden, zullen ze waarschijnlijk de grootste problemen ter wereld erger maken, niet beter."

Het is als het geven van een krachtige motor aan een auto zonder remmen en zonder stuur. De auto zal snel gaan, maar hij zal craschen. Het artikel wil dat we de remmen en het stuur installeren (systeemdenken) voordat we het gas indrukken.

Samenvatting

Het artikel zegt niet dat AI slecht is. Het zegt dat onze huidige manier van denken over AI te klein is. We behandelen AI als een hulpmiddel voor mensen, maar we leven op een planeet waar mensen slechts één onderdeel zijn van een gigantisch, kwetsbaar systeem. Om de toekomst te overleven, hebben we AI nodig die het hele systeem respecteert, en niet alleen de gebruiker.

Technische samenvatting

Technische Samenvatting: Positie: AI moet planeetgericht worden, niet alleen mensgericht

Probleemstelling
Het artikel betoogt dat hedendaagse AI-paradigma's, inclusief Mensgerichte AI (HCAI), Verantwoorde AI en AI voor het Maatschappelijk Goed, onvoldoende zijn om de complexe, systemische uitdagingen van het Antropoceen aan te pakken. Huidige kaders richten zich primair op het beschermen van individuele mensen tegen schade, het optimaliseren van smalle prestatieparameters en het opereren binnen stabiele, goed gedefinieerde probleemruimtes ("tame problems"). Echter, planetaire uitdagingen — zoals klimaatverandering, biodiversiteitsverlies en hulpbronnenuitputting — zijn "wicked problems" (hardnekkige problemen) die worden gekenmerkt door niet-stationariteit, diepe onzekerheid, feedbackloops en betwiste doelstellingen.

De kern van de technische mismatch die wordt geïdentificeerd, is dat standaard AI-aannames (stationariteit, steekproefonafhankelijkheid, closed-world formuleringen en vaste doelstellingen) de dynamiek van socio-ecologische systemen structureel schenden. Wanneer AI in deze "wicked" contexten wordt ingezet zonder een systeemperspectief, loopt het het risico systemische instabiliteit te versterken via mechanismen zoals:

• Technische Misalignment: Modellen die geoptimaliseerd zijn voor lokale efficiëntie, houden geen rekening met endogene systeemveranderingen en regimeverschuivingen.
• Smalle Waarde-inkadering: Vooruitgang wordt gelijkgesteld aan optimalisatie en expansie, waarbij distributieve rechtvaardigheid, veerkracht en ecologische grenzen vaak worden genegeerd.
• Impact Blinde Vlekken: Evaluatie is beperkt tot taakniveau-metrieken, waardoor indirecte, cumulatieve en langetermijneffecten (bijv. rebound-effecten waarbij winst in efficiëntie leidt tot verhoogde totale consumptie) worden gemist.
• Risico-amplificatie: AI kan feedbackloops versnellen, samenlevingen vastzetten in onhoudbare trajecten en falen voortplanten over gekoppelde infrastructuren.

Methodologie en Raamwerk
Dit is een position paper dat een nieuwe ontwerpfilosofie en onderzoeksagenda voorstelt genaamd Planet-Centered AI (PCAI). In plaats van nieuwe experimentele resultaten te presenteren, hanteert het artikel een diagnostische en conceptuele methodologie:

1. Diagnose van 'Wickedness': De auteurs passen kaders uit de systeemwetenschap aan (bijv. Rittel & Webber, 1973; Hisschemöller & Hoppe, 2018) om problemen te classificeren op basis van "kenniszekerheid" (begrip van causale dynamiek) en "waardeconsensus" (overeenstemming over doelstellingen). Deze diagnose brengt specifieke AI-falenmechanismen in kaart met de eigenschappen van wicked systemen.
2. Herstructurering van de Levenscyclus: PCAI wordt niet gedefinieerd als een enkel algoritme, maar als een heroriëntatie van de gehele AI-levenscyclus. Het artikel schetst hoe deze filosofie vier sleutelfasen transformeert:
   • Probleemstelling: De verschuiving van geïsoleerde taakformulering naar "systeemmapping" en "theories of change" die expliciet systeemgrenzen, feedbacks en interventiepaden definiëren voordat de modellering begint.
   • Modelontwerp: Een verschuiving van voorspelling en controle naar "vooruitziendheid" (foresight) en "epistemische infrastructuur". Dit houdt in dat prioriteit wordt gegeven aan robuustheid onder diepe onzekerheid, niet-stationariteit en regimeverschuivingen. Het pleit voor AI als een instrument voor collectieve zingeving (bijv. scenario-analyse, exploratieve modellering) in plaats van geautomatiseerde besluitvorming.
   • Evaluatie: Het vervangen van single-score benchmarking door "trajectgeoriënteerde evaluatie". Dit omvat Pareto-front analyse om trade-offs in beeld te brengen, systemische risicoprobes (testen op rebound-effecten) en contrafeitelijke baselines (vergelijken met geen-AI of eenvoudige heuristische interventies).
   • Implementatie (Deployment): Het behandelen van implementatie als een voorlopige, herzienbare interventie. Dit vereist systeemniveau monitoring (voorbij data drift) om gedragsadaptatie en vroege waarschuwingssignalen te detecteren, met vooraf gedefinieerde paden voor terugdraaien of modificatie.

Belangrijkste Bijdragen

• Conceptueel Raamwerk (PCAI): Het artikel introduceert Planet-Centered AI als een onderscheidend paradigma dat de integriteit, veerkracht en grenzen van ecologische systemen behandelt als primaire ontwerpbeperkingen, in plaats van externaliteiten die via menselijke uitkomsten worden afgeleid.
• Diagnostische Mapping: Het biedt een gestructureerde mapping van hoe specifieke eigenschappen van wicked systemen (bijv. niet-stationariteit, padafhankelijkheid, emergent gedrag) conflicteren met standaard AI-aannames, wat een taxonomie biedt voor het identificeren van wanneer standaardmethoden waarschijnlijk zullen falen.
• Operationele Richtlijieden: Het artikel biedt concrete acties voor onderzoekers, financiers en instituten (samengevat in Tabel 1), zoals het verplichten van systeemmapping, het eisen van vergelijkende baselines en het herdefiniëren van wetenschappelijke bijdrage om systeemniveau stress-testen te omvatten.
• Falsifieerbare Claim: Het artikel presenteert een specifieke, toetsbare hypothese: In domeinen die worden beheerst door wicked dynamiek, zijn AI-systemen die geoptimaliseerd zijn voor efficiëntie of smalle doelstellingen zonder expliciete overweging van systemische feedbacks, eerder geneigd om systemische instabiliteit te verergeren dan deze te mitigeren.

Resultaten en Claims
Als position paper rapporteert dit werk geen empirische resultaten uit nieuwe experimenten. In plaats daarvan zijn de "resultaten" de logische synthese van bestaande literatuur en casestudies (bijv. autonome voertuigen, precisielandbouw, monitoring van natuurbehoud) die de beperkingen van huidige benaderingen aantonen.

• Bewijs van Falen: Het artikel synthetiseert bewijs dat laat zien dat AI-gestuurde efficiëntie vaak rebound-effecten triggert (bijv. autonome voertuigen die de totale vraag naar reizen vergroten) en dat smalle evaluatiemetrieken er niet in slagen om systemische risico's zoals biodiversiteitsverlies of erosie van sociale legitimiteit te vatten.
• Theoretische Noodzaak: Het artikel stelt dat huidige AI-veiligheidsonderzoek (gericht op interne alignment en controle) noodzakelijk maar onvoldoende is, omdat het niet adresseert hoe goed uitgelijnde systemen externe socio-ecologische dynamieken hervormen.

Significantie
Het artikel claimt dat de significantie van PCAI ligt in het potentieel om AI-ontwikkeling af te stemmen op de definiërende uitdagingen van het Antropoceen. Door de eenheid van analyse te verschuiven van de individuele gebruiker naar het gekoppelde socio-ecologische systeem, beoogt PCAI:

1. Te voorkomen dat AI onbedoeld "Antropoceen-vallen" (zelfversterkende trajecten van instabiliteit) versterkt.
2. AI te transformeren van een instrument voor optimalisatie naar een instrument voor "collectieve intelligentie" en "vooruitziendheid", waardoor samenlevingen in staat worden gesteld te navigeren door diepe onzekerheid en betwiste waarden.
3. Een rigoureus, falsifieerbaar raamwerk te bieden voor het evalueren of AI bijdraagt aan planetaire stabiliteit of systemisch risico verergert.

De auteurs positioneren PCAI niet als een vervanging voor Mensgerichte AI, maar als een noodzakelijke uitbreiding die de temporele horizonten en systemische grenzen adresseert die HCAI vaak over het hoofd ziet. Het uiteindelijke doel is om samenlevingen uit te rusten met AI-instrumenten die in staat zijn om verantwoord ingrijpen in complexe, hoogwaardige planetaire uitdagingen te ondersteunen.