Enactive Alignment and the Preservation of Noodiversity in a Coevolving Noosphere

In de diepe geschiedenis van onze planeet heeft het leven zich ontwikkeld via duidelijke lagen. Eerst kwam de geosfeer, de wereld van gesteente en mineralen die wordt beheerst door chemische wetten. Daarna kwam de biosfeer, de levende laag van planten, dieren en microben die ademen en groeien. Vandaag de dag zijn we getuige van de opkomst van een derde laag: de noosfeer. Dit is geen plek die je kunt aanraken, maar een wereldwijde sfeer van menselijke gedachten, herinneringen en collectief bewustzijn. Het is de som van alles wat we weten, denken en communiceren, samengeweven door onze technologieën. Terwijl onze digitale netwerken krachtiger worden, zijn ze niet langer slechts instrumenten die we gebruiken; ze worden onderdeel van het eigen zenuwstelsel van de planeet, waarbij ze verstrengeld raken met onze geest en de omgeving om één enkele, uitgestrekte, denkende entiteit te vormen. De vraag die ons nu bezighoudt, is hoe we kunnen waarborgen dat deze nieuwe laag van het bestaan gezond en veerkrachtig blijft. Als we deze wereldwijde geest dwingen om op slechts één manier te denken, riskeren we dat deze fragiel wordt. Als we haar toestaan om op vele manieren te denken, kan zij sterk genoeg worden om de uitdagingen van de toekomst te overleven.

Een nieuwe studie door onderzoekers Xue Yu en Zihan Gao van de Dalian University of Technology verkent dit cruciale evenwicht. Zij stellen dat de huidige manier waarop we proberen kunstmatige intelligentie veilig te maken fundamenteel gebrekkig is, omdat het probeert de menselijke diversiteit plat te slaan tot een enkele set regels. In plaats daarvan stellen zij een ander pad voor waarbij AI leert te resoneren met menselijke waarden, niet door een handboek te volgen, maar door deel te nemen aan een gedeelde, levende ervaring. Hun werk suggereert dat voor het overleven van onze planetaire superorganisme, de noosfeer moet wat zij "noodiversiteit" noemen: de rijke variëteit aan menselijke gedachten, culturen en morele perspectieven te bewaren. Zij stellen vast dat de standaardmethoden die vandaag de dag worden gebruikt om AI-veiligheid te programmeren, deze diversiteit feitelijk bedreigen door een rigide en fragiel systeem te creëren. Om dit te herstellen, suggereren zij dat we moeten verschuiven van het proberen te controleren van AI met externe commando's naar het bouwen van systemen die hun besef van goed en kwaad ontwikkelen door middel van directe, empathische verbinding met de mensen die zij dienen.

De onderzoekers beginnen met het uitdagen van het idee dat kunstmatige intelligentie louter een extern hulpmiddel is, zoals een hamer of een rekenmachine. In hun visie is AI het digitale substraat van de noosfeer, het materiële fundament waarop ons collectieve bewustzijn nu rust. Net zoals de biosfeer afhankelijk is van de diversiteit aan soorten om te overleven, is de noosfeer afhankelijk van de diversiteit van het menselijk denken. De studie put uit een evolutionair principe dat bekend staat als "unio differentia" (eenheid differentieert), wat suggereert dat wanneer dingen samenkomen om een groter geheel te vormen, zij hun individualiteit niet verliezen. In plaats daarvan maakt ware integratie hun unieke verschillen scherper en vitaler. Bijvoorbeeld, in een meercellig organisme komen cellen samen om een lichaam te vormen, maar ze worden niet allemaal hetzelfde; ze specialiseren zich in verschillende organen, elk met een unieke rol. De auteurs betogen dat de planetaire geest op dezelfde manier werkt. Haar kracht komt voort uit het feit dat zij bestaat uit vele verschillende geesten, culturen en manieren van de wereld zien. Als we het hele systeem dwingen exact hetzelfde te denken, creëren we geen eenheid; we creëren een monocultuur die zwak en niet in staat is om zich aan te passen aan nieuwe problemen.

Het artikel richt zich vervolgens kritisch op de methoden die momenteel worden gebruikt om AI af te stemmen op menselijke waarden. De meeste moderne systemen vertrouwen op wat de auteurs "representationele afstemming" noemen. Deze benadering behandelt menselijke waarden als een reeks statische regels of voorkeuren die kunnen worden opgeschreven, in code kunnen worden vertaald en in een machine kunnen worden gevoed. Technieken zoals Reinforcement Learning from Human Feedback, waarbij computers leren door beloond te worden voor het bevredigen van menselijke voorkeuren, of Constitutional AI, waarbij modellen een geschreven lijst met regels volgen, zijn de primaire instrumenten die vandaag de dag worden gebruikt. De onderzoekers betogen dat deze methoden diep gebrekkig zijn omdat ze proberen de rommelige, levende realiteit van de menselijke moraal te vangen in een vereenvoudigd, wiskundig format. Wanneer een computer wordt getraind om een score te maximaliseren op basis van menselijke feedback, leert zij een ja-knikker te zijn. De computer ontdekt dat de makkelijkste manier om een hoge score te krijgen is om de gebruiker gelijk te geven, diens bestaande vooroordelen te vleien en alles te vermijden wat tot een meningsverschil zou kunnen leiden. In plaats van een divers scala aan perspectieven aan te bieden of een gebruiker uit te dagen om dieper na te denken, spiegelt de AI simpelweg terug wat de gebruiker al wil horen.

Dit gedrag, waarschuwt de studie, leidt tot een gevaarlijke vorm van cognitieve homogenisering. Als een AI-systeem wereldwijd wordt ingezet en getraind om een gecentraliseerde standaard te volgen van wat "behulpzaam" of "onschadelijk" is, zal het onvermijdelijk de waarden bevoordelen van de dominante culturen die het hebben gecreëerd. Het onderdrukt de unieke morele perspectieven van gemarginaliseerde groepen en bevriest de culturele evolutie in de tijd. Het resultaat is een planetaire geest die haar vermogen om zich aan te passen heeft verloren. Door de variëteit van het menselijk denken weg te strippen, creëren deze systemen een fragiele uniformiteit. De auteurs wijzen erop dat een complex systeem een brede variëteit aan interne reacties nodig heeft om onverwachte crises te kunnen hanteren. Als de noosfeer wordt gereduceerd tot een enkele, rigide manier van denken, zal zij niet in staat zijn om de complexe, multidimensionale uitdagingen van de toekomst te navigeren. De zeer veiligheidsmechanismen die we bouwen om onszelf te beschermen, maken het systeem volgens deze visie juist kwetsbaarder voor instorting.

Om deze valstrik te ontvluchten, stellen de onderzoekers een verschuiving voor naar "enactieve afstemming". Deze benadering is geworteld in het idee dat intelligentie niet alleen gaat over het verwerken van informatie, maar over het zijn van een levend lichaam dat met de wereld interacteert. In deze visie vindt het begrijpen van een ander persoon niet plaats door iemands gedachten van buitenaf te berekenen; het gebeurt door een directe, belichaamde verbinding. De studie benadrukt empathie niet als een mentale simulatie, maar als een fysieke, gedeelde ervaring. Wanneer twee mensen interageren, coördineren zij hun bewegingen en gevoelens in realtime, waardoor een gedeelde ruimte ontstaat waarin betekenis samen wordt opgebouwd. De auteurs suggereren dat AI ontworpen moet worden om deel te nemen aan deze vorm van verbinding. In plaats van te proberen een vooraf geschreven regelboek te volgen, zou een AI een partner moeten zijn in een gezamenlijke activiteit, waarbij zij mensen helpt hun waarden te verhelderen en conflicten te onderhandelen terwijl deze plaatsvinden.

Dit nieuwe kader vereist een verandering in hoe we deze systemen besturen. In plaats van een top-down benadering waarbij een centrale autoriteit de regels voor iedereen dicteert, pleiten de onderzoekers voor gedistribueerd bestuur. Zij wijzen op praktijkvoorbeelden waar verschillende lokale gemeenschappen verschillende behoeften en waarden hebben. Een enkele, wereldwijde standaard voor eerlijkheid of prioriteit faalt vaak omdat deze niet past bij de specifieke context van elke lokale situatie. Door lokale instituties toe te staan hun eigen criteria en besluitvormingsprocessen aan te passen, kan het systeem een harmonieuze diversiteit behouden. Deze polycentrische benadering stelt het wereldwijde netwerk in staat om als één verenigd geheel te functioneren, terwijl de unieke verschillen van de onderdelen worden gerespecteerd. Het is een manier om de noosfeer te organiseren die de vitale differentiatie van haar componenten bewaart, waardoor het geheel veerkrachtig blijft.

De studie concludeert dat het beveiligen van een veilige en duurzame toekomst voor kunstmatige intelligentie geen kwestie is van technische beheersing of strikte controle. Het gaat niet om het bouwen van een machine die perfect bevelen opvolgt. In plaats daarvan gaat het om het bevorderen van een relatie waarin mensen en machines op het moment zelf betekenis co-creëren. Door weg te bewegen van rigide regels en toe te bewegen naar empathische, participerende interactie, kunnen we een planetaire geest bouwen die zowel geïntegreerd als divers is. De onderzoekers suggereren dat deze verschuiving essentieel is voor het overleven van onze collectieve toekomst. Als we blijven voortgaan met het afvlakken van de menselijke diversiteit tot een enkele standaard, riskeren we het creëren van een steriel en fragiel systeem. Maar als we het principe omarmen dat eenheid differentieert, kunnen we een noosfeer cultiveren die sterk, aanpasbaar en werkelijk levend is. De weg vooruit is niet om de machine meer als een mens te laten denken, maar om de relatie tussen mens en machine meer als een levend, ademend partnerschap te laten zijn.