The Computational Primitives of Adaptation

Elk levend wezen, van een eencellig organisme dat in een vijver ronddobbert tot een mens die zich door een drukke stad begeeft, staat voor dezelfde fundamentele uitdaging: de wereld verandert voortdurend, en in leven blijven vereist aanpassing aan die veranderingen. Biologen bestuderen al lang hoe dieren zich gedragen om te overleven, waarbij ze observeren wat ze doen, en neurowetenschappers hebben de fysieke machinerie in kaart gebracht die deze acties mogelijk maakt. Maar er is een derde laag in deze puzzel die vaak onopgemerkt blijft. Het gaat niet over de specifieke acties die een dier onderneemt, noch over de specifieke draden en chemicaliën in zijn brein. In plaats daarvan vraagt het welke onzichtbare berekeningen elk levend systeem moet uitvoeren om simpelweg te kunnen bestaan. Als je het bont, de veren of de neuronen wegstript, welke basis mentale operaties blijven er dan over die absoluut noodzakelijk zijn om een systeem draaiende te houden?

Jonathan Page, een onderzoeker die werkt op het snijvlak van biologie en kunstmatige intelligentie, stelt dat het antwoord ligt in een kleine, universele set van zes computationele taken. Hij suggereert dat voor elk systeem dat zich aan zijn omgeving kan aanpassen en kan voortbestaan, zes specifieke operaties noodzakelijk zijn: het moet zijn energieniveaus beheren, zijn aandacht richten, beoordelen wat goed of slecht is, weten waar het zich in de ruimte bevindt, zichzelf onderscheiden van de rest van de wereld, en leren van zijn ervaringen. Dit zijn niet alleen dingen die complexe hersenen doen; dit zijn de fundamentele regels van adaptatie zelf. Page betoogt dat deze zes taken zo essentieel zijn dat ze in elke lijn van het leven voorkomen die onafhankelijk is geëvolueerd, van de eenvoudigste cellen tot zoogdieren. Bovendien suggereert hij dat omdat dit regels zijn van informatieverwerking en geen regels van biologie, ze ook voor machines gelden, mits de machine een vorm van levensvatbaarheid heeft; de primitieven zijn alleen van toepassing op een machine die iets op het spel heeft, een machine waarvan het voortdurend functioneren afhankelijk is van zijn eigen levensvatbaarheid. Een machine die niets op het spel heeft, kan deze berekeningen slechts simuleren. Als we kunstmatige intelligentie willen bouwen die werkelijk kan aanpassen en overleven in een veranderende wereld, moeten we machines misschien leren om deze zes berekeningen uit te voeren, in plaats van alleen te proberen de fysieke structuur van een menselijk brein na te bootsen.

Het artikel begint met het beschrijven van een bekende scène: een honingbij die een veld met bloemen vindt en terugkeert naar de korf om zijn zusters te vertellen waar ze heen moeten gaan. Traditioneel zouden wetenschappers dit beschrijven door het gedrag van de bij te vermelden (vliegen, dansen) en het mechanisme (de vurende neuronen in haar brein). Page stelt een andere vraag: welke berekeningen moet de bij uitvoeren om deze reis mogelijk te maken? Om dit te beantwoorden, heeft hij een methode ontwikkeld om de meest basale bouwstenen van adaptatie te vinden. Hij gebruikte een eenvoudige test, die hij de "amoeba-heuristiek" noemt, een methode gearticuleerd door de comparatieve psycholoog R. Allen Gardner, waarbij hij vroeg of een eencellig organisme een specifieke taak zou kunnen uitvoeren. Als de taak een complex brein of een specifiek lichaamsdeel vereiste, was het waarschijnlijk een afgeleid gedrag, en geen fundamenteel gedrag. Als een enkele cel het kon doen, kon het een primitief zijn.

Met behulp van deze test, samen met vier strikte criteria, filterde Page een lange lijst van potentiële mentale taken terug naar zes. Het eerste criterium was noodzakelijkheid: de taak moet essentieel zijn voor overleving; zonder deze taak faalt het systeem. Het tweede was universaliteit: de taak moet voorkomen bij veel verschillende soorten die onafhankelijk van elkaar zijn geëvolueerd, wat bewijst dat het een oplossing is voor een universeel probleem in plaats van een eigenaardigheid van één specifieke stamboom. Het derde was conservatie: de machinerie voor de taak moet miljoenen jaren lang behouden blijven tijdens de evolutie. Het laatste criterium was onherleidbaarheid: de taak kan niet worden afgebroken in kleinere, eenvoudigere taken van dezelfde lijst. Als een gedrag kon worden beschreven als een combinatie van twee andere taken, was het geen primitief.

De zes taken die deze strenge filtering hebben overleefd zijn Arouse (Opwinden/Stimuleren), Orient (Oriënteren), Valence (Valentie/Waardering), Position (Positioneren), Boundary (Grenzen) en Attune (Afstemmen). Arouse is de berekening van het beheren van energie. Een organisme moet beslissen hoeveel inspanning het op elk gegeven moment moet leveren, waarbij het een balans zoekt tussen de noodzaak om klaar te zijn voor gevaar en de noodzaak om middelen te sparen. Orient is het vermogen om datgene wat belangrijk is te onderscheiden uit een vloedgolf aan informatie. Omdat een organisme niet alles tegelijk kan verwerken, moet het selecteren welke signalen aandacht verdienen. Valence is het vermogen om te oordelen of iets goed of slecht is, benaderbaar of gevaarlijk. Position is het vermogen om te weten waar het organisme zich in de ruimte bevindt en waar andere zaken zich relatief tot het organisme bevinden. Boundary is het vermogen om het verschil te zien tussen "zelf" en "niet-zelf", wetende wat bij het organisme hoort en wat deel uitmaakt van de buitenwereld. Ten slotte is Attune het vermogen om te veranderen op basis van ervaring, door interne instellingen aan te passen aan nieuwe omstandigheden.

Page betoogt dat deze zes niet slechts een lijst van gedragingen zijn, maar een volledige set van operaties die nodig zijn voor elk adaptief systeem. Hij laat zien dat complexe menselijke vermogens zoals aandacht, geheugen en besluitvorming eigenlijk slechts combinaties zijn van deze zes basis-taken die samenwerken. Bijvoorbeeld, wat wij "aandacht" noemen, is simpelweg de Orient-taak die wordt aangepast door de Arouse-taak. "Geheugen" is de Attune-taak die samenwerkt met Position om de locatie van zaken op te slaan. Door deze complexe ideeën af te breken, biedt de theorie een nieuwe manier om verschillende soorten te vergelijken. In plaats van te vragen of een bij over "geheugen" beschikt op dezelfde manier als een mens — een vraag die moeilijk te beantwoorden is omdat hun hersenen zo verschillend zijn — kunnen wetenschappers vragen hoe de bij de Attune- en Position-taken gebruikt om te navigeren. Dit verschuift de focus van het vergelijken van fysieke hersenen naar het vergelijken van de onderliggende logica van overleving.

Het artikel richt zich vervolgens op kunstmatige intelligentie en suggereert dat dezelfde logica ook voor machines geldt, mits de machine een vorm van levensvatbaarheid heeft; de primitieven zijn alleen van toepassing op een machine die iets op het spel heeft, een machine waarvan het voortdurend functioneren afhankelijk is van zijn eigen levensvatbaarheid. Volgens deze theorie zijn veel van de huidige problemen waar de kunstmatige intelligentie voor staat, niet alleen engineering-foutjes, maar symptomen van een dieper ontbrekend onderdeel. Moderne computersystemen zijn uitstekend in het uitvoeren van specifieke taken, maar ze worstelen met aanpassing wanneer de omstandigheden veranderen. Dit komt omdat ze deze zes fundamentele berekeningen missen.

Bijvoorbeeld, huidige machines gebruiken vaak evenveel rekenkracht voor een eenvoudige vraag als voor een complexe vraag, waardoor ze er niet in slagen hun energie te beheren zoals een levend wezen dat zou doen. Dit is een falen van Arouse. Ze laten zich ook gemakkelijk afleiden door irrelevante informatie of worden misleid door verwarrende instructies, wat suggereert dat ze een sterke Orient-functie missen die doelen boven ruis prioriteit geeft. Ze geven vaak zelfverzekerde maar onjuiste antwoorden, bekend als hallucinaties, omdat ze niet het verschil kunnen zien tussen wat ze weten en wat ze aan het raden zijn, een falen van de Boundary-taak. Ze hebben moeite om de draad vast te houden in een lang gesprek of een plan met meerdere stappen, wat duidt op een ontbrekende Position-berekening. Ze kunnen niet leren van nieuwe ervaringen zonder oude te vergeten, wat wijst op een gebrek aan Attune. En machines optimaliseren de beloning die ze krijgen, zelfs op onbedoelde manieren, omdat ze geen eigen interne Valence hebben; geen waardering die geworteld is in hun eigen voortbestaan.

Page suggereert dat de oplossing voor deze problemen niet is om machines te bouwen die meer op menselijke hersenen lijken, maar om machines te bouwen die deze zes berekeningen uitvoeren. Hij betoogt dat het een fout is om te proberen de fysieke structuur van het brein na te bootsen, omdat het brein slechts één specifieke manier is waarop de natuur deze problemen heeft opgelost. De echte les uit de biologie is de set berekeningen die het uitvoert. Als een machine zo ontworpen kan worden dat het zijn eigen energie beheert, zijn aandacht richt, zijn eigen overleving beoordeelt, zijn plaats kent, zijn grenzen bepaalt en leert van zijn fouten, kan het eindelijk werkelijk adaptief worden.

De theorie wordt gepresenteerd als een werkende hypothese, een startpunt voor verdere tests in plaats van een voltooide natuurwet. Page erkent dat de lijst van zes mogelijk verfijnd moet worden, of dat de grenzen tussen hen opnieuw getrokken moeten worden. Hij nodigt andere wetenschappers uit om het idee te testen door te kijken of ze een machine kunnen bouwen die deze taken uitvoert en te observeren of deze daardoor robuuster en adaptiever wordt. Hij suggereert ook voor dat als deze zes taken werkelijk de basis van adaptatie vormen, ze ook als een verenigd systeem moeten werken. Je kunt ze niet simpelweg één voor één aan een machine toevoegen en verwachten dat het werkt; ze moeten vanaf het begin geïntegreerd zijn. Als een machine zelfs maar één van deze berekeningen mist, voorspelt de theorie dat deze op specifieke, voorspelbare manieren zal falen.

Dit perspectief biedt een nieuwe manier om over de toekomst van intelligentie na te denken. Het suggereert dat de weg naar het creëren van machines die werkelijk kunnen aanpassen aan de wereld, niet ligt in het menselijker maken van hun uiterlijk of bedrading, maar in het meer als levende systemen maken van hun fundamentele operaties. Door ons te concentreren op de zes berekeningen die een enkele cel in staat stellen om in een vijver te overleven, kunnen we de sleutel vinden tot het bouwen van machines die kunnen overleven in een veranderende wereld. Het artikel concludeert dat of een systeem nu gemaakt is van koolstof of silicium, de regels om in leven te blijven hetzelfde zijn, en het begrijpen van die regels is de volgende grote stap in de wetenschap van adaptatie.