Artificial Agency Program: Curiosity, compression, and communication in agents

Each language version is independently generated for its own context, not a direct translation.

De Kernboodschap: AI als een "Moeilijk Leven" leidt tot Slimmeren

Stel je voor dat we tot nu toe kunstmatige intelligentie (AI) hebben getraind als een supermens in een glazen bol. Deze AI heeft een onbeperkt geheugen, ziet alles tegelijk, heeft geen last van vermoeidheid en kan oneindig snel rekenen. Het probleem is: in de echte wereld bestaat zo iemand niet. Wij mensen hebben een beperkt geheugen, we zien maar één kant van een object tegelijk, we worden moe, en we moeten kiezen tussen denken, doen en communiceren.

De auteur, Richard Csaky, stelt voor: Laten we AI niet trainen als een god, maar als een mens in een moeilijke situatie.

Het paper introduceert het Artificial Agency Program (AAP). Dit is een plan om AI-systemen te bouwen die "in de realiteit zitten", met beperkte middelen (zoals energie en rekenkracht) en die leren door nieuwsgierigheid.

De Drie Pilaren van het Plan

Het paper bouwt op drie belangrijke ideeën, die we kunnen vergelijken met het leren van een kind of het spelen van een spel:

1. Nieuwsgierigheid is "Leren dat het Lukt" (Compression)

Vaak denken we dat nieuwsgierigheid betekent: "Kijk naar iets heel raars en onbekends." Maar Csaky zegt: Nee, echte nieuwsgierigheid is het zoeken naar patronen die je net kunt begrijpen, maar nog niet helemaal beheerst.

De Metafoor: Stel je voor dat je een puzzel maakt.
- Als de puzzel stukken zijn die je al kent, is het saai (geen nieuwsgierigheid).
- Als de puzzel stukken zijn die volledig willekeurig zijn (zoals een doos met losse confetti), is het onmogelijk (geen nieuwsgierigheid).
- De echte nieuwsgierigheid zit in het midden: stukken die je net kunt inpassen als je een beetje meer leert. De AI wordt "nieuwsgierig" naar dingen die haar helpen haar wereldmodel te comprimeren (samenvatten) en beter te voorspellen. Ze wil de wereld zo klein mogelijk beschrijven, maar wel zo goed mogelijk.

2. De Kosten van Denken en Doen (Bounded Rationality)

In de echte wereld kost alles energie. Denk aan een batterij. Een slimme AI moet leren rekenen met haar batterij. Ze moet niet elke seconde alles proberen te voorspellen of alles te doen.

De Metafoor: Stel je voor dat je een reisbudget hebt.
- Je kunt kiezen: Kijken (observatie), Doen (actie), of Nadenken (deliberatie).
- Als je te veel kijkt, raak je je budget kwijt.
- Als je te veel nadenkt zonder te handelen, kom je nergens.
- De slimme AI leert een balans vinden: "Moet ik nu echt die nieuwe sensor gebruiken, of kan ik het hebben met wat ik al weet?" Ze leert om haar "rekenkracht" slim in te zetten, net zoals een mens bespaart op energie.

3. De Taal is een Gereedschap, geen Heilige Graal

Veel mensen denken dat taal (woorden) de beste manier is om te denken. Dit paper zegt: Nee, taal is slechts één van de opties. Soms is het beter om stil te zijn en intern te "denken" (met beelden of gevoelens) dan om woorden te gebruiken.

De Metafoor: Taal is als een postbode.
- Als je een boodschap moet geven aan iemand anders, gebruik je de postbode (taal).
- Maar als je zelf nadenkt over een probleem, hoef je niet per se te praten. Je kunt gewoon "in je hoofd" een beeld schetsen.
- Het paper stelt voor dat AI een geheime taal (privé-tokens) mag hebben voor intern denken, en een publieke taal voor communicatie. Soms is het slimmer om intern te "flitsen" met een idee in plaats van een heel verhaal te typen. Dit bespaart tijd en energie.

Het Grote Doel: De "Gekoppelde" Mens

Het belangrijkste punt van het paper is dat we AI niet moeten zien als een losstaande robot, maar als onderdeel van een team met de mens.

De Metafoor: Denk aan een bril of een fiets.
- Een fiets is niet "slim" op zichzelf. Maar een mens met een fiets kan veel sneller en verder komen dan een mens alleen.
- De AI is de fiets. De mens is de fietser.
- Het doel is niet om de fiets zo snel mogelijk te maken dat de fietser er af valt. Het doel is om de fiets zo te maken dat de combinatie (mens + fiets) soepeler, sneller en slimmer door de wereld komt.

Als de AI te moeilijk te besturen is, of te veel energie kost, is hij nutteloos, zelfs als hij "slim" is. De AI moet dus leren om samen te werken met de mens, rekening houdend met de beperkingen van de mens (zoals tijd en aandacht).

Hoe gaan ze dit testen? (Het Experiment)

De auteurs willen dit niet alleen in theorie laten, maar in de praktijk testen. Ze stellen een stappenplan voor:

Stap 1: Simpele spelletjes. Ze beginnen met simpele virtuele werelden (zoals een raster waar een puntje rondloopt) waar ze precies kunnen zien hoeveel "energie" de AI verbruikt.
Stap 2: Moeilijkere puzzels. Dan gaan ze naar puzzels waarbij de AI moet nadenken, kijken en handelen, en ze moeten beslissen: "Is het de moeite waard om nu extra te kijken, of moet ik gewoon doen?"
Stap 3: De echte wereld. Uiteindelijk willen ze dit toepassen op complexe systemen die zien, horen en handelen, waarbij de AI leert om haar eigen "bril" (sensoren) en "handen" (acties) aan te passen als dat nodig is.

Samenvattend in één zin:

Dit paper zegt: Laten we stoppen met AI te bouwen als een onsterfelijke god in een computer, en beginnen met het bouwen van slimme, nieuwsgierige helpers die leren om te overleven en te groeien binnen de beperkingen van de echte wereld, net zoals wij mensen doen.

Het is een oproep om AI menselijker te maken, niet door haar meer "menselijke eigenschappen" te geven, maar door haar te laten werken onder dezelfde regels (tijd, energie, beperkte zintuigen) als wij.

Each language version is independently generated for its own context, not a direct translation.

Titel: Artificial Agency Program (AAP): Curiosity, compressie en communicatie in agenten

1. Het Probleem

Huidige frontier-AI-systemen worden vaak getraind en geëvalueerd onder omstandigheden die fundamenteel verschillen van de biologische ontwikkeling van intelligentie. Bestaande systemen missen de beperkingen die essentieel zijn voor echte "agency" (handelingsvermogen):

Gebrek aan realiteit: Systemen zijn vaak losgekoppeld van fysieke, ruimtelijk-temporele realiteit en opereren in sandbox-omgevingen.
Onbeperkte resources: Trainingspipelines negeren vaak de beperkingen in rekenkracht, geheugen, sensoren en actuatoren die biologische agenten wel hebben.
Interface-problematiek: Een hoge capaciteit van een model garandeert niet dat het systeem bruikbaar is. De bottleneck ligt vaak niet in het kunnen vinden van een oplossing, maar in het vermogen van het gekoppelde mens-AI-systeem om informatie te verzamelen, beperkte rekenkracht toe te wijzen en intenties effectief te communiceren onder tijds- en energiebudgetten.

Het paper stelt dat intelligentie niet alleen een eigenschap van het model is, maar van het gekoppelde systeem (mens + tool + omgeving).

2. Methodologie en Formele Opzet

De auteur introduceert het Artificial Agency Program (AAP), een onderzoeksagenda die AI-systemen behandelt als ingebedde, resource-begrensde agenten. De kernmethodologie omvat:

Formele Definitie van de Agent:
De agent wordt gemodelleerd als een deels waarneembaar gecontroleerd proces (POMDP) met de volgende componenten:
- $X_t$ : Verborgen omgevingsstaat.
- $S_t$ : Interne staat (geheugen + beleid + latente wereldmodel).
- $O_t$ : Observatie (onderhevig aan sensorbeperkingen).
- $A_t = (U_t, V_t)$ : Actie (bestaande uit uitvoering $U_t$ en interface/communicatie $V_t$ ).
- Budgetbeperkingen: Er zijn expliciete kosten voor observatie ( $C_O$ ), actuatie ( $C_E$ ), rekenkracht/deliberatie ( $C_C$ ) en geheugenonderhoud ( $C_M$ ).
Intrinsieke Beloning (Curiosity as Learning Progress):
In plaats van pure nieuwsgierigheid (novelty) of verrassing, gebruikt AAP een leer-progress-signaal (Schmidhuber, 2010). De intrinsieke beloning $r_t$ is gebaseerd op de verbetering in de voorspellende compressie van toekomstige observaties:
$r_t = L_{pred}(\theta_{t-H-1}) - L_{pred}(\theta_{t-H})$
Dit beloont patronen die de agent nu kan leren comprimeren, maar nog niet volledig beheerst. Dit drijft de agent naar het oplossen van problemen die net binnen zijn huidige capaciteiten liggen.
Doelfunctie (Cost-Aware Objective):
De totale doelstelling $J$ maximaliseert de verwachte beloning minus de kosten:
$J = \mathbb{E} \left[ \sum \gamma^{t-1} (r_t - \lambda_O C_O - \lambda_E C_E - \lambda_C C_C - \lambda_M C_M) \right]$
Dit dwingt de agent om afwegingen te maken tussen observeren, handelen, nadenken en communiceren.
Unificatie als Interfacekwaliteit:
Een nieuw concept is "unificatie" ( $U_t$ ), wat de kwaliteit van de interface tussen agent en omgeving meet. Het reduceert bottlenecks in sensoren, actuatoren en communicatie. De hypothese is dat agenten resources zullen investeren om deze interface te verbeteren zolang de lange-termijn leerprogressie toeneemt.

3. Belangrijkste Bijdragen

Het paper presenteert vijf centrale hypothesen (H1-H5) die falsifieerbaar zijn:

H1 (Pragmatische Uitlijning): Interventies die de leerprogressie verhogen, verhogen ook het nuttige controlevermogen (empowerment) over de omgeving, en vice versa, binnen een bepaald regime van taken en beperkingen.
H2 (Druk naar Unificatie): Agenten zullen resources investeren in het verbeteren van hun sensoren/actuatoren/communicatie als dit de lange-termijn opbrengst verhoogt, wat leidt tot een monotoon stijgende "unificatie"-score totdat de kosten de opbrengst overtreffen.
H3 (Constraint-Induced Druk): Zelfs zonder expliciete intrinsieke beloning, zullen agenten in realistische omgevingen met kosten en beperkingen gedwongen worden om betere voorspellingen en selectieve controle te ontwikkelen om kostbare plasticiteit en verspilde rekenkracht te vermijden.
H4 (Adaptieve Rekenkracht): Een meta-controller die dynamisch observeert, handelt en deliberatie toewijst, presteert beter dan vaste schema's onder hetzelfde totale budget.
H5 (Zelfcommunicatie als Bottleneck): Een expliciet kanaal voor zelfcommunicatie (bijv. private tokens of "denk-stappen") kan de prestaties en sample-efficiëntie verbeteren bij taken die lange-termijn credit assignment vereisen, mits dit kanaal bandbreedte-gereguleerd is.

Conceptuele Innovaties:

Intelligentie als Manifold: Intelligentie wordt gezien als een punt in een veelvoud (manifold) gedefinieerd door beperkingen (sensing, actuation, memory). Menselijke intelligentie is een specifiek punt op deze manifold; AI moet niet alleen "slimmer" worden, maar ook de afstand tot menselijke beperkingen meten om beter samen te werken.
Taal als Selectieve Bottleneck: Taal wordt niet gezien als een universeel bevoorrechte modus, maar als een van de vele mogelijke compressiekanalen. Het is nuttig als een instrumentele actie die gekozen wordt als de verwachte winst in voorspelling of coördinatie de kosten (tijd, bandbreedte) overstijgt.
Token-Taxonomie: Het paper stelt een modale-agnostische token-taxonomie voor met drie rollen per modality: input ( $m_i$ ), privé/self-deliberatie ( $m_s$ ), en output ( $m_o$ ). Dit staat agenten toe om te schakelen tussen waarnemen, denken (zonder taal) en handelen.

4. Verwachte Resultaten en Experimentele Agenda

Het paper schetst een gefaseerd experimenteel programma om de hypothesen te testen:

Fase 1 (Synthetische POMDP's): Gebruik van rasterwerelden met bekende latent dynamiek om metrics te kalibreren en de hypothesen H1-H3 te stress-testen.
Fase 2 (ARC-AGI-stijl): Interactieve inferentie-taken om te testen wanneer het de moeite waard is om extra observaties te vragen, intern te rekenen of direct te handelen.
Fase 3 (Multimodale VLA Meta-control): Gebruik van een voorgeprogrammeerd multimodaal model met een lichte meta-controller die beslist over de toewijzing van resources.

Verwachte uitkomsten:

Agenten die adaptief resources toewijzen, moeten dichter bij de Pareto-optimale grens (energie/rekenkracht vs. prestatie) komen dan systemen met vaste schema's.
Het gebruik van "private tokens" (denkstappen zonder output) moet leiden tot betere prestaties bij complexe taken vergeleken met alleen latente recurrentie.
Agenten moeten systematisch investeren in het verbeteren van hun interfaces (sensoren/communicatie) wanneer dit de lange-termijn leerprogressie maximaliseert.

5. Betekenis en Impact

De betekenis van het AAP-programma ligt in de verschuiving van een focus op "pure capaciteit" (hoe slim is het model?) naar "agency onder beperkingen" (hoe efficiënt en bruikbaar is het systeem in een realistische context?).

Theoretische Synthese: Het verenigt intrinsieke motivatie, informatietheorie, thermodynamica van informatie en bounded rationality in één coherent raamwerk.
Praktische Toepassing: Het biedt een blauwdruk voor het bouwen van AI-systemen die energie-efficiënt, interpreteerbaar en beter gekoppeld zijn aan menselijke intenties.
Taal en Redenering: Het daagt de huidige LLM-paradigma uit door te suggereren dat redenering niet noodzakelijk via taaltekens moet verlopen, maar dat "stille" deliberatie (private tokens) efficiënter kan zijn, en dat taal alleen gebruikt moet worden wanneer het instrumenteel waardevol is.
Veiligheid en Alignement: Door AI te behandelen als een systeem dat reageert op fysieke en computationele beperkingen (net als mensen), kan dit leiden tot veiliger en voorspelbaarder gedrag, omdat de agenten gedwongen worden om de kosten van hun acties en de onzekerheid van de omgeving te respecteren.

Kortom, AAP pleit voor een wetenschap van "agency" die de trade-offs van de echte wereld expliciet maakt en meetbaar in het ontwerp van AI-systemen integreert.