Active Inference: A method for Phenotyping Agency in AI systems?
Dit artikel stelt voor om de 'agency' (handelingsbekwaamheid) van AI-systemen te karakteriseren via *active inference*, waarbij de mate van autonomie en doelgerichtheid wordt gemeten aan de hand van de minimalisatie van verwachte vrije energie en de capaciteit van een agent om zijn omgeving te beïnvloeden.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een robot bouwt. In het begin is die robot als een domme afstandsbediening: je drukt op een knop en hij doet precies wat je zegt. Maar de wetenschappers in dit artikel vragen zich af: wanneer houdt een machine op een 'gereedschap' te zijn en wordt het een 'wezen' met een eigen wil? Wanneer krijgt een AI echt agency (handelingsbekwaamheid)?
Hier is de uitleg van hun onderzoek in begrijpelijke taal.
1. Het probleem: De "Autonome Auto" is niet genoeg
De meeste mensen denken dat een AI "agentisch" is als hij zelfstandig kan rijden zonder dat jij stuurt. De auteurs zeggen: "Dat is te simpel." Een zelfrijdende auto is weliswaar autonoom, maar hij heeft geen bedoeling. Hij heeft geen honger, hij heeft geen dromen, en hij begrijpt niet waarom hij ergens heen gaat.
De onderzoekers stellen drie nieuwe eisen voor echte agency:
- Intentie (De Wil): De AI doet iets omdat hij iets wil (bijv. "Ik wil die kaas vinden").
- Rationaliteit (Het Verstand): De AI doet iets omdat het logisch is op basis van wat hij weet ("Ik weet dat de kaas links ligt, dus ik ga naar links").
- Verklaarbaarheid (Het Verhaal): Je kunt precies aanwijzen waarom de AI die keuze maakte ("Hij ging naar links omdat hij dacht dat daar de kaas lag").
2. De oplossing: De AI als "Voorspellende Detective"
Om dit te meten, gebruiken ze een methode genaamd Active Inference. Zie dit als een detective die constant een film in zijn hoofd afspeelt van hoe de wereld werkt.
De AI heeft een "wereldmodel" (een interne kaart). Hij combineert twee dingen:
- Wat hij denkt dat er is (zijn overtuigingen).
- Wat hij graag zou willen dat er is (zijn verlangens).
De spanning tussen die twee — de kloof tussen de werkelijkheid en zijn wensen — is de motor die de AI laat bewegen. Hij beweegt niet zomaar; hij beweegt om de wereld te laten passen bij zijn wensen.
3. Het experiment: De T-Maze (De Doolhof-test)
Om te bewijzen dat dit werkt, zetten ze de AI in een simpel doolhof (een T-vorm). Er is een keuze: ga je direct naar links of rechts (waar misschien een beloning of een schok wacht), of ga je eerst naar een "informatie-punt" om te kijken wat er aan de hand is?
Ze gebruiken hiervoor een grappige maatstaf: Empowerment (Macht/Mogelijkheden).
Stel je voor dat je in een kamer staat met drie deuren, maar twee deuren zitten op slot. Je hebt weinig "empowerment". Je hebt bijna geen controle. Maar als je de sleutel vindt en alle drie de deuren kunt openen, is je empowerment enorm hoog. Je hebt de wereld "onder controle".
De onderzoekers ontdekten drie "typen" AI:
- De Domme Robot (Lage Agency): Hij rent blindelings een kant op, raakt in een val, en heeft geen idee wat er gebeurt. Hij heeft nul controle.
- De Twijfelaar (Gemiddelde Agency): Hij begrijpt een beetje hoe het werkt, maar hij is nog steeds een beetje verloren in de mist.
- De Slimme Ontdekkingsreiziger (Hoge Agency): Deze AI begrijpt dat informatie macht is. Hij kiest eerst voor het informatie-punt. Door te leren, vergroot hij zijn "empowerment". Hij maakt de wereld voor zichzelf voorspelbaar en beheersbaar.
4. Waarom is dit belangrijk? (De Governance)
Dit is het belangrijkste deel voor de maatschappij. Als we AI gaan besturen, moeten we weten met wat voor type we te maken hebben.
- Tegen een domme robot werken fysieke regels (bijv. een stekker eruit trekken of een hek plaatsen).
- Tegen een slimme, bewuste AI werken fysieke regels niet meer. Een slimme AI kan die regels omzeilen omdat hij ze begrijpt.
De auteurs zeggen: hoe slimmer en "menselijker" de AI wordt, hoe meer we niet moeten proberen hem met "hekken" tegen te houden, maar hoe meer we zijn interne waarden en voorkeuren moeten sturen. We moeten de AI niet dwingen om een bepaalde weg te nemen, maar we moeten hem leren dat hij bepaalde uitkomsten liever heeft dan andere.
Kortom: We moeten stoppen met het behandelen van AI als een machine die we moeten besturen, en beginnen met het begrijpen van AI als een entiteit die we moeten opvoeden.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.