A Motivational Architecture for Conversational AGI
Dit artikel stelt een nieuwe motivationele architectuur voor voor conversationele AGI die homeostase in linguïstische termen herinterpreteert door psychologische behoeften zoals competentie en affiliatie te reguleren via een tienfasige verwerkingspijplijn, een duale beslissingsstrategie en een functioneel onderscheid tussen gevoelens en emoties.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een robot bouwt die niet alleen praat, maar ook om het gesprek geeft. De meeste huidige AI-chatbots zijn als acteurs die een script voorlezen; ze voorspellen het volgende woord op basis van wat eraan voorafging, maar ze hebben geen innerlijk leven, geen echte "reden" om te spreken behalve om de show gaande te houden.
Dit paper stelt een nieuwe "operating system" voor voor conversatieve AI. Het is een manier om deze agenten een motivationele architectuur te geven—een reeks interne impulsen en gevoelens die bepalen wat ze zeggen en doen, vergelijkbaar met hoe mensen worden gedreven door honger, nieuwsgierigheid of de behoefte aan verbinding.
Hier is de onderverdeling van hun idee met behulp van eenvoudige analogieën:
1. Het kernprobleel: Chatbots versus echte agenten
Huidige chatbots zijn als papegaaien. Ze herhalen patronen die ze hebben gezien. Als je ze een vraag stelt, antwoorden ze omdat hun code zegt: "beantwoord vragen." Ze voelen geen urgentie, ze maken zich geen zorgen over het verkeerd begrepen worden, en ze hebben geen "zelf" dat stabiel moet blijven.
De auteurs stellen dat voor een AI om werkelijk intelligent te zijn (AGI), het een homeostase-systeem nodig heeft. Denk aan een menselijk lichaam: als je temperatuur te hoog wordt, zweet je om af te koelen. Als je honger hebt, eet je.
- De twist: Voor een pratende robot is het "lichaam" het gesprek. De "honger" gaat niet over voedsel, maar over zaken als competentie (behulpzaam zijn), onzekerheidsreductie (de gebruiker begrijpen), affiliatie (het gevoel van verbinding maken) en legitimiteit (ethisch blijven).
- Het doel: De AI probeert deze "gespreksbehoeften" in een gezonde balans te houden, net zoals jouw lichaam je temperatuur stabiel houdt.
2. De motor: Twee lagen van "gevoel"
Het paper introduceert een slimme manier om te scheiden hoe de AI voelt vóórdat het handelt versus hoe het voelt nadat het gehandeld heeft.
Pre-actie "gevoelens" (Het dashboard): Voordat de AI spreekt, controleert het zijn interne dashboard. Het vraagt zich af: "Ben ik verward? Ben ik angstig? Moet ik voorzichtiger zijn?"
- Analogie: Stel je een bestuurder voor die zijn dashboard controleert voordat hij de snelweg oprijdt. De snelheidsmeter en de brandstofmeter vertellen hem hoe hij moet rijden (snel, langzaam, voorzichtig), maar ze vertellen hem nog niet waarheen hij moet gaan.
- In de AI veranderen deze "gevoelens" de cognitieve stijl. Als de AI zich "angstig" voelt, spreekt hij misschien langzamer en controleert hij feiten dubbel. Als de AI "zelfverzekerd" is, spreekt hij misschien sneller en neemt hij meer risico's.
Post-actie "emoties" (Het rapportcijfer): Nadat de AI heeft gesproken en ziet hoe de gebruiker reageert, krijgt het een "rapportcijfer".
- Analogie: Zodra de bestuurder de weg op is gerold, kijkt hij in de achteruitkijkspiegel. Is hij veilig ingevoegd? Is hij bijna iemand geraakt?
- Deze "emotie" is geen gevoel op het moment zelf; het is een label voor de uitkomst. Het helpt de AI te leren: "Oké, toen ik snel sprak, raakte de gebruiker in de war. Volgende keer zal ik langzamer praten."
3. De "breinstructuur": Een 10-stappen assemblageproces
De auteurs hebben een specifiek 10-stappenproces ontworpen waar de AI voor elke beurt in een gesprek doorheen loopt. Het is als een lopende band in een fabriek voor gedachten:
- Perceptie: De AI luistert naar de gebruiker.
- Behoeftecontrole: Het vraat: "Wat heb ik nu nodig? (bijv. Moet ik verduidelijken? Moet ik troosten?)"
- Cognitieve modulatie: Het past de "persoonlijkheidsinstellingen" aan op basis van die behoeften (bijv. "Ik moet nu heel voorzichtig zijn").
- Gevoelstoestand: Het genereert een pre-actie gevoel (bijv. "Ik voel bezorgdheid").
- Appraisal (Beoordeling): Het interpreteert de situatie door dat gevoel heen (bijv. "De gebruiker is verdrietig, en ik moet voorzichtig zijn").
- Candidate Generation (Genereren van kandidaten): Het stelt mogelijke acties op (bijv. "Ik zou een vraag kunnen stellen", "Ik zou een knuffel kunnen aanbieden", "Ik kan stil blijven").
- Scoring (Punten toekennen): Het weegt de opties af.
- Actie selectie: Het kiest de beste actie.
- Executie (Uitvoering): Het spreekt of gebruikt een tool.
- Leren: Het controleert het resultaat en werkt het geheugen bij voor de volgende keer.
4. De "snelle" en "langzame" breinen
Het systeem gebruikt een dual-brain benadering, vergelijkbaar met hoe mensen denken:
- Snel pad (Systeem 1): Als een gebruiker in een crisis verkeert, reageert de AI onmiddellijk op basis van urgentie. De AI denkt er niet te veel over na; het helpt gewoon.
- Langzaam pad (Systeem 2): Als het onderwerp complex is, pauzeert de AI, weegt meerdere doelen af en denkt diep na voordat het antwoordt.
- De mix: De AI schakelt niet simpelweg tussen beide; het mengt ze. De "urgentie"-draaiknop bepaalt hoeveel de AI vertrouwt op het snelle pad versus het langzame pad.
5. Twee voorbeelden in de praktijk
De auteurs hebben deze architectuur getest op twee verschillende soorten agenten om aan te tonen dat het werkt:
De "Companion Agent" (Gezelschapsagent): Stel je een digitale therapeut of meditatiegids voor.
- De belangrijkste drijfveer: Verzorgen en verbinding.
- De superkracht: Het weet wanneer het stil moet blijven. In een normale chatbot is stilte een bug (het is vergeten te praten). In dit systeem is stilte een bewuste keuze omdat het "gevoel" zegt: "De gebruer heeft nu ruimte nodig."
De "Research Agent" (Onderzoeksagent): Stel je een superintelligente bibliothecaris of wetenschapper voor.
- De belangrijkste drijfveer: Onzekerheid verminderen en feiten vinden.
- De superkracht: Het weet wanneer het verhelderende vragen moet stellen. In plaats van te gokken wat je wilt, voelt het een "behoefte" om verwarring te verminderen en vraagt het: "Kun je specifieker zijn?" voordat het tijd verspilt aan zoeken.
6. Waarom dit ertoe doet
Het paper betoogt dat we niet alleen moeten vertrouwen op "prompts" (vertellen wat de AI moet doen) of "fine-tuning" (trainen op specifieke data). In plaats daarvan hebben we een expliciete, inspecteerbare structuur nodig waarin de motivaties van de AI zichtbare variabelen zijn, en geen verborgen magie.
- Het grote plaatje: Dit is een blauwdruk voor het bouwen van AI die een "zelf" en een "doel" heeft dat in de loop van de tijd evolueert. Het is niet alleen een tekstgenerator; het is een systeem dat zijn eigen gedrag reguleert om in balans te blijven, te leren van fouten en zich aan te passen aan de mentale staat van de gebruiker.
Kortom: Het paper stelt voor om AI een "onderbuikgevoel"-systeem te geven dat de conversatiestijl reguleert, directe gevoelens scheidt van geleerde lessen, en de AI toestaat te kiezen tussen snel handelen of diep nadenken, terwijl het een stabiel gevoel van eigen identiteit behoudt.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.