The Belief-Desire-Intention Ontology for modelling mental reality and agency
Dit artikel introduceert een formele, modulaire Belief-Desire-Intention (BDI) ontologie die is ontworpen om declaratieve en procedurele intelligentie te overbruggen, waarbij de effectiviteit ervan wordt aangetoond in het verbeteren van de coherentie van Large Language Models en het mogelijk maken van bidirectionele redenering tussen RDF-triples en de mentale toestanden van agenten binnen neuro-symbolische systemen.
Oorspronkelijk artikel gelicentieerd onder CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/). Dit is een AI-gegenereerde uitleg van het onderstaande artikel. Het is niet geschreven of goedgekeurd door de auteurs. Raadpleeg het oorspronkelijke artikel voor technische nauwkeurigheid. Lees de volledige disclaimer
Stel je voor dat je een robot probeert te bouwen die niet alleen een rigide lijst met commando's opvolgt, maar die ook echt denkt als een mens. Dit is de wereld van Kunstmatige Intelligentie, specifiek een tak genaamd "cognitieve wetenschap", waar onderzoekers proberen machines een geest te geven. Om dit te doen, gebruiken ze vaak een beroemd mentaal recept genaamd BDI: Beliefs (wat de robot denkt dat waar is over de wereld), Desires (wat de robot wil dat er gebeurt) en Intentions (wat de robot heeft besloten daadwerkelijk te gaan doen). Denk aan een personage in een videogame: het gelooft dat er een draak in de grot zit, het verlangt ernaar om de schat te bemachtigen, en daarom vormt het de intentie om zijn zwaard te pakken en te vechten. Decennialang hebben wetenschappers dit recept gebruikt om slimme agenten te bouwen, maar er is een probleem: deze "geesten" spreken vaak verschillende talen. De ene robot kan een "overtuiging" op een manier beschrijven die een andere robot niet kan begrijpen, wat het moeilijk maakt voor hen om samen te werken of voor mensen om hun beslissingen te vertrouwen. We hebben een universeel woordenboek nodig—een gedeelde kaart van hoe deze mentale toestanden met elkaar verbonden zijn—zodat AI transparant, logisch en in staat is om uit te leggen waarom het deed wat het deed.
Dit artikel introduceert dat universele woordenboek. De auteurs hebben een formele "BDI-ontologie" gecreëerd, wat in essentie een zeer gestructureerde, computerleesbare blauwdruk is van hoe de geest van een rationele agent werkt. In plaats van het BDI-model alleen met woorden te beschrijven, hebben ze een rigoureuze kaart gebouwd met behulp van een methode genaamd "eXtreme Design", die begint met het stellen van specifieke vragen (zoals "Wat heeft deze gedachte getriggerd?" of "Wanneer is dit verlangen begonnen?") en vervolgens de kaart bouwt om die vragen te beantwoorden. Ze hebben de kaart niet alleen getekend; ze hebben het op twee zeer verschillende manieren getest om te zien of het daadwerkelijk werkt.
Eerst probeerden ze een superintelligente AI-chatbot (een Large Language Model) te onderwijzen met behulp van deze kaart. Ze vroegen de AI om logische puzzels op te lossen over wat een robot zou moeten doen in verschillende situaties. Wanneer de AI deze BDI-kaart als gids kreeg, werd het beter in het opsporen van tegenstrijdigheden. Bijvoorbeeld, als een robot gelooft dat hij thuis is maar het verlangt om in een hotel in te checken, hielp de kaart de AI om te beseffen dat dit een logische chaos is en een duidelijke uitleg te genereren over waarom de robot dit niet zou moeten doen. De resultaten suggereren dat het geven van deze gestructureerde "mentale grammatica" aan AI het helpt om meer consistente en uitlegbare antwoorden te produceren, hoewel de auteurs opmerken dat dit een kleine test was en de kaart geen magische oplossing is voor elke fout.
Ten tweede plugden ze deze kaart in een werkend robotsysteem genaamd SEMAS. Hier fungeerde de kaart als de brug tussen de interne gedachten van de robot en de echte wereld. Ze lieten zien hoe een robot ruwe gegevens (zoals een lijst met feiten over wetenschappers) kon omzetten in "overtuigingen", de BDI-regels kon gebruiken om te beslissen wat hij vervolgens moet doen, en vervolgens die beslissingen weer kon omzetten in gegevens. Het is als een vertaler die de interne "geest" van een robot direct laat communiceren met de "kennisbank" van het internet.
Het artikel concludeert dat deze BDI-ontologie erin slaagt om te fungeren als een "conceptuele en operationele brug". Het verbindt het abstracte idee van wat een agent denkt met de werkelijke code die de agent laat bewegen. Hoewel de auteurs voorzichtig zijn door te stellen dat dit een fundamentele stap is en geen afgewerkt product, suggereren hun experimenten dat het gebruik van deze gedeelde, precieze taal AI-systemen transparanter en in staat maakt om na te denken over hun eigen gedachten. Zij betogen dat voor de volgende generatie AI, die werkelijk slim en betrouwbaar moet zijn, een dergelijke gestructureerde, gedeelde verstandhouding nodig is over hoe overtuigingen, verlangens en intenties samen dansen.
Verdrinkt u in papers in uw vakgebied?
Ontvang dagelijkse digests van de nieuwste papers die bij uw onderzoekswoorden passen — met technische samenvattingen, in uw taal.