PDDL-Mind: Large Language Models are Capable on Belief Reasoning with Reliable State Tracking

Probleemstelling

Grote Taalmodellen (LLMs) presteren aanzienlijk onder het menselijke niveau op bestaande benchmarks voor "Theory of Mind" (ToM). ToM-taken vereisen dat een model de overtuigingen, kennis en intenties van agenten in een verhaal infereert op basis van een reeks gebeurtenissen.

De auteurs betogen dat de huidige mislukkingen van LLMs voornamelijk worden veroorzaakt door onbetrouwbare impliciete staatstracking (het bijhouden van de wereldtoestand) en niet door beperkingen in het hogere redeneervermogen. Bestaande methoden proberen vaak zowel de staatstracking als het redeneren tegelijkertijd in het taalmodel te laten plaatsvinden, wat leidt tot fouten in het bijhouden van objecten, locaties en wat wie heeft gezien of gehoord naarmate het verhaal vordert.

Methodologie: PDDL-MIND

Het paper introduceert PDDL-MIND, een neuro-symbolisch raamwerk dat de evolutie van de omgevingstoestand ontkoppelt van de overtuigingsinferentie. De kern van de methode is het gebruik van Planning Domain Definition Language (PDDL) om een expliciete, logisch consistente representatie van de wereldtoestand te creëren.

Het proces verloopt in drie hoofdstappen:

1. Gedefinieerd Domein (Predefined Domain):

   • Er wordt een vooraf gedefinieerd PDDL-domeinbestand gebruikt dat de structuur van ToM-benchmarks vastlegt.
   • Dit omvat vier objecttypen: agent (personen), loc (locaties), obj (fysieke items) en utterance (gesproken berichten).
   • Er worden predicaten gedefinieerd om toestanden te beschrijven (bijv. at, in, holding, seen, heard).
   • Zeven acties zijn gedefinieerd met expliciete precondities en effecten: move, open, close, grab, drop, ask, en tell.

2. Extractie en Verificatie van Toestanden:

   • Parsing: Een LLM vertaalt de natuurlijke taalbeschrijving van het verhaal naar een PDDL-probleembestand (initiële staat) en een reeks kandidaat-acties.
   • Symbolische Verificatie: In plaats van te vertrouwen op de LLM om de staat intern te updaten, wordt elke gegenereerde actie gecontroleerd tegen de gedefinieerde PDDL-domeinregels.
     • Als de huidige staat voldoet aan de precondities van de actie, wordt de actie uitgevoerd en de staat formeel bijgewerkt volgens de PDDL-effecten.
     • Ongeldige acties (die niet overeenkomen met de regels of de huidige staat) worden gefilterd.
   • Dit resulteert in een verifieerde reeks van wereldtoestanden die logisch consistent is met het verhaal.

3. Vraagbeantwoording (ToM Inference):

   • De LLM ontvangt de verifieerde reeks van toestanden en de bijbehorende acties, samen met de ToM-vraag.
   • De LLM voert nu alleen de inferentie uit (het redeneren over wat een agent weet of gelooft) op basis van deze expliciete, foutloze staatstracking.

Belangrijkste Bijdragen

• Ontkoppeling van Tracking en Redeneren: Het paper biedt bewijs dat het scheiden van state-tracking (via symbolische verificatie) en belief-inference (via LLM) de prestaties drastisch verbetert.
• Betrouwbare State Tracking: Door gebruik te maken van een gedefinieerd domein en verificatie, elimineert PDDL-MIND de fouten die ontstaan door het "hallucineren" van wereldtoestanden door de LLM.
• Efficiëntie: De methode vereist slechts 3 LLM-calls per voorbeeld (parsing, actie-extractie, en antwoord), terwijl de state-of-the-art methode (AutoToM) gemiddeld 27 calls nodig heeft.
• Unificatie van Structuur: Het raamwerk behandelt zowel fysieke acties als conversaties als gebeurtenissen met precondities en effecten, waardoor een uniforme benadering mogelijk is voor verschillende soorten ToM-benchmarks.

Resultaten

PDDL-MIND werd geëvalueerd op drie leidende ToM-benchmarks: MMToM-QA, MuMa-ToM en FanToM. De resultaten tonen een significante verbetering ten opzichte van bestaande methoden:

• MMToM-QA: PDDL-MIND (met GPT-4o) bereikte 88,3% nauwkeurigheid, een verbetering van meer dan 5% ten opzichte van de vorige beste methode (AutoToM: 83,0%).
• MuMa-ToM: 88,8% nauwkeurigheid, een verbetering van 7,4% ten opzichte van AutoToM (81,4%).
• FanToM: 80,0% nauwkeurigheid.
• Foutanalyse: Bij handmatige inspectie van 40 gevallen bleek dat 90% van de gegenereerde actie-reeksen correct en volledig consistent was met de verhalen. De resterende fouten werden voornamelijk veroorzaakt door parsing-fouten (33%) of echte redeneerfouten (67%), wat suggereert dat met perfecte state-tracking de foutenrate verder zou dalen.

Betekenis en Conclusie

De belangrijkste conclusie van het paper is dat de beperkingen van huidige LLMs in ToM-taken voornamelijk liggen in het onbetrouwbare bijhouden van de wereldtoestand en niet in het vermogen om over overtuigingen te redeneren.

• Paradigmaverschuiving: Het paper stelt dat ToM-evaluaties moeten verschuiven van het testen van "end-to-end" modellen naar het isoleren van state-tracking als een voorwaarde voor zinvolle beoordeling van redeneervermogen.
• Toekomstige Benchmarks: De auteurs pleiten voor benchmarks die expliciete, verifieerbare state-tracking vereisen en die verder gaan dan de huidige structurele bias (zoals hiërarchische boomstructuren) om robuustere redeneermodellen te testen.
• Efficiëntie: Het bewijst dat hoge prestaties bereikt kunnen worden met minder computercosts (minder LLM-calls) door slimme architecturale keuzes (neuro-symbolische integratie) in plaats van brute kracht of complexe iteratieve inferentie.

Kortom, PDDL-MIND toont aan dat LLMs uitstekend zijn in Theory of Mind-redenering, zolang ze worden voorzien van een betrouwbare, expliciete representatie van de feitelijke wereldtoestand.