💬 NLP

PDDL-Mind: Large Language Models are Capable on Belief Reasoning with Reliable State Tracking

이 논문은 LLM 의 이론적 마음 (ToM) 추론 실패가 고차원적 추론 능력 부족이 아닌 암묵적 상태 추적의 불안정성에서 비롯된다고 주장하며, 이를 해결하기 위해 PDDL 을 활용한 명시적 상태 표현과 논리적 일관성을 보장하는 신경-심볼릭 프레임워크 'PDDL-Mind'를 제안하고 주요 벤치마크에서 기존 최첨단 방법 대비 5% 이상 높은 정확도를 달성했음을 보여줍니다.

원저자: Wang Bill Zhu, Qiutong Tony Yi, Robin Jia, Jesse Thomason

게시일 2026-04-21

📖 2 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Wang Bill Zhu, Qiutong Tony Yi, Robin Jia, Jesse Thomason

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

🎬 비유: "실수하는 배우와 완벽한 대본"

마치 한 연극을 상상해 보세요.

현재의 문제 (기존 AI):
기존 AI 는 훌륭한 배우처럼 대본 (이야기) 을 읽고 "이 인물은 지금 뭐라고 생각할까?"라고 추론하는 능력은 꽤 좋습니다. 하지만 대본을 읽는 도중, "아, 방금 그 인물이 문을 열고 나갔지?" 같은 사소한 사실 (상태) 을 잊어버리거나 헷갈려 합니다.
- 예를 들어, "메리는 냉장고에 와인을 넣었다"라고 했는데, 다음 문장에서 "메리는 냉장고가 비어있다고 생각한다"라고 추론하면 안 되는데, AI 는 "아, 메리가 냉장고에 갔었지? 그럼 비어있겠지?"라고 착각합니다.
- 연구자들은 이것이 AI 가 **추론 (Reasoning)**을 못해서가 아니라, **상황을 기억하고 추적 (State Tracking)**하는 과정에서 실수를 저지르기 때문이라고 봅니다.
이 연구의 해결책 (PDDL-MIND):
이 연구팀은 AI 에게 "네가 직접 기억해"라고 시키지 않고, **엄격한 '대본 관리 시스템' (PDDL)**을 도입했습니다.
- PDDL 이란? 연극의 모든 등장인물, 소품, 무대 장치를 수학적으로 정확하게 정의한 '규칙 책'입니다.
- 작동 방식:
  1. AI 가 이야기를 읽으면, 이 '규칙 책'을 참고하여 **"메리가 부엌에 갔다" → "냉장고를 열었다" → "와인을 보았다"**라는 사실을 수학적으로 검증된 데이터로 변환합니다.
  2. 만약 AI 가 "냉장고를 닫았다"라고 잘못 해석하면, 시스템이 "아니야, 규칙상 냉장고는 아직 열려 있어"라고 자동으로 수정해 줍니다.
  3. 이렇게 **100% 정확한 상황 기록 (상태 추적)**이 만들어진 후, 비로소 AI 가 "메리는 지금 뭐라고 생각할까?"라고 추론을 합니다.

🚀 결과는 어떨까요?

기존 방법: AI 가 머리로만 기억하려다 보니, 이야기가 길어질수록 기억이 꼬이고 정답률이 떨어졌습니다. (마치 긴 이야기를 듣고 마지막에 "누가 어디 있었지?"라고 묻는 것 같습니다.)
PDDL-MIND 방법: "상황 기록"을 AI 가 아닌 '시스템'이 완벽하게 관리하게 했더니, 정답률이 5% 이상 크게 향상되었습니다.
- 특히, 기존에 가장 잘하던 방법보다 **훨씬 적은 비용 (컴퓨터 자원)**으로 더 좋은 결과를 냈습니다. (기존 방법은 매번 27 번이나 다시 생각하게 했지만, 이 방법은 3 번만 생각해도 됩니다.)

💡 핵심 교훈: "기억력 문제지, 지능 문제 아냐"

이 논문은 우리에게 중요한 메시지를 줍니다.

"AI 가 사람의 마음을 이해하지 못하는 건, AI 가 멍청해서가 아니라 주변 상황을 제대로 파악하고 기억하는 '기초 체력'이 부족해서다."

마치 수학 문제를 풀 때처럼, 계산 실수 (상황 추적 오류) 를 줄여주면, 그다음 단계인 논리적 추론은 AI 가 아주 잘해낸다는 것입니다.

📝 한 줄 요약

"AI 가 사람의 마음을 읽지 못하는 이유는 '생각'이 부족해서가 아니라, '상황을 잊어버려서'입니다. 이 연구는 AI 에게 '상황을 잊지 않도록 도와주는 완벽한 메모장 (PDDL)'을 만들어주어, AI 의 심리 이론 능력을 획기적으로 끌어올렸습니다."

1. 문제 정의 (Problem)

대형 언어 모델 (LLM) 은 기존 심리이론 (Theory-of-Mind, ToM) 벤치마크에서 인간 수준의 수행 능력을 보여주지 못하고 있습니다. 특히, 에이전트의 행동이나 대화를 바탕으로 다른 에이전트의 신념 (belief), 지식, 의도를 추론하는 작업에서 큰 실수를 범합니다.

기존 연구들은 이러한 실패 원인을 두 가지 가설로 나누어 설명해 왔습니다:

상태 추적 (State Tracking) 실패: 시간이 지남에 따라 축적되는 사건들을 바탕으로 세계 상태 (world state) 를 정확하게 유지하지 못함.
추론 (Reasoning) 실패: 사건 흐름은 잘 파악하지만, 그 상태로부터 신념이나 의도를 추론하는 고차원적 논리 과정이 부족함.

이 논문은 LLM 의 추론 능력 자체의 한계가 아니라, '불안정한 암시적 상태 추적 (unreliable implicit state tracking)'이 주요 병목 현상이라고 주장합니다. 즉, LLM 은 복잡한 논리적 추론을 할 수 있지만, 자연어 서술을 통해 세계 상태를 일관성 있게 유지하고 업데이트하는 과정에서 오류가 발생하여 최종 답변이 틀리게 된다는 것입니다.

2. 방법론 (Methodology): PDDL-MIND

저자들은 신경 - 심볼릭 (Neuro-Symbolic) 프레임워크인 PDDL-MIND를 제안합니다. 이 프레임워크는 환경 상태의 진화와 신념 추론을 분리하여, LLM 에게 논리적으로 일관된 명시적 상태 표현을 제공합니다.

핵심 구성 요소:

사전 정의된 PDDL 도메인 (Predefined Domain):
- ToM 벤치마크의 구조 (물리적 행동 또는 대화) 를 분석하여 Planning Domain Definition Language (PDDL) 형식의 도메인 파일을 미리 정의합니다.
- 객체 유형: 에이전트 (agent), 위치 (loc), 사물 (obj), 발화 (utterance).
- 예언자 (Predicates): at(위치), in(포함), seen(관찰), heard(청취) 등 상태 표현.
- 액션 (Actions): move(이동), open(열기), close(닫기), grab(잡기), drop(놓기), ask(묻기), tell(말하기) 등 7 가지 기본 행동과 각각의 전제 조건 (precondition) 및 효과 (effect) 를 정의합니다.
상태 및 액션 추출 (State & Action Extraction):
- 문제 파일 생성: LLM 이 서술된 환경 설명을 PDDL 문제 파일 (초기 상태 $s_0$ 및 객체 목록) 로 변환합니다.
- 액션 시퀀스 생성: LLM 이 서술된 사건들을 PDDL 액션 시퀀스로 변환합니다.
검증 및 상태 전이 (Verification & State Transitions):
- 생성된 액션 시퀀스를 PDDL 도메인의 규칙에 따라 검증합니다.
- 현재 상태가 액션의 전제 조건을 만족하는지 확인하고, 유효한 경우만 상태 전이를 수행하여 다음 상태 ( $s_i$ ) 를 생성합니다.
- 조건을 만족하지 않거나 논리적으로 불가능한 액션은 필터링하여 제거합니다.
- 이를 통해 **논리적으로 일관된 검증된 상태 시퀀스 (Verified State Sequence)**를 확보합니다.
ToM 질문 추론:
- LLM 에게 검증된 상태 시퀀스와 ToM 질문을 입력합니다.
- LLM 은 명시적으로 검증된 상태에 기반하여 체인 오브 씽킹 (Chain-of-Thought) 방식으로 신념 추론을 수행하고 최종 답변을 도출합니다.

3. 주요 기여 (Key Contributions)

불안정성 원인 규명: ToM 작업에서 LLM 의 실패가 추론 능력 부족이 아니라, 자연어 기반의 암시적 상태 추적 실패에서 비롯됨을 실증적으로 증명했습니다.
신경 - 심볼릭 프레임워크 개발: PDDL 을 활용하여 상태 추적을 외부화하고 검증함으로써, LLM 의 추론 능력을 극대화하는 PDDL-MIND 를 제안했습니다.
효율성 증대: 기존 최첨단 방법론 (예: AutoToM) 이 예시당 평균 27 회 이상의 LLM 호출이 필요한 반면, PDDL-MIND 는 예시당 3 회의 호출로 더 높은 정확도를 달성하여 비용 효율성을 크게 개선했습니다.
구조적 추상화: 단일 에이전트의 행동 서열과 다중 에이전트 대화 모두를 '사건 - 상태 (Event-State)'의 이산적 추상화로 통합하여 모델링할 수 있음을 보였습니다.

4. 실험 결과 (Results)

세 가지 주요 ToM 벤치마크 (MMToM-QA, MuMa-ToM, FanToM) 에서 GPT-4o 를 기반으로 실험한 결과는 다음과 같습니다:

성능 향상:
- MMToM-QA: 88.3% 정확도 (기존 최선인 AutoToM 대비 5.3% 이상 향상).
- MuMa-ToM: 88.8% 정확도 (기존 최선 대비 7.4% 이상 향상).
- FanToM: 80.0% 정확도.
- 인간 수행 수준 (Human) 에 근접하거나 일부 벤치마크에서는 인간을 능가하는 성능을 보였습니다.
비용 효율성:
- AutoToM 은 예시당 평균 17.6~35.1 회의 LLM 호출이 필요했으나, PDDL-MIND 는 3 회만으로 더 높은 정확도를 기록했습니다.
오류 분석:
- PDDL-MIND 의 실패 사례 중 약 33% 는 파싱 오류 (서술을 PDDL 액션으로 잘못 변환) 에서 기인했고, 67% 는 올바른 상태가 주어졌음에도 추론 실패에서 발생했습니다.
- 이는 완벽한 상태 추적 하에서 오류율이 약 8% 로 감소할 수 있음을 시사하며, 상태 추적이 현재 LLM 의 ToM 평가에서 가장 큰 병목임을 다시 한번 확인시켜 주었습니다.

5. 의의 및 결론 (Significance & Conclusion)

이 논문은 LLM 이 심리이론 (ToM) 추론 자체는 가능하지만, 자연어 서술을 통해 세계 상태를 정확하게 추적하고 유지하는 데 어려움을 겪고 있음을 명확히 했습니다.

벤치마크 설계에 대한 시사점: 향후 ToM 벤치마크는 단순한 추론 능력 평가뿐만 아니라, 정확하고 검증 가능한 상태 추적을 전제로 한 평가가 이루어져야 함을 강조합니다.
방법론적 전환: LLM 의 추론 능력을 최대한 활용하기 위해서는, 상태 추적과 같은 반복적이고 규칙적인 작업을 심볼릭 시스템 (PDDL) 에 위임하고, LLM 은 검증된 상태에 기반한 추론에 집중하도록 하는 분업 (Decoupling) 전략이 효과적입니다.
미래 방향: 현재 텍스트 기반 심볼릭 추상화에 국한되어 있으나, 향후 시각적/공간적 지각이 포함된 멀티모달 환경으로 확장하거나, 더 복잡한 세계 지식 (long-tail knowledge) 이 필요한 상황으로 범위를 넓히는 것이 향후 연구 과제로 제시되었습니다.

요약하자면, PDDL-MIND는 LLM 의 ToM 성능 한계를 '추론 부족'이 아닌 '상태 추적 불안정성'으로 재정의하고, 심볼릭 도구를 활용한 검증된 상태 추적을 통해 이를 해결함으로써 LLM 의 추론 능력을 획기적으로 향상시킨 획기적인 연구입니다.