🤖 AI

NeSyFS: A Neuro-symbolic Fast-Slow Thinking Framework for LLM Agent under Partial Observability

본 논문은 지식 그래프를 믿음 상태(belief state) 표현에 활용하고, 부분 관측 가능성 하에서 LLM 에이전트의 성능을 향상시키기 위해 반응적 행동을 불확실성을 고려한 계획 및 성찰과 통합하는 신경-기호론적 fast-slow 사고 프레임워크인 NeSyFS를 제안한다.

원저자: Duo Xu, Faramarz Fekri

게시일 2026-08-03

📖 3 분 읽기☕ 가벼운 읽기

CC BY 4.0

원저자: Duo Xu, Faramarz Fekri

원본 논문은 CC BY 4.0 (http://creativecommons.org/licenses/by/4.0/) 라이선스로 제공됩니다. ✨ 이것은 아래 논문에 대한 AI 생성 설명입니다. 저자가 작성하거나 승인한 것이 아닙니다. 기술적 정확성을 위해서는 원본 논문을 참조하세요. 전체 면책 조항 읽기

당신이 화면이 안개로 뒤덮인 비디오 게임을 하고 있다고 상상해 보세요. 캐릭터 바로 앞의 몇 피트만 볼 수 있지만, 거대하고 복잡한 성 안에 숨겨진 보물 상자를 찾아야 합니다. 전체 지도를 볼 수 없으며, 목표물과 비교했을 때 자신이 정확히 어디에 있는지 알 수 없습니다. 이것이 인공지능의 '부분 관측 가능성(partial observability)'의 세계입니다. 이 컴퓨터 과학의 한 구석에서, 연구자들은 챗봇을 움직이는 초지능 텍스트 생성기인 대규모 언어 모델(LLM)이 자율적인 에이전트로서 행동하도록 가르치고 있습니다. 이 에이전트들은 의사결정을 내리고, 도구를 사용하며, 문제를 해결해야 하지만, 종종 전체적인 그림을 보지 못한 채 이를 수행해야 합니다. 큰 과제는 AI가 세상의 전체 상태를 볼 수 없을 때 혼란을 겪는다는 점입니다. 방금 무엇을 했는지 잊어버리거나, 목표를 놓치거나, 틀린 것으로 판명된 추측에 기반해 계획을 세울 수도 있습니다. 과학자들은 직관적인 본능과 신중하고 느린 사고를 결와하여 인간처럼 이 안개 낀 세상을 항해할 수 있는 에이전트를 구축하고자 합니다.

NeSyFS라고 불리는 새로운 프레임워크가 등장했습니다. 이는 신경-기호적 속도-지연 사고(Neuro-symbolic Fast-Slow thinking)를 의미합니다. 이것을 AI 에이전트를 위해 설계된, 특히 그 안개 낀 비디오 게임 시나리오를 처리하기 위한 새로운 운영 체제라고 생각해보세요. 조지아 공대의 연구자인 듀오 쉬(Duo Xu)와 파라마르즈 페크리(Faramarz Fekri)는 이전의 방식들이 마치 모든 대사의 긴 줄거리를 읽으며 영화 전체를 기억하려고 애쓰는 것과 같다는 점을 깨달았습니다. 그것은 너무 많은 정보이며, 중요한 세부 사항은 소음 속에서 길을 잃게 됩니다. 대신, NeSyFS는 AI에게 '지식 그래프(Knowledge Graph)'라는 '살아있는 기억 노트'를 제공합니다. 이것은 단순한 메모 목록이 아니라, "냉장고가 열려 있다"를 "그 안에 컵이 있다"와 연결하는 거미줄처럼 사실들이 구조적으로 얽힌 웹입니다.

이 프레임워크는 인간의 사고 방식에서 영감을 얻어 AI의 뇌를 두 가지 모드로 나눕니다. '빠른 사고(Fast-Thinking)' 모드는 에이전트의 반사 신경입니다. 에이전트는 자신의 기억 노트를 훑어보고 가장 관련 있는 사실(예: "나는 컵이 필요하고, 방금 냉장고 안에서 하나를 보았다")을 잡아내어 빠르게 움직입니다. 하지만 때때로 안개가 너무 짙어 빠른 추측이 틀릴 때가 있습니다. 그때 '느린 사고(Slow-Thinking)' 모드가 개입합니다. 이것은 에이전트의 의도적인 계획가입니다. 그는 단순히 추측하는 것이 아니라, 체스 선수가 세 수 앞을 내다보는 것처럼 머릿속에서 다양한 미래의 경로를 시뮬레이션합니다. 그는 여러 가능한 미래를 동시에 테스트하기 위해 특별한 수학적 기법(Twisted Sequential Monte Carlo라고 불리는 방법에서 빌려온 것)을 사용하여, 유망해 보이는 경로는 유지하고 막다른 길로 이어지는 경로는 버립니다.

에이전트가 경로를 벗어나지 않도록 하기 위해, 세 번째 부분인 '성찰 모듈(Reflection Module)'이 존재합니다. 에이전트가 빠른 움직임을 보일 때마다, 코치가 사이드라인에 서서 기억 노트를 확인하며 그 움직임이 실제로 목표 달성에 도움이 되는지 체크한다고 상상해 보세요. 만약 코치가 "아니, 그건 말이 안 돼"라고 말한다면, 에이전트는 다시 생각해야 합니다. 만약 에이전트가 계속해서 같은 실수를 반복한다면, 코치는 더 나은 전략을 세우기 위해 '느린 사고' 계획가를 호출합니다. 논문은 이러한 조합—구조화된 기억, 빠른 반사 신경, 신중한 계획, 그리고 비판적인 코치—이 AI가 이전 방식들보다 훨씬 더 뛰어난 성능을 보이도록 돕는다고 제안합니다. 세 가지 서로 다른 게임 환경(가상 집, 온라인 상점, 과학 실험실)에서의 테스트에서, NeSyFS 에이전트는 다른 최상위 방식들을 크게 압도하며, 더 자주 과제를 해결하고 오류를 적게 범했습니다. 연구자들은 긴 히스토리 로그를 읽는 대신 구조화된 기억 노트를 사용함으로써, 에이전트가 목표를 똑바로 유지하고 안개 속을 훨씬 더 효과적으로 항해할 수 있었다는 것을 발견했습니다.

기술 요약: NeSyFS – 부분 관측 가능성 하의 LLM 에이전트를 위한 신경-기호적 Fast-Slow 사고 프레임워크

문제 정의

대규모 언어 모델(LLM)은 자기 성찰(self-reflection), 검색 증강 생성(RAG), 과학적 발견과 같은 복잡한 환경에서 자율적인 에이전트로 점점 더 많이 배치되고 있습니다. 그러나 근본적인 과제는 **부분 관측 가능성(partial observability)**에서 발생합니다. 완전한 입력 컨텍스트를 가진 지도 학습 설정과 달리, 에이전트 환경은 일반적으로 국소적이고 즉각적인 관찰만을 드러내며, 실제 기저의 상태(underlying state)는 잠재적인 상태로 남아 있습니다.

이러한 부분 관측 가능성은 LLM 에이전트에 세 가지 핵심적인 과제를 제기합니다:

신념 상태 추론(Belief State Inference): 에이전트는 불완전하거나 노이즈가 섞인 상호작용 이력을 통해 숨겨진 상태에 대한 신념을 추론해야 하며, 이러한 이력은 제한된 컨텍스트 창 내에 효과적으로 압축하기에는 너무 길 수 있습니다.
태스크 목표 불일치(Task Objective Misalignment): 불확실성과 누락된 상태 정보는 에이전트가 글로벌 태스크 목표에서 벗어난 행동을 생성하게 만들 수 있습니다.
불확실성 하의 계획(Planning Under Uncertainty): 실제 상태에 접근할 수 없다는 점은 계획 단계에서 미래 상황을 예측하는 것을 어렵게 만듭니다.

기존 방식들은 대개 전체 또는 요약된 행동-관찰 이력에 조건화하여 행동을 생성합니다. 이러한 방법들은 비구조화된 메모리에 의존하는 경우가 많으며, 이로 인해 중복되거나 무관한 정보가 의사결정을 방해할 수 있습니다.

방법론: NeSyFS 프레임워크

저자들은 이러한 과제들을 통합적으로 해결하기 위해 설계된 새로운 신경-기호적(Neuro-Symbolic) Fast-Slow 사고 프레임워크인 NeSyFS를 제안합니다. 이 프레임워크는 인간의 인지 구조(Kahneman 2011)에서 영감을 얻은 듀얼 프로세스 인지 아키텍처와 구조화된 메모리 시스템을 결합합니다.

1. 신경-기호적 메모리 (지식 그래프)

NeSyFS는 비구조화된 상호작용 이력 대신, 환경의 잠재 상태를 표현하기 위해 **지식 그래프(Knowledge Graph, KG)**를 사용합니다.

표현: 환경 상태는 구조화된 트리플렛(triplets) 형태로 인코딩됩니다 (예: (entity, relationship, entity), (entity, attribute, value), (entity, past_tense_verb, entity)).
동적 업데이트: 에이전트가 환경과 상호작용함에 따라, 새로운 관찰과 행동이 트리플렛으로 변환되어 KG에 통합됩니다. 일관되고 동적으로 업데이트되는 표현을 보장하기 위해 오래된 트리플렛은 제거(pruning)됩니다.
검색: NeSyFS 내의 모든 모듈은 POMDP(Partially Observable Markov Decision Process)의 기저 상태를 근사하기 위해, KG에서 태스크 관련 트리플렛을 검색하여 구조화된 컨텍스트로 활용합니다.

2. Fast-Thinking 모듈 (반응적 행동)

Fast-thinking 모듈은 반응적인 행동을 효율적으로 생성합니다.

프로세스: 현재의 KG로부터 태스크 설명과 현재 관찰에 기반하여 관련 트리플렛을 검색합니다.
의사결정: CoT(Chain-of-Thought) 추론을 사용하여, 이 구조화된 컨텍스트를 바탕으로 다음 행동을 선택하도록 LLM에 프롬프트를 제공합니다.
역할: 이 모듈은 깊은 계획의 계산적 오버헤드 없이 일상적이고 국소적으로 타당한 행동을 처리합니다.

3. Reflection 모듈 (정렬 확인)

태스크 목표 불일치를 완화하기 위해, Reflection 모듈은 Fast-thinking 행동이 태스크 목표와 일치하는지 평가합니다.

메커니즘: 자신의 행동을 성찰하는 일반적인 자기 성찰 방법과 달리, 이 모듈은 3인칭 관점을 채택합니다. KG에서 검색된 트리플렛을 컨텍스트로 사용하여 후보 행동이 태스크 목표와 부합하는지 검증합니다.
자기 일관성(Self-Consistency): LLM의 무작위성을 줄이기 위해, 모듈은 여러 샘플(예: $n=5$ )을 추출하며, 높은 임계값(예: 80%) 이상의 샘플이 동의할 경우에만 행동을 승인합니다.
트리거: 행동이 승인되면("Yes") 실행됩니다. 만약 거절되면("No"), Reflection 사고가 Fast-thinking 모듈로 전달되어 새로운 행동을 생성하도록 합니다. 만약 반복적으로 거절될 경우(예: $K=3$ 번), 시스템은 Slow-thinking 모듈로 에스컬레이션합니다.

4. Slow-Thinking 모듈 (불확실성을 고려한 계획)

Fast-thinking이 신뢰할 수 없을 때, 에이전트는 새로운 TSMC(Twisted Sequential Monte Carlo) 알고리즘을 사용하는 심층적 계획 단계로 전환합니다.

입자 표현(Particle Representation): 알고리즘은 가중치가 부여된 입자 집합을 유지하며, 각 입자는 예측된 관찰, 잠재 상태(KG), 그리고 행동으로 구성된 가능한 미래 궤적을 나타냅니다.
전파(Propagation): 각 입자에 대해, LLM은 다음 행동과 그 결과로 나타날 관찰을 예측하고, 그에 따라 잠재 상태(KG)를 업데이트합니다.
가중치 업데이트: 입자의 가중치는 해당 상태 전이가 태스크 진행에 도움이 되는지에 대한 LLM의 이진(binary) 평가를 기반으로 업데이트됩니다. 간결한 KG 표현은 이 평가 과정에서의 환각(hallucination)을 줄이는 데 도움을 줍니다.
리샘플링(Resampling): 태스크 진행도가 낮은 입자는 버려지고, 유망한 입자는 보존됩니다. 이 메커니즘은 계획을 LLM 평가 오류에 대해 강건하게 만듭니다.
실행: 호라이즌 $H$ 동안 계획을 수행한 후, 하나의 입자를 샘플링하여 실제 환경에서 그 첫 번째 행동을 실행합니다.

주요 기여

통합 프레임워크: 잠재 상태 추론, 태스크 불일치, 불확실성 하의 계획을 동시에 해결하는 신경-기호적 Fast-Slow 사고 프레임워크를 제안합니다.
TSMC 스타일 계획: 부분 관측 가능성 하의 불확실성을 다루기 위해, KG-검색된 트리플렛을 사용하는 LLM 에이전트 전용 TSMC 스타일 계획 알고리즘을 도입했습니다. 이는 리샘플링 메커니즘을 활용하여 탐색과 활용 사이의 균형을 맞추는 동시에 LLM 평가 오류에 대한 강건성을 유지합니다.
KG 증강 성찰(KG-Augmented Reflection): KG-검서된 트리플렛을 활용하여 효율적인 단계별 성찰(trajectory-level 성찰이 아닌)을 가능하게 함으로써 태스크 목표와의 정렬을 크게 개선했습니다.
구조화된 컨텍스트: KG-검색된 트리플렛을 사용하는 것이 의사결정, 성찰 및 월드 모델링 측면에서 전체 이력이나 요약된 신념 방식보다 우수함을 입증했습니다.

실험 결과

본 프레임워크는 세 가지 대표적인 벤치마크인 ALFWorld(가사 작업 수행), WebShop(온라인 쇼핑 의사결정), ScienceWorld(절차적 및 과학적 추론)에서 평가되었습니다.

전반적인 성능: NeSyFS는 ReAct, Reflexion, ABBEL, RAFA, SwiftSage를 포함한 최첨단 베이스라인들을 일관되고 유의미하게 능가했습니다.
- GPT-5에서 NeSyFS는 ALFWorld에서 평균 성공률 93.6%, WebShop에서 63.3%, ScienceWorld에서 **69.4%**를 달성하여, 가장 뛰어난 베이스라인인 SwiftSage를 큰 차이로 앞질렀습니다.
- GPT-5-mini 및 Llama-3.3-70B에서도 유사한 개선이 관찰되었습니다.
성찰 효능: 성찰 모듈을 분리하여 실험한 결과, 전체 상호작용 이력이나 LLM 요약 신념 상태를 사용하는 것보다 KG가 제공하는 컨텍스트를 사용하는 것이 총 탐지 오류(Total Detection Errors, TDE)를 유의미하게 줄이고 유효 신뢰도(Effective Reliability, ER)를 높임을 확인했습니다.
컨텍스트 비교: 성찰이 없는 Fast-thinking 시나리오에서, KG-검색된 트리플렛은 전체 이력이나 신념 요약보다 높은 성공률을 기록하여, 비구조화된 텍스트보다 구조화된 심볼릭 메모리가 우월함을 입증했습니다.

의의 및 주장

본 논문은 NeSyFS가 부분 관측 가능성 환경을 위한 LLM 에이전트 아키텍처의 중요한 진보를 나타낸다고 주장합니다. 비구조화되고 중복된 상호작용 이력에서 벗어나 구조화된 심볼릭 지식 그래프(KG)로 전환함으로써, 이 프레임워크는 잠재 상태에 대한 더욱 견고하고 효율적인 표현을 제공합니다.

저자들은 자신들이 LLM 에이전트를 위한 TSMC 스타일의 계획법을 개발한 최초의 연구자임을 강조하며, 리샘플링 메커니즘을 활용하여 탐색과 활용의 균형을 맞추는 동시에 LLM 평가 오류에 대한 강건성을 확보했다고 밝힙니다. 또한, KG 증강 성찰 모듈의 통합은 기존의 궤적 단위 성찰보다 태스크 불일치 문제를 더 효과적으로 해결합니다. 실험 결과는 구조화된 메모리(KG), 반응적 Fast-thinking, 그리고 심층적 Slow-thinking의 시너지가 복잡하고 부분적으로 관측 가능한 환경에서 고성능 자율 에이전트를 구현하는 데 필수적임을 시사합니다.