Neuro-Symbolic Synergy for Interactive World Modeling

이 논문은 LLM 의 의미적 표현력과 기호적 세계 모델의 논리적 일관성을 결합하여 할루시네이션을 줄이고 데이터 효율성을 높이는 '뉴로-심볼릭 시너지 (NeSyS)' 프레임워크를 제안하며, 다양한 상호작용 환경에서 기존 방법보다 뛰어난 성능을 입증했습니다.

핵심

🧠 핵심 아이디어: "감성적인 예술가"와 "엄격한 검사"의 결혼

이 연구의 주인공은 **NeSyS(뉴로-심볼릭 시너지)**라는 새로운 시스템입니다. 이 시스템은 두 가지 서로 다른 AI 를 한 팀으로 묶었습니다.

1. LLM (대형 언어 모델) = "감성적인 예술가"

   • 특징: 세상의 모든 지식을 알고 있고, 유창하게 말하며, 상황에 맞춰 유연하게 생각할 수 있습니다.
   • 단점: 가끔은 **망상 (Hallucination)**을 봅니다. "아마도 이렇게 될 거야"라고 말하다가, 사실은 전혀 다른 결과가 나오기도 합니다. 특히 규칙이 딱딱한 게임이나 웹 쇼핑 같은 곳에서는 실수를 자주 합니다.
   • 비유: 상상력이 풍부하지만, 가끔은 "내일 비가 올지 모른다"고 말하다가 실제로는 폭우가 내리는 것을 예측하지 못하는 직관적인 예언가입니다.

2. Symbolic WM (상징적 세계 모델) = "엄격한 검사"

   • 특징: 파이썬 코드 같은 엄격한 규칙으로만 작동합니다. "A 라면 B 가 된다"는 식으로 절대 틀리지 않습니다.
   • 단점: 너무 경직되어 있습니다. 세상의 복잡한 뉘앙스나 새로운 상황을 이해하지 못해, 규칙에 없는 일은 아예 못 합니다.
   • 비유: 모든 것이 법전으로 정해져 있어야만 움직이는 완벽한 법조인입니다. 법전에 없는 상황은 "모르겠다"고 딱 잘라 말합니다.

🤝 NeSyS 가 하는 일: "두뇌 합작"

이 두 AI 는 따로 놀면 한계가 명확합니다. 그래서 저자들은 이 둘을 함께 일하게 만들었습니다.

• 기존 방식 (나쁜 예): 예술가 (LLM) 에게 "규칙을 지켜!"라고 말로만 주문하는 것입니다. 하지만 예술가는 귀를 막거나, "아, 알겠어요"라고 말하면서도 결국 실수를 합니다.
• 이 연구의 방식 (좋은 예): 예술가가 답을 내놓기 직전, 검사가 그 답의 확률에 직접 개입합니다.
  • 만약 예술가가 "규칙을 위반하는 답"을 내놓으려 하면, 검사가 그 답의 확률을 0 으로 만들어버립니다.
  • 반대로 "규칙에 맞는 답"이라면 확률을 높여줍니다.
  • 비유: 예술가가 그림을 그릴 때, 검사가 옆에서 "저기 빨간색은 안 돼, 파란색만 써"라고 붓을 직접 잡고 색을 고르게 하는 것과 같습니다.

📉 데이터 절감의 마법: "불필요한 연습은 생략하자"

이 시스템의 또 다른 큰 장점은 데이터를 절반만 써도 똑똑해진다는 점입니다.

• 일반적인 AI: 모든 문제를 풀기 위해 방대한 양의 데이터를 다 외워야 합니다. (비유: 모든 수학 문제를 다 풀어서 시험을 보려고 노력함)
• NeSyS:
  1. 먼저 검사 (규칙) 가 해결할 수 있는 쉬운 문제들은 규칙으로 바로 처리합니다.
  2. 예술가 (LLM) 는 규칙으로 해결되지 않는 어려운 문제들만 집중해서 학습합니다.
  • 비유: "1+1=2" 같은 건 계산기 (규칙) 가 해주고, AI 는 "1+1 이 왜 2 인가?" 같은 복잡한 철학적 질문만 공부하게 됩니다. 결과적으로 공부할 양이 절반으로 줄어든데도 점수는 더 잘 나옵니다.

🎮 실험 결과: 게임과 쇼핑에서 승리

이 시스템을 세 가지 다른 환경에서 테스트했습니다.

1. ScienceWorld (과학 퀴즈): 상식과 과학 지식을 섞어서 문제를 풉니다. NeSyS 는 적은 데이터로 더 높은 정확도를 냈습니다.
2. Webshop (온라인 쇼핑): "이 상품을 검색해서 사야 해" 같은 작업입니다.
   • LLM 은 "검색" 버튼을 누르는 문자를 맞추는 데 실패할 때가 많았습니다.
   • 하지만 NeSyS 는 검사가 규칙을 적용해 100% 정확도를 달성했습니다.
3. Plancraft (마인크래프트 스타일 게임): 물건을 조합해 새로운 물건을 만드는 게임입니다.
   • LLM 은 게임 규칙을 잊어버리거나 (망각), 잘못된 조합을 제안했습니다.
   • NeSyS 는 게임 규칙을 지키면서도 창의적인 조합을 찾아내어 최고의 성능을 보였습니다.

💡 결론: 왜 이 연구가 중요할까요?

이 연구는 **"AI 가 더 똑똑해지려면, 무조건 더 많은 데이터를 먹이는 게 답이 아니다"**라고 말합니다.

대신, **엄격한 규칙 (논리)**과 **유연한 상상력 (감성)**을 적절히 섞어주면, 적은 비용으로 더 정확하고 신뢰할 수 있는 AI 를 만들 수 있다는 것을 증명했습니다. 마치 감성적인 예술가와 엄격한 검사가 손잡고 세상을 더 잘 이해하게 된 것과 같습니다.

이제 AI 는 규칙을 어기지 않으면서도, 세상의 복잡한 상황을 유연하게 이해할 수 있게 된 것입니다! 🚀

기술 요약

1. 문제 정의 (Problem Definition)

대규모 언어 모델 (LLM) 은 강력한 일반적 추론 능력을 갖추고 있지만, **세계 모델 (World Model, WM)**로 사용될 때 심각한 한계를 보입니다.

• 할루시네이션 (Hallucination): 결정론적인 전이 규칙 (transition rules) 을 엄격하게 준수해야 하는 환경 (예: 게임, 웹 인터랙션) 에서 LLM 은 종종 사실과 다른 예측을 하거나 규칙 위반을 일으킵니다.
• 상징적 모델의 한계: 반대로, 명시적인 규칙과 기호 (Symbolic) 에 기반한 세계 모델은 논리적 일관성은 보장하지만, 복잡한 자연어 환경이나 고차원적인 확률적 동역학을 표현하는 데에는 유연성이 부족합니다.
• 핵심 과제: LLM 의 풍부한 의미적 사전 지식 (semantic priors) 과 기호적 모델의 엄격한 논리적 제약 (deterministic constraints) 을 모두 만족시키면서 상호 보완적인 세계 모델을 구축하는 것입니다.

2. 방법론 (Methodology: NeSyS)

저자들은 **Neuro-Symbolic Synergy (NeSyS)**라는 새로운 프레임워크를 제안합니다. 이는 LLM 기반 신경 세계 모델과 실행 가능한 기호 규칙을 통합하여, 두 모델의 약점을 상호 보완합니다.

A. 핵심 메커니즘: 확률 분포 수정 (Probability Distribution Modification)

기존의 프롬프트 엔지니어링 (규칙을 입력에 추가) 방식과 달리, NeSyS 는 LLM 의 출력 확률 분포를 직접 수정합니다.

1. 신경 세계 모델 (Neural WM): LLM 이 후보 상태 (next state) 와 보상 (reward) 에 대한 초기 확률 $p_i$를 계산합니다.
2. 기호 세계 모델 (Symbolic WM): Python 함수로 구현된 가중치 규칙 집합 $F = \{(f_j, w_j)\}$이 각 후보에 대해 점수 $e_{ij} \in [-1, 1]$을 생성합니다. (규칙이 충족되면 양수, 위반되면 음수)
3. 에너지 항 (Energy Term) 통합: 기호 점수를 에너지 항으로 사용하여 LLM 의 확률을 재조정합니다.
   $$\tilde{p}_i = p_i \exp(\gamma E_i)$$
   여기서 $E_i$는 모든 규칙의 가중 합이며, $\gamma$는 스케일링 하이퍼파라미터입니다. 이를 통해 LLM 이 규칙 위반 확률을 낮추고 논리적으로 일관된 예측을 하도록 유도합니다.

B. 상호 보완적 학습 파이프라인 (Reciprocal Refinement)

두 모델을 동시에 학습시키되, 서로가 처리하지 못하는 데이터에만 집중하는 이단계 학습을 수행합니다.

• 1 단계 (초기화): 사전 학습된 LLM 으로 초기화한 후, 개발 세트에서 발생한 오류를 클러스터링하여 기호 규칙을 자동 생성합니다.
• 2 단계 (상호 정제):
  • 데이터 선택 (Rule-guided Data Selection): 현재 규칙 집합으로 해결 가능한 데이터는 필터링하고, 규칙이 해결하지 못하는 '어려운' 데이터 (규칙 점수 $k=0$ 또는 낮은 경우) 만 선별하여 신경 모델 (LLM) 을 파인튜닝합니다. 이는 학습 데이터의 약 50% 를 줄이면서도 성능을 유지합니다.
  • 규칙 정제: 신경 모델이 개선된 후, 신경 모델의 새로운 오류를 포착하기 위해 기호 규칙을 추가하거나 불필요한 규칙을 제거합니다.

3. 주요 기여 (Key Contributions)

1. NeSyS 프레임워크 제안: LLM 의 출력 확률 분포를 직접 수정하여 기호적 제약을 강제하는 새로운 통합 방식 제시. (기존 프롬프트 기반 방식의 한계 극복)
2. 상호 보완적 학습 패러다임: 신경 모델과 기호 모델이 서로의 실패 영역을 학습하도록 설계된 학습 프로세스 도입. 이를 통해 학습 데이터 양을 절반으로 줄이면서도 정확도 유지.
3. 광범위한 실험적 검증: 다양한 상호작용 환경 (ScienceWorld, Webshop, Plancraft) 과 다양한 규모의 모델 (1B~20B) 에서 베이스라인 대비 일관된 성능 향상 입증.

4. 실험 결과 (Results)

세 가지 환경 (ScienceWorld, Webshop, Plancraft) 에서 Llama3.2-1B, Qwen3-4B 등을 백본으로 사용하여 평가했습니다.

• 성능 향상: NeSyS 는 단일 신경 모델이나 단일 기호 모델보다 항상 우수한 성능을 보였습니다. 특히 ScienceWorld에서는 1B 모델 기준 전체 데이터로 파인튜닝한 SFT 베이스라인 (64.4%) 을 45% 데이터만 사용하여 NeSyS 가 (68.3%) 능가했습니다.
• 데이터 효율성: 규칙으로 커버 가능한 데이터를 제외하고 학습함으로써, 학습 데이터를 50% 이상 절감하면서도 성능이 저하되지 않거나 오히려 향상되었습니다.
• 환경별 특징:
  • Webshop: '검색 (Search)'이나 '결정 (Decision)'과 같은 엄격한 문자 매칭/논리 검증이 필요한 작업에서 기호 모델이 100% 정확도를 보인 반면, LLM 은 0% 를 기록했습니다. NeSyS 는 기호 모델의 정확도를 유지하면서 LLM 의 의미 이해 능력을 결합하여 92% 이상의 정확도를 달성했습니다.
  • Plancraft (Minecraft): 신경 모델의 파인튜닝 시 발생하는 치명적 망각 (Catastrophic Forgetting) 문제를 해결했습니다. NeSyS 는 규칙 모듈이 분포 변화에 면역이 있기 때문에, 'Smelt' (용광로) 작업에서 SFT 모델이 성능이 급격히 떨어지는 것과 달리 98.4% 의 높은 정확도를 유지했습니다.

5. 의의 및 결론 (Significance & Conclusion)

• 하이브리드 모델링의 필요성 증명: 복잡한 상호작용 환경에서는 순수한 신경망이나 순수한 기호 시스템만으로는 부족하며, 두 접근법의 시너지가 필수적임을 입증했습니다.
• 실용적 효율성: LLM 의 할루시네이션을 줄이고, 학습 데이터와 컴퓨팅 비용을 절감하면서도 높은 신뢰성을 확보할 수 있는 실용적인 솔루션을 제시했습니다.
• 미래 방향: 단순한 규칙 적용을 넘어, 신경 모델과 기호 모델 간의 동적 라우팅 (dynamic routing) 메커니즘을 개발하는 것이 향후 중요한 연구 방향임을 시사합니다.

이 논문은 LLM 기반 에이전트가 실제 세계 (게임, 웹, 물리 환경) 에서 안정적이고 논리적으로 작동할 수 있도록 하는 핵심 기술로 평가받습니다.