Factored Reasoning with Inner Speech and Persistent Memory for Evidence-Grounded Human-Robot Interaction

기술 요약: 증거 기반 인간-로봇 상호작용을 위한 내적 언어 및 지속적 메모리를 갖춘 분해된 추론

문제 정의
보조 로봇이 통제된 시연 단계에서 벗어나 장기적인 실세계 배치(예: 의료 또는 가사 환경)로 전환되기 위해서는 단일 세션이 아닌 수일 또는 수개월 동안 일관된 행동을 유지할 수 있는 시스템이 필요합니다. 현재의 대규모 언어 모델(LLM) 기반 인지 아키텍처는 장기적 상호작용에서 다음과 같은 세 가지 핵심 제약 조건에 어려움을 겪는 경우가 많습니다: (i) 필수 정보가 누락되었는지 감지하는 능력, (ii) 검색된 증거와 근거 없는 추론을 구분하는 능력, (iii) 불충분한 계획을 진행하기보다 명확화를 요청할 시점을 결정하는 능력. 중요한 과제는 "표현력 대 제어" 사이의 긴장 관계입니다. LL-M은 강력한 추론 능력을 제공하지만, 종종 숙고(deliberation), 도구 호출(tool invocation), 설명(explanation)을 단일 생성 단계로 붕괴시켜 버립니다. 이러한 결합은 중간 의사결정의 검증을 어렵게 만들고, 검증되지 않은 가정이 사용자 모델에 축적될 위험을 초래하며, 신뢰와 안전을 저해하는 "확신에 찬 오답"으로 이어질 수 있습니다.

방법론: JANUS 아키텍처
본 논문은 인간-로봇 상호작용을 **부분 관측 가능한 마르코프 결정 과정(POMDP)**으로 모델링하여 이러한 문제를 해결하도록 설계된 인지 아키텍처인 JANUS를 소개합니다. 핵심 혁신은 상호작용을 명시적인 인터페이스를 가진 특화된 유형별 모듈로 분해하고, 내부 제어 로직과 외부 통신을 분리하는 **분해된 컨트롤러(factored controller)**입니다.

주요 아키텍처 구성 요소는 다음과 같습니다:

1. 분해된 추론 파이프라인: 시스템은 입출력 매핑을 다음과 같은 에이전트들의 계산 그래프로 분해합니다:

   • 범위 감지(Scope Detection): 활성 상호작용 도메인을 식별합니다.
   • 의도 인식 및 후처리(Intent Recognition & Post-processing): 자유 형식의 요청을 유형화된 파라미터를 가진 구조화된 작업 스키마로 매핑합니다.
   • 메모리 에이전트(Memory Agent): 세 가지 계층의 메모리 구조($H_t$: 제한된 최근 이력 버퍼, $C_t$: 압축된 핵심 메모리, $A_t$: 아카이브 저장소)를 관리하는 상태 유지 구성 요소입니다. 이 에이전트는 아카이브 검색이 필요한지 결정하는 **정보 충분성 게이트(information-sufficiency gate)**를 사용하여 작업 컨텍스트($W_t$)가 제한적이고 일관되게 유지되도록 보장합니다.
   • 내적 언어(Inner Speech): 의도를 검증하고, 파라미터의 완전성을 확인하며, 실행 준비 상태를 강제하는 내부 제어 채널입니다. 이는 로봇이 계속 진행할지, 명확화를 요청할지, 도메인을 전환할지, 또는 요청을 거부할지를 결정합니다. 결정적으로, 이 채널은 사용자에게 전달되는 출력과는 구별됩니다.
   • 쿼리 생성(Query Generation): 외부 증거가 필요한 경우에만 실행 가능한 도구 호출(예: 데이터베이스 쿼리)을 생성합니다.
   • 외적 언어(Outer Speech): 증거 번들($B_t = W_t \cup E_t$)에 따라 조건화된 인간 대상 응답을 생성하며, 이를 통해 주장이 검색된 데이터에 근거하거나 명시적으로 안전한 기본값(safe defaults)으로 표시되도록 보장합니다.

2. 내적 언어 및 제어: 인지 이론에서 영감을 받은 JANUS의 "내적 언어"는 제어 지향적인 내부 텍스트 흐름 역할을 합니다. 이는 그라운딩(grounding)을 허용하기 전에 모든 필수 파라미터가 작업 스키마에 존재하는지 검증합니다. 정보가 누락된 경우, 시스템은 외적 언어를 통해 명확화 턴을 트리거하며, 임의의 기본값을 환각(hallucination)하지 않습니다.

3. 메모리 관리: 메모리는 무제한 로그가 아닌 관리되는 리소스로 취급됩니다. 시스템은 제어된 통합 및 수정 정책을 사용합니다. 히스토리 버퍼가 용량을 초과하면 흔적(traces)을 요약하여 핵심 메모리로 병합하고, 핵심 메모리가 예산을 초 exceed하면 우선순위가 낮은 사실을 아카이브 저장소로 전송합니다. 이를 통해 지속성은 유계(bounded)되고, 일관되며, 감사 가능하게 유지됩니다.

4. 커스터마이제이션 레이어: 다중 도메인 운영을 지원하기 위해, JANUS는 핵심 추론 로직을 변경하지 않고도 도메인별 스키마, 도구, 프롬프트를 캡슐화하는 런타임 커스터마이제이션 레이어를 포함합니다. 이를 통해 시스템은 도메인(예: 식단 조언, 여행 계획) 간을 동적으로 전환할 수 있습니다.

주요 기여
본 논문은 세 가지 주요 기여를 주장합니다:

1. 모듈형, 메모리 증강 분해 아키텍처: JANUS는 내적 언어(제어/검증)와 외적 언어(통신)를 명시적으로 분리합니다. 이러한 분리는 내부 숙고가 검증과 준비 상태에 최적화되는 동시에, 외부 통신은 명확성과 신뢰도 교정(trust calibration)에 최적화되도록 합니다.
2. 다중 도메인 전환을 위한 대화 관리 인터페이스: 이 아키텍처는 도메인별 스키마와 도구를 캡슐화함으로써 핵심 추론 모듈을 불변하게 유지하면서 런타임 시 도메인 전환을 가능하게 합니다.
3. 전용 메모리 에이전트: 계층적 통합 능력을 갖추고 지속성을 명시적 업데이트 정책이 있는 관리된 모듈로 취급하는 상태 유지 구성 요소로서, 비구조화된 이력의 축적을 방지합니다.

실험적 평가 및 결과
저자들은 지식 그래프(Neo4j)에 기반한 식단 보조 도메인("Advisor" 도메인)에서 모듈 수준의 유닛 테스트를 사용하여 JANUS를 평가했습니다. 평가는 단순히 엔드 투 엔드 응답 품질이 아니라 중간 변수의 정확성에 초점을 맞추었습니다.

• 정량적 결과:
  • 범위 감지: 11개 도메인과 폴백(fallback) 도메인에 대해 98.50%의 정확도를 달와 달성하였으며, 의미론적으로 중첩되는 도메인에서도 높은 성능을 유지했습니다.
  • 의도 인식: 100.00%의 작업 선택 정확도와 파라미터 추출에 대한 1.00의 F1 점수를 달성했습니다.
  • 내적 언어: 실행 준비 상태(즉, 명확화가 필요한 시점을 올바르게 식별함)를 결정하는 데 있어 100.00%의 정확도를 기록했습니다.
  • 쿼리 생성: 100.00%의 유효성(모든 쿼리가 성공적으로 실행됨)을 가진 Cypher 쿼리를 생성했으며, 큐레이션된 참조 결과와 96.70%의 중첩 점수를 보였습니다.
• 지연 시간 및 효율성: 중앙값 턴 레벨 응답 시간은 0.26초(의도 인식)에서 0.81초(내적 언어) 사이였습니다. 시스템은 지연 시간이 시나리오에 따라 달라진다고 언급했으며, 증거 기반 답변은 약 2.46초가 소요되었습니다. 쿼리 생성이 가장 토큰 집약적인 모듈이었습니다.
• 정성적 평가: 혼합 프로토콜(인간 평가 및 G-Eval 자동 판정)을 통해 텍스트 출력을 평가했습니다. 결과는 아키텍처 가설을 확인해주었습니다: 외적 언어는 명확성과 유용성 측면에서 가장 높은 평가를 받은 반면, 내적 언어와 범위 감지(제어 흔적)는 단독 텍스트로 판단될 때 낮은 평가를 받았습니다. 이는 내부 제어 텍스트가 인간의 가독성이 아닌 의사결정을 위해 최적화되었음을 뒷받-합니다. 자동 판정(G-Eval)은 인간 평가자에 비해 제어 지향적 흔적의 품질을 체계적으로 과대평가하는 경 것으로 나타났습니다.

의의 및 주장
본 논문은 **분해된 추론(factored reasoning)**이 확장 가능하고, 감사 가능하며, 증거에 기반한 로봇 보조를 향한 유망한 경로라고 주장합니다. 내적 제어 결정과 통신을 명시적으로 분리함으로써, JANUS는 다음을 목표로 합니다:

• 사용자 모델에 검증되지 않은 가정이 축적되는 것을 방지합니다.
• 로봇의 주장이 증거 번들에 연결되도록 보장하여 **충실성(faithfulness)**과 신뢰도 교정을 높입니다.
• 중간 결정(도메인 선택, 의도, 준비 상태)을 검사하고 측정할 수 있는 검증 가능한 제어 루프를 제공합니다.

저자들은 현재의 범위에 대해 겸허한 태도를 유지하며, 평가가 큐레이션된 유닛 테스트와 단일 도메인에 의존하고 있음을 언급했습니다. 또한 결과가 다회차 피드백 루프, 상위 단계 오류로부터의 회복, 또는 실제 구현된 물리적 로봇에서의 신뢰 역학을 아직 포착하지 못하고 있음을 인정했습니다. 향-후 연구로서 실제 사용자를 대상으로 한 종단적, 엔드 투 엔드 연구를 통한 이러한 요소들의 평가가 필요함을 명시했습니다.