A Probabilistic Framework for Hierarchical Goal Recognition

이 논문은 계층적 작업 네트워크(HTN)의 구조와 확률적 추론을 결합하여, 에이전트의 행동 관찰을 통해 목표를 더 정확하게 추론할 수 있는 최초의 계획 기반 확률적 계층적 목표 인식 프레임워크를 제안합니다.

핵심

1. 기존 AI의 문제점: "융통성 없는 깐깐한 탐정" 🕵️‍♂️

기존의 AI 방식은 마치 **'매우 깐깐하고 고집 센 탐정'**과 같습니다.

예를 들어, 누군가 '라면 끓이기'를 하려고 한다고 가정해 봅시다. AI는 머릿속에 완벽한 '라면 레시피(계층적 작업 네트워크, HTN)'를 가지고 있습니다.

1. 물을 붓는다.
2. 불을 켠다.
3. 면과 스프를 넣는다.

그런데 만약 그 사람이 라면을 끓이다가 갑자기 옆에 있는 **'우유를 한 모금 마시는 행동'**을 했다면? 깐깐한 탐정 AI는 이렇게 말합니다.

"잠깐! 내 레시피에는 '우유 마시기'가 없어! 그러니까 저 사람은 지금 라면을 끓이는 게 아니야. 결론: 목표 없음!"

이처럼 기존 방식은 아주 작은 돌발 행동(노이즈) 하나만 있어도 "이건 내가 아는 계획이 아니야!"라며 아예 틀린 답을 내놓거나, 계획에 없는 행동을 설명하기 위해 억지로 이상한 목표(예: '우유 마시기 계획')를 끼워 맞추곤 했습니다.

---

2. 이 논문의 해결책: "유연하고 눈치 빠른 프로파일러" 🧠

이 논문에서 제안하는 새로운 방식은 **'눈치 빠른 프로파일러'**입니다. 이 프로파일러는 두 가지 강력한 무기를 가지고 있습니다.

첫 번째 무기: "큰 그림을 보는 능력" (계층적 구조 활용)

사람은 요리할 때 '양파를 썰고, 칼을 씻고...' 같은 자잘한 동작 하나하나에 집중하지 않습니다. 대신 **'재료 준비 중이구나'**라는 큰 흐름을 보죠. 이 논문의 AI도 자잘한 동작에 매몰되지 않고, "지금 저 사람은 '저녁 식사 준비'라는 큰 목표 아래에 있구나"라는 계층적인 구조를 활용해 훨씬 효율적으로 추론합니다.

두 번째 무기: "확률로 계산하는 유연함" (확률적 추론)

이게 핵심입니다! 이 AI는 "이건 100% 라면 끓이기야!"라고 단정 짓지 않습니다. 대신 **"음, 90% 확률로 라면을 끓이는 것 같고, 10% 정도는 그냥 우유를 마시는 것 같네"**라고 확률로 대답합니다.

만약 중간에 '우유 마시기' 같은 엉뚱한 행동이 나와도, AI는 당황하지 않습니다.

"어? 계획에 없는 행동이네? 하지만 나머지 행동들을 보니 라면 끓이는 확률이 여전히 압도적으로 높아. 저 우유는 그냥 잠깐 한 행동(외생적 행동)일 뿐이야!"

라고 유연하게 판단할 수 있게 된 것이죠.

---

3. 요약하자면 (Metaphor Summary)

• 기존 AI: "레시피에 없는 행동을 했다고? 그럼 넌 요리사가 아니야!" (흑백논리)
• 새로운 AI: "레시피에 없는 행동을 했지만, 전체적인 흐름을 보니 요리사일 확률이 아주 높네!" (확률적 눈치)

4. 이 연구가 왜 중요한가요? 🚀

우리가 사는 세상은 매우 복잡하고 불확실합니다. 로봇이 우리 집에서 도와주려면, 우리가 실수로 물건을 떨어뜨리거나 갑자기 딴짓을 하더라도 **"아, 저 사람이 지금 무엇을 하려는지"**를 정확히 이해하고 기다려줄 줄 알아야 합니다.

이 논문은 AI가 사람의 복잡하고 불규칙한 행동 패턴을 훨씬 더 인간답고 유연하게 이해할 수 있는 수학적 토대를 마련했다는 점에서 큰 의미가 있습니다.

기술 요약

[기술 요약] 계층적 목표 인식을 위한 확률론적 프레임워크

1. 문제 정의 (Problem Statement)

**목표 인식(Goal Recognition)**은 에이전트의 행동 관찰을 통해 그 의도(목표)를 추론하는 문제입니다. 기존 연구들은 크게 두 가지 방향으로 발전해 왔으나, 각각의 한계가 존재합니다.

• 계층적 구조의 활용 (Hierarchical Structure): 인간은 활동을 단순한 행동의 나열이 아닌, 상위 수준의 활동(예: '요리하기' $\rightarrow$ '재료 손질', '볶기')으로 구조화하여 인식합니다. **HTN(Hierarchical Task Networks)**은 이를 모델링하기에 적합하지만, 기존의 HTN 기반 인식기(H¨oller et al., 2018a)는 결정론적(Deterministic) 방식이라서 특정 목표가 관찰과 일치하는지 여부(Yes/No)만 판단할 뿐, 여러 후보 중 어떤 것이 더 가능성 높은지 확률적으로 비교하지 못합니다.
• 확률론적 추론 (Probabilistic Inference): 현실 세계의 관찰은 노이즈가 섞여 있거나 불완전하며, 에이전트가 비최적(Suboptimal)으로 행동할 수 있습니다. 기존의 확률론적 방식들은 주로 평면적(Flat) 행동 모델을 사용하여 계층적 구조를 활용하지 못하며, 특히 관찰 데이터에 목표와 무관한 **외생적 행동(Exogenous actions)**이 포함될 경우 모델이 완전히 실패하는 취약점이 있습니다.

본 논문의 핵심 질문: "HTN의 계층적 구조를 유지하면서도, 불확실성과 노이즈(외생적 행동)를 처리할 수 있는 확률론적 추론 프레임워크를 어떻게 구축할 것인가?"

2. 방법론 (Methodology)

저자들은 HTN 기반의 목표 인식을 베이즈 추론(Bayesian Inference) 문제로 정식화하고, 이를 위해 **3단계 생성 모델(Three-stage Generative Model)**을 제안합니다.

A. 3단계 생성 모델 (Likelihood Estimation)

목표 가설 $N_g$가 주어졌을 때 관찰 $\hat{o}$가 나타날 확률 $P(\hat{o} | N_g, s_0)$을 다음과 같이 모델링합니다.

1. 1단계: 네트워크 분해 (Network Decomposition): 가설 $N_g$를 방법(Method)들을 사용하여 원시 작업(Primitive task) 네트워크 $N$으로 분해합니다. 이때 Boltzmann 분포를 사용하여 비용이 낮은(효율적인) 분해 방식에 더 높은 확률을 부여합니다.
2. 2단계: 실행 가능한 선형화 (Executable Linearization): 분해된 네트워크 $N$을 실행 가능한 행동 순서(Plan, $\pi$)로 변환합니다. 가능한 행동들 중 무작위로 선택하는 과정을 모델링합니다.
3. 3단계: 관찰 모델 (Observation Model): 실행된 계획 $\pi$로부터 실제 관찰 $\hat{o}$가 추출될 확률을 계산합니다. 여기에는 관찰이 계획의 일부인지, 어느 시점까지 실행되었는지에 대한 '진행도 사전 확률(Progress prior)'과 '정렬 가능성(Alignment likelihood)'이 포함됩니다.

B. 효율적인 추론 및 근사 (Inference & Approximation)

모든 가능한 실행 경로를 계산하는 것은 불가능하므로, 저자들은 **두 개의 대표적인 실행(Representative executions)**을 사용하여 우도(Likelihood)를 근사합니다.

• 관찰 일치 실행 (Observation-consistent term): 관찰 $\hat{o}$를 반드시 포함하도록 강제된(Observation-enforcing compilation) 계획의 확률.
• 비제약 실행 (Unconstrained term): 관찰과 상관없이 해당 가설에서 가장 확률이 높은 기본 계획의 확률.
• 결과: 이 두 값의 비율을 통해, "가설이 관찰을 설명하기 위해 얼마나 '놀랍지 않은(Less surprising)'가"를 측정합니다.

C. 외생적 행동 처리 (Handling Exogenous Actions)

작업 삽입(Task Insertion) 개념을 도입하여, HTN 구조에 정의되지 않은 행동이 관찰되더라도 이를 '노이즈'나 '목표와 무관한 행동'으로 간주하고, 해당 가설의 확률을 0으로 만드는 대신 낮게 유지함으로써 모델의 강건성(Robustness)을 확보합니다.

3. 주요 기여 (Key Contributions)

1. 최초의 확률론적 HTN 목표 인식 프레임워크: 계층적 구조와 베이즈 추론을 결합한 최초의 계획 기반(Planning-based) 프레임워크를 제시했습니다.
2. 실용적인 알고리즘: 기존의 상용 HTN 플래너를 그대로 활용하면서도, Top-K 가설 선택 전략을 통해 계산 복잡도를 관리할 수 있는 실용적인 추론 절차를 개발했습니다.
3. 외생적 행동에 대한 이론적 보장: 작업 삽입 모델을 통해 노이즈가 있는 환경에서도 사후 확률(Posterior)이 유효하게 계산됨을 수학적으로 증명했습니다.

4. 실험 결과 (Results)

Kitchen 및 Monroe 도메인에서 기존의 결정론적 HTN 인식기(Baseline)와 비교 실험을 진행했습니다.

• 정확도 향상: 모든 관찰 비율(20%~80%)에서 기존 방식보다 높은 Top-k 정확도를 기록했습니다. 특히 관찰 데이터가 적은 초기 단계(Early stage)에서 확률론적 모델의 강점이 두드러졌습니다.
• 강건성 확인: 관찰 데이터에 목표와 무관한 행동(Exogenous action)을 삽입했을 때, 기존 방식은 목표 인식을 실패하거나 잘못된 목표를 추가하는 반면, 제안된 모델은 올바른 목표에 대해 여전히 높은 사후 확률을 유지했습니다.
• 계산 비용: 정확도 향상에 비해 계산 시간 증가(약 5초 $\rightarrow$ 24초)는 실용적인 수준 내에 있음을 확인했습니다.

5. 의의 (Significance)

본 논문은 목표 인식 분야를 단순한 '일치 여부 확인'에서 **'불확실성 하에서의 확률적 추론'**으로 격상시켰습니다. 이는 로봇 공학이나 인간-컴퓨터 상호작용(HCI)과 같이 환경이 불확실하고 에이전트의 행동이 노이즈가 섞인 실제적인 상황에서 계층적 지식을 활용하여 보다 지능적이고 강건한 인식을 가능하게 하는 토대를 마련했다는 점에서 큰 의의가 있습니다.