HypoAgent: An Agentic Framework for Interactive Abductive Hypothesis Generation over Knowledge Graphs

기술 요약: HypoAgent

문제 정의

지식 그래프(Knowledge Graph, KG) 상의 가추법적 추론(Abductive reasoning)은 관찰된 엔티티 집합을 설명하는 논리적 가설(1차 논리 공식)을 생성하는 것을 목표로 합니다. 최근 연구들은 제어 가능한 가설 생성(사용자가 명시적인 조건으로 과정을 유도할 수 있게 하는 방식)을 도입했으나, 기존 방법론들은 대화형 환경에서 두 가지 결정적인 한계에 직면해 있습니다:

1. 다회차 대화에서의 의도 접지(Intent Grounding) 부족: 기존 방식은 다회차 대화 전반에 걸쳐 진화하고 모호한 자연어 의도를 접지하는 데 어려움을 겪습니다. 이들은 일반적으로 정적인 명시적 제어 신호를 필요로 하며, 대화 이력(예: "더 탐색해줘" 또는 "더 단순하게 만들어줘")에 기반한 동적인 문맥 의존적 요청을 해석하지 못합니다.
2. 미세한 실패 진단의 부재: 생성된 가설이 관찰된 엔티티를 복구하는 데 실패할 때, 기존 방법들은 주로 최종 답변 집합의 유사성만을 평가합니다. 이들은 왜 가설이 실패했는지 진단하거나, 어떤 특정 논리 파편이 신뢰할 수 없는지 식별하거나, 타겟팅된 수정을 제공하는 메커니즘이 부족합니다. 결과적으로, 가설을 처음부터 다시 생성하지 않고도 올-정답(correct)과 오답(incorrect)인 가설 구성 요소를 구분하거나 KG 이웃 증거를 활용하여 가설을 정교화할 수 없습니다.

방법론: HypoAgent 프레임워크

저자들은 대화형 및 설명 가능한 가추적 가설 생성을 위해 설계된 에이전트 기반 프레임워크인 HypoAgent를 제안합니다. 이 시스템은 반복적인 추론 루프를 형성하는 세 가지 협력 에이전트를 통해 작동합니다:

1. 의도 인식 에이전트 (Intent Recognition Agent, IRA)

IRA는 사용자 발화를 구조화되고 실행 가능한 KG 조건으로 접지하는 역할을 담당합니다. 단일 턴 파서와 달리, IRA는 **이력을 인지(history-aware)**합니다. 이는 현재 사용자 발화($u_t$)와 함께 이전 가설, 해당 가설의 자연어 언어화, 인식된 조건, 실행 점수를 포함하는 상호작용 이력($D_{<t}$)을 함께 처리합니다.

• 기능: 모호하거나 비교적인 지시(예: "엔티티는 유지하되 관계는 변경해줘")를 구조화된 조건 집합($c_t$)으로 변환합니다.
• 조건 유형: 사용자의 의도를 relation(관계), entity(엔티티), relationnumber(관계 수), entitynumber(엔티티 수), pattern(패턴)의 다섯 가지 조건 유형으로 분해합니다.
• 출력: 후속 생성 단계를 안내하는 구조화된 조건 집합을 출력합니다.

2. 가설 생성 에이전트 (Hypothesis Generation Agent, HGA)

HGA는 인식된 조건을 바탕으로 1차 논리 가설을 생성하기 위해 경량화되어 훈련된 조건부 생성기($p_\theta$)를 호출합니다.

• 과정: 관찰된 엔티티 $O$와 조건 $c_t$가 주어지면, 생성기는 자기회귀(autoregressive) 과정을 통해 가설 $H_t$를 생성합니다.
• 평가: 가설을 KG 상에서 실행하여 그 답변 집합 $A_G(H_t)$를 얻습니다. 품질은 관찰된 집합 $O$에 대한 집합 기반 메트릭(Jaccard 유사도, Dice 계수, Overlap 계수)으로 측정됩니다.
• 결정: 점수가 만족스러우면 가설을 반환합니다. 그렇지 않으면 시스템은 근본 원인 분석 에이전트를 트리거합니다.

3. 근본 원인 분석 에이전트 (Root Cause Analysis Agent, RCAA)

RCAA는 전체 생성을 폐기하지 않고 실패를 진단하고 가설을 정교화합니다. 이는 두 가지 상호 보완적인 메커니즘을 통해 작동합니다:

• 가설 파편 진단 (Hypothesis Fragment Diagnosis): 가설을 실행 가능한 파편(예: 단일 관계 원자 또는 부분 결합)으로 분해합니다. 각 파편을 KG 상에서 실행하여 해당 파서의 답변 집합이 관찰값과 일치하는지 확인합니다. 유사도가 낮은 파편은 신뢰할 수 없는 것으로 표시되고, 유사도가 높은 파편는 보존됩니다.
• KG 이웃 탐색 (KG Neighborhood Probing): 에이전트는 관찰된 엔티티의 로컬 이웃을 탐색하여 이들을 공통적으로 연결하는 후보 관계, 엔티티 및 경로를 발견합니다. 이를 통해 초기 가설이 놓친 누락된 의미적 앵커나 대안 관계를 식별합니다.
• 정교화 전략: 이러한 분석을 바탕으로 RCAA는 다음 중 하나를 수행합니다:
  1. 약한 파편을 발견된 관계/경로로 교체함으로써 현재 가설을 **수리(Repair)**합니다.
  2. (다음 반복에서 생성기가 더 나은 가설 공간을 향하도록 유도하기 위해) 정교화된 제어 조건(예: 발견된 엔티티 앵커 추가)을 **합성(Synthesize)**합니다.

주요 기여

본 논문은 다음의 기여를 통해 대화형 가추적 추론의 과제를 식별하고 해결합니다:

1. 문제 식별: 저자들은 다회차 상호작용에서 진화하는 자연어 의도를 접지하는 것과, KG 추론에서 실패한 가설에 대해 미세한 근본 원인 분석을 수행하는 데 따르는 구체적인 어려움을 강조합니다.
2. HypoAgent 프레임워크: 의도 인식, 이력 인지형 제어 가능 생성, KG 기반 근본 원인 분석을 통합하는 에이전트 프레임워크를 소개합니다. 이를 통해 사용자는 자연어 피드백을 통해 가설을 반복적으로 정교화할 수 있습니다.
3. 실증적 검증: 상식 및 생물 의학 도메인을 아우르는 세 가지 KG 벤치마크(DBpedia50, PharmKG8k, BioKG)에 대한 광범-한 실험을 통해, HypoAgent가 무조건적, 단일 턴, 다회차 설정 모두에서 최첨단(SOTA) 의미적 유사성을 달 achieves함을 입증했습니다.

실험 결과

저자들은 CtrlHGen(제어 가능 생성 백본), AbductiveKGR, DARK를 포함한 베이스라인들과 HypoAgent를 비교 평가했습니다.

• 단일 턴 제어 가능 생성: HypoAgent 변형 모델들은 모든 데이터셋에서 의미적 유사도(Jaccard, Dice, Overlap) 측면에서 CtrlHGen을 일관되게 능가했습니다. 예를 들어, PharmKG8k에서 가장 우수한 변형 모델은 Jaccard 유사도를 63.3%에서 82.4%로 개선했습니다. 일부 데이터셋에서 엄격한 조건 준수 정확도에는 약간의 트레이드오프가 있었으나, 가설의 설명적 품질은 크게 향상되었습니다.
• 다회차 정교화: 다회차 설정에서 HypoAgent는 진화하는 의도를 추적하는 능력을 보여주었습니다. 근본 원인 분석(RCA) 모듈의 포함은 RCA가 없는 버전과 비교하여 의미적 유사도를 일관되게 향상시켜, 신뢰할 수 없는 파편을 식별하고 정교화를 유도하는 데 있어 RCA의 효과를 확인시켜 주었습니다.
• 무조건적 자기 개선: 명시적인 사용자 조건이 없는 설정에서 HypoAgent는 AbductiveKGR 및 DARK를 크게 능가했습니다. 시스템은 초기 가설 실패로부터 유용한 내부 조건을 성공적으로 추론하여 후속 정교화를 유도함으로써 자기 개선 능력을 입증했습니다.
• 절제 연구 (Ablation Studies): RCA 모듈을 제거하면 성능이 명확하게 하락했습니다. 또한, 연구를 통해 "가설 파편 진단"과 "KG 이웃 탐색"이 모두 고유하게 기여하며, 특히 파편 진단이 복잡한 가설에서 매우 중요하다는 것을 보여주었습니다.

의의 및 주장

본 논문은 HypoAgent가 KG 상의 가추적 추론을 더욱 대화형이고 사용자 친화적으로 만드는 중요한 진전임을 주장합니다. 정적인 단일 턴 제어를 넘어 다회차 에이전트 프레임워크로 이동함으로써, 시스템은 사용자가 자연어를 통해 가설을 협력적으로 정교화할 수 있도록 합니다.

저자들은 미세한 진단(fine-grained diagnosis) 수행 능력이 핵심적이라고 강조합니다. 실패한 가설을 완전한 손실로 취급하는 대신, HypoAgent는 특정 논리적 오류를 식별하고 이를 수리하기 위해 KG 구조적 증거를 활용합니다. 이러한 접근 방식은 생성된 가설의 품질을 높일 뿐만 아니라, 왜 가설이 조정되었는지를 설명함으로써 해석 가능성을 제공합니다. 이 연구는 임상 진단이나 과학적 발견과 같이 가설이 복잡한 관측값에 맞추기 위해 여러 차례의 조정이 필요한 실질적인 응용 분야에서 이러한 에이전트 기반의 반복적 정교화가 필수적임을 시사합니다.

논문은 프레임워크의 성능이 기초가 되는 KG의 품질과 커버리지에 의존하며, 로컬 이웃 신호에 대한 의존도가 희소한 그래프(sparse graphs)나 장거리 추론이 필요한 설명에는 불충분할 수 있다는 한계를 완곡하게 인정하며 마무리됩니다.