기술 요약: 외부 서브그래프 생성(SGR)을 통한 LLM의 단계별 추론 능력 향상

문제 정의

대규모 언어 모델(LLM)은 자연어 생성 및 퓨샷 학습(few-shot learning)에서 상당한 능력을 입증했습니다. 그러나 복잡하고 지식 집약적인 다단계 추론 작업에 적용될 때 다음과 같은 결정적인 한계에 직면합니다:

1. 사실적 근거 부족: 출력이 검증 가능한 외부 사실보다는 암묵적인 파라미터 지식(parametric knowledge)에 의존할 수 있습니다.
2. 논리적 불일치: 추론 과정이 결함이 있거나 모순될 수 있습니다.
3. 해석 가능성 저하: 내부 추론 단계가 종종 암묵적이어서, 증거를 추적하거나 생성된 답변의 타당성을 검증하기 어렵습니다.

기존의 검색 증강 생성(RAG) 방식은 종종 비구조화된 텍스트 구절이나 느슨하게 연결된 사실에 의존하며, 이는 다중 홉(multi-hop) 추론에 필요한 엄격한 관계적 의존성을 보존하지 못합니다. 지식 그래프(KG)는 명시적 추론을 위한 구조화된 트리플(triples)을 제공하지만, LLM을 가이드하기 위해 쿼리와 관련 있는 압축된 그래프 증거를 동적으로 구축하는 것은 여전히 해결해야 할 과제로 남아 있습니다.

방법론: SGR 프레임워크

본 논문은 쿼리와 관련된 서브그래프를 동적으로 생성함으로써 LLM을 외부 지식 그래프와 통합하는 SGR (Stepwise Reasoning Enhancement) 프레임워크를 제안합니다. 이 프레임워크는 네 가지 주요 단계를 통해 작동합니다:

1. 구조화된 서브그래프 생성

원시 텍스트를 검색하는 대신, SGR은 입력 질문 $q$를 다음과 같은 구조화된 스키마 $S_q = \{V_q, R_q, C_q\}$로 변환합니다:

• $V_q$: 질문에서 추출된 연결된 엔티티(entities).
• $R_q$: 이러한 엔티티들을 연결하는 후보 관계(relations).
• $C_q$: 제약 조건 (예: 시간적, 수치적 또는 유형 제한).

이 스키마를 사용하여 시스템은 외부 KG(Neo4j에 저장됨)로부터 압축된 서브그래프 $G_q$를 추출합니다. 검색 과정은 시드 엔티티로부터 후보 관계를 따라 확장하며, 관련 없는 경로를 필터링하기 위해 제약 조건을 엄격히 적용합니다. 그 결과, 쿼리와 관련된 엔티티-관계 경로만을 포함하는 밀도 높고 증거가 풍부한 서브그래프가 생성됩니다.

2. 단계별 추론 강화

LLM은 $G_q$에 있는 명시적 증거를 바탕으로 단계별로 추론하도록 유도됩니다. 모델은 파라미터 지식으로부터 직접 답변을 생성하는 것이 아니라, 서브그래프를 탐색하며 각 단계에서 증거를 선택하여 해석 가능한 추론 궤적을 구축합니다. 지원되지 않는 단계는 필터링되거나 낮은 신뢰도 점수가 부여됩니다.

3. 직접 추론 강화 (Cypher 기반)

강력한 사실적 근거를 제공하기 위해, SGR은 생성된 스키마 $S_q$를 "Cypher LLM" 모듈을 사용하여 실행 가능한 Cypher 쿼리로 변환합니다.

• 쿼리는 Neo4j에서 실행되어 그래프에서 직접 후보 답변 $A_c$를 추출합니다.
• 이를 통해 자연어 추론을 기호적 연산으로 변환하여 탐색 공간을 좁히고, 답변이 그래프 구조에 기반하도록 보장합니다.
• 이후 답변 검증(Answer Validation) 단계가 뒤따르며, 그래프 일관성(reachability in $G_q$)과 의미적 자신감(질문과의 호환성)을 기준으로 후보들을 점수화합니다.

4. 협업 추론 통합

강건성을 높이기 위해, SGR은 여러 추론 경로(Cypher 기반 경로와 LLM 생성 경로 모두)로부터의 답변을 집계합니다.

• 각 경로 $p_i$에 대해, 모델 자신감($\rho_i$)과 그래프 일관성($\eta_i$)의 균형을 맞추어 신뢰도 점수 $\omega_i$를 계산합니다.
• 최종 답변 $\hat{a}$는 모든 경로에 걸친 지지도를 집계하여 선택되며, 여러 개의 고신뢰도, 그래프 일관성 궤적에 의해 지지되는 답변을 우선시합니다. 이 메커니즘은 노이즈가 있는 단일 경로 예측을 억제합니다.

주요 기여

1. 프레임워크 제안: 지식 집약적인 질의응답에서 LLM을 가이드하기 위해 외부 서브그래프를 동적으로 생성하는 단계별 추론 프레임워크인 SGR을 도입했습니다.
2. 스키마 가이드 전략: 고립된 텍스트 검색을 넘어, 압축되고 구조화된 증거를 검색하기 위해 엔티티, 관계 및 제약 조건을 추출하는 새로운 방법을 제시했습니다.
3. 협업 메커니즘: Cypher 기반의 직접 추론과 LLM 기반의 추론을 결합하여, 모델 자신감과 그래프 일관성 모두를 바탕으로 결과를 검증하고 집계하는 설계를 구현했습니다.
4. 실증적 검증: 표준 프롬프팅 및 기존 지식 강화 베이스라인 모델보다 성능이 향상됨을 종합적인 실험을 통해 입증했습니다.

실험 결과

본 프레임워크는 CWQ, WebQSP, GrailQA, KQA Pro의 네 가지 벤치마크 데이터셋에서 평가되었습니다. 연구에서는 세 가지 변체(SGR/Cypher LLM, SGR/ChatGPT, SGR/GPT-4)를 표준 프롬프팅(IO, CoT) 및 StructGPT, Tree-of-Graphs와 같은 베이스라인과 비교했습니다.

• 성능 향상: SGR은 표준 프롬프팅 방식보다 일관되게 우수한 성능을 보였습니다. 예를 들어, CWQ에서 SGR/ChatGPT는 Hits@1을 0.376(IO Prompt)에서 0.578로, 정확도를 0.526으로 개선했습니다.
• 최첨단(SOTA) 비교: WebQSP에서 SGR/GPT-4는 0.826 Hits@1 및 0.808 정확도를 달성하여, 최고의 Hits@1 결과와 일치했으며 테스트된 모든 방법 중 가장 높은 정확도를 기록했습니다. GrailQA에서는 0.756 Hits@1 및 0.703 정확도에 도달했습니다.
• 절제 연구(Ablation Studies): 스키마 가이드나 Neo4j 검색 중 하나라도 제거하면 성능이 크게 하락했습니다. 예를 들어, CWQ에서 스키마 프롬프트를 제거하면 SGR/ChatGPT의 Hits@1이 0.578에서 0.400으로 떨어졌습니다. 이는 스키마 가이드와 외부 그래프 검색 모두가 프레임워크의 효과에 필수적임을 확인시켜 줍니다.

의의 및 주장

본 논문은 SGR이 명시적이고 검증 가능한 관계적 증거를 제공함으로써 LLM 추론의 "블랙박스" 문제를 해결한다고 주장합니다. 동적으로 서브그래프를 생성함으로써, 이 프레임워크는 다음을 달성합니다:

• 파라미터 메모리가 아닌 구조화된 트리플에 추론을 고정함으로써 **사실적 근거(factual grounding)**를 개선합니다.
• 추론 경로를 그래프를 통해 추적 가능하게 만듦으로써 **해석 가능성(interpretability)**을 높입니다.
• 협업 통합을 통해 **강건성(robustness)**을 높여, 근거 없는 답변이나 환각(hallucination) 답변의 위험을 줄입니다.

저자들은 동적으로 생성된 외부 서브그래프가 복잡한 다중 홉 시나리오에서 LLM 기반 추론의 정확성, 강건성 및 투명성을 향상시키는 실행 가능하고 효과적인 메커니즘이라고 결론짓습니다.

한계점

본 논문은 다음과 같은 몇 가지 한계를 인정합니다:

• KG 품질에 대한 의존성: 성능은 외부 지식 그래프의 커버리지와 정확도에 달려 있습니다. 누락되거나 노이즈가 있는 사실은 잘못된 추론으로 이어질 수 있습니다.
• 추출 오류: 엔티티 연결, 관계 식별 또는 스키마 구성에서의 오류는 서브그래프 검색 및 최종 답변으로 전파될 수 있습니다.
• 서브그래프 크기: 최적의 서브그래프 크기를 결정하는 것은 어려운 과제입니다. 작은 서브그래프는 증거를 놓칠 수 있고, 큰 서브그래프는 노이즈를 유발할 수 있습니다.
• 계산 비용: 스키마 생성, Cypher 쿼리 실행, 경로 통합 등의 추가 단계로 인해 직접 프롬프팅에 비해 추론 비용이 증가합니다.