Benchmarking Knowledge Editing using Logical Rules

기술 요약: 논리적 규칙을 이용한 지식 편집 벤치마킹

문제 정의
대규모 언어 모델(LLM)은 최신 지식을 필요로 하는 애플리케이션에 점점 더 많이 배치되고 있으나, 이러한 모델을 재학습시키는 것은 계산 비용 측면에서 매우 부담스럽습니다. 지식 편집(Knowledge Editing, KE) 기술은 전체 재학습 없이 특정 사실을 업데이트하기 위해 등장했습니다. 그러나 현재의 KE 벤치마크는 주로 모델이 직접적으로 편집된 단언(예: "대통령은 누구인가?")을 회상하는 능력을 평가하는 데 집중하고 있습니다. 이러한 벤치마크들은 모델이 상관관계가 있거나 함축된 지식(예: "대통령의 배우자는 누구인가?")과 논리적 일관성을 유지하는 능력을 간과하는 경향이 있습니다. 기존 방식들은 직접적인 사실을 주입하는 데는 성공할지라도, 편집된 내용의 논리적 결과가 모델의 추론 체인을 통해 전파되도록 하는 데는 실패하여 멀티홉(multi-hop) 질의에서 불일치를 초래합니다. 또한, 멀티홉 추론을 다루는 기존 벤치마크(MQuAKE 등)는 수동으로 큐레이션된 질문에 의존하므로, 다양한 도메인에 걸친 확장성과 적응성이 제한적입니다.

방법론
저자들은 단일 사실 편집으로부터 파생된 논리적 결과들을 처리하는 능력을 테스트함으로써 KE 방법론을 자동 평가하는 새로운 벤치마크 프레임워크를 제안합니다. 워크플로우는 다음 네 가지 주요 단계로 구성됩니다:

1. 지식 그래프 구축: 벤치마크 데이터셋(질문)에서 시작하여, 시스템은 spaCy를 사용하여 엔티티를 추출하고 DBpedia로부터 관련 트리플(triple)을 SPARQL로 검색하여 서브그래프($G$)를 구축합니다.
2. 논리적 규칙 마이닝: 시스템은 규칙 마이닝 시스템인 AMIE3를 사용하여 구축된 지식 그래프로부터 논리적 규칙($\Phi$)을 추출합니다. 이 규칙들은 $bornIn(X, Y) \land livedIn(X, Y) \Rightarrow citizen(X, Y)$와 같은 관계를 나타냅니다.
3. 테스트 케이스 생성: 마이닝된 규칙과 원래의 트리플을 사용하여, 대규모 언어 모델(예: GPT-4)이 멀티홉 질의-응답(QA) 쌍을 생성하도록 프롬프트를 작성합니다. 이 질문들은 기초 단언(예: 시민권 변경)에 대한 편집이 논리적 규칙을 통해 종속된 사실(예: 배우자의 국적)로 올바르게 전파되는지 검증하도록 설계되었습니다.
4. 평가: 본 벤치마크는 편집된 모델($L^*$)을 두 가지 기준에 따라 평가합니다:
   • 편집 성공(Edit Success): 모델이 직접적인 질의에 올로 답변할 확률.
   • 논리적 일관성(Logical Consistency): 생성된 멀티홉 질문에 올바르게 답변하는 능력으로, Exact Match(EM) 및 F1 점수로 측정됩니다.

이 프레임워크는 MLaKE(다국어, 싱글홉 및 멀티홉)와 MQuAKE(시계열 지식 업데이트)라는 두 가지 데이터셋에서 테스트되었습니다. 평가는 GPT-2 변형 모델을 베이스 모델로 사용하여 파라미터 기반 편집 방법인 ROME(Rank-One Model Editing), FT(Constrained Fine-tuning), KN(Knowledge Neurons)에 초점을 맞추어 진행되었습니다.

주요 기여

• 새로운 벤치마크 접근 방식: 본 논문은 단순한 사실 회상을 넘어 논리적 규칙에서 유도된 상관 지식과 함께 KE 평가를 확장하는 확장 가능하고 자동화된 벤치마크를 도입합니다.
• 자동화된 테스트 케이스 생성: 수동 벤치마크와 달리, 이 접근 방식은 AMIE3와 LLM을 사용하여 도메인 적응형 멀티홉 질문을 생성함으로써 노동 집약적인 큐레이션 없이도 넓은 커버리지를 보장합니다.
• 포괄적인 평가: 저자들은 오픈 소스 프레임워크를 공개하고, 직접적인 지식과 함축된 지식 모두에 대해 ROME, FT, KN을 비교하는 광범한 실험을 수행합니다.

결과
실험 결과, 직접 편집과 논리적 일관성 사이에 상당한 성능 격차가 있음이 드러났습니다:

• ROME 및 FT: 이 방법들은 직접적인 단언을 삽입하는 데는 높은 성공률을 보였으나, 논리적 일관성에서는 상당한 실패를 보였습니다. 예를 들어, ROME은 직접적인 지식에 비해 상관 지식에 대해 평가되었을 때 성능이 최대 24%까지 하락했습니다. FT의 결과는 더욱 두드러졌는데, 상관 질의에 대해 거의 제로에 가까운 성능을 보여, 이러한 방법들이 추론 체인을 통해 편집을 전파하는 데 어려움을 겪고 있음을 시사했습니다.
• Knowledge Neurons (KN): 반면, KN은 상관 지식으로 일반화하는 데 상대적으로 더 나은 성능을 보였으며, 다른 방법들에 비해 멀티홉 질문에서 더 높은 F1 및 EM 점수를 기록했습니다.
• 모델 민감도: 결과는 모델 크기(gpt2-medium, large, xl)에 따라 다양했으나, ROME과 FT의 낮은 논리적 전파 경향은 일관되게 나타났습니다.

의의 및 주장
본 논문은 사실들이 상호 의존적인 실제 환경에서 현재의 지식 편집(KE) 방식이 불충분하다고 주장합니다. 저자들은 기존 방식들이 편집된 단언을 정확하게 회상할 수는 있지만, 함축된 지식을 주입하는 데 자주 실패하여 논리적 불일치를 초과한다고 주장합니다. 제안된 벤치마크는 이러한 결정적인 한계를 부각하며, 편집이 연결된 사실들 사이에서 일관되게 전파되도록 보장하기 위해서는 의미론을 인식하는 평가 프레임워크가 필요함을 입증합니다. 저자들은 자신들의 연구가 추론 체인과 관련하여 현재의 KE 방법론의 약점을 노출하고, 향후 연구에서 견고성과 일관성을 개선할 수 있는 도구를 제공한다고 결론짓습니다. 또한 향후 연구에서 이러한 평가를 새로운 LLM(예: LLaMA, Mistral)과 더 큰 규모의 지식 그래프인 Wikidata로 확장해야 한다고 제안합니다.