High Quality Embeddings for Horn Logic Reasoning

기술 요약: 호른 논리 추론을 위한 고품질 임베딩

문제 제기
신경망은 논리적 추론자들이 내린 선택을 순위 매김함으로써 논리적 추론을 강화하여, 답변을 찾는 과정을 더 효율적으로 만들 수 있습니다. 그러나 이 "뉴로심볼릭 (neurosymbolic)" 접근법의 효과는 논리적 명사의 수치적 표현인 임베딩의 품질에 크게 의존합니다. 이전 연구는 삼중항 손실 (triplet loss) 을 통해 임베딩을 학습하면 역방향 체인 (backward-chaining) 검색 효율을 향상시킬 수 있음을 보여주었지만, 개선 효과는 다양한 지식 베이스 (KB) 와 쿼리 간에 일관되지 않았습니다. 저자들은 이 분야의 진전을 위해서는 표현 (representation), 학습 전략, 제어 전략이라는 세 가지 하위 문제를 해결해야 한다고 가정합니다. 본 논문은 호른 논리에 더 유용한 임베딩을 학습하기 위해 특히 표현 (임베딩 모델) 을 개선하는 데 초점을 맞추어, 유도된 추론자의 전체 성능을 높이는 것을 목표로 합니다.

방법론
저자들은 논리적 원자 (atoms) 를 삼중항 손실로 학습하는 임베딩 모델 훈련 과정에 세 가지 구체적인 개선을 제안합니다. 목표는 통일 가능한 원자들을 벡터 공간에서 서로 가깝게, 그리고 통일 불가능한 원자들을 멀리 배치하는 것입니다.

1. 반복된 용어를 가진 원자 (RTAs) 생성:
   표준 균일 무작위 생성은 종종 loves(X, X)와 같이 반복된 용어를 가진 논리적 사실을 생성하지 못합니다. 이는 loves(X, Y)와 같이 서로 다른 용어를 가진 사실과 구별되는 고유한 의미적 특성을 지닙니다. 저자들은 아리터 (arity) 가 2 이상인 원자에서 이전 용어를 반복할 고정 확률 (15%) 을 도입하도록 앵커 생성 과정을 수정합니다. 이를 통해 모델은 반복된 용어의 특정 의미, 즉 반복되지 않은 용어보다 더 적은 수의 원자와만 통일되는 특성을 학습하게 됩니다.

2. 난이도 기반 균형 삼중항 생성:
   저자들은 앵커 원자에 대해 긍정 (통일 가능) 과 부정 (통일 불가능) 예제를 생성하는 구조화된 접근법을 도입하며, 이를 난이도에 따라 분류합니다.

   • 쉬움: 긍정의 경우 작은 구조적 수정 (예: 변수를 상수로 교체), 부정의 경우 큰 수정 (예: 술어 아리터 변경).
   • 어려움: 긍정의 경우 큰 구조적 수정, 부정의 경우 미묘한 수정 (예: 한 상수를 다른 상수로 변경). 이는 표면적으로는 유사해 보이지만 논리적으로 통일 불가능한 경우입니다.
   • 삼중항 구성: 훈련 데이터는 40% 의 쉬운 삼중항 ($\langle$앵커, 쉬운 긍정, 쉬운 부정$\rangle$), 50% 의 중간 난이도 삼중항 (쉬운/어려운 긍정과 부정의 혼합), 10% 의 어려운 삼중항 ($\langle$앵커, 어려운 긍정, 어려운 부정$\rangle$) 을 포함하도록 균형 있게 구성됩니다. 어려운 삼중항은 모델이 표면적으로 유사하지만 논리적으로 양립할 수 없는 원자들을 구별하도록 강제합니다.

3. 어려운 샘플에 대한 훈련:
   컴퓨터 비전의 선행 연구에 영감을 받아, 저자들은 모델이 주기적으로 "가장 어려운" 샘플, 즉 가장 높은 삼중항 손실을 가진 샘플들로 재훈련되는 전략을 구현합니다. 매 $n$ 에포크마다 모델을 검증한 후, 원래 합성 데이터셋 중 손실이 가장 높은 절반으로 구성된 하위 집합을 사용하여 훈련을 계속합니다. 이는 모델이 쿼리 해결에 가장 중요한 어려운 사례에 집중하도록 강제하여, 손실이 조기에 평탄화되는 것을 방지합니다.

주요 기여
본 논문은 세 가지 주요 기여를 합니다:

1. 세 가지 기술적 개선: 임베딩 모델을 강화하기 위한 반복된 용어 생성, 난이도 인식 삼중항 균형 조정, 그리고 어려운 샘플 주기적 훈련의 도입.
2. 하류 평가: 이러한 임베딩 개선이 역방향 체인 추론자를 안내하는 데 사용되는 하류 점수 모델의 효율성을 크게 향상시킨다는 포괄적인 평가.
3. 일반화성 분석: 다양한 지식 베이스에 걸친 임베딩 일관성을 조사하고, 총변동 (TV) 거리와 의미적 일치 (Semantic Match) 와 같은 지표를 분석하여 무엇이 임베딩의 견고함을 결정하는지 이해하려는 시도.

결과
저자들은 250, 375, 500 개의 명제로 구성된 다양한 크기의 합성 지식 베이스에서 세 가지 추론자 구성을 사용하여 접근법을 평가했습니다. 이는 표준 역방향 체인 추론자, 이전 임베딩 방법을 사용한 유도된 추론자, 그리고 새로운 임베딩을 사용한 유도된 추론자입니다.

• 검색 효율성: "새로운 임베딩" 접근법은 표준 추론자와 이전 임베딩 접근법 모두에 비해 추론 과정에서 탐색된 노드 수를 크게 줄였습니다. 500 개 명제 KB 의 경우, 평균 탐색 노드 수가 이전 임베딩의 약 848 만 개에서 새로운 임베딩의 약 609,466 개로 감소하여, 이전 시스템의 검색 공간이 약 7.18% 로 축소되었습니다.
• 절대적 연구 (Ablation Study): 250 개 명제 KB 에 대한 절대적 연구는 각 개선 사항의 영향을 분리했습니다:
  • 삼중항 난이도: 기준선 대비 평균 탐색 노드 수를 82.8% 감소.
  • 반복된 용어: 기준선 대비 평균 탐색 노드 수를 89.9% 감소.
  • 어려운 샘플: 기준선 대비 평균 탐색 노드 수를 66.8% 감소.
  • 결합: 모든 개선 사항을 적용한 경우 평균 76.2 개의 노드만 탐색하여, 기준선인 981.8 에 비해 크게 개선되었습니다.
• 일관성: 새로운 임베딩은 전반적으로 잘 작동했지만, 연구는 다양한 KB 간 성능 편차가 크다고 지적했습니다. TV 거리와 의미적 일치와 같은 지표가 일반화 성공을 단독으로 결정하지는 않으며, 표현 구조와 술어 다양성과 같은 다른 요소들이 역할을 한다는 것을 시사합니다.

의의 및 주장
본 논문은 뉴로심볼릭 AI 에서 "표현이 중요하다"고 주장합니다. 저자들은 심볼릭 원자에 대한 표현의 선택과 이러한 표현을 학습하는 과정이 논리적 추론의 효율성에 상당한 영향을 미친다고 논합니다. 특정 훈련 전략 (반복된 용어의 과다 샘플링, 난이도 균형 조정, 어려운 샘플에 집중) 이 논리적 쿼리 해결의 계산 비용을 극적으로 줄일 수 있음을 입증함으로써, 이 연구는 논리적 추론을 더 확장 가능하게 만드는 더 넓은 목표를 지지합니다. 저자들은 겸손하게도, 그들의 접근법이 성능을 향상시키지만 모든 지식 베이스에 걸친 임베딩의 일반화를 보장하는 요인을 완전히 설명하지는 못하며, 표현 구조와 다양성에 대한 추가 조사의 여지가 있다고 언급합니다.